Regulasi  ·  2026-05-06

Amerika Serikat Menormalisasi Pengujian Keamanan AI Pra-Deployment dengan Frontier Labs

RegulasiHigh dampakUnited States
Pusat NIST untuk Standar dan Inovasi AI (CAISI) mengumumkan perjanjian mengikat dengan Google DeepMind, Microsoft, dan xAI pada 5 Mei 2026, menetapkan evaluasi pra-deployment yang dipimpin pemerintah dan penelitian berkelanjutan pada model AI frontier. Perjanjian-perjanjian tersebut, yang juga merundingkan ulang kemitraan yang ada dengan Anthropic dan OpenAI, memungkinkan CAISI untuk menilai model sebelum rilis publik dan melakukan pengujian pasca-deployment, termasuk di lingkungan terklasifikasi. CAISI telah menyelesaikan lebih dari 40 evaluasi semacam itu hingga saat ini, termasuk model canggih yang belum dirilis dengan safeguard yang dihapus untuk mengevaluasi risiko keamanan nasional.
Ini menandai pergeseran substantif dalam kebijakan AI Amerika Serikat, bergerak dari komitmen sukarela menuju pengawasan operasional pada tahap pra-deployment. Waktu ini mengikuti kekhawatiran yang meningkat tentang kemampuan cyber ofensif dalam model seperti Mythos milik Anthropic dan mencerminkan pivoting administrasi Trump dari deregulasi menuju evaluasi security-first setelah menyadari bahwa AI telah melampaui ambang keamanan nasional. Bagi klien konsultan, ini menandakan bahwa deployment model frontier akan semakin memerlukan koordinasi pemerintah, dan perusahaan harus mengantisipasi ekspektasi pra-persetujuan serupa untuk aplikasi AI berisiko tinggi, khususnya di sektor infrastruktur kritis dan pertahanan.
Tinjau roadmap pengadaan dan deployment AI untuk memperhitungkan potensi persyaratan evaluasi pemerintah. Bagi klien yang membangun atau melakukan deployment model frontier, tetapkan protokol engagement dengan CAISI melalui TRAINS Taskforce. Bagi pengguna AI enterprise, pantau bagaimana perjanjian-perjanjian ini mempengaruhi timeline rilis model dari vendor utama dan nilai apakah sistem AI berisiko tinggi internal harus mengadopsi kerangka kerja pengujian pra-deployment serupa.
Sumber
NISTPoliticoAxios
Lihat di umpan langsung Jelajahi temuan keamanan dan tata kelola AI terkait — diperbarui setiap pagi.
Buka umpan →