Apa yang terjadi
Administrasi Trump sedang mengeksplorasi pengujian keselamatan pra-rilis wajib untuk model AI canggih, serupa dengan proses persetujuan obat FDA, setelah Wakil Presiden JD Vance dilaporkan 'terkejut' dengan kemampuan model Mythos milik Anthropic untuk secara otonom menemukan kerentanan perangkat lunak. Direktur Dewan Ekonomi Nasional Kevin Hassett menyatakan tujuannya adalah memastikan sistem AI 'dirilis ke publik setelah terbukti aman,' dengan kekhawatiran khusus tentang model yang menargetkan infrastruktur kritis yang dikelola pemerintah lokal yang kekurangan alat gangguan.
Mengapa penting
Ini merepresentasikan pembalikan kebijakan yang signifikan bagi administrasi yang sebelumnya menghindari menghubungkan 'keselamatan' dan 'AI' dalam kalimat yang sama, menurut kelompok advokasi Encode. Pergeseran dari mempromosikan inovasi AI tanpa kendala menjadi mempertimbangkan persyaratan pra-rilis yang mengikat memengaruhi garis waktu penyebaran model, biaya kepatuhan, dan lanskap kompetitif untuk laboratorium frontier. Fokus pada kerentanan infrastruktur pemerintah lokal relevan secara operasional karena mengakui pengembangan eksploit berbasis AI dapat memampatkan waktu-ke-eksploitasi menuju nol untuk target yang kurang berresursi.
Tindakan yang diperlukan
Pantau pengumuman Gedung Putih untuk detail tentang kerangka pengujian yang diusulkan, termasuk kemampuan model mana yang memicu tinjauan, siapa yang melakukan evaluasi, garis waktu, dan apakah rezim hanya berlaku untuk model yang dikembangkan AS atau juga mencakup sistem asing yang diterapkan. Evaluasi apakah kasus penggunaan AI organisasi Anda melibatkan infrastruktur kritis atau penelitian kerentanan otonom, dan siapkan bukti kontrol keselamatan, pemantauan, dan tata kelola manusia dalam loop jika pertanyaan regulasi mengikuti.