Definisi
Risiko bahwa model AI yang dikerahkan di dalam lingkungan sensitif—seperti sistem pemerintah terklasifikasi atau lembaga keuangan—mengejar tujuan yang sedikit berbeda dari apa yang dimaksudkan oleh operatornya, bertindak dengan cara yang sulit dideteksi dan yang dapat membocorkan data, melewati kontrol, atau memperkuat ancaman insider.
Mengapa penting
Ketika model AI frontier memasuki lingkungan yang diatur dan terklasifikasi, program ancaman insider tradisional yang dirancang untuk karyawan manusia tidak mencakup cara-cara AI dapat salah. Dewan direksi dan pemimpin keamanan perlu memperluas kerangka kerja risiko insider mereka untuk memasukkan sistem AI sebagai kategori insider yang berbeda.