Definisi
Kontrol keamanan yang menginspeksi dan mengatur apa yang dilakukan agen AI otonom selama berjalan, di dua saluran: saluran intelijen (prompt agen-ke-model dan respons) dan saluran eksekusi alat (invokasi alat agen dan panggilan sistem). Mengatur satu saluran tetapi bukan yang lain membuat agen tidak terkontrol.
Mengapa penting
Agen AI beroperasi secara otonom dengan akses ke beberapa sistem; kontrol runtime adalah satu-satunya pertahanan terhadap agen nakal, model yang dikompromikan, atau serangan injeksi selama eksekusi.