Definisi
Praktik memiliki tim khusus — internal atau eksternal — yang mencoba membuat sistem AI berperilaku buruk: menghasilkan konten berbahaya, membocorkan data pribadi, dimanipulasi, atau gagal dalam cara yang kritis untuk keselamatan. Ini mencerminkan praktik keamanan siber dari ethical hacking tetapi secara khusus disesuaikan untuk sistem AI.
Mengapa penting
Pengujian perangkat lunak standar tidak menangkap mode kegagalan khusus AI. Red-teaming sebelum penerapan adalah cara utama organisasi menemukan bagaimana AI mereka dapat disalahgunakan, dan regulator semakin mengharapkan bukti bahwa hal itu telah dilakukan.