Definisi
Sebuah penemuan yang telah terbukti secara matematis oleh NIST bahwa tidak ada set aturan keselamatan yang terbatas yang diterapkan pada sistem AI dapat memblokir setiap kemungkinan input atau output yang merugikan—akan selalu ada beberapa kasus tepi yang dapat digunakan penyerang untuk melewatinya. Ini berarti pengaman keselamatan AI harus diperlakukan sebagai pertahanan yang terus diperbarui, bukan perbaikan satu kali.
Mengapa penting
Dewan dan regulator kadang-kadang berasumsi bahwa setelah sistem AI lulus evaluasi keselamatan, sistem tersebut secara permanen aman. Bukti NIST menunjukkan bahwa asumsi tersebut salah: keselamatan adalah proses berkelanjutan yang memerlukan pemantauan berkelanjutan, red-teaming, dan pembaruan—bukan sertifikasi yang tetap berlaku tanpa batas waktu.