Definisi
Dua kategori risiko AI yang berbeda dalam cara mereka ditangani. Penjagaan penyalahgunaan mencegah aktor jahat menggunakan AI untuk berbuat merugikan (misalnya menghasilkan malware atau konten ekstremis) — ini terus meningkat. Keselamatan kehilangan kontrol menangani risiko bahwa sistem AI mengejar tujuan atau mengambil tindakan yang tidak dimaksudkan oleh operatornya — risiko ini terus meningkat. Mereka memerlukan pendekatan teknis dan tata kelola yang sama sekali berbeda.
Mengapa penting
Dewan yang menyamakan 'keselamatan AI' semata-mata dengan penyaringan konten melewatkan risiko yang berkembang lebih cepat: agen AI yang bertindak dengan cara yang tidak disahkan manusia, tidak mudah dijelaskan, atau tidak dapat dimatikan. Kenaikan 51% dalam indikator risiko kehilangan kontrol selama tiga kuartal memerlukan jalur tata kelola tersendiri.