Definisi
Serangan di mana pelaku jahat dengan sengaja merusak data yang digunakan untuk melatih atau memperbarui model AI—atau menyuntikkan konten berbahaya ke dalam basis pengetahuan yang digunakan model saat runtime. Tujuannya adalah membuat model berperilaku tidak benar, menghasilkan output yang bias, atau membuat pintu belakang tersembunyi yang dapat dipicu kemudian.
Mengapa penting
Data pelatihan yang terkontaminasi tidak terlihat oleh pengguna akhir dan dapat bertahan melalui pembaruan produk, artinya model yang dikompromikan dapat memberikan jawaban yang sedikit salah atau berbahaya lama setelah deployment. Serangan rantai pasokan yang meracuni paket AI (seperti worm Shai-Hulud/Miasma) menunjukkan bahwa ini bukan lagi sekadar hipotesis.