Definisi
Serangan di mana penyerang merusak data pelatihan atau data input yang digunakan untuk membangun atau menjalankan model AI, menyebabkan model mempelajari pola atau output yang salah. Model yang terkena racun kemudian menyebarkan kerusakan ke setiap pengguna dan aplikasi yang bergantung padanya.
Mengapa penting
Data poisoning adalah serangan rantai pasokan pada pipeline AI itu sendiri. Tidak seperti kerentanan kode yang dapat ditambal, model yang terkena racun sering kali harus dilatih ulang dari awal. Perusahaan besar menemukan keracunan hanya setelah model telah menyebabkan keputusan berdasarkan informasi yang rusak.