Definisi
Serangan di mana kerentanan dalam AI SDK atau perpustakaan klien memungkinkan penyerang untuk mengintersep, memodifikasi, atau mengganti model pembelajaran mesin selama pengembangan atau penyebaran. Penyerang dapat menyuntikkan kode berbahaya ke dalam model sebelum mencapai produksi, memastikan model yang terkontaminasi dieksekusi di lingkungan korban.
Mengapa penting
SDK diasumsikan sebagai infrastruktur terpercaya, namun jarang diaudit oleh tim keamanan. Model yang terkontaminasi yang diunggah melalui SDK yang dikompromikan mencapai produksi dengan tanda tangan digital pengembang yang sah, membuat deteksi hampir tidak mungkin dan mempengaruhi semua pengguna hilir dari model tersebut.