Penjelasan teknis
Audit menunjukkan prompt injection hadir dalam 73% dari deployment AI produksi; injeksi tidak langsung (data-sourced) kini menyumbang >80% dari documented enterprise attack attempts. OpenAI telah secara terbuka mengakui masalah ini tidak mungkin sepenuhnya dieliminasi.
Vektor serangan
Manipulasi prompt langsung dan injeksi tidak langsung melalui dokumen beracun, halaman web, dan keluaran tool yang dikonsumsi sebagai data terpercaya oleh agent.
Sistem yang terdampak
Semua aplikasi dan agent berbasis LLM; sangat kritis untuk agentic AI dengan akses tool yang luas.
Mitigasi
Terapkan batasan instruksi/data; sandbox invokasi tool; terapkan least-privilege ke scope tool; monitor untuk anomali perilaku; red-team secara berkelanjutan.