Apa yang terjadi
OWASP merilis Top 10 pertama untuk Aplikasi Agentic, dikembangkan oleh 100+ ahli industri. Kerangka kerja ini mengidentifikasi risiko kritis termasuk Agent Goal Hijacking, Rogue Agents, Tool Misuse, Privilege Misuse, dan Human-Agent Trust Exploitation, menetapkan prinsip 'Least Agency'.
Mengapa penting
Ini adalah standar keamanan aplikasi definitif untuk agen AI otonom, melengkapi OWASP LLM Top 10 yang sudah ada. Pemisahan risiko agentic dari GenAI mencerminkan permukaan serangan mereka yang fundamentally berbeda—agen bertindak, mereka tidak hanya merespons.
Tindakan yang diperlukan
Tim pengembangan dan keamanan harus mengaudit penerapan agen AI yang ada terhadap semua 10 kategori risiko. Implementasikan prinsip 'Least Agency': perlakukan otonomi sebagai fitur yang harus diperoleh, bukan sebagai default. Perbarui model ancaman dan pengujian keamanan untuk mencakup vektor spesifik agentic.