Apa yang terjadi
CISA, NSA, ASD ACSC Australia, Canadian Centre for Cyber Security, NZ NCSC, dan UK NCSC menerbitkan panduan bersama pada 1 Mei 2026, berjudul 'Careful Adoption of Agentic AI Services,' menguraikan 23 risiko berbeda di lima kelas: privilege, design and configuration, behavioral, structural, dan accountability. Panduan ini menekankan bahwa sistem agentic AI berbeda dari GenAI tradisional dengan secara otomatis melakukan penalaran, membuat keputusan, dan mengambil tindakan menggunakan alat terhubung, sistem memori, dan sumber data eksternal.
Mengapa penting
Ini adalah panduan keamanan multi-pemerintah terkoordinasi pertama yang secara khusus mengatasi sistem agentic AI, menggeser risiko autonomous-agent dari masalah vendor yang muncul ke klasifikasi infrastruktur nasional yang kritis. Panduan ini memperingatkan bahwa agen AI yang overprivileged dapat menyetujui pembayaran, memodifikasi kontrak, memanipulasi catatan, menghapus log, dan mengekstraksi informasi sensitif sambil tampak sah dalam jejak audit. Organisasi yang mengintegrasikan AI ke dalam operational technology, security operations, atau enterprise automation menghadapi kategori baru tantangan cyber dan governance.
Tindakan yang diperlukan
Organisasi harus menerapkan deployment AI bertahap, permission terbatas, persetujuan human-in-the-loop untuk tindakan berisiko tinggi, monitoring dan auditing berkelanjutan, logging kuat, lingkungan tersegmentasi, threat modeling yang robust, dan implementasi secure-by-design. Panduan ini merekomendasikan perlakuan keamanan AI sebagai tertanam dalam kerangka cybersecurity yang ada daripada disiplin mandiri.