Apa yang terjadi
Badan Keamanan Siber dan Infrastruktur AS (CISA), dalam kolaborasi dengan Direktorat Sinyal Australia (ASD), Pusat Keamanan Siber Kanada, Pusat Keamanan Siber Nasional Selandia Baru, dan Pusat Keamanan Siber Nasional Inggris (NCSC), menerbitkan penasihat bersama yang menguraikan pedoman desain, pengembangan, dan penyebaran untuk sistem agentic AI. Penasihat ini mewajibkan kepatuhan ketat terhadap prinsip least-privilege, pemantauan dan audit berkelanjutan, kontrol human-in-the-loop untuk tugas-tugas non-sensitif, praktik pengembangan yang aman sesuai dengan fundamentals DevSecOps, dan pengujian respons insiden secara berkala.
Mengapa penting
Ini adalah pedoman terkoordinasi multi-negara pertama yang secara khusus menargetkan keamanan agentic AI. Penasihat ini secara eksplisit mengatasi prompt injection, tool misuse, privilege creep, identity spoofing, dan agent impersonation—vektor serangan yang model keamanan aplikasi tradisional tidak dirancang untuk menangani. Penekanan CISA pada least privilege untuk agen (bukan hanya pengguna) dan audit berkelanjutan mencerminkan pengakuan yang berkembang bahwa agen AI beroperasi pada kecepatan mesin di seluruh sistem terdistribusi, yang membuatnya sulit diamankan dengan batasan kepercayaan statis. Organisasi yang menyebarkan agen tanpa menerapkan kontrol ini berisiko memberikan penyerang jejak yang persisten dan otomatis dengan izin yang ditingkatkan.
Tindakan yang diperlukan
CISOs harus melakukan inventaris semua agen AI yang disebarkan, mendokumentasikan data, alat, dan sistem apa yang dapat diakses oleh setiap agen. Terapkan kebijakan least-privilege yang membatasi izin agen ke minimum yang diperlukan untuk setiap tugas. Tetapkan pemantauan berkelanjutan untuk menandai perilaku agen yang menipu, panggilan API yang tidak biasa, atau scope creep. Untuk agen dengan kemampuan tool-use (misalnya, server MCP, tools LangChain), terapkan persetujuan manusia untuk tindakan yang memodifikasi infrastruktur, mengakses data sensitif, atau mengeksekusi kode. Tinjau dan uji rencana respons insiden khusus untuk skenario kompromi agentic AI.