Apa yang terjadi
Microsoft merilis dua alat open-source pada 20 Mei 2026, dirancang untuk mengoperasionalisasi keamanan AI agent sebagai disiplin teknik berkelanjutan. RAMPART adalah kerangka kerja pengujian yang dibangun di atas PyRIT yang mengubah temuan red-team dan insiden AI menjadi tes keamanan yang dapat diulang dan berjalan dalam pipeline CI/CD, dengan cakupan matang untuk serangan cross-prompt injection di mana agent memproses konten yang berpotensi tercemar dari dokumen, email, atau sumber data lainnya. Clarity adalah alat tinjauan desain terstruktur yang berjalan sebagai aplikasi desktop, antarmuka web, atau tertanam dalam agent pengkodean, mendorong pengembang untuk memeriksa asumsi tentang perilaku agent, izin, akses alat, dan batas kepercayaan sebelum implementasi dimulai. Kedua alat tersedia di GitHub dan dirancang untuk menggeser keamanan dari checkpoint periodik ke proses berkelanjutan.
Mengapa penting
Sistem AI agent kini mengambil data, mengakses email, menulis kode, dan menggunakan alat yang terhubung — memperkenalkan permukaan serangan baru (injeksi prompt, penggunaan alat yang tidak aman, eskalasi hak istimewa) yang keamanan aplikasi tradisional tidak dirancang untuk mengatasi. Rilis Microsoft adalah kerangka kerja open-source pertama dari lab Tier 1 yang bertujuan untuk menanamkan pengujian keamanan langsung ke dalam siklus hidup pengembangan perangkat lunak untuk AI agent, mengatasi kesenjangan di mana sebagian besar pekerjaan keamanan saat ini tetap bersifat filosofis atau berorientasi pada kerangka kerja daripada dapat ditindaklanjuti secara operasional.
Tindakan yang diperlukan
Pimpinan teknik yang membangun sistem agent harus mengevaluasi RAMPART untuk integrasi ke dalam pipeline CI/CD yang ada, memprioritaskan cakupan cross-prompt injection; CISO harus menilai apakah temuan red-team AI internal dapat dikodekan sebagai tes RAMPART untuk mencegah regresi; tim tata kelola harus meninjau bagaimana proses tinjauan desain terstruktur Clarity dibandingkan dengan checkpoint tinjauan risiko AI yang ada.