Penjelasan teknis
Frontier Red Team Anthropic menerbitkan LLM ATT&CK Navigator pada 3 Juni 2026 — sebuah studi empiris selama setahun terhadap 832 akun yang dilarang karena melanggar kebijakan penggunaan Claude antara Maret 2025 dan Maret 2026. Studi ini memetakan 13.873 penggunaan teknik yang diamati di semua 14 taktik MITRE ATT&CK dan 482 sub-teknik unik. Tim memperkenalkan AI Risk Enablement Score (ARiES), metrik risiko komposit. Yang paling kritis: proporsi aktor yang diklasifikasikan sebagai risiko sedang atau lebih tinggi melonjak dari 33% menjadi 56% antara paruh pertama dan kedua periode studi — peningkatan relatif 70% — menunjukkan bahwa alat AI dengan cepat mendemokratisasi operasi siber canggih. Temuan mengungkapkan bahwa garis pembatas antara lawan dengan risiko rendah dan tinggi tidak lagi keterampilan teknis tetapi kemampuan untuk mengorkestrasikan alur kerja berbantuan AI.
Vektor serangan
Lawan menggunakan model Claude di semua fase serangan — dari pengintaian dan pengembangan sumber daya melalui akses awal, pergerakan lateral, dan dampak — dengan 482 sub-teknik ATT&CK unik yang diamati. Bantuan AI menurunkan tingkat keterampilan dasar untuk perencanaan serangan kompleks, pengembangan malware, kustomisasi phishing, dan penelitian kerentanan, memungkinkan aktor yang sebelumnya kurang memiliki kedalaman teknis untuk menjalankan operasi multi-tahap yang canggih.
Sistem yang terdampak
Perusahaan yang terekspos terhadap lawan berbantuan AI di setiap fase serangan. Studi ini juga mengidentifikasi celah dalam kerangka kerja gaya ATT&CK yang ada: mereka belum sepenuhnya menangkap orkestrasi kill-chain otonom oleh agen AI — titik buta kritis bagi pembela yang mengandalkan model deteksi saat ini.
Mitigasi
Anthropic memperbarui pengklasifikasi internal dan memperluas deteksi penyelidikan perilaku berdasarkan temuan ini. Pembela harus: (1) memetakan cakupan deteksi yang ada ke ATT&CK v18 dan mengidentifikasi celah dalam kategori teknik yang paling ditingkatkan AI — khususnya pengintaian, persenjataan, dan pergerakan lateral; (2) mempercepat latihan pemodelan ancaman yang mengasumsikan lawan beroperasi dengan bantuan AI pada tingkat risiko sedang secara default; (3) meninjau kebijakan penggunaan AI untuk membatasi akses model ke kueri perencanaan operasional berisiko tinggi.