Google Menggagalkan Exploit Zero-Day yang Dikembangkan AI Pertama Kali Dikonfirmasi—Bypass 2FA Dikembangkan oleh Sindikat Kejahatan Siber

Pada 11 Mei, Threat Intelligence Group (GTIG) Google mengungkapkan bahwa mereka mengidentifikasi dan menggagalkan exploit zero-day (bypass 2FA pada alat administrasi sistem berbasis web open-source yang tidak disebutkan namanya) yang dikembangkan menggunakan model AI. Skrip Python menunjukkan ciri-ciri generasi LLM: docstring edukatif, skor CVSS yang terhalu, pemformatan Pythonic terstruktur, menu bantuan terperinci, dan kelas warna ANSI. Exploit menargetkan asumsi kepercayaan yang dikodekan dalam logika 2FA alat target—cacat semantik tingkat tinggi yang LLM unggul dalam mendeteksi. GTIG menilai dengan kepercayaan tinggi bahwa model AI (bukan Google Gemini atau Anthropic Claude Mythos) telah dijadikan senjata untuk memfasilitasi penemuan dan weaponisasi.

Ini adalah zero-day pertama yang dikonfirmasi di lapangan yang dikembangkan dengan AI. Ini mengoperasionalisasikan bertahun-tahun peringatan penelitian: lawan sekarang memiliki penemuan kerentanan berbantuan AI dengan garis waktu kompresi untuk eksploitasi. Exploit menargetkan cacat logika daripada korupsi memori, menunjukkan bahwa frontier LLM memiliki penalaran kontekstual yang cukup untuk mengungkap kerentanan semantik yang terpendam. John Hultquist (analis intelijen ancaman kepala Google) menyatakan: 'Sudah tiba. Era kerentanan dan eksploitasi yang didorong AI sudah tiba.' Aktor kriminal memiliki yang paling banyak untuk diuntungkan dari keunggulan kecepatan AI dalam perlombaan ransomware/extortion.

Semua perusahaan yang menghosting alat administrasi sistem berbasis web harus menganggap permukaan serangan telah berkompres. Garis waktu patch yang dulunya memakan waktu berminggu-minggu sekarang menghadapi jendela ancaman berjam-jam hingga berhari-hari. CISO harus: (1) menganggap AI akan digunakan oleh lawan untuk menemukan zero-day di infrastruktur Anda; (2) mempercepat penerapan patch dan garis waktu respons insiden; (3) memantau katalog CISA KEV untuk zero-day yang dikembangkan dengan bantuan AI (diperkirakan akan meningkat); (4) memperluas latihan red-team untuk mencakup penemuan kerentanan berbantuan AI; (5) menguatkan logika berbasis asumsi dalam kontrol autentikasi dan otorisasi.