何が起きたか
5月11日、GoogleのThreat Intelligence Group (GTIG)は、AIモデルを使用して開発されたゼロデイエクスプロイト(名前のない未指定のオープンソースウェブベースシステム管理ツール上の2FA回避)を特定し、阻止したことを公開しました。Pythonスクリプトにはllm生成の特徴が見られました:教育的なdocstrings、ハルシネーションCVSSスコア、構造化されたPythonic形式、詳細なヘルプメニュー、およびANSIカラークラス。このエクスプロイトは、ターゲットツールの2FAロジック内のハードコードされた信頼の仮定をターゲットにしています—これはLLMが検出に優れている高レベルのセマンティック欠陥です。GTIGは高い信頼度でAIモデル(Google GeminiまたはAnthropicのClaude Mythosではない)が兵器化されて発見と兵器化の促進に使用されたと評価しました。
なぜ重要か
これはAIで開発された最初の確認されたインザワイルドのゼロデイです。これは数年間の研究警告を運用化します:敵対者はAI支援の脆弱性発見の圧縮されたタイムラインを悪用できるようになりました。このエクスプロイトはメモリ破損ではなくロジック欠陥をターゲットにしており、フロンティアLLMが潜在的なセマンティック脆弱性を表面化するための十分な文脈的推論能力を持っていることを示唆しています。John Hultquist(Googleのチーフ脅威インテリジェンスアナリスト)は次のように述べました:「ここにあります。AI駆動の脆弱性と悪用の時代は既に始まっています。」犯罪関係者はランサムウェア/恐喝競争におけるAIの速度利点から最も利益を得ることができます。
適用範囲
ウェブベースシステム管理ツールをホストしているすべての企業は、攻撃面が圧縮されていると想定する必要があります。かつて数週間かかったパッチタイムラインは、現在は数時間から数日の脅威ウィンドウに直面しています。CISOは以下の対策を実施する必要があります:(1) 敵対者があなたのインフラのゼロデイを発見するためにAIを使用すると想定する;(2) パッチ展開とインシデント対応のタイムラインを加速する;(3) AI支援で開発されたゼロデイについてCISA KEVカタログを監視する(増加が予想される);(4) AI支援脆弱性発見を含めるようレッドチームエクササイズを拡張する;(5) 認証および認可制御内の仮定ベースのロジックを強化する。