技術的な説明
監査によると、プロンプトインジェクションは本番環境のAIデプロイメントの73%に存在し、間接的(データソース由来)インジェクションが記録されているエンタープライズ攻撃試行の80%以上を占めるようになった。OpenAIは、この問題が完全には排除される可能性は低いことを公式に認めている。
攻撃経路
直接的なプロンプト操作および毒性を持つドキュメント、Webページ、ツール出力経由の間接的インジェクション。これらはエージェントによって信頼できるデータとして消費される。
影響を受けるシステム
すべてのLLM対応アプリケーションおよびエージェント。特に広範なツールアクセスを持つエージェントAIにおいて重要。
緩和策
命令/データ境界の強制; ツール呼び出しのサンドボックス化; ツールスコープへの最小権限の適用; 動作異常の監視; 継続的なレッドチーム演習。