何が起きたか
Google DeepMindの研究者は、自律型AIエージェントに対するウェブベースの攻撃の6つのカテゴリーをマッピングした最初の体系的なフレームワークを発表しました。コンテンツ注入、セマンティック操作、認知状態（メモリ）ポイズニング、行動制御、システム的攻撃、およびヒューマン・イン・ザ・ループ罠です。
なぜ重要か
レッドチーミング研究では、テストされたすべてのAIエージェントが少なくとも1回は正常に侵害されました。このフレームワークは、悪意のあるサーバーがAIエージェントを検出し、人間の訪問者には見えないプロンプトインジェクションペイロードが埋め込まれた異なるコンテンツを提供する「Dynamic Cloaking」攻撃を明らかにしています。
必要な対応
ウェブブラウジングAIエージェントをデプロイするセキュリティチームは、エージェント固有のウェブコンテンツフィルタリング、ユーザーエージェント難読化、および出力検証を実装する必要があります。現在のエージェントデプロイメントに対して6つの攻撃カテゴリーを確認し、脅威モデルを相応に更新してください。