Concept  ·  用語集

Lethal trifecta (AI agents)

Cloud Security Allianceによって特定されたリスク状態。AIエージェントが同時に3つの危険な特性を持つ場合に該当します:機密データへのアクセス、信頼できない外部ソースからの指示を受け取る能力、および外部世界で行動を起こす能力(例:メール送信、API呼び出し)。3つの条件すべてを持つエージェントは、操作されて深刻な害をもたらすように仕向けられることに対して非常に脆弱です。
研究によると、本番環境のAIエージェントの98%がすでに3つの条件すべてを持っていますが、適切な防御を備えているのはわずか11%です。これは、展開されたエンタープライズエージェントの大多数が、構造的には作成された悪質な入力1つから大きなインシデントへの距離が非常に近いことを意味しています。
参考資料
CSA AI Agent Lethal Trifecta Report
ライブフィードで追跡 この概念が実際のAIセキュリティ・ガバナンスの動向でどう現れるかを確認。
フィードを開く →