定義
セキュリティチームが、Copilotアシスタントがデータをリークした場合、エージェントが無許可のアクションを実行した場合、またはモデルが操作された場合など、AIシステムに関連する疑わしいセキュリティまたはセーフティインシデントを調査する際に従う段階的なガイド。従来のITインシデント用のフォレンジックプレイブックを反映していますが、AI固有の証拠と障害モードに適応しています。
なぜ重要か
専用のプレイブックがなければ、セキュリティチームはAIシステムが何をしたのか、どのように影響されたのか、どのようなデータが公開されたのかを再構築する方法論を欠いています。規制当局とサイバー保険会社は、AIガバナンスの一部として、組織がこのフォレンジック機能を実証することをますます期待しています。