定義
自律型AIエージェントが実行中に行うことを検査し統制するセキュリティ制御。2つのチャネルにまたがります:インテリジェンスチャネル(エージェント対モデルのプロンプトとレスポンス)とツール実行チャネル(エージェントツール呼び出しとシステムコール)。一方のチャネルのみを統制し、もう一方を統制しないと、エージェントが制御不能になります。
なぜ重要か
AIエージェントは複数のシステムへのアクセスを持つ自律的に動作します。ランタイム制御は、不正なエージェント、危険にさらされたモデル、または実行中の注入攻撃に対する唯一の防御です。