定义 安全控制在自主AI代理运行时对其进行检查和管理,涵盖两个通道:智能通道(代理到模型的提示和响应)和工具执行通道(代理工具调用和系统调用)。仅管理其中一个通道而不管理另一个通道会导致代理失控。 影响分析AI代理以自主方式运行,可以访问多个系统;运行时控制是针对恶意代理、受损模型或执行中期注入攻击的唯一防御。