Defense  ·  术语库

AI Agent Runtime Security

安全控制在自主AI代理运行时对其进行检查和管理,涵盖两个通道:智能通道(代理到模型的提示和响应)和工具执行通道(代理工具调用和系统调用)。仅管理其中一个通道而不管理另一个通道会导致代理失控。
AI代理以自主方式运行,可以访问多个系统;运行时控制是针对恶意代理、受损模型或执行中期注入攻击的唯一防御。
参考资料
WitnessAI - Agentic Control Platform
在实时动态中跟踪 了解这一概念在真实 AI 安全与治理事件中的体现。
打开动态 →