Attack  ·  术语库

Model Hijacking via SDK Vulnerability

一种攻击方式,其中AI SDK或客户端库中的漏洞允许攻击者在开发或部署过程中拦截、修改或替换机器学习模型。攻击者可以在模型到达生产环境之前将恶意代码注入模型中,确保被污染的模型在受害者的环境中执行。
SDK被认为是可信的基础设施,但很少被安全团队审计。通过被compromised的SDK上传的被污染模型会以合法开发人员的数字签名到达生产环境,使检测几乎不可能,并影响该模型的所有下游用户。
参考资料
MITRE: Software Supply Chain Security
在实时动态中跟踪 了解这一概念在真实 AI 安全与治理事件中的体现。
打开动态 →