Attack  ·  术语库

Data Poisoning

一种攻击方式,攻击者破坏用于构建或运行AI模型的训练数据或输入数据,导致模型学习错误的模式或输出。被污染的模型随后将破坏传播给依赖它的每个用户和应用程序。
数据污染是对AI管道本身的供应链攻击。与可以打补丁的代码漏洞不同,被污染的模型通常必须从头开始重新训练。大型企业往往在模型已经基于被破坏的信息做出决策后才发现污染。
在实时动态中跟踪 了解这一概念在真实 AI 安全与治理事件中的体现。
打开动态 →