定义 一种攻击方式,攻击者破坏用于构建或运行AI模型的训练数据或输入数据,导致模型学习错误的模式或输出。被污染的模型随后将破坏传播给依赖它的每个用户和应用程序。 影响分析数据污染是对AI管道本身的供应链攻击。与可以打补丁的代码漏洞不同,被污染的模型通常必须从头开始重新训练。大型企业往往在模型已经基于被破坏的信息做出决策后才发现污染。