定義
攻撃者が AI モデルの構築または実行に使用されるトレーニングデータまたは入力データを破損させ、モデルが誤ったパターンまたは出力を学習させる攻撃。汚染されたモデルは、その後、それに依存するすべてのユーザーとアプリケーションに破損を伝播させます。
なぜ重要か
データポイズニングは AI パイプライン自体に対するサプライチェーン攻撃です。パッチを適用できるコード脆弱性とは異なり、汚染されたモデルはしばしばゼロから再トレーニングする必要があります。大規模企業は、モデルがすでに破損情報に基づいた決定を下した後にのみ、ポイズニングを発見します。