定義
AI SDK またはクライアントライブラリの脆弱性を利用して、攻撃者が開発またはデプロイ中に機械学習モデルをインターセプト、修正、または置き換える攻撃。攻撃者は本番環境に到達する前にモデルに悪意のあるコードを注入し、中毒されたモデルが被害者の環境で実行されることを確保します。
なぜ重要か
SDK は信頼できるインフラストラクチャと見なされていますが、セキュリティチームによって監査されることはほとんどありません。侵害された SDK 経由でアップロードされた中毒されたモデルは、正当な開発者のデジタル署名を持って本番環境に到達するため、検出がほぼ不可能になり、そのモデルの全ての下流ユーザーに影響を与えます。