정의
AI SDK 또는 클라이언트 라이브러리의 취약점을 악용하여 공격자가 개발 또는 배포 중에 머신러닝 모델을 가로채고, 수정하거나 교체할 수 있는 공격입니다. 공격자는 모델이 프로덕션에 도달하기 전에 악성 코드를 모델에 주입하여 피해자의 환경에서 중독된 모델이 실행되도록 할 수 있습니다.
왜 중요한가
SDK는 신뢰할 수 있는 인프라로 간주되지만 보안 팀에 의해 거의 감사되지 않습니다. 손상된 SDK를 통해 업로드된 중독된 모델은 정당한 개발자의 디지털 서명과 함께 프로덕션에 도달하므로 탐지가 거의 불가능하며 해당 모델의 모든 하위 사용자에게 영향을 미칩니다.