정의
공격자가 AI 모델을 구축하거나 실행하는 데 사용되는 학습 데이터 또는 입력 데이터를 손상시켜 모델이 거짓된 패턴이나 출력을 학습하게 만드는 공격입니다. 손상된 모델은 이후 이에 의존하는 모든 사용자와 애플리케이션에 오염을 전파합니다.
왜 중요한가
데이터 포이즈닝은 AI 파이프라인 자체에 대한 공급망 공격입니다. 패치할 수 있는 코드 취약점과 달리, 손상된 모델은 종종 처음부터 다시 학습해야 합니다. 대규모 기업들은 모델이 이미 손상된 정보를 기반으로 한 결정을 내린 후에야 포이즈닝을 발견합니다.