정의
AI 에이전트가 신뢰하고 사용하도록 설계된 도구의 설명, 출력 또는 구성 내에 악의적인 명령어나 페이로드가 숨겨져 있는 공격입니다. 에이전트가 해당 도구를 호출하면, 의도하지 않게 공격자의 명령을 실행하여 트래픽을 리디렉션하거나, 비밀 정보를 유출하거나, 파괴적인 행동을 수행합니다.
왜 중요한가
AI 에이전트가 Model Context Protocol 및 유사한 프레임워크를 통해 더 많은 비즈니스 도구에 연결됨에 따라, 도구 포이즈닝은 AI 모델 자체에 절대 손을 대지 않고도 공격자들이 전체 자동화된 워크플로우를 탈취하는 확장 가능한 방법이 됩니다. 단 하나의 포이즈닝된 도구도 그것을 신뢰하는 모든 에이전트에 전파될 수 있습니다.