기술 설명
Adversa AI의 2026년 4월 agentic AI 보안 연구에 따르면 감시 대상 30개 AI agent 프레임워크의 93%가 범위 지정되지 않은 API 키에 의존하고, 0%는 agent별 identity를 구현하며, 97%는 사용자 동의 메커니즘이 부족합니다. 추가로, LLM agent에 대한 메모리 중독 공격은 GPT-5 mini 및 Claude Sonnet 4.5를 포함한 주요 모델에 대해 90% 이상의 성공률을 달성합니다.
공격 경로
공격자들은 agent별 identity 부재와 범위 지정되지 않은 API 키 부족을 악용하여 agent 프레임워크 전반에 걸쳐 권한을 상승시킵니다. 메모리 중독은 향후 워크플로우를 탈취하는 악의적인 항목을 agent 영구 메모리에 주입하는 것입니다. TrinityGuard 평가 프레임워크는 multi-agent 시스템 전반에 걸쳐 평균 7.1%의 안전 통과율만 발견했습니다.
영향받는 시스템
30개의 주요 AI agent 프레임워크 평가됨. 메모리 중독에 대해 테스트된 특정 모델은 GPT-5 mini 및 Claude Sonnet 4.5를 포함합니다. AG2/AutoGen을 사용하는 multi-agent 오케스트레이션 플랫폼도 영향을 받습니다.
완화 방안
모든 agent 프레임워크에서 agent별 identity 및 범위 지정된 API 키를 구현합니다. agent 메모리 저장소에 대한 메모리 무결성 검사 및 입력 검증을 배포합니다. AG2/AutoGen 통합을 포함한 오픈 소스 TrinityGuard 프레임워크를 사용하여 agent 배포를 평가합니다.