정의
낮은 권한의 사용자(또는 낮은 권한의 AI 에이전트)가 취약점을 악용하여 상승된 권한을 얻는 공격으로, 종종 시스템 관리자 액세스 또는 AI 시스템에 악의적인 응답을 주입할 수 있는 능력으로 이어집니다. AI 게이트웨이에서 권한 상승은 공격자가 모델 응답을 다시 작성하거나 모든 제공자 API 키를 반출하도록 허용할 수 있습니다.
왜 중요한가
AI 게이트웨이와 에이전트는 종종 공유 서비스 계정 하에서 지속적인 권한으로 실행됩니다. AI 게이트웨이의 권한 상승은 단순히 해당 도구를 손상시키는 것이 아니라 연결된 모든 LLM 제공자, 모든 API 키, 그리고 에이전트가 도달할 수 있는 모든 다운스트림 시스템을 노출시킵니다.