정의
AI 가드레일의 고급 추론 기능을 악용하는 서비스 거부 공격으로, 복잡하고 모호한 프롬프트를 제공하여 모델이 최대한의 계산 리소스를 소비하도록 강제합니다. 안전 추론 능력이 뛰어날수록 리소스 고갈의 영향이 더 심합니다. 이 공격은 특히 공유 다중 테넌트 AI 인프라에서 매우 해롭습니다.
왜 중요한가
정교한 가드레일과 추론 엔진은 AI를 더욱 안전하게 만들기 위한 것이지만, 공격자들은 이를 악용할 수 있습니다. 가드레일 추론을 최대한 활성화하는 프롬프트를 작성하여 공격자는 GPU와 CPU 리소스를 소진시키고, 정상 사용자의 서비스를 저하시키거나 클라우드 예산을 낭비할 수 있습니다.