무슨 일이 있었나
5월 11일, Google의 Threat Intelligence Group (GTIG)은 AI 모델을 사용하여 개발된 제로데이 익스플로잇(명명되지 않은 오픈소스 웹 기반 시스템 관리 도구의 2FA 우회)을 식별하고 중단했다고 공개했습니다. Python 스크립트는 LLM 생성의 특징을 보였습니다: 교육용 docstring, 환각된 CVSS 점수, 구조화된 Pythonic 포맷팅, 상세한 도움말 메뉴, ANSI 색상 클래스. 이 익스플로잇은 대상 도구의 2FA 로직에 내장된 신뢰 가정을 목표로 하며—LLM이 발견에 탁월한 고수준의 의미론적 결함입니다. GTIG는 AI 모델(Google Gemini 또는 Anthropic Claude Mythos가 아님)이 발견 및 무기화 촉진을 위해 악용되었다고 높은 신뢰도로 평가했습니다.
왜 중요한가
이는 AI로 개발된 첫 확인된 야생 제로데이입니다. 수년간의 연구 경고를 실행에 옮깁니다: 적들은 이제 AI 지원 취약점 발견 및 익스플로잇 압축 타임라인을 갖추었습니다. 이 익스플로잇은 메모리 손상보다는 로직 결함을 목표로 하며, 최전선 LLM이 휴면 의미론적 취약점을 표면화할 충분한 문맥 추론 능력을 갖추었음을 시사합니다. Google의 최고 위협 인텔리전스 분석가인 John Hultquist는 "여기 있습니다. AI 기반 취약점 및 익스플로잇의 시대가 이미 여기입니다."라고 언급했습니다. 범죄 행위자들은 랜섬웨어/갈취 경쟁에서 AI의 속도 이점으로부터 가장 많은 이득을 얻을 수 있습니다.
적용 범위
웹 기반 시스템 관리 도구를 호스팅하는 모든 기업은 공격 표면이 압축되었다고 가정해야 합니다. 한때 몇 주가 걸렸던 패치 타임라인은 이제 시간에서 일 단위의 위협 윈도우에 직면해 있습니다. CISO는 다음을 수행해야 합니다: (1) 적들이 인프라의 제로데이를 발견하기 위해 AI를 사용할 것이라고 가정; (2) 패치 배포 및 사고 대응 타임라인 가속화; (3) AI 지원으로 개발된 제로데이에 대한 CISA KEV 카탈로그 모니터링(증가 예상); (4) AI 지원 취약점 발견을 포함하도록 레드팀 연습 확대; (5) 인증 및 인가 제어의 가정 기반 로직 강화.