기술 설명
Google의 위협 인텔리전스 그룹(GTIG)은 사이버 범죄자들이 AI를 사용하여 이전에 알려지지 않은 제로데이 취약점을 발견하고 무기화한 첫 번째 사례를 공개했습니다. 여러 '저명한 사이버 범죄 위협 행위자'가 협력하여 널리 사용되는 오픈소스 시스템의 2단계 인증(2FA)을 우회할 수 있게 하는 Python 스크립트의 버그를 식별했습니다. 그룹들은 이후 AI 지원 코드를 사용하여 이 결함을 무기화했습니다. 취약점은 제작 환경 악용 전에 차단되었으며, Google은 이를 공급업체에 공개했습니다.
공격 경로
이 공격은 소프트웨어 로그인 로직의 숨겨진 신뢰 가정을 대상으로 하며, 기존 보안 도구가 종종 탐지하지 못하는 미묘한 행동 약점을 추론하는 AI의 능력을 활용합니다. 공격 체인: (1) AI가 인증 우회를 식별, (2) AI가 무기화된 악용 코드를 생성, (3) 공격자가 제작 환경 시스템에 배포.
영향받는 시스템
명명되지 않은 널리 사용되는 오픈소스 시스템(Python 스크립트 기반). 추가적으로 Google이 식별한 것: (1) APT45(북한 군사 그룹)가 AI를 사용하여 수천 개의 악용 페이로드를 테스트 및 검증, (2) 'PromptSpy'라는 이름의 맬웨어가 Gemini를 사용하여 Android 디바이스를 자율적으로 탐색하고 실시간으로 제어 명령을 생성.
완화 방안
즉각적: 위협 행위자들이 이제 AI 모델에서 거의 실시간(Google 추정 패치 공개부터 작동하는 악용까지 약 30분)으로 제로데이 악용을 생성할 수 있다고 가정하십시오. 조직은 다음을 수행해야 합니다: (1) AI 지원 취약점 발견(Daybreak, Mythos 또는 동등한 도구 통해)을 도입하여 공격자보다 먼저 결함을 찾음, (2) 공개 윈도우를 가능한 90일에서 30일로 단축, (3) 지속적인 패칭 및 불변 인프라를 구현하여 악용 후 거주 시간 감소, (4) 2FA 우회가 이제 일반적인 공격 경로라고 가정하고 추가 인증 요소(FIDO2, 하드웨어 토큰) 추가.