기술 설명
토론토 대학교, Vector Institute, 캠브리지 대학교, ServiceNow의 연구원들이 개방형 가중치 LLM을 사용하여 각 목표에 맞춘 공격 전략을 생성하는 개념 증명 컴퓨터 웜을 시연했습니다. 고정된 익스플로잇 코드를 사용하는 전통적인 웜과 달리, 이 웜은 이미 손상된 머신에서 훔친 계산 리소스를 기생적으로 실행하여 자신의 추론을 유지하면서 Linux, Windows, IoT 디바이스에 걸친 네트워크를 위해 실시간으로 공격 로직을 합성합니다. 공격자의 신규 감염당 한계비용은 0입니다. 웜이 상용 AI 플랫폼에 의존하지 않기 때문에 서비스 거부 및 속도 제한과 같은 중앙집중식 안전 제어는 구조적으로 무관합니다.
공격 경로
네트워크 호스트의 초기 침해로 웜은 호스트의 계산 리소스에 접근하며, 이를 사용하여 개방형 가중치 LLM을 로컬로 실행합니다. 그 후 웜은 인접 호스트의 이용 가능한 취약점에 대해 추론하고 — 일반적인 기업 네트워크 취약점을 악용하며 — 목표별로 접근 방식을 적응시키고 인간 운영자의 개입 없이 자율적으로 전파됩니다. 이 공격은 상용 API 접근을 필요로 하지 않습니다.
영향받는 시스템
이기종 OS 환경(Linux, Windows, IoT)이 있는 엔터프라이즈 네트워크; GPU 또는 모델 서빙 노드가 있는 모든 네트워크는 특히 위험합니다. 왜냐하면 이들은 웜의 추론 용량을 증폭할 수 있는 고가치의 훔친 계산 리소스를 제공하기 때문입니다.
완화 방안
GPU 및 모델 서빙 노드를 격리하는 네트워크 세분화; 제한된 횡적 이동 경로를 사용한 최소 권한 관리; 모델 서빙 엔드포인트의 유출 제어; 비정상적인 에이전트/도구 실행 패턴 및 계산 집약적 노드에서의 비정상적인 호스트 간 통신에 대한 탐지 규칙; AI 기반 악성코드에 대한 인시던트 대응 플레이북 개발 및 테스트. 연구팀은 운영 세부 사항을 공개하지 않았으며 책임감 있는 공개 및 구현에 대한 접근 제어에 대해 토론토 대학교 및 캐나다 정부 기관과 협력 중입니다.