무슨 일이 있었나
Governance.ai는 AI가 자체 R&D를 자동화하는 속도가 충분히 빨라 '지능 폭발'이 리더들이 대비해야 할 시나리오가 되고 있다고 주장한다. 2026년 8월 기준 Anthropic은 AI가 내부 AI R&D 작업의 26%를 높은 수준의 감독만으로 완료했다고 보고했으며(5개월 전 1%에서 증가), OpenAI는 시스템이 "직원이 며칠이 걸리는 R&D 작업을 일상적으로 완료하고 있다"고 보고했다. 논문은 이러한 가속화가 수년간의 진전을 수개월로 압축하고, "역사상 가장 중대한 기술 발전"이 되며, AI 기반 팬데믹, 주요 인프라에 대한 사이버 공격, 인간의 감독 상실 같은 위험을 사회가 흡수하는 능력을 능가할 수 있다고 경고한다. 또한 우선순위가 있는 세 가지 정책 조치를 제시한다: 내장 감사자와 보고를 통한 R&D 자동화 가시성, 제한 및 통제 도구(속도 제한, air-gapped R&D 환경, 검증 협약), 비상 대응 계획을 포함한 사회적 준비.
왜 중요한가
이는 이사회와 정책 책임자에게 AI 자동화 R&D에 대한 구체적이고 날짜가 명시된 조기 경보 데이터(첨단 R&D의 26%가 현재 AI로 수행됨)와 전략 및 위험 논의에서 '결정적 AI 우위' 시나리오를 토론하기 위한 즉시 사용 가능한 어휘를 제공한다.
필요한 조치
R&D 자동화 지표(Anthropic 26%, OpenAI의 수일 소요 작업)에 대해 고위 경영진에게 브리핑하고, 자신의 AI 전략이 이러한 수치가 의문을 제기하는 역량 성장 속도를 가정하고 있는지 평가하라.