何が起きたか
Governance.ai は、AIが自身の研究開発を自動化する速度が十分に速く、「知能爆発」がリーダーが計画すべきシナリオとなっていると主張している。2026年8月時点で、Anthropic は AI が社内 AI R&D 業務の 26% を高度な監督のみで完了したと報告しており(5か月前の 1% から増加)、OpenAI はシステムが「スタッフが数日かかる R&D タスクを日常的に完了している」と報告している。本論文は、このような加速により数年の進歩が数か月に圧縮され、「歴史上最も影響力のある技術的発展」となり、AIによるパンデミック、重要インフラへのサイバー攻撃、人間の監視の喪失などのリスクを吸収する社会の能力を上回る可能性があると警告している。また、埋め込み監査人と報告による R&D 自動化の可視化、制御・制約ツール(速度制限、エアギャップ型 R&D 環境、検証契約)、緊急対応計画を含む社会準備という3つの優先政策措置を提示している。
なぜ重要か
これは、取締役会や政策リーダーに対し、AI自動化された R&D(フロンティア R&D の 26% が現在 AI により実施)に関する具体的で日付入りの早期警戒指標データセットと、戦略・リスク会話において「決定的な AI リード」シナリオを議論するための既製の語彙を提供する。
必要な対応
R&D 自動化指標(Anthropic 26%、OpenAI の数日規模のタスク)について上級幹部にブリーフィングし、自社の AI 戦略が、これらの数値が疑問視する能力成長のペースを前提としていないか評価すること。