Apa yang terjadi
Governance.ai berargumen bahwa AI mengotomatisasi R&D-nya sendiri cukup cepat untuk menjadikan 'ledakan kecerdasan' sebagai skenario yang harus direncanakan para pemimpin: per Agustus 2026, Anthropic melaporkan AI menyelesaikan 26% pekerjaan R&D AI internal dengan hanya pengawasan tingkat tinggi (naik dari 1% lima bulan sebelumnya), dan OpenAI melaporkan sistem yang 'rutin menyelesaikan tugas R&D yang membutuhkan waktu berhari-hari bagi staf.' Makalah ini memperingatkan bahwa percepatan semacam itu dapat memampatkan kemajuan bertahun-tahun menjadi beberapa bulan, 'menjadi perkembangan teknologi paling konsekuensial dalam sejarah,' dan melampaui kemampuan masyarakat untuk menyerap risiko seperti pandemi yang dipicu AI, serangan siber pada infrastruktur kritis, dan hilangnya pengawasan manusia. Makalah ini menetapkan tiga langkah kebijakan prioritas: visibilitas ke dalam otomatisasi R&D melalui auditor tertanam dan pelaporan, alat kendali-dan-pengekangan (batas kecepatan, lingkungan R&D terisolasi, perjanjian verifikasi), dan persiapan sosial termasuk rencana tanggap darurat.
Mengapa penting
Ini memberi dewan dan pimpinan kebijakan kumpulan data peringatan-dini yang konkret dan bertanggal tentang R&D yang diotomatisasi AI (26% R&D frontier kini dilakukan AI) dan kosakata siap pakai untuk memperdebatkan skenario 'keunggulan AI yang menentukan' dalam percakapan strategi dan risiko.
Tindakan yang diperlukan
Beri pengarahan singkat kepada kepemimpinan senior tentang indikator otomatisasi R&D (Anthropic 26%, tugas berhari-hari OpenAI) dan evaluasi apakah strategi AI Anda sendiri mengasumsikan laju pertumbuhan kapasitas yang dipertanyakan oleh angka-angka ini.