Apa yang terjadi
Institut Anthropic menerbitkan analisis terperinci pada 4 Juni menggunakan data internal yang sebelumnya tidak dilaporkan bersama dengan benchmark publik untuk menunjukkan bahwa AI sudah secara material mempercepat pengembangan AI di Anthropic: insinyur mengirimkan 8x lebih banyak kode per kuartal dibandingkan tahun 2021–2025, Claude dapat menyelesaikan tugas perangkat lunak 12 jam secara otonom, dan horizon penyelesaian tugas berlipat ganda setiap empat bulan. Artikel ini secara formal mendeskripsikan jalur menuju recursive self-improvement, menyerukan koordinasi internasional untuk mengelola transisi, dan secara eksplisit memperingatkan bahwa 'cara kami mengamankan mereka, memantau mereka, dan membentuk perilaku mereka semuanya menjadi jauh lebih penting' jika sistem dapat membangun penerus mereka sendiri.
Mengapa penting
Ini adalah publikasi Anthropic pertama yang mengukur kecepatan pengembangan AI yang didorong AI menggunakan telemetri internal, dan ini membingkai recursive self-improvement sebagai masalah governance dan keamanan jangka pendek — bukan hipotesis yang jauh. Implikasi untuk program keamanan AI adalah konkret: evaluasi keselamatan AI saat ini, cadence red-teaming, dan arsitektur pemantauan mungkin perlu dirancang ulang untuk sistem yang meningkat dengan kecepatan mesin, dan Anthropic secara eksplisit menyerukan mekanisme koordinasi internasional yang sebanding dengan yang ada untuk teknologi berisiko tinggi lainnya.
Tindakan yang diperlukan
Sertakan trajectory recursive self-improvement dalam register risiko governance AI Anda; tinjau apakah program evaluasi keamanan AI saat ini dapat mengikuti penggandaan kemampuan setiap empat bulan, dan lacak proses koordinasi yang diusulkan Anthropic Institute untuk dimasukkan dalam ringkasan kebijakan klien.