Google Mengatakan AI Belum Membangun Diri Sendiri—Meskipun Menulis 75% Kode

Google DeepMind mencari bukti bahwa AI mempercepat pengembangan AI itu sendiri. Namun, mereka tidak menemukan bukti tersebut.

Dalam laporan keselamatan untuk Gemini 4 Argon, model terkuatnya, laboratorium menyimpulkan bahwa penelitian AI tidak bergerak lebih cepat, meskipun AI sekarang menulis sebagian besar kode yang dikirimkan oleh insinyur DeepMind.

Temuan ini bertentangan dengan skenario yang telah membuat para eksekutif AI meminta perlambatan. Ini disebut perbaikan diri rekursif: sebuah AI membangun versi yang lebih pintar dari dirinya sendiri, yang kemudian membangun versi yang bahkan lebih pintar, hingga kemajuan melampaui kemampuan siapa pun untuk menguji, mengatur, atau mematikannya—apa yang disebut laporan sebagai "situasi di mana pengaman yang ada sangat tidak memadai."

"Saat ini tidak ada percepatan signifikan dari R&D ML, baik yang didorong oleh AI maupun tidak," tulis Haydn Belfield, seorang peneliti Google DeepMind yang terlibat dalam penilaian tersebut, dalam sebuah utas di X. "Oleh karena itu, kami menyimpulkan bahwa risiko dari R&D ML yang didorong oleh AI saat ini rendah."

R&D ML adalah singkatan dari penelitian dan pengembangan pembelajaran mesin, pekerjaan membangun model AI baru.

1/9

Dalam Laporan Keselamatan & Keamanan Gemini 4 Argon, kami menerbitkan penilaian empiris holistik pertama kami tentang otomatisasi dan percepatan R&D ML di dalam Google DeepMind --- menggabungkan tolok ukur kemampuan, indeks kemampuan makro, data tentang kode yang ditulis oleh AI dan hasil trajektori, dan... pic.twitter.com/Vr8Q5Obbsp

--- Haydn Belfield (@HaydnBelfield) 14 Oktober 2026

DeepMind melacak masalah ini karena "AI dapat mempercepat keuntungan kemampuan perbatasan lebih cepat daripada keselamatan, tata kelola, dan adaptasi sosial dapat mengikuti," tulis Belfield. Lebih banyak otomatisasi juga berarti memberikan agen AI akses yang lebih luas ke sistem perusahaan, lebih banyak ruang bagi model yang tidak selaras (yang mengejar tujuan yang tidak pernah dimaksudkan oleh pembuatnya) untuk menyebabkan masalah.

Untuk mengukur kemajuan, tim membangun GCI v1, sebuah indeks internal yang menggabungkan skor dari 123 model AI di 92 tolok ukur menjadi satu angka per model—anggap saja sebagai skor IQ untuk AI. "Kemampuan perbatasan Gemini telah meningkat dengan kecepatan yang sangat stabil sekitar ~0.1 poin GCI/bulan," tulis Belfield.

Dalam grafik indeks laporan tersebut, Gemini 1.5 Pro berada di dekat 0.5 poin pada akhir 2024 dan Gemini 3.8 Flash sedikit di atas 2.9 pada September 2026, dengan hampir setiap rilis mengikuti garis lurus. Argon adalah satu titik yang menonjol di atasnya, sekitar 3.3, meskipun batas kesalahannya (rentang di mana skor sebenarnya dapat jatuh) cukup rendah untuk menyentuh tren.

"Meskipun Gemini 4 Argon berada di atas [tren], kami melacak ini ke peningkatan investasi komputasi dan organisasi daripada mencerminkan percepatan yang didorong oleh AI," tulis Belfield. Google meluncurkan Gemini 4 Argon pada 30 September.

Sebagian besar kode produksi di DeepMind sekarang lebih dari 75% ditulis oleh AI, dan proporsi permintaan tarik yang sepenuhnya didelegasikan (bundel perubahan kode yang diajukan untuk ditinjau sebelum mereka ditayangkan) meningkat dari 7.5% menjadi 11.9% antara April dan September. Namun, "~88% permintaan tarik masih memerlukan pengarahan manusia multi-langkah atau kepenulisan kode manusia—dan perubahan kode tetap tunduk pada tinjauan manusia sebelum pengajuan," tulis Belfield.

Sebuah survei terhadap 12 pemimpin dan peneliti senior DeepMind menemukan bahwa otomatisasi tertinggi terjadi dalam "tugas eksekusi yang terdefinisi dengan baik dan dapat diverifikasi dan terendah dalam ideasi ilmiah terbuka, desain eksperimen baru, mendiagnosis ketidakstabilan pelatihan yang halus, dan selera penelitian jangka panjang." Dalam istilah sederhana, AI sangat baik dalam mengeksekusi instruksi dan buruk dalam memutuskan ide mana yang layak dikejar.

DeepMind juga meninjau 1.389 log Argon yang bekerja sebagai agen di dalam perusahaan. Semakin besar tugasnya, semakin kecil kemungkinan model menyelesaikannya sendiri dan semakin sering manusia terlibat.

Laporan ini muncul sebulan setelah CEO Anthropic Dario Amodei berargumen bahwa perbaikan diri rekursif sudah mempercepat, sebuah peringatan yang didukung oleh Sam Altman dan Elon Musk dan yang membuat saham chip turun hampir 6%. Beberapa hari sebelumnya, mantan insinyur Anthropic Jacob Coxon telah keluar dari industri, memperingatkan bahwa AI dapat "membunuh kita semua pada akhir dekade ini."

Angka-angka DeepMind hanya mencakup labnya sendiri, dan laporan yang sama menyatakan bahwa mereka tidak dapat mengesampingkan bahwa Argon yang tidak terbatas melewati ambang bahaya untuk serangan siber dan informasi senjata biologi.

Konten ini disediakan hanya untuk tujuan informasi umum dan bukan merupakan nasihat keuangan, investasi, hukum, atau pajak. Setiap acara, reward, promosi online, atau informasi terkait yang disebutkan di sini tidak boleh dianggap sebagai rekomendasi, ajakan, atau undangan untuk membeli, menjual, memperdagangkan, atau melakukan transaksi aset kripto apa pun. Aset kripto sangat fluktuatif dan dapat mengakibatkan kerugian. Ketersediaan layanan, produk, dan acara terkait WEEX dapat berbeda-beda di setiap wilayah. Anda bertanggung jawab untuk memastikan bahwa partisipasi Anda sesuai dengan hukum dan peraturan setempat yang berlaku.