Penelitian AI yang Kontroversial Menarik Perhatian Sam Altman
Selama beberapa bulan terakhir, OpenAI dan perusahaan rintisan AI Goodfire telah melakukan negosiasi mengenai akuisisi atau kerjasama potensial (saya dan rekan-rekan saya merilis laporan pagi ini bahwa OpenAI pernah mempertimbangkan untuk mengakuisisi perusahaan rintisan yang menganalisis "cara berpikir" AI ini dengan harga 5 miliar USD atau lebih). Selama negosiasi, CEO OpenAI Sam Altman sangat tertarik dengan penelitian Nick Kamarata. Kamarata sebelumnya bekerja di OpenAI dan kini bekerja di Goodfire; pandangan baru yang diajukan tentang bagaimana AI berpikir baru-baru ini memicu reaksi besar di industri.
Kamarata merilis sebuah makalah bulan lalu dan meluncurkan laporan lanjutan minggu lalu, yang memicu perdebatan hangat di kalangan peneliti AI. Sebagian orang memuji hasil tersebut sebagai terobosan besar dalam memahami model AI; sementara yang lain berpendapat bahwa ini hanya sekadar hype. Reaksi yang terpolarisasi ini menunjukkan bahwa beberapa bidang penelitian AI masih sangat tidak matang, dan para peneliti bahkan tidak dapat mencapai konsensus tentang "apa yang dianggap penelitian berkualitas tinggi". Namun, meskipun teknologi belum terverifikasi, perusahaan rintisan terkait masih dapat memperoleh valuasi miliaran dolar.
Fokus utama penelitian Goodfire adalah mekanisme keterbacaan, yang dikenal dalam industri sebagai "mech interp". Tujuan bidang ini adalah untuk memahami mekanisme internal model AI, bukan hanya mengamati perilaku eksternal yang dihasilkannya. Model AI terdiri dari triliunan nilai, seperti "kotak hitam", yang tidak dapat dibaca secara langsung seperti membaca kode perangkat lunak tradisional. Hal ini menyebabkan kesulitan dalam memprediksi perilaku AI dalam skenario baru, dan sulit untuk melacak kesalahan ketika terjadi.
Makalah Kamarata berjudul "Jaringan Saraf Sebenarnya Jelas Terbaca", di mana dia mengajukan pandangan bahwa neuron buatan dalam model AI (fungsi matematis yang dibangun berdasarkan nilai besar) sebenarnya lebih mudah untuk diinterpretasikan daripada yang diperkirakan oleh para peneliti sebelumnya. Berdasarkan asumsi ini, perusahaan rintisan seperti Goodfire yang berfokus pada analisis logika internal AI memiliki prospek yang lebih cerah.
Sebagai contoh, pada tahun 2017, peneliti mekanisme keterbacaan menemukan neuron khusus dalam model AI gambar: baik gambar mobil maupun kucing, neuron ini akan diaktifkan. Banyak neuron menunjukkan fenomena ini, memproses beberapa tugas yang tampaknya tidak terkait, yang sangat membingungkan para peneliti. Faktanya, pada tahun 2023, ketika Kamarata masih bekerja di OpenAI, dia mencoba menggunakan GPT-4 untuk menganalisis neuron GPT-2 dan menemukan bahwa hanya 1,7% neuron yang dapat diinterpretasikan.
Namun, Kamarata percaya bahwa berkat kemajuan dalam teknik pelatihan model dan metode analisis, situasi tidak lagi tanpa harapan. Mengambil contoh dari Alibaba Tongyi Qianwen Qwen3-32B, sekitar 90% neuron hanya menjalankan satu fungsi, memenuhi syarat untuk diinterpretasikan. Dia meneliti kembali neuron klasik yang merespons kucing dan mobil dan menemukan bahwa: wajah kucing dan wajah depan mobil memiliki kontur berbentuk V yang serupa, yang merupakan karakteristik yang benar-benar mengaktifkan neuron tersebut. {#quote_BABA}
"Menurut saya, cerita di bidang keterbacaan sebagian besar adalah: apa yang diamati di bawah mikroskop jauh lebih baik daripada yang kita bayangkan," tulisnya, "hanya saja mikroskop itu sendiri tidak disetel dengan benar, dan tempat yang perlu disesuaikan sering kali sangat halus."
Beberapa peneliti terkemuka di bidang mekanisme keterbacaan tidak setuju dengan kesimpulan makalah Kamarata. Mereka menyatakan bahwa arah penelitian itu berharga, tetapi makalah tersebut melebih-lebihkan arti dari hasilnya.
Neil Nanda, kepala arah mekanisme keterbacaan di Google DeepMind, menyatakan di platform sosial: "Pekerjaan ini sangat menarik, tetapi saya tidak percaya itu memberikan pembaruan signifikan pada gambaran keseluruhan keterbacaan." Nanda menulis bahwa makalah tersebut melebih-lebihkan tingkat pemahaman manusia saat ini tentang neuron; bahkan jika semua neuron dapat dibaca, mekanisme operasi model tetap akan menyisakan banyak masalah yang belum terpecahkan. {#quote_GOOG}
Peneliti OpenAI Leo Gao juga berpartisipasi dalam diskusi, merilis artikel bantahan berjudul "Jaringan Saraf Tidak Sebenarnya Jelas Terbaca". Dia mengajukan: "Makalah ini jauh dari cukup untuk membuktikan bahwa kita telah memahami sebagian besar perilaku neuron; hasil ini tidak dapat mewakili bahwa masalah keterbacaan telah terpecahkan, dan tidak dapat menunjukkan bahwa pekerjaan ini jauh lebih sederhana daripada yang dibayangkan sebelumnya."
Lif Gordon, yang sebelumnya bekerja di Goodfire dan kini bekerja di Anthropic, mereproduksi sebagian eksperimen Kamarata dan mendapatkan hasil eksperimen yang berbeda. Dia juga menunjukkan: wajah kucing tidak semuanya berbentuk V, dan neuron tersebut tidak merespons banyak objek berbentuk V (seperti paruh burung).
Menghadapi penilaian yang beragam dari berbagai pihak, Kamarata tetap menyatakan sikap optimis. Dia menulis di platform sosial tentang keterbacaan AI: "Saya percaya masalah ini dapat diselesaikan. Apakah solusi sederhana yang ada saat ini dapat berhasil, atau solusi yang ada umumnya dapat diterima tetapi masih perlu dilengkapi dengan alat baru, atau kita memerlukan pemikiran baru yang revolusioner, kita pada akhirnya akan menemukan jawabannya.
Harga --
Konten ini disediakan hanya untuk tujuan informasi umum dan bukan merupakan nasihat keuangan, investasi, hukum, atau pajak. Setiap acara, reward, promosi online, atau informasi terkait yang disebutkan di sini tidak boleh dianggap sebagai rekomendasi, ajakan, atau undangan untuk membeli, menjual, memperdagangkan, atau melakukan transaksi aset kripto apa pun. Aset kripto sangat fluktuatif dan dapat mengakibatkan kerugian. Ketersediaan layanan, produk, dan acara terkait WEEX dapat berbeda-beda di setiap wilayah. Anda bertanggung jawab untuk memastikan bahwa partisipasi Anda sesuai dengan hukum dan peraturan setempat yang berlaku.
Anda mungkin juga menyukai

Netflix Jatuh di Bawah $60. Bill Ackman Menjelaskan Mengapa Ini adalah Kesempatan Investasi yang Luar Biasa.

Miliarder David Tepper Baru Saja Melakukan Rotasi Chip AI Besar-Besaran --- Apakah Ini Akan Membayar?

Musk Mengatakan Rencana Energi Masa Depan Mungkin Meluas ke Bulan dan Merkurius

Jika Terjadi Krisis Pasar Saham, Warren Buffett Mengatakan Ini adalah Langkah Utama yang Harus Dilakukan Semua Investor

2 Saham Keuangan untuk Dibeli Dekat Titik Terendah 52-Minggu Mereka

Lebih Baik Dibeli: Bitcoin vs. Ethereum

Bukan Anthropic. Bukan SpaceX. Ini Saham AI yang Harus Dibeli untuk Jangka Panjang

Greg Abel Baru Saja Menyetujui Pembelian Kembali Saham Rekor $9,6 Miliar untuk Berkshire Hathaway pada Kuartal Lalu, Lebih dari Dua Kali Lipat dari Kecepatan yang Ditetapkan pada Kuartal Kedua. Apakah Berkshire Masih Layak Dibeli Saat Saham Mendekati R...

Benson Sun tidak akan membeli BTC sampai aliran ETF spot menjadi positif

Ansem Merenungkan Pelajaran dari Siklus Sebelumnya, Menekankan Keseimbangan antara Hidup dan Investasi

Saham Micron Turun Lebih Dari 40% Dari Rekor Juni. Sejarah Mengatakan Apa yang Terjadi Setelah 5 Penurunan Lainnya yang Sedalam Ini.

Jiang Zhuoer: Pasar Beruang Kripto Butuh 2 hingga 3 Bulan untuk Mengalami Fluktuasi Dasar

3 Saham Daya Pusat Data Turun Lebih Dari Sepertiga Dari Rekor Mereka untuk Dibeli Sekarang dan Ditahan Hingga 2030

Lee Jae-myung Mengunjungi Pusat Data AI Ulsan, Berjanji Mendukung Kemajuan Proyek

SBF Pertama Kali Bicara Tentang Penjualan Anthropic: AI Memiliki 25% Peluang Menghancurkan Manusia, Generasi Muda Harus Memahami AI Dengan Baik

Yili Hua Menyatakan Saat Ini Adalah Krisis Risiko Keuangan dan Likuiditas Global

Robert Kiyosaki Akan Menunggu Bitcoin Menyentuh Dasar Lagi Sebelum Membeli

Apakah Era Mudah Menghasilkan Uang di Industri Kripto Telah Berakhir? Empat Cara Mengambil Likuiditas Pasar

VIX Melonjak ke Tingkat Tertinggi Sejak Gelombang Tarif April Tahun Lalu, Indeks Ketakutan Goldman Mendekati Angka Maksimal, Pasar Saham AS Mungkin Menghadapi Penjualan Lebih dari 80 Miliar USD Minggu Depan

Analisis Fed Menyoroti Kesamaan dengan 2018

Securitize membayar dividen saham Apple tokenisasi pertamanya dalam USDC

Plot Twist 'The Altruists' SBF: Saham Anthropic FTX Akan Bernilai $43 Miliar

Jika Saya Hanya Bisa Memiliki 1 Saham Kecerdasan Buatan (AI) Senilai Triliun Dolar Hingga 2030, Itu Akan Menjadi Anthropic, Nvidia, atau Alphabet. Berikut Pilihan Utama Saya.

Biaya Pembangunan Pusat Data AS Melonjak 13% pada 2026

Mantan CEO General Motors Membahas Rencana Suksesi Mary Barra: "Ini Akan Menjadi Tugas yang Sulit"

Wash berharap pejabat Fed berbicara lebih sedikit, tetapi justru sebaliknya

Anggota DPR Horsford Mengharapkan Suara DPR untuk RUU Pajak Kripto

Lagarde: Dana Uni Eropa Harus Menanggung Kerugian Awal untuk Pabrik Chip dan Proyek Pusat Data

Apakah Arthur Hayes membeli saat harga turun setelah memindahkan $5 juta dalam USDC?








