"Menjual AGI kepada Pemerintah AS, China, dan Rusia" ... OpenAI Pernah Merencanakan "Lelang Negara"

Salah satu alasan Dario Amodei meninggalkan OpenAI

Bocoran ringkasan buku tentang pendiri Anthropic

"Perpisahan Altman dan Amodei adalah masalah kepercayaan"

[Reporter Blockmedia James Jung] Latar belakang Dario Amodei, pendiri Anthropic, meninggalkan OpenAI tidak hanya karena perbedaan filosofis seputar keamanan kecerdasan buatan (AI).

Ada diskusi di OpenAI untuk menjual hak atas kecerdasan umum (AGI) kepada pemerintah seperti AS, China, dan Rusia melalui lelang untuk mendapatkan dana pengembangan. Ketika Amodei mengetahui rencana yang disebut "rencana negara (countries plan)" ini, muncul kesaksian bahwa kepercayaan antara kedua belah pihak hancur.

"Rencana negara" yang pernah dibahas di dalam OpenAI dimulai dari gagasan bahwa risiko AGI dikelola secara bersama oleh masyarakat internasional. Namun, OpenAI yang saat itu mengalami kesulitan keuangan, bahkan mempertimbangkan rencana mengejutkan untuk melelang hak atas AGI di masa depan kepada pemerintah negara-negara.

Dario Amodei, yang merupakan kepala penelitian di OpenAI, sangat menolak rencana ini, dengan alasan bahwa hal itu dapat memicu perlombaan senjata AI dan pelanggaran hak asasi manusia.

Pendanaan dengan Menjual AGI kepada Negara

Majalah bulanan AS, The Atlantic, pada 29 bulan lalu (waktu setempat) merilis kutipan dari buku baru Kevin Roose, "Kronik AGI (The AGI Chronicles)". Roose mewawancarai lebih dari 150 orang dari OpenAI, Anthropic, dan Google DeepMind, serta melacak proses perpisahan Amodei dan manajemen OpenAI berdasarkan dokumen internal.

Amodei bergabung dengan OpenAI, yang saat itu merupakan lembaga penelitian nirlaba, setelah meninggalkan Google pada tahun 2016. Dia memimpin penelitian yang menunjukkan bahwa peningkatan skala model AI berhubungan dengan peningkatan kecerdasan.

Awal konflik terjadi pada tahun 2017. Ketika pendanaan dari Elon Musk dihentikan, OpenAI harus mencari cara baru untuk mendapatkan dana pengembangan AI yang besar.

Greg Brockman, salah satu pendiri OpenAI, dan Ilya Sutskever, kepala ilmuwan, mengusulkan "rencana negara". Awalnya, gagasannya adalah beberapa negara membentuk suatu badan internasional untuk mengelola risiko AGI secara bersama dan berbagi manfaat.

Namun, pada tahap pengumuman internal, sifatnya berubah. Diskusi muncul mengenai cara semacam lelang untuk memberikan hak atas teknologi AGI masa depan kepada negara-negara seperti AS, China, dan Rusia untuk mendapatkan dana. Seorang peserta yang mendengar rencana tersebut mengingat bahwa itu terdengar seperti ide startup yang ingin mendapatkan uang dari pemerintah.

Apakah gagasan ini diusulkan langsung oleh Sam Altman, CEO OpenAI, belum dapat dipastikan.

Jika Harus Diserahkan kepada Pemerintah, Lebih Baik Dijual

Ide lelang ini terkait dengan keamanan nasional. Jika AGI terwujud, kemungkinan besar pemerintah negara-negara akan mengambil teknologi dari perusahaan pengembang. Jika teknologi tersebut pada akhirnya harus diserahkan kepada pemerintah, lebih baik mendapatkan dana dari pemerintah terlebih dahulu pada saat membutuhkan uang.

Rencana mengejutkan ini muncul saat OpenAI mencari sumber dana baru, namun juga berkaitan dengan kontroversi mengenai teori kehancuran AI dan pengembangan AI yang dipimpin negara. Ini menimbulkan pertanyaan mendasar, "Apa yang dipikirkan perusahaan pengembang AI swasta dalam menciptakan teknologi AGI?"

Amodei secara langsung menolak rencana negara tersebut. Dia mengirim email kepada Brockman dan Sutskever serta manajemen lainnya pada bulan Desember 2017, mengklaim bahwa rencana ini tidak hanya tidak akan mengurangi perlombaan senjata, tetapi malah dapat memperburuknya. Dia juga mengangkat kemungkinan bahwa pemerintah otoriter dapat mengamankan AGI yang mencerminkan nilai-nilai mereka, yang dapat mengarah pada pelanggaran hak asasi manusia yang serius.

Dia memperingatkan bahwa rencana semacam ini dapat merusak legitimasi moral OpenAI. Organisasi yang mengklaim mengembangkan AGI secara aman, tetapi menyediakan teknologi yang kuat kepada pemerintah negara-negara untuk mendapatkan dana, bertentangan dengan tujuan pendiriannya.

Rencana tersebut pada akhirnya tidak dilaksanakan. Setelah itu, Microsoft (MS) melakukan investasi besar-besaran ke OpenAI, dan rencana negara tersebut pun menghilang ke dalam laci.

OpenAI membantah klaim Roose, menyatakan bahwa mereka "sejenak mempertimbangkan apakah OpenAI dapat diubah menjadi proyek kerjasama internasional", tetapi tidak mempertimbangkan untuk menjual AGI kepada China atau Rusia.

Dari 'Rencana Negara' hingga MS·GPT-3... Ketidakpercayaan yang Meningkat

Rencana negara bukanlah satu-satunya penyebab perpisahan. Beberapa insiden terjadi setelahnya, yang semakin memperburuk ketidakpercayaan antara Amodei dan manajemen.

Ada juga konflik seputar versi tertutup GPT-3. Amodei meminta daftar pelanggan yang disetujui untuk menggunakan model kepada Altman dan menerima informasi tersebut. Namun, dia kemudian mengetahui bahwa ada daftar yang lebih panjang daripada yang dia terima. Amodei mulai curiga bahwa informasi yang diberikan kepadanya diseleksi.

Negosiasi investasi dengan MS juga menjadi masalah. Anggaran dasar OpenAI mencakup prinsip bahwa proyek lain yang mengutamakan keamanan dapat menghentikan kompetisi dan berkolaborasi jika mendekati pengembangan AGI. Amodei ingin agar kemungkinan ini dijamin dalam kontrak investasi dengan MS.

Namun, Altman menjelaskan bahwa MS tidak akan menerima hal tersebut. Amodei meragukan seberapa kuat Altman mengajukan permintaan tersebut dalam negosiasi yang sebenarnya. Perbedaan pendapat tentang keputusan bisnis individu berkembang menjadi masalah kepercayaan terhadap manajemen.

Pada tahun 2020, upaya untuk memberikan akses beta GPT-3 kepada rapper Kanye West juga menjadi kontroversi. Setelah bertemu West, Altman berusaha untuk mengundangnya ke beta GPT-3 secara tidak resmi. Namun, Jack Clark, kepala kebijakan OpenAI saat itu, campur tangan dan undangan tersebut tidak terlaksana.

Bagi Amodei, inti masalahnya adalah 'kepercayaan'. Dia dilaporkan mencatat secara terpisah kasus-kasus di mana dia merasa 'ditipu' oleh Altman selama bekerja di OpenAI. Menurut dokumen yang disediakan, ada catatan dalam sebuah memo yang menyatakan bahwa inti masalahnya adalah 'Altman itu sendiri'.

Keruntuhan Kepercayaan dan Perpisahan

Konflik akhirnya meluas menjadi masalah struktur kekuasaan organisasi. Amodei meminta agar tim keamanan diberikan hak veto untuk menghentikan peluncuran produk baru sebagai syarat untuk tetap di OpenAI. Siapa yang harus memiliki wewenang akhir jika keamanan AI bertentangan dengan tujuan bisnis menjadi isu utama.

Selama negosiasi berlangsung, Amodei dan enam rekan lainnya membuat saluran Slack informal bernama 'BATNA'. BATNA (Best Alternative To a Negotiated Agreement) berarti alternatif terbaik yang dapat dipilih jika negosiasi gagal.

Pertemuan rahasia tersebut dihadiri oleh Daniella Amodei (sepupu Dario), Jack Clark, Sam McCandlish, Tom Brown, Chris Ola, dan Jared Kaplan. Mereka bersiap untuk perpisahan sambil melakukan negosiasi untuk tetap di OpenAI.

Akhirnya, kedua belah pihak melibatkan pengacara untuk bernegosiasi tentang syarat-syarat keluar yang disebut "perceraian (divorce)" secara internal. Altman setuju untuk memberikan kesempatan kepada mereka untuk merekrut karyawan OpenAI dalam jangka waktu tertentu, tetapi tidak merekrut tambahan selama satu tahun setelahnya. Syarat untuk tidak mencemarkan nama baik satu sama lain juga termasuk.

Pada bulan Desember 2020, dalam rapat video seluruh perusahaan, Amodei dan rekan-rekannya mengumumkan bahwa mereka akan meninggalkan perusahaan untuk membentuk organisasi keamanan AI baru. Di akhir rapat, akses email dan Slack mereka di OpenAI juga diblokir. Amodei mendirikan Anthropic pada tahun 2021.

Konten ini disediakan hanya untuk tujuan informasi umum dan bukan merupakan nasihat keuangan, investasi, hukum, atau pajak. Setiap acara, reward, promosi online, atau informasi terkait yang disebutkan di sini tidak boleh dianggap sebagai rekomendasi, ajakan, atau undangan untuk membeli, menjual, memperdagangkan, atau melakukan transaksi aset kripto apa pun. Aset kripto sangat fluktuatif dan dapat mengakibatkan kerugian. Ketersediaan layanan, produk, dan acara terkait WEEX dapat berbeda-beda di setiap wilayah. Anda bertanggung jawab untuk memastikan bahwa partisipasi Anda sesuai dengan hukum dan peraturan setempat yang berlaku.