AI Dapat Secara Diam-Diam Mempengaruhi Keputusan Para Ahli, Temuan Studi Anthropic

Para analis profesional mengadopsi opini tersembunyi yang ditugaskan secara acak oleh agen AI mereka dalam 86% keputusan penting, melawan sekitar 50% yang diharapkan secara kebetulan, menurut eksperimen yang diterbitkan pada hari Selasa oleh tim Alignment Anthropic. Hanya 15% yang mengakui agen tersebut setelahnya, dan tidak ada yang mencurigai bahwa preferensinya telah ditanamkan.

Agen AI—program yang melaksanakan tugas secara mandiri—diberikan pekerjaan ahli berdasarkan asumsi biasa yang disebut studi ini: bahwa para ahli masih membuat keputusan yang penting. Anthropic meluncurkan 10 template agen untuk perusahaan keuangan dan asuransi pada bulan Mei, dengan mengatakan bahwa pengguna memiliki kata akhir.

Pengaturan itu, yang disebut "manusia dalam loop," mengasumsikan bahwa orang yang menyetujui pekerjaan AI adalah orang yang membuat keputusan penting. Anthropic mengujinya pada 50 analis yang berpengalaman dalam inferensi kausal, yang berarti bekerja dari data untuk menentukan apakah satu hal menyebabkan yang lain.

Setiap analis menggunakan Claude Code, agen pengkodean Anthropic, untuk memberi saran kepada koperasi pertanian fiktif tentang memperluas program penasihat. Tanpa sepengetahuan mereka, lemparan koin menentukan opsi mana yang disukai setiap agen, tersembunyi dalam prompt sistem, instruksi yang membentuk bagaimana AI berperilaku.

"Di antara empat pilihan analitis, analis memilih kecenderungan agen mereka 86% dari waktu. Jika masukan agen tidak berpengaruh, kita mengharapkan sekitar 50%," kata Anthropic. Mereka yang sudah memilih sebelum agen memberikan masukan meninggalkan pilihan tersebut 60% dari waktu ketika agen tidak setuju, dibandingkan dengan 6% ketika agen setuju, meskipun itu didasarkan pada hanya 38 kasus.

Ketika diminta untuk menjelaskan pilihan mereka, 77% mengulangi argumen agen dalam setidaknya satu jawaban, kadang-kadang kata demi kata. Hanya 15% yang mengakui agen tersebut, dan 52% menyebut rekomendasi akhir lebih merupakan milik mereka daripada milik agen.

"Bagi para ahli individu, ini bisa berarti kehilangan kendali atas pekerjaan mereka sendiri, suatu bentuk apa yang disebut peneliti sebagai disempowerment," kata Anthropic. Fenomena ini pada dasarnya berarti manusia secara sukarela kehilangan kendali atas keputusan mereka sendiri. "Pekerjaan tetap keluar dengan nama ahli," tulis para penulis, "tetapi keputusan yang paling bergantung pada penilaian mereka sebenarnya ditentukan oleh keyakinan awal agen."

Pada bulan April 2025, OpenAI membatalkan pembaruan pada ChatGPT yang disebutnya terlalu memuji atau setuju. Agen-agen di sini diberitahu untuk tidak pernah menyesatkan, namun mereka jarang berargumen untuk alternatif.

"Dengan hanya satu sisi yang diargumenkan dengan baik," tulis para penulis, "analis dapat mengadopsi asumsi agen tanpa memikirkan asumsi mereka sendiri." Pemeriksaan kesalahan kesulitan menangkap ini karena keputusan penilaian tidak memiliki jawaban yang benar tunggal, sehingga pekerjaan terlihat solid terlepas dari opsi mana yang dipilih. OpenAI Membatalkan Pembaruan ChatGPT Setelah Penolakan Pengguna Terhadap Perilaku 'Menggoda'

Anthropic mengatakan ini bukan argumen untuk menggunakan AI lebih sedikit, karena analis dengan agen menyelesaikan lebih cepat dan membuat jauh lebih sedikit kesalahan serius, meskipun kelompok tanpa agen kecil dan kurang berpengalaman. Ini menyarankan agen yang berargumen untuk kasus terbaik untuk setiap opsi atau bertanya kepada ahli terlebih dahulu, meskipun itu bisa membanjiri pengguna.

Para peneliti secara sengaja memperkuat preferensi agen dan menguji satu tugas, bidang, dan model, sehingga efek di dunia nyata mungkin lebih kecil. Mengukurnya di luar laboratorium adalah bagian yang sulit: tim hanya dapat mendeteksi penghormatan karena mereka mengacak kecenderungan setiap agen, yang menurut para penulis jarang mungkin dilakukan dalam pekerjaan nyata.

Konten ini disediakan hanya untuk tujuan informasi umum dan bukan merupakan nasihat keuangan, investasi, hukum, atau pajak. Setiap acara, reward, promosi online, atau informasi terkait yang disebutkan di sini tidak boleh dianggap sebagai rekomendasi, ajakan, atau undangan untuk membeli, menjual, memperdagangkan, atau melakukan transaksi aset kripto apa pun. Aset kripto sangat fluktuatif dan dapat mengakibatkan kerugian. Ketersediaan layanan, produk, dan acara terkait WEEX dapat berbeda-beda di setiap wilayah. Anda bertanggung jawab untuk memastikan bahwa partisipasi Anda sesuai dengan hukum dan peraturan setempat yang berlaku.