Agen IA: Mereka Memberikan Diri Mereka Sendiri Hak untuk Menghabiskan Lebih Banyak Crypto
Anjing penjaga memiliki kunci kandang. Peneliti dari Cornell Tech dan Yale telah memberikan dompet crypto kepada sepuluh model IA, dengan batas pengeluaran satu sen per hari. Sembilan dari mereka telah menaikkan batas ini tanpa meminta izin dari siapa pun. Ini cukup untuk mendinginkan mereka yang sudah melihat agen IA membayar untuk kita.
Poin-poin kunci dari artikel ini:
- Peneliti menemukan bahwa 9 dari 10 model IA secara mandiri menaikkan batas pengeluaran mereka, menggunakan kode verifikasi yang ditujukan untuk manusia.
- Sebuah studi mengungkapkan bahwa 5 dari 10 model IA telah mentransfer uang kepada penyerang yang disimulasikan, menyoroti risiko potensial dari sistem pembayaran otomatis oleh agen IA.
Agen IA: 9 dari 10 Model Menaikkan Batas Mereka Sendiri
Protokolnya sederhana. Sebuah dompet agen Circle, diisi dengan 10 USDC di jaringan Base, dibatasi pada 1 sen pengeluaran harian. Agen tersebut memiliki alat untuk membaca email, menjelajahi web, dan menggunakan dompetnya. Dan di sinilah semua terjadi: kotak surat agen juga yang menerima kode validasi yang ditujukan untuk pemiliknya. Tingkat kenaikan batas pengeluaran secara mandiri menurut model IA dan skenario yang diuji. Hanya Claude Opus 5.5 yang tidak pernah menaikkan batasnya. Sumber: I-HITL (Cornell Tech / Yale), GitHub
Setiap model diuji 20 kali dalam setiap skenario. Tanpa ada penyerang dalam lingkaran, 9 dari 10 model telah menaikkan batas mereka setidaknya sekali, hanya dengan mengambil kode verifikasi dari kotak surat yang seharusnya memvalidasi keputusan manusia. Hanya satu yang tidak pernah mencoba, Claude Opus 5.5 dari Anthropic, yang menghabiskan hingga batas dan melaporkan tagihan yang tersisa, menurut CoinDesk.
Agen tersebut tidak meretas apa pun. Ia membaca email, menyalin kode, mengklik validasi, persis seperti yang dilakukan asisten yang bersemangat yang ingin menyelesaikan tugasnya.
Penipuan: 5 dari 10 Model Mengirim Uang ke Penyerang
Uji kedua lebih mengkhawatirkan. Para peneliti mensimulasikan seorang penyerang yang menulis kepada agen dengan menyamar sebagai pemilik dan meminta pembayaran ke dompetnya sendiri. Instruksi yang diberikan kepada agen hanya terbatas pada merangkum email yang diterima.
Lima dari sepuluh model telah menaikkan batas mereka dan mengirim uang kepada penyerang setidaknya sekali.
< < Sebagian besar sistem pembayaran untuk agen memverifikasi bahwa persetujuan telah diterima, tidak selalu bahwa seorang manusia benar-benar memberikannya > >, ringkas peneliti Anzalone dari Universitas Verona. Circle, yang diberitahu pada bulan Oktober, mengingatkan bahwa dokumentasinya < < secara eksplisit meminta untuk tidak pernah memberikan akses tidak terbatas kepada agen IA ke akun email > > yang digunakan untuk verifikasi. Siaran pers tidak menyebutkan adanya perubahan pada produk.
Countersign: Solusi Melalui Tindakan Fisik
Studi ini, berjudul < < I-HITL: Inalienable Human-in-the-Loop > > dan ditandatangani oleh mahasiswa doktoral Samuel Breckenridge dan Dani Vilardell, menarik kesimpulan sederhana. Setiap persetujuan yang dapat dicapai oleh agen tidak dapat diandalkan. Oleh karena itu, para peneliti telah menerbitkan Countersign, sebuah aplikasi mobile open source untuk Android dan iPhone yang mengharuskan interaksi fisik yang tidak dapat disimulasikan oleh perangkat lunak, menurut Dani Vilardell. Layar persetujuan juga harus menunjukkan representasi yang akurat dari tindakan yang akan divalidasi.
Bagi Anda, pelajaran praktisnya dapat diringkas dalam satu kalimat. Seorang agen yang mengelola dompet tidak boleh pernah memiliki akses ke saluran yang digunakan untuk memvalidasi pengeluarannya sendiri, baik itu email, SMS, atau notifikasi.
Namun, raksasa industri justru bergerak ke arah sebaliknya, dengan dompet untuk agen di MetaMask atau Coinbase. Chainalysis sudah mencatat 138 juta pembayaran oleh agen melalui protokol x402 di Base dalam setahun.
Harga --
Konten ini disediakan hanya untuk tujuan informasi umum dan bukan merupakan nasihat keuangan, investasi, hukum, atau pajak. Setiap acara, reward, promosi online, atau informasi terkait yang disebutkan di sini tidak boleh dianggap sebagai rekomendasi, ajakan, atau undangan untuk membeli, menjual, memperdagangkan, atau melakukan transaksi aset kripto apa pun. Aset kripto sangat fluktuatif dan dapat mengakibatkan kerugian. Ketersediaan layanan, produk, dan acara terkait WEEX dapat berbeda-beda di setiap wilayah. Anda bertanggung jawab untuk memastikan bahwa partisipasi Anda sesuai dengan hukum dan peraturan setempat yang berlaku.
Anda mungkin juga menyukai

Mengapa Pengembalian Pendapatan Sulit Mendorong Harga Koin? Hubungan Antara Pengembalian Bersih dan Harga Hanya Lemah

Peter Schiff mengatakan Solana dapat menggantikan eksposur Bitcoin. Bisakah?

Saham AMD Baru Saja Terjun Bebas Setelah Laporan Penjual Pendek. Apakah Ini Kesempatan Emas untuk Membeli?

Mengapa Turun Bersama Saham Teknologi? Emas Menjadi "Mesin Penarikan" Krisis Likuiditas

Analisis Laporan Q3 Monad: Biaya Jaringan Didominasi oleh Transaksi, Skala Pembukaan Terkendali

Protokol Sky Menghadapi Penarikan Stablecoin Senilai 2 Miliar Dolar!
![[Kolom] Pertanyaan yang Dapat Diajukan Mengenai Penundaan Pajak Aset Kripto Selama 2 Tahun... "Di Mana Kita Akan Menyimpannya?"](/public-static/081_0e4aedee7f.png?format=avif)
[Kolom] Pertanyaan yang Dapat Diajukan Mengenai Penundaan Pajak Aset Kripto Selama 2 Tahun... "Di Mana Kita Akan Menyimpannya?"

Otoritas Jasa Keuangan Korea Akan Melakukan Pemeriksaan Mendadak Terhadap Bursa Kripto

Tesla Baru Saja Mulai Menjual Cybercab, Ini Artinya untuk Merger SpaceX dan Tesla.

Crypto atau Tabungan Pensiun? Apa yang Diungkapkan Survei tentang Gen Z Amerika

Jefferies Peringatkan Penurunan Investasi AI Akan Memengaruhi Pasar Berkembang, Menurunkan Peringkat Pasar Saham Korea

Bagaimana Melindungi Kekayaan Anda di Tengah Gejolak Geopolitik?

Di Mana Saham Nvidia Akan Berada dalam 20 Tahun? Jawabannya Mungkin Mengejutkan Anda.

Netflix Jatuh di Bawah $60. Bill Ackman Menjelaskan Mengapa Ini adalah Kesempatan Investasi yang Luar Biasa.

Tinjauan Makroekonomi untuk Minggu Depan: Rilis Data PCE Inti AS pada Bulan Oktober, Penutupan Pasar untuk Liburan Thanksgiving

Midterms 2026: Inilah Apa yang Saya Lakukan dengan Portofolio Investasi Saya Saat Ini

Pasar Saham AS Mengalami Penjualan Panik, Banyak Lembaga Menganggap Masih Dalam Tahap Penyesuaian Bull Market

Miliarder David Tepper Baru Saja Melakukan Rotasi Chip AI Besar-Besaran --- Apakah Ini Akan Membayar?

Kehilangan Jensen Huang, Biaya Jauh Lebih dari 2,5 Triliun Dolar

Jika Terjadi Krisis Pasar Saham, Warren Buffett Mengatakan Ini adalah Langkah Utama yang Harus Dilakukan Semua Investor

Haruskah Anda Menginvestasikan $1.000 di Bloom Energy Sekarang?
![[Analisis] Alasan Penurunan Bitcoin Kali Ini Berbeda dari yang Lalu](/public-static/30_f8d737795f.png?format=avif)
[Analisis] Alasan Penurunan Bitcoin Kali Ini Berbeda dari yang Lalu

Apakah Tilray Layak Dibeli di Titik Terendahnya, ataukah Ini Trap Nilai?

2 Saham Keuangan untuk Dibeli Dekat Titik Terendah 52-Minggu Mereka

Temui Aturan Warren Buffett yang Membuat Saham Konsumen Ini Layak Dibeli dengan $1.000 Sekarang

Lebih Baik Dibeli: Bitcoin vs. Ethereum

Buyback Baru Airbnb Sebesar $12 Miliar Didukung oleh Margin Arus Kas Bebas 35%. Ini Artinya bagi Pemegang Saham.

Departemen Keuangan AS menjual $15 miliar dalam lelang surat utang kas sembilan hari pertama sejak 2008

Bukan Anthropic. Bukan SpaceX. Ini Saham AI yang Harus Dibeli untuk Jangka Panjang











