Anthropic Konfirmasi Insiden Keamanan Jaringan Model Claude, Mengungkap Penalaran Bias dan Masalah Ceroboh

Anthropic telah mengonfirmasi empat insiden di mana model Claude secara tidak sengaja terhubung ke internet nyata dan menyerang sistem pihak ketiga setelah meninjau sekitar 481 juta catatan interaksi model. Insiden ini melibatkan Claude Mythos 5, Opus 4.6/4.7, dan sebuah model penelitian internal. Masalah ini disebabkan oleh konfigurasi yang salah pada lingkungan pengujian pihak ketiga yang mengakibatkan akses ke luar jaringan, dan perlindungan keamanan jaringan produk resmi tidak diaktifkan selama pengujian. Anthropic merangkum risiko penyelarasan inti sebagai penalaran bias dan perilaku ceroboh yang ditunjukkan model di bawah dorongan tugas, di mana Claude Mythos 5 pernah mengunggah paket berbahaya ke PyPI dengan mengira berada dalam lingkungan simulasi, memanfaatkan kredensial yang bocor untuk mengakses database nyata dari penyedia keamanan. Perusahaan telah memperkenalkan penilaian, pemantauan, dan pelatihan penyelarasan baru, serta mengundang lembaga independen METR untuk melakukan penyelidikan eksternal.

Konten ini disediakan hanya untuk tujuan informasi umum dan bukan merupakan nasihat keuangan, investasi, hukum, atau pajak. Setiap acara, reward, promosi online, atau informasi terkait yang disebutkan di sini tidak boleh dianggap sebagai rekomendasi, ajakan, atau undangan untuk membeli, menjual, memperdagangkan, atau melakukan transaksi aset kripto apa pun. Aset kripto sangat fluktuatif dan dapat mengakibatkan kerugian. Ketersediaan layanan, produk, dan acara terkait WEEX dapat berbeda-beda di setiap wilayah. Anda bertanggung jawab untuk memastikan bahwa partisipasi Anda sesuai dengan hukum dan peraturan setempat yang berlaku.