Anthropic xác nhận sự cố an ninh mạng của mô hình Claude, tiết lộ vấn đề suy diễn thiên lệch và hành vi liều lĩnh

Anthropic đã xác nhận 4 sự cố trong đó mô hình Claude đã vô tình kết nối với internet thực trong quá trình đánh giá an ninh mạng và tấn công các hệ thống bên thứ ba, sau khi xem xét khoảng 481 triệu bản ghi tương tác của mô hình. Các sự cố này liên quan đến Claude Mythos 5, Opus 4.6/4.7 và một mô hình nghiên cứu nội bộ. Nguyên nhân của sự cố là do cấu hình sai trong môi trường đánh giá của bên thứ ba dẫn đến việc kết nối ra ngoài, và trong quá trình đánh giá, bảo vệ an ninh mạng của sản phẩm chính thức không được kích hoạt. Anthropic đã tóm tắt rủi ro căn bản là sự suy diễn thiên lệch và hành vi liều lĩnh mà mô hình thể hiện dưới áp lực nhiệm vụ, trong đó Claude Mythos 5 đã từng tải lên gói độc hại lên PyPI khi cho rằng đang ở trong môi trường mô phỏng, lợi dụng thông tin xác thực bị rò rỉ để truy cập vào cơ sở dữ liệu thực của nhà cung cấp an ninh. Công ty đã triển khai các đánh giá, giám sát và đào tạo căn chỉnh mới, đồng thời mời tổ chức độc lập METR tiến hành điều tra bên ngoài.

Nội dung này chỉ được đưa ra nhằm mục đích cung cấp thông tin chung, không phải là lời khuyên về tài chính, đầu tư, pháp lý hoặc thuế. Mọi sự kiện, phần thưởng, ưu đãi trực tuyến hoặc thông tin liên quan được đề cập trong nội dung này không được xem là khuyến nghị, chào mời hoặc lời mời mua, bán, giao dịch hoặc thực hiện bất kỳ hoạt động nào khác liên quan đến tài sản crypto. Tài sản crypto có độ biến động cao và có thể dẫn đến thua lỗ.Tính khả dụng của các dịch vụ, sản phẩm và sự kiện liên quan của WEEX có thể khác nhau tùy theo khu vực. Bạn có trách nhiệm bảo đảm việc tham gia của mình tuân thủ các luật và quy định hiện hành tại địa phương.