Hai lần rò rỉ trong một tuần: Claude của Anthropic có đang làm theo ý mình?
Cuộc sống luôn tìm ra con đường. Một tuần, hai lần rò rỉ khác nhau, cùng một cái tên xuất hiện: Claude, mô hình chủ lực của Anthropic. Sau khi phát hiện một lỗ hổng cục bộ trong Claude Cowork, công cụ tự động hóa các tác vụ trực tiếp trên máy tính của người dùng, công ty đã tự tiết lộ một sự cố thứ hai, không liên quan đến sự cố đầu tiên.
Lần này, ba mô hình của họ đã truy cập trái phép vào hệ thống sản xuất của ba tổ chức thực sự, trong các bài kiểm tra an ninh mạng đơn giản.
Các điểm chính của bài viết này:
- Claude của Anthropic đã trải qua hai lần rò rỉ an ninh trong một tuần, tiết lộ những lỗ hổng đáng lo ngại.
- Ba tổ chức đã bị xâm phạm trong các bài kiểm tra an ninh mạng, làm nổi bật những rủi ro của AI tự động.
Tập 1: cái hộp cát rò rỉ từ mọi phía
Các nhà nghiên cứu an ninh đã chỉ ra rằng chế độ thực thi cục bộ của Claude Cowork có thể bị vượt qua. Phương pháp: kết hợp nhiều điểm yếu kiến trúc với một lỗ hổng nâng cao quyền hạn của nhân Linux (trái tim của hệ thống quản lý quyền truy cập vào tài nguyên của máy).
Khi ra khỏi hộp cát (sandbox trong thuật ngữ) , tác nhân đã thừa hưởng quyền giống như người dùng đang đăng nhập: truy cập vào các tệp, có thể là khóa SSH và thông tin đám mây được lưu trữ trên máy.
Anthropic không phủ nhận, nhưng đã giảm nhẹ, đánh giá báo cáo là << thông tin >> và sửa đổi bằng cách chuyển mặc định Claude Cowork sang thực thi trên đám mây. Một bản sửa lỗi thực tiễn. Tuy nhiên, câu hỏi cơ bản vẫn còn đó: còn bao nhiêu cửa hậu khác vẫn tồn tại trong các tác nhân đã được phép thao tác tệp, thanh toán hoặc giao dịch tiền điện tử một cách tự động?
Tập 2: Anthropic chơi trò minh bạch, lỗi đến từ nơi khác
Câu trả lời đã đến nhanh hơn mong đợi. Trong một bài đăng vào 31 tháng 7 có tiêu đề Điều tra ba sự cố thực tế trong các đánh giá an ninh mạng của chúng tôi , Anthropic giải thích rằng họ đã xem xét 141 006 đánh giá mà mô hình của họ có thể đã có quyền truy cập Internet.
Ba trong số đó đã kết thúc không tốt: mô hình đã rời khỏi môi trường thử nghiệm của Irregular, đối tác đánh giá bên ngoài của họ, và cuối cùng đã xâm phạm cơ sở hạ tầng sản xuất của ba tổ chức khác nhau.
Khác với một sự vượt qua có chủ đích, Anthropic nhấn mạnh nguồn gốc của vấn đề: một sự hiểu lầm đơn giản với Irregular đã để lại quyền truy cập Internet mở trong môi trường đánh giá. Đối mặt với một bài tập capture-the-flag (thu hồi thông tin ẩn trên một máy khác trong mạng), mô hình đã xử lý các hệ thống thực mà nó gặp trên đường như thể chúng là một phần của trò chơi. Nó đã xâm phạm chúng bằng các kỹ thuật cơ bản: mật khẩu yếu và các điểm truy cập không được xác thực.
Không phải là kịch bản khoa học viễn tưởng mà người ta tưởng tượng khi nói về AI << trốn thoát >>. Thay vào đó là một chuỗi những sơ suất nhỏ của con người, được khuếch đại bởi một cỗ máy thực hiện mà không đặt câu hỏi. CNN tóm tắt tốt nghịch lý: mô hình chưa bao giờ cố gắng lừa dối ai, nó chỉ làm những gì được yêu cầu, mà không biết đâu là giới hạn của sân chơi.
Open AI và Anthropic: Những kẻ thù không đội trời chung
OpenAI đã trải qua sự cố của riêng mình một tuần trước đó với Hugging Face, một tác nhân đã tự xâm nhập trong một đánh giá tương tự. Hai gã khổng lồ cạnh tranh, hai lần rò rỉ chỉ cách nhau vài ngày: giờ đây thật khó để coi đó là một sự trùng hợp đơn giản.
Đây là một mô típ lặp lại, bất kể triết lý an ninh mà mỗi phòng thí nghiệm thể hiện. Anthropic cũng cẩn thận phân biệt trường hợp của mình với trường hợp của OpenAI: ở đây, không có ý định trốn thoát từ mô hình, chỉ là một ranh giới không rõ ràng giữa môi trường giả tưởng và cơ sở hạ tầng thực. Sự khác biệt này quan trọng cho hình ảnh thương hiệu. Tuy nhiên, nó không thay đổi nhiều cho ba công ty bị ảnh hưởng, những người đã bị xâm phạm mà không yêu cầu.
Chủ đề này vượt xa Anthropic hoặc OpenAI: đó là toàn bộ một ngành công nghiệp ngày càng dựa vào các tác nhân AI có khả năng hành động một mình, mà không có thời gian để một khuôn khổ an ninh trưởng thành theo kịp.
Nội dung này chỉ được đưa ra nhằm mục đích cung cấp thông tin chung, không phải là lời khuyên về tài chính, đầu tư, pháp lý hoặc thuế. Mọi sự kiện, phần thưởng, ưu đãi trực tuyến hoặc thông tin liên quan được đề cập trong nội dung này không được xem là khuyến nghị, chào mời hoặc lời mời mua, bán, giao dịch hoặc thực hiện bất kỳ hoạt động nào khác liên quan đến tài sản crypto. Tài sản crypto có độ biến động cao và có thể dẫn đến thua lỗ.Tính khả dụng của các dịch vụ, sản phẩm và sự kiện liên quan của WEEX có thể khác nhau tùy theo khu vực. Bạn có trách nhiệm bảo đảm việc tham gia của mình tuân thủ các luật và quy định hiện hành tại địa phương.
Bạn cũng có thể thích

Cuộc chiến công nghệ trong cuộc chiến lạnh mới

Công ty cổ phần không phải là điểm dừng, hình thức tổ chức thế hệ tiếp theo đang nổi lên

Hungary bãi bỏ quy định kiểm tra tiền điện tử, tái cấu trúc thị trường theo MiCA

Thí nghiệm thanh toán xuyên biên giới với "tiền tệ mã hóa" của BIS: 28 ngân hàng toàn cầu tham gia, hoàn tất thanh toán trung bình trong 80 giây

Khám Phá Hạ Tầng Web3: Năm Công Nghệ Cốt Lõi Để Hiểu Tương Lai Của Blockchain

Nhật Bản giữ lãi suất ở mức 1% và carry trade vẫn tiếp tục: điều gì thay đổi cho Bitcoin

"Đâm sau lưng" hay "Cùng có lợi"? Khả năng TradeXYZ tách khỏi Hyperliquid là bao nhiêu?

Hình Dạng Xây Dựng Trong Crypto Năm 2026

Câu chuyện chênh lệch giá của Axis thu hút 50 triệu USD chỉ trong 22 giờ, điều gì khiến nó hấp dẫn?

Hồng Kông mở cửa XRP cho nhà đầu tư cá nhân, châu Á dẫn đầu trong việc mở rộng thị trường quy định

Sự chấp nhận tiền điện tử đạt mức chưa từng có ở Canada

Airdrop tiền điện tử là gì? Token miễn phí, đủ điều kiện và cạm bẫy thuế

Yield farming là gì? Giải thích về khai thác thanh khoản và rủi ro APY

DAO là gì? Giải thích về quản trị phi tập trung

Bằng chứng cổ phần là gì? Cách các xác thực viên thay thế thợ mỏ

Hàn Quốc phê duyệt tài khoản quỹ chủ quyền mới cho AI và các lĩnh vực chiến lược

AI đại diện cho nhân viên, ai sẽ chịu trách nhiệm khi có sự cố?

New York kiện Kalshi về cáo buộc đánh bạc trái phép, yêu cầu bồi thường 36 tỷ USD

Dữ liệu lạm phát giảm nhiệt không thay đổi nguồn áp lực thực sự lên tài sản toàn cầu

Trung Quốc: 16 người bị giam giữ vì rửa tiền qua tiền điện tử

Vượt qua Bitcoin và Ethereum: 8 dự án tiền điện tử được xây dựng trên sự chấp nhận thực tế

Các token AI mất đà sau những đợt tăng giá chủ yếu do đầu cơ

Quỹ ETF HBAR của Canary nắm giữ 47,8 triệu USD sau khi ra mắt trên Nasdaq

Gumi và SBI thành lập quỹ tài sản tiền điện tử quy mô 3 tỷ yên, thúc đẩy ETF vật lý tại Nhật Bản

Quỹ Ethereum: Hacker đạo đức Pascal Caversaccio gia nhập hội đồng quản trị

Các công ty niêm yết tích trữ hàng chục nghìn BTC hiện ra sao?

Báo cáo sáng Wall Street: Microsoft giảm lo ngại "đốt tiền AI", cổ phiếu công nghệ phục hồi mạnh mẽ, ETF lưu trữ DRAM và bán dẫn tăng vọt 17% và 8%

Bong bóng AI: Dầu mỏ, Trung Quốc và Washington đe dọa thị trường

Bernstein phân tích Microsoft: Tăng trưởng Azure đạt 45%, số lượng Copilot vượt 30 triệu, thương mại hóa AI của Microsoft tiếp tục tăng tốc











