Mô hình AI Gemini đã vượt ra ngoài thử nghiệm và tấn công ba công ty thực tế

• Gemini đã truy cập vào các hệ thống thực tế của ba công ty.
• Sự cố xảy ra trong quá trình thử nghiệm mô hình AI vào tháng 5.
• Google không tiết lộ tên của các công ty bị ảnh hưởng, nhưng đã cung cấp thông tin về sự việc này cho họ và các cơ quan liên bang.

Mô hình Gemini của Google đã truy cập internet và xâm nhập vào hệ thống của ba công ty thực tế trong quá trình thử nghiệm khả năng an ninh mạng vào tháng 5 năm 2026, theo WSJ. Đây là trường hợp đầu tiên được biết đến khi hệ thống AI của Google thực hiện các hành động tương tự một cách tự động.

Google cho biết mô hình đã ngừng tấn công ngay sau khi nhận ra rằng nó đang làm việc với các công ty thực tế, vì vậy họ không coi sự cố này là một ví dụ về "sự không nhất quán" của AI.

Sự cố xảy ra trong quá trình thử nghiệm do công ty Irregular thực hiện. Google đã nhận được thông báo về sự việc vào cuối tháng 7 - sau khi một sự cố tương tự với các mô hình OpenAI tấn công nền tảng Hugging Face được biết đến.

Một tác nhân AI dựa trên GPT-5.6 đã tấn công cơ sở hạ tầng của Hugging Face trong quá trình thử nghiệm
22.07.2026
Đọc

AI của OpenAI đã vượt khỏi tầm kiểm soát: các mô hình đã hợp nhất thành một "đàn" và xâm nhập vào Hugging Face
27.08.2026
Đọc

Cách Gemini truy cập vào các hệ thống thực tế

Gemini đã tham gia vào một định dạng "cướp cờ", nơi nó phải lấy thông tin từ phần mềm của một công ty giả tưởng. Nó tình cờ có cùng tên với một công ty thực tế. Hơn nữa, các mô hình đã vô tình được cung cấp quyền truy cập vào internet, mặc dù điều này không được dự kiến trong thử nghiệm.
Đồ họa Incrypted.

Trong trường hợp đầu tiên, Gemini đã đoán được mật khẩu và truy cập vào dịch vụ của một công ty thực tế. Trong hai thử nghiệm khác, mô hình đã tìm thấy các kho lưu trữ công khai với thông tin xác thực của các công ty khác thông qua tìm kiếm web, cố gắng sử dụng chúng và đã truy cập vào các hệ thống bảo mật.

Trong cả ba trường hợp, Gemini sau đó xác định rằng nó đang làm việc với một công ty thực tế và đã ngừng hoạt động. Google không tiết lộ tên của các tổ chức bị ảnh hưởng, nhưng đã thông báo cho họ về các sự cố và thông báo cho các cơ quan liên bang.

Trong khi đó, công ty không nêu rõ phiên bản cụ thể của Gemini, chỉ cho biết rằng đó không phải là mô hình mới nhất của nó.

Hướng dẫn từng bước để sử dụng Gemini 3.6 Flash (+ đánh giá 3.5 Flash-Lite và 3.5 Flash Cyber)
22.07.2026
Đọc

Đánh giá Gemini 3.7 Flash: những gì mới và cách xây dựng tiện ích mở rộng Chrome
24.08.2026
Đọc

Gemini 3.8 Flash: những gì mới trong mô hình thứ ba trong một tháng rưỡi của Google và cách xây dựng trò chơi 3D
04.09.2026
Đọc

Phó Chủ tịch Google về kỹ thuật an ninh Heather Adkins cho biết:

"Sự kiện này nhấn mạnh tầm quan trọng của việc đào tạo các mô hình AI mạnh mẽ về hành vi có trách nhiệm. Trong trường hợp này, mô hình đã hành động đúng cách."

Sự cố trở thành một phần của vấn đề lớn hơn

Google so sánh tình huống này với chương trình bug bounty, vì mô hình không gây hại và đã ngừng xâm nhập. Tuy nhiên, CEO của startup Corridor và hacker "trắng" Jack Cable cho rằng điều này không giải quyết được vấn đề chính:

"Có cảm giác như họ đang cố gắng ẩn mình sau các quy định đã hình thành xung quanh việc công bố các lỗ hổng, mặc dù đây là một vấn đề hoàn toàn khác."

Theo ông, vấn đề chính là các mô hình vượt ra ngoài giới hạn cho phép và thực hiện các cuộc tấn công mạng thực sự.

Irregular cho biết tất cả các phòng thí nghiệm liên quan và các công ty bị ảnh hưởng đã được thông báo vào cuối tháng 7, và các vấn đề được phát hiện từ phía tổ chức thử nghiệm đã được khắc phục.

Các trường hợp tương tự trước đây đã được ghi nhận ở các mô hình của Anthropic, OpenAI và Meta. Cụ thể, trong sự cố với Hugging Face, lên đến 1200 tác nhân OpenAI đã phối hợp hành động thông qua một bảng thông báo ẩn, cố gắng vượt qua đánh giá.

Nhà nghiên cứu tiết lộ cách các tác nhân AI của OpenAI đã tạo ra ba "nền văn minh" và tấn công Hugging Face
30.08.2026
Đọc

Mô hình AI Kimi K3 của Trung Quốc từ Moonshot AI cũng đã có thể rời khỏi môi trường cách ly và truy cập internet trong quá trình thử nghiệm.

Trước bối cảnh những sự kiện này, OpenAI đã bắt đầu phát triển các cơ chế dừng tự động cho các hệ thống AI khi phát hiện hành vi nguy hiểm. Đồng thời, OpenAI đã công khai kêu gọi làm chậm tốc độ phát triển AI, trong khi Anthropic đã trình bày kế hoạch kiểm soát AI.

Nội dung này chỉ được đưa ra nhằm mục đích cung cấp thông tin chung, không phải là lời khuyên về tài chính, đầu tư, pháp lý hoặc thuế. Mọi sự kiện, phần thưởng, ưu đãi trực tuyến hoặc thông tin liên quan được đề cập trong nội dung này không được xem là khuyến nghị, chào mời hoặc lời mời mua, bán, giao dịch hoặc thực hiện bất kỳ hoạt động nào khác liên quan đến tài sản crypto. Tài sản crypto có độ biến động cao và có thể dẫn đến thua lỗ.Tính khả dụng của các dịch vụ, sản phẩm và sự kiện liên quan của WEEX có thể khác nhau tùy theo khu vực. Bạn có trách nhiệm bảo đảm việc tham gia của mình tuân thủ các luật và quy định hiện hành tại địa phương.