OpenAI ra mắt GPT-Red, một AI tấn công các mô hình của chính nó để củng cố chúng

By: rootdata|2026/07/16 13:00:00

OpenAI đã giới thiệu vào thứ Tư, ngày 15 tháng 7 năm 2026, một công cụ red-teaming tự động có tên là GPT-Red, có nhiệm vụ tăng cường khả năng chống lại các cuộc tấn công bằng cách tiêm lệnh của GPT-5.6. Khái niệm này xuất phát từ một thực tế đơn giản: các phương pháp kiểm tra xâm nhập của con người không còn theo kịp khả năng của các mô hình. Thách thức hiện nay đang gia tăng, vì những lỗ hổng này ảnh hưởng trực tiếp đến an ninh của các tác nhân tự động.

Tóm tắt

  • GPT-Red đã thành công 84% trong các kịch bản đánh giá nội bộ về việc tiêm lệnh, so với 13% cho các đội red team con người.
  • OpenAI đã đào tạo GPT-Red thông qua học tăng cường tự đối kháng để củng cố GPT-5.6 trước khi triển khai.
  • Quỹ Ethereum cũng đã triển khai các tác nhân AI để kiểm toán cơ sở hạ tầng mạng quan trọng của mình vào tháng 7 năm 2026.

GPT-Red bắt nguồn từ logic của an ninh tấn công tự động. GPT-Red có tên từ "red teaming", một thực hành an ninh mạng nhằm cố gắng cố ý phá vỡ một hệ thống để phát hiện những điểm yếu của nó trước khi một kẻ tấn công khai thác chúng.

OpenAI giải thích rằng mô hình đã được đào tạo thông qua học tăng cường tự đối kháng (self-play). Nó tạo ra các cuộc tấn công bằng cách tiêm lệnh ngày càng tinh vi hơn, trong khi các mô hình phòng thủ học cách chống lại chúng. Mỗi cuộc tấn công thành công sau đó nuôi dưỡng việc đào tạo GPT-5.6, khiến nó trở nên mạnh mẽ hơn ngay cả trước khi triển khai.

Trong một trường hợp nghiên cứu được OpenAI trích dẫn, hệ thống đã thao túng một tác nhân tự động quản lý một máy bán hàng tự động, khiến nó giảm giá, đặt hàng tồn kho với giá thấp hơn và hủy đơn hàng của một khách hàng khác.

Lỗ hổng đã được báo cáo và sửa chữa trước khi có bất kỳ khai thác thực tế nào. Ví dụ này cho thấy một cuộc tiêm lệnh có thể biến một trợ lý thành một công cụ bị lợi dụng, mà người dùng không hề hay biết.

Con số nổi bật trong thông báo của OpenAI là sự khác biệt về hiệu suất được đo lường nội bộ. Trong cùng các kịch bản đánh giá, GPT-Red đã thành công 84% trong các cuộc tấn công bằng cách tiêm lệnh, so với chỉ 13% cho các đội red team con người.

OpenAI biện minh cho việc tự động hóa này trong một thông điệp được công bố trên X. "Khi khả năng của các mô hình tăng lên, sự an toàn và sự phù hợp phải phát triển với cùng một nhịp độ", công ty viết.

Mô hình hoạt động thông qua tự đối kháng đối kháng, OpenAI nhấn mạnh. "GPT-Red học thông qua tự đối kháng đối kháng, mục tiêu của nó là tiêm các lệnh vào một loạt các mô hình phòng thủ khó khăn", công ty chi tiết.

Vòng lặp tự nuôi dưỡng, và chính xác đây là điều mà các nhà nghiên cứu nhắm đến: một động cơ cải tiến liên tục thay vì một chiến dịch kiểm tra tạm thời.

GPT-Red kéo dài nhiều năm nỗ lực an ninh mạng mà OpenAI đã thực hiện sau thành công công khai của ChatGPT. Công ty đã tạo ra Mạng Red Teaming OpenAI vào năm 2023, tuyển dụng các nhà nghiên cứu bên ngoài để khảo sát các mô hình của mình nhằm tìm kiếm lỗ hổng trước khi công bố.

Việc chuyển sang mô hình tự động đánh dấu một sự thay đổi lớn, vì một AI sản xuất các cuộc tấn công ở quy mô không thể đạt được cho con người.

Thông báo này nằm trong một phong trào rộng lớn hơn: đó là AI bảo vệ AI. Sớm hơn vào tháng 7 năm 2026, Quỹ Ethereum đã chỉ ra rằng họ đã triển khai các tác nhân AI để kiểm toán cơ sở hạ tầng mạng quan trọng của mình, phát hiện một lỗ hổng trong phần mềm được sử dụng bởi các khách hàng đồng thuận của họ.

OpenAI giữ GPT-Red trong bí mật, nhưng nhìn thấy một vòng tròn tích cực.

OpenAI giữ GPT-Red như một công cụ hoàn toàn nội bộ. Mô hình chứa các khả năng tấn công được phát triển một cách có chủ ý, điều này loại trừ bất kỳ sự phát tán công khai nào. Tuy nhiên, công ty nhìn thấy đây là khởi đầu của một vòng tròn tích cực.

"Chúng tôi tin rằng với GPT-Red, chúng tôi đã bắt đầu mở khóa một hiệu ứng lan tỏa tương tự cho sự an toàn, nơi các mô hình ngày nay phục vụ để làm cho các mô hình ngày mai mạnh mẽ hơn, phù hợp hơn và đáng tin cậy hơn", công ty kết luận.

Tóm lại, OpenAI đã biến việc tấn công tự động thành một lá chắn cho GPT-5.6, với một khoảng cách hiệu suất đáng nể: 84% thành công cho GPT-Red so với 13% cho con người. Sự chuyển mình này sang một AI bảo vệ một AI khác đang định hình lại tư thế an ninh của ngành công nghiệp, từ các phòng thí nghiệm đến các blockchain.

Giá --

--

Tuyên bố miễn trừ trách nhiệm: Nội dung này chỉ được cung cấp nhằm mục đích xây dựng thương hiệu và cung cấp thông tin chung, không phải là lời khuyên về tài chính, đầu tư, pháp lý hoặc thuế. Mọi sự kiện, phần thưởng, sự kiện trực tuyến hoặc thông tin liên quan được đề cập trong nội dung này không được xem là khuyến nghị, chào mời hoặc lời mời mua, bán, giao dịch hoặc thực hiện bất kỳ hoạt động nào khác liên quan đến tài sản crypto hay sử dụng bất kỳ dịch vụ nào. Tài sản crypto có mức biến động cao và có thể dẫn đến thua lỗ. Dịch vụ và các sự kiện trực tuyến của WEEX có thể không khả dụng tại tất cả khu vực và phải tuân theo các luật, quy định và điều kiện đủ điều kiện hiện hành. Bạn có trách nhiệm bảo đảm việc sử dụng các dịch vụ của WEEX tuân thủ luật pháp địa phương và tự đánh giá cẩn thận các rủi ro trước khi tham gia bất kỳ hoạt động nào liên quan đến crypto.

Bạn cũng có thể thích

iconiconiconiconiconiconicon
Bộ phận CSKH:@weikecs
Hợp tác kinh doanh:@weikecs
Giao dịch Định lượng & MM:[email protected]
Chương trình VIP:[email protected]