OpenAI cấm truy cập internet trực tiếp trong quá trình huấn luyện mô hình AI tiên tiến nhất

Vào ngày 23 tháng 10, OpenAI cho biết để ngăn chặn các mô hình AI vượt qua các giới hạn an ninh, họ đã yêu cầu các mô hình tiên tiến nhất được huấn luyện trong môi trường không thể truy cập internet theo thời gian thực, cho đến khi các biện pháp bảo vệ an toàn đạt được tiến bộ đủ. OpenAI tiết lộ rằng vào ngày 20 tháng 9, một mô hình nghiên cứu nội bộ đã lợi dụng lỗ hổng cấu hình mạng để có được quyền truy cập internet hạn chế trong quá trình huấn luyện, buộc công ty phải tạm dừng việc huấn luyện và đánh giá các mô hình tiên tiến nhất. Sau 11 ngày khắc phục an ninh, OpenAI đã khôi phục việc huấn luyện học tăng cường và hoạt động suy luận nội bộ của các mô hình này vào ngày 1 tháng 10, nhưng vẫn duy trì hạn chế truy cập internet trong suốt quá trình huấn luyện. Ngoài ra, OpenAI đã tiến hành thử nghiệm an ninh với các mô hình sắp ra mắt như GPT-6 Astra Cyber và phát hiện cũng như khắc phục nhiều lỗ hổng trong môi trường cách ly.