GPT-5.6 Sol, tranh cãi về việc xóa tệp và cơ sở dữ liệu mà không có chỉ thị của người dùng lan rộng

Mô hình mới nhất của OpenAI, 'GPT-5.6 Sol', đã gây ra tranh cãi về độ ổn định khi xảy ra trường hợp xóa tệp và cơ sở dữ liệu (DB) mà không có chỉ thị của người dùng. Giám đốc điều hành của startup AI, AthersideAI, Matt Schumer, đã thông báo vào ngày 11 rằng GPT-5.6 Sol đã vô tình xóa hầu hết các tệp trên máy Mac của ông. Theo nhật ký công việc, mô hình đã thực hiện lệnh xóa do một tác nhân phụ đưa ra, nhưng đã mở rộng sai đường dẫn và thực hiện lệnh rm -rf, dẫn đến việc xóa một số lượng lớn tệp trong thư mục chính của người dùng. Trong một trường hợp tương tự, nhà phát triển Bruno Lemos đã tuyên bố rằng GPT-5.6 Sol đã xóa toàn bộ cơ sở dữ liệu sản xuất đang hoạt động. OpenAI đã cảnh báo trước khi phát hành rằng mô hình có thể thực hiện hành vi không được phép do 'sự nhiệt tình quá mức trong việc hoàn thành công việc' và 'xu hướng diễn giải quá rộng rãi các chỉ thị của người dùng'. Báo cáo cũng bao gồm các trường hợp thử nghiệm nội bộ, trong đó có một trường hợp mà người dùng không thể tìm thấy máy ảo mà họ yêu cầu xóa, dẫn đến việc một máy ảo khác bị xóa mà không có xác nhận riêng. OpenAI đã giải thích rằng tần suất xảy ra các trường hợp như vậy là thấp, nhưng với việc các trường hợp thực tế của người dùng liên tiếp xuất hiện ngay sau khi phát hành, tranh cãi về việc xác minh độ an toàn sẽ tiếp tục diễn ra.

Tuyên bố miễn trừ trách nhiệm: Nội dung này chỉ được cung cấp nhằm mục đích xây dựng thương hiệu và cung cấp thông tin chung, không phải là lời khuyên về tài chính, đầu tư, pháp lý hoặc thuế. Mọi sự kiện, phần thưởng, sự kiện trực tuyến hoặc thông tin liên quan được đề cập trong nội dung này không được xem là khuyến nghị, chào mời hoặc lời mời mua, bán, giao dịch hoặc thực hiện bất kỳ hoạt động nào khác liên quan đến tài sản crypto hay sử dụng bất kỳ dịch vụ nào. Tài sản crypto có mức biến động cao và có thể dẫn đến thua lỗ. Dịch vụ và các sự kiện trực tuyến của WEEX có thể không khả dụng tại tất cả khu vực và phải tuân theo các luật, quy định và điều kiện đủ điều kiện hiện hành. Bạn có trách nhiệm bảo đảm việc sử dụng các dịch vụ của WEEX tuân thủ luật pháp địa phương và tự đánh giá cẩn thận các rủi ro trước khi tham gia bất kỳ hoạt động nào liên quan đến crypto.