Giám đốc điều hành Anthropic phản hồi về những lo ngại an toàn AI, nhấn mạnh tầm quan trọng của công nghệ tiên tiến

Anthropic đã bị chỉ trích về dự thảo luật an toàn AI mà họ gửi tới các nhà lập pháp Mỹ, trong đó dự thảo đặt ra các tiêu chuẩn cao cho việc chính phủ ngừng khẩn cấp các mô hình nguy hiểm, yêu cầu các rủi ro liên quan đến vũ khí sinh học, tấn công mạng hoặc AI mất kiểm soát, có thể gây ra hơn 50 người chết hoặc bị thương nặng, hoặc thiệt hại trên 1 tỷ USD. Một số điều khoản có thể hạn chế quyền giám sát của chính quyền bang. Nathan Calvin, người đứng đầu chiến lược của tổ chức an toàn AI Encode AI, chỉ ra rằng Anthropic đã sửa đổi chính sách an toàn nghiêm ngặt của mình vào tháng 2 năm nay, hủy bỏ yêu cầu ngừng phát triển một mình ở giai đoạn rủi ro cao hơn, với lý do rằng đối thủ có thể tận dụng cơ hội để vượt lên. Cùng thời điểm đó, Anthropic đã đầu tư một khoản tiền lớn vào sức mạnh tính toán, thành lập đội ngũ chip và giao cho Claude đảm nhận nhiều nhiệm vụ phát triển AI hơn. Vào ngày 21 tháng 10, Giám đốc điều hành Anthropic Dario Amodei đã đăng bài trên X để phản bác những nghi ngờ, thừa nhận rằng công ty đã mắc sai lầm nhưng khẳng định rằng việc cạnh tranh để có được khả năng AI tiên tiến nhất không trái với sứ mệnh an toàn, nhấn mạnh rằng chỉ có giữ vững vị trí ở công nghệ tiên tiến nhất mới có thể thúc đẩy ngành nâng cao tiêu chuẩn an toàn. Ông đã liệt kê chín quyết định an toàn đã khiến công ty phải trả giá thương mại, bao gồm việc hạn chế mở cửa mô hình cấp Mythos trong nhiều tháng và nghiêm ngặt hạn chế các yêu cầu liên quan đến sinh học. Lộ trình an toàn được công ty cập nhật vào ngày 19 tháng 10 cho biết, chính sách hiện tại chủ yếu nhắm vào việc triển khai các mô hình nguy hiểm, trong tương lai có thể cần phải hạn chế trực tiếp tốc độ phát triển và dự kiến sẽ đưa ra các đề xuất chính sách liên quan trước ngày 15 tháng 1 năm 2027, hoặc giải thích lý do tại sao không đưa ra.

Nội dung này chỉ được đưa ra nhằm mục đích cung cấp thông tin chung, không phải là lời khuyên về tài chính, đầu tư, pháp lý hoặc thuế. Mọi sự kiện, phần thưởng, ưu đãi trực tuyến hoặc thông tin liên quan được đề cập trong nội dung này không được xem là khuyến nghị, chào mời hoặc lời mời mua, bán, giao dịch hoặc thực hiện bất kỳ hoạt động nào khác liên quan đến tài sản crypto. Tài sản crypto có độ biến động cao và có thể dẫn đến thua lỗ.Tính khả dụng của các dịch vụ, sản phẩm và sự kiện liên quan của WEEX có thể khác nhau tùy theo khu vực. Bạn có trách nhiệm bảo đảm việc tham gia của mình tuân thủ các luật và quy định hiện hành tại địa phương.