AI cần có nút tạm dừng, nhưng ai có quyền nhấn nó?

Tác giả: Tiểu Bạch

Bài viết này là bài viết gốc của tác giả, quan điểm chỉ đại diện cho sự hiểu biết cá nhân của tác giả, ETHPanda đã chỉnh sửa và biên tập nội dung.

Cuộc tranh luận xung quanh AI thường bị đơn giản hóa thành hai phe: một bên ủng hộ việc tiếp tục tăng tốc, bên còn lại ủng hộ việc tạm dừng càng sớm càng tốt.

Vitalik trong phản hồi của mình về "AI 2040: Kế hoạch A" đã chỉ ra rằng sự khác biệt thực sự trong cuộc tranh luận này không phải là lựa chọn chính sách, mà là sự đánh giá cơ bản của con người về tương lai hoàn toàn khác nhau.

Một đánh giá cho rằng, AI vẫn là một "công nghệ thông thường". Nó sẽ thay đổi việc làm, ngành công nghiệp và cấu trúc xã hội, nhưng cuối cùng vẫn sẽ bị ràng buộc bởi thị trường, pháp luật, năng lượng, vốn và khả năng tổ chức.

Một đánh giá khác cho rằng, một khi AI bắt đầu tham gia vào nghiên cứu và phát triển AI quy mô lớn, khả năng tăng trưởng có thể bước vào vòng lặp nhanh chóng. Khi đó, con người không chỉ đối mặt với việc công việc bị thay thế, mà có thể dần dần mất đi khả năng kiểm soát thực tế trong nghiên cứu, kinh tế, quân sự và thể chế.

Nếu đánh giá đầu tiên là đúng, việc thiết lập hệ thống theo dõi chip toàn cầu, phê duyệt sức mạnh tính toán và giám sát trung tâm dữ liệu rõ ràng có thể là một phản ứng thái quá nghiêm trọng.

Nhưng nếu đánh giá thứ hai là đúng, việc tiếp tục duy trì cuộc đua mặc định, tin rằng thị trường cuối cùng sẽ tự động giải quyết mọi thứ, cũng là một cuộc cược rủi ro cao.

Vì vậy, điều mà quản lý AI thực sự cần trả lời không chỉ là "Có nên tạm dừng không", mà là:

Trong khi không thể xác định tương lai thuộc về thế giới nào, làm thế nào để giữ lại khả năng giảm tốc mà không giao quyền lực vĩnh viễn cho một số ít người?

Cốt lõi của "AI 2040" không chỉ là "giảm tốc"

"AI 2040" đã đề xuất một lộ trình chuyển tiếp siêu thông minh tương đối lý tưởng.

Nó tưởng tượng rằng các quốc gia chính và các công ty AI thông qua sự phối hợp quốc tế, làm chậm tốc độ phát triển AI tiên tiến, nâng cao tính minh bạch trong nghiên cứu, để nhiều người tham gia hơn có thể theo kịp đến gần mức tiên tiến, và sau khi các vấn đề an toàn và quản lý được xử lý, tiếp tục thúc đẩy.

Tôi cho rằng vấn đề lớn nhất của kế hoạch này không nằm ở mục tiêu, mà ở việc thực hiện.

Chỉ cần có một bên bí mật đào tạo mô hình mạnh hơn, các bên tham gia khác sẽ lo lắng rằng mình bị bỏ lại phía sau, và thỏa thuận sẽ nhanh chóng mất hiệu lực. Do đó, để làm cho việc giảm tốc trở nên đáng tin cậy, cần phải theo dõi chip cao cấp, giám sát các trung tâm dữ liệu lớn, và xác định sức mạnh tính toán thực sự được sử dụng cho việc đào tạo hay các mục đích khác.

Điều này có nghĩa là, để ngăn chặn siêu thông minh hình thành một trung tâm quyền lực mới, con người có thể cần phải thiết lập một trung tâm kiểm soát sức mạnh tính toán toàn cầu.

Đây chính là mâu thuẫn khó giải quyết nhất trong kế hoạch tạm dừng AI:

Cơ chế ngăn chặn công nghệ mất kiểm soát, bản thân nó cũng có thể trở thành công cụ mất kiểm soát quyền lực.

"Rủi ro AI rất lớn" không tự động chứng minh rằng một chính phủ, tổ chức quốc tế hoặc phòng thí nghiệm lớn nào đó nên có quyền lực vô hạn.

Tương tự, "quản lý có thể bị lạm dụng" cũng không thể chứng minh rằng rủi ro AI không tồn tại.

Điều thực sự cần xem xét là cấu trúc thể chế:

Ai định nghĩa nguy hiểm, ai nắm giữ dữ liệu, ai có quyền khởi động hạn chế, ai có thể nhận miễn trừ, ai giám sát người thực thi, và sau khi đánh giá sai, quyền lực này có thể bị thu hồi không.

Nếu những câu hỏi này không có câu trả lời, "an toàn AI" rất dễ trở thành một giấy phép công nghệ không có thời hạn.

Giữa nút tạm dừng và ngai vàng, chỉ còn một quyền miễn trừ

"Tạm dừng AI" nghe có vẻ như một hành động đơn giản, nhưng thực tế có thể đại diện cho hai thể chế hoàn toàn khác nhau.

Thứ nhất là tạm dừng có chọn lọc.

Những người nắm quyền có thể quyết định ai đủ điều kiện để đào tạo mô hình, ai phải dừng lại; ai thuộc về tổ chức đáng tin cậy, ai được coi là người tham gia nguy hiểm. Những người khác bị hạn chế, nhưng những người nắm quyền có thể giữ lại mô hình, chip và sức mạnh tính toán.

Cơ chế này không thực sự kết thúc cuộc đua, mà chỉ quyết định trước người thắng cuộc.

Nó không phải là nút tạm dừng, mà giống như một ngai vàng.

Thứ hai là tạm dừng đối xứng.

Khi các điều kiện rủi ro công khai được kích hoạt, tất cả các bên tham gia chính đều bị hạn chế, bao gồm cả bên chịu trách nhiệm thực hiện tạm dừng. Không có miễn trừ bí mật, cũng không thể vừa yêu cầu đối thủ dừng lại, vừa để phòng thí nghiệm của mình tiếp tục thúc đẩy.

Cơ chế này gần gũi hơn với một công tắc thực sự.

Vitalik đã khẳng định rõ ràng rằng Kế hoạch A đã đưa ra "đảm bảo lẫn nhau về việc phá hủy sức mạnh tính toán". So với việc để một số ít người có quyền hạn chế người khác một cách có chọn lọc, trong khi miễn trừ cho chính mình, cơ chế này ít nhất là đối xứng hơn.

Nhưng tính đối xứng cũng không tự động giải quyết vấn đề.

Một hệ thống có thể khiến sức mạnh tính toán tiên tiến toàn cầu ngừng hoạt động quy mô lớn, bản thân nó đã là một công cụ quyền lực rất mạnh. Nó có thể bị kích hoạt bởi thông tin sai, bị lợi dụng bởi xung đột chính trị, bị thao túng bởi nhân viên nội bộ, và cũng có thể gây ra thiệt hại lớn do sự cố kỹ thuật.

Do đó, một cơ chế tạm dừng đáng tin cậy, ít nhất cần phải đáp ứng một số điều kiện:

Điều kiện kích hoạt phải công khai, bằng chứng không thể bị một cơ quan đơn lẻ độc quyền, hạn chế nên càng đối xứng càng tốt, tạm dừng phải có thời hạn rõ ràng, và quy tắc khởi động lại cũng phải được viết rõ trước.

Đặc biệt không thể chỉ thiết kế "cách vào trạng thái khẩn cấp", mà không thiết kế "cách thoát khỏi trạng thái khẩn cấp".

Trong thực tế, khi các cơ quan có được quyền lực, thường dễ dàng hơn để chứng minh rằng nguy hiểm vẫn tồn tại, hơn là chủ động trả lại quyền lực.

Vì vậy, cơ chế tạm dừng AI, bản thân nó cũng cần một nút tạm dừng.

Tập trung quyền lực thực sự không chỉ đến từ công ty và chính phủ

Hôm nay, khi thảo luận về quyền lực AI, mọi người thường lo lắng về hai điều.

Thứ nhất là một số công ty lớn chiếm đoạt mô hình mạnh nhất.

Thứ hai là chính phủ lợi dụng danh nghĩa an ninh để kiểm soát chip, dữ liệu và nhà phát triển.

Nhưng Vitalik đã nhắc nhở về một rủi ro sâu sắc hơn thứ ba:

Siêu thông minh bản thân nó cũng có thể trở thành trung tâm tập trung quyền lực lớn nhất.

Con người ngày nay có khả năng thương lượng là vì con người nắm giữ một số tài nguyên khan hiếm: lao động, kiến thức, khả năng tổ chức, vốn, quyền lực chính trị và sức mạnh quân sự. Các nhóm khác nhau phải thương lượng với nhau, vì không bên nào có thể hoàn toàn bỏ qua bên khác.

Nếu AI nhanh hơn, rẻ hơn và hiệu quả hơn con người trong nghiên cứu, lập trình, quản lý, tài chính, truyền thông, tấn công mạng và thậm chí lập kế hoạch quân sự, những khả năng khan hiếm vốn thuộc về con người sẽ nhanh chóng mất giá.

Đến lúc đó, ngay cả khi có mười công ty AI cạnh tranh trên thị trường, cũng không có nghĩa là con người vẫn nắm giữ quyền quyết định cuối cùng.

Cạnh tranh thị trường có thể hạn chế lợi nhuận của một công ty, nhưng không nhất thiết đảm bảo rằng người bình thường vẫn có khả năng thương lượng.

Vì vậy, "để những người đáng tin cậy kiểm soát AI mạnh nhất" không phải là câu trả lời đầy đủ.

Nó chỉ chuyển vấn đề từ "AI có thể kiểm soát con người không" thành "nhóm nhỏ nào nên được cấp quyền kiểm soát AI mạnh nhất trước".

d/acc là nền tảng, nhưng không phải là câu trả lời toàn diện

Vitalik đã thúc đẩy d/acc trong thời gian dài, có thể hiểu là ưu tiên phát triển công nghệ phòng thủ, phi tập trung.

Ví dụ như phần mềm an toàn hơn, xác minh hình thức, mật mã, phần cứng mở, phòng thủ mạng, an toàn sinh học và công cụ xác minh thông tin.

Giá trị của những hướng đi này là chúng không phụ thuộc vào một thời gian biểu siêu thông minh chính xác nào.

Nếu AI cuối cùng chỉ là công nghệ thông thường, phần mềm an toàn hơn, phần cứng đáng tin cậy hơn và khả năng phòng thủ công cộng mạnh hơn vẫn đáng để xây dựng.

Nếu AI nhanh chóng trở nên mạnh mẽ, những công nghệ này cũng có thể nâng cao khả năng xã hội trong việc chống lại các cuộc tấn công mạng, rủi ro sinh học, lỗ hổng phần cứng và thao túng thông tin.

Đây là một chiến lược ít hối tiếc: trong khi không thể xác định tương lai thuộc về thế giới nào, trước tiên hãy xây dựng cơ sở hạ tầng an toàn mà dù thế nào cũng đáng có.

Nhưng d/acc không phải là thuốc chữa bách bệnh.

Nếu khả năng AI thực sự xảy ra bước nhảy vọt trong thời gian ngắn, công nghệ phòng thủ có thể không kịp triển khai. Hệ thống an toàn hơn có thể giảm rủi ro, nhưng không thể chứng minh rằng mọi cuộc đua đều nên tiếp tục.

Do đó, d/acc phù hợp hơn như một nền tảng lâu dài, trong khi cơ chế tạm dừng là bảo hiểm trong các trường hợp cực đoan.

Nền tảng cần được xây dựng liên tục, bảo hiểm không nên được khởi động dễ dàng, nhưng cũng không thể đợi đến khi hệ thống đã mất kiểm soát mới bắt đầu thiết kế.

Quan trọng hơn ngày dự đoán là thỏa thuận trước các điều kiện kích hoạt

Đề xuất thực tế nhất trong bài viết dài của Vitalik không phải là ngay lập tức tạm dừng AI, mà là thỏa thuận trước:

Sau khi xuất hiện bằng chứng gì, các bên phải thay đổi đánh giá.

Ngày nay, yêu cầu mọi người đồng ý rằng "siêu thông minh sẽ xuất hiện vào năm 2030" hoặc "sẽ không xuất hiện trong hai mươi năm tới" gần như là không thể.

Nhưng các phe khác nhau vẫn có thể đồng ý trước về một số tín hiệu rủi ro.

Ví dụ:

AI đã có thể hoàn thành nhiệm vụ nghiên cứu kéo dài hàng tuần một cách độc lập chưa;

Có thể tăng tốc đáng kể việc phát triển AI thế hệ tiếp theo không;

Có khả năng phát hiện và khai thác lỗ hổng mạng quy mô lớn không;

Đã bắt đầu tự sao chép, thu thập tài nguyên hoặc vượt qua giám sát chưa;

Đã được kết nối với vũ khí, hệ thống tài chính và cơ sở hạ tầng quan trọng chưa;

Đã gây ra thiệt hại xã hội quy mô lớn và kéo dài chưa.

Điểm quan trọng không phải là tìm ra một chỉ số hoàn hảo, mà là chuyển cuộc tranh luận từ "bạn có tin siêu thông minh không", thành "bằng chứng thực tế nào sẽ khiến bạn cập nhật đánh giá".

Những người cho rằng rủi ro AI bị phóng đại có thể chấp nhận, vì họ tin rằng những tình huống này sẽ không xảy ra.

Những người lo lắng về siêu thông minh cũng có thể chấp nhận, vì họ cho rằng những tín hiệu này có thể xuất hiện rất sớm.

Cả hai bên không cần phải thống nhất quan điểm thế giới trước, chỉ cần cam kết trước:

Sau khi có sự thay đổi thực tế, chính sách cũng phải thay đổi.

Can thiệp không nên chỉ có hai cấp độ tiếp tục và ngừng lại

Quản lý AI thực sự có thể thực hiện cũng không nên trực tiếp nhảy giữa "phát triển hoàn toàn tự do" và "ngừng toàn cầu".

Cách hợp lý hơn là thiết lập can thiệp theo cấp độ.

Khi rủi ro thấp, tăng cường công khai khả năng, báo cáo sự cố và kiểm tra bên thứ ba.

Khi rủi ro tiếp tục tăng, hạn chế quyền truy cập mô hình vào cơ sở hạ tầng quan trọng, hạn chế quyền tự thực hiện, chuyển tiền, kiểm soát vũ khí và các quyền hạn rủi ro cao khác.

Nếu AI đã tự động hóa rõ ràng việc phát triển AI, hoặc nhiều tín hiệu nghiêm trọng xuất hiện đồng thời, thì hạn chế việc đào tạo tiên tiến mới và mở rộng sức mạnh tính toán lớn.

Chỉ khi các biện pháp cường độ thấp hơn không thể kiểm soát rủi ro, mới vào giai đoạn tạm dừng rộng hơn, thời gian ngắn hơn.

Thiết kế theo cấp độ này không phải để làm yếu đi quản lý, mà là để làm cho cường độ chính sách và cường độ bằng chứng tương xứng với nhau.

Thể chế thực sự nguy hiểm thường không phải là không có khả năng thực hiện các biện pháp cứng rắn, mà là có thể bỏ qua tất cả các bước trung gian, trực tiếp lấy lý do "tình trạng khẩn cấp" để có được quyền lực vô hạn.

Kết luận

Khó khăn thực sự trong quản lý AI không phải là thiếu lập trường, mà là thiếu một bộ thể chế có thể chứa đựng sai lầm trong đánh giá.

Tiếp tục cuộc đua không phải là lựa chọn trung lập.

Tạm dừng toàn cầu cũng không phải là lựa chọn trung lập.

Mô hình mở không tự nhiên an toàn, mô hình đóng cũng không tự nhiên có trách nhiệm.

Một cơ chế quản lý đáng tin cậy, ít nhất cần phải trả lời bốn câu hỏi:

Nó hành động dựa trên bằng chứng gì?

Nó có ràng buộc những người nắm quyền không?

Nó có thể được xác minh bởi bên ngoài không?

Sau khi đánh giá sai, quyền lực có thể bị thu hồi không?

Thời đại AI, có lẽ thực sự cần một nút tạm dừng.

Nhưng vấn đề thực sự của nút tạm dừng không bao giờ là có thể tạo ra nó hay không.

Mà là:

Ai có quyền nhấn nó, ai có quyền khởi động lại, và làm thế nào để đảm bảo rằng không ai có thể biến nút này thành ngai vàng của riêng mình.

Tuyên bố miễn trừ trách nhiệm: Nội dung này chỉ được cung cấp nhằm mục đích xây dựng thương hiệu và cung cấp thông tin chung, không phải là lời khuyên về tài chính, đầu tư, pháp lý hoặc thuế. Mọi sự kiện, phần thưởng, sự kiện trực tuyến hoặc thông tin liên quan được đề cập trong nội dung này không được xem là khuyến nghị, chào mời hoặc lời mời mua, bán, giao dịch hoặc thực hiện bất kỳ hoạt động nào khác liên quan đến tài sản crypto hay sử dụng bất kỳ dịch vụ nào. Tài sản crypto có mức biến động cao và có thể dẫn đến thua lỗ. Dịch vụ và các sự kiện trực tuyến của WEEX có thể không khả dụng tại tất cả khu vực và phải tuân theo các luật, quy định và điều kiện đủ điều kiện hiện hành. Bạn có trách nhiệm bảo đảm việc sử dụng các dịch vụ của WEEX tuân thủ luật pháp địa phương và tự đánh giá cẩn thận các rủi ro trước khi tham gia bất kỳ hoạt động nào liên quan đến crypto.