Tuyên chiến với trí tuệ nhân tạo? Câu chuyện tận thế đằng sau cảnh Ultraman bị thiêu rụi trong nhà.

Tựa gốc: Kết luận "hợp lý"
Tác giả gốc: ALEXANDER CAMPBELL
Bản dịch: Peggy, BlockBeats

Ghi chú của biên tập viên: Vào lúc 3 giờ 45 phút sáng ngày 10 tháng 4, một người đàn ông 20 tuổi đã ném bom xăng vào nhà của Sam Altman, sau đó đi bộ đến trụ sở OpenAI và đe dọa phóng hỏa.

Vụ tấn công này nhanh chóng gây chấn động mạnh trong cộng đồng công nghệ và đầu tư. Vụ việc không chỉ liên quan đến sự an toàn cá nhân mà còn biến một luận điệu cực đoan vốn đã tồn tại lâu nay trong các cộng đồng mạng và văn bản thành hiện thực.

Bắt đầu từ khẳng định mang tính quyết định cao độ rằng "Trí tuệ nhân tạo sẽ gây ra sự tuyệt chủng của loài người" và lý luận dựa trên lập luận "chúng ta phải giảm thiểu rủi ro bằng mọi giá", logic này dần dần chuyển hướng sang việc biện minh cho các hành động thực tế. Khi một thế giới quan liên tục củng cố luận điểm về "mối đe dọa hiện sinh" và sử dụng nó để tái cấu trúc các ưu tiên đạo đức, ranh giới của hành động sẽ được định nghĩa lại—lời nói từng ít tốn kém giờ đây bắt đầu mang khả năng bị ép buộc thực thi.

Bài viết này xem xét con đường tiến hóa trong cộng đồng những người tin vào ngày tận thế do AI gây ra: từ "vòng xoáy thanh lọc" thúc đẩy việc đánh giá rủi ro ngày càng leo thang đến phán xét đạo đức của những người xây dựng công nghệ, và sau đó là việc đơn giản hóa thực tế phức tạp thành mô hình quyết định "vấn đề xe điện". Những suy luận có vẻ hợp lý này cuối cùng đều hội tụ thành một tư duy nhất quán nhưng đầy nguy hiểm: miễn là kết quả được định nghĩa là "cứu rỗi nhân loại", thì phương tiện có thể tiếp tục được mở rộng.

Theo nghĩa này, sự kiện này không phải là một trường hợp cá biệt. Nó giống như một bài kiểm tra khả năng chịu đựng ban đầu — không phải kiểm tra bản thân công nghệ, mà là thời điểm mà câu chuyện, niềm tin và hành động xoay quanh công nghệ bắt đầu mất kiểm soát.

Sau đây là văn bản gốc:

Kẻ phóng hỏa là ai?

Vào lúc 3 giờ 45 phút sáng thứ Sáu, một người đàn ông 20 tuổi đã ném bom xăng vào nhà của Sam Altman. Sau đó, ông ta đi bộ khoảng ba dặm đến trụ sở của OpenAI và đe dọa sẽ đốt cháy nó. Hiện tại, anh ta đã bị cảnh sát bắt giữ vì nghi ngờ âm mưu giết người.

Tấm áp phích ghi: Một người tên Daniel Moreno-Gama (bí danh trực tuyến dmgama / "Butlerian Jihadist") đã bị bắt giữ vì tội "âm mưu giết người" và bị cảnh sát lập hồ sơ. Được biết, ông là một thành viên tích cực của PauseAI. Bài đăng cũng đề cập đến một quan điểm cấp bách mà ông đã bày tỏ nhiều lần: "Đã gần nửa đêm rồi, đã đến lúc hành động thực sự."

Anh ta không phải là "kẻ đơn độc". Ông là một thành viên tích cực của PauseAI, đảm nhiệm sáu vai trò trong cộng đồng. Tên người dùng của anh ta trên Discord là "Butlerian Jihadist".

Trang Instagram của anh ấy gần như hoàn toàn tràn ngập nội dung về ngày tận thế: một đường cong quy luật lũy thừa với chú thích "Nếu chúng ta không hành động sớm, tất cả chúng ta sẽ chết", cùng với một biểu đồ Venn đặt thực tại ở giao điểm của Ma trận, Kẻ hủy diệt và Dân chủ ngu ngốc.

Bốn tháng trước vụ tấn công, ông cũng đã giới thiệu cho những người theo dõi mình bài báo "Sự bùng nổ công nghệ sắp tới" của Yudkowsky và Soares.

Tin của chiến binh thánh chiến Butlerian

"The Coming Technological Singularity" là một tác phẩm quan trọng trong lĩnh vực rủi ro/an toàn AI, thể hiện một quan điểm bi quan mạnh mẽ. Luận điểm cốt lõi của nó có thể được tóm tắt như sau: một khi con người tạo ra "trí tuệ siêu phàm" (trí tuệ nhân tạo vượt xa trí tuệ con người) mà không hoàn toàn phù hợp, nó rất có khả năng vượt khỏi tầm kiểm soát và gây ra mối đe dọa hiện hữu đối với nhân loại. Quan điểm của tác giả rất cực đoan, thậm chí có phần "bi quan nhất", khi cho rằng trí tuệ nhân tạo không chỉ "rủi ro" mà gần như chắc chắn sẽ dẫn đến thảm họa. Tác giả chủ trương cần hết sức thận trọng, thậm chí tạm dừng quá trình phát triển cho đến khi vấn đề căn chỉnh được giải quyết.

Tên anh ấy là Daniel Moreno-Gama.

Anh ấy cũng có tài khoản Substack riêng. Ngay từ tháng Giêng năm nay, ông đã công bố một bài báo có tiêu đề "Rủi ro hiện sinh của AI", ước tính xác suất "loài người tuyệt chủng do AI gây ra" là "gần như chắc chắn". Ông gọi công nghệ này là "mối đe dọa thực sự đối với bất kỳ ai sử dụng nó, đặc biệt là đối với những người đang chế tạo ra nó." Kết luận của ông ấy là: "Chúng ta phải giải quyết mối đe dọa này trước khi đặt ra những câu hỏi khác."

Ông cũng đã viết một bài thơ tưởng tượng về việc con cái của các nhà phát triển trí tuệ nhân tạo qua đời và đặt câu hỏi về sự thờ ơ của cha mẹ chúng. Ông thậm chí còn mô tả những người tạo ra các công nghệ này như sau: "Mong địa ngục sẽ thương xót những sinh vật đê tiện này."

PauseAI đã xóa các tin nhắn liên quan đến anh ta khỏi Discord của họ.

Tôi biết đây không phải là điều mà hầu hết độc giả mong đợi thấy trong một bản tin đầu tư. Tôi viết điều này để giải thích nguồn gốc thế giới quan của mình, giúp dễ hiểu hơn những nhận định dài hạn tiếp theo. Còn về đề xuất "Thỏa thuận Mới Mới" mà tôi đưa ra, đó là phản ứng trực tiếp đối với diễn biến này.

Điều tôi làm chỉ đơn giản là mở rộng mô hình của họ thêm một bước nữa và kết nối các điểm lại với nhau.

Câu chuyện tận thế của những người bi quan về trí tuệ nhân tạo

Chúng ta hãy bắt đầu với "Chủ nghĩa định mệnh". Quan điểm của Yudkowsky (cuốn sách đã đề cập trước đó) là: một khi ai đó tạo ra được trí tuệ nhân tạo đủ mạnh, tất cả mọi người trên Trái đất sẽ chết. Không phải "có lẽ," không phải "có khả năng," mà là tất cả mọi người — bao gồm cả con bạn và cô con gái Nina mà anh ta nhắc đến nhiều lần.

Ông đã bày tỏ quan điểm này trên tạp chí Time và cũng viết về nó trong một cuốn sách có tựa đề "Nếu ai đó làm ra nó, tất cả chúng ta sẽ chết". Ông ta thậm chí còn chủ trương ném bom các trung tâm dữ liệu và tin rằng nguy cơ xung đột hạt nhân có thể chấp nhận được hơn là một cuộc tập trận toàn diện.

"Vòng xoáy thanh lọc," một dạng hành vi cực đoan leo thang không ngừng. Trong cộng đồng này, các thành viên chứng minh "quyết tâm" của họ bằng cách liên tục nâng cao mức độ quyết liệt trong lập trường: ước tính về "Xác suất tuyệt chủng của loài người (P(doom))" đã tăng từ 50% lên 90% và thậm chí lên đến 99,99999%.

Một phát ngôn viên quốc gia của Trung tâm An toàn Trí tuệ Nhân tạo từng tuyên bố trước ống kính rằng phản ứng đúng đắn sẽ là "xông vào các phòng thí nghiệm trên khắp đất nước và đốt cháy chúng". PauseAI thậm chí còn khởi xướng cái gọi là " Giao thức Cảnh báo", chỉ định một mô hình AI nhất định là "vũ khí hủy diệt hàng loạt". Một lãnh đạo tại PauseAI thậm chí còn nói rằng một nhà nghiên cứu của Anthropic "đáng phải chịu mọi điều sắp xảy ra với cô ấy".

Khi có người đặt câu hỏi về những phát ngôn như vậy trên Discord của PauseAI, quản trị viên đã trực tiếp xóa tin nhắn đó.

Một ngày trước vụ tấn công, Neth Soares, đồng tác giả cuốn sách của Yudkowsky, đã đăng trên Twitter rằng Altman "đang làm một số việc thực sự tồi tệ."

Tiếp theo, "Cheap Talk" bắt đầu phải đối mặt với thực tế phũ phàng.

Trong lý thuyết trò chơi, có một thuật ngữ gọi là "Lời nói suông": dùng để chỉ những phát ngôn không tốn nhiều chi phí, nhưng cuối cùng lại bị thực tế ràng buộc. Ban đầu, mọi người chỉ đưa ra những tuyên bố cực đoan thiếu căn cứ, nhưng một khi vấn đề được coi là "khủng hoảng sinh tồn của nhân loại", những quan điểm này có thể được xem xét nghiêm túc, từ đó hợp thức hóa hành vi cực đoan.

Đây không phải là những sự việc riêng lẻ, mà là một chuỗi các tuyên bố leo thang, củng cố lẫn nhau xoay quanh một hệ tư tưởng có phần mang tính tận thế. Nếu suy luận đến cùng, lối tư duy này thậm chí có thể dẫn đến việc "hy sinh 99% dân số để cứu 1% còn lại".

Khi mọi việc tiến triển, ai đó đã hiểu những ý tưởng này theo nghĩa đen và hành động theo chúng—chỉ là vấn đề thời gian mà thôi. Chàng thanh niên đó đã đọc cuốn sách đó, tham gia cộng đồng đó và viết nên bản tuyên ngôn của mình. Trong một bài luận tự đánh giá cho lớp tiếng Anh tại trường cao đẳng cộng đồng, anh ấy tự định nghĩa mình là người theo chủ nghĩa hệ quả: "Nếu kết quả không khớp, tôi khó mà tin vào động cơ." Ông ta tự đặt cho mình biệt danh "Chiến binh thánh chiến Butler". Vào ngày 3 tháng 12, anh ấy đã viết trên Discord của PauseAI: "Đã gần nửa đêm rồi, đã đến lúc hành động thực sự."

Và rồi, ông ấy đã hành động.

Họ đặt ra cho ông một "vấn đề nan giải": một mạng sống đối đầu với toàn thể nhân loại. Anh ta kéo cần gạt.

Dòng tweet trên (Air Katakana) có nội dung như sau: Yudkowsky (yud) đã gieo vào tâm trí người đó một "vấn đề xe điện": một bên là Sam Altman, bên kia là toàn bộ nhân loại, bao gồm cả Sam Altman. Có lẽ anh chàng đó nghĩ mình sẽ đoạt giải Nobel Hòa bình.

Dòng tweet được trích dẫn dưới đây (của Randolph Carter) có nội dung như sau: Một người đã ném bom xăng vào nhà của CEO một công ty AI, sau đó lập tức đến OpenAI để đe dọa những người ở đó, và những người theo chủ nghĩa bi quan lại nói, "Có thể là bất cứ ai, chúng ta không thể chắc chắn..."

Còn một chi tiết trớ trêu cuối cùng đáng nhắc đến. Nếu những người bi quan này thực sự tin vào phán đoán của họ đến mức như họ tuyên bố, thì họ nên thẳng thắn hơn về những hệ lụy xuất phát từ niềm tin đó.

Chỉ vài tuần trước vụ tấn công, một nhà báo đã hỏi Yudkowsky: Vì trí tuệ nhân tạo nguy hiểm đến vậy, sao các bạn không tấn công các trung tâm dữ liệu? Câu trả lời, được Suarez truyền đạt lại, là: "Nếu bạn xem bản tin nói rằng tôi đã làm điều đó, bạn có nghĩ, 'Ồ, trí tuệ nhân tạo đã bị chặn đứng, chúng ta an toàn rồi' không?" Nếu không, thì bạn đã biết trước là nó sẽ không hiệu quả rồi."

Hãy lưu ý rằng câu trả lời này không nói gì cả. Không phải "vì bạo lực là sai trái," mà là "vì nó không hiệu quả vào lúc này." Sự kiềm chế này dựa trên những cân nhắc chiến lược, chứ không phải những ràng buộc đạo đức. Và cộng đồng này biết điều đó. Ẩn sâu bên trong là một sự đồng thuận ngầm: "sai lầm" lớn nhất của người trẻ đó đơn giản chỉ là chọn sai thời điểm.

Ý tôi chính xác là như vậy: Trí thông minh không đồng nghĩa với quyền lực. Đây cũng chính là điểm yếu lớn nhất trong toàn bộ quan điểm "ngày tận thế".

Khung lý thuyết của Yudkowsky được xây dựng dựa trên một nghịch lý: miễn là trí tuệ nhân tạo đủ thông minh, nó chắc chắn sẽ có được khả năng hủy diệt nhân loại bởi vì "trí thông minh tự động chuyển hóa thành khả năng". Nhưng nhiều người theo ông lại thiếu kiến ​​thức chuyên môn về kỹ thuật. Họ không xây dựng hệ thống trí tuệ nhân tạo hoặc tham gia vào kỹ thuật điều chỉnh. Điều họ sở hữu là một loại "trí thông minh ngôn ngữ" đặc biệt, có thể xây dựng những lập luận rủi ro phức tạp và từ đó tự thuyết phục bản thân rằng mình có một loại "quyền lực thần thánh" đối với công nghệ. Họ có thể xây dựng lập luận nhưng không thể xây dựng hệ thống.

Đây không phải là sự trùng hợp ngẫu nhiên mà là một điều đã được ghi chép trong văn bản nền tảng của nó. Cuốn "Harry Potter và Phương pháp Lý tính" của Yudkowsky về cơ bản mô tả một thế giới nơi người có khả năng lý luận xuất sắc nhất sẽ thống trị mọi hệ thống. "The Sequences" sau đó đưa ra toàn bộ một loạt "học thuyết": một nhóm nhỏ "những người tư duy đúng đắn" vượt trội cả về nhận thức và đạo đức; tính hợp lý của họ cho phép họ quyết định những người khác có thể xây dựng cái gì. Thay vì là một phong trào vì sự an toàn, điều này giống một "hệ thống hành chính" với một câu chuyện thần thoại về nguồn gốc hơn.

Yudkowsky có thể không đồng tình với hành động ném bom xăng của thanh niên kia, nhưng ông ta không thể không đồng tình với luận điểm suy luận đó. Nếu người thợ xây có ý định giết tất cả mọi người, thì việc ngăn cản anh ta chính là tự vệ. Đây là đề xuất cốt lõi của ông ấy, thẳng thắn và rõ ràng. Câu hỏi duy nhất từ ​​trước đến nay vẫn là: bao giờ thì người ta mới coi trọng điều này?

Vậy nên khi logic của chính họ xuất hiện lúc 3 giờ 45 phút sáng với một chai xăng, họ không nên tỏ ra ngạc nhiên nữa.

[ Liên kết bài viết gốc ]