"Istnieje rozwiązanie dla apokalipsy AI"... Jensen Huang proponuje 'inżynieryjną kontrolę', Musk sugeruje 'weryfikację krzyżową'

Uczestnicząc w szczycie All-In Summit, skupiono się na problemach związanych z AI.

David Sacks podkreśla znaczenie istniejących przepisów prawnych, takich jak prawo o odpowiedzialności za produkt.

Trump rozmawia z Jensenem Huangiem przez telefon... "Apokalipsa to manipulacja strachem"

[Reporterka Block Media, Lee Jung-hwa] W obliczu ostrzeżeń ze strony głównych CEO amerykańskich firm technologicznych o możliwości zniszczenia ludzkości przez sztuczną inteligencję (AI), Jensen Huang i Elon Musk przedstawili swoje rozwiązania.

14 października (czasu lokalnego) Jensen Huang, uczestnicząc w All-In Summit w Los Angeles, stwierdził, że apokalipsa AI jest przesadzona i zaproponował inżynieryjną kontrolę jako rozwiązanie. Elon Musk, który łączył się z wydarzeniem zdalnie, zauważył, że rozwój AI postępuje wykładniczo, co wymaga kontroli, dodając, że "można zarządzać ryzykiem poprzez weryfikację krzyżową modeli AI".

All-In Summit to wydarzenie zorganizowane przez podcast All-In, prowadzony przez czterech ekspertów technologicznych, w tym Davida Sacksa, AI cara Białego Domu, które trwa do 15 października. Tego dnia miało miejsce zaskakujące wydarzenie, gdy prezydent Trump zadzwonił do Huang i połączył się z publicznością przez głośnik.

Prezydent Trump skrytykował apokalipsę AI, mówiąc, że "to manipulacja strachem" i "działania, które przynoszą korzyści tylko Chinom".

Jensen Huang: "Apokalipsa AI to przesada bez podstaw naukowych"

Jensen Huang, CEO Nvidia, stanowczo stwierdził, że apokalipsa nie ma podstaw naukowych. Huang zauważył, że w przeszłości pojawiały się katastroficzne przewidywania, takie jak całkowita wymiana lekarzy przez promieniowanie czy automatyzacja kodu, które okazały się nieprawdziwe.

Huang powiedział: "W miarę jak technologia AI przechodzi z etapu badań do etapu inżynieryjnego, można skutecznie zarządzać ryzykiem AI poprzez inżynieryjne środki kontroli, takie jak piaskownice, kontrola czasu działania i ciągłe monitorowanie".

To tzw. teoria inżynieryjnej kontroli. Huang podkreślił, że problemy związane z AI nie powinny być rozwiązywane przez nieuzasadniony strach czy zewnętrzne regulacje, ale poprzez analizę przyczyn źródłowych.

Twierdzi, że można zbudować inżynieryjną kontrolę przy obecnej technologii. Aby zapobiec ucieczkom AI lub ryzyku, wprowadza się piaskownice, a kontrola czasu działania i ciągłe monitorowanie są możliwe. Piaskownice izolują AI w określonym środowisku, a kontrola czasu działania zapobiega jego niekontrolowanemu działaniu.

Huang argumentuje, że wprowadzenie konkretnych procesów inżynieryjnych, takich jak systemy weryfikacji i oceny AI, pozwoli na zarządzanie ryzykiem w rozwoju modeli AI.

Zamiast hamować innowacje i rozwój centrów danych przez nieuzasadniony strach, Huang uważa, że należy aktywować modele open-source i frontier (modele innowacji AI) w warunkach inżynieryjnych, aby poprawić wydajność, zreindustrializować i stworzyć miejsca pracy, co w istocie zapewni konkurencyjność kraju.

Trump: "Manipulacja strachem związana z AI przynosi korzyści tylko Chinom"

Podczas rozmowy między prezydentem Trumpem a CEO Huangiem, prezydent Trump bezpośrednio przekazał publiczności swoje wątpliwości dotyczące apokalipsy AI przez głośnik.

Trump określił twierdzenia, że roboty lub AI przejmą świat, jako "manipulację strachem". Zauważył, że jeśli takie strachy będą hamować budowę infrastruktury, największe korzyści odniesie Chiny.

Dodał, że centra danych są "ropy naftową na następne 20-25 lat" i że USA muszą intensywnie rozwijać infrastrukturę, aby zdobyć globalną przewagę w AI.

Elon Musk: "Potrzebna jest weryfikacja krzyżowa w odpowiedzi na wykładnicze zagrożenie"

Elon Musk, CEO Tesli, podkreślił, że nie można ignorować ryzyka związanego z AI i opowiedział się za kontrolą tempa rozwoju. Musk, łącząc się zdalnie z wydarzeniem, zaproponował rozwiązania dotyczące problemów AI.

Ostrzegł, że "ryzyko związane z modelami AI rośnie wykładniczo, gdy próbują one uciec od ograniczeń lub wykazują oszukańcze zachowania".

Musk zasugerował, że firmy rozwijające modele powinny unikać samodzielnego testowania swoich modeli, proponując zamiast tego natychmiastowe wprowadzenie systemu wzajemnej weryfikacji (Peer Review) między głównymi firmami frontier AI i Chinami, w którym modele będą testowane przed ich wprowadzeniem na rynek.

Członkowie podcastu All-In: "Podkreślają potrzebę praktycznego systemu weryfikacji i elastyczności rynku"

Prowadzący podcast All-In również przedstawili różnorodne analizy dotyczące apokalipsy AI i alternatyw zaproponowanych przez CEO Muska.

Chamath Palihapitiya, CEO Social Capital, wyraził wątpliwości co do ekstremalnych liczb, takich jak 10% prawdopodobieństwo zagłady ludzkości, które nie są przekonujące dla publiczności, pytając, czy nie pochodzą one z wewnętrznych motywów biznesowych i politycznych firm frontier.

Jason Calacanis, współprowadzący podcast All-In, skrytykował zachowania polegające na wywoływaniu strachu w celu pozyskiwania funduszy, twierdząc, że należy zweryfikować konkretne etapy i związki przyczynowe prowadzące do zagłady ludzkości przez AI.

David Friedberg, CEO The Production Board, analizował, że ludzki instynkt strachu przed nieznanym jest łatwo wykorzystywany do manipulacji apokalipsą.

David Sacks, założyciel Craft Ventures i były AI car Białego Domu, ocenił, że zamiast tworzyć nowe biurokratyczne organizacje, takie jak ONZ, znacznie bardziej praktyczne jest wprowadzenie systemu weryfikacji zaproponowanego przez CEO Muska.

Sacks podkreślił, że ignorowanie ostrzeżeń i wprowadzanie niebezpiecznych modeli na rynek może prowadzić do poważnych odpowiedzialności prawnych na mocy istniejącego prawa o odpowiedzialności za produkt, co oznacza, że ryzyko można kontrolować zarówno przez rynek, jak i prawo.

Zamiast nowych regulacji, należy szukać rozwiązań w ramach istniejącego systemu. Tylko w ten sposób można zapobiec monopolizacji przez wiodące firmy AI i zapewnić ciągłość innowacji.

Niniejsza treść ma charakter wyłącznie informacyjny i nie stanowi porady finansowej, inwestycyjnej, prawnej ani podatkowej. Wszelkie wydarzenia, nagrody, promocje online lub powiązane informacje, o których tu mowa, nie powinny być traktowane jako rekomendacja, zachęta ani zaproszenie do kupna, sprzedaży, wymiany lub innego rodzaju obrotu aktywami kryptograficznymi. Aktywa kryptograficzne charakteryzują się dużą zmiennością i mogą prowadzić do strat. Dostępność usług, produktów i powiązanych wydarzeń WEEX może się różnić w zależności od regionu. Użytkownik jest odpowiedzialny za upewnienie się, że jego udział jest zgodny z obowiązującymi lokalnymi przepisami i regulacjami.