Nie możemy kodować przyszłości ludzkości w stylu vibe, ostrzega szef ONZ na szczycie AI

Sekretarz Generalny ONZ António Guterres otworzył pierwszy Globalny Dialog na temat Zarządzania AI w Genewie w poniedziałek, mówiąc 193 krajom, że AI już wyprzedza instytucje, które mają ją regulować - i że ludzkość prowadzi eksperyment na sobie "bez planu i bez zgody".

"Sztuczna inteligencja rozwija się w zawrotnym tempie," powiedział Guterres na początku swojego wystąpienia. "Technologia, która może przekształcić gospodarki, zmienić świat pracy, wpływać na wybory i przechylać równowagę bezpieczeństwa, jest wdrażana szybciej, niż ktokolwiek - w tym ludzie ją tworzący - mogą nadążyć."

W sali znajdowały się wszystkie 193 państwa członkowskie ONZ, zwołane w Genewie na pierwszy Globalny Dialog na temat Zarządzania AI, wielostronną próbę regulacji technologii, która już wyprzedziła wszystkich próbujących to zrobić.

Mem użyty przez Guterresa do wyjaśnienia ryzyk związanych z nieuregulowaną AI to vibe coding - termin ukuty przez Andreja Karpathy'ego, członka założyciela OpenAI i byłego dyrektora AI w Tesli, aby opisać programowanie na wyczucie: powiedz AI, czego chcesz, pozwól jej zająć się resztą, nie przyglądaj się zbyt blisko. Merriam-Webster niedawno dodał go do swojego słownika.

Guterres przyznał, że vibe coding "może czynić cuda", ponieważ coraz więcej ludzi ufa produktom stworzonym przez AI.

"Ale nie możemy kodować prawdy w stylu vibe," powiedział. "Nie możemy kodować przyszłości ludzkości w stylu vibe."

Liczby stojące za tym stwierdzeniem nie były miękkie. Guterres oszacował, że internet potrzebował 15 lat, aby dotrzeć do miliarda ludzi, a AI zaledwie dwóch. Opisał obecne systemy jako "nie narzędzia czekające na instrukcje - one piszą kod, działają w sieci i podejmują decyzje z coraz mniejszą ludzką kontrolą."

"Nasze instytucje zostały zbudowane, aby regulować maszyny, które wykonują polecenia. Nie są gotowe na maszyny, które podejmują decyzje."

Dialog zrodził się z Globalnego Paktu Cyfrowego 2024, który po raz pierwszy ustanowił międzynarodowe zarządzanie AI jako mandat ONZ. Jego otwierająca sesja dwa lata później otrzymała również wstępny raport Niezależnej Międzynarodowej Rady Naukowej ds. Sztucznej Inteligencji - 40 naukowców z 140 krajów - który opublikował w zeszłym tygodniu ustalenie, że nikt obecnie nie może zagwarantować, że AI nie spowoduje katastrofalnych szkód.

Prędkość była jednym z trzech ostrzeżeń, które Guterres wyciągnął z panelu. Drugim była władza: obliczenia, dane i talenty skoncentrowane w rękach kilku firm i krajów, większość świata wykluczona z decyzji, które już kształtują tę technologię, co również niepokoi innych ekspertów AI, takich jak Yann Lecun, Andy Kowinski i Yoshua Bengio.

Trzecim było prawda - kłamstwo wspierane przez maszyny teraz przekonuje tak skutecznie, jak zweryfikowany fakt, stopniowo erodując to, co Guterres nazwał "integralnością naszego ekosystemu informacyjnego."

Dzieci jako króliki doświadczalne i zabójcze roboty

Wśród konkretnych propozycji Guterresa znajduje się Zobowiązanie w zakresie Bezpieczeństwa Dzieci w AI, wymagające od firm udowodnienia bezpieczeństwa poprzez niezależne testy, zanim jakiekolwiek AI dotrze do dzieci, utrzymania zerowej tolerancji dla generowania obrazów wykorzystywania seksualnego dzieci oraz połączenia zaniepokojonych dzieci z prawdziwym wsparciem ludzkim, zamiast zostawiania ich samych z chatbotem. "Żadne dziecko nie powinno być królikiem doświadczalnym dla nieuregulowanej AI."

A potem były zabójcze roboty. Guterres nazwał śmiercionośne autonomiczne broń - maszyny, które wybierają i zabijają cel bez ludzkiego osądu - "moralnie odrażającymi" i zażądał zakazu na mocy prawa międzynarodowego.

Państwa już zasiadają przy stole dyskusyjnym. Nie zasugerował, aby zwlekały.

Dialog wznowi się w Nowym Jorku w 2027 roku. Guterres wezwał również Zgromadzenie Ogólne do utworzenia Globalnego Funduszu na rzecz AI, skoncentrowanego na dostępie do obliczeń dla krajów rozwijających się, oraz wyzwał każdą dużą firmę AI do uruchomienia wszystkich centrów danych na energii odnawialnej do 2030 roku - roku, w którym szacuje, że te obiekty wyprzedzą wszystkie oprócz pięciu krajów pod względem zużycia energii elektrycznej.

Zastrzeżenie: Niniejsze treści mają wyłącznie charakter informacyjny i służą celom promocyjnym. Nie stanowią porady finansowej, inwestycyjnej, prawnej ani podatkowej. Wszelkie wydarzenia, nagrody, wydarzenia online oraz powiązane z nimi informacje nie stanowią rekomendacji, zachęty ani zaproszenia do kupna, sprzedaży, handlu lub dokonywania innych transakcji na aktywach cyfrowych ani do korzystania z jakichkolwiek usług. Kryptowaluty cechują się wysoką zmiennością i mogą prowadzić do utraty środków. Usługi WEEX oraz wydarzenia online mogą nie być dostępne we wszystkich regionach i podlegają obowiązującym przepisom prawa, regulacjom oraz wymogom kwalifikacyjnym. Użytkownik ponosi odpowiedzialność za zapewnienie zgodności korzystania z usług WEEX z lokalnymi przepisami prawa oraz za staranną ocenę ryzyka przed podjęciem jakichkolwiek działań związanych z kryptowalutami.