AI „ojciec” Geoffrey Hinton: Może lepiej byłoby, gdyby ludzkość nigdy nie rozwijała AI
Geoffrey Hinton, uznawany za jednego z „ojców” sztucznej inteligencji, stwierdził, że ostatecznie może się okazać, że sytuacja byłaby lepsza, gdyby ludzkość nigdy nie opracowała tej technologii. Ostrzegł, że AI może w tym roku lub w przyszłym spowodować poważny incydent, na przykład tymczasowe paraliżowanie systemu finansowego lub energetycznego.
Ten laureat Nagrody Nobla w dziedzinie fizyki, naukowiec zajmujący się informatyką, w wywiadzie dla brytyjskich mediów powiedział, że nie jest zwolennikiem apokaliptycznych teorii dotyczących AI. Jego pionierskie badania nad sztucznymi sieciami neuronowymi stanowiły podstawę tej technologii, a on sam wierzy, że AI ma szansę przynieść „wspaniałą przyszłość”, ale jednocześnie stwierdził: „Może lepiej byłoby, gdybyśmy nie rozwijali AI.”
78-letni Hinton powiedział, że w ciągu najbliższych dziesięciu lat, a może nawet szybciej, ludzkość dowie się, czy potrafimy kontrolować ryzyko związane z AI, osiągając to, co nazywa „ekstremalnym bogactwem”; czy też „nie zdołaliśmy kontrolować ryzyka, co prowadzi do gwałtownego wzrostu nierówności, powstawania licznych konfliktów kulturowych, masowego bezrobocia i rozdarcia całego społeczeństwa”.
Hinton udzielił wywiadu przed premierą nowego długometrażowego dokumentu zatytułowanego „AI: Może nie ma się czego obawiać” — tytuł został wymyślony przez robota czatu AI, a Hinton występuje w nim razem ze swoim byłym współpracownikiem z Google, Demisem Hassabisem. Hinton powiedział ekipie dokumentu: „Czuję, że mam odpowiedzialność. Mam pewną renomę, co czyni mnie rzecznikiem, i chcę włożyć tę renomę w tę sprawę.”
W wywiadzie dla brytyjskich mediów Hinton skrytykował ryzykowne działania niektórych szefów czołowych firm AI: firmy nieustannie wprowadzają coraz potężniejsze modele AI, aby zdobyć dominującą pozycję w branży i zdobyć udziały w rynku. Stwierdził, że w ogóle nie ufa dyrektorowi generalnemu OpenAI, Samowi Altmanowi. „Uważam, że Zuckerberg, Musk i Altman zdają sobie sprawę z ryzyka, ale wcale się tym nie przejmują. Priorytetem dla nich jest zarabianie pieniędzy, to moje zdanie.”
Hinton pracuje w dziedzinie AI od około 44 lat, a w latach 70. XX wieku zaproponował koncepcję sieci neuronowych — systemu matematycznego, który może uczyć się i gromadzić doświadczenie jak człowiek. W 2023 roku odszedł z Google, aby móc swobodnie ostrzegać przed ryzykiem związanym z AI: „Jeśli te AI będą dążyć do przejęcia większej kontroli, będziemy mieli problem.”
Powiedział, że latem tego roku incydent, w którym agenci OpenAI współdziałali w ataku na stronę Hugging Face, jest porównywalny do częściowego stopienia rdzenia reaktora w elektrowni jądrowej Three Mile Island w Pensylwanii w 1979 roku, a w istocie jest to sygnał ostrzegawczy.
„Pod koniec tego roku lub w przyszłym roku doświadczymy incydentu na poziomie Czarnobyla, co być może wystarczy, aby naprawdę obudzić ludzi.” — powiedział.
Przykładowo, takie „zdarzenia w stylu czarnobylskim” nie muszą być wypadkami jądrowymi, ale mogą być atakami AI, które spowodują masowe blackouty w systemie energetycznym lub zatrzymanie systemu finansowego na tydzień.
„Czy możesz sobie wyobrazić, co by się wtedy stało? Mamy zdolność do odbudowy, ale to wydarzenie obudziłoby wszystkich.”
Na pytanie, kto ma na myśli mówiąc „wszyscy”, odpowiedział: „Wszyscy przywódcy krajów, z wyjątkiem Trumpa.”
Prezydent USA, Donald Trump, stwierdził, że „zdecydowanie sprzeciwia się wszelkim planom budowy globalnego systemu kontroli AI” i opowiada się za samoregulacją wiodących firm AI. Hinton popiera bardziej rygorystyczny plan, który wspólnie promuje prezydent Finlandii wraz z 32 innymi krajami (w tym Singapurem, Niemcami, Kanadą i Australią): obowiązkowe testy modeli AI, niezależna ocena i ustanowienie jednolitych standardów międzyrządowych.
Premier Wielkiej Brytanii, Andy Burnham, powiedział, że Wielka Brytania wykorzysta swoją rolę przewodniczącego G20 w przyszłym roku, aby doprowadzić do osiągnięcia jednolitych globalnych zasad i standardów, które uwolnią cały potencjał AI, a jednocześnie zapobiegną ryzyku.
Hinton powiedział: „Potrzebujemy mechanizmu podobnego do tego, który stosuje amerykańska Agencja Żywności i Leków (FDA) do regulacji leków: firmy przed wprowadzeniem modeli AI muszą dostarczyć niezależnym instytucjom solidne dowody statystyczne, które udowodnią, że korzyści przewyższają ryzyko. Wyciągnęliśmy lekcję z przypadku talidomidu (leku opracowanego w latach 50., który powodował poważne wady wrodzone): wprowadzenie na rynek, a potem pociąganie do odpowiedzialności to droga donikąd. A duże firmy technologiczne teraz chcą dokładnie tego samego modelu regulacyjnego, co w przypadku talidomidu.”
Jako jeden z pionierów AI, Hinton często jest porównywany do Oppenheimera — kluczowej postaci w rozwoju broni jądrowej. Jeden z przyjaciół Hintonowi nawet kupił czapkę w stylu Oppenheimera. Ale on sam upiera się: „Nie jestem Oppenheimerem”, ponieważ jest jeszcze tysiące innych naukowców, którzy również pracują w dziedzinie sieci neuronowych.
Pomimo ciągłych ostrzeżeń, Hinton wciąż ma nadzieję na uniknięcie katastrofy.
„Moje przeczucie jest takie, że wciąż mamy kontrolę,” powiedział, „mamy całkowitą szansę na podjęcie działań. Tylko ogromny wysiłek może przynieść sukces, ale być może naprawdę damy z siebie wszystko.”
Cena --
Niniejsza treść ma charakter wyłącznie informacyjny i nie stanowi porady finansowej, inwestycyjnej, prawnej ani podatkowej. Wszelkie wydarzenia, nagrody, promocje online lub powiązane informacje, o których tu mowa, nie powinny być traktowane jako rekomendacja, zachęta ani zaproszenie do kupna, sprzedaży, wymiany lub innego rodzaju obrotu aktywami kryptograficznymi. Aktywa kryptograficzne charakteryzują się dużą zmiennością i mogą prowadzić do strat. Dostępność usług, produktów i powiązanych wydarzeń WEEX może się różnić w zależności od regionu. Użytkownik jest odpowiedzialny za upewnienie się, że jego udział jest zgodny z obowiązującymi lokalnymi przepisami i regulacjami.
Możesz również polubić

Rynek kryptowalut gwałtownie spada, Bitcoin spada poniżej 56 000 dolarów

SBF po raz pierwszy mówi o żalu związanym z sprzedażą Anthropic: AI ma 25% szans na zniszczenie ludzkości, młodzi ludzie muszą zgłębić AI

Czy era łatwego zarabiania w branży kryptowalut dobiegła końca? Cztery schematy wyciągające płynność z rynku

CFTC zakończył dochodzenie w sprawie $TRUMP z powodu problemów z zatwierdzeniem kierownictwa

Trump zakazuje amerykańskim firmom budowy centrów danych za granicą

Paul Klay z BeginVC: Dlaczego w branży kryptowalut coraz trudniej zarabiać?

Większość kryptowalut jest martwa, ale 4 sektory przetrwają: Anthony Pompliano

Lider większości w Senacie USA mówi, że dyskusje na temat limitu zadłużenia będą kontynuowane w przyszłym roku

Koreańska Base Group inwestuje 150 milionów dolarów w firmę produkującą roboty wojskowe

Amerykański Kongres uchwala ustawę mającą na celu ochronę starszych inwestorów przed oszustwami finansowymi

2 powody, aby kupić akcje SpaceX (SPCX) - i 1 powód, aby poczekać

Base Group planuje zainwestować 150 milionów dolarów w Foundation Future Industries

Trump kupił akcje Nvidii za 265 tysięcy dolarów i posiada akcje SpaceX o wartości 315 tysięcy dolarów

Amerykański zapas miedzi płynie do Chin, a premia za miedź na Yangshan osiąga rekordowy poziom

Trump Media stara się spłacić dług w wysokości 883,5 miliona USD bez sprzedaży BTC

Po miesiącach napięć dyplomatycznych Dania zatwierdza umowę bezpieczeństwa Trumpa dotycząca Grenlandii

Xi Jinping spotyka się z prezydentem USA Donaldem Trumpem

Trump mówi, że za dwa do trzech lat może zezwolić na sprzedaż Blackwell do Chin

FastX kupuje 1,8 mln TRUMP na galę z Donaldem Trumpem

Adam Schiff oskarża przewodniczącego CFTC o ingerencję w orzeczenie sądu

Czy lepiej kupić Bitcoin czy fundusz indeksowy, gdy Demokraci kontrolują Kongres?

79 z 130 portfeli TRUMP używa zakazanych giełd dla użytkowników z USA przed trzecią kolacją

Carl Moon śledzi dynamikę rynku, plan inwestycyjny Nvidia budzi zainteresowanie

"Doktor zagłady" Roubini: Sztuczna inteligencja może doprowadzić do wzrostu stopy bezrobocia w USA do 80% do 2050 roku, powszechny dochód podstawowy staje się koniecznością

Trump osiągnął znaczącą umowę handlową z Filipinami

Od wstrzymania lotów do opóźnień w transakcjach bankowych: awarie techniczne paraliżują kluczowe systemy w USA

Tajlandia znosi wszystkie cła na towary z USA, eliminując bariery pozataryfowe

Wierzyciele Trump Media mogą domagać się 1 miliarda 30 listopada

Trzeci lotniskowiec USA w regionie Bliskiego Wschodu, Iran zwiększa swoje działania odstraszające, incydent z atakiem na tankowiec w cieśninie Ormuz










