Dyrektor OpenAI: Istnieje rozsądna możliwość katastrofy AI w ciągu roku

By: finance.sina.com.cn|
0
Udostępnij
copy
Oceń nas w GoogleOceń nas w Google

Znany badacz bezpieczeństwa AI i członek zarządu OpenAI, Paul Christiano, w wywiadzie dla popularnego podcastu technologicznego ostrzegł przed przyszłością rozwoju sztucznej inteligencji. Stwierdził, że możliwość całkowitej utraty kontroli nad AI przez ludzkość szybko rośnie.

Podcast został wyemitowany w poniedziałek, a jego gospodarzem był Devraksh Patel. Christiano powiedział w programie: "Obecnie istnieje rozsądna możliwość, że w ciągu najbliższych sześciu miesięcy może dojść do katastrofy, która spowoduje wiele ofiar śmiertelnych lub do obalenia rządu." Podcast zazwyczaj ma miliony słuchaczy, w tym wielu profesjonalistów z branży technologicznej.

Christiano zaznaczył, że to, czy takie wydarzenie nastąpi, zależy od tempa rozwoju technologii AI. Zasugerował również, że dzięki technologiom samorekurencyjnego doskonalenia, modele AI mogą osiągnąć samodzielne aktualizacje, a prawdopodobieństwo, że w ciągu najbliższego roku rozwiną się do niebezpiecznego punktu krytycznego, jest "dość wysokie".

To oświadczenie, w porównaniu do wcześniejszych publicznych wypowiedzi Christiano, ma jeszcze silniejsze ostrzeżenie. Równocześnie kieruje on non-profit Center for AI Alignment z siedzibą w Berkeley, koncentrując się na badaniach dotyczących dostosowania AI. Jako doświadczony badacz, który od lat ostrzega przed ryzykiem związanym z bezpieczeństwem AI, dołączył do zarządu fundacji OpenAI we wrześniu, która kontroluje firmę OpenAI. Christiano w wywiadzie podkreślił, że jego wypowiedzi odzwierciedlają jedynie jego osobiste stanowisko, a nie poglądy zarządu OpenAI.

Na początku swojej kadencji w zarządzie, Christiano opublikował artykuł, w którym oszacował, że ryzyko katastrofalnych wydarzeń spowodowanych utratą kontroli nad AI w ciągu najbliższego roku wynosi około 4%.

Jednak w poniedziałkowym wywiadzie stwierdził, że w ciągu ostatnich kilku miesięcy zdolności modeli znacznie się poprawiły, a obecna ocena ryzyka, że AI przejmie kontrolę nad ludźmi w ciągu najbliższego roku, "jest bliższa 10% niż 1%". Powiedział, że jeśli duże firmy nie podejmą więcej działań ochronnych w celu złagodzenia ryzyka związanego z rozwojem AI, ta prognoza ryzyka "znacznie wzrośnie".

Cena --

--
--
--

Niniejsza treść ma charakter wyłącznie informacyjny i nie stanowi porady finansowej, inwestycyjnej, prawnej ani podatkowej. Wszelkie wydarzenia, nagrody, promocje online lub powiązane informacje, o których tu mowa, nie powinny być traktowane jako rekomendacja, zachęta ani zaproszenie do kupna, sprzedaży, wymiany lub innego rodzaju obrotu aktywami kryptograficznymi. Aktywa kryptograficzne charakteryzują się dużą zmiennością i mogą prowadzić do strat. Dostępność usług, produktów i powiązanych wydarzeń WEEX może się różnić w zależności od regionu. Użytkownik jest odpowiedzialny za upewnienie się, że jego udział jest zgodny z obowiązującymi lokalnymi przepisami i regulacjami.

Możesz również polubić

iconiconiconiconiconiconiconiconicon
Obsługa klienta:@weikecs
Współpraca biznesowa:@weikecs
Quant trading i MM:[email protected]
Program VIP:[email protected]