Dyrektor OpenAI: Istnieje rozsądna możliwość katastrofy AI w ciągu roku
Znany badacz bezpieczeństwa AI i członek zarządu OpenAI, Paul Christiano, w wywiadzie dla popularnego podcastu technologicznego ostrzegł przed przyszłością rozwoju sztucznej inteligencji. Stwierdził, że możliwość całkowitej utraty kontroli nad AI przez ludzkość szybko rośnie.
Podcast został wyemitowany w poniedziałek, a jego gospodarzem był Devraksh Patel. Christiano powiedział w programie: "Obecnie istnieje rozsądna możliwość, że w ciągu najbliższych sześciu miesięcy może dojść do katastrofy, która spowoduje wiele ofiar śmiertelnych lub do obalenia rządu." Podcast zazwyczaj ma miliony słuchaczy, w tym wielu profesjonalistów z branży technologicznej.
Christiano zaznaczył, że to, czy takie wydarzenie nastąpi, zależy od tempa rozwoju technologii AI. Zasugerował również, że dzięki technologiom samorekurencyjnego doskonalenia, modele AI mogą osiągnąć samodzielne aktualizacje, a prawdopodobieństwo, że w ciągu najbliższego roku rozwiną się do niebezpiecznego punktu krytycznego, jest "dość wysokie".
To oświadczenie, w porównaniu do wcześniejszych publicznych wypowiedzi Christiano, ma jeszcze silniejsze ostrzeżenie. Równocześnie kieruje on non-profit Center for AI Alignment z siedzibą w Berkeley, koncentrując się na badaniach dotyczących dostosowania AI. Jako doświadczony badacz, który od lat ostrzega przed ryzykiem związanym z bezpieczeństwem AI, dołączył do zarządu fundacji OpenAI we wrześniu, która kontroluje firmę OpenAI. Christiano w wywiadzie podkreślił, że jego wypowiedzi odzwierciedlają jedynie jego osobiste stanowisko, a nie poglądy zarządu OpenAI.
Na początku swojej kadencji w zarządzie, Christiano opublikował artykuł, w którym oszacował, że ryzyko katastrofalnych wydarzeń spowodowanych utratą kontroli nad AI w ciągu najbliższego roku wynosi około 4%.
Jednak w poniedziałkowym wywiadzie stwierdził, że w ciągu ostatnich kilku miesięcy zdolności modeli znacznie się poprawiły, a obecna ocena ryzyka, że AI przejmie kontrolę nad ludźmi w ciągu najbliższego roku, "jest bliższa 10% niż 1%". Powiedział, że jeśli duże firmy nie podejmą więcej działań ochronnych w celu złagodzenia ryzyka związanego z rozwojem AI, ta prognoza ryzyka "znacznie wzrośnie".
Cena --
Niniejsza treść ma charakter wyłącznie informacyjny i nie stanowi porady finansowej, inwestycyjnej, prawnej ani podatkowej. Wszelkie wydarzenia, nagrody, promocje online lub powiązane informacje, o których tu mowa, nie powinny być traktowane jako rekomendacja, zachęta ani zaproszenie do kupna, sprzedaży, wymiany lub innego rodzaju obrotu aktywami kryptograficznymi. Aktywa kryptograficzne charakteryzują się dużą zmiennością i mogą prowadzić do strat. Dostępność usług, produktów i powiązanych wydarzeń WEEX może się różnić w zależności od regionu. Użytkownik jest odpowiedzialny za upewnienie się, że jego udział jest zgodny z obowiązującymi lokalnymi przepisami i regulacjami.
Możesz również polubić

Bessa Bitcoina trwa 411 dni, przewidywana odbicie w pierwszym kwartale przyszłego roku

DWF Labs: Bitcoin nie jest cyfrowym złotem, podąża za Nasdaq

NEAR obniża inflację. Kto ponosi koszty mniejszej liczby nowych tokenów?

Keystone Macro ostrzega przed ryzykiem bańki AI, koreańskie akcje mogą spaść o 50%

USA i TRM Labs wspólnie zakładają centrum przeciwdziałania przestępczości związanej z kryptowalutami

Inwestorzy w Anthropic z Lightspeed: Dlaczego Anthropic może wygrać?

Citi twierdzi, że klienci są odpowiedzialni, gdy agenci bankowości AI działają na własną rękę - nawet po włamaniu

Cai Xin Securities: Potwierdzenie politycznego dna A-shares, rynek wciąż w fazie stabilizacji

Milioner Bill Ackman sprzedał 2 miliony akcji Microsoftu. Oto dlaczego wciąż jest optymistyczny

Palmer Luckey twierdzi, że buduje offshore'owe schronienie dla przemysłu — i 'nielegalnej' medycyny

Czy powinieneś kupić akcje Amazon przed sezonem świątecznym?

Hims & Hers wprowadza nową terapię peptydową, przyznając jednocześnie, że skuteczność wymaga dalszych badań

Analitycy przewidują wahania BTC przed i po Świętach Bożego Narodzenia, możliwe, że dno już się pojawiło

Prognoza: 200 USD miesięcznie zainwestowane w SpaceX może być warte tyle do 2035 roku

Prognoza wyników Tencent za Q3: Zyski mogą zakończyć 16 kolejnych wzrostów, wydatki na AI i przepływy pieniężne w centrum uwagi

Czy adresy wypłat kryptowalut zmieniają się nawet na oficjalnych stronach? Lekcje z OptimJack

CITIC Securities: Wzrost zmienności cen aluminium, zwróć uwagę na wartość na dnie

Jak wygrać iPhone’a 18 Pro Max na WEEX? Wyjaśniamy 201 Lucky Egg

Wykonawca obronny odpowiedzialny za wstrzymanie lotów w USA

Bitcoin wydaje się teraz tani według jednego wskaźnika po wypływie 1 miliarda dolarów z ETF-ów

Ansem przewiduje, że kryptowaluty przetestują letnie minima, a rynek byków może wystartować w Q2 2027

BitcoinHabebe omawia możliwości rynkowe i prognozy

Benson Sun analizuje przyczyny spadku na rynku kryptowalut

Wymuszone zamknięcie kanału Bitcoin Lightning może być tanie, ale nadal będziesz czekać dniami

Adam Back: Możliwość, że Bitcoin osiągnie 1 milion dolarów do 2028 roku

Kredyt cyfrowy: Porównanie sześciu preferowanych akcji Bitcoina

100 wiernych, 10 ETH, jak powinno wyglądać finansowanie wczesnych projektów kryptograficznych?

Opublikowano łatkę dla fork'a Gloas Ethereum

Ile tak naprawdę jest warte Anthropic?



