Jensen Huang w lewo, Amodi w prawo

Tytuł oryginalny: "Jensen Huang w lewo, Amodi w prawo"
Autor oryginalny: Su Yang, Tencent Technology

Wiodąca AI nadal przyspiesza, czy też hamuje, staje się najbardziej kontrowersyjnym tematem w Dolinie Krzemowej.

Wokół kontrowersji, giganci Doliny Krzemowej zaczęli się dzielić na obozy, Amodi, Altman, Musk i Hassabis tworzą "oboz hamujący". Jensen Huang jest zdecydowanym przedstawicielem "obozu przyspieszającego", krytykując "teorię końca AI" jako pozbawioną naukowych podstaw; Yang Li-Kun kontynuuje szydzenie z Amodiego, mówiąc: „(Amodi) kiedyś w OpenAI uważał, że GPT-2 jest zbyt niebezpieczne, by je udostępniać, wtedy się z niego śmiałem, teraz wszyscy mogą kontynuować.”

W porównaniu, Zuckerberg i Nadella wydają się stosunkowo neutralni.

Podział wśród gigantów oznacza, że Dolina Krzemowa nie osiągnęła konsensusu w sprawie wstrzymania wiodących modeli, co wynika z różnic w ekosystemach w łańcuchu przemysłowym AI. Liderzy na poziomie modeli mogą wzywać do wstrzymania z różnych powodów, ale nie można oczekiwać, że firmy takie jak Oracle, AWS, które mają zamówienia na moce obliczeniowe warte setki miliardów dolarów, oraz Nvidia, stojąca na szczycie łańcucha pokarmowego, zatrzymają się.

W Waszyngtonie, wezwania do "wstrzymania" nie tylko nie zyskały poparcia, ale wręcz wywołały szereg wątpliwości.

"To trochę przypomina mi konia trojańskiego (It feels a little bit to me like a bit of a Trojan horse)." JD Vance powiedział w wywiadzie, że ta wypowiedź odzwierciedla prawdziwe poglądy Waszyngtonu - kiedy firmy produkujące konie trojańskie nieustannie domagają się, aby drzwi stały się węższe, należy przyjrzeć się, jakie firmy powinny przez te drzwi przechodzić.

01 Wstrzymanie, ostrzeżenie i list rezygnacyjny

Iskrą tej debaty była rezygnacja Jacob'a Coxona, badacza z Anthropic.

Pracował wcześniej w OpenAI i Anthropic przez trzy lata, biorąc udział w treningu najnowocześniejszych modeli. W długim wpisie na X prawie nie używał grzeczności: "Obie firmy nie działają odpowiedzialnie. Pędzą w stronę superinteligencji, która może się samodoskonalić, stawiając nasze życie na szali."

Bez ogródek stwierdził, że ludzie w laboratoriach naprawdę wierzą, że AI może zabić wszystkich ludzi w ciągu dziesięciu lat, a to nie jest gra PR. Wielu współpracowników zaczęło określać obecny etap jako "kluczowy moment" i "ostateczność". Coxon nawet zrezygnował z przysługujących mu akcji. Spędził w Anthropic tylko cztery miesiące, a zgodnie z regulaminem firmy, sześć miesięcy musi minąć, aby móc je wykupić.

Były badacz Anthropic Jacob Coxon

Następnie Evan Hubinger, odpowiedzialny za naukę o dostosowywaniu w Anthropic, publicznie odpowiedział: Jacob ma rację, naprawdę poważnie wierzymy, że AI może zabić wszystkich ludzi. Osobiście uważam, że prawdopodobieństwo tego w ciągu dziesięciu lat przekracza 10%. Anthropic stara się, ale nie mamy jeszcze jasnego planu dostosowania superinteligencji, a do celu jeszcze daleko.

Te dwa strzały przeniosły obawy, które wcześniej fermentowały głównie w laboratoriach, bezpośrednio na forum publiczne. W tym kontekście, założyciel i CEO Anthropic, Amodi, natychmiast opublikował długi tekst, systematycznie przedstawiając postulat "spowolnienia badań wiodących". Już nie mówił tylko o "wielokrotnej inwestycji w bezpieczeństwo", ale wyraźnie zażądał aktywnej kontroli tempa wzrostu zdolności, aby dać mechanizmom bezpieczeństwa czas na nadrobienie zaległości.

Altman, Musk i Hassabis szybko publicznie odpowiedzieli, tworząc "oboz hamujący".

Zanim pojawiła się teoria "spowolnienia" Jacob'a Coxona i Amodiego, Joshua Bengio i Geoffrey Hinton, ci "ojcowie AI", nieustannie wydawali wezwania do zwrócenia uwagi na ryzyko.

Mówiąc o rezygnacji Coxona, Bengio stwierdził, że naukowcy w wiodących laboratoriach AI często mogą dostrzegać zdolności najnowszych modeli wcześniej niż społeczeństwo, dlatego ich oceny ryzyka zasługują na poważne traktowanie.

Jednocześnie Bengio podaje konkretne przykłady, stwierdzając, że obecne systemy AI już mają zdolności hakerskie i perswazyjne, a jeśli zostaną wykorzystane do zaszkodzenia ludzkim interesom, mogą spowodować poważne konsekwencje. Obawia się również, że w miarę jak AI zyskuje zdolność planowania na dłuższy okres, tego rodzaju ryzyko może się jeszcze bardziej zwiększyć.

Gdy BBC zapytało Hinton'a o prawdopodobieństwo, że AI "zabije wszystkich ludzi" w ciągu następnej dekady przekracza 10%, Hinton również stwierdził, że ta liczba "nie jest nierozsądna", ale jednocześnie podkreślił, że nikt tak naprawdę nie wie, jak podać wiarygodny szacunek, ponieważ ludzkość nigdy wcześniej nie miała do czynienia z "gatunkiem, który może być znacznie mądrzejszy od nas w krótkim czasie".

Hinton uważa, że AI w przyszłości może być wykorzystywana do projektowania niebezpiecznych wirusów biologicznych, wirusów komputerowych oraz przeprowadzania masowych cyberataków. Dlatego ludzkość musi znaleźć skuteczne metody kontroli, zanim ryzyko wymknie się spod kontroli.

W przeciwieństwie do zwolenników nowej rundy "wstrzymania" w Dolinie Krzemowej, "ojcowie AI" bardziej wzywają do zwrócenia uwagi na ryzyko i eksploracji mechanizmów kontroli ryzyka, a nie do bezpośredniego hamowania. Co więcej, z perspektywy, opinie i sugestie w dziedzinie akademickiej są bardziej czyste, podczas gdy inicjatywy w wiodących laboratoriach, nawet jeśli na powierzchni mają etykietę "dla ludzkości", wciąż trudno jest w 100% uwolnić się od komercyjnych rozważań.

To właśnie dlatego JD Vance powiedział, że "teoria wstrzymania" przypomina konia trojańskiego.

02 Różnice i podziały

Obozy "przyspieszające", "hamujące" i "neutralne". Źródło: New York Times

15 września, wielu liderów firm technologicznych zabrało głos na konferencji Salesforce Dreamforce, a ta debata zaczęła przekształcać się w bardziej bezpośrednią wymianę poglądów.

Tego dnia Amodi, Huang i Altman wszyscy mówili o bezpieczeństwie AI, ale przedstawili różne odpowiedzi na temat tempa rozwoju, odpowiedzialności za bezpieczeństwo oraz działań, jakie powinny podjąć firmy.

Amodi, występując obok CEO Salesforce, Marca Benioffa, ponownie podkreślił, że firmy AI powinny ustanowić wyższe standardy bezpieczeństwa poprzez własne działania. Uważa, że aktywne podejmowanie bardziej rygorystycznych środków bezpieczeństwa przez firmy może być sposobem na przyspieszenie całej branży.

Innymi słowy, postawa Amodiego zaczyna się zmieniać, z wzywania całej branży do spowolnienia, na promowanie samodzielnego wprowadzania zabezpieczeń przez firmy.

Jensen Huang stwierdził, że "nie potrzebujemy nowych przepisów ani nowych regulacji". Jego zdaniem, prędkość i bezpieczeństwo nie są ze sobą sprzeczne; firmy mogą jak najszybciej rozwijać modele; jeśli odkryją, że tracą kontrolę lub produkt nie może zapewnić bezpieczeństwa, powinny wstrzymać się, aby rozwiązać problem.

Postawa Benioffa jest bardziej otwarta i podkreśla autonomię. Stwierdził, że jeśli firmy uważają, że powinny zwolnić, powinny zwolnić; jeśli uważają, że powinny przyspieszyć, powinny przyspieszyć, a także powinny ponosić odpowiedzialność za swoje decyzje.

Założyciel i CEO OpenAI, Altman, na miejscu Dreamforce stwierdził, że ma pełne zaufanie, że OpenAI i cały przemysł AI mogą rozwijać się bez powodowania poważnych szkód dla społeczeństwa. Jednocześnie wyraził rozczarowanie, że jego poglądy zostały zrozumiane jako poparcie dla spowolnienia rozwoju AI w całej branży.

Innymi słowy, Altman również zaczyna się zmieniać, podkreślając, że nie chce wzywać do spowolnienia branży, ale że prace nad bezpieczeństwem i nadzorem powinny wyprzedzać rozwój zdolności.

Zuckerberg nie popiera budowania działań bezpieczeństwa jednej firmy na podstawie tego, że inne firmy AI muszą zwolnić. Uważa, że wprowadzenie niezależnych instytucji oceniających i zewnętrznych doradców do weryfikacji bezpieczeństwa modeli jest najlepszą praktyką w branży. Odkrył również, że Meta wcześniej sama spowolniła rozwój narzędzia Muse AI, zamiast czekać na osiągnięcie konsensusu w sprawie spowolnienia rozwoju AI przez inne firmy.

Postawa CEO Microsoftu, Satyi Nadelli, w pewnym sensie jest zgodna z Altmanem, zachęcając do wprowadzania zabezpieczeń, a także do pełnej konkurencji.

"Naszym pierwszym celem jest służenie ludzkości i zapewnienie, że technologia jest pod kontrolą ludzi. W międzyczasie, szerokie rozpowszechnienie technologii AI jest kluczowe, musi być selektywne i konkurencyjne. Bezpieczeństwo należy traktować poważnie, ale należy je rozwiązywać w sposób inżynieryjny i przejrzysty, a nie mistyfikować." Nadella powiedział 15 września podczas szczytu All-In Summit 2026.

Oprócz tych przedsiębiorców, głos z Waszyngtonu również się włączył.

Po tym, jak Trump bezpośrednio zadzwonił do Huanga, publicznie wyrażając poparcie dla dalszego rozwoju przemysłu AI, współprzewodniczący amerykańskiej Rady Doradczej ds. Nauki i Technologii, David Sacks, następnie stwierdził, że firmy technologiczne mogą kontynuować rozwój wiodącego AI, jednocześnie kwestionując motywy niektórych firm, które postulują "spowolnienie".

03 Kto ma ustalać zasady?

W miarę rozszerzania się dyskusji, kontrowersje rozciągnęły się nie tylko na ryzyko związane z AI, ale także na to, czy standardy bezpieczeństwa dla wiodącego AI powinny być ustalane przez same firmy, czy też wymagałyby interwencji rządu i niezależnych instytucji?

Bloomberg cytuje źródła, które mówią, że Anthropic, Google i OpenAI wcześniej dyskutowały o utworzeniu instytucji standardów branżowych dla sztucznej inteligencji.

W lipcu, Hassabis opublikował artykuł, w którym zaproponował utworzenie instytucji standardów AI pod przewodnictwem USA, działającej na podobieństwo amerykańskiej Komisji Nadzoru Finansowego (FINRA). Ta instytucja mogłaby testować zaawansowane modele AI przed ich oficjalnym wdrożeniem, aby ocenić, czy spełniają odpowiednie standardy bezpieczeństwa.

Zgodnie z wizją Hassabisa, ta instytucja nie powinna być całkowicie kierowana przez rząd, ale powinna przyjąć model współpracy publiczno-prywatnej. Rząd pełniłby rolę nadzorczą, a branża AI dostarczałaby fundusze, jednocześnie angażując niezależnych czołowych ekspertów technologicznych oraz przedstawicieli społeczności open source.

Hassabis starał się dodać niezależną kontrolę bezpieczeństwa przed wprowadzeniem modeli do rzeczywistego świata, co jest zgodne z zestawem zasad regulacyjnych ogłoszonym przez rząd USA na początku czerwca: firmy mogą dobrowolnie przekazywać modele do oceny rządowej przed ich publicznym wydaniem, maksymalnie na 30 dni przed wydaniem, z wyraźnym zastrzeżeniem, że nie ma obowiązkowej akceptacji ani licencji na wydanie.

Co ciekawe, późniejsze uruchomienie Fable 5 i Mythos 5 nie odbyło się zgodnie z tym procesem, ale zostało odkryte, że mają one bardzo silne zdolności w zakresie cyberataków i obrony, ostatecznie zostały na krótko wyłączone przez amerykański BIS w ramach kontroli eksportu.

Jednakże, mimo to, polityka tylko wymagała wprowadzenia zabezpieczeń, nie wyraziła stanowiska ani wskazówek dotyczących spowolnienia.

Podobne poglądy do Hassabisa ma Jakub Pachocki, główny naukowiec OpenAI. Na początku września również podkreślił, że dzielenie się standardami bezpieczeństwa oraz międzynarodowa koordynacja w zakresie dalszego rozwoju AI powinny stać się priorytetem.

04 Nikt tak naprawdę nie hamuje

Do tej pory ta debata nie zmieniła rzeczywistego tempa rozwoju wiodących firm AI.

Anthropic, OpenAI, Google, xAI i inne firmy nadal kontynuują rozwój modeli, a konkurencja w zakresie mocy obliczeniowej, centrów danych i infrastruktury AI nie zatrzymała się z powodu tej debaty. Na rynku kapitałowym pojawiły się różne zmiany: Anthropic wciąż przygotowuje się do IPO w tym roku, podczas gdy OpenAI opóźniło plany IPO do 2027 roku.

Amodi chce zatrzymać cały przemysł, aby wspólnie z Anthropic znaleźć rozwiązania do wprowadzenia zabezpieczeń dla przekraczających możliwości modeli, co w pewnym sensie można zrozumieć jako "hojność wobec innych".

To również wyjaśnia, dlaczego Amodi został oznaczony etykietą "udawania doskonałego anioła".

W kwestii kontroli ryzyka, pogląd reprezentowany przez Huang'a jest bardziej zgodny z rzeczywistością; jeśli firmy mają obawy lub odkryją problemy, mogą całkowicie samodzielnie eksplorować rozwiązania i dzielić się skutecznymi rozwiązaniami z branżą.

Zatrzymanie zespołu liczącego 100 osób i zespołu liczącego 1000 osób, bez podstaw do osiągnięcia konsensusu, jest niemożliwe. Nawet Amodi wie, że jeśli tylko on się zatrzyma, może zostać wyprzedzony przez konkurentów, takich jak OpenAI.

Co ważniejsze, istnieją różnice w zarządzaniu. Anthropic i OpenAI są firmami o publicznych korzyściach (Public Benefit Company), mogą krzyczeć "dla przyszłości ludzkości rezygnujemy z krótkoterminowych korzyści finansowych", mogą mówić inwestorom "to było dla nas jasne od dawna", ale firmy takie jak Google, Microsoft, Meta, mają obowiązki prawne wobec akcjonariuszy na rynku wtórnym.

Możliwość osiągnięcia konsensusu między firmami o różnych interesach w tej kwestii nie jest zbyt duża.

Jest jeszcze jeden szczegół, który może zostać pominięty. Przed "teorią wstrzymania", zarówno Anthropic, jak i OpenAI wprowadziły najpotężniejsze modele, jeden to Fable 5.1, a drugi to GPT-6 Astra.

W obliczu licznych wezwań, czy inne firmy również wprowadzą nowe modele?

Link do oryginału