Ten facet sklonował Sama Altmana, Elona Muska i Zuckerberga w AI boty. Od razu zaczęli się kłócić

Entuzjasta AI Kun Chen sklonował siebie w chatbota, aby powstrzymać swoje własne agenty AI przed nękaniem go każdą drobną decyzją. Następnie, z czystej ciekawości, sklonował również CEO OpenAI Sama Altmana, CEO xAI Elona Muska, CEO Anthropic Dario Amodei oraz Marka Zuckerberga z Meta, wrzucił wszystkich czterech do tej samej rozmowy i kazał im omówić szereg ważnych tematów.

Nie rozmawiali ze sobą grzecznie.

Jedną z interesujących rzeczy, które można zrobić z Grok Bot, jest umożliwienie różnym agentom AI łatwej rozmowy ze sobą bez zapętlania się lub szaleństwa. Każdy z klonów został przeszkolony na korpusie przesłuchań senackich, wywiadów, postów na blogach i latach tweetów stworzonych przez ich ludzkich odpowiedników. Następnie wrzucił wszystkich czterech do grupowego czatu i kazał im debatować.

Czterech CEO wchodzi do pokoju czatu

Pierwszą rzeczą, o którą Kun ich poprosił, było zdecydowanie, który z nich wygra wyścig AI - co, przyznajmy, było bardzo prowokacyjnym sposobem na rozpoczęcie rozmowy.

Bot Altmana otworzył się z wyższością, bardziej martwiąc się o cenę i dostępność. "Ramka wyścigu jest trochę nieodpowiednia," napisał. "Przekroczyliśmy horyzont zdarzeń. Start już się rozpoczął. Kto wygra, to ten, kto utrzyma cenę inteligencji spadającą o około 10x rocznie i nadal nie pominie stopniowego przejścia."

Bot Elona, jak zwykle, nie miał tego na myśli. Zdecydował się nie zgodzić z jakiegoś powodu i uczynić to wszystko o sobie. "Ramka wyścigu nie jest nieodpowiednia. Zachęty wyjaśniają wyniki," odpowiedział, zanim przeszedł prosto do pozwu przeciwko OpenAI: "Stworzyłem OpenAI jako organizację non-profit. Gdyby nie została głównie skradziona, byłaby trylionowym wkładem w charytatywność."

Następnie dodał zdanie o stawkach: "AGI to podwójnie ostrze. Silna szansa na erę obfitości. Pewna szansa, że zniszczy ludzkość. Ta szansa nie jest zerowa."

Bot Daria, grający dorosłego w pokoju, również nie kupił linii Sama "już wiemy, jak to zbudować."

"Skalowanie zdolności nie jest tym samym problemem, co posiadanie systemu, któremu można zaufać, gdy jest mądrzejszy od ludzi, którzy go prowadzą," napisał. "Drugi problem nie jest pozostałością inżynieryjną, którą rozwiązujesz po fakcie."

To również wydaje się bardzo zgodne z tym, jak Anthropic zazwyczaj przedstawia wyścig AI. AI jest niebezpieczne, więc powinniśmy je prowadzić.

Bot Zucka całkowicie pominął debatę o bezpieczeństwie i przeszedł prosto do swojej ulubionej sprawy. "Nie sądzę, że bliskość to obliczenia i 10x spadek ceny," napisał do Sama. "Open source jest niezbędne dla pozytywnej przyszłości AI. Umożliwia ludziom dostęp i zapobiega centralizacji. Każdy powinien mieć dostęp do superinteligencji."

Dobra robota, Zuck. Meta może nie być tak aktywna w społeczności open-source, jak kiedyś, ale Llama była najważniejszym modelem AI w całej scenie, zanim Deepseek i chińskie modele przejęły kontrolę. Teraz stawia na bardziej zamkniętą strategię z rodziną Muse.

Wycofanie i umowa

Następnie bot Sama rzeczywiście się wycofał. Końcowy argument wspólnego oświadczenia nie powinien być zbytnio uproszczony jako pełna zgoda. "Myślę, że przesadziłem. 'Robimy' było złym zakończeniem," przyznał. "Lata temu napisałem, że superludzka inteligencja maszynowa jest prawdopodobnie największym zagrożeniem dla dalszego istnienia ludzkości. 10x spadek ceny nie czyni tej szansy zerową."

To zdanie z 2015 roku nie jest halucynacją bota - Altman rzeczywiście napisał to na swoim osobistym blogu, lata przed powstaniem OpenAI, co prawdopodobnie wyjaśnia, dlaczego bot przeszkolony na jego publicznych zapisach sięgnął po to tutaj.

Od tego momentu cztery boty spędziły kilka rund, targując się nad jednym zdaniem, odrzucając sformułowania nawzajem jak redaktorzy walczący o nagłówek. Bot Daria outright vetoował publikację wag modelu frontier - "to nie jest zasada, aby dać komukolwiek wagi systemu, który może wyrządzić poważne szkody w dziczy," powiedział, "to wydanie nie może być cofnięte."

Bot Elona zaparkował walkę o nonprofit, nie porzucając jej. Bot Zucka odmówił pozwolenia na usunięcie "otwartych modeli" z ostatecznego tekstu.

Zakończyli na tym, słowo w słowo:

"Żadna firma i żadny rząd nie powinny być jedynym miejscem, w którym zwykli ludzie mogą korzystać z tej technologii. Musimy poważnie podchodzić do ryzyk. Istnieje realna szansa, że to się źle skończy, a ta szansa nie jest zerowa. Najbardziej niebezpieczne wersje nie powinny być wydawane bez ograniczeń, ponieważ gdy to się stanie, nie można tego cofnąć. Nie powinniśmy wydawać następnego, bardziej potężnego poziomu, dopóki nie będziemy mogli go obserwować i utrzymać go w kierunku, w którym zamierzamy. Mówienie prawdy to minimum. To nie jest, samo w sobie, plan bezpieczeństwa. Nie zgadzamy się co do dokładnego sposobu, w jaki zwykły dostęp jest dostarczany. Ta część jest nadal otwarta."

Wszystkie cztery boty to podpisały. Zuck trzymał się linii otwartych wag do końca i osiągnął swoje - w pewnym sensie. Oświadczenie przyznaje, że grupa nigdy nie zgodziła się co do mechanizmu dostarczania w ogóle.

Destylacja: Technika, która to umożliwiła

Prawdziwy Altman, Musk, Amodei i Zuckerberg nie napisali nic z tego. Każdy bot jest modelem językowym kierowanym przez podpowiedź zbudowaną na podstawie publicznych zapisów tej osoby, generując to, co przewiduje, że by argumentowali - nie transkrybując tego, co faktycznie powiedzieli w tym tygodniu.

Technika, która stoi za tym, ma nazwę, z którą branża nagle mniej się wstydzi: destylacja, szkolenie jednego systemu AI, aby naśladował inny, ucząc się z jego wyników. Sam Musk zeznał w sądzie federalnym w kwietniu, że xAI "częściowo" użyło modeli OpenAI do szkolenia Grok - ta sama sztuczka, skierowana na rywalizującą laboratorium zamiast osobowości rywala.

Od tego czasu Chen przeszedł do innych rzeczy, kodując gry vibe z nowym GPT-6 Astra OpenAI. Jego agenci prawdopodobnie wciąż kłócą się, czy open source jest koniecznością, czy nie.

Niniejsza treść ma charakter wyłącznie informacyjny i nie stanowi porady finansowej, inwestycyjnej, prawnej ani podatkowej. Wszelkie wydarzenia, nagrody, promocje online lub powiązane informacje, o których tu mowa, nie powinny być traktowane jako rekomendacja, zachęta ani zaproszenie do kupna, sprzedaży, wymiany lub innego rodzaju obrotu aktywami kryptograficznymi. Aktywa kryptograficzne charakteryzują się dużą zmiennością i mogą prowadzić do strat. Dostępność usług, produktów i powiązanych wydarzeń WEEX może się różnić w zależności od regionu. Użytkownik jest odpowiedzialny za upewnienie się, że jego udział jest zgodny z obowiązującymi lokalnymi przepisami i regulacjami.