Lokalna inicjatywa AI Vitalika Buterina: Czy Twój laptop może zastąpić ChatGPT?

Współzałożyciel Ethereum, Vitalik Buterin, twierdzi, że lokalna sztuczna inteligencja (AI) jest bliska obsługi dużej części codziennych zadań. Uruchomił Qwen3.8-Flash-Next od Alibaba na swoim własnym laptopie i opublikował wyniki prędkości.

W przeciwieństwie do ChatGPT, ta konfiguracja nigdy nie łączy się z serwerem w chmurze. Model znajduje się na maszynie, a maszyna sama odpowiada na zapytanie.

Test lokalnej AI Vitalika Buterina pokazuje użyteczną prędkość

Jego laptop wykorzystuje chip Strix Halo od AMD. Większość komputerów dzieli pracę między procesor a oddzielną kartę graficzną, a każda z nich ma swoją własną pulę pamięci. Strix Halo umieszcza oba elementy na jednym kawałku krzemu i pozwala im dzielić jedną pulę.

Ten projekt ma znaczenie, ponieważ model AI musi zmieścić się w pamięci, zanim będzie mógł w ogóle działać. Typowa karta graficzna oferuje od 8 do 24 gigabajtów, co jest zdecydowanie zbyt mało dla modelu tej wielkości. Komputery Strix Halo są dostarczane z maksymalnie 128 gigabajtami, które mogą być używane przez dowolną połowę chipa. Jeden laptop może więc pomieścić model, który do niedawna wymagał sprzętu serwerowego.

Prędkości, które opublikował, są wystarczająco szybkie do codziennej pracy. Krótkie zapytania wracały w komfortowym tempie czytania. Wyniki spowolniły, gdy zapytanie rozrosło się do dziesiątek tysięcy słów, więc bardzo długie dokumenty pozostają słabym punktem.

Alibaba opublikowało otwarte wagi 26 sierpnia. Zespół twierdzi, że model ma 125 miliardów parametrów, ale aktywuje tylko sześć miliardów na raz, co utrzymuje wymagania pamięci na umiarkowanym poziomie.

Buterin nazwał go Qwen3.8-Flash, chociaż Alibaba dostarcza wersję do pobrania jako Qwen3.8-Flash-Next. Jego większy odpowiednik, Qwen3.8-Max, uzyskał wysokie wyniki w benchmarkach w sierpniu.

Qwen 3.8 flash jest naprawdę imponujący, a llama.cpp szybko staje się coraz lepszy w jego przetwarzaniu
kolumny to: istniejące zapytanie, nowe zapytanie, wygenerowane, input tok/s, output tok/s
To jest na moim laptopie (strix halo). Myślę, że jesteśmy bardzo blisko momentu, w którym... pic.twitter.com/v5Ze4Fv5Wr
--- vitalik.eth (@VitalikButerin) 17 września 2026

Dlaczego prywatność zmienia obliczenia

Buterin dostrzega drugą korzyść poza surową prędkością. Lokalny model odpowiada na urządzeniu, więc żaden dostawca nigdy nie otrzymuje zapytania.

Dla bardziej wymagającej pracy proponuje podział. Lokalny model zajmie się tym, co może, a następnie usunie wrażliwe szczegóły z wszystkiego, co przekazuje do większego systemu hostowanego.

"użyj swojego lokalnego modelu do organizowania zapytań do potężnych modeli, aby twoje zapytania nie ujawniały twoich danych osobowych"

W praktyce lokalny model wyciągnie imiona, adresy portfeli lub prywatny kod z zapytania, a następnie przekaże tylko pozostałe pytanie. Tego rodzaju filtrowanie zmniejszyłoby to, co opuszcza urządzenie. Nie gwarantowałoby to jednak, że nic wrażliwego nie przejdzie.

Ta propozycja odpowiada jego dotychczasowym działaniom. Ostrzegał o inwigilacji podczas walki o kontrolę czatu w UE, a użytkownicy kryptowalut domagali się zaostrzenia ograniczeń dla agentów z podobnych powodów.

Pozew zbiorowy złożony w maju oskarża OpenAI o dzielenie się zapytaniami użytkowników ChatGPT z Meta i Google.

Dostawcy chmur wciąż posiadają granicę. Jednak każdy postęp w lokalnej wydajności przenosi więcej rutynowej pracy z ich serwerów, a tanie sprzęty z pamięcią współdzieloną wciąż się rozwijają.

Otwarte pytanie brzmi, ile zdolności ludzie wymienią za kontrolę.