Локальный ИИ Виталика Бутерина: Может ли ваш ноутбук заменить ChatGPT?

Сооснователь Ethereum Виталик Бутерин утверждает, что локальный искусственный интеллект (ИИ) близок к тому, чтобы справляться с большой долей повседневных задач. Он запустил Qwen3.8-Flash-Next от Alibaba на своем ноутбуке и опубликовал результаты скорости.

В отличие от ChatGPT, эта настройка никогда не связывается с облачным сервером. Модель находится на машине, и машина сама отвечает на запрос.

Тест локального ИИ Виталика Бутерина показывает приемлемую скорость

Его ноутбук использует чип Strix Halo от AMD. Большинство компьютеров распределяют работу между процессором и отдельной видеокартой, и каждый из них имеет свой собственный пул памяти. Strix Halo объединяет оба на одном куске кремния и позволяет им делить один пул.

Этот дизайн важен, потому что модель ИИ должна поместиться в память, прежде чем она сможет вообще запуститься. Обычная видеокарта предлагает от 8 до 24 гигабайт, что слишком мало для модели такого размера. Машины Strix Halo поставляются с памятью до 128 гигабайт, которую может использовать любая половина чипа. Таким образом, один ноутбук может вместить модель, которая до недавнего времени требовала серверного оборудования.

Опубликованные им скорости достаточно быстры для обычной работы. Короткие запросы возвращались с комфортной скоростью чтения. Вывод замедлялся, когда запрос длился десятки тысяч слов, поэтому очень длинные документы остаются слабым местом.

Alibaba опубликовала открытые веса 26 августа. Команда утверждает, что модель содержит 125 миллиардов параметров, но активирует только шесть миллиардов одновременно, что позволяет держать требования к памяти на скромном уровне.

Бутерин назвал ее Qwen3.8-Flash, хотя Alibaba поставляет загружаемую версию как Qwen3.8-Flash-Next. Ее старший брат, Qwen3.8-Max, получил высокие оценки в бенчмарках в августе.

Qwen 3.8 flash действительно впечатляет, и llama.cpp быстро становится все лучше в его обработке

столбцы: существующий запрос, новый запрос, сгенерированный, входной токен/с, выходной токен/с

Это на моем ноутбуке (strix halo). Я думаю, что мы очень близки к моменту, когда вы... pic.twitter.com/v5Ze4Fv5Wr
--- vitalik.eth (@VitalikButerin) 17 сентября 2026

Почему конфиденциальность меняет расчет

Бутерин видит вторую выгоду помимо чистой скорости. Локальная модель отвечает на устройстве, поэтому ни один провайдер никогда не получает запрос.

Для более требовательной работы он предлагает разделение. Локальная модель будет обрабатывать то, что может, а затем удалять чувствительные детали из всего, что она передает в более крупную хостинговую систему.

"используйте вашу локальную модель для организации запросов к мощным моделям, чтобы ваши запросы не раскрывали вашу личную информацию"

На практике локальная модель будет извлекать имена, адреса кошельков или приватные коды из запроса, а затем передавать только оставшийся вопрос. Такая фильтрация сократит то, что покидает устройство. Это не гарантирует, что ничего чувствительного не просочится.

Этот подход соответствует его прошлым предупреждениям. Он предупреждал о слежке во время борьбы с контролем чата в ЕС, и пользователи криптовалюты выступали за более строгие ограничения для агентов по аналогичным причинам.

Исковое заявление, поданное в мае, обвиняет OpenAI в передаче запросов пользователей ChatGPT Meta и Google.

Облачные провайдеры все еще владеют фронтиром. Тем не менее, каждое улучшение локальной производительности перемещает больше рутинной работы с их серверов, и недорогое оборудование с общей памятью продолжает распространяться.

Открытым вопросом остается, сколько возможностей люди готовы обменять на контроль.

Этот контент предоставляется исключительно в общих информационных целях и не является финансовым, инвестиционным, юридическим или налоговым советом. Любые мероприятия, вознаграждения, онлайн-акции или связанная с ними информация, упомянутые в настоящем документе, не должны рассматриваться как рекомендация, приглашение к покупке, продаже, торговле или иной сделке с какими-либо криптоактивами. Криптоактивы очень волатильны и могут привести к убыткам. Доступность услуг, продуктов WEEX и связанных с ними событий может варьироваться в зависимости от региона. Вы несете ответственность за обеспечение того, чтобы ваше участие соответствовало применимым местным законам и нормативным актам.