Недавнее интервью SemiAnalysis: в хранении еще есть место для удвоения, осторожно с CPO в краткосрочной и среднесрочной перспективе, CPU лишь второстепенен

Источник: Wall Street Watch

Каждый уровень инфраструктуры ИИ испытывает давление, и одновременно существуют как возможности, так и ошибки в оценках.

Основатель SemiAnalysis Дилан Пател недавно дал интервью в подкасте, в котором систематически изложил основные динамики и инвестиционную логику текущего стека инфраструктуры ИИ.

Его выводы охватывают экономику моделей, суперцикл памяти, переоценку CPU, временные риски CPO и структурные возможности в обеспечении энергией центров обработки данных.

Отвечая на общие сомнения рынка относительно рентабельности инвестиций в ИИ (ROI), Дилан сообщил, что Anthropic уже во втором квартале этого года достиг положительного свободного денежного потока, а годовой регулярный доход превысил 50 миллиардов долларов с валовой маржой более 70%. На стороне бизнеса последний ИИ-модель привела к росту производительности, который значительно превышает увеличение затрат на вычислительные мощности, что побуждает компании сокращать другие программные расходы для поддержания взрывного роста бюджета на ИИ.

На уровне эволюции аппаратного обеспечения переход к парадигме моделей вывода перестраивает рыночный спрос.

Дилан подчеркивает, что в хранении наблюдается структурный дефицит, который может продлиться несколько лет, и все еще есть 2-3 раза вверх; в то же время, несмотря на то, что агенты и обучение с подкреплением увеличили спрос на CPU, рынок продавцов переоценил это, рост CPU в основном обусловлен историческим "компенсированием", и его абсолютная ценность в серверах ИИ все еще значительно ниже, чем у GPU.

Дилан считает, что ожидаемое массовое внедрение совместной оптической упаковки (CPO) было явно отложено до конца 2028 - начала 2029 года, что неожиданно продлило период прибыли от медных соединителей. Ограничения в сетевой передаче и распределении заставляют центры обработки данных переходить на "постфазное электроснабжение" (самостоятельное электроснабжение), что создает огромные инвестиционные возможности в области промышленной энергетики и преобразования электроэнергии, помимо традиционных инвестиций в чипы.

Anthropic первыми начали генерировать прибыль, спрос на ИИ начинает реализовываться

Отвечая на сомнения рынка относительно ROI ИИ-компаний, Дилан Пател предоставил конкретные данные.

"Anthropic во втором квартале уже достиг положительного свободного денежного потока, в апреле была прибыль, в мае прибыль, в июне, похоже, тоже будет так." Он отметил, что годовой регулярный доход Anthropic уже превышает 50 миллиардов долларов, а валовая маржа составляет более 70%. Доходы OpenAI также быстро растут с увеличением уровня использования Codex.

Траектория расходов самой SemiAnalysis также подтверждает эту тенденцию. В ноябре прошлого года команда из 90 человек потратила менее 100 тысяч долларов на ИИ в год; к концу января этого года, благодаря широкому распространению Claude Code, эта цифра взлетела до 4 миллионов долларов в год; в настоящее время она достигла 11 миллионов долларов, а в пиковые моменты годовой объем достигал 14 миллионов долларов. "Затраты на сотрудников плюс затраты на ИИ уже превышают треть, и к концу года они могут достичь половины."

Он также отметил, что обновленные и более мощные модели на практике не обязательно дороже. Старые модели могут требовать 100 тысяч токенов и 10 взаимодействий для выполнения задачи, в то время как новые модели могут справиться с этой задачей всего за 25 тысяч токенов и 1 взаимодействие. "Каждый раз, когда модель обновляется с 4.6 Opus до 4.7 Opus, наши расходы сначала снижаются на неделю, а затем снова взлетают, потому что все понимают, что то, что раньше было невозможно, теперь возможно."

Он считает, что это также одна из ключевых причин, по которой Anthropic имеет преимущество в конкуренции с OpenAI: более высокая эффективность токенов и более низкие совокупные затраты для пользователей.

Память: структурный дефицит, а не обычный цикл

Из всех категорий аппаратного обеспечения Дилан Пател наиболее уверенно оценивает память.

"Это не краткосрочный дефицит, это будет структурный дефицит на многие годы." Он отметил, что производственные мощности памяти растут всего на 20-30% в год, в то время как спрос со стороны ИИ удваивается, и разрыв между ними будет продолжать расширяться.

Ключевая логика, стоящая за этой оценкой, связана с воздействием моделей вывода на кеш KV. Традиционная длина контекста для диалогового вывода измеряется тысячами токенов, и кеш KV потребляет ограниченные ресурсы; но с появлением моделей вывода, таких как o1, длина контекста взрывообразно увеличивается, и кеш KV резко расширяется, что делает память самой непосредственной выгодной категорией. SemiAnalysis выпустит отчет в декабре 2024 года, специально указывая на эту тенденцию.

Жесткие ограничения на стороне предложения заставят нижние рынки перераспределять ограниченные ресурсы памяти. Он прогнозирует, что потребительская электроника с низкой ценовой эластичностью будет первой под давлением - объемы поставок производителей среднего и низкого уровня уже упали на 40%, а цены на iPhone и MacBook в следующем году вырастут. "Память будет продолжать дорожать, потребительская электроника будет сжата до нового уровня, и только когда ИИ получит необходимую память, это будет считаться действительно достаточным."

Он добавил, что даже если цикл снижения в конечном итоге наступит, "долгосрочный рост вне всяких сомнений."

CPU: ограниченные возможности компенсации, не переоценивайте

CPU стал новым главным героем в нарративе инфраструктуры ИИ в этом году, но Дилан Пател занимает четкую предостерегающую позицию.

Логика восстановления спроса на CPU ясна: обучение с подкреплением требует большого количества CPU для проверки среды (тестирование кода, моделирование операций и т.д.); вывод агентов требует частого обращения к инструментам и взаимодействия с реальным миром, что сильно зависит от вычислительной мощности CPU.

В то же время, в последние годы было выпущено большое количество ИИ-чипов, и сопутствующих CPU было недостаточно, в настоящее время мы находимся на этапе компенсации, ARM, Intel и AMD уже получили выгоду, а CPU Vera от Nvidia также предоставил прогноз доходов в 20 миллиардов долларов.

"Но я хочу сделать важное предупреждение: здесь есть много эффектов компенсации." Он отметил, что как только исторические долги будут погашены, останется только приростный спрос, и спрос вернется к норме. С точки зрения абсолютной суммы, Blackwell стоит около 50 тысяч долларов, CPU - около 5000 долларов, даже если в процентном соотношении CPU будет увеличено, сумма в долларах все равно будет значительно ниже, чем у ускоряющих ИИ чипов.

"Память и ускоряющие ИИ чипы - это основная часть, CPU - это переоценка после недооценки, сейчас он уже более разумно оценен, но не будет расти бесконечно быстрее, чем ИИ чипы."

Оптическая связь: долгосрочный оптимизм, осторожность в краткосрочной и среднесрочной перспективе по CPO

Сетевые и оптические соединения - это еще одна область с высоким рыночным настроением, но Дилан Пател занимает осторожную позицию по поводу темпов внедрения CPO (совместной оптической упаковки).

"Я считаю, что массовое производство CPO действительно начнется в конце 2028 - начале 2029 года." Он отметил, что в настоящее время уровень производства, проектирование чипов и зрелость цепочки поставок еще не достигли стандартов для массового развертывания, а архитектура Nvidia Rubin и ее последующие архитектуры Feynman все еще будут использовать полностью медные решения, CPO на стороне GPU придется ждать несколько поколений чипов.

Он сообщил, что на прошлой неделе SemiAnalysis только что выпустила отчет для подписчиков институциональных клиентов, в среднесрочной перспективе они даже более оптимистичны по поводу медных кабелей и не-CPO оптических решений, проявляя осторожность по отношению к CPO. Некоторые изменения в проектировании нижних чипов (например, Kyber от Rubin Ultra убрал 800V проектирование) еще больше отложили сроки внедрения CPO. Компании, производящие медные соединители, такие как Amphenol, получат больше выгоды, чем ожидалось.

"CPO в конечном итоге произойдет, медные кабели в конечном итоге будут заменены, но временные рамки были отложены, в краткосрочной и среднесрочной перспективе медные кабели все еще имеют большие возможности."

Электричество: самостоятельное электроснабжение станет основным, инновационные пути разнообразны

Энергоснабжение центров обработки данных становится самым жестким физическим ограничением для роста ИИ.

По прогнозам Дилана Пателя, новое потребление электроэнергии центрами обработки данных в этом году составит 20 ГВт, в следующем году - 30 ГВт, а через год - 50 ГВт, что почти взрывной рост.

Он разбивает проблему энергетики на три измерения: передача, генерация и преобразование. Передача - это самый трудный элемент для преодоления, связанный с регуляторной политикой, монопольной структурой местных энергетических компаний и механизмами распределения затрат, которые в краткосрочной перспективе трудно изменить. Генерация и преобразование предлагают широкие возможности.

Он прогнозирует, что в ближайшие несколько лет половина нового потребления электроэнергии центрами обработки данных будет поступать от "постфазного электроснабжения" (behind the meter), то есть от самостоятельного электроснабжения предприятий, а не от общественной электросети.

В настоящее время основным решением являются газовые турбины с комбинированным циклом (CCGT), производимые такими компаниями, как GE Vernova, Mitsubishi, Siemens; также появляются альтернативные решения, такие как поршневые двигатели, промышленные газовые турбины и даже модифицированные двигатели для кораблей, поездов и грузовиков. "Звучит грубо, но они работают, и уже используются."

В более долгосрочной перспективе он считает, что в течение примерно двух лет совокупные затраты на солнечную энергию с накоплением будут ниже, чем на газовую генерацию; в более отдаленной перспективе - это центры обработки данных в космосе, где вычислительные чипы будут размещены на орбите, солнечные панели не будут проходить через атмосферу, и плотность энергии будет значительно выше, чем на земле, и не потребуется накопление.

Сторона преобразования также полна инвестиционных возможностей, от IGBT, карбида кремния до MOSFET на основе нитрида галлия, а также твердотельных трансформаторов, ИБП и суперконденсаторов, вся цепочка преобразования напряжения быстро развивается.

В настоящее время крупнейший исследовательский отдел SemiAnalysis уже не полупроводники, а команда, которую внутри называют "DEI" (центры обработки данных, энергия и промышленность), отслеживающая развертывание каждой центра обработки данных и электростанции по всему миру.

Отказ от ответственности: Данный контент предоставляется исключительно в целях общего брендинга и предоставления информации и не является финансовой, инвестиционной, юридической или налоговой консультацией. Любые события, вознаграждения, онлайн-мероприятия или связанная с ними информация, упомянутые здесь, не должны рассматриваться как рекомендация, предложение или приглашение к покупке, продаже, торговле или иным операциям с криптоактивами или к использованию каких-либо услуг. Криптовалюты обладают высокой волатильностью и могут привести к убыткам. Услуги WEEX и онлайн-мероприятия могут быть недоступны во всех регионах и регулируются применимыми законами, правилами и требованиями к участию. Вы несете ответственность за обеспечение соответствия использования вами услуг WEEX местным законам и за тщательную оценку рисков перед участием в любой деятельности, связанной с криптовалютами.