Wywiad z SemiAnalysis: Przechowywanie ma jeszcze przestrzeń na podwojenie, ostrożnie z CPO w krótkim i średnim okresie, CPU to tylko drugi plan

Źródło: Wall Street Journal

Każda warstwa infrastruktury AI jest pod presją, a jednocześnie pojawiają się zarówno możliwości, jak i błędne oceny.

Dylan Patel, założyciel SemiAnalysis, niedawno udzielił wywiadu w podcaście, w którym systematycznie omówił kluczowe dynamiki i logikę inwestycyjną w obecnym stosie infrastruktury AI.

Jego oceny obejmują ekonomię modeli, supercykle pamięci, ponowną wycenę CPU, ryzyko związane z harmonogramem CPO oraz strukturalne możliwości w zakresie dostaw energii dla centrów danych.

W odpowiedzi na powszechne wątpliwości rynku dotyczące zwrotu z inwestycji w AI (ROI), Dylan ujawnił, że Anthropic osiągnął dodatni przepływ gotówki w drugim kwartale tego roku, a roczne przychody powtarzalne przekroczyły 50 miliardów dolarów, a marża brutto wyniosła ponad 70%. W sektorze przedsiębiorstw najnowsze modele AI przynoszą wzrost wydajności, który znacznie przewyższa wzrost kosztów obliczeniowych, co skłania firmy do cięcia wydatków na inne oprogramowanie, aby utrzymać eksplodujący budżet na AI.

Na poziomie ewolucji sprzętu, przejście do modeli wnioskowania przekształca popyt na rynku.

Dylan podkreśla, że przechowywanie boryka się z strukturalnym niedoborem, który może trwać przez wiele lat, a nadal istnieje potencjał wzrostu o 2 do 3 razy; jednocześnie, mimo że inteligentne agenti i uczenie przez wzmocnienie zwiększyły popyt na CPU, rynek sprzedawców wycenia to zbyt wysoko. Wzrost CPU pochodzi głównie z historycznego "uzupełnienia", a jego absolutna wartość w serwerach AI wciąż jest znacznie niższa niż GPU.

Dylan uważa, że oczekiwana przez rynek masowa produkcja wspólnej optyki (CPO) została wyraźnie opóźniona do końca 2028 roku lub 2029 roku, co niespodziewanie wydłużyło okres korzyści związanych z złączami miedzianymi. Ograniczenia w sieciach przesyłowych zmuszają centra danych do przejścia na "zasilanie za licznikiem" (własne źródła zasilania), co stwarza ogromne możliwości inwestycyjne w zakresie energii przemysłowej i konwersji energii, poza tradycyjnymi inwestycjami w chipy.

Anthropic jako pierwszy osiąga dodatni przepływ gotówki, narracja o popycie na AI zaczyna się realizować

W odpowiedzi na wątpliwości rynku dotyczące ROI firm AI, Dylan Patel przedstawił konkretne dane.

"Anthropic w drugim kwartale osiągnął dodatni przepływ gotówki, w kwietniu zysk, w maju zysk, a w czerwcu również wygląda na to, że będzie podobnie." Powiedział, że roczne przychody powtarzalne Anthropic przekroczyły 50 miliardów dolarów, a marża brutto wynosi ponad 70%. Przychody OpenAI również szybko rosną wraz ze wzrostem wskaźnika adopcji Codex.

Wydatki SemiAnalysis również potwierdzają ten trend. W listopadzie zeszłego roku zespół liczący 90 osób miał roczne wydatki na AI poniżej 100 tysięcy dolarów; do końca stycznia tego roku, z powodu szerokiego wprowadzenia Claude Code, ta liczba wzrosła do 4 milionów dolarów rocznie; obecnie osiągnęła 11 milionów dolarów, a szczytowa wartość roczna wyniosła 14 milionów dolarów. "Koszty pracy pracowników plus koszty AI, ta część AI już przekracza jedną trzecią, a do końca roku może osiągnąć połowę."

Jednocześnie zauważył, że nowsze i silniejsze modele w praktyce niekoniecznie są droższe. Stare modele mogą wymagać 100 tysięcy tokenów i 10 interakcji, aby wykonać zadanie, podczas gdy nowe modele mogą potrzebować tylko 25 tysięcy tokenów i 1 interakcji. "Za każdym razem, gdy model przechodzi z 4.6 Opus do 4.7 Opus, nasze wydatki najpierw spadają na tydzień, a potem znów rosną, ponieważ wszyscy widzą, że rzeczy, które wcześniej były niemożliwe, teraz są możliwe."

Uważa, że to również jeden z kluczowych powodów, dla których Anthropic ma przewagę w rywalizacji z OpenAI: wyższa efektywność tokenów, niższe całkowite koszty dla użytkowników.

Pamięć: strukturalny niedobór, a nie zwykły cykl

Wśród wszystkich kategorii sprzętu, Dylan Patel ma najsilniejsze przekonanie co do pamięci.

"To nie jest krótkoterminowy niedobór, to będzie trwały strukturalny niedobór przez wiele lat." Zauważył, że zdolność produkcji pamięci rośnie tylko o 20% do 30% rocznie, podczas gdy popyt ze strony AI rośnie wielokrotnie, a luka między nimi będzie się nadal powiększać.

Kluczowa logika napędzająca tę ocenę pochodzi z wpływu modeli wnioskowania na pamięć KV. Tradycyjny kontekst wnioskowania w dialogu liczy się w tysiącach tokenów, a pamięć KV zużywa ograniczone zasoby; jednak po pojawieniu się modeli wnioskowania reprezentowanych przez o1, długość kontekstu eksplodowała, a pamięć KV gwałtownie wzrosła, co sprawiło, że pamięć stała się najbezpośredniej korzystającą kategorią. SemiAnalysis opublikowało raport w grudniu 2024 roku, który specjalnie wskazuje na ten trend.

Sztywne ograniczenia po stronie podaży zmuszą rynek do ponownego przydzielenia ograniczonych zasobów pamięci. Przewiduje, że elastyczność cenowa elektroniki użytkowej zostanie pierwsza poddana presji - sprzedaż średniej i niskiej klasy telefonów spadła już o 40%, a ceny iPhone'ów i MacBooków wzrosną w przyszłym roku. "Pamięć będzie nadal drożeć, elektronika użytkowa zostanie skompresowana do nowego poziomu, aż AI zdobędzie potrzebną pamięć, co będzie oznaczać, że jest wystarczająca."

Dodał, że nawet jeśli cykl spadkowy nadejdzie, "od dołka do dołka, długoterminowy wzrost jest niezaprzeczalny."

CPU: ograniczone możliwości uzupełnienia, nie przesadzaj z prognozami

CPU stał się nowym głównym bohaterem narracji infrastruktury AI w tym roku, ale Dylan Patel ma wyraźne ostrzeżenie w tej kwestii.

Logika ożywienia popytu na CPU jest jasna: uczenie przez wzmocnienie wymaga dużej ilości CPU do uruchamiania weryfikacji środowiska (testy jednostkowe kodu, symulacje itp.); wnioskowanie agentów wymaga częstego korzystania z narzędzi i interakcji z rzeczywistością, co w dużej mierze polega na mocy obliczeniowej CPU.

Jednocześnie w ciągu ostatnich kilku lat na rynku pojawiły się ogromne ilości chipów AI, a dostępność CPU jest poważnie niewystarczająca, co obecnie znajduje się w fazie uzupełnienia. ARM, Intel i AMD już z tego korzystają, a CPU Vera od Nvidii również przewiduje przychody na poziomie 20 miliardów dolarów.

"Ale muszę dać ważne ostrzeżenie: jest tu wiele efektów uzupełnienia." Powiedział, że gdy historia zostanie uzupełniona, pozostanie tylko popyt na wzrost, a popyt wróci do normy. Z punktu widzenia absolutnej kwoty, Blackwell kosztuje około 50 tysięcy dolarów, CPU około 5 tysięcy dolarów, nawet jeśli proporcjonalnie CPU jest bardziej rozbudowane, kwota w dolarach jest znacznie niższa niż w przypadku chipów przyspieszających AI.

"Pamięć i chipy przyspieszające AI to główne elementy, CPU to niedoszacowanie, które zostało teraz lepiej wycenione, ale nie będzie rosło w nieskończoność szybciej niż chipy AI."

Połączenia optyczne: długoterminowo pozytywne, ostrożnie z CPO w krótkim i średnim okresie

Sieci i połączenia optyczne to kolejny obszar, w którym panuje wysoka atmosfera rynkowa, ale Dylan Patel ma ostrożne podejście do tempa wprowadzenia CPO (wspólnej optyki).

"Moim zdaniem, prawdziwa masowa produkcja CPO nastąpi w końcu 2028 roku lub 2029 roku." Zauważył, że obecnie wskaźniki produkcji, projektowanie chipów i dojrzałość łańcucha dostaw nie osiągnęły standardów do masowego wdrożenia, a architektura Nvidii Rubin i jej następne architektury Feynman nadal będą korzystać z pełnych rozwiązań miedzianych, a CPO w segmencie GPU będzie musiało czekać na kilka generacji chipów.

Ujawnił, że SemiAnalysis w zeszłym tygodniu właśnie opublikowało raport dla klientów subskrypcyjnych, w którym w średnim okresie bardziej preferuje rozwiązania miedziane i nie-CPO, a do CPO podchodzi ostrożnie. Zmiany w projektowaniu niektórych chipów (takich jak usunięcie projektu 800V w Rubin Ultra) dodatkowo opóźniły czas wprowadzenia CPO. Firmy zajmujące się złączami miedzianymi, takie jak Amphenol, zyskają więcej niż oczekiwano.

"CPO z pewnością się wydarzy, miedź zostanie w dłuższej perspektywie zastąpiona, ale harmonogram został opóźniony, w krótkim i średnim okresie miedź wciąż ma wiele możliwości."

Energia: własne źródła zasilania staną się mainstreamem, innowacyjne ścieżki są różnorodne

Dostawy energii dla centrów danych stają się najtwardszym fizycznym ograniczeniem wzrostu AI.

Według prognoz Dylana Patela, nowe zapotrzebowanie na energię dla centrów danych wyniesie w tym roku 20 GW, w przyszłym roku 30 GW, a w następnym 50 GW, co stanowi niemal eksplodujący wzrost.

Podzielił problem energetyczny na trzy wymiary: przesył, produkcję i konwersję. Przesył jest najtrudniejszym etapem do pokonania, związanym z regulacjami, monopolistyczną strukturą lokalnych firm energetycznych oraz mechanizmami podziału kosztów, co w krótkim okresie jest trudne do zmiany. Produkcja i konwersja oferują szerokie możliwości.

Przewiduje, że w ciągu kilku najbliższych lat połowa nowego zapotrzebowania na energię dla centrów danych pochodzić będzie z "zasilania za licznikiem" (behind the meter), czyli z własnych źródeł zasilania przedsiębiorstw, a nie z publicznej sieci energetycznej.

Obecnie dominującym rozwiązaniem są jednostki gazowe z cyklem skojarzonym (CCGT), pochodzące od producentów takich jak GE Vernova, Mitsubishi, Siemens; jednocześnie pojawiają się również silniki tłokowe, przemysłowe turbiny gazowe, a nawet nietradycyjne rozwiązania polegające na przeróbce silników z łodzi, pociągów i ciężarówek. "Brzmi surowo, ale działa, i już jest używane."

W dłuższej perspektywie przewiduje, że w ciągu około dwóch lat całkowity koszt energii słonecznej z magazynowaniem będzie niższy niż koszt produkcji energii gazowej; w dalszej przyszłości pojawią się centra danych w przestrzeni kosmicznej - umieszczając chipy obliczeniowe na orbicie, panele słoneczne nie muszą przenikać przez atmosferę, a gęstość energii jest znacznie wyższa niż na powierzchni, a także nie wymaga magazynowania.

Strona konwersji również pełna jest możliwości inwestycyjnych, od IGBT, przez węglik krzemu, po MOSFET z azotku galu, a także transformatory stałoprądowe, UPS i superkondensatory, cały łańcuch konwersji napięcia szybko ewoluuje.

Największy dział badawczy SemiAnalysis nie dotyczy już półprzewodników, lecz zespołu wewnętrznego nazywanego "DEI" (Centra danych, Energia i Przemysł), który śledzi globalne wdrożenia każdego centrum danych i elektrowni.

Niniejsza treść ma charakter wyłącznie informacyjny i nie stanowi porady finansowej, inwestycyjnej, prawnej ani podatkowej. Wszelkie wydarzenia, nagrody, promocje online lub powiązane informacje, o których tu mowa, nie powinny być traktowane jako rekomendacja, zachęta ani zaproszenie do kupna, sprzedaży, wymiany lub innego rodzaju obrotu aktywami kryptograficznymi. Aktywa kryptograficzne charakteryzują się dużą zmiennością i mogą prowadzić do strat. Dostępność usług, produktów i powiązanych wydarzeń WEEX może się różnić w zależności od regionu. Użytkownik jest odpowiedzialny za upewnienie się, że jego udział jest zgodny z obowiązującymi lokalnymi przepisami i regulacjami.