NVIDIA Groq w pełnej produkcji, wdrożenie w centrum danych Nebius

NVIDIA ogłosiła, że Groq 3 LPX wszedł w fazę pełnej produkcji i zostanie wdrożony w centrum danych dostawcy usług chmurowych Nebius, z planowanym uruchomieniem jeszcze w tym roku. Ten krok oznacza komercjalizację technologii uzyskanej po osiągnięciu umowy licencyjnej o wartości około 20 miliardów dolarów z Groq. Wiele kluczowych pracowników Groq dołączyło do NVIDIA, a założyciel Jonathan Ross objął stanowisko głównego architekta oprogramowania. NVIDIA przyspiesza produkcję chipów Groq, podkreślając znaczenie niskich opóźnień w wnioskowaniu. Groq 3 LPX jest akceleratorem wnioskowania dla platformy Vera Rubin, zintegrowanym z 500 megabajtami szybkiej pamięci SRAM, co zmniejsza wąskie gardła pamięci. Każda szafa LPX może pomieścić 256 chipów Groq 3, a testy wydajności pokazują, że mogą przetwarzać 3400 tokenów na sekundę, a chipy są produkowane przez Samsunga. Harris stwierdził, że chipy o niskim opóźnieniu nie zastępują GPU, lecz są odpowiednie do różnych obciążeń roboczych, a dostawcy usług chmurowych mogą oferować droższe plany dla użytkowników wrażliwych na opóźnienia. CEO NVIDIA, Jensen Huang, planuje przeznaczyć około jednej czwartej przestrzeni centrum danych na chipy Groq, a reszta będzie wykorzystywana przez system Vera Rubin, z przewidywaną łączną sprzedażą Blackwell i Vera Rubin wynoszącą 1 bilion dolarów do 2027 roku.

Niniejsza treść ma charakter wyłącznie informacyjny i nie stanowi porady finansowej, inwestycyjnej, prawnej ani podatkowej. Wszelkie wydarzenia, nagrody, promocje online lub powiązane informacje, o których tu mowa, nie powinny być traktowane jako rekomendacja, zachęta ani zaproszenie do kupna, sprzedaży, wymiany lub innego rodzaju obrotu aktywami kryptograficznymi. Aktywa kryptograficzne charakteryzują się dużą zmiennością i mogą prowadzić do strat. Dostępność usług, produktów i powiązanych wydarzeń WEEX może się różnić w zależności od regionu. Użytkownik jest odpowiedzialny za upewnienie się, że jego udział jest zgodny z obowiązującymi lokalnymi przepisami i regulacjami.