NVIDIA Groq-Racks gehen in die Serienproduktion und werden in Nebius-Rechenzentren eingesetzt

NVIDIA hat angekündigt, dass die Groq 3 LPX-Racks in die Serienproduktion eingetreten sind und in den Rechenzentren des Cloud-Anbieters Nebius eingesetzt werden, mit einer geplanten Inbetriebnahme später in diesem Jahr. Dieser Schritt markiert die Kommerzialisierung der Technologie, die nach einem etwa 20 Milliarden US-Dollar schweren Technologielizenzvertrag zwischen NVIDIA und Groq erreicht wurde. Mehrere Kernmitarbeiter von Groq sind zu NVIDIA gewechselt, und der Gründer Jonathan Ross hat die Position des Chief Software Architect übernommen. NVIDIA beschleunigt die Produktion von Groq-Chips und betont die Bedeutung von latenzarmen Inferenzlösungen. Der Groq 3 LPX ist ein Inferenzbeschleuniger für die Vera Rubin-Plattform und integriert 500 Megabyte schnellen SRAM, um Speicherengpässe zu reduzieren. Jedes LPX-Rack kann 256 Groq 3-Chips integrieren, und Benchmark-Tests zeigen, dass es 3400 Tokens pro Sekunde verarbeiten kann, wobei die Chips von Samsung hergestellt werden. Harris erklärte, dass latenzarme Chips nicht die GPUs ersetzen, sondern geeignete Prozessoren für unterschiedliche Arbeitslasten bereitstellen. Cloud-Anbieter können für latenzempfindliche Nutzer teurere Tarife anbieten. NVIDIA-CEO Jensen Huang plant, etwa ein Viertel des Rechenzentrumsraums für Groq-Chips zu reservieren, während der Rest das Vera Rubin-System nutzt. Bis 2027 wird ein kumulierter Umsatz von 1 Billion US-Dollar für Blackwell und Vera Rubin erwartet.

Dieser Inhalt wird nur zu allgemeinen Informationszwecken bereitgestellt und stellt keine finanzielle, Anlage-, Rechts- oder Steuerberatung dar. Alle erwähnten Ereignisse, Prämien, Online-Aktionen oder zugehörige Informationen sollten nicht als Empfehlung, Aufforderung oder Einladung zum Kauf, Verkauf, Handel oder anderweitigem Umgang mit Krypto-Assets betrachtet werden. Krypto-Assets sind sehr volatil und können zu Verlusten führen. Die Verfügbarkeit von WEEX Services, Produkten und zugehörigen Aktionen kann je nach Region unterschiedlich sein. Sie sind dafür verantwortlich sicherzustellen, dass Ihre Teilnahme mit geltenden lokalen Gesetzen und Vorschriften übereinstimmt.