NVIDIA Groq Rack entre en production de masse, sera déployé dans le centre de données Nebius

NVIDIA a annoncé que le rack Groq 3 LPX est entré en phase de production de masse et sera déployé dans le centre de données du fournisseur de services cloud Nebius, prévu pour être opérationnel plus tard cette année. Cette initiative marque la commercialisation de la technologie obtenue suite à un accord de licence technologique d'environ 20 milliards de dollars entre NVIDIA et Groq. Plusieurs employés clés de Groq ont rejoint NVIDIA, et le fondateur Jonathan Ross occupe le poste d'architecte logiciel en chef. NVIDIA accélère la production des puces Groq, soulignant l'importance de l'inférence à faible latence. Le Groq 3 LPX est un accélérateur d'inférence pour la plateforme Vera Rubin, intégrant 500 mégaoctets de SRAM haute vitesse, réduisant ainsi le goulot d'étranglement de la mémoire. Chaque rack LPX peut intégrer 256 puces Groq 3, et les tests de référence montrent qu'il peut traiter 3400 tokens par seconde, les puces étant fabriquées par Samsung. Harris a déclaré que les puces à faible latence ne remplacent pas les GPU, mais sont conçues pour utiliser le processeur approprié selon les charges de travail différentes, permettant aux fournisseurs de services cloud d'offrir des forfaits plus coûteux aux utilisateurs sensibles à la latence. Le PDG de NVIDIA, Jensen Huang, prévoit d'allouer environ un quart de l'espace du centre de données aux puces Groq, le reste étant consacré au système Vera Rubin, avec des ventes cumulées de Blackwell et Vera Rubin atteignant 1 trillion de dollars d'ici 2027.

Ce contenu est fourni à titre informatif uniquement et ne constitue pas un conseil financier, d'investissement, juridique ou fiscal. Les événements, récompenses, promotions en ligne ou informations mentionnées ici ne doivent pas être considérés comme une recommandation, une sollicitation ou une invitation à acheter, vendre, trader ou effectuer toute autre opération sur des actifs crypto. Les actifs crypto sont très volatils et peuvent entraîner des pertes. La disponibilité des services, produits et événements liés à WEEX peut varier selon les régions. Veuillez vous assurer que votre participation respecte les lois et réglementations locales applicables.