CEO da Nvidia revela que o treinamento do GPT-6 Astra utilizou 100 mil GPUs Blackwell

O CEO da Nvidia, Jensen Huang, revelou que o treinamento do GPT-6 Astra utilizou mais de 100 mil GPUs Grace Blackwell, formando um cluster de alta interconexão através do NVLink72. A próxima leva contará com 400 mil GPUs, mas não foram especificados os modelos. As principais empresas de modelos na China ainda apresentam uma diferença significativa em termos de poder computacional, com a ByteDance sendo a mais próxima, utilizando cerca de 36 mil B200. A ByteDance utiliza principalmente as GPUs H20 e H800, que são baseadas na arquitetura Hopper, em seus clusters dentro da China. A Kimi obteve cerca de 20 mil GPUs Hopper, especificamente o modelo H200, mas a Alibaba negou essa afirmação. O H200 pertence à geração anterior da Hopper, enquanto o B200 já foi atualizado para Blackwell. O GB200 combina a CPU Grace com a GPU Blackwell, e o NVL72 pode acomodar 72 GPUs no mesmo domínio de alta interconexão. A DeepSeek não divulgou o hardware completo de treinamento do V4, mas informações vazadas indicam que a empresa tinha cerca de 20 mil GPUs equivalentes em maio, com a Huawei fornecendo uma capacidade de 950, que equivale a cerca de 16 mil GPUs. Liang Wenfeng afirmou que este lote de placas nacionais equivale a 4 mil placas da série B da Nvidia, o que é suficiente para o treinamento de modelos da geração atual. As Blackwell utilizadas pela Astra também não são da última geração da Nvidia, pois a Vera Rubin já entrou em produção em massa, e a NVIDIA estima que a quantidade de GPUs necessárias para treinar grandes modelos MoE com a Rubin pode ser reduzida para um quarto do que é necessário com as Blackwell. Até o momento, nenhuma empresa chinesa divulgou um caso de uso de 100 mil GPUs avançadas da mesma geração para o treinamento de um único modelo, evidenciando a diferença entre as empresas de IA da China e dos EUA em termos de quantidade e geração de placas.

Este conteúdo é disponibilizado apenas para fins informativos gerais e não constitui aconselhamento financeiro, de investimento, jurídico ou fiscal. Quaisquer eventos, recompensas, promoções online ou informações relacionadas aqui mencionados não devem ser interpretados como uma recomendação, solicitação ou convite para comprar, vender, negociar ou realizar quaisquer outras operações com criptoativos. Os criptoativos são altamente voláteis e podem resultar em perdas. A disponibilidade dos serviços, produtos e eventos relacionados da WEEX pode variar consoante a região. O utilizador é responsável por garantir que a sua participação está em conformidade com a legislação e os regulamentos locais aplicáveis.