Claude ouvre-t-il la forteresse CUDA de NVIDIA en trois jours ? Anthropic fait migrer le code de base GPU de Mythos lui-même

Beating AI News, Claude Mythos Preview a réussi à faire fonctionner un modèle Claude sur un GPU AMD en seulement 3 jours, en exécutant des étapes de calcul clés. La plupart des noyaux GPU nécessaires ont été portés ou écrits par Claude lui-même, avec peu d'intervention humaine. Il est mentionné que l'intégration de nouvelles plateformes de puces nécessitait généralement des dizaines d'ingénieurs travaillant pendant 6 à 12 mois.

L'un des avantages les plus difficiles à remplacer est CUDA.

CUDA est une plateforme de calcul GPU lancée en 2006. En 2018, des frameworks de deep learning majeurs comme PyTorch et TensorFlow utilisaient déjà largement CUDA et ses bibliothèques de calcul associées. De plus, des outils de communication multi-GPU, de débogage et d'optimisation des performances ont été continuellement améliorés. Les développeurs peuvent utiliser efficacement les GPU sans avoir à réécrire une grande quantité de programmes de bas niveau.

Avec de plus en plus de programmes d'entraînement et d'inférence AI développés autour de CUDA, une grande quantité de code et d'outils prêts à l'emploi a été accumulée. Les développeurs choisissent souvent en raison de la compatibilité logicielle. Même si AMD produit des GPU très performants, les clients doivent faire face à des problèmes de migration de code, de tests de compatibilité et d'optimisation des performances s'ils souhaitent changer.

Le MI355X d'AMD est équipé de 288 Go de mémoire vidéo à large bande, et sa configuration matérielle n'est pas faible. Le problème est que les noyaux GPU écrits pour d'autres plateformes ne peuvent pas nécessairement fonctionner directement sur AMD. Même s'ils fonctionnent, les performances peuvent ne pas être idéales. Les ingénieurs doivent ajuster le code en fonction de l'architecture des puces AMD, tester à plusieurs reprises les résultats de calcul et la vitesse d'exécution.

AMD a déjà lancé des outils comme ROCm et HIPIFY pour aider les développeurs à migrer des programmes CUDA. Des outils de programmation multiplateformes comme Triton réduisent également la difficulté de migration, mais des calculs de bas niveau complexes nécessitent encore beaucoup d'optimisation manuelle.

Cette fois, Mythos a pris en charge une partie de ce travail, en migrant ou en réécrivant lui-même des noyaux GPU. Selon les graphiques de présentation, il a permis à un modèle Claude de traiter des mots clés avec des performances utilisables sur l'AMD MI355X en 3 jours.

En réalité, cela fait longtemps qu'ils cherchent à réduire leur dépendance à un seul fabricant de puces. Le prospectus a révélé que l'entreprise a passé des années à établir un système de répartition de la puissance de calcul couvrant les GPU, les GPU AMD, les TPU de Google et les Trainium d'Amazon, permettant de choisir différentes puces en fonction du prix et des performances.

En juillet de cette année, ils ont également conclu un partenariat avec AMD, prévoyant de déployer la nouvelle génération de GPU AMD à partir du premier semestre 2027, avec une capacité maximale atteignant 2 GW. Les deux parties utiliseront également Claude pour accélérer le développement de ROCm et l'optimisation des performances GPU, avec un engagement d'investissement futur pouvant atteindre 5 milliards de dollars.

L'investisseur Marcelo P. Lima estime que la forteresse CUDA de NVIDIA a disparu. Cependant, l'analyste Ben Pouladian a une opinion différente : faire fonctionner une partie des calculs du modèle sur AMD est très différent de faire en sorte que l'ensemble du système atteigne des performances stables, rentables et compétitives lors d'un déploiement à grande échelle.

Ce contenu est fourni à titre informatif uniquement et ne constitue pas un conseil financier, d'investissement, juridique ou fiscal. Les événements, récompenses, promotions en ligne ou informations mentionnées ici ne doivent pas être considérés comme une recommandation, une sollicitation ou une invitation à acheter, vendre, trader ou effectuer toute autre opération sur des actifs crypto. Les actifs crypto sont très volatils et peuvent entraîner des pertes. La disponibilité des services, produits et événements liés à WEEX peut varier selon les régions. Veuillez vous assurer que votre participation respecte les lois et réglementations locales applicables.