Microsoft Maia 200, amélioration de 30 % des performances d'inférence AI

Microsoft a annoncé que le Maia 200 améliore les performances par dollar de 30 % par rapport aux systèmes existants. Le Maia 200 est conçu comme un accélérateur dédié pour améliorer l'économie de l'inférence AI à grande échelle et est optimisé pour la phase d'inférence des modèles AI. Lors de la conférence téléphonique sur les résultats du deuxième trimestre le 28 janvier, Microsoft a expliqué que le coût total de possession (TCO) du Maia 200 était amélioré de plus de 30 % par rapport à son matériel le plus récent. Lors de la conférence téléphonique sur les résultats du troisième trimestre le 29 avril, il a été déclaré que le Maia 200 était opérationnel dans les centres de données de l'Iowa et de l'Arizona, et que les performances de traitement des tokens par dollar étaient également améliorées de plus de 30 % par rapport à son dernier silicium. Microsoft prévoit d'équilibrer les performances et les coûts en utilisant à la fois des puces Maia, NVIDIA et AMD. Le Maia 200 est produit avec le processus de 3 nanomètres de TSMC et peut être étendu jusqu'à des clusters composés de 6144 accélérateurs. Dans l'industrie, il est estimé que le Maia 200 pourrait convenir à l'inférence de type chatbot à grande échelle, mais il est jugé difficile de remplacer NVIDIA à court terme en raison de la compatibilité logicielle et des coûts de transition.

Ce contenu est fourni à titre informatif uniquement et ne constitue pas un conseil financier, d'investissement, juridique ou fiscal. Les événements, récompenses, promotions en ligne ou informations mentionnées ici ne doivent pas être considérés comme une recommandation, une sollicitation ou une invitation à acheter, vendre, trader ou effectuer toute autre opération sur des actifs crypto. Les actifs crypto sont très volatils et peuvent entraîner des pertes. La disponibilité des services, produits et événements liés à WEEX peut varier selon les régions. Veuillez vous assurer que votre participation respecte les lois et réglementations locales applicables.