Microsoft Maia 200, mejora del rendimiento de inferencia de IA en un 30%

Microsoft ha anunciado que el Maia 200 ha mejorado el rendimiento por dólar en un 30% en comparación con los sistemas existentes. El Maia 200 está diseñado como un acelerador dedicado para mejorar la economía de la inferencia de IA a gran escala y está optimizado para la etapa de inferencia de modelos de IA. Microsoft explicó en la conferencia de resultados del segundo trimestre el 28 de enero que el costo total de propiedad (TCO) del Maia 200 ha mejorado en más del 30% en comparación con su hardware más reciente. En la conferencia de resultados del tercer trimestre el 29 de abril, se informó que el Maia 200 está en funcionamiento en los centros de datos de Iowa y Arizona, y que el rendimiento de procesamiento de tokens por dólar también ha mejorado en más del 30% en comparación con su silicona más reciente. Microsoft tiene la intención de equilibrar el rendimiento y el costo operando en conjunto con NVIDIA, AMD y su propio chip Maia. El Maia 200 se produce utilizando el proceso de 3 nanómetros de TSMC y puede escalar hasta un clúster de 6144 aceleradores. En la industria, se considera que el Maia 200 puede ser adecuado para la inferencia de chatbots a gran escala, pero hay evaluaciones que indican que será difícil reemplazar a NVIDIA en el corto plazo debido a la compatibilidad del software y los costos de transición.

Este contenido se ofrece únicamente con fines informativos generales y no constituye un asesoramiento financiero, de inversión, legal ni fiscal. Cualquier evento, recompensa, promoción en línea o información relacionada que se mencione en el presente documento no debe considerarse como una recomendación, solicitud o invitación a comprar, vender, operar o de negociar de otra manera con cualquier criptoactivo. Los criptoactivos son sumamente volátiles y pueden provocar pérdidas. La disponibilidad de los servicios, productos y eventos relacionados de WEEX puede variar según la región. Tienes la responsabilidad de asegurarte de que tu participación esté de acuerdo con las leyes y regulaciones locales vigentes.