¿Claude abre la muralla de CUDA de NVIDIA de 20 años en tres días? Anthropic permite que Mythos porte su propio código de GPU

Beating AI News, Claude Mythos Preview logró que un modelo Claude funcionara en un GPU de AMD en solo 3 días, completando las etapas clave de cálculo. La mayoría de los núcleos de GPU necesarios fueron portados o escritos por Claude, con muy poca intervención humana. Se afirma que, en el pasado, conectar nuevas plataformas de chips generalmente requería decenas de ingenieros trabajando durante 6 a 12 meses.

Una de las ventajas más difíciles de reemplazar es CUDA.

CUDA es una plataforma de computación GPU lanzada en 2006. Para 2018, marcos de aprendizaje profundo como PyTorch y TensorFlow ya utilizaban ampliamente CUDA y sus bibliotecas de computación asociadas. También se mejoraron gradualmente las herramientas de comunicación entre múltiples tarjetas, depuración y optimización de rendimiento. Los desarrolladores pueden aprovechar eficientemente las GPU sin tener que escribir una gran cantidad de programas de bajo nivel desde cero.

A medida que más programas de entrenamiento e inferencia de IA se desarrollan en torno a CUDA, se ha acumulado una gran cantidad de código y herramientas listas para usar. La elección de los desarrolladores a menudo se basa en que el software ya está adaptado. Incluso si AMD produce GPUs de alto rendimiento, los clientes que deseen cambiarse enfrentan problemas de migración de código, pruebas de compatibilidad y optimización de rendimiento.

La MI355X de AMD está equipada con 288 GB de memoria de alto ancho de banda, y su configuración de hardware no es débil. El problema es que los núcleos de GPU escritos pueden no funcionar directamente al cambiar a AMD; incluso si funcionan, el rendimiento puede no ser ideal. Los ingenieros deben ajustar el código según la arquitectura del chip de AMD, probando repetidamente los resultados de cálculo y la velocidad de ejecución.

AMD ya ha lanzado herramientas como ROCm y HIPIFY para ayudar a los desarrolladores a migrar programas de CUDA. Herramientas de programación multiplataforma como Triton también están reduciendo la dificultad de migración, pero los cálculos de bajo nivel complejos aún requieren una gran optimización manual.

Esta vez, Mythos asumió parte de este trabajo, portando o reescribiendo los núcleos de GPU por sí mismo. Según las diapositivas de la presentación, logró que un modelo Claude procesara palabras clave en la MI355X de AMD con un rendimiento utilizable en 3 días.

De hecho, ya se ha estado reduciendo la dependencia de un único fabricante de chips. El prospecto revela que la empresa ha pasado años estableciendo un sistema de programación de recursos que abarca GPU, GPU de AMD, TPU de Google y Trainium de Amazon, permitiendo elegir diferentes chips según el precio y el rendimiento.

En julio de este año, también se llegó a un acuerdo con AMD para comenzar a implementar la nueva generación de GPUs de AMD a partir de la primera mitad de 2027, con una escala máxima de 2 GW. Ambas partes también utilizarán Claude para acelerar el desarrollo de ROCm y la optimización del rendimiento de GPU, comprometiéndose a invertir hasta 5 mil millones de dólares en el futuro.

El inversor Marcelo P. Lima considera que la muralla de CUDA ha desaparecido. Sin embargo, el analista Ben Pouladian tiene una opinión diferente: hacer que parte de los cálculos del modelo funcione en AMD es muy diferente de lograr que todo el sistema alcance un rendimiento estable, rentable y competitivo en un despliegue a gran escala.

Este contenido se ofrece únicamente con fines informativos generales y no constituye un asesoramiento financiero, de inversión, legal ni fiscal. Cualquier evento, recompensa, promoción en línea o información relacionada que se mencione en el presente documento no debe considerarse como una recomendación, solicitud o invitación a comprar, vender, operar o de negociar de otra manera con cualquier criptoactivo. Los criptoactivos son sumamente volátiles y pueden provocar pérdidas. La disponibilidad de los servicios, productos y eventos relacionados de WEEX puede variar según la región. Tienes la responsabilidad de asegurarte de que tu participación esté de acuerdo con las leyes y regulaciones locales vigentes.