Jensen Huang a la izquierda, Amodei a la derecha

Título original: "Jensen Huang a la izquierda, Amodei a la derecha"
Autor original: Su Yang, Tencent Technology

La inteligencia artificial de vanguardia sigue acelerándose, o frena, convirtiéndose en el tema más controvertido en Silicon Valley.

En torno a esta controversia, los gigantes de Silicon Valley han comenzado a tomar partido. Amodei, Altman, Musk y Hassabis forman el "grupo de pausa". Jensen Huang es el firme defensor del "grupo de aceleración", criticando que la "teoría del apocalipsis de la IA" carece de fundamento científico; Yang Likun continúa burlándose de Amodei, diciendo: "(Amodei) cuando estaba en OpenAI, creía que GPT-2 era tan peligroso que no debería ser de código abierto, yo me reí de él en ese momento, y ahora todos pueden seguir haciéndolo."

En comparación, Zuckerberg y Nadella se muestran relativamente neutrales.

Que los gigantes tomen partido significa que no hay consenso en Silicon Valley sobre la pausa en los modelos de vanguardia, lo que se debe a las diferencias en sus posiciones en la cadena de valor de la industria de la IA. Los líderes en el nivel de modelos pueden pedir una pausa por diferentes razones, pero es poco probable que empresas como Oracle, AWS, que tienen miles de millones de dólares en pedidos de capacidad de cómputo, y Nvidia, que está en la cima de la cadena alimentaria, respondan positivamente a una solicitud de detenerse.

En Washington, el clamor por una "pausa" no solo no ha recibido apoyo, sino que ha suscitado una serie de cuestionamientos.

"Esto me parece un poco como un caballo de Troya (It feels a little bit to me like a bit of a Trojan horse)." Dijo JD Vance en una entrevista, esta frase refleja la verdadera opinión de Washington: cuando las empresas que fabrican caballos de Troya piden repetidamente que la puerta se estreche, se debe examinar a qué empresas realmente les conviene esa puerta.

01 Pausa, advertencias y una carta de renuncia

El desencadenante de esta controversia fue la renuncia de Jacob Coxon, un investigador de Anthropic.

Él había trabajado durante tres años en OpenAI y Anthropic en investigación de preentrenamiento, participando personalmente en el entrenamiento de modelos de vanguardia. En un extenso post en X, no tuvo palabras amables: "Ambas empresas no están actuando de manera responsable. Están avanzando directamente hacia una superinteligencia que puede auto-mejorarse, apostando nuestras vidas."

Él afirmó que las personas dentro del laboratorio realmente creen que la IA podría matar a toda la humanidad en diez años, y esto no es una actuación de relaciones públicas. Muchos colegas han comenzado a describir la etapa actual como "momentos críticos" y "finales". Coxon incluso renunció a las acciones que le correspondían. Solo estuvo en Anthropic durante cuatro meses, y según las reglas de la empresa, se requieren seis meses para ejercer las opciones.

Jacob Coxon, ex investigador de Anthropic

A continuación, Evan Hubinger, responsable de la ciencia de alineación en Anthropic, respondió públicamente: Jacob tiene razón, realmente creemos que la IA podría matar a toda la humanidad. Personalmente, creo que la probabilidad de esto es superior al 10% en diez años. Anthropic está haciendo esfuerzos, pero aún no tenemos un plan claro para alinear la superinteligencia, y estamos lejos de estar en el camino correcto.

Estos dos disparos llevaron las preocupaciones que originalmente estaban fermentando principalmente dentro del laboratorio directamente al público. En este contexto, el fundador y CEO de Anthropic, Amodei, publicó un extenso artículo, planteando sistemáticamente la propuesta de "ralentizar la investigación de vanguardia". Ya no solo hablaba de "invertir en seguridad", sino que exigía explícitamente controlar proactivamente la velocidad de los avances en capacidades, dejando tiempo para que los mecanismos de seguridad se pusieran al día.

Altman, Musk y Hassabis rápidamente respondieron públicamente, formando el "grupo de pausa".

Antes de la aparición de la teoría de "ralentización" de Jacob Coxon y Amodei, los "padres de la IA" como Yoshua Bengio y Geoffrey Hinton habían estado emitiendo llamados de atención sobre los riesgos.

Al hablar sobre la renuncia de Coxon, Bengio señaló que los científicos en laboratorios de IA de vanguardia a menudo pueden ver las capacidades de los últimos modelos antes que el público, por lo que su juicio sobre los riesgos merece ser tomado en serio.

Al mismo tiempo, Bengio también dio ejemplos concretos, afirmando que los sistemas de IA actuales ya tienen capacidades de hackeo y persuasión, y si se utilizan para perjudicar los intereses humanos, podrían causar consecuencias graves. También le preocupa que, a medida que la IA adquiera la capacidad de planificar a largo plazo, estos riesgos podrían ampliarse aún más.

Cuando se le preguntó por la probabilidad de que la IA "mate a toda la humanidad" en los próximos diez años, Hinton también afirmó que esa cifra "no es irrazonable", pero al mismo tiempo enfatizó que nadie sabe realmente cómo dar una estimación confiable, porque la humanidad nunca ha enfrentado la existencia de una especie que podría ser más inteligente que nosotros en un futuro cercano.

Hinton cree que la IA podría ser utilizada en el futuro para diseñar virus biológicos peligrosos, virus informáticos y llevar a cabo ciberataques masivos. Por lo tanto, la humanidad necesita encontrar métodos de control efectivos antes de que los riesgos se descontrolen.

A diferencia de los proponentes de la nueva ronda de "pausa" en Silicon Valley, los "padres de la IA" hacen más un llamado a prestar atención a los riesgos y explorar la creación de mecanismos de control de riesgos, en lugar de simplemente frenar. Además, desde una perspectiva de posición, las opiniones y sugerencias en el ámbito académico son más puras, mientras que las iniciativas de los laboratorios de vanguardia, aunque públicamente etiquetadas como "por el bien de la humanidad", siguen siendo difíciles de desvincular al 100% de consideraciones comerciales.

Esto es precisamente por lo que JD Vance dice que la "teoría de la pausa" es como un caballo de Troya.

02 Divergencias y alineaciones

Los grupos de "aceleración", "ralentización" y "neutral". Fuente: The New York Times

El 15 de septiembre, varios líderes de empresas tecnológicas se pronunciaron en la conferencia Dreamforce de Salesforce, y esta controversia comenzó a convertirse en un enfrentamiento más directo de opiniones.

Ese día, Amodei, Huang y Altman hablaron sobre la seguridad de la IA, pero dieron respuestas diferentes sobre la velocidad de desarrollo, la responsabilidad de seguridad y qué acciones deberían tomar las empresas.

Amodei, al compartir el escenario con el CEO de Salesforce, Marc Benioff, enfatizó nuevamente que las empresas de IA deberían establecer estándares de seguridad más altos a través de sus propias acciones. Cree que las empresas que toman medidas de seguridad más estrictas pueden ser una forma de impulsar a toda la industria hacia adelante.

En otras palabras, la actitud de Amodei comenzó a cambiar, pasando de pedir una desaceleración en toda la industria a abogar por que las empresas implementen sus propias medidas de seguridad.

Jensen Huang, por su parte, afirmó que "no se necesitan nuevas leyes ni nueva regulación". En su opinión, la velocidad y la seguridad no son mutuamente excluyentes; las empresas pueden avanzar en el desarrollo de modelos lo más rápido posible; si descubren que han perdido el control o que el producto no puede garantizar la seguridad, deberían detenerse para resolver el problema.

La actitud de Benioff es más abierta y enfatiza la autonomía. Dijo que si las empresas creen que deberían desacelerar, deberían hacerlo; si creen que deberían acelerar, deberían acelerar, y también deberían asumir la responsabilidad de sus decisiones.

El fundador y CEO de OpenAI, Altman, en el evento de Dreamforce, expresó que tiene mucha confianza en que OpenAI y toda la industria de la IA pueden desarrollarse de manera segura sin causar un daño significativo al público. Al mismo tiempo, expresó su decepción por la interpretación externa de que su opinión apoyaba una desaceleración en el desarrollo de la IA en toda la industria.

En otras palabras, Altman también comenzó a cambiar, enfatizando que lo que quería expresar no era un llamado a desacelerar la industria, sino que el trabajo de seguridad y supervisión debería preceder a la mejora de capacidades.

Zuckerberg no aboga por que las acciones de seguridad de una empresa se basen en la premisa de que otras empresas de IA deben desacelerar simultáneamente. Cree que introducir agencias de evaluación independientes y consultores externos para verificar la seguridad de los modelos es la mejor práctica de la industria. También reveló que Meta ya había desacelerado el desarrollo de la herramienta Muse AI, en lugar de esperar a que otras empresas llegaran a un consenso sobre desacelerar el desarrollo de la IA.

La actitud del CEO de Microsoft, Satya Nadella, es en cierto modo similar a la de Altman, alentando la implementación de medidas de seguridad y fomentando la competencia plena.

"Lo primero que debemos hacer es servir a la humanidad y asegurarnos de que la tecnología esté bajo control humano. Al mismo tiempo, la amplia difusión de la tecnología de IA es lo más crucial, debe ser selectiva y competitiva. La seguridad debe tomarse en serio, pero debe resolverse de manera ingenieril y transparente, no debe ser mística." Dijo Nadella el 15 de septiembre durante la cumbre All-In Summit 2026.

Además de estos empresarios, las voces de Washington también se han sumado a la discusión.

Después de que Trump llamara directamente a Jensen Huang para expresar públicamente su apoyo al desarrollo continuo de la industria de la IA, David Sacks, copresidente del Consejo Asesor de Ciencia y Tecnología del Presidente de EE. UU., declaró que las empresas tecnológicas pueden continuar avanzando en la IA de vanguardia, mientras cuestiona las motivaciones detrás de las propuestas de "ralentización" de algunas empresas.

03 ¿Quién establece las reglas?

A medida que la discusión se amplía, la controversia también se extiende desde los riesgos de la IA en sí, hasta si los estándares de seguridad de la IA de vanguardia deben ser establecidos por las empresas mismas o si se necesita la intervención del gobierno y de instituciones independientes.

Bloomberg citó a fuentes informadas que afirmaron que Anthropic, Google y OpenAI ya habían discutido la creación de una agencia de estándares de la industria de la inteligencia artificial.

En julio, Hassabis publicó un artículo en el que proponía establecer una agencia de estándares de IA liderada por EE. UU., cuyo modelo de operación sería similar al de la Autoridad Reguladora de la Industria Financiera de EE. UU. (FINRA). Esta agencia podría realizar pruebas antes de que los modelos avanzados de IA sean desplegados oficialmente, para determinar si cumplen con los estándares de seguridad correspondientes.

Según la visión de Hassabis, esta agencia no debería ser completamente dirigida por el gobierno, sino que debería adoptar un modelo de colaboración público-privada. En este, el gobierno desempeñaría un papel de supervisión, la industria de la IA proporcionaría financiamiento, y se incluirían expertos técnicos independientes de primer nivel y representantes de la comunidad de código abierto.

Hassabis intenta agregar un chequeo de seguridad independiente antes de que los modelos ingresen al mundo real, lo que se alinea con un conjunto de lógicas regulatorias que el gobierno de EE. UU. publicó a principios de junio: las empresas pueden optar por someterse a una evaluación gubernamental antes de publicar modelos, con una ventana de acceso de hasta 30 días antes de la publicación, y se deja claro que no se realizará una aprobación obligatoria ni se establecerán licencias de publicación.

Lo que es dramático es que los modelos Fable 5 y Mythos 5 se lanzaron posteriormente sin seguir este proceso, pero se descubrió que tenían capacidades de ataque y defensa cibernética muy fuertes, y finalmente fueron retirados brevemente por el BIS de EE. UU. en forma de control de exportaciones.

Sin embargo, incluso así, la actitud política solo exige la implementación de medidas de seguridad, sin hacer declaraciones o guías sobre la desaceleración.

Jakub Pachocki, el científico jefe de OpenAI, sostiene una opinión similar a la de Hassabis. A principios de septiembre, también enfatizó que compartir estándares de seguridad y coordinar internacionalmente el desarrollo de la IA deberían ser prioridades actuales.

04 Nadie realmente ha pisado el freno

Hasta ahora, esta controversia no ha cambiado realmente el ritmo de desarrollo de las empresas de IA de vanguardia.

Anthropic, OpenAI, Google, xAI y otras empresas continúan avanzando en el desarrollo de modelos, y la competencia en torno a la capacidad de cómputo, centros de datos e infraestructura de IA no se ha detenido debido a esta controversia. En el ámbito del mercado de capitales, ha habido cambios diferentes: Anthropic sigue preparándose para su IPO este año, mientras que OpenAI ha pospuesto su plan de IPO hasta 2027.

Amodei quiere que toda la industria se detenga para buscar junto a Anthropic soluciones para agregar medidas de seguridad a las capacidades de los modelos, lo que en cierta medida puede entenderse como "generosidad de otros".

Esta es también la razón por la que Amodei ha sido etiquetado como "fingiendo ser un pequeño ángel perfecto".

Sobre el tema del control de riesgos, la perspectiva que representa Jensen Huang se alinea más con la realidad; si las empresas tienen preocupaciones o descubren problemas, pueden explorar soluciones por sí mismas y compartir las soluciones efectivas con la industria.

Hacer que un equipo de 100 personas y un equipo de 1000 personas se detengan juntos no tiene una base de consenso. Incluso Amodei es consciente de que si solo él se detiene, es muy probable que sea superado por competidores como OpenAI.

Más importante aún, hay divergencias en la gobernanza corporativa. Anthropic y OpenAI son empresas de beneficio público, que pueden clamar "por el futuro de la humanidad a expensas de beneficios financieros a corto plazo", y pueden decir a los inversores "esto lo hemos consensuado desde hace tiempo", pero empresas que cotizan en bolsa como Google, Microsoft y Meta tienen la obligación fiduciaria legal hacia los accionistas del mercado secundario.

La posibilidad de que empresas con diferentes intereses lleguen a un consenso en este punto no es muy alta.

Otro detalle que podría pasarse por alto. Antes de la "teoría de la pausa", tanto Anthropic como OpenAI lanzaron sus modelos más potentes, uno es Fable 5.1 y el otro es GPT-6 Astra.

Bajo el clamor, ¿lanzarán otros nuevos modelos?

Enlace original