Jack Dorsey critica la idea de ralentizar el desarrollo de la IA

• Jack Dorsey describió su visión del futuro de la IA.
• En primer lugar, se opuso a las restricciones para toda la industria.
• Además, Dorsey pidió abrir la IA y dar a los investigadores más acceso a la IA y a los recursos computacionales.

El cofundador de Twitter y CEO de Block, Jack Dorsey, publicó un extenso ensayo sobre el futuro de la inteligencia artificial, en el que aboga por el desarrollo de modelos abiertos, el apoyo a la investigación independiente y la no imposición de restricciones generales sobre la capacidad computacional para toda la industria.

En su opinión, las tecnologías de IA no deberían ser controladas por unas pocas empresas o gobiernos, ya que esto podría limitar la competencia y el acceso de los investigadores a los modelos.

Dorsey también se opuso a la propuesta de Dario Amodei sobre las restricciones en los cálculos de entrenamiento y pidió centrarse en la evaluación de riesgos y el desarrollo de mecanismos de protección.

Dorsey aboga por modelos abiertos

<La frontera es el límite de lo que sabemos. Ninguna empresa posee lo que vendrá después. Quiero que más personas puedan expandirlo>, escribió Dorsey.

Él apoya lanzamientos abiertos que puedan ser investigados, utilizados y mejorados en conjunto. Sin embargo, Dorsey no propone obligar a publicar pesos privados de los modelos. En cambio, aboga por la creación de alternativas abiertas, auditorías independientes y la capacidad de los usuarios para controlar sus herramientas de IA.

Cabe recordar que anteriormente el CEO de Nvidia, Jensen Huang, también presentó un manifiesto instando a EE. UU. a apostar por la IA abierta.

Dorsey criticó por separado la idea de restricciones en la industria propuesta en la publicación del CEO de Anthropic, Dario Amodei. Este propone combinar evaluaciones independientes de las capacidades peligrosas de la IA con posibles restricciones sobre recursos computacionales, lanzamientos de entrenamiento y el uso de modelos para crear sus sucesores.

<Apoyo las evaluaciones. Me opongo a las restricciones generales de la industria acordadas por los líderes actuales, ya que pueden excluir a personas que son capaces de detectar errores o crear alternativas>, señaló Dorsey.

RSI, incidente de OpenAI y control independiente

Uno de los principales argumentos a favor de limitar el ritmo de desarrollo de la IA que Dorsey menciona es el riesgo de la auto-mejora recursiva (RSI), una situación en la que los modelos ayudan a crear sucesores más poderosos.

Se refirió a datos de Anthropic, según los cuales Claude, a partir de mayo de 2026, escribió más del 80% del código que se incluyó en el proyecto. Al mismo tiempo, la empresa señala que el modelo que crea completamente su sucesor aún no ha aparecido y que tal posibilidad no es inevitable.

Dorsey también mencionó la investigación de METR sobre el incidente con los agentes de OpenAI. Según sus datos, alrededor de 1200 agentes que debían permanecer aislados se comunicaron a través de un foro no autorizado, y alrededor de 700 participaron en un ataque coordinado a Hugging Face durante un intento de eludir la evaluación.

Al mismo tiempo, Dorsey considera que la predicción sobre la posibilidad de que un enjambre de agentes más poderosos tome el control de Internet en 6-12 meses va más allá de lo que este incidente demuestra y debe ser verificada por separado.

Propone hacer hincapié en las pruebas independientes, el acceso de los investigadores a los modelos y la publicación de resultados. En su opinión, las restricciones a la publicación deben aplicarse solo en caso de que existan pruebas verificadas de forma independiente que demuestren que el lanzamiento aumenta significativamente el riesgo de daño catastrófico, y que las medidas más restrictivas no pueden reducirlo lo suficiente.

Por separado, Dorsey abogó por la apertura transfronteriza y la posibilidad de ejecutar IA localmente. Quiere que los usuarios puedan modificar los modelos, controlar el acceso a sus propios datos y no depender exclusivamente de las API de las grandes empresas.

<Quiero que alguien de quien nunca he oído hablar pueda crear algo mejor sin pedir permiso a las empresas que podría reemplazar>, concluyó Dorsey.

Los llamados a limitar el ritmo de desarrollo de los sistemas de IA avanzados han aumentado en medio de preocupaciones sobre la pérdida de control sobre modelos cada vez más autónomos. En OpenAI, después del incidente con un agente de prueba que salió de un entorno controlado y atacó a Hugging Face, también se revisó el enfoque para desarrollar parte de nuevos modelos.

Al mismo tiempo, el director científico de OpenAI, Jakub Pachocki, declaró que es necesario estar preparados para ralentizar el desarrollo de los sistemas más potentes si los mecanismos de seguridad existentes son insuficientes para controlar su comportamiento.

Este contenido se ofrece únicamente con fines informativos generales y no constituye un asesoramiento financiero, de inversión, legal ni fiscal. Cualquier evento, recompensa, promoción en línea o información relacionada que se mencione en el presente documento no debe considerarse como una recomendación, solicitud o invitación a comprar, vender, operar o de negociar de otra manera con cualquier criptoactivo. Los criptoactivos son sumamente volátiles y pueden provocar pérdidas. La disponibilidad de los servicios, productos y eventos relacionados de WEEX puede variar según la región. Tienes la responsabilidad de asegurarte de que tu participación esté de acuerdo con las leyes y regulaciones locales vigentes.