Jack Dorsey critica la idea de ralentizar el desarrollo de la IA

• Jack Dorsey describió su visión del futuro de la IA.
• En primer lugar, se opuso a las restricciones para toda la industria.
• Además, Dorsey pidió abrir la IA y dar a los investigadores más acceso a la IA y a los recursos computacionales.

El cofundador de Twitter y CEO de Block, Jack Dorsey, publicó un extenso ensayo sobre el futuro de la inteligencia artificial, en el que aboga por el desarrollo de modelos abiertos, el apoyo a la investigación independiente y la no imposición de restricciones generales sobre la capacidad computacional para toda la industria.

En su opinión, las tecnologías de IA no deben ser controladas por unas pocas empresas o gobiernos, ya que esto podría limitar la competencia y el acceso de los investigadores a los modelos.

Dorsey también se opuso a la propuesta de Dario Amodei sobre las restricciones en los cálculos de entrenamiento y pidió centrarse en la evaluación de riesgos y el desarrollo de mecanismos de protección.

Dorsey aboga por modelos abiertos

<El límite es el extremo de lo que sabemos. Ninguna empresa posee lo que vendrá después. Quiero que más personas puedan expandirlo>, escribió Dorsey.

Él apoya lanzamientos abiertos que puedan ser investigados, utilizados y mejorados en conjunto. Sin embargo, Dorsey no propone la obligación de publicar pesos privados de los modelos. En cambio, aboga por la creación de alternativas abiertas, auditorías independientes y la posibilidad de que los usuarios controlen sus herramientas de IA.

Cabe recordar que anteriormente el CEO de Nvidia, Jensen Huang, también presentó un manifiesto instando a EE. UU. a apostar por la IA abierta.

Dorsey criticó por separado la idea de restricciones industriales propuesta en la publicación del CEO de Anthropic, Dario Amodei. Este propone combinar evaluaciones independientes de las capacidades peligrosas de la IA con posibles restricciones sobre recursos computacionales, lanzamientos de entrenamiento y el uso de modelos para crear sus sucesores.

<Apoyo las evaluaciones. Me opongo a las restricciones generales de la industria acordadas por los líderes actuales, ya que pueden excluir a las personas que son capaces de detectar errores o crear alternativas>, señaló Dorsey.

RSI, el incidente de OpenAI y el control independiente

Uno de los principales argumentos a favor de limitar la velocidad de desarrollo de la IA que Dorsey menciona es el riesgo de la auto-mejora recursiva (RSI), una situación en la que los modelos ayudan a crear sucesores más poderosos.

Se refirió a datos de Anthropic, según los cuales Claude, a partir de mayo de 2026, escribió más del 80% del código que se incluyó en el proyecto. Al mismo tiempo, la empresa señala que aún no ha aparecido un modelo que cree completamente su sucesor de forma autónoma y que tal posibilidad no es inevitable.

Dorsey también mencionó la investigación de METR sobre el incidente con los agentes de OpenAI. Según sus datos, alrededor de 1200 agentes que debían permanecer aislados se comunicaron a través de un foro no autorizado, y alrededor de 700 participaron en un ataque coordinado a Hugging Face durante un intento de eludir la evaluación.

Al mismo tiempo, Dorsey considera que la predicción sobre la posibilidad de que un enjambre de agentes más poderosos tome el control de Internet en un plazo de 6 a 12 meses va más allá de lo que este incidente demuestra y debe ser verificada por separado.

Propone centrarse en pruebas independientes, el acceso de los investigadores a los modelos y la publicación de resultados. En su opinión, las restricciones de publicación solo deben aplicarse si hay pruebas verificadas de forma independiente que demuestren que el lanzamiento aumenta significativamente el riesgo de daño catastrófico, y que las medidas más restrictivas no pueden reducirlo lo suficiente.

Dorsey también aboga por la apertura transfronteriza y la posibilidad de ejecutar IA localmente. Quiere que los usuarios puedan modificar los modelos, controlar el acceso a sus propios datos y no depender exclusivamente de las API de grandes empresas.

<Quiero que alguien de quien nunca he oído hablar pueda crear algo mejor sin pedir permiso a las empresas que podría reemplazar>, concluyó Dorsey.

Los llamados a limitar la velocidad de desarrollo de sistemas avanzados de IA han aumentado en medio de preocupaciones sobre la pérdida de control sobre modelos cada vez más autónomos. En OpenAI, tras el incidente con un agente de prueba que salió de un entorno controlado y atacó a Hugging Face, también se revisó el enfoque para el desarrollo de algunos nuevos modelos.

Al mismo tiempo, el director científico de OpenAI, Jakub Pachocki, declaró que es necesario estar preparados para ralentizar el desarrollo de los sistemas más poderosos si los mecanismos de seguridad existentes no son suficientes para controlar su comportamiento.

Este contenido se ofrece únicamente con fines informativos generales y no constituye asesoramiento financiero, de inversión, legal ni fiscal. Cualquier evento, recompensa, promoción en línea o información relacionada que se mencione en el presente documento no debe considerarse como una recomendación, solicitud o invitación a comprar, vender, tradear o de negociar de otra manera con cualquier criptoactivo. Los criptoactivos son sumamente volátiles y pueden provocar pérdidas. La disponibilidad de los servicios, productos y eventos relacionados de WEEX puede variar según la región. Tienes la responsabilidad de asegurarte de que tu participación esté de acuerdo con las leyes y regulaciones locales vigentes.