"No podemos codificar el futuro de la humanidad", advierte el jefe de la ONU en la cumbre de IA

El Secretario General de la ONU, António Guterres, inauguró el primer Diálogo Global sobre Gobernanza de la IA en Ginebra el lunes, diciendo a 193 naciones que la IA ya está superando a las instituciones destinadas a gobernarla, y que la humanidad está llevando a cabo un experimento sobre sí misma "sin un plan y sin consentimiento".

"La inteligencia artificial avanza a una velocidad desenfrenada", dijo Guterres en la apertura de su discurso principal. "Una tecnología que puede remodelar economías, transformar el mundo del trabajo, influir en elecciones y alterar el equilibrio de la seguridad se está desplegando más rápido de lo que cualquiera, incluidos los que la construyen, puede seguir el ritmo".

La sala incluía a los 193 estados miembros de la ONU, convocados en Ginebra en el primer Diálogo Global sobre Gobernanza de la IA, un intento multilateral de gobernar una tecnología que ya ha superado a todos los que intentan hacerlo.

El meme utilizado por Guterres para explicar los riesgos de la IA no gobernada fue el "vibe coding", un término acuñado por Andrej Karpathy, miembro fundador de OpenAI y exdirector de IA en Tesla, para describir la programación por instinto: decirle a la IA lo que quieres, dejar que se encargue del resto, no mirar demasiado de cerca. Merriam-Webster lo agregó recientemente a su diccionario.

Guterres reconoció que el "vibe coding" "puede hacer maravillas" a medida que más personas confían en los productos construidos por IA.

"Pero no podemos codificar la verdad", dijo. "No podemos codificar el futuro de la humanidad".

Los números detrás de esa afirmación no eran suaves. Guterres puso el internet en 15 años para alcanzar a mil millones de personas y la IA en dos. Describió los sistemas actuales como "ya no herramientas que esperan instrucciones; están escribiendo código, actuando en línea y tomando decisiones con menos y menos supervisión humana".

"Nuestras instituciones fueron construidas para gobernar máquinas que siguen órdenes. No están listas para máquinas que deciden".

El diálogo nació del Pacto Digital Global 2024, que estableció la gobernanza internacional de la IA como un mandato de la ONU por primera vez. Su sesión inaugural, dos años después, también recibió el informe preliminar del Panel Científico Internacional Independiente sobre Inteligencia Artificial, compuesto por 40 científicos de 140 países, que publicó la semana pasada el hallazgo de que nadie puede garantizar actualmente que la IA no cause daños catastróficos.

La velocidad fue una de las tres advertencias que Guterres extrajo del panel. La segunda fue el poder: la computación, los datos y el talento concentrados en un puñado de empresas y países, la mayor parte del mundo excluida de decisiones que ya están dando forma a la IA, algo que también preocupa a otros expertos en IA como Yann Lecun, Andy Kowinski y Yoshua Bengio.

La tercera fue la verdad: una mentira habilitada por máquinas ahora persuade tan eficazmente como un hecho verificado, erosionando constantemente lo que Guterres llamó "la integridad de nuestro ecosistema informativo".

Niños conejillos de indias y robots asesinos

Entre las propuestas concretas de Guterres se encuentra un Compromiso de Seguridad Infantil en IA que requiere que las empresas demuestren la seguridad a través de pruebas independientes antes de que cualquier IA llegue a los niños, mantener una tolerancia cero para la generación de imágenes de abuso sexual infantil y conectar a los niños en situación de riesgo con apoyo humano real en lugar de dejarlos solos con un chatbot. "Ningún niño debería ser un conejillo de indias para la IA no regulada".

Y luego estaban los robots asesinos. Guterres calificó a las armas autónomas letales, máquinas que seleccionan y matan un objetivo sin juicio humano, como "moralmente repugnantes" y exigió una prohibición por ley internacional.

Los estados ya están en la mesa de discusión. No sugirió que se tomen su tiempo.

El Diálogo se reanuda en Nueva York en 2027. Guterres también pidió a la Asamblea General que creara un Fondo Global para la IA centrado en el acceso a la computación para los países en desarrollo, y desafió a cada gran empresa de IA a operar todos los centros de datos con energía renovable para 2030, el año en que estima que esas instalaciones superarán a todas menos cinco naciones en consumo de electricidad.