OpenAI Pregunta al Congreso si una desaceleración de la IA sería legal

OpenAI ha preguntado a los miembros del Congreso si las empresas rivales de IA podrían acordar legalmente desacelerar el desarrollo, mientras su científico jefe insta a la industria a establecer estándares de seguridad compartidos.

Según WIRED, que citó a personas cercanas a la empresa, OpenAI preguntó a los legisladores en las últimas semanas si un acuerdo entre las empresas de IA para desacelerar el desarrollo podría violar las leyes antimonopolio.

El acercamiento a los legisladores sigue la llamada del científico jefe de OpenAI, Jakub Pachocki, para desaceleraciones voluntarias hasta que los desarrolladores puedan demostrar mejor que sus sistemas son seguros. Pero las empresas enfrentan presión para seguir avanzando incluso cuando sus propios investigadores tienen preocupaciones.

"La competencia comercial y geopolítica en el espacio de la IA es increíblemente intensa, lo que lleva a una dinámica preocupante donde las empresas están incentivadas a lanzar productos antes de que sus riesgos se comprendan completamente", dijo Miranda Bogen, tecnóloga jefe en el Centro para la Democracia y la Tecnología, a Decrypt.

"Incluso cuando el personal interno sabe que se necesita más investigación y pruebas, sus empresas enfrentan una inmensa presión para recortar esquinas y omitir pruebas de seguridad críticas, a pesar de la acumulación de evidencia sobre las consecuencias de avanzar demasiado rápido", agregó.

Un acuerdo para desacelerar el desarrollo de la IA podría plantear preocupaciones antimonopolio al restringir la competencia. Los senadores Adam Schiff y Jim Banks introdujeron legislación para proteger ciertas colaboraciones de seguridad, sujeto a un aviso previo al Departamento de Justicia.

El debate sobre desacelerar el desarrollo de la IA se produce mientras Estados Unidos y China compiten por el liderazgo en la tecnología. El presidente de EE. UU., Donald Trump, retrasó una orden ejecutiva sobre IA en mayo debido a preocupaciones de que podría debilitar la ventaja de América sobre China. Trump firmó posteriormente la orden en junio, creando un proceso de revisión voluntario para modelos avanzados antes de su lanzamiento.

Más directos que las preocupaciones de seguridad nacional, los incentivos financieros podrían dificultar el acuerdo.

"Cada avance en las condiciones actuales genera muchos millones o miles de millones más en financiamiento y coloca a los creadores de ese avance en una mayor posición de poder e influencia", dijo Duncan Sabien, jefe de comunicaciones en el Instituto de Investigación de Inteligencia de Máquinas, a Decrypt.

Llamando a la dinámica de carrera armamentista real, Sabien dijo que OpenAI y Anthropic enfrentan presión para seguir avanzando a pesar de los riesgos inciertos porque cada nuevo sistema ayuda a construir sucesores más capaces, permitiendo que un rival tome la delantera si alguna de las empresas desacelera sin un acuerdo compartido.

"Esto es especialmente cierto ya que las ganancias en inteligencia son acumulativas; cada nuevo sistema facilita el entrenamiento y despliegue del siguiente, más avanzado", dijo. "Sin algún tipo de mecanismo de coordinación, retroceder solo significa que el otro obtiene una ventaja.

En agosto, OpenAI pausó el trabajo interno de Astra por falta de salvaguardias más fuertes sobre preocupaciones de ciberseguridad. Sin embargo, tanto OpenAI como Anthropic relajaron sus compromisos de seguridad en febrero, con el director científico de Anthropic, Jared Kaplan, argumentando que desacelerar el desarrollo de manera independiente tenía menos sentido mientras los competidores continuaban avanzando.

El científico jefe de OpenAI advierte que los laboratorios de IA pueden necesitar desacelerar

El debate sobre desacelerar el desarrollo de la IA se intensificó esta semana después de que el exingeniero de Anthropic, Jacob Coxon, anunciara públicamente su renuncia, citando preocupaciones sobre los riesgos que el desarrollo continuo de la IA plantea a la humanidad.

"Las personas que construyen IA creen sinceramente que podría matarnos a todos para finales de la década", dijo Coxon en X, afirmando que no era un "truco de marketing".

"Si acaso, muchos ejecutivos e investigadores senior matizarán su redacción en la prensa para sonar sensatos, pero escucho a las mismas personas expresar miedo en privado. Ninguna otra actividad humana plantea este nivel de peligro", escribió.

Sin embargo, Sabien dijo que los investigadores pueden lograr poco al irse si alguien más simplemente ocupa su lugar.

"Si suficientes de ellos logran un conocimiento común de que todos deberían detenerse, entonces pueden romper la barrera de coordinación y detenerse juntos en lugar de ser reemplazados por la siguiente persona un poco menos cautelosa", dijo.

Este contenido se ofrece únicamente con fines informativos generales y no constituye un asesoramiento financiero, de inversión, legal ni fiscal. Cualquier evento, recompensa, promoción en línea o información relacionada que se mencione en el presente documento no debe considerarse como una recomendación, solicitud o invitación a comprar, vender, operar o de negociar de otra manera con cualquier criptoactivo. Los criptoactivos son sumamente volátiles y pueden provocar pérdidas. La disponibilidad de los servicios, productos y eventos relacionados de WEEX puede variar según la región. Tienes la responsabilidad de asegurarte de que tu participación esté de acuerdo con las leyes y regulaciones locales vigentes.