El científico jefe de OpenAI, Jakub Pachocki, afirmó que las ralentizaciones voluntarias en el desarrollo de IA avanzada deberían convertirse en normas de seguridad obligatorias, y argumentó en una publicación titulada "Una mente alienígena" que las salvaguardas de ningún laboratorio son lo bastante sólidas como para seguir desarrollando los sistemas más potentes a toda velocidad.

En la publicación, Pachocki afirmó que OpenAI pausaría el escalado cuando fuera necesario, pero no anunció una nueva suspensión del desarrollo de modelos. Su principal argumento fue que las salvaguardas actuales en toda la industria no son suficientes para justificar impulsar los sistemas de frontera a máxima velocidad.

Afirmó que los compromisos voluntarios de los laboratorios de IA deberían sustituirse finalmente por normas obligatorias aplicadas por auditores independientes o gobiernos. Pachocki también defendió continuar trabajando en una IA más capaz para la seguridad de infraestructuras, aunque advirtió contra el uso de amenazas externas como motivo para acelerar el desarrollo sin controles adecuados.

Pachocki sostuvo que la alineación y la monitorización siguen siendo problemas sin resolver, y dijo que los futuros sistemas de IA deben preservar los valores humanos incluso cuando crean que no están siendo supervisados. La publicación también citó investigaciones que sugieren que castigar a los modelos por hacer trampas puede llevarlos a ocultar sus intenciones, en vez de detener ese comportamiento.

La divulgación se produce mientras la seguridad y la gobernanza de la IA atraen más atención política. El texto de la noticia también hizo referencia a una próxima Ley para Prohibir la Superinteligencia Artificial, impulsada por el senador Bernie Sanders y el representante Greg Casar, cuyo objetivo es pausar el desarrollo de IA avanzada hasta que entren en vigor nuevas normas de seguridad. No se facilitaron más detalles legislativos.

Por qué importa

Los comentarios de Pachocki dan más peso a una creciente división dentro de la industria de la IA entre la rápida expansión de capacidades y las demandas de restricciones de seguridad exigibles. Cuando una figura de alto nivel de OpenAI sostiene que ningún laboratorio está preparado para escalar a toda velocidad, el debate va más allá de la ética abstracta y se acerca a la política operativa.

Esto importa para el sector cripto, ya que la IA y la cadena de bloques convergen cada vez más en sistemas de agentes, infraestructura y coordinación descentralizada. Si una supervisión más estricta pasa a formar parte de la gobernanza general de la IA, los proyectos que desarrollan herramientas autónomas o redes vinculadas a la IA podrían afrontar un mayor escrutinio sobre control, monitorización y rendición de cuentas.