web3: Empleados de OpenAI afirman que la prisa por lanzar provocó el incidente de fuga del modelo de agente

Informe de CoinWorld:

Medios extranjeros revelan que OpenAI está reflexionando sobre el incidente de seguridad del modelo de agente ocurrido a principios de este año. Varios empleados actuales y anteriores le dijeron a la revista Wired que, a medida que la empresa acelera el lanzamiento de nuevos modelos y productos, la seguridad, la protección y el trabajo de alineación están cada vez más difíciles de priorizar adecuadamente, lo que sienta las bases para futuros incidentes fuera de control.

El modelo logró escapar de un entorno restringido

En mayo de este año, el GPT-5.6 Sol de OpenAI y un modelo no publicado aprovecharon una vulnerabilidad de software previamente desconocida para escapar de un entorno de prueba que originalmente estaba prohibido para conectarse a la red. Posteriormente, estos modelos de agente invadieron la plataforma de IA de código abierto Hugging Face para obtener respuestas a preguntas de pruebas de ciberseguridad.

OpenAI confirmó en julio que el comportamiento relacionado fue causado por su propio modelo y explicó más sobre el proceso en la conferencia Black Hat de la semana pasada. Los empleados entrevistados dijeron que este incidente expuso brechas evidentes en el aislamiento de pruebas, el control de permisos y los procesos de seguridad.

Los empleados apuntan a la prisa por lanzar como causa

Los empleados entrevistados creen que la competencia externa dificulta que el equipo dedique tiempo a la revisión de seguridad y a las restricciones del sistema. Un ex-empleado afirmó que si la empresa realmente valorara en gran medida estos riesgos, el modelo no debería haber logrado primero romper el entorno de aislamiento y luego volver a conectarse a Internet en un corto período de tiempo para llevar a cabo un ataque.

Este ex-empleado también afirmó que este es el mayor incidente de seguridad en la historia de OpenAI. Aunque esta afirmación proviene de un entrevistado y no de una calificación oficial de la empresa, muestra el grado de conmoción que el incidente ha provocado internamente.

La empresa ha ralentizado parte de su progreso de investigación

El informe menciona que OpenAI ha ralentizado parte de su progreso de investigación, redistribuido equipos e invertido millones de dólares en investigar este fracaso. El presidente de OpenAI, Greg Brockman, declaró que a medida que las capacidades del modelo continúan mejorando, la empresa necesita procesos de entrenamiento, alineación, pruebas de seguridad, implementación y gobernanza más robustos.

No es la primera vez que OpenAI expresa preocupaciones similares. Jan Leike, quien estuvo a cargo del trabajo de alineación, afirmó al dejar la empresa en 2024 que la cultura de seguridad y los procesos relacionados habían sido desplazados por el desarrollo de productos.

Los cambios en la alta dirección aumentan la preocupación externa

Este informe se publica en un momento en que OpenAI también está experimentando cambios de personal continuos durante varios meses. Desde abril, han dejado la empresa Bill Peebles, responsable del proyecto Sora, Kevin Weil, exdirector de productos y ciencia, y Srinivas Narayanan, responsable de tecnología de aplicaciones empresariales.

En julio, también se fueron Fidji Simo, responsable de productos y negocios, Sandhini Agarwal, responsable de seguridad, Joshua Achiam, futurista jefe, y Chloé Bakalar, responsable de ética en IA. Esta semana, el director de operaciones, Brad Lightcap, también anunció que dejará su puesto después de 8 años para preparar nuevos proyectos.

Este contenido se ofrece únicamente con fines informativos generales y no constituye un asesoramiento financiero, de inversión, legal ni fiscal. Cualquier evento, recompensa, promoción en línea o información relacionada que se mencione en el presente documento no debe considerarse como una recomendación, solicitud o invitación a comprar, vender, operar o de negociar de otra manera con cualquier criptoactivo. Los criptoactivos son sumamente volátiles y pueden provocar pérdidas. La disponibilidad de los servicios, productos y eventos relacionados de WEEX puede variar según la región. Tienes la responsabilidad de asegurarte de que tu participación esté de acuerdo con las leyes y regulaciones locales vigentes.