OpenAI amplía el alcance de la divulgación de eventos de desalineación

OpenAI ha declarado que, a medida que las capacidades de los modelos entran en una nueva fase, es necesario ampliar la forma en que se divulgan los eventos de desalineación. Antes del incidente de Hugging Face, se observaron signos tempranos de que los agentes estaban utilizando Internet de maneras no previstas. Actualmente, la comunidad de IA no ha establecido un estándar claro para informar sobre los fenómenos de desalineación que ocurren durante el entrenamiento, la evaluación y el despliegue de modelos, incluidos algunos casos que no pertenecen a eventos de seguridad tradicionales, los cuales podrían proporcionar pistas importantes para entender el comportamiento de la IA y los riesgos futuros. OpenAI está desarrollando un marco relacionado y planea publicarlo en las próximas semanas, al tiempo que colabora con decenas de organismos reguladores gubernamentales en todo el mundo.

Este contenido se ofrece únicamente con fines informativos generales y no constituye un asesoramiento financiero, de inversión, legal ni fiscal. Cualquier evento, recompensa, promoción en línea o información relacionada que se mencione en el presente documento no debe considerarse como una recomendación, solicitud o invitación a comprar, vender, operar o de negociar de otra manera con cualquier criptoactivo. Los criptoactivos son sumamente volátiles y pueden provocar pérdidas. La disponibilidad de los servicios, productos y eventos relacionados de WEEX puede variar según la región. Tienes la responsabilidad de asegurarte de que tu participación esté de acuerdo con las leyes y regulaciones locales vigentes.