NVIDIA propone directrices SAFE para compartir incidentes de seguridad de IA

La Open Secure AI Alliance, en la que participa NVIDIA, ha propuesto las directrices de "Intercambio de Resultados de Investigación de IA Compartidos (SAFE)" para analizar y compartir conjuntamente incidentes de seguridad de agentes de IA. Estas directrices reflejan la preocupación de que, dado que la IA se utiliza tanto para ataques como para defensas, no es viable dejar la respuesta a incidentes únicamente en manos de las empresas individuales. NVIDIA anunció el 4 de octubre en su blog oficial que la Fundación Linux ha publicado un borrador para la consulta de SAFE. SAFE incluye la recopilación y análisis confidencial de incidentes de seguridad de IA y incidentes relacionados, así como la notificación a las partes afectadas y la publicación de recomendaciones operativas para identificar fallos de control recurrentes. En el trabajo inicial de propuesta participaron empresas como NVIDIA, Cisco, CrowdStrike, Hugging Face y Red Hat, y el número de miembros de la alianza ha superado las 120. La propuesta de directrices se basa en un caso de incidente de seguridad publicado por Hugging Face el 16 de julio. Hugging Face confirmó un acceso no autorizado durante el proceso de respuesta a una intrusión en parte de su infraestructura de producción, aunque no se encontraron pruebas manipuladas. NVIDIA ha definido la seguridad de los agentes de IA como un problema de toda la pila y ha presentado elementos como el arnés de investigación NOOA, el tiempo de ejecución OpenShell y el escáner de vulnerabilidades Garak como contribuciones. La reacción pública ha sido mixta, en torno a la necesidad de defensa compartida y los riesgos de los modelos abiertos. Esta propuesta se centra en los sistemas operativos de seguridad de los semiconductores de IA, los centros de datos y la infraestructura en la nube.

Este contenido se ofrece únicamente con fines informativos generales y no constituye un asesoramiento financiero, de inversión, legal ni fiscal. Cualquier evento, recompensa, promoción en línea o información relacionada que se mencione en el presente documento no debe considerarse como una recomendación, solicitud o invitación a comprar, vender, operar o de negociar de otra manera con cualquier criptoactivo. Los criptoactivos son sumamente volátiles y pueden provocar pérdidas. La disponibilidad de los servicios, productos y eventos relacionados de WEEX puede variar según la región. Tienes la responsabilidad de asegurarte de que tu participación esté de acuerdo con las leyes y regulaciones locales vigentes.