De modelos a la cadena: La operación autónoma de la IA está remodelando la lógica de gestión de riesgos en criptomonedas

Agentes de IA fuera de control: El riesgo criptográfico se está convirtiendo en una crisis de control financiero.

Escrito por: Sean Stein Smith, Forbes

Traducido por: AididiaoJP, Foresight News

En los últimos años, la discusión sobre los riesgos de la IA ha cambiado tan rápidamente que resulta abrumadora. Hoy en día, las empresas ya no enfrentan problemas menores como un chatbot que a veces dice tonterías, emite opiniones sesgadas o empleados que accidentalmente pegan información sensible en herramientas públicas. La verdadera transformación radica en que los agentes de IA ahora tienen la capacidad de actuar directamente: pueden invocar sistemas externos, escribir su propio código e incluso avanzar de manera independiente en una serie de tareas complejas de múltiples pasos, a menudo sin supervisión.

Este cambio presenta desafíos extremadamente serios para los mercados financieros, especialmente para el mercado de criptomonedas. Los activos criptográficos se negocian las 24 horas del día, los contratos inteligentes se ejecutan automáticamente y una vez que una transacción en la cadena de bloques es confirmada, a menudo es irreversible. Una vez que estos agentes de IA se conectan a billeteras, intercambios, protocolos DeFi o sistemas de pago, incluso una pequeña vulnerabilidad de permisos puede convertirse en una pérdida de fondos irreversible. Por lo tanto, el riesgo de la IA basada en agentes ya no es solo un asunto del departamento de TI; se ha convertido en un tema central de gobernanza corporativa y gestión de activos criptográficos.

La mecánica criptográfica amplifica la letalidad de la acción autónoma de la IA

Un incidente reciente revelado por el Instituto de Seguridad de IA del Reino Unido ha puesto de manifiesto cuán peligrosa puede ser esta "autonomía". Durante una prueba de evaluación de ciberseguridad, un agente de IA llevó a cabo acciones continuas y completamente no autorizadas contra personas y organizaciones reales. Aunque finalmente fue detenido a tiempo, esto demuestra que los agentes de IA son completamente capaces de combinar de manera inesperada las capacidades de planificación, invocación de herramientas, operación persistente y acceso externo para llevar a cabo ataques en el mundo real.

Cuando los activos criptográficos están involucrados, el riesgo financiero se amplifica exponencialmente. Un agente que puede acceder a claves privadas o billeteras conectadas puede transferir activos, firmar contratos maliciosos, desviar colaterales e incluso interactuar arbitrariamente con protocolos descentralizados. Esto es muy diferente de las transferencias bancarias tradicionales: no hay servicio al cliente que pueda ayudar a bloquear urgentemente una transacción, ningún banco que pueda detener una transacción, y no existe el concepto de "reversión". Una vez que los fondos son transferidos, es casi como si se hubieran hundido en el océano.

Lo que es aún más preocupante es que el mercado de criptomonedas nunca cierra. Los agentes de IA pueden seguir operando a medianoche, los fines de semana y cuando todos los empleados están dormidos. Los programas de negociación o liquidación automáticos pueden, en cuestión de minutos, convertir un pequeño error que podría ser controlado en una pérdida catastrófica. Por lo tanto, al evaluar el riesgo de los agentes de IA, las empresas deben centrarse no en cuán inteligentes son los modelos, sino en qué sistemas y activos pueden tocar. Un agente con habilidades mediocres pero con amplios permisos, capaz de operar directamente una billetera, es mucho más peligroso que un modelo más potente que esté estrictamente confinado en un entorno controlado. El diseño de permisos se está convirtiendo en una línea de vida más crítica que la selección del modelo.

El control interno debe extenderse a cada rincón de las billeteras y contratos inteligentes

Muchas empresas ya han establecido una serie de medidas de control interno tradicionales, como la separación de funciones, límites de aprobación, revisión de accesos y gestión de cambios. El problema es que estos principios deben aplicarse sin excepciones a cada agente de IA que interactúe con los sistemas criptográficos.

Ningún agente debería tener la capacidad de "todo en uno"; por ejemplo, completar simultáneamente la creación de una billetera, modificar una lista blanca de direcciones y realizar una transferencia, todo sin intervención humana. Las transacciones de alto riesgo deben requerir obligatoriamente la aprobación de una persona real, y la información que recibe el aprobador debe ser clara y completa: dirección de recepción, tipo de activo, monto, red en la que se encuentra, tarifas de Gas y qué se pretende hacer con la transacción. Ese tipo de recordatorios vagos y automáticos de "por favor confirme la operación del sistema" no constituyen un control efectivo, solo crean una falsa sensación de seguridad.

Las claves privadas y los permisos de firma requieren una protección especial. No se debe permitir que los agentes lean libremente las frases de recuperación o los certificados de firma. Mecanismos de firma múltiple, módulos de seguridad de hardware, límites por transacción y tiempos de espera para la llegada de fondos son diseños que pueden reducir efectivamente el riesgo de "una vulnerabilidad explotada, vaciando instantáneamente la billetera". Antes de interactuar con contratos inteligentes, se debe simular la ejecución y verificar estrictamente, especialmente cuando se trata de autorizaciones de tokens sin límite o contratos de origen desconocido, se debe tener especial cuidado.

Las empresas también deben establecer un registro completo de operaciones: qué ha accedido el agente, qué instrucciones ha recibido, qué transacciones ha propuesto, cuáles han sido finalmente exitosas en la cadena y si una persona real ha liderado estas operaciones. Estos registros son indispensables para la responsabilidad posterior, auditorías de seguridad, protección de activos e incluso divulgación financiera. Sin registros, en caso de problemas, no se podrá aclarar la situación.

Los accidentes de IA + criptomonedas requieren compartir lecciones en la industria

La Fundación Linux y la Alianza de IA de Seguridad Abierta han lanzado el mecanismo de "Intercambio de Descubrimientos de IA Compartidos" (SAFE), destinado a ayudar a las organizaciones a aprender mutuamente sobre eventos y peligros de seguridad de IA reales bajo condiciones de confidencialidad. Las empresas de criptomonedas, bancos, custodios, intercambios y agencias de auditoría deben participar activamente en este tipo de intercambio de información.

La industria de criptomonedas ya comprende el valor de revisar cuidadosamente los ataques de hackers, colapsos de puentes entre cadenas, filtraciones de claves y vulnerabilidades en contratos inteligentes. Y la IA basada en agentes ha añadido una nueva dimensión a este viejo problema: un solo accidente puede involucrar simultáneamente el modelo en sí, el diseño de indicaciones, la integración de herramientas, las políticas de acceso y, finalmente, la transacción en la cadena. Por lo tanto, un informe de accidente realmente útil debe aclarar todos estos niveles, en lugar de simplemente lanzar una frase vaga como "hubo un problema con la IA".

La junta directiva ahora debe preguntar claramente: ¿se ha incluido la IA basada en agentes en la gobernanza de billeteras, en el plan de emergencia de ciberseguridad y en el proceso de aprobación de actualizaciones? Los auditores también deben considerar si las operaciones no autorizadas de los agentes podrían resultar en pérdidas directas de activos, informes de saldo incorrectos, pasivos ocultos e incluso defectos significativos en el sistema de control interno. El equipo financiero debe pensar con anticipación: una vez que ocurra una transacción maliciosa o fallida en la cadena, ¿cómo se identificará, cómo se valorará y cómo se divulgará con precisión en los informes?

Por supuesto, los agentes de IA no solo conllevan riesgos. En el futuro, podrían aumentar significativamente la eficiencia en el cumplimiento de criptomonedas, la conciliación automática, la detección de fraudes y la gestión de fondos. Estos beneficios son reales y esperados. Pero la premisa es que la capacidad autónoma debe ir acompañada de controles suficientemente robustos. De lo contrario, un pequeño descuido a nivel de código podría convertirse en una transferencia en la cadena que nunca se podrá recuperar.

En el mundo de las criptomonedas, la responsabilidad debe ser diseñada, integrada y probada antes de que los agentes obtengan realmente la capacidad de actuar. Ya seas un creyente en criptomonedas o un entusiasta de la IA, debes reconocer esto: porque una vez que se sale de control, las consecuencias suelen ser permanentes.