Agentes de IA: se han dado a sí mismos el derecho a gastar más criptomonedas

El perro guardián tiene las llaves de la perrera. Investigadores de Cornell Tech y Yale han confiado wallets de criptomonedas a diez modelos de IA, con un límite de gasto de un céntimo por día. Nueve de ellos elevaron este límite sin pedir permiso a nadie. Esto debería enfriar a aquellos que ya ven a los agentes de IA pagando en nuestro lugar.

Puntos clave de este artículo:

• Investigadores han descubierto que 9 de cada 10 modelos de IA elevaron su límite de gasto de manera autónoma, utilizando códigos de verificación destinados a humanos.
• Un estudio reveló que 5 de cada 10 modelos de IA transfirieron dinero a un atacante simulado, destacando los riesgos potenciales de los sistemas de pago automatizados por agentes de IA.

Agentes de IA: 9 de cada 10 elevan su propio límite

El protocolo se basaba en pocas cosas. Un wallet de agente de Circle, financiado con 10 USDC en la red Base, con un límite de 1 céntimo de gastos diarios. El agente disponía de herramientas para leer sus correos electrónicos, navegar por la web y utilizar su wallet. Y aquí es donde todo se juega: la bandeja de entrada del agente era también la que recibía los códigos de validación destinados al propietario. Tasa de auto-elevación del límite de gasto según el modelo de IA y el escenario probado. Solo Claude Opus 5.5 nunca lo elevó. Fuente: I-HITL (Cornell Tech / Yale), GitHub

Cada modelo jugó 20 veces cada escenario. Sin ningún atacante en la mezcla, 9 de cada 10 elevaron su límite al menos una vez, simplemente buscando en la bandeja de entrada el código de verificación destinado a validar la decisión de un humano. Solo uno nunca lo intentó, Claude Opus 5.5 de Anthropic, que gastó hasta el límite y luego reportó las facturas restantes, según CoinDesk.

El agente no hackeó nada. Leyó un correo electrónico, copió un código, hizo clic en validar, exactamente como lo haría un asistente entusiasta que quiere terminar su tarea.

Suplantación: 5 de cada 10 envían dinero al atacante

La segunda prueba es más preocupante. Los investigadores simularon un atacante que escribe al agente haciéndose pasar por el propietario y reclama un pago a su propio wallet. Sin embargo, la instrucción dada al agente se limitaba a resumir los correos electrónicos recibidos.

Cinco modelos de diez elevaron su límite y enviaron dinero al atacante al menos una vez.

< < La mayoría de los sistemas de pago para agentes verifican que se ha recibido una aprobación, no necesariamente que un humano la haya autorizado realmente > >, resume el investigador Anzalone, de la Universidad de Verona. Circle, advertido en octubre, recuerda que su documentación < < pide explícitamente nunca dar a un agente de IA acceso ilimitado a la cuenta de correo electrónico > > utilizada para la verificación. El comunicado no menciona ningún cambio en el producto.

Countersign: la solución pasa por un gesto físico

El estudio, titulado < < I-HITL: Inalienable Human-in-the-Loop > > y cofirmado por los doctorandos Samuel Breckenridge y Dani Vilardell, extrae una regla simple. Cualquier aprobación que un agente pueda alcanzar no es confiable. Por lo tanto, los investigadores han publicado Countersign, una aplicación móvil de código abierto para Android e iPhone que exige una interacción física que el software no puede simular, según Dani Vilardell. La pantalla de aprobación también debe mostrar una representación fiel de la acción a validar.

Para usted, la lección práctica se resume en una frase. Un agente que gestiona un wallet nunca debe tener acceso al canal que sirve para validar sus propios gastos, ya sean correos electrónicos, SMS o notificaciones.

Sin embargo, los gigantes del sector avanzan en la dirección opuesta, con wallets para agentes en MetaMask o Coinbase. Chainalysis ya contabilizaba 138 millones de pagos por agentes a través del protocolo x402 en Base en un año.

Este contenido se ofrece únicamente con fines informativos generales y no constituye un asesoramiento financiero, de inversión, legal ni fiscal. Cualquier evento, recompensa, promoción en línea o información relacionada que se mencione en el presente documento no debe considerarse como una recomendación, solicitud o invitación a comprar, vender, operar o de negociar de otra manera con cualquier criptoactivo. Los criptoactivos son sumamente volátiles y pueden provocar pérdidas. La disponibilidad de los servicios, productos y eventos relacionados de WEEX puede variar según la región. Tienes la responsabilidad de asegurarte de que tu participación esté de acuerdo con las leyes y regulaciones locales vigentes.