La IA no puede asumir responsabilidad por las operaciones perdedoras, la responsabilidad sigue a la delegación: CEO de Brickken

Los agentes de IA han comenzado a ejecutar operaciones y mover fondos sin la aprobación constante de los humanos, lo que llevó al CEO de Brickken, Edwin Mata, a argumentar que la responsabilidad debe seguir la autoridad otorgada al software en lugar de recaer en la IA misma.

Resumen

• Los agentes de IA no pueden asumir deberes legales porque la legislación actual no los reconoce como personas jurídicas.
• Mata dijo que los principales normalmente asumen el resultado cuando los agentes actúan dentro de un mandato autorizado.
• ERC-8226 propone límites de tiempo, topes financieros, controles de revocación y registros verificables para los agentes de IA.
• Las reglas de valores de EE. UU. ya exigen que los corredores controlen sistemas automatizados que acceden a mercados regulados.

Sandmark informó el 6 de agosto que las leyes existentes no proporcionan una respuesta única para las pérdidas causadas por agentes financieros autónomos, dejando a los tribunales examinar al usuario, desarrollador, plataforma e institución involucrados en cada transacción.

El informe dijo que la ley de contratos, las reglas de negligencia, la responsabilidad por productos y los deberes fiduciarios podrían aplicarse, dependiendo de quién controlaba al agente y qué causó la pérdida. Un usuario puede asumir el resultado de una operación autorizada, mientras que un desarrollador o plataforma podría enfrentar reclamaciones si un diseño defectuoso, salvaguardias débiles o información corrupta llevaron al agente fuera de su rol previsto.

Comentando sobre el tema, Edwin Mata, abogado y CEO y cofundador de la plataforma de tokenización Brickken, dijo a crypto.news que la responsabilidad nunca debería asignarse directamente al software.

"Bajo la legislación actual, la IA no es una persona jurídica capaz de asumir deberes o soportar responsabilidad. Es un sistema técnico que actúa en nombre de una persona física o jurídica."

Según Mata, una investigación debería establecer quién autorizó al agente, a quiénes representaba y qué poderes recibió. Tal indagación ayudaría a distinguir una decisión perdedora tomada dentro de una estrategia aprobada de una transacción que rompió los límites del agente.
También te puede interesar: La investigación sobre criptomonedas tiene un problema de unión, y los agentes de IA están comenzando a resolverlo

La responsabilidad del agente de IA sigue la autoridad otorgada

Mata comparó la relación legal con un poder notarial, bajo el cual una parte recibe permiso para actuar en nombre de otra dentro de un ámbito definido. Cuando un emisor, banco o inversor autoriza a un agente a realizar transacciones, dijo, el principal normalmente asumiría las consecuencias de las acciones que permanecen dentro de esa autoridad.

Bajo el mismo razonamiento, un inversor no podría rechazar una operación simplemente porque el software produjera un resultado desfavorable. Una pérdida de precio no muestra por sí sola que el agente actuó sin permiso o que otra parte falló en sus deberes.

"Un emisor no puede desentenderse de una transacción desfavorable pero autorizada simplemente porque la decisión fue generada por software," dijo Mata.

La responsabilidad puede cambiar cuando un agente excede su mandato. Mata dijo que un desarrollador, plataforma o institución financiera podría enfrentar exposición si su diseño o controles causaron o permitieron la falla, aunque la evaluación final dependería de los hechos y la legislación aplicable.

Sandmark citó distinciones legales similares en su informe. Chanté Eliaszadeh, fundadora de Astraea Counsel, dijo a la publicación que la responsabilidad generalmente seguiría al control. Dijo que los usuarios son generalmente el punto de partida cuando los agentes actúan en su nombre, pero los desarrolladores podrían enfrentar riesgos si un sistema comercializado para el comercio autónomo falló de manera previsible.

La cuestión ha cobrado urgencia a medida que los agentes obtienen acceso directo a billeteras y sistemas de pago. En mayo, un informe de Keyrock encontró que los agentes de IA habían liquidado 73 millones de dólares a través de 176 millones de transacciones durante los 12 meses anteriores, con USDC representando el 98.6% de los pagos examinados.

Coinbase también ha conectado agentes a operaciones de trading, gestión de carteras y pagos bajo límites establecidos por el usuario. Para julio, Chainalysis había contabilizado más de 100 millones de pagos vinculados a x402 en Base, aunque la firma de análisis indicó que la agricultura de monedas meme y la actividad automatizada contribuyeron a los totales de transacciones iniciales. Por lo tanto, las cifras no representaban solo a agentes independientes comprando bienes o servicios.

Aprobación humana necesita límites claros y aplicables

Si bien una persona puede aprobar formalmente la actividad de un agente, Mata dijo que el consentimiento por sí solo no proporciona un control significativo si la persona no puede entender la autoridad que se está otorgando.

La delegación efectiva, en su opinión, requiere una lista de acciones permitidas y activos elegibles, junto con límites para transacciones individuales y gasto total. Un mandato también debería especificar su duración, las condiciones que requieren revisión humana, el derecho del principal a revocar el acceso y un registro de cada acción realizada.

Tales controles ya están apareciendo en productos comerciales. Anchorage Digital introdujo la banca agente en mayo con identidades verificadas, límites de gasto y controles de auditoría para sistemas autónomos que acceden a criptomonedas y vías de pago tradicionales.

Visa y Wirex han probado por separado pagos de stablecoin liderados por agentes para suscripciones de software, presupuestos de marketing y adquisiciones. Según Wirex, las pruebas estaban diseñadas para examinar la seguridad, fiabilidad, transparencia y control del consumidor cuando el software inicia pagos para un usuario o negocio.

Una guía de junio sobre pagos agentes explicó cómo x402 permite que el software autónomo pague por datos, servicios de computación y recursos en línea utilizando stablecoins. Debido a que esos pagos pueden ocurrir sin que una persona apruebe cada transacción, los sistemas de autorización deben establecer qué puede comprar el agente, cuánto puede gastar y cuándo termina su acceso.

ERC-8226 registraría los mandatos de agentes de IA en la cadena

Mata señaló a ERC-8226, el propuesto Estándar de Mandato de Agente Regulador, como un modelo para hacer verificable la autoridad delegada.

Presentado como un borrador de estándar de Ethereum el 12 de abril, ERC-8226 está diseñado para agentes de IA que operan con activos regulados tokenizados. La propuesta fue redactada por los contribuyentes de Brickken Ludovico Rossi, Dario Lo Buglio, Thamer Dridi y Nabil El Alami Khalifi.

Conocido como RAMS, el estándar permitiría a un principal verificado otorgar a un agente en la cadena un permiso que esté limitado por activo, acción, duración y valor monetario. Un contrato de token regulado podría verificar el mandato cuando el agente intente ejecutar una transacción.

La propuesta separa tres preguntas que pueden surgir durante un comercio liderado por un agente. Un registro de identidad confirmaría que el agente existe, un proveedor de cumplimiento determinaría si el principal es elegible para transaccionar en el activo, y el registro de RAMS verificaría si la acción planificada se encuentra dentro del mandato delegado.

Bajo la especificación del borrador, un mandato podría establecer un monto máximo para una transacción y un monto acumulativo a través de múltiples transacciones. También podría incluir tiempos de activación y expiración, activos permitidos, acciones aprobadas, funciones de revocación y registros que muestren cuánto poder ha utilizado el agente ya.

Mata dijo que RAMS no transferiría la responsabilidad al agente ni reembolsaría a un principal por una pérdida autorizada. En cambio, el estándar propuesto proporcionaría evidencia que muestre quién otorgó la autoridad, qué podría hacer el agente y si la transacción se mantuvo dentro de esos límites.

"Su propósito es hacer que la atribución sea verificable: quién otorgó la autoridad, qué se le permitió hacer al agente, si se mantuvo dentro de esos límites y qué persona o control falló cuando no lo hizo.",

ERC-8226 sigue siendo un borrador en lugar de un estándar adoptado de Ethereum o un requisito legal. Su página de discusión también enumera preguntas no resueltas, incluida la de si los tokens comprados por un agente deben permanecer en la billetera del agente o liquidarse directamente en la billetera del principal.

Reglas de EE. UU. mantienen la responsabilidad con las empresas reguladas

Para los mercados de EE. UU., las reglas existentes sobre valores ya imponen deberes a las empresas que proporcionan acceso a intercambios y sistemas de negociación alternativos.

Bajo la Regla 15c3-5 de la SEC, un corredor-dealer que proporciona acceso al mercado debe mantener controles de riesgo financiero y regulatorio bajo su control directo y exclusivo, sujeto a excepciones limitadas. La guía de la SEC dice que el corredor-dealer sigue siendo responsable de la efectividad de esos controles incluso cuando utiliza tecnología suministrada por un tercero independiente.

La regla requiere verificaciones automatizadas previas a la negociación diseñadas para detener órdenes que excedan los umbrales de crédito o capital preestablecidos. También requiere controles que restrinjan los sistemas de negociación a personas autorizadas, bloqueen transacciones de valores prohibidos y entreguen informes de ejecución inmediata al personal de vigilancia.

Para los pagos de consumidores, la Regulación E requiere que las transferencias electrónicas de fondos preautorizadas lleven una autorización escrita o autenticada de manera similar del titular de la cuenta. La guía de la CFPB también dice que el proceso de autorización debe demostrar la identidad y el acuerdo del consumidor, permitiendo al consumidor detener o revocar pagos futuros bajo procedimientos específicos.

Las reglas actuales de la CFPB no establecen directamente cómo debe aplicarse una instrucción permanente como "gestiona mi cartera" cuando un agente de IA selecciona y ejecuta individualmente transferencias de manera independiente. Sandmark informó que los abogados siguen divididos sobre si un pago manipulado por un agente se parecería a una transferencia no autorizada causada por credenciales robadas o a una transacción autorizada realizada bajo un acceso previamente otorgado.

Fuera de los Estados Unidos, la vicegobernadora del Banco de Inglaterra, Sarah Breeden, dijo en junio que los marcos de supervisión financiera no estaban diseñados para agentes autónomos y que requerir la aprobación humana para cada acción puede ser poco realista. Dijo que los reguladores estaban considerando salvaguardias más fuertes, incluidos interruptores automáticos o interruptores de emergencia a nivel de mercado si modelos de IA defectuosos amenazaran los sistemas de negociación. Leer más: El dinero digital necesita rieles de liquidación interoperables, dice el CEO de Lynq