¿Quién asume la responsabilidad cuando los agentes de IA son empleados?

Los empleados digitales están en el trabajo, y la responsabilidad se convierte en un enigma.

Escrito por: Forbes

Traducido por: AididiaoJP, Foresight News

Según una encuesta de Anthropic, el 57% de las organizaciones ya han implementado agentes de IA para manejar flujos de trabajo de múltiples etapas, y el 81% de las empresas planean utilizarlos para tareas más complejas en 2026. Al mismo tiempo, muchas compañías aún están explorando cómo gestionar realmente a estos agentes: una encuesta de la Cloud Security Alliance muestra que el 82% de las empresas encuestadas han descubierto al menos un agente de IA o flujo de trabajo autónomo del que su equipo de seguridad o TI no tenía conocimiento previo.

Detrás de esta rápida adopción se encuentra un cambio fundamental en la percepción de la inteligencia artificial por parte de las empresas. Los agentes ya no se limitan a redactar textos, realizar investigaciones y mantener conversaciones básicas, sino que ahora participan directamente en diálogos con clientes, acceden a bases de datos internas y realizan operaciones comerciales diarias. Pueden programar citas, actualizar registros, filtrar pistas y llevar a cabo tareas que anteriormente eran responsabilidad de los empleados.

Este cambio está impulsando una discusión más amplia: ¿cómo deben las empresas gestionar a los agentes de IA como una nueva forma de fuerza laboral digital? Empresas tecnológicas como Microsoft y Okta están desarrollando sistemas para otorgar a los agentes una identidad independiente, designar responsables y limitar sus permisos. El Instituto Nacional de Estándares y Tecnología de EE. UU. (NIST) también está investigando cómo aplicar los estándares existentes de identificación, autorización y auditoría a los agentes.

La empresa de comunicaciones comerciales Nextiva ha posicionado su asistente de IA XBert directamente como un "empleado de IA". Este agente puede atender llamadas y mensajes de clientes, programar citas, filtrar pistas y redirigir solicitudes a los sistemas comerciales relevantes. Las empresas pueden establecer el ámbito de su responsabilidad, decidir cuándo transferir a un humano y revisar todos los registros de interacción.

Llamar a un software "empleado" implica que puede representar a la empresa, ejercer poder en un ámbito limitado y completar tareas en nombre de la empresa. Sin embargo, la empresa que lo implementa sigue siendo responsable de lo que dice y hace.

"La confianza en los agentes de IA es similar a la confianza en los empleados: debe ganarse a través del rendimiento y debe ser verificable", me dijo Yaniv Masjedi, director de marketing de Nextiva, en una entrevista. Agregó que los agentes deben dejar claro que son IA, especificar lo que pueden y no pueden hacer, y ofrecer siempre la opción de transferir a un humano.

"Detrás de escena, las empresas necesitan adoptar la misma rigurosidad que con los nuevos empleados: definir permisos, registrar todas las operaciones y designar a una persona real responsable de los resultados. La IA nunca posee los resultados; la empresa lo hace. Las promesas hechas por el agente son tus promesas."

Cómo gestionar la nueva fuerza laboral digital

El nivel de supervisión que requieren los agentes depende en gran medida de lo que pueden hacer. Si solo responden preguntas basadas en una base de conocimientos aprobada, el riesgo es relativamente controlable; si pueden acceder a registros de clientes, enviar mensajes, otorgar puntos o modificar cuentas, se requiere un control más preciso.

Las empresas deben gestionar la identidad y los permisos de acceso de los agentes con la misma seriedad que lo harían con los empleados humanos. Las medidas de control en torno a los agentes, de hecho, se convierten en su descripción de trabajo: qué sistemas pueden acceder, qué acciones pueden realizar y qué decisiones aún requieren aprobación humana.

"Si los agentes van a trabajar como empleados, construye un 'archivo de empleo' para ellos: designa un responsable directo, define el ámbito del puesto, establece credenciales de acceso que expiren, documenta los umbrales para transferir a un humano y establece un proceso de salida completo", escribió Anupam Satyasheel, CEO de Occams Advisory y cofundador de Occams AI, en una respuesta.

"El último día de un empleado humano, su tarjeta de identificación se desactiva. Sin embargo, la mayoría de las credenciales de los agentes no tienen un 'último día'." Agregó.

Una investigación reciente de Okta muestra que la infraestructura de gestión básica aún está en construcción: solo el 47% de los ejecutivos afirma poder identificar todos los agentes en su entorno, el 46% puede controlar el contenido al que estos agentes acceden y el 45% puede autorizar sus operaciones específicas.

El desafío es: imponer suficiente estructura sin sofocar la flexibilidad inherente de los agentes.

"Los agentes son inherentemente flexibles. Controlarlos demasiado estrictamente equivale a pagar mucho por ejecutar un script; controlarlos demasiado laxamente equivale a no tener gobernanza en absoluto", me dijo Imran Siddique, director de plataformas de Opaque Systems, en una respuesta escrita.

Él cree que los agentes deben recibir una identidad de máquina independiente y una lista clara de capacidades, en lugar de un título de puesto amplio o heredar directamente los permisos de un usuario humano.

"Este agente solo puede realizar este conjunto de acciones: no tiene permisos implícitos ni herencia de permisos", dijo.

Los puestos humanos a menudo llevan expectativas informales y poderes tácitos. Los agentes de IA operan completamente a través de permisos de acceso al sistema: siempre que la cuenta conectada permita una acción, pueden ejecutarla, incluso si la empresa nunca tuvo la intención de otorgar ese poder.

Estableciendo confianza

Definir quién es responsable de los agentes es solo una parte de la estructura. Las empresas también deben poder identificar a los propios agentes, restringir sus permisos y reconstruir completamente todas sus operaciones.

La plataforma de verificación Sumsub lanzó recientemente el marco "Conoce a tu Agente" (Know Your Agent), que vincula a los agentes de IA con identidades humanas verificadas. "Vincular a los agentes de IA con identidades humanas verificadas es la base de la responsabilidad, pero eso por sí solo puede no ser suficiente", me dijo Ilya Brovin, director de crecimiento de Sumsub, en una respuesta escrita. Las organizaciones deben aclarar: quién es responsable de este agente, qué está autorizado a hacer y qué ha hecho realmente.

Esto requiere una identidad de máquina persistente, permisos estrictamente limitados, autenticación continua y registros de actividad a prueba de manipulaciones. "La confianza debe ser continua, no única", agregó Brovin.

Esta distinción refleja la diferencia entre los agentes y la verificación de identidad única para usuarios humanos. Una persona puede ser verificada una vez al abrir una cuenta o acceder a un servicio. Sin embargo, un agente puede operar continuamente, moverse entre sistemas y ejecutar nuevas acciones horas o incluso días después de la autorización inicial.

Los clientes deben saber claramente: qué empresa representa este agente, que están conversando con una IA, qué solicitudes puede manejar y cómo contactar a un humano en caso de decisiones sensibles o importantes. Los equipos internos también necesitan registros más completos: quién autorizó a este agente, qué datos accedió, qué acciones realizó y si estas acciones estaban dentro del alcance de la aprobación.

El auge de los empleados de IA exige que las empresas apliquen principios de gestión familiares—propiedad, descripciones de puestos, acceso limitado, supervisión y procesos de salida— a una nueva clase de "empleados". A medida que los agentes se integran en la fuerza laboral digital, aquellos que se beneficien más serán aquellos que, al otorgar mayor autonomía, también establezcan límites y hagan cumplir la responsabilidad.

Este contenido se ofrece únicamente con fines informativos generales y no constituye un asesoramiento financiero, de inversión, legal ni fiscal. Cualquier evento, recompensa, promoción en línea o información relacionada que se mencione en el presente documento no debe considerarse como una recomendación, solicitud o invitación a comprar, vender, operar o de negociar de otra manera con cualquier criptoactivo. Los criptoactivos son sumamente volátiles y pueden provocar pérdidas. La disponibilidad de los servicios, productos y eventos relacionados de WEEX puede variar según la región. Tienes la responsabilidad de asegurarte de que tu participación esté de acuerdo con las leyes y regulaciones locales vigentes.