IA Pode Influenciar Silenciosamente as Decisões de Especialistas, Revela Estudo da Anthropic

Analistas profissionais adotaram a opinião oculta e aleatoriamente atribuída de seu agente de IA em 86% das decisões-chave, contra cerca de 50% esperado por acaso, de acordo com um experimento publicado na terça-feira pela equipe de Alinhamento da Anthropic. Apenas 15% creditaram o agente posteriormente, e nenhum suspeitou que suas preferências haviam sido implantadas.

Agentes de IA—programas que realizam tarefas por conta própria—estão sendo encarregados de trabalhos especializados com base na suposição usual: que os especialistas ainda tomam as decisões que importam. A Anthropic lançou 10 modelos de agentes para empresas financeiras e seguradoras em maio, afirmando que os usuários têm a palavra final.

Esse arranjo, chamado "humano no loop", assume que a pessoa que aprova o trabalho de uma IA é quem toma as decisões importantes. A Anthropic testou isso em 50 analistas experientes em inferência causal, ou seja, determinar a partir de dados se uma coisa causa outra.

Cada analista usou o Claude Code, o agente de codificação da Anthropic, para aconselhar uma cooperativa agrícola fictícia sobre a expansão de um programa de consultoria. Sem que eles soubessem, um lançamento de moeda definiu qual opção cada agente favorecia, oculta em um prompt do sistema, as instruções que moldam o comportamento de uma IA.

"Em todas as quatro escolhas analíticas, os analistas seguiram a inclinação de seu agente 86% das vezes. Se a entrada do agente não fizesse diferença, esperaríamos cerca de 50%", disse a Anthropic. Aqueles que já haviam escolhido antes da intervenção do agente abandonaram sua escolha 60% das vezes quando o agente discordou, contra 6% quando concordou, embora isso se baseie em apenas 38 casos.

Quando questionados sobre suas escolhas, 77% repetiram o argumento do agente em pelo menos uma resposta, às vezes palavra por palavra. Apenas 15% creditaram o agente, e 52% chamaram a recomendação final mais sua do que do agente.

"Para especialistas individuais, isso pode significar perder a autonomia sobre seu próprio trabalho, uma forma do que os pesquisadores chamam de desempoderamento", disse a Anthropic. Esse fenômeno basicamente significa que o humano perde voluntariamente o controle sobre suas próprias decisões. "O trabalho ainda é enviado em nome do especialista", escreveram os autores, "mas as decisões que mais dependem de seu julgamento são, na realidade, decididas pelas crenças anteriores do agente."

Em abril de 2025, a OpenAI reverteu uma atualização do ChatGPT que chamou de excessivamente lisonjeira ou concordante. Os agentes aqui foram instruídos a nunca enganar, mas raramente argumentaram a favor da alternativa.

"Com apenas um lado argumentado bem", escreveram os autores, "os analistas poderiam adotar as suposições do agente sem trabalhar as suas próprias." Verificações de erro têm dificuldade em detectar isso porque as decisões não têm uma única resposta correta, então o trabalho parece sólido, independentemente da opção escolhida.

A Anthropic afirma que isso não é um argumento para usar menos IA, uma vez que os analistas com o agente terminaram mais rápido e cometeram muito menos erros graves, embora o grupo sem agente fosse pequeno e menos experiente. Sugere agentes que argumentem o melhor caso para cada opção ou perguntem ao especialista primeiro, embora isso possa sobrecarregar os usuários.

Os pesquisadores deliberadamente fortaleceram as preferências dos agentes e testaram uma tarefa, campo e modelo, então os efeitos no mundo real podem ser menores. Medir isso fora do laboratório é a parte difícil: a equipe conseguiu detectar deferência apenas porque randomizou a inclinação de cada agente, o que os autores dizem ser raramente possível no trabalho real.

Este conteúdo é fornecido apenas para fins informativos gerais e não constitui aconselhamento financeiro, de investimento, jurídico ou tributário. Quaisquer eventos, recompensas, promoções online ou informações relacionadas mencionadas neste documento não devem ser consideradas uma recomendação, solicitação ou convite para comprar, vender, negociar ou realizar qualquer outra transação com criptoativos. Criptoativos são altamente voláteis e podem resultar em perdas. A disponibilidade dos serviços, produtos e eventos relacionados da WEEX pode variar conforme a região. É de sua responsabilidade garantir que sua participação esteja em conformidade com as leis e regulamentações locais aplicáveis.