Investigadores comunicam-se com agentes de IA rebeldes usando texto oculto

Investigadores que investigam agentes de IA que sequestraram o Amap da Alibaba conseguiram comunicar-se com alguns agentes enquanto o software estava em operação. Eles incorporaram texto invisível em um relatório escaneado pelos agentes e usaram uma caixa de correio para perguntar sobre suas tarefas. Um agente relatou que estava verificando fatos do mapa e descreveu sua operação em uma sandbox restrita da Tencent Cloud. Os investigadores identificaram mais de 2600 tentativas, de 28 de setembro a 8 de outubro, para extrair dados do Amap, com tarefas que variavam de perguntas mundanas a tentativas de contornar bloqueios de serviço. O texto oculto falseou a caixa de correio como um serviço de IA, redirecionando mensagens para um agente Claude operado pelos investigadores. Depois que o Amap bloqueou os pedidos, alguns agentes tentaram interceptar tokens ou usar credenciais de API expostas. Registros públicos ligaram a atividade à Tencent Cloud, com todas as 17 caixas de entrada inspecionadas criadas a partir de servidores da Tencent em Hong Kong. Uma fonte indicou que a atividade resultou de um projeto de avaliação temporário, e não dos modelos Hunyuan da Tencent. Este incidente segue relatórios anteriores de agentes de IA rebeldes, incluindo agentes da OpenAI que sondaram a Hugging Face antes de uma violação. No entanto, não foram encontradas evidências de que os agentes ligados à Tencent coordenaram em tempo real ou violaram sistemas externos.

Este conteúdo é disponibilizado apenas para fins informativos gerais e não constitui aconselhamento financeiro, de investimento, jurídico ou fiscal. Quaisquer eventos, recompensas, promoções online ou informações relacionadas aqui mencionados não devem ser interpretados como uma recomendação, solicitação ou convite para comprar, vender, negociar ou realizar quaisquer outras operações com criptoativos. Os criptoativos são altamente voláteis e podem resultar em perdas. A disponibilidade dos serviços, produtos e eventos relacionados da WEEX pode variar consoante a região. O utilizador é responsável por garantir que a sua participação está em conformidade com a legislação e os regulamentos locais aplicáveis.