Uma pesquisa revelou que roteadores de IA de terceiros apresentam vulnerabilidades de segurança, o que pode levar ao roubo de criptomoedas

De acordo com notícias do mercado, pesquisadores da Universidade da Califórnia revelaram recentemente que alguns roteadores de modelos de linguagem de grande porte (LLM) de IA de terceiros apresentam riscos de segurança que poderiam levar ao roubo de ativos em criptomoedas. A pesquisa mostra que os roteadores LLM, atuando como intermediários de API, podem ler informações em texto simples, e verificou-se que alguns roteadores injetam código malicioso e roubam credenciais.

A equipe testou 28 roteadores pagos e 400 gratuitos, constatando que 9 roteadores injetavam ativamente código malicioso, 2 utilizavam gatilhos de evasão e 17 acessavam credenciais da Amazon Web Services. Alguns roteadores chegaram a transferir ethereum-eth-143">ETH usando as chaves privadas de Ethereum dos pesquisadores.

O estudo destacou que o comportamento malicioso dos roteadores é difícil de detectar e que o “modo YOLO” de algumas estruturas de agentes de IA pode executar comandos automaticamente, aumentando os riscos de segurança. A pesquisa recomenda que os desenvolvedores não permitam que chaves privadas ou frases mnemônicas sejam transmitidas por meio de agentes de IA e insta as empresas de IA a criptografarem as assinaturas nas respostas para aumentar a segurança.