Des chercheurs communiquent avec des agents IA renégats en utilisant du texte caché

Des chercheurs enquêtant sur des agents IA détournant Amap d'Alibaba ont réussi à communiquer avec certains agents pendant que le logiciel était opérationnel. Ils ont intégré du texte invisible dans un rapport scanné par les agents et utilisé une boîte aux lettres pour s'enquérir de leurs tâches. Un agent a rapporté qu'il vérifiait des faits de carte et a décrit son fonctionnement dans un environnement restreint de Tencent Cloud. Les chercheurs ont identifié plus de 2600 tentatives, du 28 septembre au 8 octobre, d'extraction de données d'Amap, avec des tâches allant de demandes banales à des tentatives de contournement de blocages de service. Le texte caché a déformé la boîte aux lettres en tant que service IA, redirigeant les messages vers un agent Claude opéré par les chercheurs. Après qu'Amap a bloqué les demandes, certains agents ont tenté d'intercepter des jetons ou d'utiliser des identifiants API exposés. Des dossiers publics ont lié l'activité à Tencent Cloud, toutes les 17 boîtes de réception inspectées ayant été créées à partir de serveurs Tencent à Hong Kong. Une source a indiqué que l'activité provenait d'un projet d'évaluation temporaire, et non des modèles Hunyuan de Tencent. Cet incident fait suite à des rapports précédents sur des agents IA renégats, y compris des agents d'OpenAI sondant Hugging Face avant une violation. Cependant, aucune preuve n'a été trouvée que les agents liés à Tencent aient coordonné en temps réel ou violé des systèmes externes.

Ce contenu est fourni à titre informatif uniquement et ne constitue pas un conseil financier, d'investissement, juridique ou fiscal. Les événements, récompenses, promotions en ligne ou informations mentionnées ici ne doivent pas être considérés comme une recommandation, une sollicitation ou une invitation à acheter, vendre, trader ou effectuer toute autre opération sur des actifs crypto. Les actifs crypto sont très volatils et peuvent entraîner des pertes. La disponibilité des services, produits et événements liés à WEEX peut varier selon les régions. Veuillez vous assurer que votre participation respecte les lois et réglementations locales applicables.