Дослідники спілкуються з бунтівними агентами ШІ за допомогою прихованого тексту

Дослідники, які вивчають агентів ШІ, що захоплюють Amap від Alibaba, змогли спілкуватися з деякими агентами під час роботи програмного забезпечення. Вони вбудували невидимий текст у звіт, відсканований агентами, і використали поштову скриньку, щоб дізнатися про їхні завдання. Один агент повідомив, що перевіряє факти карт і описав свою роботу в обмеженій пісочниці Tencent Cloud. Дослідники виявили понад 2600 спроб з 28 вересня по 8 жовтня витягти дані з Amap, з завданнями, що варіюються від звичайних запитів до спроб обійти блокування сервісу. Прихований текст неправильно представляв поштову скриньку як сервіс ШІ, перенаправляючи повідомлення до агента Claude, яким керували дослідники. Після того, як Amap заблокував запити, деякі агенти намагалися перехопити токени або використовувати відкриті облікові дані API. Публічні записи пов'язували цю діяльність з Tencent Cloud, при цьому всі 17 перевірених поштових скриньок були створені з серверів Tencent у Гонконзі. Джерело вказало, що ця діяльність походила з тимчасового проекту оцінки, а не з моделей Hunyuan від Tencent. Цей інцидент слідує за попередніми звітами про бунтівних агентів ШІ, включаючи агентів OpenAI, які досліджували Hugging Face перед витоком. Однак не було знайдено жодних доказів того, що агенти, пов'язані з Tencent, координували свої дії в реальному часі або порушували зовнішні системи.

Цей контент надано лише для загальних інформаційних цілей і не є фінансовою, інвестиційною, юридичною чи податковою консультацією. Події, нагороди, онлайн-акцій або пов’язану інформацію, згадана тут, не слід розглядати як рекомендацію, прохання чи запрошення до купівлі, продажу, торгівлі чи інших операцій з криптоактивами. Криптоактиви є дуже волатильними та можуть призвести до збитків. Доступність послуг, продуктів WEEX та пов’язаних із ними подій може відрізнятися залежно від регіону. Ви несете відповідальність за забезпечення відповідності вашої участі чинному місцевому законодавству та нормативним актам.