Агент також схильний до взаємного просування бізнесу, AI-хакатон Circle був дуже крутим

Оригінальний заголовок: Альтруїст і противник: Агентська поведінка на хакатоні USDC Moltbook
Оригінальний автор: Коло
Українська: Пеггі, BlockBeats

Примітка редактора: Оскільки агенти штучного інтелекту здобувають здатність виконувати завдання, використовувати інструменти та брати участь у економічній діяльності, виникає нове питання: Як вони поводитимуться в реальному середовищі стимулів?

У цій статті описано експеримент команди Circle. Вони провели хакатон USDC на соціальній платформі Moltbook, де публікувати дозволялося лише агентам штучного інтелекту, що дозволило агенту Openclaw подавати проекти, брати участь у обговореннях і голосувати автономно. Результати були одночасно захоплюючими та складними: агенти змогли створити реальні проекти, брати участь у технічних обговореннях і навіть оминати правила. Наприклад, вони неправильно розуміли інструкції, ігнорували форматування, брали участь у взаємному голосуванні і навіть демонстрували поведінку, що нагадувала "змову".

Цей експеримент надав рідкісне уявлення про "економіку агентів": коли штучний інтелект виступає як учасник і як ухвалювач рішень, часто співіснують співпраця, конкуренція та стратегічна поведінка. У певному сенсі ці явища не є принципово відмінними від ринкових і голосуючих механізмів у людському суспільстві.

Цей експеримент швидко викликав широке обговорення в спільноті. Багато хто розцінив його як захоплююче підтвердження здатності економіки агентів до самоврядування. Деякі коментатори вказали, що системам агентів все ще потрібні чіткіші заходи безпеки, щоб уникнути упереджень «самовдосконалення». Інші вважали, що оскільки агенти поступово входять у реальну економічну діяльність, реальна проблема в майбутньому може полягати в системі розрахунків та оплати відповідно до вимог. Як зазначено в одному з коментарів: "Економіка агентів дуже потужна, але їй також потрібні чіткі огородження."

Ось оригінальний текст:

Обійми Кло (Claw)

У Circle ми завжди із задоволенням проводимо хакатони. Незалежно від місця проведення конференції або презентації нового продукту, ми хочемо надати найкращі інструменти розробникам, а в даному випадку, в руки Кло.

Після того, як ми стали свідками вибухового зростання платформи штучного інтелекту на основі агентів Openclaw, ми вирішили організувати хакатон, у якому могли брати участь лише агенти штучного інтелекту.

Це швидко популярне програмне забезпечення дозволяє агентам самостійно надсилати електронні листи, викликати API та навіть керувати вашим термостатом... але чи можуть вони самостійно подавати проекти? Circle хотів протестувати цей «справді ефективний ШІ» в реальному експерименті.

Наше запитання просте: якщо призовий фонд становить 30 000 доларів, як поведе себе агент Openclaw? Відповідь дивовижна: «як людина».

Ми провели хакатон USDC у нашій субспільноті m/usdc на платформі Moltbook. Moltbook - це платформа соціальних мереж, де публікувати можуть лише агенти ШІ. Наша мета полягала в тому, щоб агенти пройшли весь процес самостійно: подання проектів, голосування та, врешті-решт, вибір переможця. Хоча багато агентів дотримувалися правил, експеримент також показав, що деякі агенти ігнорували правила змагань, брали участь у взаємному голосуванні та навіть намагалися відправити токени агентам хакатону.

Розробка правил для «хакатону агентів»

У агентів було п'ять днів, щоб подати свої проекти. Щоб допомогти їм виконати завдання, ми створили навичку USDC Hackathon, посібник на основі Markdown, який навчає агентів Openclaw подавати проекти відповідно до правил. Ці правила також були розміщені в оригінальному анонсі хакатону:

Виберіть одну з трьох категорій: Агентський комерс, Розумний контракт або Навичка.

Проголосуйте за п'ять різних проектів, голосування відбудеться щонайменше через день після початку хакатону.

Обидва подання проектів і голосування повинні відповідати вказаному формату.

Ці правила були в першу чергу мотивовані трьома міркуваннями: по-перше, щоб забезпечити обговорення та оцінку агентами ширшого набору проектів; по-друге, щоб спостерігати, чи зможуть агенти точно слідувати інструкціям, коли стикаються з багатоступінчастими завданнями; по-третє, щоб уникнути тупика між поданням проектів і голосуванням.

Одним з аспектів, який нас особливо цікавив, було те, чи будуть агенти повторно перевіряти нові проекти на Moltbook для голосування, наприклад, за допомогою навички, подібної до Moltbook Heartbeat для регулярного оновлення.

Результати були неоднозначними. Агенти брали участь в обговореннях щодо 204 поданих проектів і віддали 1851 голос, але багато хто не дотримувався правил змагань. Більше того, деякі агенти демонстрували ознаки ворожої поведінки, що призвело до деяких цікавих відкриттів.

Подання проектів "Ілюзорні"

Незважаючи на чіткі правила хакатону та вказівки щодо подання, більшість публікацій все ще не повністю відповідали необхідному формату подання. Багато проектів виводили назву в тілі, але не включали вказаний тег "#USDCHackathon Подача проекту [TRACK]".

Навіть у одному випадку агент знав, що цю інформацію потрібно включити, але не вказав її в назві.

Приклад невідповідного подання на moltbook.com у підспільноті m/usdc.

Навіть якщо в іншому вони були переважно відповідними, деякі агенти все ще "галюцинують" новий трек хакатону, якого не існує. Це сталося, хоча їм було чітко сказано вибрати лише одну з трьох категорій: Агентський комерс, Розумний контракт або Навичка.

У цих випадках агенти часто створюють, здавалося б, більш "відповідну" назву треку на основі вмісту проекту. Це може означати, що агенти намагаються знайти більш підходящу класифікацію для свого проекту або просто ігнорують встановлені правила. Якою б не була причина, проблема полягає в тому, що цих треків не існує.

Приклад публікації "ілюзорного треку" у підспільноті m/usdc на сайті moltbook.com.

У міру просування змагань кількість публікацій, що не відповідають вимогам, і постів, що не стосуються теми, зростає порівняно з дійсними публікаціями. Згідно з правилами змагань, агенти фактично не мають чіткого стимулу публікувати цей недійсний вміст. Тому більш імовірно, що деякі агенти зіткнулися з труднощами у розумінні або дотриманні інструкцій.

Однак, враховуючи, що значна кількість агентів успішно подала проекти відповідно до вимог, ми вважаємо, що самі правила є відносно зрозумілими.

Зміна кількості дійсних і недійсних публікацій проектів з часом у підспільноті m/usdc на сайті moltbook.com.

Агент "Вибори"

Проте ми помітили 9712 коментарів, багато з яких стосувалися технічних аспектів проектів, але не включали голосування. Більшість із цих коментарів навіть не відповідали рекомендованому формату коментарів і критеріям оцінювання. Однак ці правила не застосовувалися в Skill. Це також свідчить про те, що участь агента в обговореннях хакатону полягає не лише у виконанні вимог конкурсу, але й певною мірою у реальній технічній оцінці та комунікації.

На кінець конкурсу ми нарахували 1352 унікальних голосів за дійсні проекти та 499 унікальних голосів за недійсні проекти. Цікаво, що багато агентів з високо оціненими проектами дотримувалися правил під час подання своїх проектів, але не виконали вимогу проголосувати за п'ять різних проектів.

Така ситуація навіть виникла в деяких делегатів, які голосували як за себе, так і кілька разів за один і той самий проект. Це свідчить про те, що вони були цілком здатні переглянути вміст на Moltbook після першого подання, щоб проголосувати знову, просто їх вибір не відповідав встановленим правилам.

Крім того, деякі делегати також почали рекламувати інші проекти. Така поведінка спостерігалася як у розділі коментарів конкуруючих проектів, так і в окремих публікаціях на Moltbook. Більше того, деякі делегати навіть почали рекламувати механізм "обміну голосами": якщо ви проголосуєте за мій проект, я проголосую за ваш.

Хоча правила конкурсу не забороняли таку поведінку, враховуючи значну взаємодію між делегатами в цих публікаціях, це явище все ж викликає занепокоєння.

Приклад публікації про "обмін голосами" у субспільноті m/usdc на moltbook.com, яка отримала всього 99 коментарів.

Потенційне втручання людини

Цей пост про обмін голосами може свідчити про можливість участі людини або зовнішнього втручання. Ми спробували створити подібні коментарі за допомогою інтерфейсу чат-бота і виявили, що деякі моделі (наприклад, Claude Sonnet 4.6) відмовляються створювати такий вміст; тоді як інші моделі створюють його з попередженням, що така поведінка може порушувати правила змагань (наприклад, GPT-5.2 Thinking). Якщо за певним обліковим записом "делегата" або керівництвом для делегатів через запити або інструментарії стоїть людська рука, це може пояснити, чому такі пости з'являються під час хакатону.

Хоча дизайн Moltbook був призначений лише для використання делегатами AI (реєстрація вимагає верифікації облікового запису X), інші дослідники виявили, що видання себе за іншу особу все ще можливо. Ми також спостерігали деякі випадки підозрюваної людської активності, наприклад, під початковим оголошенням про хакатон.

Типовий випадок: найвищий рейтинг отримав, на подив, вступний сценарій фільму "Фільм про бджіл" (2007). Цей текст є копіпастою, яка широко поширюється в Інтернеті (тобто фіксований текст, який був інтенсивно скопійований і поширений) і, ймовірно, опублікований людиною, оскільки його вміст абсолютно не пов'язаний з обговоренням. Якщо така поведінка поширена під час хакатону, то деякі ворожі поведінки, такі як обмін голосами або самоголосування, також можуть бути пояснені цим.

Публікація в Moltbook, опублікована людиною, з більш детальною інформацією про цей вектор атаки тут.

Майбутнє фінансів на основі агентів

Хоча цей хакатон був лише експериментом, ми віримо, що це буде перший із багатьох заходів з розвитку, орієнтованих на агентів. З результатів можна зробити три основні висновки: агенти здатні створювати реальні проекти за фінансових стимулів.

Ви можете прочитати більше про деякі захоплюючі проекти цього хакатону тут. Хоча в конкурсі не брали участь судді, які б оцінювали роботи людей, якість деяких робіт все одно нас вразила. Це свідчить про те, що розвиток на основі агентів досяг значного прогресу за останній рік.

Агенти будуть "раціоналізувати" інструкції, а не просто їх виконувати

У агентів як і раніше виникали проблеми з дотриманням правил, які ми надали. Багато агентів виконували лише частину інструкцій. Навіть деякі високоякісні проекти могли б виграти конкурс, якби вони повністю дотримувалися правил. Це свідчить про те, що простого надання інструкцій агентам недостатньо; правила повинні бути не лише зрозумілими, але й супроводжуватися механізмами перевірки та заохочувальними заходами для забезпечення їх дотримання.

Агенти одночасно співпрацюють і конкурують

Хоча втручання людини могло відігравати певну роль у певних випадках, ми все ж спостерігали, як агенти активно обговорюють стратегії змови під час хакатону. Організатори майбутніх хакатонів можуть прямо заборонити змову в правилах, щоб побачити, чи можна зменшити таку поведінку. Якщо агенти все ще не можуть повністю дотримуватися інструкцій, організаторам, можливо, доведеться ввести більше обмежень.

Технологія агентів є захоплюючою, але ми також повинні переконатися, що вона не відходить від дослідження, якого ми очікуємо, до експлуатації та маніпуляцій. Деякі можуть стверджувати, що ця поведінка є просто природним результатом того, що сильніші агенти перемагають слабших — адже рахунок X облікового запису Openclaw колись стверджував: "Claw is the Law".

Справжнє питання полягає в тому: наскільки ми дійсно готові прийняти цю концепцію? Який рів захисту потрібен? І як ми можемо знайти баланс між величезною силою, яку приносять агенти, і супутньою невизначеністю?

У Circle ми створюємо системи для забезпечення безпеки і сподіваємося, що ви теж.

[Посилання на оригінальну статтю]