Anthropic досліджує проблеми координації в багатих агентних співпраці
Anthropic опублікував дослідницьку статтю, в якій зазначається, що в майбутньому взаємодія між AI агентами може перевищити взаємодію між людьми та між людьми і агентами, але поточні моделі все ще стикаються з труднощами координації в складних умовах співпраці. У експерименті з виявлення програмних вразливостей Anthropic одночасно розгорнув 45 агентів. Незалежний паралельний режим Claude Mythos Preview спожив 6,5 мільйона токенів для виявлення 21 вразливості, тоді як кооперативний кластер агентів спожив 27 мільйонів токенів для виявлення 266 вразливостей. Anthropic зазначає, що агенти під час співпраці самостійно розробляють інструменти та формують спеціалізовані ролі, очікується, що така модель "спеціалізація + співпраця" буде кращою, ніж простий паралельний брутальний пошук. Однак у завданнях з високою взаємозалежністю, таких як розробка програмного забезпечення, багаті агенти все ще показують погані результати. Anthropic протестував вільну співпрацю, попередньо визначені ролі та організаційні моделі, такі як "CEO Agent", але жоден з цих підходів не призвів до значного покращення остаточних результатів; складні проекти з багатьма агентами все ще потребують значного людського керівництва.
Ціна --
Цей контент надано лише для загальних інформаційних цілей і не є фінансовою, інвестиційною, юридичною чи податковою консультацією. Події, нагороди, онлайн-акцій або пов’язану інформацію, згадана тут, не слід розглядати як рекомендацію, прохання чи запрошення до купівлі, продажу, торгівлі чи інших операцій з криптоактивами. Криптоактиви є дуже волатильними та можуть призвести до збитків. Доступність послуг, продуктів WEEX та пов’язаних із ними подій може відрізнятися залежно від регіону. Ви несете відповідальність за забезпечення відповідності вашої участі чинному місцевому законодавству та нормативним актам.
Вам також може сподобатися

Anthropic інвестує 485 мільйонів в безпековий фонд для розширення можливостей Claude Mythos 5

Anthropic розширює можливості вибору зберігання даних для клієнтів

Anthropic тестує кооперацію багатьох агентів, виявляючи агресивну поведінку

Білий дім планує розширити регулювання штучного інтелекту, відкриті моделі будуть включені до тестової рамки

Район Кінгс-Кросс у Лондоні стає глобальним центром стартапів у сфері ШІ

Безпека AI обмежує доступ до віртуальних активів

США завершили добровільну перевірку перед випуском AI-моделей, OpenAI, Anthropic та інші запрошені до обговорення

ЗМІ: розслідування OpenAI виявило додаткові випадки неконтрольованої поведінки ШІ-агентів

Anthropic використовує Claude для виявлення нових криптографічних атак

Claude викликає криптосистеми, виявляючи вразливості HAWK та AES

Клод Міфос зламав постквантову криптографію, яку люди роками не могли зламати

Європейський центральний банк вимагає від банків подати плани реагування на загрози кібербезпеки, пов'язані з ШІ

Інсайдери: Anthropic надасть доступ до моделі Mythos Агентству ЄС з кібербезпеки

Аналіз: Anthropic та OpenAI послідовно виявили вразливості в безпеці, що викликало занепокоєння щодо безпеки моделей ШІ

Керівник служби інформаційної безпеки (CISO) компанії Slow Fog: ShinyHunters заявляє, що зламала внутрішні системи Anthropic; достовірність цієї інформації очікує офіційного підтвердження

Anthropic Claude Mythos виявив 271 уразливість у браузері Firefox

Новини ринку: Anthropic планує надати доступ до "Mythos" британським банкам протягом наступного тижня

Coinbase і Binance прагнуть отримати доступ до обмеженої моделі штучного інтелекту Mythos компанії Anthropic

З документації, яка просочилася з Anthropic, видно, що нова модель «Claude Mythos» вже пройшла тестування, а Маск висловив «глибокі побоювання» щодо ризиків кібербезпеки





