Боїтеся відкрити ящик Пандори? Найпотужніша модель Anthropic ніколи не буде розкрита

Кодова база OpenBSD має вразливість, якій 27 років. У FFmpeg є вразливість, якій 16 років, і цей сегмент коду викликався понад 5 мільйонів разів до того, як був виявлений. Суб'єкти, які виявили ці дві речі, не були провідними дослідниками на жодній платформі винагород за помилки, а також не належали до Google Project Zero. Це була Anthropic, модель, яка ще не була публічно випущена, з кодовою назвою Claude Mythos Preview.

7 квітня Anthropic оголосила про проект Glasswing. Саме дію було простим: поділитися Mythos Preview зі списком білих. Список включав AWS, Apple, Google, Microsoft, NVIDIA, Broadcom, Cisco, CrowdStrike, JPMorgan Chase, Linux Foundation, Palo Alto Networks, а також близько 40 установ, відповідальних за критичну інфраструктуру. Ті, хто не був у списку, не могли отримати до нього доступ. Anthropic чітко заявила, що не планує публічно випускати цю модель у найближчій перспективі.

Це вперше, коли передова лабораторія проактивно заблокувала свій найсильніший актив.

Протягом останніх двох років ритм випуску був майже рефлексивним. Кожен генераційний стрибок GPT, Gemini та Claude слідував схемі "випустити, спостерігати, виправити". Власна "Політика відповідального масштабування" (RSP) Anthropic є по суті рамкою зобов'язань: досягти певного порогу можливостей, впровадити відповідні заходи пом'якшення, а потім продовжити випуск. Glasswing не є наступним кроком у цій рамці, а першим винятком. Модель, яку сама Anthropic визнала "недостатньою для випуску відповідно до оригінального процесу", була виділена та надана лише охоронцям.

Що досяг Mythos Preview? Офіційна заява згадує "тисячі нульових вразливостей, що охоплюють усі основні операційні системи та браузери." Більш ілюстративним, ніж цифри, є широта можливостей. Claude 4.6 Opus мав рівень успіху, близький до нуля, у завданнях, таких як незалежне виявлення вразливостей. Іншими словами, всього шість місяців тому найсильніша публічна модель Anthropic не могла цього зробити зовсім. Mythos може з'єднувати кілька несвязаних вразливостей в повний ланцюг атаки, при цьому чотирьохетапна експлуатація браузера є перевіреним прикладом. Перехід від "майже нуля" до "ланцюга з чотирьох вразливостей" не є поступовим поколіннєвим прогресом, а стрибком.

Ті, хто підтримує, вже відчули це. Як Грег Кроах-Гартман з ядра Linux, так і Даніель Стенберг, автор curl, нещодавно заявили одне й те саме: протягом минулого року звіти про безпеку, створені штучним інтелектом, перейшли від "спам-рівня" до "справжнього, високоякісного, обов'язкового для перегляду" контенту. Кількість звітів, отриманих відкритими проектами, зростає, як і їхня якість, тоді як чисельність підтримуючих залишається незмінною. Це те, з чим захист довгий час бореться. Дії Anthropic просто вивели це питання з невизначеного занепокоєння на перший план.

Варто звернути увагу на сам білий список. Список включає три основні хмари (AWS, Google, Microsoft), три апаратні компанії (Apple, NVIDIA, Broadcom), двох виробників мережевого обладнання (Cisco, Palo Alto Networks), одну компанію з безпеки кінцевих точок (CrowdStrike), одну організацію з відкритої інфраструктури (Linux Foundation) та один банк. У списку лише один банк, а саме JPMorgan Chase.

Це не випадковий розподіл місць. Anthropic накреслив карту "якщо ці впадуть, то небо впаде." Переважна більшість коду світу працює на стеку цих компаній, а переважна більшість грошей світу проходить через одну з них. Логіка за білим списком не "хто найбільше потребує", а "чиє падіння найбільш безпосередньо вплине на всіх." Поза списком Anthropic виділив додаткові 4 мільйони доларів організаціям з безпеки з відкритим кодом. Гроші забезпечують людські ресурси, модель забезпечує можливості, і разом вони підсумовуються в одне: надання підтримуючим кількох місяців.

Формулювання Anthropic є більш прямим, ніж у білому списку. У своїй заяві компанія пише: "З огляду на темпи розвитку ШІ, така здатність не залишиться в руках тих, хто присвятив себе безпеці в довгостроковій перспективі." Після цього йде рядок, що стверджує: "Захист глобальної мережевої інфраструктури може зайняти кілька років."

Об'єднуючи ці два речення, Anthropic робить висновок, що вікно часу до витоку моделі або її реплікації є коротким, тоді як вікно часу для захисників, щоб усунути вразливості, є тривалим. Вся суть Glasswing полягає між цими двома часовими розбіжностями. З контролюваним першим кроком вони обмінюються кількома місяцями до року часу на усунення вразливостей.

Ця справа також має вашингтонський вимір. Anthropic веде постійні переговори з урядом США щодо можливостей Mythos Preview. Водночас компанія має невирішений спір з США. Міністерством оборони щодо обсягу використання військового ШІ. З одного боку, компанія відмовляється використовувати модель для певних військових цілей, а з іншого боку, вона проактивно ділиться цією моделлю з Фондом Linux та командою безпеки Apple. Ці дві дії не є суперечливими, а є двома сторонами одного й того ж судження. Anthropic визначає "для чого може бути використана ця модель", а не залишає це визначення користувачам.

Найбільш незвичайним у Glasswing є не те, що він зробив, а коли він це зробив. У минулому компанії ШІ доводили свою цінність через випуски. Тепер Anthropic обирає доводити свою цінність через "не-випуск". Сучасна лабораторія активно ховає свій найпотужніший продукт, не через комерційні причини, не через те, що вирівнювання не завершено, не через регуляторні вимоги, а тому, що вона розрахувала, що відкритий графік не може встигнути за графіком виправлень.

Те, на що слід звернути увагу в найближчі місяці, це не сам Mythos Preview, а скільки вразливостей буде усунено з приблизно 50 установ у білому списку, які його запускали. Наступне, на що слід звернути увагу, це чи слідуватимуть інші сучасні лабораторії цьому прикладу. Якщо так, то індустрія, яка працює в ритмі "відкритий, ітеративний, відкритий", побачить свій перший крок "заблокувати, а потім побачимо". Якщо вони цього не зроблять, Anthropic буде тим, хто стоятиме біля дверей. Тримаючи ключ, спостерігаючи за годинником.