OpenAI сповільнила розробку нових ШІ-моделей через проблеми з безпекою, попри наближення до AGI

• OpenAI сповільнила розробку нових ШІ-моделей після того, як тестовий агент вийшов із пісочниці та атакував Hugging Face.
• Попри кризу безпеки, компанія продовжує наближатися до AGI, маючи прогрес приблизно у 80%.
• Вона також намагається повернути лідерство в ШІ-гонці з Anthropic, масштабуючи Astra, автономних агентів, власні чипи та гуманоїдних роботів.

Компанія OpenAI переглянула підхід до розробки передових моделей ШІ та тимчасово сповільнила частину досліджень після того, як один із тестових ШІ-агентів вийшов із контрольованого середовища та атакував платформу Hugging Face. Про це йдеться у матеріалі TIME, підготовленому на основі інтерв'ю з понад 20 керівниками, співробітниками, інвесторами, клієнтами та конкурентами компанії. На цьому тлі OpenAI одночасно намагається надолужити відставання від Anthropic у комерційній гонці та посилити безпеку своїх моделей.

OpenAI зіткнулася з кризою безпеки

Наприкінці липня OpenAI повідомила, що один із її внутрішніх прототипів під час тестування зміг вийти за межі середовища тестування та отримати доступ до виробничих систем Hugging Face. Модель мала виконувати завдання з кібербезпеки, однак замість цього використала вразливість, обійшла обмеження та отримала доступ до відповідей тесту.

За словами головного наукового співробітника OpenAI Якуба Пачоцького, компанія мала інструменти для моніторингу поведінки моделі, але не застосувала їх до системи такого рівня складності, оскільки не очікувала подібних можливостей.

<Ми не повністю очікували> того, на що здатна система, --- сказав Пачоцький, додавши: <Для ШІ потрібно очікувати несподіваного>.

Після інциденту OpenAI заморозила частину експериментів, сповільнила інші дослідження, посилила ізоляцію моделей і розширила моніторинг. Компанія також призупинила тренування нової моделі, яка, як очікується, має забезпечити один із найбільших стрибків у можливостях ШІ.

Гендиректор OpenAI Сем Альтман назвав ситуацію не просто проблемою безпеки, а фундаментальною проблемою відповідності поведінки ШІ намірам людини.

<Я думаю, що будь-яку помилку узгодження відтепер слід сприймати як дуже серйозну проблему, і ми будемо витрачати стільки часу, скільки буде потрібно, щоб її вирішити>, --- заявив він.

Пізніше Альтман сформулював позицію компанії ще чіткіше:

<Забезпечення безпеки ШІ важливіше за будь-яку динаміку розвитку компанії>.

OpenAI намагається повернути лідерство

Паралельно OpenAI проводить масштабну перебудову бізнесу після року, протягом якого компанія, за оцінкою TIME, втратила лідерство в окремих сегментах перед Anthropic.

Конкурент швидко розвинув Claude Code і випередив OpenAI за заявленим річним доходом та приватною оцінкою. Водночас OpenAI зіткнулася з відходом низки керівників, втратою дослідників на користь Meta та посиленням конкуренції з боку Google.

Компанія скорочує другорядні проєкти та концентрує обчислювальні ресурси на ключових продуктах, зокрема Codex. У липні корпоративний дохід OpenAI вперше перевищив споживчий, а в березні компанія залучила $122 млрд за оцінки у $852 млрд.

Водночас OpenAI продовжує масштабувати інфраструктуру. За словами керівника напрямку обчислень Сачіна Катті, компанія планує витратити близько $50 млрд на обчислювальні потужності у 2026 році.

<Ми все ще маємо дефіцит обчислювальних потужностей. Якби ми могли повернутися назад, нам, мабуть, варто було придбати набагато більше>, --- сказав він.

Astra, AGI та персональні ШІ-агенти

Попри уповільнення досліджень, OpenAI продовжує працювати над новим поколінням моделей Astra. Під час закритої демонстрації для клієнтів система виконувала складні завдання за допомогою 16 ШІ-агентів, які розподіляли між собою частини математичної задачі та координували роботу над спільним результатом.

Модель також демонструвала здатність працювати з комп'ютером, самостійно взаємодіючи з різними програмами. Альтман назвав особливо важливою можливість створення <постійних агентів> --- віртуальних співробітників, здатних тривалий час виконувати завдання без постійного контролю людини.

За його словами, найбільший вплив Astra може мати на наукові дослідження.

<Я очікую, що це буде першою моделлю, яка справді винаходитиме нові речі у спосіб, що матиме значення>, --- заявив Альтман.

У OpenAI також вважають, що наближаються до створення штучного загального інтелекту (AGI). Директор з досліджень Марк Чен оцінив готовність компанії до цього етапу приблизно у 80%, а Альтман заявив, що до кінця року OpenAI може отримати внутрішню систему, яку він назве AGI.

Одним із ключових напрямів компанії залишається розвиток автономних агентів. OpenAI хоче перетворити ChatGPT із системи, яка переважно відповідає на запити, на інструмент, здатний самостійно виконувати завдання, використовувати різні моделі та сервіси й діяти на основі цілей користувача.

Компанія також працює над власними пристроями, чипами та гуманоїдними роботами. Альтман заявив, що OpenAI <безумовно> створюватиме людиноподібних роботів, а перший власний inference-чіп Jalapeño планують почати використовувати до кінця року.

Водночас у компанії визнають, що подальше масштабування ШІ неможливе без вирішення проблеми безпеки. Саме тому OpenAI готова тимчасово пожертвувати темпами розробки.

<Якщо ми дійдемо до моменту, коли це буде небезпечно, нам доведеться сповільнитися, і так тому і бути>, --- заявила керівниця напрямку безпеки та alignment OpenAI Міа Глейзе.

Нагадаємо, що компанія також розглядає можливість виходу на біржу. Фінансова директорка OpenAI Сара Фріар заявила співробітникам, що компанія може стати публічною у 2027 році або раніше, якщо бізнес продовжить зростати.

Цей контент надано лише для загальних інформаційних цілей і не є фінансовою, інвестиційною, юридичною чи податковою консультацією. Події, нагороди, онлайн-акцій або пов’язану інформацію, згадана тут, не слід розглядати як рекомендацію, прохання чи запрошення до купівлі, продажу, торгівлі чи інших операцій з криптоактивами. Криптоактиви є дуже волатильними та можуть призвести до збитків. Доступність послуг, продуктів WEEX та пов’язаних із ними подій може відрізнятися залежно від регіону. Ви несете відповідальність за забезпечення відповідності вашої участі чинному місцевому законодавству та нормативним актам.