Безопасность ИИ становится миллиардным рынком и привлекает 100 миллионов долларов

Борьба за защиту моделей искусственного интеллекта от атак только что получила еще одну важную главу. HiddenLayer, стартап из Остина, сосредоточенный на безопасности моделей, агентов и рабочих процессов ИИ, завершил раунд финансирования серии B на сумму 100 миллионов долларов, возглавляемый Delta-v Capital, с участием таких компаний, как Morgan Stanley, M12 (венчурное подразделение Microsoft) и Booz Allen Hamilton.

Этот вклад отражает то, что данные уже сигнализировали. Согласно оценкам Gartner, компании должны потратить 2,83 миллиарда долларов на продукты безопасности для инструментов ИИ в 2026 году, что на 83% больше по сравнению с предыдущим годом. Ожидается, что эта сумма приблизится к 4,78 миллиарда долларов уже в 2027 году.

Три года назад, когда HiddenLayer привлекла 50 миллионов долларов в рамках серии A, главный вопрос заключался в том, реализуются ли риски для систем ИИ в достаточной степени, чтобы оправдать существование специализированного рынка. Ответ пришел быстрее, чем многие ожидали.

Генеральный директор и соучредитель HiddenLayer, Крис Сестито, сообщил, что годовой повторяющийся доход стартапа увеличился более чем в десять раз за последние 12 месяцев. Хотя он не раскрыл точную цифру, он заявил, что ARR теперь составляет "десятки миллионов долларов". Более 90% этого роста пришло от новых клиентов, подписавших контракты в прошлом году.

Основные вертикали компании — это финансовые учреждения и крупные технологические компании, которые создают продукты ИИ. Стартап также поддерживает контракты с Министерством обороны и разведывательным сообществом США. Среди его клиентов есть "ведущий поставщик моделей на переднем крае" с "более чем 700 миллионами пользователей в неделю", что указывает на одно из крупных имен в отрасли.

Для тех, кто следит за экосистемой технологий, этот рост сигнализирует о том, что безопасность ИИ перестала быть спекулятивной нишей и закрепилась как необходимая инфраструктура.

Портфель HiddenLayer по-прежнему вращается вокруг четырех столпов: обнаружение моделей, защита в реальном времени, симуляция атак и безопасность цепочки поставок. Разница по сравнению с 2023 годом заключается в объеме. Стартапу пришлось расширить каждый из этих продуктов, чтобы охватить угрозы, такие как инъекция подсказок, манипуляция автономными агентами и злонамеренное использование инструментов, подключенных к моделям.

"Инференция остается инференцией. Будь то в традиционной модели машинного обучения, в генеративном ИИ или в агентном рабочем процессе, большая часть нашей технологии все еще применима. Нам не нужно поворачиваться, но нам нужно расширить наш объем", — объяснил Сестито.

Защита в реальном времени, в частности, стала приоритетом. Сестито сравнил решение с традиционными инструментами обнаружения и реагирования на конечных точках (EDR), но примененными специально к миру ИИ. Это аналогия, которая имеет смысл: так же, как конечные точки нуждались в специализированной защите в эпоху облачных вычислений, модели ИИ требуют постоянного наблюдения за манипуляциями и неожиданным поведением в производстве.

Одним из наиболее важных моментов, поднятых HiddenLayer, является вопрос о моделях с открытым исходным кодом. Стартап анализирует и сканирует около 50 различных фреймворков файлов ИИ, чтобы гарантировать, что инструмент, который использует разработчик, действительно является тем, чем он заявляет.

"Мы видим модели, которые представляются как одно, но являются другим. Модели, скрытые внутри моделей", — заявил Сестито. Эта угроза особенно актуальна, поскольку использование моделей с открытым исходным код стремительно возросло. Платформы, такие как Hugging Face, размещают тысячи моделей, которые любой разработчик может скачать и интегрировать в свои системы.

Риск не является гипотетическим. Поскольку компании интегрируют модели третьих сторон в критически важные бизнес-процессы, проверка целостности этих моделей становится столь же важной, как аудит кода в традиционных библиотеках программного обеспечения. Это аналогичная проблема с тем, с чем сталкивается экосистема смарт-контрактов в DeFi с зависимостями от неаудированного кода.

HiddenLayer не одна на этом рынке. Стартапы, такие как Noma и Zenity, уже привлекли более 100 миллионов долларов каждый, чтобы атаковать смежные или перекрывающиеся области безопасности ИИ. В то же время гиганты кибербезопасности, такие как Cisco, Palo Alto Networks и Check Point, исторически предпочитают приобретать меньшие компании, а не строить решения с нуля.

Сестито признал, что некоторые функции, которые предлагает HiddenLayer, могут в конечном итоге быть интегрированы в платформы таких компаний, как Microsoft, OpenAI и AWS. Тем не менее, он считает, что инфраструктура ИИ этих платформ будет двигаться больше в сторону ресурсов управления, идентификации и контроля политик, чем к тому типу защиты в реальном времени, который строит его компания.

Ресурсы серии B будут в основном направлены на продажи и распространение, а также на расширение в Европу и регион EMEA. Команда инженеров и исследователей также должна вырасти, но приоритетом сейчас является коммерческое масштабирование того, что уже работает.

Резкий рост инвестиций в безопасность ИИ отражает известный шаблон в циклах технологического принятия. Сначала идет гонка за внедрением. Затем гонка за защитой. Это произошло с облачными вычислениями, мобильными устройствами, инфраструктурой блокчейн. Теперь это происходит с ИИ.

Разница в скорости. Рынок облачной безопасности занял почти десятилетие, чтобы созреть. Рынок безопасности ИИ формируется за два-три года, подстегнутый ускоренным корпоративным принятием генеративных моделей и автономных агентов.

Для инвесторов и менеджеров технологий послание ясно: расходы на безопасность не являются необязательными. Они приходят вместе с развертыванием. И тот, кто решит эту проблему первым, в масштабе, захватит значительную долю рынка, который должен превысить 4,7 миллиарда долларов к 2027 году.

Этот контент предоставляется исключительно в общих информационных целях и не является финансовым, инвестиционным, юридическим или налоговым советом. Любые мероприятия, вознаграждения, онлайн-акции или связанная с ними информация, упомянутые в настоящем документе, не должны рассматриваться как рекомендация, приглашение к покупке, продаже, торговле или иной сделке с какими-либо криптоактивами. Криптоактивы очень волатильны и могут привести к убыткам. Доступность услуг, продуктов WEEX и связанных с ними событий может варьироваться в зависимости от региона. Вы несете ответственность за обеспечение того, чтобы ваше участие соответствовало применимым местным законам и нормативным актам.