La sécurité de l'IA devient un marché de milliards et attire 100 millions de dollars

La course pour protéger les modèles d'intelligence artificielle contre les attaques vient de gagner un nouveau chapitre important. HiddenLayer, une startup d'Austin axée sur la sécurité des modèles, des agents et des flux de travail d'IA, a clôturé un tour de financement de série B de 100 millions de dollars dirigé par Delta-v Capital, avec la participation de noms tels que Morgan Stanley, M12 (le bras de capital-risque de Microsoft) et Booz Allen Hamilton.

Cet investissement reflète quelque chose que les données signalaient déjà. Selon les estimations de Gartner, les entreprises devraient dépenser 2,83 milliards de dollars en produits de sécurité pour les outils d'IA d'ici 2026, soit une augmentation de 83 % par rapport à l'année précédente. On s'attend à ce que ce montant atteigne près de 4,78 milliards de dollars dès 2027.

Il y a trois ans, lorsque HiddenLayer a levé sa série A de 50 millions de dollars, la grande question était de savoir si les risques pour les systèmes d'IA se matérialiseraient réellement à une échelle suffisante pour justifier un marché dédié. La réponse est venue plus rapidement que beaucoup ne l'avaient prévu.

Le PDG et cofondateur de HiddenLayer, Chris Sestito, a révélé que le revenu récurrent annuel de la startup a été multiplié par plus de dix au cours des 12 derniers mois. Bien qu'il n'ait pas divulgué le chiffre exact, il a affirmé que l'ARR se situe désormais dans les "dizaines de millions de dollars". Plus de 90 % de cette croissance provient de nouveaux clients qui ont signé des contrats au cours de l'année dernière.

Les principaux secteurs de l'entreprise sont les institutions financières et les grandes entreprises technologiques qui construisent des produits d'IA. La startup a également des contrats avec le Département de la Défense et la communauté du renseignement des États-Unis. Parmi ses clients, il y a un "fournisseur leader de modèles de pointe" avec "plus de 700 millions d'utilisateurs hebdomadaires", ce qui indique l'un des grands noms du secteur.

Pour ceux qui suivent l'écosystème technologique, cette croissance signale que la sécurité de l'IA a cessé d'être un créneau spéculatif et s'est consolidée comme une infrastructure essentielle.

Le portefeuille de HiddenLayer tourne encore autour de quatre piliers : découverte de modèles, protection en temps réel, simulation d'attaques et sécurité de la chaîne d'approvisionnement. La différence par rapport à 2023 est l'étendue. La startup a dû élargir chacun de ces produits pour couvrir des menaces telles que l'injection de prompt, la manipulation d'agents autonomes et l'utilisation malveillante d'outils connectés à des modèles.

"L'inférence reste l'inférence. Que ce soit dans un modèle d'apprentissage automatique traditionnel, dans l'IA générative ou dans un flux de travail agentique, beaucoup de notre technologie s'applique encore. Nous n'avons pas besoin de pivoter, mais nous devons élargir notre portée", a expliqué Sestito.

La protection en temps réel, en particulier, est devenue une priorité. Sestito a comparé la solution à des outils traditionnels de détection et de réponse sur les points de terminaison (EDR), mais appliqués spécifiquement à l'univers de l'IA. C'est une analogie qui a du sens : tout comme les points de terminaison ont eu besoin d'une protection dédiée à l'ère du cloud computing, les modèles d'IA nécessitent une surveillance constante contre les manipulations et les comportements inattendus en production.

L'un des points les plus pertinents soulevés par HiddenLayer concerne les modèles open source. La startup analyse et scanne environ 50 frameworks différents de fichiers d'IA pour garantir que l'outil que le développeur utilise est exactement ce qu'il prétend être.

"Nous voyons des modèles qui se présentent comme une chose, mais qui sont une autre. Des modèles cachés à l'intérieur de modèles", a déclaré Sestito. Ce type de menace est particulièrement pertinent car l'adoption de modèles open source a augmenté de manière accélérée. Des plateformes comme Hugging Face hébergent des milliers de modèles que tout développeur peut télécharger et intégrer à ses systèmes.

Le risque n'est pas hypothétique. À mesure que les entreprises intègrent des modèles tiers dans des flux critiques d'affaires, la vérification de l'intégrité de ces modèles devient aussi importante que l'audit de code dans des bibliothèques de logiciels traditionnelles. C'est un problème analogue à celui auquel l'écosystème des contrats intelligents en DeFi est confronté avec des dépendances de code non auditées.

HiddenLayer n'est pas seule sur ce marché. Des startups comme Noma et Zenity ont déjà levé plus de 100 millions de dollars chacune pour s'attaquer à des domaines adjacents ou superposés de la sécurité de l'IA. En même temps, des géants de la cybersécurité comme Cisco, Palo Alto Networks et Check Point préfèrent historiquement acquérir des entreprises plus petites plutôt que de construire des solutions de zéro.

Sestito a reconnu que certaines fonctionnalités que HiddenLayer propose pourraient, éventuellement, être intégrées dans les plateformes d'entreprises comme Microsoft, OpenAI et AWS. Cependant, il pense que l'infrastructure d'IA de ces plateformes s'orientera davantage vers des ressources de gouvernance, d'identité et de contrôle des politiques que vers le type de protection en temps réel que son entreprise construit.

Les ressources de la série B seront principalement dirigées vers les ventes et la distribution, ainsi que vers l'expansion en Europe et dans la région EMEA. L'équipe d'ingénierie et de recherche devrait également croître, mais la priorité est maintenant de commercialiser ce qui fonctionne déjà.

L'augmentation des investissements dans la sécurité de l'IA reflète un schéma connu dans les cycles d'adoption technologique. D'abord vient la course à l'implémentation. Ensuite, la course à la protection. Cela s'est produit avec le cloud computing, avec les appareils mobiles, avec l'infrastructure blockchain. Cela se produit maintenant avec l'IA.

La différence est la vitesse. Le marché de la sécurité dans le cloud a mis près d'une décennie à mûrir. Celui de la sécurité de l'IA se forme en deux ou trois ans, propulsé par l'adoption accélérée des modèles génératifs et des agents autonomes par les entreprises.

Pour les investisseurs et les gestionnaires de technologie, le message est clair : le coût de la sécurité n'est pas optionnel. Il arrive avec le déploiement. Et celui qui résoudra ce problème en premier, à grande échelle, capturera une part significative d'un marché qui devrait dépasser 4,7 milliards de dollars d'ici 2027.