KI-Sicherheit wird milliardenschwerer Markt und zieht 100 Mio. USD an

Der Wettlauf zum Schutz von Modellen der künstlichen Intelligenz vor Angriffen hat ein weiteres relevantes Kapitel gewonnen. HiddenLayer, ein in Austin ansässiges Startup, das sich auf die Sicherheit von KI-Modellen, Agenten und Arbeitsabläufen konzentriert, hat eine Series-B-Finanzierungsrunde in Höhe von 100 Millionen USD abgeschlossen, die von Delta-v Capital geleitet wurde, mit Beteiligung von Namen wie Morgan Stanley, M12 (dem Venture-Arm von Microsoft) und Booz Allen Hamilton.

Die Investition spiegelt etwas wider, das die Daten bereits signalisiert haben. Laut Schätzungen von Gartner werden Unternehmen bis 2026 voraussichtlich 2,83 Milliarden USD für Sicherheitsprodukte für KI-Tools ausgeben, ein Anstieg von 83 % im Vergleich zum Vorjahr. Es wird erwartet, dass dieser Betrag bis 2027 auf etwa 4,78 Milliarden USD ansteigt.

Vor drei Jahren, als HiddenLayer seine Series-A-Runde über 50 Millionen USD einwarb, war die große Frage, ob die Risiken für KI-Systeme tatsächlich in ausreichendem Maße realisiert werden würden, um einen eigenen Markt zu rechtfertigen. Die Antwort kam schneller als viele erwartet hatten.

Der CEO und Mitgründer von HiddenLayer, Chris Sestito, enthüllte, dass der jährliche wiederkehrende Umsatz des Startups in den letzten 12 Monaten um mehr als das Zehnfache gestiegen ist. Obwohl er die genaue Zahl nicht bekannt gab, erklärte er, dass der ARR jetzt im Bereich von "Zehntausenden von Millionen Dollar" liegt. Mehr als 90 % dieses Wachstums kamen von neuen Kunden, die im letzten Jahr Verträge unterzeichnet haben.

Die größten Vertikalen des Unternehmens sind Finanzinstitute und große Technologieunternehmen, die KI-Produkte entwickeln. Das Startup hat auch Verträge mit dem Verteidigungsministerium und der Geheimdienstgemeinschaft der Vereinigten Staaten. Unter seinen Kunden gibt es einen "führenden Anbieter von Grenzmodellen" mit "mehr als 700 Millionen wöchentlichen Nutzern", was auf einen der großen Namen der Branche hinweist.

Für diejenigen, die das Technologie-Ökosystem verfolgen, signalisiert dieses Wachstum, dass die Sicherheit von KI nicht mehr ein spekulatives Nischenprodukt ist, sondern sich als essentielle Infrastruktur konsolidiert hat.

Das Portfolio von HiddenLayer dreht sich weiterhin um vier Säulen: Modellerkennung, Schutz in Echtzeit, Angriffssimulation und Sicherheit der Lieferkette. Der Unterschied zu 2023 liegt im Umfang. Das Startup musste jedes dieser Produkte erweitern, um Bedrohungen wie Prompt-Injektion, Manipulation autonomer Agenten und missbräuchliche Nutzung von mit Modellen verbundenen Tools abzudecken.

"Die Inferenz bleibt Inferenz. Sei es in einem traditionellen Machine-Learning-Modell, in generativer KI oder in einem agilen Workflow, ein Großteil unserer Technologie ist nach wie vor anwendbar. Wir müssen nicht pivotieren, aber wir müssen unseren Umfang erweitern", erklärte Sestito.

Der Schutz in Echtzeit hat sich speziell zur Priorität entwickelt. Sestito verglich die Lösung mit traditionellen Endpunkt-Detektions- und Reaktionswerkzeugen (EDR), die jedoch speziell auf das Universum der KI angewendet werden. Es ist eine Analogie, die Sinn macht: So wie Endpunkte in der Ära des Cloud-Computing einen speziellen Schutz benötigten, erfordern KI-Modelle eine ständige Überwachung gegen Manipulationen und unerwartetes Verhalten in der Produktion.

Ein besonders relevantes Thema, das von HiddenLayer angesprochen wird, betrifft Open-Source-Modelle. Das Startup analysiert und scannt etwa 50 verschiedene Frameworks von KI-Dateien, um sicherzustellen, dass das Tool, das der Entwickler verwendet, genau das ist, was es vorgibt zu sein.

"Wir sehen Modelle, die sich als etwas präsentieren, aber etwas anderes sind. Modelle, die in Modellen verborgen sind", sagte Sestito. Diese Art von Bedrohung ist besonders relevant, da die Akzeptanz von Open-Source-Modellen schnell zugenommen hat. Plattformen wie Hugging Face hosten Tausende von Modellen, die jeder Entwickler herunterladen und in seine Systeme integrieren kann.

Das Risiko ist nicht hypothetisch. Während Unternehmen Modelle von Dritten in kritische Geschäftsabläufe integrieren, wird die Überprüfung der Integrität dieser Modelle ebenso wichtig wie die Codeprüfung in traditionellen Softwarebibliotheken. Es ist ein Problem, das dem gegenübersteht, was das Ökosystem der Smart Contracts in DeFi mit nicht geprüften Codeabhängigkeiten konfrontiert.

HiddenLayer ist in diesem Markt nicht allein. Startups wie Noma und Zenity haben bereits jeweils über 100 Millionen USD gesammelt, um angrenzende oder überlappende Bereiche der KI-Sicherheit anzugehen. Gleichzeitig ziehen es Cybersecurity-Riesen wie Cisco, Palo Alto Networks und Check Point historisch vor, kleinere Unternehmen zu erwerben, anstatt Lösungen von Grund auf neu zu entwickeln.

Sestito erkannte an, dass einige Funktionen, die HiddenLayer anbietet, möglicherweise irgendwann in die Plattformen von Unternehmen wie Microsoft, OpenAI und AWS integriert werden. Er glaubt jedoch, dass die KI-Infrastruktur dieser Plattformen eher in Richtung Governance-, Identitäts- und Richtlinienkontrollfunktionen tendieren wird als in Richtung des Schutzes in Echtzeit, den sein Unternehmen aufbaut.

Die Mittel der Series B werden hauptsächlich für Vertrieb und Distribution sowie für die Expansion nach Europa und in die EMEA-Region verwendet. Auch das Ingenieur- und Forschungsteam soll wachsen, aber die Priorität liegt jetzt darin, kommerziell zu skalieren, was bereits funktioniert.

Der Anstieg der Investitionen in KI-Sicherheit spiegelt ein bekanntes Muster in technologischen Adoptionszyklen wider. Zuerst kommt der Wettlauf zur Implementierung. Dann der Wettlauf zum Schutz. Das geschah mit Cloud-Computing, mit mobilen Geräten, mit Blockchain-Infrastruktur. Jetzt geschieht es mit KI.

Der Unterschied ist die Geschwindigkeit. Der Markt für Cloud-Sicherheit hat fast ein Jahrzehnt gebraucht, um zu reifen. Der Markt für KI-Sicherheit formt sich in zwei oder drei Jahren, angetrieben durch die beschleunigte Unternehmensakzeptanz von generativen Modellen und autonomen Agenten.

Für Investoren und Technologiemanager ist die Botschaft klar: Die Kosten für Sicherheit sind nicht optional. Sie kommen zusammen mit dem Deployment. Und wer dieses Problem zuerst in großem Maßstab löst, wird einen relevanten Anteil an einem Markt erobern, der bis 2027 voraussichtlich 4,7 Milliarden USD überschreiten wird.