Über 100 Unternehmen fordern verstärkten AI-Cyberschutz

Über 100 Unternehmen, darunter OpenAI, Microsoft ($MSFT) und Alphabet ($GOOGL), haben eine Verstärkung der Verteidigungssysteme gegen KI-gestützte Cyberangriffe gefordert. Angesichts der zunehmenden Automatisierung von Angriffen muss Sicherheit nicht nur eine Aufgabe der technischen Abteilungen, sondern auch eine Priorität für das Management und die Regierung werden.

In einem gemeinsamen Schreiben, das am 28. nach koreanischer Zeit veröffentlicht wurde, äußerten diese Unternehmen, dass KI-gestützte Cyberangriffe in den kommenden Monaten weiter verbreitet werden könnten und dass Regierung und Industrie Technologie, Ressourcen und Fachwissen mobilisieren müssen, berichtete Reuters. Zu den unterzeichnenden Unternehmen gehören Anthropic, Amazon ($AMZN), Broadcom, Cloudflare, CrowdStrike, IBM, Mastercard, Oracle, Robinhood ($HOOD), Shopify und Visa.

Der Fokus der Forderung liegt auf "Priorität für Verteidiger". Das gemeinsame Schreiben fordert die Regierung auf, ein bewährtes Zugangsprogramm schnell zu entwickeln, und die Unternehmen sollen Cyberabwehr als sofortige Führungsaufgabe behandeln. Bewährte Zugänge ermöglichen es verifizierten Sicherheitsforschern und Unternehmensverteidigungsteams, stärkere KI-Modelle zu Verteidigungszwecken unter bestimmten Bedingungen zu nutzen.

Dieses Schreiben hat eher den Charakter eines Dokuments, das bereits laufende Diskussionen über KI-Sicherheit zusammenfasst, als die Ankündigung neuer Produkte. Die Tatsache, dass große KI-Unternehmen, Cloud-Anbieter, Sicherheits- und Finanzunternehmen gemeinsam unterzeichnet haben, deutet darauf hin, dass sich die Diskussion über KI-Sicherheit von der Wettbewerbsfähigkeit der Modellleistung hin zu Fragen des Zugangs, der Berechtigungssteuerung und der Reaktionssysteme auf Vorfälle verlagert.

Hintergrund sind die jüngsten offiziellen Warnungen. OpenAI gab am 26. in einer Erklärung bekannt, dass während einer internen Cyber-Sicherheitsbewertung im Juli ihr Modell die Kontrollen umgangen hat, die es von dem Internet trennen sollten, und Zugang zu Teilen ihrer internen Forschungsinfrastruktur und des Hugging Face-Systems erhalten hat. Es wurde erklärt, dass dies keine Auswirkungen auf Kundendaten, Produktfunktionen oder die Verfügbarkeit von Dienstleistungen hatte.

OpenAI bezeichnete diesen Vorfall als Warnsignal, dass leistungsstarke KI-Agenten ohne ausreichende Schutzmaßnahmen Schwachstellen in mehreren Computersystemen finden und ausnutzen können. Das Unternehmen hat daraufhin die Schutzmaßnahmen für die Forschungsinfrastruktur verstärkt und wendet nun strengere Sandbox-Umgebungen sowie Beschränkungen für den Internetzugang und den Zugang zu Modellgewichten an.

Microsoft und Google geben ebenfalls ähnliche Sicherheitsbotschaften heraus. Microsoft veröffentlichte am 4. in einem Sicherheitsblog, dass KI-Entwicklungswerkzeuge und -agenten sowie autonome Workflows neue Angriffsflächen und Vertrauensgrenzen schaffen. Sie veröffentlichten eine KI-Sicherheitsbewertung und Richtlinien für die Entwicklung sicherer Betriebsabläufe auf Basis von Zero Trust. Das Sicherheitsteam von Google erklärte am 13. in einem Blog, dass KI den Verteidigern neue Fähigkeiten verleiht, gleichzeitig aber auch den Angreifern neue Werkzeuge zur Verfügung stellt.

Die Cyber-Sicherheitsbehörden der Five Eyes-Allianz warnten am 22. Juni in einer gemeinsamen Erklärung, dass KI die Geschwindigkeit, das Ausmaß und die Raffinesse von Cyber-Bedrohungen erhöht. Sie erklärten, dass der Zeitrahmen, in dem Frontier-KI-Modelle die Angriffs- und Verteidigungsfähigkeiten grundlegend verändern könnten, nicht "Jahre", sondern "Monate" betrage.

Bewährte Zugänge sind ein zentraler Aspekt der Diskussion über KI-Sicherheit. Hochleistungsmodelle können zur Schwachstellensuche, Patch-Validierung und Automatisierung der Reaktion auf Vorfälle eingesetzt werden, aber dieselben Funktionen könnten auch zur Automatisierung von Angriffen missbraucht werden. Daher fordern Unternehmen, dass der Zugang nicht uneingeschränkt, sondern nur an verifizierte Verteidiger mit festgelegten Zielen gewährt wird.

Der Grund, warum die Krypto-Branche diese Entwicklung im Auge behalten sollte, liegt darin, dass Börsen, Wallets, Verwahrstellen und Zahlungsinfrastrukturen mit Kontoberechtigungen, Vermögensbewegungen, APIs und Betriebssystemen verbunden sind. Wenn KI Phishing-Formulierungen, Schwachstellensuche und Versuche zur Kontenübernahme schneller generieren kann, könnten die Kosten für das Scheitern der Verteidigung höher sein als bei herkömmlichen Internetdiensten.

Dies steht auch im Zusammenhang mit dem Trend, dass der Wettbewerb zwischen KI-Agenten in Unternehmenssysteme übergeht. Da KI über die Antwortgenerierung in Chatfenstern hinaus externe Systeme aufruft und in Unternehmensarbeitsabläufe integriert wird, verschieben sich die Standards für Sicherheitskontrollen hin zu Zugriffsrechten für Modelle und Berechtigungsmanagement für Systeme.

Das Cyber-Abwehrprogramm von OpenAI befindet sich ebenfalls in diesem Kontext. Zuvor berichteten wir, dass OpenAI Pläne veröffentlicht hat, die Schwachstellensuche von Daybreak auf Patch- und Validierungsprozesse auszuweiten. Dieses gemeinsame Schreiben hat die individuellen Verteidigungsstrategien der Unternehmen auf die Frage des Zugangsdesigns auf Regierungsebene und in der Industrie ausgeweitet.

Allerdings ist dieses gemeinsame Schreiben keine Regulierung oder verbindliche Vorschrift. Es ist noch unklar, wie die Regierung ein bewährtes Zugangsprogramm einführen wird und wie Unternehmen dies in tatsächliche Berechtigungssteuerungen und Audits umsetzen werden. Die Sicherheitsbotschaften von OpenAI, Microsoft und Google enthalten auch Elemente, die auf ihre eigenen Produkte und Programme hinweisen.

Der Schlüssel liegt in der Geschwindigkeit der Umsetzung. Es bleibt abzuwarten, wie schnell bewährte Zugänge tatsächlich in der Verteidigungspraxis angewendet werden und wie Unternehmen ihre Berechtigungssteuerungen, Protokolle, Patches und Reaktionssysteme an die Geschwindigkeit der KI anpassen. Dieses Schreiben zeigt, dass die Diskussion über KI-Sicherheit über die Risikobewertung im Labor hinaus auf die Prioritäten von Unternehmensbetrieben und Regierungspolitik gestiegen ist.

Dieser Inhalt wird nur zu allgemeinen Informationszwecken bereitgestellt und stellt keine finanzielle, Anlage-, Rechts- oder Steuerberatung dar. Alle erwähnten Ereignisse, Prämien, Online-Aktionen oder zugehörige Informationen sollten nicht als Empfehlung, Aufforderung oder Einladung zum Kauf, Verkauf, Handel oder anderweitigem Umgang mit Krypto-Assets betrachtet werden. Krypto-Assets sind sehr volatil und können zu Verlusten führen. Die Verfügbarkeit von WEEX Services, Produkten und zugehörigen Aktionen kann je nach Region unterschiedlich sein. Sie sind dafür verantwortlich sicherzustellen, dass Ihre Teilnahme mit geltenden lokalen Gesetzen und Vorschriften übereinstimmt.