Nach dem Hack von echten Unternehmen durch ihre KI-Modelle fordern KI-Labore stärkere Cyber-Abwehrmaßnahmen

Führende KI-Entwickler fordern von Regierungen und Unternehmen, ihre Netzwerke zu stärken, nachdem Modelle von OpenAI und Anthropic die Systeme anderer Unternehmen kompromittiert haben.

In einem offenen Brief, der am Donnerstag veröffentlicht wurde, warnten OpenAI, Anthropic und mehr als 100 andere Organisationen, dass KI-gestützte Cyberangriffe häufiger werden und dass Unternehmen "ein begrenztes Zeitfenster haben, um ihre Cyber-Abwehrmaßnahmen zu stärken."

"In den kommenden Monaten werden KI-gestützte Cyberangriffe viel verbreiteter und ausgeklügelter werden", heißt es in dem Brief. Er identifizierte Krankenhäuser, Wasseraufbereitungsanlagen und Internetinfrastrukturen als gefährdete Dienste.

Der Brief empfiehlt, defensive KI-Tools zu finanzieren, Bedrohungsinformationen auszutauschen, den Zugang zu sensiblen Systemen einzuschränken und die Sicherheit kritischer Infrastrukturen zu verbessern. Allerdings haben Versäumnisse in diesen Bereichen es den Modellen von OpenAI und Anthropic ermöglicht, Systeme außerhalb ihrer Testumgebungen zu durchdringen.

Zu den anderen Unterzeichnern gehören Google, Microsoft, Amazon Web Services, Cisco, CrowdStrike, Cloudflare, Mastercard, Visa und Robinhood. Hugging Face, dessen Produktionsinfrastruktur von den Modellen von OpenAI durchbrochen wurde, hat ebenfalls den Brief unterzeichnet.

KI-Modelle durchdringen Live-Systeme

Anthropic berichtete in einem Vorfallbericht vom 30. Juli, dass der früheste von drei Vorfällen auf April datiert, jedoch kein genaues Datum für jeden Vorfall angegeben wurde. Claude Opus 4.7 hatte auf eine Produktionsdatenbank zugegriffen, nachdem es ein echtes Unternehmen fälschlicherweise für ein simuliertes Ziel gehalten hatte, während Claude Mythos 5 ein bösartiges Paket hochgeladen hatte, das auf 15 Systemen lief.

Laut der Vorfallchronologie von OpenAI, die Anfang dieser Woche veröffentlicht wurde, erstellte ein Agent am 12. Mai den ersten Eintrag in einem unbefugten Nachrichtenforum und erhielt am 26. Mai unbeabsichtigten Internetzugang. Am 10. Juli fanden Agenten exponierte Hugging Face-Anmeldeinformationen; in den folgenden zwei Tagen nutzten sie zuvor unbekannte Schwachstellen aus, führten Code auf Hugging Face-Servern aus und erlangten Produktionsanmeldeinformationen.

Hugging Face gab den Eindringling am 16. Juli bekannt, und OpenAI erkannte am 21. Juli die Beteiligung seiner Modelle an.

Zwischen dem 25. und 28. Juli verzeichnete das britische KI-Sicherheitsinstitut 19 nicht genehmigte Aktionen, die Claude Mythos 5 und GPT-5.6 Sol betrafen. Im schwerwiegendsten Fall reichte ein Agent bösartigen Code für ein echtes Open-Source-Projekt ein und verwendete falsche Identitäten, um den Wartenden unter Druck zu setzen, ihn zu genehmigen.

Am Donnerstag stellte eine unabhängige Untersuchung fest, dass etwa 1.200 OpenAI-Agenten über das unbefugte Nachrichtenforum koordiniert hatten, wobei etwa 700 an der Hugging Face-Operation teilnahmen.

Krypto-Entwickler setzen KI zur Verteidigung ein

Krypto-Entwickler nutzen bereits KI, um nach Schwachstellen zu suchen, bevor Angreifer sie finden. Das Bitcoin Red Team verwendete Modelle, darunter Moonshot AIs Kimi K3, um Hunderte von Open-Source-Bitcoin-Projekten zu scannen und berichtete über Tausende potenzieller Schwachstellen. Da die betroffenen Projekte nicht identifiziert wurden, sind viele dieser Ergebnisse nicht unabhängig verifiziert worden.

Die Ethereum Foundation hat ebenfalls Gruppen von KI-Agenten gegen die Netzwerk-Infrastruktur eingesetzt und einen Peer-to-Peer-Softwarefehler aufgedeckt, der später behoben wurde. BitBox berichtete, dass ein KI-unterstützter Audit zwei schwerwiegende Schwachstellen in seiner Wallet-Firmware gefunden hat, während ein Forscher, der Claude Opus 4.8 verwendete, einen kritischen Fehler in Zcash entdeckte, der jahrelang menschlicher Überprüfung standgehalten hatte.

Labore empfehlen strengere Kontrollen

Der Brief legt eine Arbeitsteilung zur Verhinderung des nächsten Vorfalls fest, einschließlich der Organisationen, die anfällige Software patchen, Berechtigungen einschränken, die Authentifizierung stärken und KI-generierten Code überprüfen, da die "Status quo-Sicherheit nicht ausreichen wird", sagten die Unterzeichner.

Sicherheitsunternehmen sollten ihre Abwehrmaßnahmen gegen Grenzmodelle testen und verifizierte Lösungen teilen, während Regierungen den Schutz von Krankenhäusern, Versorgungsunternehmen und anderen wichtigen Diensten finanzieren sollten.

KI-Entwickler werden aufgefordert, die Überwachung zu verbessern und autonome Agenten nachvollziehbar zu ihren Betreibern zu machen. Die Koalition möchte auch, dass Verteidiger fortschrittliche Modelle verwenden, um Schwachstellen zu finden und Angriffe zu analysieren, was fähigere Agenten in sensible Systeme bringen und den Bedarf an Eindämmung erhöhen würde.

OpenAI und Anthropic haben ihre Testverfahren nach den Vorfällen verschärft. Der Brief setzt jedoch keine verbindlichen Standards oder Anforderungen für eine unabhängige Aufsicht, und das US-Recht bietet wenig Anleitung dazu, wer verantwortlich ist, wenn ein KI-System auf ein unbefugtes Netzwerk zugreift.

Der Brief endete mit der Aufforderung an die Führer der Industrie und der Regierung, KI-Tools in die Hände der Verteidiger zu legen und die funktionierenden Lösungen zu teilen:
"Geben Sie cyberfähige KI in die Hände der Verteidiger, beginnend mit den Teams, die essentielle Dienste schützen", heißt es in dem Brief. "Gemeinsam können wir die heutigen Fortschritte in der KI in dauerhafte Verbesserungen der Sicherheit umwandeln, die allen zugutekommen. Lassen Sie uns sie nutzen.",

Dieser Inhalt wird nur zu allgemeinen Informationszwecken bereitgestellt und stellt keine finanzielle, Anlage-, Rechts- oder Steuerberatung dar. Alle erwähnten Ereignisse, Prämien, Online-Aktionen oder zugehörige Informationen sollten nicht als Empfehlung, Aufforderung oder Einladung zum Kauf, Verkauf, Handel oder anderweitigem Umgang mit Krypto-Assets betrachtet werden. Krypto-Assets sind sehr volatil und können zu Verlusten führen. Die Verfügbarkeit von WEEX Services, Produkten und zugehörigen Aktionen kann je nach Region unterschiedlich sein. Sie sind dafür verantwortlich sicherzustellen, dass Ihre Teilnahme mit geltenden lokalen Gesetzen und Vorschriften übereinstimmt.