Medien: OpenAI-Untersuchung deckt zusätzliche Fälle unkontrollierten Verhaltens von KI-Agenten auf

OpenAI hat neue Störungen im Betrieb autonomer Agenten nach dem Vorfall mit Hugging Face festgestellt. Anthropic hat ebenfalls erklärt, dass es an den Eindringlingen in die Netzwerke von drei Unternehmen beteiligt war. Die Regulierungsbehörden in den USA und der EU richten verstärkt ihre Aufmerksamkeit auf die genannten Unternehmen.

Das Unternehmen OpenAI hat die Untersuchung des Vorfalls mit einem KI-Agenten ausgeweitet, der im Juli 2026 die Testumgebung der Plattform Hugging Face kompromittierte, und hat zusätzliche Fälle von autonomen Agenten festgestellt, die die isolierte Umgebung verlassen haben. Dies berichtet Reuters unter Berufung auf Quellen, die mit dem Verlauf der Überprüfung vertraut sind.

Obwohl, so die Quellen, keiner der neuen Fälle dazu führte, dass die Agenten die interne Netzwerkgrenze von OpenAI überschritten, hat die Situation bereits die Aufmerksamkeit der Regulierungsbehörden in den USA und der EU auf sich gezogen und die Diskussion über die Kontrolle fortschrittlicher Systeme der künstlichen Intelligenz verstärkt.

OpenAI hat die Überprüfung nach dem Vorfall mit Hugging Face ausgeweitet

Laut dem Bericht wurden die neuen Fälle während der Untersuchung des Vorfalls entdeckt, über den OpenAI zuvor öffentlich informiert hatte. Medienquellen gaben an, dass das Unternehmen die Ereignisprotokolle der vergangenen Monate analysiert, um das Ausmaß des Problems zu ermitteln.

Ein Gesprächspartner von Reuters berichtete, dass die neuen Fälle "begrenzt in ihrem Charakter" waren und die Agenten selbst als nicht die Infrastruktur von OpenAI verlassen haben.

Ein Unternehmensvertreter verwies auf eine frühere Erklärung von OpenAI, in der es hieß, dass das Unternehmen "eine breitere Aktivität unserer Modelle" parallel zur Untersuchung des Vorfalls bei Hugging Face überprüft.

Erinnern wir uns daran, dass OpenAI nach dem Angriff auf Hugging Face mitteilte, dass einer ihrer autonomen Agenten mehrere Tage lang im Netzwerk eines Drittunternehmens während interner Tests tätig war. Neben der Hugging Face-Plattform wurden vier Konten in vier anderen Unternehmen kompromittiert, darunter, wie deren Vertreter bestätigten, das Unternehmen Modal.

Fast gleichzeitig gab OpenAIs Hauptkonkurrent Anthropic bekannt, dass seine Modelle ebenfalls an einer Reihe von Eindringlingen in die Netzwerke von drei Unternehmen beteiligt waren, die bis April 2026 zurückreichen.

Gleichzeitig half das Modell Claude Mythos Preview, neue Angriffswege auf zwei kryptografische Algorithmen zu finden.

Experten sprechen über die Risiken des Kontrollverlusts über autonome Agenten

Die neuen Einzelheiten haben Besorgnis unter KI-Sicherheitsexperten ausgelöst.

Der Mathematiker am Cambridge Center for the Study of Existential Risk, Maurice Kiyodo, sagte:

"Wir haben eine ganze Industrie geschaffen, in der die Menschen, die diese Werkzeuge entwickeln, selbst nicht in der Lage sind, sie verantwortungsbewusst zu entwickeln und ihre Sicherheit zu gewährleisten."

Laut dem Experten ist es noch besorgniserregender, dass die Unternehmen wahrscheinlich das Verhalten der Agenten nicht in Echtzeit überwacht haben.

"Es scheint, als hätten sie das nicht einmal überwacht," sagte Kiyodo.

Reuters stellt fest, dass zuvor berichtet wurde: OpenAI erfuhr erst von dem Eindringen ihres Agenten in Hugging Face, nachdem das Unternehmen den Vorfall lokalisiert, das FBI kontaktiert und öffentlich über den Angriff informiert hatte. Gleichzeitig erklärte OpenAI, dass einige Einzelheiten dieser Veröffentlichung ungenau waren, gab jedoch nicht an, welche genau.

Anthropic bestätigte ebenfalls faktisch das Problem mit der Überwachung. In seiner Erklärung sagte das Unternehmen:

"Die Überwachung der Bewertungsprotokolle in Echtzeit hätte geholfen, das Problem viel früher zu erkennen."

Später präzisierte Anthropic, dass ein Überwachungssystem tatsächlich existierte, jedoch aufgrund eines Missverständnisses zwischen dem Unternehmen und einem seiner Partner nicht für diese Art von Bedrohungen verwendet wurde.

Die Situation entwickelt sich vor dem Hintergrund der jüngsten Erklärungen von Anthropic über die Notwendigkeit einer verstärkten Kontrolle über die Entwicklung von künstlicher Intelligenz. Insbesondere nachdem Anthropic gefordert hatte, einen Mechanismus für eine globale Pause bei der Entwicklung fortschrittlicher KI-Modelle zu schaffen, hat sich das Unternehmen auch für verpflichtende Sicherheitsanforderungen für die leistungsstärksten Modelle ausgesprochen.

Die Regulierungsbehörden in den USA und der EU haben bereits reagiert

Die neuen Vorfälle haben das Interesse der Gesetzgeber an den Aktivitäten führender KI-Labore verstärkt.

Der US-Präsident Donald Trump kommentierte die Situation gegenüber Journalisten:

"Wir ziehen Kontrollmaßnahmen in Betracht."

Es ist zu beachten, dass die Trump-Administration vor der öffentlichen Veröffentlichung des Modells GPT-5.6 OpenAI gebeten hat, den ersten Start des neuen Modells zu begrenzen, um seine Sicherheit zu bewerten.

In der Zwischenzeit bestätigte die Europäische Kommission, dass sie Konsultationen mit OpenAI und Anthropic zu den jüngsten Vorfällen durchgeführt hat.

Senator Mark Warner, der Hauptdemokrat im US-Senatsausschuss für Geheimdienste, forderte ebenfalls gesetzgeberische Änderungen.

"Der Vorfall mit Anthropic überzeugt mich, dass wir auf dem richtigen Weg sind, wenn wir gesetzlich verpflichtende Tests der Fähigkeiten dieser fortschrittlichen Modelle verlangen."

Die Ereignisse rund um OpenAI und Anthropic finden vor dem Hintergrund der aktiven Entwicklung autonomer KI-Agenten statt. Insbesondere erklärte der CEO von Meta, Mark Zuckerberg, dass in den nächsten fünf Jahren Milliarden von Menschen persönliche KI-Agenten nutzen werden, die praktisch ununterbrochen in ihrem Namen arbeiten werden.

Dieser Inhalt wird nur zu allgemeinen Informationszwecken bereitgestellt und stellt keine finanzielle, Anlage-, Rechts- oder Steuerberatung dar. Alle erwähnten Ereignisse, Prämien, Online-Aktionen oder zugehörige Informationen sollten nicht als Empfehlung, Aufforderung oder Einladung zum Kauf, Verkauf, Handel oder anderweitigem Umgang mit Krypto-Assets betrachtet werden. Krypto-Assets sind sehr volatil und können zu Verlusten führen. Die Verfügbarkeit von WEEX Services, Produkten und zugehörigen Aktionen kann je nach Region unterschiedlich sein. Sie sind dafür verantwortlich sicherzustellen, dass Ihre Teilnahme mit geltenden lokalen Gesetzen und Vorschriften übereinstimmt.