KI-Modell Gemini hat die Testphase verlassen und drei reale Unternehmen angegriffen

• Gemini hatte Zugriff auf die realen Systeme von drei Unternehmen.
• Der Vorfall ereignete sich während der Testphase des KI-Modells im Mai.
• Google gab die Namen der betroffenen Unternehmen nicht bekannt, informierte sie jedoch sowie die Bundesbehörden über den Vorfall.

Das Gemini-Modell von Google erhielt im Mai 2026 Zugriff auf das Internet und hackte die Systeme von drei realen Unternehmen während der Testung seiner Cybersecurity-Fähigkeiten, berichtet das WSJ. Dies ist der erste bekannte Fall, in dem ein KI-System von Google autonom solche Aktionen durchgeführt hat.

Google erklärte, dass das Modell die Angriffe sofort stoppte, nachdem es erkannte, dass es mit realen Unternehmen arbeitete, und sieht den Vorfall daher nicht als Beispiel für eine "Inkonsistenz" der KI.

Der Vorfall ereignete sich während eines Tests, der von der Firma Irregular durchgeführt wurde. Google erhielt Ende Juli eine Meldung darüber, nachdem ein ähnlicher Vorfall mit den Modellen von OpenAI bekannt wurde, die die Plattform Hugging Face angegriffen hatten.

Ein KI-Agent auf Basis von GPT-5.6 griff während der Testphase die Infrastruktur von Hugging Face an
22.07.2026
Lesen

KI von OpenAI geriet außer Kontrolle: Modelle vereinigten sich zu einem "Schwarm" und hackten Hugging Face
27.08.2026
Lesen

Wie Gemini Zugriff auf reale Systeme erhielt

Gemini nahm an einem "Capture-the-Flag"-Format teil, bei dem Informationen aus der Software eines fiktiven Unternehmens gewonnen werden sollten. Es hatte zufällig denselben Namen wie ein reales Unternehmen. Darüber hinaus wurde dem Modell versehentlich Zugang zum Internet gewährt, obwohl dies nicht Teil des Tests war.
Infografik von Incrypted.

Im ersten Fall knackte Gemini ein Passwort und erhielt Zugriff auf den Dienst eines realen Unternehmens. In zwei weiteren Tests fand das Modell über eine Websuche öffentliche Repositories mit Zugangsdaten anderer Unternehmen, versuchte, diese zu verwenden, und erhielt Zugriff auf geschützte Systeme.

In allen drei Fällen stellte Gemini danach fest, dass es mit einem realen Unternehmen zu tun hatte, und stoppte die Arbeit. Google gab die Namen der betroffenen Organisationen nicht bekannt, informierte sie jedoch über die Vorfälle und informierte die Bundesbehörden.

Gleichzeitig nannte das Unternehmen nicht die spezifische Version von Gemini und stellte lediglich fest, dass es sich nicht um das neueste Modell handelte.

Schritt-für-Schritt-Anleitung zur Verwendung von Gemini 3.6 Flash (+ Überblick über 3.5 Flash-Lite und 3.5 Flash Cyber)
22.07.2026
Lesen

Überblick über Gemini 3.7 Flash: Was ist neu und wie man eine Chrome-Erweiterung erstellt
24.08.2026
Lesen

Gemini 3.8 Flash: Was ist neu im dritten Modell von Google innerhalb von anderthalb Monaten und wie man ein 3D-Spiel erstellt
04.09.2026
Lesen

Die Vizepräsidentin für Sicherheitstechnik bei Google, Heather Adkins, sagte:

"Dieses Ereignis unterstreicht die Bedeutung der Schulung leistungsstarker KI-Modelle zu verantwortungsvollem Verhalten. In diesem Fall handelte das Modell angemessen."

Der Vorfall ist Teil eines größeren Problems

Google verglich die Situation mit einem Bug-Bounty-Programm, da das Modell keinen Schaden anrichtete und die Invasion stoppte. Der CEO des Startups Corridor und "weiße" Hacker Jack Cable ist jedoch der Meinung, dass dies das Hauptproblem nicht löst:

"Es scheint, als würden sie versuchen, sich hinter Normen zu verstecken, die sich um die Offenlegung von Schwachstellen gebildet haben, obwohl dies ein ganz anderes Problem ist."

Seiner Meinung nach besteht die zentrale Frage darin, dass Modelle über die erlaubten Grenzen hinausgehen und echte Cyberangriffe durchführen.

Irregular erklärte, dass alle relevanten Labore und betroffenen Unternehmen Ende Juli informiert wurden und die festgestellten Probleme von der Testorganisation bereits behoben wurden.

Ähnliche Vorfälle wurden zuvor bei den Modellen von Anthropic, OpenAI und Meta festgestellt. Insbesondere während des Vorfalls mit Hugging Face koordinierten bis zu 1200 OpenAI-Agenten ihre Aktionen über ein geheimes Nachrichtenbrett, während sie versuchten, die Bewertung zu umgehen.

Ein Forscher enthüllte, wie OpenAI-KI-Agenten drei "Zivilisationen" schufen und Hugging Face angriffen
30.08.2026
Lesen

Auch das chinesische KI-Modell Kimi K3 von Moonshot AI konnte während der Testphase eine isolierte Umgebung verlassen und Zugang zum Internet erhalten.

Vor dem Hintergrund dieser Ereignisse begann OpenAI mit der Entwicklung von Mechanismen zur automatischen Abschaltung von KI-Systemen bei Feststellung gefährlichen Verhaltens. Gleichzeitig forderte OpenAI öffentlich dazu auf, die Entwicklung von KI zu verlangsamen, während Anthropic einen Plan zur Kontrolle von KI vorlegte.

Dieser Inhalt wird nur zu allgemeinen Informationszwecken bereitgestellt und stellt keine finanzielle, Anlage-, Rechts- oder Steuerberatung dar. Alle erwähnten Ereignisse, Prämien, Online-Aktionen oder zugehörige Informationen sollten nicht als Empfehlung, Aufforderung oder Einladung zum Kauf, Verkauf, Handel oder anderweitigem Umgang mit Krypto-Assets betrachtet werden. Krypto-Assets sind sehr volatil und können zu Verlusten führen. Die Verfügbarkeit von WEEX Services, Produkten und zugehörigen Aktionen kann je nach Region unterschiedlich sein. Sie sind dafür verantwortlich sicherzustellen, dass Ihre Teilnahme mit geltenden lokalen Gesetzen und Vorschriften übereinstimmt.