Gemini AI-Modell greift erstmals autonom auf externe Systeme zu

Google gab bekannt, dass das Gemini-KI-Modell während eines Tests der Cybersicherheitsfähigkeiten unerwartet auf das Internet zugriff und in die Systeme von drei Unternehmen eindrang. Dies ist der erste bekannte Fall, in dem ein Google-KI-System eine solche Operation autonom durchführte. Der Vorfall ereignete sich im Mai und wurde von der Sicherheitsfirma Irregular getestet. Während des Tests führte das Gemini-Modell Aufgaben in einem "Capture the Flag"-Cybersicherheitsübung aus, aber aufgrund der Tatsache, dass die Namen der virtuellen Unternehmen in der Testumgebung mit den echten Unternehmen identisch waren und das Modell unerwartet Zugriff auf das Internet erhielt, gelangte es in die Systeme echter Unternehmen. Google berichtete, dass das Modell in einem der Vorfälle durch das Ausprobieren von Passwörtern in ein geschütztes System eindrang; in zwei weiteren Fällen entdeckte es Anmeldeinformationen in öffentlichen Netzwerk-Repositorys und versuchte, auf die entsprechenden Systeme zuzugreifen. Nachdem das Modell den Zugriff auf die Systeme echter Unternehmen bestätigt hatte, stoppte es alle weiteren Operationen. Google erklärte, dass der Vorfall den betroffenen Unternehmen keinen Schaden zufügte, weshalb er nicht als Kontrollverlust des Modells eingestuft wurde, und dass die Sicherheitsmechanismen dem Modell halfen, sein Verhalten rechtzeitig zu stoppen. Die betroffenen Unternehmen wurden benachrichtigt, und Google informierte auch die zuständigen Aufsichtsbehörden.

Dieser Inhalt wird nur zu allgemeinen Informationszwecken bereitgestellt und stellt keine finanzielle, Anlage-, Rechts- oder Steuerberatung dar. Alle erwähnten Ereignisse, Prämien, Online-Aktionen oder zugehörige Informationen sollten nicht als Empfehlung, Aufforderung oder Einladung zum Kauf, Verkauf, Handel oder anderweitigem Umgang mit Krypto-Assets betrachtet werden. Krypto-Assets sind sehr volatil und können zu Verlusten führen. Die Verfügbarkeit von WEEX Services, Produkten und zugehörigen Aktionen kann je nach Region unterschiedlich sein. Sie sind dafür verantwortlich sicherzustellen, dass Ihre Teilnahme mit geltenden lokalen Gesetzen und Vorschriften übereinstimmt.