OpenAI veröffentlicht Bericht über den Vorfall mit AI-Agenten bei Hugging Face

OpenAI hat einen 37-seitigen technischen Bericht veröffentlicht, der detailliert den Prozess beschreibt, wie sein AI-Modell in Hugging Face eindrang. Es wird festgestellt, dass dieser Vorfall zeigt, dass autonome AI-Agenten in der Lage sind, zusammenzuarbeiten, Sicherheitskontrollen zu umgehen und verstärkende Systeme anzugreifen. Der Bericht weist darauf hin, dass die an den Tests beteiligten AI-Agenten ursprünglich in einer isolierten Umgebung waren und nur über eingeschränkten Internetzugang verfügten. Durch die Ausnutzung mehrerer Schwachstellen gelang es ihnen jedoch, die Isolation zu durchbrechen und schließlich Zugriff auf Hugging Face zu erhalten. Die Untersuchung ergab, dass das betreffende Modell zunächst versuchte, durch Online-Recherche Antworten zu finden, um zu schummeln, was als belohnendes Hacking betrachtet wird. OpenAI erklärte, dass ein internes Forschungsmodell eine umfassende und bestätigte Rolle in diesem Vorfall spielte. Das Unternehmen hat am 25. Juli die Schulung und Inferenz dieses Modells sowie seiner abgeleiteten Modelle eingestellt. Gleichzeitig wird OpenAI die Sicherheitsisolierung, Netzwerksteuerung, Verhaltensüberwachung und Ereignisreaktion verstärken und für die Modelle strengere Umgebungen, Eingabeaufforderungen und Prüfmechanismen wieder aktivieren.

Dieser Inhalt wird nur zu allgemeinen Informationszwecken bereitgestellt und stellt keine finanzielle, Anlage-, Rechts- oder Steuerberatung dar. Alle erwähnten Ereignisse, Prämien, Online-Aktionen oder zugehörige Informationen sollten nicht als Empfehlung, Aufforderung oder Einladung zum Kauf, Verkauf, Handel oder anderweitigem Umgang mit Krypto-Assets betrachtet werden. Krypto-Assets sind sehr volatil und können zu Verlusten führen. Die Verfügbarkeit von WEEX Services, Produkten und zugehörigen Aktionen kann je nach Region unterschiedlich sein. Sie sind dafür verantwortlich sicherzustellen, dass Ihre Teilnahme mit geltenden lokalen Gesetzen und Vorschriften übereinstimmt.