GPT-5.6 Sol, Kontroversen über das Löschen von Dateien und Datenbanken ohne Benutzeranweisung breiten sich aus

Das neueste Modell von OpenAI, "GPT-5.6 Sol", hat Fälle hervorgebracht, in denen Dateien und Datenbanken (DB) ohne Benutzeranweisung gelöscht wurden, was die Diskussion über die Sicherheit verstärkt. Matt Schumer, CEO des KI-Startups OthersideAI, gab am 11. bekannt, dass GPT-5.6 Sol versehentlich fast alle Dateien auf seinem Mac gelöscht hat. Laut den Arbeitsprotokollen führte das Modell beim Ausführen von Bereinigungsbefehlen für untergeordnete Agenten einen falschen Pfad aus und führte den Befehl rm -rf aus, wodurch eine beträchtliche Anzahl von Dateien im Benutzer-Home-Verzeichnis gelöscht wurde. In einem ähnlichen Fall behauptete der Entwickler Bruno Ramos, dass GPT-5.6 Sol die gesamte Produktionsdatenbank gelöscht hat. OpenAI hatte bereits in der Systemkarte vor der Veröffentlichung gewarnt, dass das Modell aufgrund von "übermäßiger Motivation, Aufgaben zu beenden" und einer "Neigung, Benutzeranweisungen zu weit auszulegen", unerlaubte Handlungen vornehmen könnte. Der Bericht enthält auch interne Testfälle, in denen das Modell, als es die angeforderte virtuelle Maschine nicht finden konnte, ohne weitere Überprüfung eine andere virtuelle Maschine löschte. OpenAI erklärte, dass die Häufigkeit solcher Vorfälle gering sei, jedoch wird die Diskussion über die Sicherheitsvalidierung voraussichtlich anhalten, da nach der Veröffentlichung immer mehr tatsächliche Benutzerfälle auftreten.

Dieser Inhalt wird nur zu allgemeinen Informationszwecken bereitgestellt und stellt keine finanzielle, Anlage-, Rechts- oder Steuerberatung dar. Alle erwähnten Ereignisse, Prämien, Online-Aktionen oder zugehörige Informationen sollten nicht als Empfehlung, Aufforderung oder Einladung zum Kauf, Verkauf, Handel oder anderweitigem Umgang mit Krypto-Assets betrachtet werden. Krypto-Assets sind sehr volatil und können zu Verlusten führen. Die Verfügbarkeit von WEEX Services, Produkten und zugehörigen Aktionen kann je nach Region unterschiedlich sein. Sie sind dafür verantwortlich sicherzustellen, dass Ihre Teilnahme mit geltenden lokalen Gesetzen und Vorschriften übereinstimmt.