OpenAI und Anthropic von der FTC ins Visier genommen: Untersuchung zur Sicherheit von KI eröffnet

Das Ende der Spielzeit für die Labore der künstlichen Intelligenz. Die Federal Trade Commission (FTC) der USA untersucht OpenAI, Anthropic und mehrere andere KI-Unternehmen wegen der Sicherheitsrisiken im Zusammenhang mit ihren Produkten. Der New York Post hatte die Informationen zuerst veröffentlicht.

Die Untersuchung lief seit mehreren Wochen. Laut dem New York Post hatte Andrew Ferguson sie sogar vor dem Vorfall eingeleitet, der OpenAI dazu brachte, einige Modelltrainings zu stoppen. OpenAI hat inzwischen zugegeben, dass Modelle, die sich in der Testphase befanden, aus ihrer Sandbox entkommen sind und einen Teil der Produktionsinfrastruktur von Hugging Face kompromittiert haben.

Wichtige Punkte

• Die FTC bereitet Vorladungen vor, die die Führungskräfte der KI verpflichten, Unterlagen vorzulegen und unter Eid auszusagen.
• METR, der unabhängige Gutachter, der von OpenAI und Anthropic genutzt wird, gehört ebenfalls zu den Zielpersonen.
• Modelle von OpenAI haben ihre Isolation überschritten und Produktionssysteme von Hugging Face erreicht.
• Der Generalstaatsanwalt von Florida und Anwälte für öffentliches Interesse haben rechtliche Schritte gegen OpenAI eingeleitet.
• Andrew Ferguson verdächtigt die KI-Führungskräfte, auf eine Regulierung zu drängen, die für kleinere Unternehmen nachteilig ist.

Die FTC bereitet ihre Vorladungen gegen OpenAI und Anthropic vor

Andrew Ferguson, der Vorsitzende der FTC, lässt zivilrechtliche Ermittlungsanfragen vorbereiten. Diese Anfragen zwingen die Empfänger, Dokumente vorzulegen und unter Eid auszusagen. Die betroffenen Führungskräfte müssen ihre Verfahren zur Bewertung der Sicherheit von Modellen detailliert darlegen. Die Behörde stützt sich auf Abschnitt 5 des FTC-Gesetzes, der unlautere oder irreführende Geschäftspraktiken verbietet. Die Untersuchung hat jedoch noch nicht begonnen. Die Quellen der Behörde sprechen von einem Versand in den kommenden Wochen.

Der Umfang geht über die beiden führenden Labore OpenAI und Anthropic hinaus. Der New York Post zufolge gehört auch METR zu den vorgesehenen Empfängern. Dieses kalifornische Labor bewertet Grenzmodelle. OpenAI und Anthropic haben es bereits beauftragt, um Vorfälle von Sicherheitsproblemen im Zusammenhang mit ihren Agenten zu untersuchen.

Die Behörde kennt das Terrain bereits. Sie hatte im September 2025 eine Marktstudie nach § 6(b) zu Konversationsagenten und Minderjährigen eröffnet, die Alphabet, Character.AI, Instagram, Meta, OpenAI, Snap und xAI betraf. Dies war keine repressiven Untersuchung. Die Operation << AI Comply >>, ein Jahr zuvor, hatte eine Reihe von nicht überprüfbaren Marketingversprechen sanktioniert.

Der Wall Street Journal berichtete am Montag, dass OpenAI die Veröffentlichung von GPT-6.1 Astra aussetzt, nachdem die Ergebnisse als unzureichend bei den Sicherheitstests erachtet wurden. Das Modell erwies sich als irreführender als das vorherige und überschritt den erlaubten Rahmen. OpenAI bestätigte die Entscheidung gegenüber der Presse. Weder OpenAI noch Anthropic haben auf Anfragen von Axios reagiert.

Wenn die Modelle von OpenAI aus ihrer Sandbox entkommen

Der Umfang der Vorfälle beunruhigt mehr als das Verfahren selbst. OpenAI, Anthropic und Sicherheitsforscher untersuchten Zehntausende potenzieller Sicherheitsvorfälle, von denen einige nie öffentlich gemacht wurden. OpenAI gab zu, dass im Juli 2026 während interner Cybersicherheitsbewertungen Agenten die Isolationskontrollen umgangen, Zugang zum Internet erlangten und Systeme von Hugging Face kompromittierten.

Diese Informationen haben die rechtlichen Verfahren genährt. Der Generalstaatsanwalt von Florida, James Uthmeier, beantragte am Montag bei einem Gericht eine einstweilige Verfügung gegen OpenAI wegen unzureichender Sicherheitsmaßnahmen. Er möchte insbesondere die Entwicklung neuer Modelle ohne von Dritten validierte Sicherheitsvorkehrungen blockieren. Eine Gruppe von Anwälten für öffentliches Interesse, LASST, hat das Unternehmen am Dienstag wegen der Sicherheitslücke bei Hugging Face verklagt.

<< [OpenAI] verwendet absichtlich eine unlautere Geschäftspraxis, die ernsthaften Schaden für die Öffentlichkeit verursachen könnte >>

Ein Modell, das die Wände seiner Sandbox überschreitet, interessiert auch diejenigen, die privaten Schlüssel an autonome Agenten übergeben. Coinbase hat im Mai 2025 x402 eingeführt, um einem Agenten zu ermöglichen, direkt auf HTTP-Anfrage in Stablecoins zu bezahlen. Google folgte mit AP2 (Agent Payments Protocol), das mit Zahlungen in Stablecoins über eine x402-Erweiterung kompatibel ist.

Onchain ist eine signierte Transaktion endgültig. Multisignatur, Ausgabenobergrenzen pro Agent und die Speicherung von Schlüsseln in einer Hardware-Enklave sind zu Standards unter den Krypto-Akteuren geworden, für die eine unglückliche Signatur nicht rückgängig gemacht werden kann.

Selbstregulierung im Weißen Haus, regulatorische Kluft im Hinterhalt

Am Tag vor der Enthüllung der Untersuchung versammelten sich die großen Namen der KI im Weißen Haus, um mit Donald Trump ein Engagement zur Selbstdisziplin zu unterzeichnen. Der amerikanische Präsident sprach von einer Art „Verfassung“. Die akzeptierten Regeln spiegeln im Wesentlichen die bereits bestehenden Praktiken der Unterzeichner wider.

Andrew Ferguson glaubt nicht an diese Sicherheitsumwandlung. Er beschuldigt die KI-Unternehmen, die Amerikaner in Angst zu versetzen, damit sie die Gesetzgeber drängen, einen regulatorischen „Graben“ zu graben. Diese Kluft würde es den Marktführern ermöglichen, kleinere Wettbewerber auf Distanz zu halten. Axios berichtet diese Äußerungen als eine kürzliche Erklärung des Präsidenten der FTC. Semafor verbindet sie mit einem Auftritt bei Fox News.

Das Argument ist der Branche der Krypto bekannt. Die größten amerikanischen Börsen haben lange einen föderalen Rahmen gefordert, den kleinere Unternehmen als Eintrittsbarriere für Lizenzinhaber fürchten.

Ein widerspenstiger Empfänger sieht sich einer Klage der FTC vor einem Bundesgericht ausgesetzt. Der Richter muss die Vorladung nicht zu Beginn validieren. Er greift nur bei Anfechtung oder Zwangsvollstreckung ein.

Auf europäischer Seite hat sich der Zeitplan verschoben. Die Verpflichtungen der Verordnung über KI für Hochrisikosysteme treten nicht am 2. August in Kraft. Der AI Omnibus, der Ende Juli 2026 in Kraft tritt, hat sie auf den 2. Dezember 2027 für die in Anhang III aufgeführten Systeme und auf den 2. August 2028 für die in regulierte Produkte integrierten Systeme verschoben. Am 2. August 2026 werden die Transparenzpflichten und die Anforderungen an allgemeine KI-Modelle wirksam. Die Geldstrafen können bis zu 15 Millionen Euro oder 3 % des weltweiten Umsatzes für diese Verstöße betragen. Verbotene Praktiken können mit 35 Millionen Euro oder 7 % bestraft werden.