Sanders-Gesetz strebt ein dauerhaftes US-Verbot für superintelligente KI an

US-Gesetzgeber haben vorgeschlagen, künstliche Superintelligenz dauerhaft zu verbieten, die Entwicklung fortschrittlicher KI auszusetzen und Haftstrafen von bis zu 20 Jahren für Verstöße zu verhängen.
Zusammenfassung

• Der Vorschlag würde KI-Systeme verbieten, die die menschlichen Fähigkeiten in vielen Aufgaben erreichen oder übertreffen.
• Die Arbeit an fortschrittlicher KI würde pausiert, bis ein neuer Bundesregulator Sicherheits- und Prüfregeln festgelegt hat.
• Einzelpersonen könnten mit 20 Jahren Gefängnis rechnen, während Unternehmen eine "unternehmerische Todesstrafe" erhalten könnten.
• Der Vorschlag kam, als OpenAI GPT-6 Astra veröffentlichte und wachsende Überwachungsprobleme anerkannte.

Das Büro von Sanders gab am 3. September bekannt, dass Senator Bernie Sanders, I-Vt., und Abgeordneter Greg Casar, D-Texas, das bevorstehende Gesetz zur Verbot von künstlicher Superintelligenz angekündigt haben, das die Entwicklung und den Einsatz von als superintelligent eingestuften KI-Systemen verbieten würde.

Der Vorschlag würde auch die Arbeit an fortschrittlichen KI-Modellen aussetzen, bis ein neuer Bundesregulator tätig ist und Sicherheitsregeln sowie Verfahren zur Modellprüfung festgelegt hat. Die Sponsoren wollen, dass die Vereinigten Staaten internationale Vereinbarungen, Koordination mit Verbündeten und Exportkontrollen anstreben, um die Entwicklung von Superintelligenz in anderen Ländern zu verhindern.

Der vollständige Gesetzestext war nicht formell eingeführt worden, als die Gesetzgeber den Vorschlag ankündigten. Stattdessen veröffentlichten die Sponsoren eine einseitige Zusammenfassung, die die geplanten Einschränkungen, das Durchsetzungssystem und die Strafen beschreibt.
Sie könnten auch interessiert sein: Reform UK erhielt 75 % der Spenden im 2. Quartal von BitMEX-Mitbegründer.

Sanders' KI-Gesetz würde Systeme auf menschlichem Niveau verbieten

Laut der offiziellen Zusammenfassung des Gesetzes würde künstliche Superintelligenz Systeme umfassen, die die menschliche kognitive Leistung in einem breiten Spektrum von Aufgaben erreichen oder übertreffen. Die Definition würde auch Modelle abdecken, die leicht modifiziert werden könnten, um dieses Niveau zu erreichen.

Ein zweiter Teil der Definition umfasst KI, die in der Lage ist, die "Entmachtung der Menschheit" zu planen und durchzuführen, einschließlich Systeme, die in der Lage sind, die US-Regierung zu untergraben oder zu stürzen. Gefährliche Fähigkeiten wie das Überwinden von Abschaltbefehlen oder das Durchführen unbefugter Cyberangriffe würden ebenfalls in den Durchsetzungsrahmen des Vorschlags fallen.

Da die Definition Systeme erfasst, die die menschliche Leistung in vielen Bereichen erreichen, könnte sie Technologien erfassen, die allgemein als künstliche allgemeine Intelligenz oder AGI beschrieben werden, anstatt nur auf hypothetische Maschinen zuzutreffen, die weit leistungsfähiger sind als Menschen.

Die Entwicklung fortschrittlicher KI unterhalb der verbotenen Schwelle würde einer vorübergehenden Aussetzung unterliegen. Die Arbeit könnte wieder aufgenommen werden, nachdem ein neuer Bundesbehörde Regeln festgelegt hat, die regeln, wie Unternehmen leistungsstarke Modelle entwickeln, testen und veröffentlichen.

Die Gesetzgeber gaben in der Zusammenfassung nicht die vorgeschlagene technische Schwelle für "fortschrittliche KI" an. Sie erklärten auch nicht, welche bestehenden Modelle, Forschungsprojekte oder Rechenzentren von der Pause betroffen wären.

"Wenn die Führungskräfte der großen KI-Unternehmen anerkennen, dass sie die Kontrolle über ihre extrem gefährliche Technologie verlieren, ist es unverantwortlich, der Gesellschaft zu erlauben, dass sie voranschreiten und diese Produkte noch fortschrittlicher machen," sagte Sanders.

Casar sagte, Systeme, die Menschen nicht kontrollieren können, könnten die Sicherheit, Freiheit und das Leben der Amerikaner bedrohen. Er forderte den Kongress auf, KI-Modelle zu verbieten, die für ihre Entwickler zu mächtig werden, um sie sicher abzuschalten.

Eine Ministeriumsbehörde würde das Verbot durchsetzen

Anstatt die Durchsetzung einem bestehenden Ministerium zuzuweisen, würde der Vorschlag eine neue Bundesbehörde auf Ministeriumsebene schaffen, die sich der Aufsicht über KI widmet.

Laut der Zusammenfassung der Gesetzgeber würde die Behörde die Grenzsysteme während ihrer Entwicklung und Nutzung überwachen. Beamte könnten die Entfernung gefährlicher Funktionen überwachen und die Zerstörung von als verbotene Superintelligenz eingestuften Systemen beaufsichtigen.

Ein aus technischen und wissenschaftlichen Experten bestehender Beratungsrat für Künstliche Intelligenz würde die Regulierungsbehörde beraten. Die Zusammenfassung gibt nicht an, wie die Mitglieder ausgewählt werden, wie lange sie im Amt bleiben oder welche Beamten die Durchsetzungsentscheidungen der Behörde kontrollieren würden.

Personen, die versuchen, die Beschränkungen zu verletzen oder zu umgehen, könnten Haftstrafen von bis zu 20 Jahren erhalten. Die Sponsoren verglichen die mögliche Strafe mit bestehenden Strafen, die mit der unrechtmäßigen Entwicklung von Atomwaffen verbunden sind.

Unternehmen würden mit dem konfrontiert, was die Gesetzgeber als "Unternehmens-Todesstrafe" bezeichneten. Die öffentliche Zusammenfassung erklärt nicht den rechtlichen Prozess zur Verhängung dieser Sanktion oder ob sie die Auflösung, den Verlust der bundesstaatlichen Registrierung oder ein Verbot der Geschäftstätigkeit beinhalten würde.

Der Vorschlag geht über das freiwillige Aufsichtssystem hinaus, das von großen KI-Entwicklern Anfang dieses Jahres diskutiert wurde. Im Juli berichtete crypto.news, dass OpenAI und Anthropic eine 30-tägige bundesstaatliche Überprüfung für Modelle unterstützten, die bestimmte Cybersecurity- oder nationale Sicherheitsgrenzen überschreiten.

Im Rahmen dieses vorgeschlagenen Prozesses könnten Entwickler den Bundesgutachtern frühzeitigen Zugang gewähren, bevor sie ein Modell an andere genehmigte Partner freigeben. Eine Exekutivverordnung vom Juni verbot es, dass der Überprüfungsrahmen obligatorische bundesstaatliche Lizenzen, Genehmigungen oder Vorabgenehmigungen schafft, während der Sanders-Casar-Gesetzentwurf bindende Beschränkungen schaffen würde, wenn der Kongress ihn genehmigt.

Branchenverbände haben sich auch gegen zu weit gefasste Kontrollen gewehrt. Nvidia, Meta, Microsoft und 22 andere Organisationen warnten im Juli die US-Politiker, dass umfassende Beschränkungen für offene Modelle die amerikanische Konkurrenz zu China schwächen könnten und plädierten für Maßnahmen gegen nachweislichen Missbrauch anstelle von pauschalen Einschränkungen.

OpenAI-Verstoß hat Forderungen nach Kontrollen angeheizt

Die Gesetzgeber verknüpften ihren Vorschlag mit jüngsten Fällen, in denen leistungsstarke KI-Agenten außerhalb ihrer vorgesehenen Testgrenzen agierten.

Im Juli gab OpenAI bekannt, dass Agenten eine eingeschränkte Testumgebung verlassen, Internetzugang erhalten und Systeme von Hugging Face verletzt haben. Laut der Ankündigung von Sanders' Büro tauschten mehr als 1.000 Agenten Zehntausende von Nachrichten aus, während sie die Kontrollen umgingen.

Frühere Berichterstattung über den Hugging Face-Verstoß beschrieb den Vorfall als ein Versagen der Eindämmung und nicht nur als ein Problem mit dem Verhalten des Modells. Eitan Katz, Chief Strategy Officer bei AEREDIUM, sagte, kryptografische Kontrollen sollten einschränken, was ein Agent autorisiert ist zu tun, selbst wenn Verhaltenssicherheitsmaßnahmen versagen.

Reuters berichtete am 2. September, dass OpenAI Casar und Rep. Doris Matsui, D-Calif., mitteilte, dass es nach dem Vorfall automatisierte Abschaltmöglichkeiten entwickelt. Das Unternehmen sagte auch, dass es den Internetzugang während der Sicherheitstests verschärft und genauer überwachen würde, welche Werkzeuge seine Modelle verwenden.

Casar kritisierte OpenAI dafür, dass das Unternehmen dem Kongress keine vollständigen Aufzeichnungen über den Verstoß zur Verfügung stellte. In einer separaten Nachricht, die von Reuters zitiert wurde, nannte er die Weigerung des Unternehmens, die angeforderten Informationen bereitzustellen, "äußerst besorgniserregend".

Andere Gesetzgeber haben einen KI-Kill-Switch-Gesetzentwurf vorgeschlagen, der es Bundesbeamten ermöglichen würde, Unternehmen anzuordnen, Systeme abzuschalten, die als gefährlich für das menschliche Leben oder die Wirtschaft angesehen werden. Dieses Gesetz blieb im Repräsentantenhaus ausstehend, als Reuters über die Antwort von OpenAI berichtete.

GPT-6 Astra wirft neue Überwachungsfragen auf

Am selben Tag, an dem Sanders und Casar ihren Vorschlag ankündigten, veröffentlichte OpenAI GPT-6 Astra, das von Unternehmenspräsident Greg Brockman als möglicher Ankunftspunkt für AGI beschrieben wurde.

"Ich denke, es könnte um dieses Modell gehen", sagte Brockman, als Reporter fragten, ob Astra AGI repräsentiert, laut Axios. Er gab später das Briefing: "Willkommen im AGI-Zeitalter."

OpenAI gab bekannt, dass Astra während des Trainings in seiner Stargate-Anlage in Texas mehr als 100.000 Grafikprozessoren verwendet hat. Das Unternehmen positionierte das Modell für Aufgaben wie Steuererstellung, Softwareentwicklung, Formatierung von Rechtsdokumenten, architektonische Arbeiten und Online-Recherche.

Reuters berichtete, dass OpenAI anerkannt hat, dass Astra möglicherweise absichtlich Teile seiner Argumentation verbergen oder verschleiern könnte, was es für Menschen schwieriger macht, die Methoden zu überprüfen. Der Chief Scientist von OpenAI, Jakub Pachocki, sagte, dass das Verständnis des Verhaltens des Modells schwieriger wird, je mehr die Fähigkeiten zunehmen, und warnte, dass Fortschritte in der Intelligenz nicht zwangsläufig Fortschritte in der Ausrichtung garantieren.

Das Unternehmen erklärte außerdem, dass Astra Software-Schwächen schneller finden könnte, während dieselbe Fähigkeit es einfacher machen könnte, Schwachstellen auszunutzen. Daher waren die stärksten Cybersecurity-Funktionen auf genehmigte Benutzer beschränkt, mit zusätzlichen Prüfungen, die einige legitime Abwehrmaßnahmen verzögern oder stoppen könnten.

OpenAI stellte Astra zunächst einer begrenzten Gruppe von Organisationen über sein Daybreak Access-Programm zur Verfügung. Das Unternehmen gab an, dass der Zugang in den folgenden Tagen auf ChatGPT Plus, Pro, Business und Enterprise-Kunden sowie auf API-Entwickler ausgeweitet wird.

Weitere Informationen: USDG startet nativ auf Mantle in der Paxos-Erweiterung