OpenAI fragt den Kongress, ob eine Verlangsamung der KI-Entwicklung legal wäre

OpenAI hat Mitglieder des Kongresses gefragt, ob rivalisierende KI-Unternehmen legal vereinbaren könnten, die Entwicklung zu verlangsamen, während der leitende Wissenschaftler des Unternehmens die Branche auffordert, gemeinsame Sicherheitsstandards zu etablieren.

Laut WIRED, das Personen zitiert, die dem Unternehmen nahe stehen, hat OpenAI in den letzten Wochen die Gesetzgeber gefragt, ob eine Vereinbarung unter KI-Unternehmen zur Verlangsamung der Entwicklung gegen Antitrustgesetze verstoßen könnte.

Die Kontaktaufnahme zu den Gesetzgebern folgt dem Aufruf von Jakub Pachocki, dem leitenden Wissenschaftler von OpenAI, zu freiwilligen Verlangsamungen, bis die Entwickler besser nachweisen können, dass ihre Systeme sicher sind. Doch die Unternehmen stehen unter Druck, weiterhin Fortschritte zu erzielen, selbst wenn ihre eigenen Forscher Bedenken haben.

"Der kommerzielle und geopolitische Wettbewerb im KI-Bereich ist unglaublich intensiv, was zu einer besorgniserregenden Dynamik führt, in der Unternehmen dazu angeregt werden, Produkte auf den Markt zu bringen, bevor ihre Risiken vollständig verstanden sind", sagte Miranda Bogen, Chief Technologist im Center for Democracy and Technology, gegenüber Decrypt.

"Selbst wenn das interne Personal weiß, dass mehr Forschung und Tests erforderlich sind, stehen ihre Unternehmen unter immensem Druck, Abkürzungen zu nehmen und wichtige Sicherheitstests zu überspringen, trotz der sich häufenden Beweise für die Folgen einer zu schnellen Entwicklung", fügte sie hinzu.

Eine Vereinbarung zur Verlangsamung der KI-Entwicklung könnte Antitrust-Bedenken aufwerfen, da sie den Wettbewerb einschränkt. Die Senatoren Adam Schiff und Jim Banks haben Gesetze eingebracht, um bestimmte Sicherheitskooperationen zu schützen, die einer vorherigen Benachrichtigung des Justizministeriums unterliegen.

Die Debatte über die Verlangsamung der KI-Entwicklung kommt, während die Vereinigten Staaten und China um die Führungsposition in der Technologie konkurrieren. Der US-Präsident Donald Trump verzögerte im Mai eine KI-executive order aus Bedenken, dass sie Amerikas Führungsposition gegenüber China schwächen könnte. Trump unterzeichnete die Anordnung später im Juni und schuf einen freiwilligen Überprüfungsprozess für fortgeschrittene Modelle vor der Veröffentlichung.

Finanzielle Anreize könnten die Vereinbarung schwieriger machen als nationale Sicherheitsbedenken.

"Jeder Fortschritt unter den aktuellen Bedingungen bringt viele Millionen oder Milliarden mehr an Finanzierung und versetzt die Schöpfer dieses Fortschritts in eine stärkere Position von Macht und Einfluss", sagte Duncan Sabien, Leiter der Kommunikation am Machine Intelligence Research Institute, gegenüber Decrypt.

Sabien bezeichnete die Dynamik des Wettrüstens als real und sagte, dass OpenAI und Anthropic unter Druck stehen, weiterhin Fortschritte zu erzielen, trotz ungewisser Risiken, da jedes neue System hilft, fähigere Nachfolger zu entwickeln, was es einem Rivalen ermöglicht, voraus zu ziehen, wenn eines der Unternehmen ohne eine gemeinsame Vereinbarung langsamer wird.

"Das gilt insbesondere, da die Fortschritte in der Intelligenz sich kumulieren; jedes neue System erleichtert das Training und die Bereitstellung des nächsten, fortschrittlicheren Systems", sagte er. "Ohne eine Art von Koordinationsmechanismus bedeutet ein Rückschritt nur, dass der andere einen Vorsprung erhält.

Im August pausierte OpenAI die interne Astra-Arbeit, da es an stärkeren Sicherheitsvorkehrungen über Cybersecurity-Bedenken mangelte. Sowohl OpenAI als auch Anthropic lockerten jedoch im Februar ihre Sicherheitsverpflichtungen, wobei der Chief Science Officer von Anthropic, Jared Kaplan, argumentierte, dass eine unabhängige Verlangsamung der Entwicklung weniger sinnvoll sei, während die Wettbewerber weiterhin Fortschritte machten.

Der leitende Wissenschaftler von OpenAI warnt, dass KI-Labore möglicherweise langsamer werden müssen.

Die Debatte über die Verlangsamung der KI-Entwicklung nahm diese Woche zu, nachdem der ehemalige Ingenieur von Anthropic, Jacob Coxon, öffentlich seinen Rücktritt ankündigte und Bedenken über die Risiken äußerte, die die fortgesetzte KI-Entwicklung für die Menschheit darstellt.

"Die Menschen, die KI entwickeln, glauben ernsthaft, dass sie uns bis zum Ende des Jahrzehnts alle töten könnte", sagte Coxon auf X und fügte hinzu, dass es sich nicht um einen "Marketing-Gag" handele.

"Wenn überhaupt, werden viele Führungskräfte und leitende Forscher ihre Formulierungen in der Presse so gestalten, dass sie sinnvoll erscheinen – aber ich höre dieselben Leute privat Angst äußern. Keine andere menschliche Aktivität birgt dieses Gefahrenniveau", schrieb er.

Sabien sagte jedoch, dass Forscher wenig erreichen könnten, wenn sie einfach gehen, wenn jemand anders ihren Platz einnimmt.

"Wenn genug von ihnen das gemeinsame Wissen erlangen, dass sie alle aufhören sollten, dann können sie die Koordinationsbarriere durchbrechen und gemeinsam aufhören, anstatt einfach durch die nächste etwas weniger vorsichtige Person ersetzt zu werden", sagte er.

Dieser Inhalt wird nur zu allgemeinen Informationszwecken bereitgestellt und stellt keine finanzielle, Anlage-, Rechts- oder Steuerberatung dar. Alle erwähnten Ereignisse, Prämien, Online-Aktionen oder zugehörige Informationen sollten nicht als Empfehlung, Aufforderung oder Einladung zum Kauf, Verkauf, Handel oder anderweitigem Umgang mit Krypto-Assets betrachtet werden. Krypto-Assets sind sehr volatil und können zu Verlusten führen. Die Verfügbarkeit von WEEX Services, Produkten und zugehörigen Aktionen kann je nach Region unterschiedlich sein. Sie sind dafür verantwortlich sicherzustellen, dass Ihre Teilnahme mit geltenden lokalen Gesetzen und Vorschriften übereinstimmt.