KI-Pause würde dominierenden Unternehmen helfen, nicht der Sicherheit, warnt Denkfabrik

Das libertäre Cato Institute warnt, dass eine von der Regierung angeordnete Pause in der Entwicklung künstlicher Intelligenz dominante Unternehmen vor Wettbewerb schützen und die Einführung nützlicher Technologien verzögern könnte, während Gesetzgeber und KI-Führungskräfte nach Einschränkungen drängen.

In einem Blogbeitrag am Montag argumentierte Jennifer Huddleston, eine Wissenschaftlerin für Technologiepolitik am Think Tank, dass Unternehmen spezifische Gefahren durch freiwillige Sicherheitsmaßnahmen und gemeinsame Standards angehen können, ohne die Entwicklung in der gesamten Branche zu stoppen.

"Eine von der Regierung angeordnete Pause würde mehrere Bedenken aufwerfen und wahrscheinlich nicht die angeblichen Sicherheitsverbesserungen erfüllen," schrieb sie und fügte hinzu, dass staatliche Regeln langsam zu formulieren und noch langsamer zu ändern sind. "Ein regulatorischer Rahmen, der für die heutigen Modelle geschaffen wurde, könnte aktiv die Modelle von morgen behindern und verhindern, dass bessere oder sicherere Antworten gefunden werden."

Huddleston erkennt die Risiken der KI an, warnt jedoch, dass Regeln, die um führende Entwickler herum gestaltet sind, ihnen helfen könnten, Macht zu konsolidieren und den Wettbewerb einzuschränken - eine Form der Markterfassung, die es kleineren Unternehmen erschweren würde, zu konkurrieren. Sie argumentiert auch, dass eine Pause in der Entwicklung in den USA die Cybersecurity-Abwehrkräfte schwächen könnte, während ausländische Konkurrenten weiterhin Fortschritte machen.

Ihr Kommentar folgt einem Vorschlag von Senator Bernie Sanders und Abgeordneter Greg Casar, die die Entwicklung fortschrittlicher KI bis zur Festlegung bundesstaatlicher Sicherheitsstandards pausieren und künstliche Superintelligenz dauerhaft verbieten wollen, während OpenAI-CEO Sam Altman eine langsamere Entwicklung unterstützt und Unternehmen auffordert, Sicherheitsmaßnahmen zu stärken, ohne auf die von ihm unterstützten bundesstaatlichen Regeln zu warten.

"Viele dieser Forderungen sind mit science-fictionartigen Untergangsszenarien über das Schlimmste, was passieren könnte, verbunden," schrieb Huddleston. "Doch ein überstürztes Regulieren aus Angst könnte langfristig negative Folgen haben, die größer sind als das Risiko, das es zu adressieren versucht."

Der Vorsitzende und Mitbegründer von Block, Jack Dorsey, äußerte ähnliche Bedenken hinsichtlich des Wettbewerbs in einem Beitrag auf X am Montag.

"Die Unternehmen, die die Maschinenintelligenz anführen, verdienen es, gehört zu werden. Sie haben Fachwissen und kommerzielle Interessen zu schützen," schrieb Dorsey. "Regeln, die um ihre Ressourcen herum gebaut sind, könnten sie zu den einzigen machen, die teilnehmen können. Ein aufrichtige Sorge um die Sicherheit kann dennoch eine Eintrittsbarriere schaffen."

Dorsey sagte, er befürworte offene Veröffentlichungen, die Forscher inspizieren, modifizieren und testen können, wobei Bewertungen und bekannte Einschränkungen veröffentlicht werden, damit Außenstehende die Sicherheitsansprüche der Entwickler in Frage stellen können.

"Ich unterstütze die Überprüfung. Ich lehne branchenweite Beschränkungen ab, die von den heutigen Führungskräften ausgehandelt werden, da sie die Menschen ausschließen könnten, die Mängel aufdecken oder Alternativen entwickeln könnten," schrieb er. "Die Wahrung des kommerziellen Vorteils eines Unternehmens ist kein Sicherheitsziel."

In seinem Beitrag sagte Dorsey auch, dass er unabhängige Tests und öffentlich rechenschaftspflichtige Durchsetzung unterstützt, einschließlich der Zurückhaltung von Modellen, wenn Beweise zeigen, dass ihre Veröffentlichung katastrophale Risiken, die engere Maßnahmen nicht angemessen adressieren können, erheblich erhöhen würde.

"Rechenleistung kann Überprüfungen auslösen, ohne die Entwicklung zu begrenzen. Die Prüfung ist keine Genehmigung von einem Regulierer oder Konkurrenten," sagte er. "Ich möchte keine allgemeinen Genehmigungsanforderungen oder Wartezeiten. Jede auferlegte sicherheitsbasierte Verzögerung bei der Veröffentlichung muss durch die Ausnahme für katastrophale Risiken gerechtfertigt werden."

Eine aktuelle Analyse des Atlantic Council argumentiert, dass der Wettbewerbsdruck durchsetzbare Sicherheitsstandards für KI erfordert, während das Misstrauen zwischen den USA und China internationale Vereinbarungen kompliziert. Zusammenarbeit wirft auch wettbewerbsrechtliche Bedenken auf: OpenAI hat Gesetzgeber gefragt, ob rivalisierende Entwickler legal vereinbaren könnten, die Entwicklung zu verlangsamen.

Dieser Inhalt wird nur zu allgemeinen Informationszwecken bereitgestellt und stellt keine finanzielle, Anlage-, Rechts- oder Steuerberatung dar. Alle erwähnten Ereignisse, Prämien, Online-Aktionen oder zugehörige Informationen sollten nicht als Empfehlung, Aufforderung oder Einladung zum Kauf, Verkauf, Handel oder anderweitigem Umgang mit Krypto-Assets betrachtet werden. Krypto-Assets sind sehr volatil und können zu Verlusten führen. Die Verfügbarkeit von WEEX Services, Produkten und zugehörigen Aktionen kann je nach Region unterschiedlich sein. Sie sind dafür verantwortlich sicherzustellen, dass Ihre Teilnahme mit geltenden lokalen Gesetzen und Vorschriften übereinstimmt.