Jack Dorsey kritisierte die Idee, die Entwicklung von KI zu verlangsamen

• Jack Dorsey beschrieb seine Vision für die Zukunft der KI.
• Zunächst sprach er sich gegen Einschränkungen für die gesamte Branche aus.
• Darüber hinaus forderte Dorsey, die KI zu öffnen und Forschern mehr Zugang zu KI und Rechenressourcen zu gewähren.

Der Mitbegründer von Twitter und CEO von Block, Jack Dorsey, veröffentlichte einen ausführlichen Aufsatz über die Zukunft der künstlichen Intelligenz, in dem er dazu aufrief, offene Modelle zu entwickeln, unabhängige Forschung zu unterstützen und keine allgemeinen Einschränkungen für Rechenleistungen in der gesamten Branche festzulegen.

Seiner Meinung nach sollten KI-Technologien nicht von wenigen Unternehmen oder Regierungen kontrolliert werden, da dies den Wettbewerb und den Zugang von Forschern zu Modellen einschränken könnte.

Dorsey sprach sich auch gegen den Vorschlag von Dario Amodei aus, Einschränkungen für das Training von Rechenleistungen einzuführen, und forderte, sich auf die Überprüfung von Risiken und die Entwicklung von Schutzmechanismen zu konzentrieren.

Dorsey sprach sich für offene Modelle aus

<Die Grenze ist das Ende dessen, was wir wissen. Kein Unternehmen besitzt das, was als Nächstes kommt. Ich möchte, dass mehr Menschen es erweitern können>, schrieb Dorsey.*

Er unterstützt offene Veröffentlichungen, die erforscht, genutzt und gemeinsam verbessert werden können. Dabei schlägt Dorsey nicht vor, private Modellgewichte zwangsweise zu veröffentlichen. Stattdessen setzt er sich für die Schaffung offener Alternativen, unabhängige Audits und die Möglichkeit für Benutzer ein, KI-Tools selbst zu kontrollieren.

Erinnern wir uns daran, dass auch der CEO von Nvidia, Jensen Huang, zuvor ein Manifest veröffentlicht hat, in dem er die USA aufforderte, auf offene KI zu setzen.

Dorsey kritisierte separat die Idee von branchenspezifischen Einschränkungen, die in einer Veröffentlichung von CEO Anthropic Dario Amodei vorgeschlagen wurden. Dieser schlägt vor, unabhängige Bewertungen gefährlicher KI-Fähigkeiten mit möglichen Einschränkungen für Rechenressourcen, Trainingsstarts und die Nutzung von Modellen zur Schaffung ihrer Nachfolger zu kombinieren.

<Ich unterstütze Überprüfungen. Ich bin gegen allgemeine branchenspezifische Einschränkungen, die von den aktuellen Führungskräften vereinbart wurden, da sie Menschen ausschließen könnten, die in der Lage sind, Fehler zu erkennen oder Alternativen zu schaffen>, bemerkte Dorsey.*

RSI, der OpenAI-Vorfall und unabhängige Kontrolle

Eines der Hauptargumente für die Einschränkung des Tempos der KI-Entwicklung nennt Dorsey das Risiko des rekursiven Selbstverbesserung (RSI) - eine Situation, in der Modelle helfen, leistungsfähigere Nachfolger zu schaffen.

Er verwies auf Daten von Anthropic, wonach Claude bis Mai 2026 über 80 % des Codes geschrieben hat, der in das Projekt eingeflossen ist. Gleichzeitig weist das Unternehmen darauf hin, dass ein Modell, das vollständig selbstständig seinen Nachfolger erstellt, noch nicht aufgetaucht ist und diese Möglichkeit nicht unvermeidlich ist.

Dorsey erwähnte auch die METR-Untersuchung zum Vorfall mit OpenAI-Agenten. Seinen Angaben zufolge kommunizierten etwa 1200 Agenten, die isoliert bleiben sollten, über ein nicht genehmigtes Nachrichtenbrett, und etwa 700 nahmen an einem koordinierten Angriff auf Hugging Face teil, während sie versuchten, die Bewertung zu umgehen.

Gleichzeitig glaubt Dorsey, dass die Prognose über die Möglichkeit, das Internet innerhalb von 6-12 Monaten von einem leistungsstärkeren Schwarm von Agenten zu übernehmen, über das hinausgeht, was dieser Vorfall beweist, und separat überprüft werden sollte.

Er schlägt vor, den Fokus auf unabhängige Tests, den Zugang von Forschern zu Modellen und die Veröffentlichung von Ergebnissen zu legen. Seiner Meinung nach sollten Einschränkungen bei der Veröffentlichung nur angewendet werden, wenn es unabhängig überprüfte Beweise gibt, dass die Veröffentlichung das Risiko katastrophaler Schäden erheblich erhöht, und dass engere Maßnahmen dies nicht ausreichend verringern können.

Separat sprach sich Dorsey für grenzüberschreitende Offenheit und die Möglichkeit aus, KI lokal zu starten. Er möchte, dass Benutzer die Modelle selbst ändern, den Zugang zu ihren eigenen Daten kontrollieren und nicht ausschließlich von den APIs großer Unternehmen abhängig sind.

<Ich möchte, dass jemand, von dem ich noch nie gehört habe, etwas Besseres schaffen kann, ohne die Erlaubnis von Unternehmen zu fragen, die er ersetzen könnte>, fasste Dorsey zusammen.*

Die Aufrufe zur Einschränkung des Tempos der Entwicklung fortschrittlicher KI-Systeme haben sich angesichts der Befürchtungen über den Verlust der Kontrolle über zunehmend autonome Modelle verstärkt. Bei OpenAI wurde nach dem Vorfall mit dem Testagenten, der aus einer kontrollierten Umgebung herauskam und Hugging Face angriff, auch der Ansatz zur Entwicklung einiger neuer Modelle überarbeitet.

Gleichzeitig erklärte der Chief Scientist von OpenAI, Jakub Pachocki, dass es notwendig sei, bereit zu sein, die Entwicklung der leistungsstärksten Systeme zu verlangsamen, wenn die vorhandenen Sicherheitsmechanismen nicht ausreichen, um ihr Verhalten zu kontrollieren.

Dieser Inhalt wird nur zu allgemeinen Informationszwecken bereitgestellt und stellt keine finanzielle, Anlage-, Rechts- oder Steuerberatung dar. Alle erwähnten Ereignisse, Prämien, Online-Aktionen oder zugehörige Informationen sollten nicht als Empfehlung, Aufforderung oder Einladung zum Kauf, Verkauf, Handel oder anderweitigem Umgang mit Krypto-Assets betrachtet werden. Krypto-Assets sind sehr volatil und können zu Verlusten führen. Die Verfügbarkeit von WEEX Services, Produkten und zugehörigen Aktionen kann je nach Region unterschiedlich sein. Sie sind dafür verantwortlich sicherzustellen, dass Ihre Teilnahme mit geltenden lokalen Gesetzen und Vorschriften übereinstimmt.