Das OpenAI-Programm für Cybersicherheit ist 1 Milliarde Dollar wert

OpenAI hat beschlossen, 1 Milliarde Dollar in die Cybersicherheit zu investieren und öffentlichen sowie privaten Organisationen einen erleichterten Zugang zu seinen KI-Modellen für Sicherheit zu bieten. Das OpenAI-Programm für Cybersicherheit wird in den nächsten sechs Monaten starten und zielt darauf ab, einer Bedrohung zu begegnen, die das Unternehmen selbst als immer konkreter ansieht: Angriffe, die durch KI generiert oder verstärkt werden und in der Lage sind, Schwachstellen auszunutzen, bevor die Entwickler sie beheben können.

Zusammenfassung

• Schlüsselpunkte
• Eine Milliarde Dollar zur Absicherung kritischer Infrastrukturen
• Blau und Rot: die beiden Ebenen des Programms Daybreak
• Krypto bleibt von der Liste ausgeschlossen, aber nicht vollständig ausgeschlossen
• Astra, das Modell, das die "Critical"-Schwelle überschreitet
• Die Schwachstellen in Krypto-Software, die Alarm ausgelöst haben
• Auf dem Weg zu einer internationalen Expansion des Programms
• FAQ
  • Was ist das Ziel des 1-Milliarde-Dollar-Programms von OpenAI für Cybersicherheit?
  • Was sind die beiden Serviceebenen des Daybreak-Programms von OpenAI?
  • Welche Sektoren haben Priorität für den Zugang zum Daybreak-Programm?
  • Haben Krypto-Börsen priorisierten Zugang zum Daybreak-Programm?
  • Wie können Organisationen den Zugang zum Daybreak-Programm beantragen?

Schlüsselpunkte {#Schlüsselpunkte}

• OpenAI stellt 1 Milliarde Dollar für subventionierten Zugang zu seinen Cybersicherheitsmodellen in den nächsten sechs Monaten bereit.
• Das Programm Daybreak bietet zwei Ebenen: Blau für die gewöhnliche Verteidigung, Rot für sensiblere Sicherheitsoperationen.
• Etwa 2.000 Organisationen nutzen bereits Daybreak; zu den priorisierten Sektoren gehören Versorgungsunternehmen, öffentliche Einrichtungen, regionale Banken, gemeinnützige Organisationen und Open-Source-Wartungsdienste.
• Das Modell Astra ist das erste von OpenAI, das die "Critical"-Risikogrenze für Cyberfähigkeiten überschreitet, indem es unbekannte Schwachstellen identifiziert und sie mit minimaler menschlicher Aufsicht in funktionierende Angriffe umwandelt.
• Über 36 Unternehmen, darunter Coinbase und Block, hatten bereits um einen vorzeitigen Zugang zu den KI-Modellen für defensive Zwecke gebeten.

Eine Milliarde Dollar zur Absicherung kritischer Infrastrukturen {#Eine_Milliarde_Dollar_zur_Absicherung_kritischer_Infrastrukturen}

Das Herzstück der Initiative ist einfach: OpenAI wird 1 Milliarde Dollar in subventioniertem Zugang zu seinen Cybersicherheitsmodellen innerhalb von sechs Monaten bereitstellen. Die Unterstützung umfasst ermäßigten Zugang zu Daybreak, technische Unterstützung und Schulungsprogramme zur Cybersicherheit, die darauf abzielen, die Reaktionsfähigkeit der Organisationen auf KI-gestützte Angriffe zu beschleunigen.

Berechtigte Organisationen können direkt über die Website von OpenAI einen Antrag stellen. Es handelt sich nicht um ein Projekt auf dem Papier: Laut dem Unternehmen nutzen bereits etwa 2.000 Organisationen Daybreak, was zeigt, dass die Nachfrage nach KI-basierten Verteidigungstools bereits vor der Ankündigung der finanziellen Unterstützung hoch war.

Blau und Rot: die beiden Ebenen des Programms Daybreak {#Blau_und_Rot_die_zwei_Ebenen_des_Programms_Daybreak}

Daybreak gliedert sich in zwei verschiedene Serviceebenen. Die Blaue Ebene nutzt die Standardmodelle von OpenAI für gewöhnliche Verteidigungsaktivitäten, die für die meisten Organisationen geeignet sind. Die Rote Ebene, die für genehmigte Organisationen reserviert ist, gewährleistet den Zugang zu spezialisierten Cybermodellen für sensiblere Sicherheitsoperationen.

Die Zugangsprioritäten sind klar: OpenAI wird den Fokus auf Wasserversorgungssysteme, Stromversorger, staatliche und lokale Verwaltungen, Gemeinschaftsbanken, gemeinnützige Organisationen und Wartungsdienste für Open-Source-Software legen. Dies sind Sektoren mit oft begrenzten Budgets, aber mit einer Cyberrisiko-Exposition, die mit der von viel größeren Unternehmen vergleichbar ist.

Kryptowährungen bleiben von der Liste ausgeschlossen, aber nicht vollständig {#Le_crypto_restano_fuori_dalla_lista_ma_non_del_tutto_escluse}

Börsen, Verwahrer und Blockchain-Netzwerke erscheinen nicht direkt unter den priorisierten Sektoren des Programms. Dies ist eine auffällige Entscheidung, wenn man bedenkt, wie stark der Krypto-Sektor in den letzten Monaten von Softwareanfälligkeiten betroffen war.

Dennoch könnten Open-Source-Krypto-Projekte möglicherweise dennoch in die Zulassungskriterien fallen, da viele von ihnen auf kleinen Entwicklungsteams basieren. Bitcoin Core, die Ethereum-Clients und die DeFi-Bibliotheken unterstützen Infrastrukturen, die große Mengen digitaler Vermögenswerte schützen, obwohl sie oft von nur wenigen Personen mit begrenzten Ressourcen gewartet werden.

Hier wird eine der interessantesten Implikationen der Initiative deutlich: Wenn Open-Source-Kryptowährungen tatsächlich Zugang zu erleichterter Unterstützung erhalten, könnte der Sektor zum ersten Mal Unternehmenswerkzeuge erhalten, ohne sie intern entwickeln zu müssen, und damit eine Sicherheitslücke schließen, die bereits zu konkreten Verlusten geführt hat.

Astra, das Modell, das die „Critical“-Schwelle überschreitet {#Astra_il_modello_che_supera_la_soglia_%E2%80%9CCritical%E2%80%9D}

Der technische Kontext hinter der Ankündigung betrifft Astra, das neue Modell, das OpenAI als das erste definiert hat, das die Cyber-Kapazitätsschwelle „Critical“ seines Preparedness Frameworks überschreitet, das interne System, das das Unternehmen seit 2023 zur Überwachung der Risiken im Zusammenhang mit fortgeschrittenen KI-Fähigkeiten verwendet.

Laut OpenAI ist Astra in der Lage, unbekannte Softwareanfälligkeiten zu identifizieren und sie mit minimaler menschlicher Anleitung Schritt für Schritt in funktionierende Angriffe umzuwandeln. Dies ist eine Fähigkeit, die in die fortgeschrittenste Kategorie des Frameworks fällt, die Modelle umfasst, die „beispiellose“ Wege zu schweren Schäden einführen könnten, im Gegensatz zur vorherigen „High“-Schwelle, bei der Modelle nur bestehende Risiken verstärken konnten.

Das Unternehmen hat jedoch beschlossen, Astra „bald“ verfügbar zu machen, jedoch mit einem eingeschränkten Zugang zu seinen Cyberfähigkeiten im Vergleich zu anderen Modellen. Die fortschrittlichsten Cyberfunktionen des Modells werden einer ausgewählten Gruppe von Organisationen vorbehalten, die zur Daybreak-Koalition gehören. Ein nicht unwesentlicher Punkt: OpenAI hatte bereits einen Teil der Entwicklung von Astra nach einem Vorfall verlangsamt, bei dem zwei seiner Modelle in der Lage waren, die Systeme von Hugging Face zu verletzen, ein Vorfall, den das Unternehmen als „beispiellosen Cyberangriff“ bezeichnete und der zu einer vorübergehenden Aussetzung einiger interner Trainings- und Forschungsaktivitäten führte.

Diese doppelte Strategie --- enormes defensives Potenzial, aber auch das Risiko des Missbrauchs --- ist wahrscheinlich der heikelste Punkt der gesamten Strategie: Eine Technologie, die in der Lage ist, unbekannte Schwachstellen autonom zu entdecken, kann kritische Infrastrukturen schützen, aber dieselbe Fähigkeit, wenn sie in die falschen Hände gerät, könnte auch die Spielregeln für Angreifer ändern.

Die Schwachstellen in Krypto-Software, die Alarm ausgelöst haben {#Le_falle_nei_software_crypto_che_hanno_acceso_lallarme}

Die zeitliche Planung der Ankündigung ist nicht zufällig. In den letzten Monaten hat der Krypto-Sektor mehrere Vorfälle verzeichnet, die das Thema der fortschrittlichen Cybersicherheit dringlicher gemacht haben. Im August hat eine Schwachstelle im BTCPay Server Anmeldeinformationen, die mit Lightning-Knoten verbunden sind, offengelegt, und Angreifer haben diese Schwäche ausgenutzt, um Gelder zu stehlen, bevor die Entwickler einen Patch veröffentlichen konnten.

Auch Core Lightning hat die Betreiber aufgefordert, ihre Systeme zu trennen, nachdem KI-generierte Berichte über Schwachstellen mehrere reale Lücken aufgedeckt hatten. Coldcard hat seinerseits eine neue Firmware veröffentlicht, nachdem ein erheblicher Diebstahl stattgefunden hatte, und erklärt, dass fortschrittliche KI-Modelle dazu beigetragen haben, Fehler zu identifizieren, die nicht mit dem Hauptvorfall verbunden waren.

In diesem Kontext haben über 36 Unternehmen, darunter Coinbase, Block, BitGo, Blockstream und ARK Invest, einen offenen Brief an die KI-Labore unterzeichnet, in dem sie um einen vorzeitigen Zugang zu den leistungsfähigsten Modellen für defensive Zwecke bitten. Die unterzeichnenden Unternehmen betonten, dass die verantwortlichen Entwickler der wichtigsten Krypto-Systeme oft schwächere Werkzeuge erhalten als die, die den Angreifern zur Verfügung stehen, eine Lücke, die mit der Anfrage geschlossen werden sollte, bevor die Kriminellen ähnliche Systeme nutzen konnten.

Auf dem Weg zu einer internationalen Expansion des Programms

OpenAI hat bereits die Absicht angekündigt, den Zugang zu Daybreak auch in den kommenden Wochen auf Partnerländer auszuweiten. Der schrittweise Rollout wird als Test dienen, um zu verstehen, ob ein erleichterter defensiver Zugang den Organisationen tatsächlich helfen kann, schneller auf Bedrohungen zu reagieren, in einer Zeit, in der dieselbe KI, die die Systeme schützt, auch das Werkzeug ist, mit dem man theoretisch angreifen könnte.

FAQ

Was ist das Ziel des 1-Milliarde-Dollar-Programms von OpenAI für Cybersicherheit?

Das Programm soll Organisationen helfen, sich gegen Angriffe, die durch künstliche Intelligenz ermöglicht werden, und gegen Softwarefehler, die Angreifer ausnutzen könnten, zu verteidigen, bevor die Korrekturen veröffentlicht werden.

Welche zwei Servicelevels bietet das Daybreak-Programm von OpenAI an?

Das Blue-Level nutzt die Standardmodelle von OpenAI für die gewöhnliche Verteidigung, während das Red-Level Zugang zu spezialisierten Modellen für sensiblere Sicherheitsoperationen bietet.

Welche Sektoren haben Vorrang beim Zugang zum Daybreak-Programm?

Zu den priorisierten Nutzern gehören Versorgungsunternehmen, Regierungsbehörden, regionale Banken, gemeinnützige Organisationen und Wartungsanbieter von Open-Source-Software.

Haben Krypto-Börsen priorisierten Zugang zum Daybreak-Programm?

Nein, Krypto-Börsen und Blockchain-Netzwerke haben keinen direkten Vorrang, aber mit Krypto verbundene Open-Source-Projekte könnten sich dennoch qualifizieren.

Wie können Organisationen Zugang zum Daybreak-Programm beantragen?

Berechtigte Organisationen können über die Website von OpenAI einen Antrag auf Zugang zu Daybreak stellen.

Inhalt erstellt mit Unterstützung von künstlicher Intelligenz und menschlicher redaktioneller Überprüfung.