Anthropic verhindert mehrere Versuche zur Forschung an biologischen Waffen

Anthropic gab bekannt, dass in diesem Jahr mehrere Versuche von Wissenschaftlern, ihre Technologie zur möglichen Unterstützung der Forschung an biologischen Waffen zu nutzen, verhindert wurden. Das Unternehmen nannte fünf Fälle, in denen die betreffenden Akteure Kontrollmaßnahmen umgingen und die Forschungsziele verwischten, um Sicherheitsvorkehrungen zu umgehen. Anthropic hofft, durch die Veröffentlichung dieser Fälle eine Diskussion in der KI-Branche und unter den Regierungen über neuartige biologische Risiken und deren Bewältigung anzustoßen. Zu den Fällen gehört ein Forscher aus einem nicht unterstützten Gebiet, der Claude nutzte, um Experimente im Zusammenhang mit Vogelgrippe zu planen. Anthropic erklärte, dass die Sicherheitsfiltermechanismen die Forschung auf das schwächste Modell beschränkten und betonte, dass nicht festgestellt werden kann, ob der Wissenschaftler absichtlich Schaden anrichten wollte; die Informationen, die für die Entwicklung biologischer Waffen erforderlich sind, könnten auch zur Entwicklung von Impfstoffen verwendet werden. Das Unternehmen hat die im Bericht genannten Konten gesperrt, gab jedoch nicht bekannt, welcher Institution der Forscher angehört und in welchem Land die Vorfälle stattfanden.

Dieser Inhalt wird nur zu allgemeinen Informationszwecken bereitgestellt und stellt keine finanzielle, Anlage-, Rechts- oder Steuerberatung dar. Alle erwähnten Ereignisse, Prämien, Online-Aktionen oder zugehörige Informationen sollten nicht als Empfehlung, Aufforderung oder Einladung zum Kauf, Verkauf, Handel oder anderweitigem Umgang mit Krypto-Assets betrachtet werden. Krypto-Assets sind sehr volatil und können zu Verlusten führen. Die Verfügbarkeit von WEEX Services, Produkten und zugehörigen Aktionen kann je nach Region unterschiedlich sein. Sie sind dafür verantwortlich sicherzustellen, dass Ihre Teilnahme mit geltenden lokalen Gesetzen und Vorschriften übereinstimmt.