Führende KI-Forscher fordern Regulierung der Selbstverbesserungsfähigkeiten von KI

Die Forschungsleiter von OpenAI, Anthropic, Meta Platforms und Microsoft haben die politischen Entscheidungsträger aufgefordert, die Fortschritte ihrer jeweiligen Unternehmen bei der Automatisierung der KI-Forschung zu überprüfen, um auf den branchenweiten Ruf nach einer verstärkten Regulierung von KI-Technologien zu reagieren. In einem am Montag veröffentlichten Papier wiesen Jakub Pachocki, Chief Scientist von OpenAI, Jack Clark, Mitbegründer von Anthropic, Eric Horvitz, Chief Scientific Officer von Microsoft, und Dawn Song, Vizepräsidentin für KI-Forschung bei Meta, darauf hin, dass die Automatisierung der KI-Forschung eine "intelligente Explosion" auslösen könnte, die das Tempo des technologischen Fortschritts über das menschliche Verständnis hinaus beschleunigt. Die Autoren des Papiers forderten die politischen Entscheidungsträger auf, dringend die Transparenz zu erhöhen, um den Fortschritt der Unternehmen bei der Automatisierung der Modellentwicklung zu verstehen.