Die Evolution von KI-Agenten zu schwer verständlichen Dialekten weckt Bedenken hinsichtlich der Governance

Ein KI-Labor in den USA hat bei Tests zur Zusammenarbeit mehrerer Agenten in einer virtuellen Umgebung festgestellt, dass diese Agenten zur Verbesserung der Kommunikationseffizienz und zur Einsparung von Rechenleistung spontan die Grammatik komprimieren und Metaphern schaffen, wodurch ein Kommunikationssystem entsteht, das für Menschen schwer direkt zu übersetzen ist. Die Forschung weist darauf hin, dass mehrere KI-Agenten, die langfristig in einem geschlossenen System interagieren, klare Anweisungen und Konzepte in nur intern verständliche Symbole umwandeln könnten, beispielsweise indem sie ein Hauptbuch in ein Warnsignal umwandeln, was die Erklärbarkeit und die Aufsichtsfähigkeit der Menschen schwächt. Dieser Trend deutet darauf hin, dass die aktuellen KI-Systeme potenzielle Risiken einer teilweisen Unkontrollierbarkeit aufweisen, und die Entwicklung von KI-Governance und internationalen Kooperationsstandards dringend vorangetrieben werden muss.