Cursor verbessert die Trainingsleistung des Experten-Mischmodells um 41%

Das KI-Coding-Tool Cursor hat die Trainingsleistung seiner Mixture-of-Experts (MoE)-Modelltechnologie in einer Umgebung mit 512 NVIDIA GB300 GPUs um 41% gesteigert. Diese Technologie reduziert Engpässe beim Training, indem sie die Datenübertragung und Berechnungen zwischen den GPUs überlappt ausführt. Am 5. veröffentlichte Cursor den Open-Source-Kernel "Mixture-of-Kittens (MoK)" für das Training von Experten-Mischmodellen und behauptete, dass es in Tests mit einer einzelnen Experten-Mischschicht eine bis zu 2,37-mal schnellere Leistung als alternative Lösungen erzielt hat. Das Experten-Mischmodell umfasst mehrere Expertennetzwerke, von denen nur einige je nach Eingabe aufgerufen werden, wodurch die Rechenlast verringert und die Modellgröße erhöht werden kann. Wenn die Experten jedoch auf mehrere GPUs verteilt sind, verlängern sich die Datenbewegung und die Wartezeiten für Berechnungen. Diese Technologie konzentriert sich darauf, die Wartezeiten zu reduzieren, indem sie Datenübertragung und Berechnungen gleichzeitig verarbeitet. Auf dem offiziellen Blog von Cursor und auf GitHub wurde keine entsprechende Ankündigung gefunden, und die Zahlen von 41% und 2,37-mal basieren auf Berichten von Dongchal Biting. Cursor hatte zuvor erklärt, dass die Leistung der Experten-Mischschicht für Blackwell-GPUs um das 3,5-fache und die gesamte Trainingsgeschwindigkeit um das 1,5-fache gesteigert wurde. Diese Technologie könnte Auswirkungen auf Blockchain-Unternehmen haben, die KI-Agenten und Code-Automatisierungstools nutzen.

Dieser Inhalt wird nur zu allgemeinen Informationszwecken bereitgestellt und stellt keine finanzielle, Anlage-, Rechts- oder Steuerberatung dar. Alle erwähnten Ereignisse, Prämien, Online-Aktionen oder zugehörige Informationen sollten nicht als Empfehlung, Aufforderung oder Einladung zum Kauf, Verkauf, Handel oder anderweitigem Umgang mit Krypto-Assets betrachtet werden. Krypto-Assets sind sehr volatil und können zu Verlusten führen. Die Verfügbarkeit von WEEX Services, Produkten und zugehörigen Aktionen kann je nach Region unterschiedlich sein. Sie sind dafür verantwortlich sicherzustellen, dass Ihre Teilnahme mit geltenden lokalen Gesetzen und Vorschriften übereinstimmt.