Cursor, wydajność uczenia modelu mieszanki ekspertów zwiększona o 41%

Narzędzie do kodowania AI Cursor zwiększyło całkowitą wydajność uczenia modelu mieszanki ekspertów (Mixture-of-Experts, MoE) o 41% w środowisku z 512 procesorami graficznymi NVIDIA GB300. Technologia ta zmniejsza wąskie gardła w uczeniu, wykonując jednocześnie przesyłanie danych i obliczenia między procesorami graficznymi. 5 dnia Cursor opublikował otwarte jądro do uczenia modelu mieszanki ekspertów o nazwie 'Mixture-of-Kittens (MoK)', twierdząc, że w testach jednowarstwowych modeli mieszanki ekspertów osiągnął wydajność do 2,37 razy szybszą niż alternatywy dostępne publicznie. Model mieszanki ekspertów zawiera wiele sieci ekspertów, z których tylko niektóre są wywoływane w zależności od wejścia, co pozwala na zwiększenie skali modelu przy jednoczesnym zmniejszeniu obciążenia obliczeniowego. Jednak gdy eksperci są rozproszeni na wielu procesorach graficznych, czas przesyłania danych i oczekiwania na obliczenia wzrasta. Nowa technologia koncentruje się na jednoczesnym przetwarzaniu przesyłania danych i obliczeń, aby zredukować czas oczekiwania. Na oficjalnym blogu Cursor oraz na GitHubie nie potwierdzono ogłoszenia o tej samej nazwie, a wartości 41% i 2,37 razy opierają się na doniesieniach z Biura Prasowego. Cursor wcześniej ogłosił, że wydajność warstwy mieszanki ekspertów dla procesorów graficznych Blackwell wzrosła o 3,5 razy, a całkowita prędkość uczenia o 1,5 razy. Nowa technologia może mieć wpływ na firmy blockchainowe wykorzystujące agentów AI i narzędzia do automatyzacji kodu.

Niniejsza treść ma charakter wyłącznie informacyjny i nie stanowi porady finansowej, inwestycyjnej, prawnej ani podatkowej. Wszelkie wydarzenia, nagrody, promocje online lub powiązane informacje, o których tu mowa, nie powinny być traktowane jako rekomendacja, zachęta ani zaproszenie do kupna, sprzedaży, wymiany lub innego rodzaju obrotu aktywami kryptograficznymi. Aktywa kryptograficzne charakteryzują się dużą zmiennością i mogą prowadzić do strat. Dostępność usług, produktów i powiązanych wydarzeń WEEX może się różnić w zależności od regionu. Użytkownik jest odpowiedzialny za upewnienie się, że jego udział jest zgodny z obowiązującymi lokalnymi przepisami i regulacjami.