Cursor покращив продуктивність навчання моделі змішаних експертів на 41%

AI інструмент кодування Cursor покращив технологію навчання моделі змішаних експертів (Mixture-of-Experts, MoE), підвищивши загальну продуктивність на 41% у середовищі з 512 графічними процесорами NVIDIA GB300. Ця технологія зменшує затримки в навчанні, виконуючи передачу даних і обчислення одночасно між графічними процесорами. 5 числа Cursor опублікував відкритий вихідний код для навчання моделі змішаних експертів під назвою 'Mixture-of-Kittens (MoK)', стверджуючи, що в тестах з одним шаром змішаних експертів він показав продуктивність до 2,37 разів швидше, ніж альтернативи, що були опубліковані. Модель змішаних експертів включає кілька експертних мереж, з яких лише деякі викликаються в залежності від вхідних даних, що дозволяє зменшити обсяги обчислень і збільшити масштаб моделі. Однак, коли експерти розподілені між кількома графічними процесорами, час переміщення даних і очікування обчислень збільшується. Ця технологія зосереджена на зменшенні затримок, обробляючи передачу даних і обчислення одночасно. На офіційному блозі Cursor та GitHub не було підтвердження щодо оголошення з такою ж назвою, а цифри 41% і 2,37 рази базуються на звіті Dongchul Biting. Раніше Cursor повідомляв, що продуктивність шару змішаних експертів для графічних процесорів Blackwell зросла в 3,5 рази, а загальна швидкість навчання - в 1,5 рази. Ця технологія може вплинути на блокчейн-компанії, які використовують AI-агентів та інструменти автоматизації коду.

Цей контент надано лише для загальних інформаційних цілей і не є фінансовою, інвестиційною, юридичною чи податковою консультацією. Події, нагороди, онлайн-акцій або пов’язану інформацію, згадана тут, не слід розглядати як рекомендацію, прохання чи запрошення до купівлі, продажу, торгівлі чи інших операцій з криптоактивами. Криптоактиви є дуже волатильними та можуть призвести до збитків. Доступність послуг, продуктів WEEX та пов’язаних із ними подій може відрізнятися залежно від регіону. Ви несете відповідальність за забезпечення відповідності вашої участі чинному місцевому законодавству та нормативним актам.