Qualcomm співпрацює з Multiverse Computing для оптимізації AI-моделей

Qualcomm співпрацює з Multiverse Computing для оптимізації AI-моделей для дата-центрів. Ця співпраця має на меті зменшити розмір та навантаження великих мовних моделей (LLM), підвищуючи ефективність інференції. Multiverse Computing планує оптимізувати легкі AI-моделі для прискорювачів Qualcomm Dragonfly AI200 та AI250. Ключовою технологією є CompactifAI, яка використовує тензорні мережі для зменшення розміру LLM та використання пам'яті. Ця технологія має на меті знизити витрати на інференцію на 50-80% та подвоїти швидкість інференції, зберігаючи точність на рівні майже 100% від оригінальної моделі. Qualcomm представила дорожню карту прискорювачів інференції AI200, AI250 та AI300, при цьому AI250 спроектовано для забезпечення ефективної пропускної здатності пам'яті 133TB/s на картку. Multiverse Computing стверджує, що до червня 2025 року CompactifAI зможе зменшити розмір LLM до 95% і працювати в хмарних та приватних дата-центрах, а також в надлегких середовищах. Ця співпраця пов'язана зі стратегією Qualcomm щодо виходу на ринок дата-центрів для AI-інференції.

Цей контент надано лише для загальних інформаційних цілей і не є фінансовою, інвестиційною, юридичною чи податковою консультацією. Події, нагороди, онлайн-акцій або пов’язану інформацію, згадана тут, не слід розглядати як рекомендацію, прохання чи запрошення до купівлі, продажу, торгівлі чи інших операцій з криптоактивами. Криптоактиви є дуже волатильними та можуть призвести до збитків. Доступність послуг, продуктів WEEX та пов’язаних із ними подій може відрізнятися залежно від регіону. Ви несете відповідальність за забезпечення відповідності вашої участі чинному місцевому законодавству та нормативним актам.