Ant Group и vLLM совместно открывают исходный код Humming для количественного вывода
Оценить в GoogleAnt Group и сообщество vLLM совместно открыли исходный код Humming, высокопроизводительной библиотеки операторов для количественного вывода. Humming поддерживает широкий спектр устройств, включая различные GPU и устройства, совместимые с CUDA. Эта библиотека предлагает богатую поддержку количественного вывода, поддерживая множество комбинаций форматов весов и активаций в Dense и MoE через единую архитектуру, охватывающую различные целые и плавающие типы, ширину битов и способы масштабирования. Humming демонстрирует значительно лучшие показатели производительности в различных типичных нагрузках по сравнению с существующими реализациями, такими как vLLM Marlin, FlashInfer и DeepGEMM.
Этот контент предоставляется исключительно в общих информационных целях и не является финансовым, инвестиционным, юридическим или налоговым советом. Любые мероприятия, вознаграждения, онлайн-акции или связанная с ними информация, упомянутые в настоящем документе, не должны рассматриваться как рекомендация, приглашение к покупке, продаже, торговле или иной сделке с какими-либо криптоактивами. Криптоактивы очень волатильны и могут привести к убыткам. Доступность услуг, продуктов WEEX и связанных с ними событий может варьироваться в зависимости от региона. Вы несете ответственность за обеспечение того, чтобы ваше участие соответствовало применимым местным законам и нормативным актам.
Вам также может понравиться
Генеральные директора BlackRock и Deutsche Bank опровергли опасения по поводу пузыря AI, заявив, что дефицит бюджета и конкуренция за капитал более актуальны
唐华斑竹 : Активность предсказателя финансовых отчетов WEEX
Предложенные выходы Lido будут оплачивать кредиторам за счет залога заемщиков
Как изменения в контроле Конгресса повлияют на ценообразование криптовалют на фоне промежуточных выборов в США?
Частные самолеты и давление инвесторов: CEO Polymarket вынужден стать более зрелым
Джастин Сан стал пессимистом по отношению к биткойну
26 миллиардов долларов забыты в блокчейне: где деньги криптопользователей за 6000000 кошельков?
От Ledger до Bitget: какие «слепые зоны доверия» в безопасности криптовалюты остаются незамеченными?
Пять проектов DeFi в списке наблюдения: от многоуровневых хранилищ до бессрочных ордеров на блокчейне
Польша: 337 миллионов злотых от крипто-мошенничества отмыты под видом фальшивых слитков, девять арестов
Probly завершает TOKEN2049 в Сингапуре и WHALE3RA, укрепляя свое присутствие на рынках предсказаний на блокчейне
После замедления в XRPL Дэвид Шварц объяснил риски сети
Доктор Профит предупреждает о крупном событии ликвидации Monero (XMR)
Хуан Жэньсюн: В будущем телекоммуникационные базовые станции могут развиться в распределенные AI-сети, все операторы связи будут предоставлять AI-вычислительные мощности
ФСБ предложил 12 практик управления ИИ для финансовых учреждений
Разблокировка акций SpaceX на сумму 194 миллиарда долларов выявляет серьезный риск в амбициях Aave по токенизированным акциям
Глобальная иллюзия «нулевого налога» на криптовалюту: отсутствие налога на прирост капитала не означает освобождения от налога на прибыль
«Триллион токенов» крипто AI: доход всего 8,7 миллиона долларов за месяц
Decibel запускает зашифрованный мемпул Aptos для защиты трейдеров от MEV
От преследования благоприятных проектов до создания собственной рыночной модели
Основатель Grass в разговоре с Delphi: Мы — секретные поставщики данных в эпоху ИИ
Квантово-устойчивые подписи Bitcoin могут перегрузить узлы сети в 10 раз большими данными
Blockchain.com и Binance US присоединяются к гонке на рынке прогнозов на фоне замедления торговли криптовалютой
Может ли ЕС улучшить MiCA без новых правил? Фонд Cardano излагает свою позицию
Metaplanet инвестирует в привилегированные ценные бумаги компаний, владеющих биткойнами, внедряя новую стратегию получения прибыли
Почему Tether ставит на этих четырех молодых людей?
Безопасность криптобиржи в 2026 году: как проверить резервы WEEX и фонд защиты
Morgan Stanley: Что могут изменить промежуточные выборы в США? ИИ и финансовая политика становятся центром внимания
Тесла поставила больше автомобилей, чем ожидали. Значит ли это, что она заработала больше?
Mastercard открыла ранний доступ к платежной системе для ИИ-агентов
Генеральные директора BlackRock и Deutsche Bank опровергли опасения по поводу пузыря AI, заявив, что дефицит бюджета и конкуренция за капитал более актуальны
唐华斑竹 : Активность предсказателя финансовых отчетов WEEX
Предложенные выходы Lido будут оплачивать кредиторам за счет залога заемщиков
Как изменения в контроле Конгресса повлияют на ценообразование криптовалют на фоне промежуточных выборов в США?
Частные самолеты и давление инвесторов: CEO Polymarket вынужден стать более зрелым
Джастин Сан стал пессимистом по отношению к биткойну
