DeepSeek открывает исходный фреймворк для вывода DeepInfer, совместимый с Huawei Ascend

DeepSeek объявила о полном открытии исходного фреймворка для вывода DeepInfer и одновременном открытии производственного компонента кодирования и декодирования токенов deepseek-recipe. DeepInfer интегрирует высокопроизводительные операторы и глубоко оптимизированный движок вывода, поддерживает распределенный вывод, декодирование предположений, SWA Bounded Replay и структурированный вывод, совместим с платформами NVIDIA и Huawei Ascend. DeepSeek уже реализовала высокопроизводительный, низколатентный сервис массового вывода DeepSeek V4.1 Flash на основе DeepInfer, и в будущем код вывода и оптимизации новых моделей будет постоянно обновляться. deepseek-recipe полностью согласован с логикой обработки официального API DeepSeek, что обеспечивает сообществу опыт, аналогичный официальному развертыванию. Исходный репозиторий и технический отчет уже опубликованы.

Этот контент предоставляется исключительно в общих информационных целях и не является финансовым, инвестиционным, юридическим или налоговым советом. Любые мероприятия, вознаграждения, онлайн-акции или связанная с ними информация, упомянутые в настоящем документе, не должны рассматриваться как рекомендация, приглашение к покупке, продаже, торговле или иной сделке с какими-либо криптоактивами. Криптоактивы очень волатильны и могут привести к убыткам. Доступность услуг, продуктов WEEX и связанных с ними событий может варьироваться в зависимости от региона. Вы несете ответственность за обеспечение того, чтобы ваше участие соответствовало применимым местным законам и нормативным актам.