AMD підтримує локальне виконання моделі Qwen 27B від Alibaba

AMD оголосила, що з дня випуску вона підтримуватиме локальне виконання моделі Qwen 27B від Alibaba на своїх AI ПК та робочих станціях. Цей крок має на меті забезпечити середовище для виконання великих відкритих AI моделей без підключення до хмари. Модель Qwen 27B є щільною моделлю з 27 мільярдами параметрів, оптимізованою для генерації коду, практичних завдань, досліджень та AI додатків з довгим контекстом. Середовище виконання базується на відкритому фреймворку для висновків llama.cpp і підтримується AI ПК та робочими станціями з процесорами AMD, а також одною графічною картою AMD на 32 ГБ. Попередні тести показали, що процесор Ryzen AI Max Plus 395 демонструє локальну продуктивність висновків до 24,5 токенів за секунду, а одиночний графічний процесор Radeon AI Pro R9700 — до 51,8 токенів за секунду. Підтримка "День 0" означає, що система підтримки була підготовлена для негайного виконання на певному апаратному та програмному забезпеченні з моменту публікації моделі. Alibaba відкриває моделі серії Qwen як відкриті, щоб розробники, дослідницькі установи та компанії могли їх використовувати. Ця підтримка є частиною конкуренції в галузі AI напівпровідників та локальної AI інфраструктури, і AMD розширює екосистему, що дозволяє спільно використовувати хмарні та локальні середовища.

Цей контент надано лише для загальних інформаційних цілей і не є фінансовою, інвестиційною, юридичною чи податковою консультацією. Події, нагороди, онлайн-акцій або пов’язану інформацію, згадана тут, не слід розглядати як рекомендацію, прохання чи запрошення до купівлі, продажу, торгівлі чи інших операцій з криптоактивами. Криптоактиви є дуже волатильними та можуть призвести до збитків. Доступність послуг, продуктів WEEX та пов’язаних із ними подій може відрізнятися залежно від регіону. Ви несете відповідальність за забезпечення відповідності вашої участі чинному місцевому законодавству та нормативним актам.