PrismML сжала модель Qwen3.6-27B до 4 ГБ и запустила её на iPhone

PrismML сжала открытое модель от Alibaba Qwen3.6-27B до менее 4 ГБ и запустила её на iPhone 17 Pro. Qwen3.6-27B — это плотная модель с 27 миллиардами параметров, все параметры которой участвуют в вычислениях во время вывода. PrismML сообщает, что размер модели был уменьшен с примерно 54 ГБ до 4 ГБ, при этом производительность не снизилась, что делает её подходящей для сложных диалогов, вывода, агентов и задач с кодом. Apple уже связалась с PrismML, чтобы обсудить, как применить эту технологию на устройствах, хотя продвинутый Siri по-прежнему зависит от облачных моделей.