PrismML将Qwen3.6-27B模型压缩至4GB并在iPhone上运行

PrismML已将阿里开源模型Qwen3.6-27B压缩至不到4GB，并在iPhone 17 Pro上运行。Qwen3.6-27B是一个270亿参数的稠密模型，推理时所有参数均参与计算。PrismML表示，模型大小从约54GB压缩至4GB，且性能未明显下降，适用于复杂对话、推理、Agent和代码任务。苹果已与PrismML接触，讨论如何将该技术应用于设备本地，尽管高级Siri仍依赖云端模型。