PrismML將Qwen3.6-27B模型壓縮至4GB並在iPhone上運行

By: rootdata|2026/07/09 15:36:23
0
分享
copy

PrismML已將阿里開源模型Qwen3.6-27B壓縮至不到4GB,並在iPhone 17 Pro上運行。Qwen3.6-27B是一個270億參數的稠密模型,推理時所有參數均參與計算。PrismML表示,模型大小從約54GB壓縮至4GB,且性能未明顯下降,適用於複雜對話、推理、Agent和代碼任務。蘋果已與PrismML接觸,討論如何將該技術應用於設備本地,儘管高級Siri仍依賴雲端模型。

猜你喜歡

iconiconiconiconiconiconiconiconicon
客戶服務:@weikecs
商務合作:@weikecs
量化做市商合作:[email protected]