PrismML comprime il modello Qwen3.6-27B a 4GB e lo esegue su iPhone

By: rootdata|2026/07/09 15:36:23
0
Condividi
copy

PrismML ha compresso il modello open source Qwen3.6-27B di Alibaba a meno di 4GB, eseguendolo su un iPhone 17 Pro. Qwen3.6-27B è un modello denso con 27 miliardi di parametri, in cui tutti i parametri partecipano al calcolo durante l'inferenza. PrismML ha dichiarato che la dimensione del modello è stata ridotta da circa 54GB a 4GB, senza un calo significativo delle prestazioni, rendendolo adatto per conversazioni complesse, inferenze, agenti e compiti di codifica. Apple ha contattato PrismML per discutere come applicare questa tecnologia localmente sui dispositivi, anche se l'assistente Siri avanzato continua a dipendere dai modelli basati su cloud.

Prezzo di --

--

Potrebbe interessarti anche

iconiconiconiconiconiconicon
Assistenza clienti:@weikecs
Cooperazione aziendale:@weikecs
Trading quantitativo e MM:[email protected]
Programma VIP:[email protected]