PrismML comprime o modelo Qwen3.6-27B para 4GB e o executa no iPhone

PrismML conseguiu comprimir o modelo de código aberto Qwen3.6-27B da Alibaba para menos de 4GB e executá-lo no iPhone 17 Pro. O Qwen3.6-27B é um modelo denso com 27 bilhões de parâmetros, onde todos os parâmetros são utilizados durante a inferência. A PrismML afirmou que o tamanho do modelo foi reduzido de aproximadamente 54GB para 4GB, sem uma queda significativa no desempenho, tornando-o adequado para diálogos complexos, raciocínio, agentes e tarefas de codificação. A Apple entrou em contato com a PrismML para discutir como aplicar essa tecnologia localmente nos dispositivos, embora a Siri avançada ainda dependa de modelos baseados na nuvem.