PrismML comprime el modelo Qwen3.6-27B a 4GB y lo ejecuta en el iPhone

PrismML ha comprimido el modelo de código abierto Qwen3.6-27B de Alibaba a menos de 4GB y lo ha ejecutado en el iPhone 17 Pro. Qwen3.6-27B es un modelo denso de 27 mil millones de parámetros, donde todos los parámetros participan en el cálculo durante la inferencia. PrismML afirma que el tamaño del modelo se ha reducido de aproximadamente 54GB a 4GB, sin una disminución notable en el rendimiento, lo que lo hace adecuado para diálogos complejos, inferencias, agentes y tareas de codificación. Apple ha estado en contacto con PrismML para discutir cómo aplicar esta tecnología de manera local en los dispositivos, aunque el Siri avanzado aún depende de modelos en la nube.