PrismML nén mô hình Qwen3.6-27B xuống còn 4GB và chạy trên iPhone

PrismML đã nén mô hình mã nguồn mở Qwen3.6-27B của Alibaba xuống dưới 4GB và chạy trên iPhone 17 Pro. Qwen3.6-27B là một mô hình dày đặc với 27 tỷ tham số, trong đó tất cả các tham số đều tham gia vào tính toán trong quá trình suy diễn. PrismML cho biết kích thước mô hình đã giảm từ khoảng 54GB xuống còn 4GB mà không làm giảm hiệu suất đáng kể, phù hợp cho các nhiệm vụ đối thoại phức tạp, suy diễn, Agent và mã. Apple đã liên hệ với PrismML để thảo luận về cách áp dụng công nghệ này trên thiết bị cục bộ, mặc dù Siri cao cấp vẫn phụ thuộc vào mô hình đám mây.