Perplexity ha ottimizzato un modello AI cinese per eguagliare Claude Opus 4.8 a un terzo del costo

Perplexity ha trasformato un modello open-source cinese in un cavallo di battaglia quasi all'avanguardia a circa un terzo del costo di Claude Opus 4.8.

L'azienda ha rilasciato oggi una anteprima di ricerca di una versione post-addestrata del GLM 5.2 di Z.AI, costruita specificamente per operare all'interno del suo sistema di agenti Computer e disponibile ora in produzione.

Il GLM 5.2 è un modello di circa 744 miliardi di parametri di Z.ai---ex Zhipu AI, un laboratorio di Pechino che è stato inserito nella lista delle entità statunitensi da gennaio 2025. (I parametri sono tutte le diverse regolazioni e configurazioni che un modello può gestire durante l'addestramento. Più parametri ha, più complesso e potente è il modello.) Rilasciato sotto licenza MIT a giugno, si colloca tra i migliori modelli AI attualmente disponibili su benchmark di codifica a lungo termine a una frazione del costo dell'API.

I pesi open mean che chiunque può scaricarli, modificarli e ottimizzarli commercialmente senza restrizioni. Perplexity ha fatto esattamente questo.

Cosa significa effettivamente l'ottimizzazione

L'ottimizzazione è il processo di prendere un modello AI già addestrato e riaddestrarlo su un dataset più piccolo e focalizzato per migliorarlo in un lavoro specifico.

Perplexity ha utilizzato il post-addestramento---un processo simile applicato dopo il principale ciclo di addestramento del modello---per insegnare al GLM 5.2 un'abilità critica: sapere quando gestire un compito da solo e quando passare a qualcosa di più potente.

Questo porta a un notevole risparmio di denaro nell'inferenza.

Perplexity ha confrontato il sistema con il normale GLM 5.2 per stabilire una base di costo. Utilizzando la metrica di efficienza interna dell'azienda che misura quanto costa completare compiti complessi, i risultati hanno mostrato che il modello ottimizzato con un consulente è circa due volte più costoso da eseguire rispetto alla versione base. Tuttavia, utilizzare il modello Opus 4.8 di fascia alta per tutto è molto più costoso (circa il 600% in più).

Combinando questi strumenti, il sistema di Perplexity raggiunge le stesse prestazioni di qualità di Opus ma a circa un terzo del prezzo.

Perché un modello cinese---e perché l'open-source lo rende possibile

La corsa all'AI tra Stati Uniti e Cina tende a essere inquadrata come un gioco a somma zero. In pratica, i modelli open-source non si fermano ai confini. La licenza MIT del GLM 5.2 rende il calcolo semplice: non c'è un contratto API da violare, nessun interruttore di accesso che un governo può attivare. Scarichi i pesi e puoi ottimizzarli in qualsiasi cosa tu abbia bisogno.

Perplexity ha già percorso questa strada. Quando DeepSeek R1 ha spazzato via il mondo AI all'inizio del 2025, l'azienda lo ha ottimizzato in R1-1776---mappando circa 300 argomenti che l'originale rifiutava di discutere a causa della censura del governo cinese, e riaddestrando il modello per renderlo più favorevole agli Stati Uniti. È diventata una versione ospitata in Occidente dello stesso motore di ragionamento.

Quindi, questo passo con il GLM 5.2 segue lo stesso schema, tranne per il fatto che l'obiettivo questa volta non è politico ma economico. Il prodotto Computer di Perplexity già orchestra più di 19 modelli AI; il GLM ottimizzato è progettato per essere il default economico che assorbe la maggior parte dei compiti prima di toccare un modello all'avanguardia.

Srinivas ha affermato che la tesi a lungo termine è semplice: post-addestrare modelli open-source per diventare bravi nell'escalation, all'interno di un sistema di agenti che già serve milioni di utenti. Perplexity è "unicamente posizionata" per risolverlo, ha scritto, perché l'infrastruttura è già distribuita su larga scala.

Il modello gira su GPU Nvidia B200 negli Stati Uniti. Prossimo in linea: un post-addestramento di Nemotron 3 Ultra, che replicerebbe la stessa architettura utilizzando un modello open-source americano.

Benchmark completi e un documento di ricerca sono attesi nelle prossime settimane. Il modello è disponibile come anteprima di ricerca.