Dessa, la voce IA di Block che ride e piange come un umano

Block, l'azienda di pagamenti fondata da Jack Dorsey, ha appena presentato qualcosa che va oltre un comune assistente vocale. Il modello si chiama Dessa, è uscito dal laboratorio di ricerca dell'azienda e fa una cosa che la maggior parte dei concorrenti non riesce a fare: suonare genuinamente umano. Con risate, pause, sospiri e persino il tono di chi sta per piangere, la tecnologia suscita sia ammirazione che serie preoccupazioni riguardo alle frodi.

La novità arriva in un momento in cui il mercato dell'intelligenza artificiale vive una corsa intensa per rendere le interazioni vocali più naturali. Ma mentre la maggior parte dei modelli converte ancora il parlato in testo prima di elaborare la risposta, Dessa tenta qualcosa di diverso. E questo cambia significativamente l'equazione.

Come funziona Dessa e perché è diversa

La maggior parte dei sistemi vocali con IA segue un percorso prevedibile: parli, il modello trascrive in testo, elabora l'informazione, genera una risposta in testo e poi la converte in audio. È una catena con più fasi, e ognuna di esse scarta le sfumature emotive. Il tono di impazienza nella tua voce, l'esitazione prima di una domanda, il sarcasmo sottile, tutto questo si perde nella trascrizione.

Dessa opera come un modello full-duplex, il che significa che parla e ascolta simultaneamente, proprio come il GPT-Live di OpenAI lanciato quest'anno. La differenza centrale che Block rivendica è che l'emozione non è aggiunta tramite tag o comandi esterni. Essa sarebbe incorporata nel modello stesso, addestrato interamente con dati di parlato umano reale.

In dimostrazioni pubblicate dal team di ricerca, il modello ha assunto diverse voci, cadenze e stati emotivi. In una conversazione, Dessa ha detto di essere stanca dopo una giornata di lavoro, e il tono suonava effettivamente esausto. In un'altra, parlando di qualcuno che la faceva sentire a suo agio, la voce è diventata rotta, quasi in lacrime.

Funziona su un laptop, non in un datacenter

Forse il dato più rilevante per il mercato tecnologico è l'infrastruttura necessaria. Dessa è stata addestrata su un singolo rack di GPU NVIDIA e può funzionare localmente su un computer di consumo, come un MacBook con chip M4 Max o superiore. Questo è notevole.

La maggior parte dei modelli vocali avanzati dipende da server cloud pesanti, il che genera latenza e costi elevati. Un modello che funziona on-device apre possibilità per applicazioni in tempo reale, senza connessione costante a Internet, e con costi operativi drasticamente inferiori. Per un'azienda come Block, che già opera nel mondo dei pagamenti e delle soluzioni per piccole imprese, l'implicazione pratica è diretta: assistenza automatizzata di alta qualità che funziona sul dispositivo stesso del commerciante.

Square, il braccio di Block dedicato alle piccole imprese, utilizza già l'IA vocale per gestire gli ordini. Con Dessa, l'azienda potrebbe portare questa esperienza a un livello in cui il cliente non si accorge nemmeno di parlare con una macchina.

Il problema del realismo eccessivo

Ecco il dilemma che inevitabilmente accompagna questo tipo di progresso. Se un'IA suona indistinguibile da un umano, le possibilità di utilizzo in truffe crescono nella stessa misura. Immagina di ricevere una chiamata con la voce emozionata di qualcuno che chiede aiuto, e quella voce è interamente sintetica.

La stessa Block riconosce il rischio. L'azienda non ha reso accessibile al pubblico Dessa e ha pubblicato un invito ai ricercatori di sicurezza per testare il modello. L'obiettivo dichiarato è identificare scenari in cui un agente vocale potrebbe ingannare le persone dall'altra parte della linea. È una misura prudente, ma che evidenzia quanto la tecnologia sia già avanzata in un territorio delicato.

Il mercato dei deepfake audio già genera perdite miliardarie. Secondo la Federal Trade Commission degli Stati Uniti, le frodi che coinvolgono imitazioni vocali hanno causato perdite di oltre 2,7 miliardi di dollari nel 2023. Un modello come Dessa, che aggiunge strati emotivi realistici, rende la rilevazione ancora più difficile.

Cosa significa per il panorama dell'IA

La decisione di Block di entrare nel gioco dei modelli vocali rivela qualcosa sulla direzione del mercato. Le aziende fintech non vogliono dipendere da fornitori esterni come OpenAI, ElevenLabs o Google per funzionalità critiche di assistenza. Sviluppare modelli proprietari che funzionano localmente è una strategia di riduzione dei costi e, allo stesso tempo, di differenziazione competitiva.

Block non è la prima a percorrere questo cammino. Ma l'approccio di addestrare esclusivamente con dati di parlato umano, senza passare per l'intermediario del testo, potrebbe rappresentare un punto di svolta per l'industria. Se il modello manterrà le promesse su larga scala, l'integrazione tra IA vocale e servizi finanziari entrerà in una nuova fase.

Per ora, Dessa rimane chiusa. Non ci sono tempistiche per un lancio pubblico. Ma il fatto che un modello con questo livello di espressività funzioni su un laptop racconta già una storia su dove sta andando la tecnologia. E sui rischi che vengono con essa.

Per il settore finanziario, l'equazione è chiara: chi dominerà l'interfaccia vocale con IA avrà un vantaggio brutale in assistenza, costi ed esperienza dell'utente. La questione che resta è se la regolamentazione riuscirà a tenere il passo.