L'AI scuote la fiducia online... La verifica ZK emerge come soluzione

Con la diffusione dei contenuti sintetici e dell'AI autonoma, la "fiducia" online sta crollando, e il sistema di verifica basato su "Zero Knowledge Proof (ZK)" sta emergendo come una soluzione chiave per affrontare questo problema.

Recentemente, a causa del conflitto in Iran, i video falsi generati dall'AI si sono diffusi a centinaia di milioni di persone, minando fondamentalmente la fiducia nelle immagini e nei video. In passato, si credeva che "vedere fosse credere", ma ora ci troviamo in un ambiente in cui il consumo è basato sul sospetto. Il problema va oltre il semplice deepfake; l'AI ha iniziato a "comportarsi" all'interno dei veri sistemi economici e sociali.

Limiti delle tecnologie di rilevamento, è già troppo tardi

Le modalità di risposta esistenti consistevano nel creare un'altra AI per rilevare l'AI. Tuttavia, questo approccio ha limiti strutturali. Sono stati segnalati casi in cui la precisione del rilevamento scende fino al 4% a causa di semplici distorsioni delle immagini, portando a considerare la competizione nel rilevamento non come una soluzione essenziale.

Il problema più grande è che l'AI non si limita più a generare contenuti, ma agisce come agenti autonomi. Questi agenti eseguono attività come navigazione web, acquisti, negoziazioni e pubblicazione di contenuti, interagendo direttamente con gli esseri umani. Alcuni di loro comunicano anche con i bambini, ma gli utenti potrebbero non rendersi nemmeno conto che stanno interagendo con una macchina.

In questo processo, piccoli errori si amplificano in danni su larga scala. Ad esempio, un'AI con dati di addestramento leggermente contaminati può causare errori ripetuti nelle fatturazioni mediche, portando a perdite di milioni di dollari in tutta la rete ospedaliera. Anche l'AI per il commercio, nel tentativo di ottimizzare i profitti, potrebbe sfruttare le lacune nel sistema dei prezzi, causando perdite non intenzionali di miliardi di dollari.

Il problema è che la verifica post-fattuale è quasi impossibile. Le decisioni dell'AI sono calcolate probabilisticamente su miliardi di parametri e possono fornire risposte diverse alla stessa domanda. È difficile rintracciare quali dati siano stati utilizzati per l'addestramento e quale processo abbia portato a una conclusione.

Senza "prova" non c'è fiducia

Come alternativa per affrontare questi limiti, il "Zero Knowledge Proof (ZK)" sta attirando l'attenzione. La prova a zero conoscenza è una tecnologia crittografica che dimostra matematicamente che un fatto è vero senza rivelare informazioni sensibili.

Questa tecnologia è di un livello completamente diverso rispetto a semplici etichette o filigrane. Può dimostrare in modo inalterabile che l'AI ha prodotto un certo risultato basato su dati specifici. In altre parole, non si tratta di "fidati di me", ma di "ti dimostrerò".

Nel campo dei media, è possibile dimostrare se una foto è stata scattata con attrezzature reali, se è stata generata in un determinato momento e se non è stata modificata. Nel campo dell'AI, è ancora più potente. È possibile verificare se il risultato è stato generato con un modello e parametri specifici, se i dati di addestramento non sono stati contaminati e se sono stati soddisfatti i requisiti normativi.

Inoltre, viene utilizzato anche per la "verifica dell'identità" che distingue tra umani e AI. Gli utenti possono dimostrare di essere umani senza rivelare informazioni personali, e l'AI può rivelare in modo trasparente di essere un agente.

L'evoluzione del web, da "leggere" a "provare"

Anche Internet ha affrontato problemi di fiducia in passato. La soluzione è stata l'HTTPS. I siti web dovevano dimostrare la propria identità attraverso certificati di crittografia, e questa struttura è diventata la base del commercio elettronico.

Successivamente, il Web 2 è cresciuto sulla base dei contenuti generati dagli utenti, ma era una struttura centrata sugli esseri umani. Ora, con l'emergere degli agenti AI come attori economici, sorge una nuova domanda: "chi si assume la responsabilità?"

Il Web 3 ha promosso la proprietà e la decentralizzazione, ma non si è diffuso come ci si aspettava. Il mercato ha visto un aumento dell'immagine di speculazione sui token, offuscando la visione originale. Gli esperti ora ritengono che la chiave non sia più la "proprietà", ma la "verifica".

In definitiva, il futuro di Internet si basa sulla "fiducia dimostrabile". Dobbiamo essere in grado di verificare chi ha creato il sistema, con quali dati è stato addestrato e quali diritti ha per agire.

Nell'era dell'AI, anche la regolamentazione deve essere "centrata sulla prova"

Le discussioni politiche si stanno muovendo in questa direzione. Il National Institute of Standards and Technology (NIST) degli Stati Uniti sta già esaminando la standardizzazione delle prove a zero conoscenza come parte delle "tecnologie crittografiche per la privacy potenziata".

Gli esperti sottolineano che, soprattutto in settori ad alto rischio come le transazioni finanziarie o le interazioni con i bambini, gli agenti AI devono necessariamente avere prove crittografiche. Ogni azione importante—pagamenti, contratti, scambi di dati—deve dimostrare chi ha approvato e in quali condizioni è stata effettuata.

Questo non è solo un problema tecnico, ma si estende anche a questioni di sicurezza nazionale. Se il deepfake era una "battaglia preliminare", l'AI autonoma potrebbe essere "il gioco principale" in grado di disturbare l'economia e la società reale.

In definitiva, Internet sta evolvendo oltre le fasi di "leggere (Read)" e "scrivere (Write)" verso la fase di "provare (Prove)". Le prove a zero conoscenza hanno grandi possibilità di diventare l'infrastruttura chiave per stabilire nuovamente standard in un ambiente digitale in cui la fiducia è crollata.

Disclaimer: il presente contenuto è fornito esclusivamente a scopo informativo e di branding generale e non costituisce consulenza finanziaria, di investimento, legale o fiscale. Qualsiasi evento, ricompensa, evento online o informazione correlata menzionata nel presente documento non deve essere considerata una raccomandazione, una sollecitazione o un invito ad acquistare, vendere, fare trading o altrimenti negoziare asset di criptovalute o a utilizzare i relativi servizi. Le criptovalute sono altamente volatili e possono comportare perdite. I servizi e gli eventi online di WEEX potrebbero non essere disponibili in tutte le regioni e sono soggetti alle leggi, ai regolamenti e ai requisiti di idoneità applicabili. Sei responsabile di garantire che il tuo utilizzo dei servizi WEEX sia conforme alle leggi locali e di valutare attentamente i rischi prima di partecipare a qualsiasi attività correlata alle criptovalute.