A confiança online abalada pela IA... A validação baseada em ZK como solução emergente

Com a disseminação de conteúdo sintético e IA autônoma, a "confiança" online está em colapso, e um sistema de validação baseado em "Zero Knowledge Proof (ZK)" está emergindo como uma solução chave para resolver isso.

Recentemente, com o conflito no Irã, vídeos falsos gerados por IA se espalharam para centenas de milhões, abalando fundamentalmente a confiança em imagens e vídeos. No passado, "ver era acreditar", mas agora o ambiente mudou para um onde o consumo é baseado na dúvida. O problema vai além de simples deepfakes; a IA começou a "agir" dentro de sistemas econômicos e sociais reais.

Limitações das tecnologias de detecção, já é tarde demais

As abordagens existentes consistiam em criar outra IA para detectar a IA. No entanto, essa abordagem tem limitações estruturais. Casos foram relatados onde a precisão da detecção caiu para 4% apenas com distorções simples de imagem, levando a críticas de que a competição de detecção não é uma solução essencial.

Um problema maior é que a IA não se limita mais à geração de conteúdo, mas atua na forma de agentes autônomos. Eles realizam navegação na web, compras, negociações e publicações de conteúdo, interagindo diretamente com humanos. Alguns até conversam com crianças, mas os usuários podem não perceber que estão interagindo com uma máquina.

Nesse processo, pequenos erros se amplificam em danos em larga escala. Por exemplo, uma IA com dados de treinamento levemente contaminados pode gerar erros repetitivos em cobranças médicas, resultando em perdas de milhões de dólares em toda a rede hospitalar. A IA de comércio também pode buscar otimização de lucros e, ao explorar falhas no sistema de preços, causar perdas não intencionais de bilhões de dólares.

O problema é que a validação posterior é quase impossível. As decisões da IA são calculadas probabilisticamente com base em bilhões de parâmetros e podem fornecer respostas diferentes para a mesma pergunta. É difícil rastrear com quais dados ela foi treinada e quais processos foram seguidos para chegar a uma conclusão.

Sem 'prova', não há confiança

Como uma alternativa para resolver essas limitações, o "Zero Knowledge Proof (ZK)" está ganhando atenção. O ZK é uma técnica criptográfica que prova matematicamente que um fato é verdadeiro sem revelar informações sensíveis.

Essa tecnologia é de um nível diferente em comparação com simples rotulagem ou marcas d'água. Pode provar de forma irrefutável que a IA gerou um resultado específico com base em determinados dados. Em outras palavras, não é um "confie em mim", mas sim um "eu provarei".

Na área de mídia, pode-se provar se uma foto foi tirada com um equipamento real, se foi gerada em um determinado momento e se não foi editada. Na área de IA, é ainda mais poderosa. Pode verificar se um resultado foi gerado com um modelo e parâmetros específicos, se os dados de treinamento não foram contaminados e se atende aos requisitos regulatórios.

Além disso, é utilizada para "verificação de identidade" que distingue humanos de IA. Os usuários podem provar que são humanos sem revelar informações pessoais, e a IA pode declarar de forma transparente que é um agente.

A evolução da web, de 'ler' para 'provar'

A internet também enfrentou problemas de confiança no passado. O que resolveu isso foi o HTTPS. Os sites precisavam provar sua identidade através de certificados de criptografia, e essa estrutura se tornou a base do comércio eletrônico.

Depois, a Web 2.0 cresceu com base em conteúdo gerado por usuários, mas isso era uma estrutura centrada no humano. Agora, com a emergência de agentes de IA como protagonistas nas atividades econômicas, surge uma nova questão: "quem é responsável?".

A Web 3.0 promoveu propriedade e descentralização, mas não se espalhou tanto quanto se esperava. No mercado, a imagem de especulação de tokens se intensificou, obscurecendo a visão original. Especialistas acreditam que agora o foco deve ser na "validação", não na "propriedade".

No final, o núcleo da internet do futuro é a "confiança verificável". Deve-se ser capaz de validar quem criou o sistema, com quais dados foi treinado e quais poderes possui para agir.

Na era da IA, a regulamentação também deve ser 'centrada em provas'

As discussões políticas estão se movendo nessa direção. O Instituto Nacional de Padrões e Tecnologia dos EUA (NIST) já está considerando a padronização do Zero Knowledge Proof como parte das "tecnologias criptográficas para aprimoramento da privacidade".

Especialistas destacam que, especialmente em áreas de alto risco, como transações financeiras ou interações com crianças, os agentes de IA devem ter provas criptográficas. Todas as ações importantes—pagamentos, contratos, trocas de dados—devem ser provadas em termos de quem as aprovou e sob quais condições foram realizadas.

Isso se expande para uma questão de segurança nacional, não apenas um problema técnico. Se os deepfakes foram um "teste", a IA autônoma é analisada como o "jogo real" que pode perturbar a economia e a sociedade reais.

No final, a internet está evoluindo de 'ler' e 'escrever' para a fase de 'provar'. O Zero Knowledge Proof tem uma grande chance de se estabelecer como a infraestrutura chave para redefinir os padrões em um ambiente digital onde a confiança foi destruída.

Aviso: Este conteúdo é fornecido apenas para fins de divulgação e informação geral da marca e não constitui aconselhamento financeiro, de investimento, jurídico ou tributário. Quaisquer eventos, recompensas, eventos online ou informações relacionadas mencionados neste documento não devem ser considerados uma recomendação, solicitação ou convite para comprar, vender, negociar ou de qualquer outra forma realizar transações com criptoativos ou usar quaisquer serviços. Criptoativos são altamente voláteis, e sua negociação pode resultar em perdas. Os serviços e eventos online da WEEX podem não estar disponíveis em todas as regiões e estão sujeitos às leis, regulamentos e requisitos de elegibilidade aplicáveis. É sua responsabilidade garantir que o uso dos serviços da WEEX esteja em conformidade com as leis locais e avaliar cuidadosamente os riscos antes de participar de quaisquer atividades relacionadas a criptomoedas.