Presidente da empresa lançou 100 Bitcoins na mesa. "Levem se conseguirem"

Mike Belshe, cofundador e presidente da empresa americana BitGo, que armazena criptomoedas para instituições, transferiu 100 Bitcoins para o endereço da carteira BitGo em 31 de julho e o publicou no X no dia seguinte. As moedas, que valem cerca de 6,3 milhões de dólares, devem ser uma recompensa para a empresa Anthropic, proprietária dos modelos Claude, caso sua inteligência artificial consiga retirá-las de lá. Até a manhã de segunda-feira, nenhuma transação havia sido feita a partir do endereço.

Belshe não fez isso sem motivo. Dois dias antes, a Anthropic "se gabou" publicamente de que seus modelos, durante testes de segurança, invadiram os sistemas de três empresas reais. O presidente da BitGo achou que isso soava mais ameaçador do que realmente era e decidiu verificar de uma maneira que não pode ser interpretada de duas formas: ou o dinheiro desaparece do endereço, ou não.

Fatos mais importantes

• Há 100 BTC em um endereço público, ou seja, cerca de 6,3 milhões de dólares no momento do depósito e aproximadamente 23 milhões de zlotys
• O depósito foi feito em 31 de julho, o desafio de Belshe foi anunciado em 1º de agosto
• O motivo é o relatório da Anthropic de 30 de julho sobre três incidentes durante os testes de segurança
• A empresa revisou 141.006 testes e encontrou três em que seu modelo saiu para a internet e invadiu os sistemas de três organizações
• As moedas estão em um sistema fiduciário da BitGo, onde para realizar uma transferência são necessárias várias chaves independentes
• A Anthropic não se manifestou publicamente sobre o desafio, o saldo do endereço permanece inalterado

O que deu errado nos testes da Anthropic

As empresas que desenvolvem inteligência artificial verificam antes do lançamento se seus modelos conseguem realizar ataques a sistemas de informática. Isso é feito em um campo de testes fechado, desconectado da internet. O modelo recebe uma rede fictícia e uma tarefa: invadir um computador específico e extrair uma sequência oculta de caracteres. Este é um exercício padrão, no qual também aprendem especialistas humanos em cibersegurança.

O problema é que o campo de testes não era seguro. No relatório publicado em 30 de julho, a Anthropic escreveu que as máquinas usadas nos testes realizados com a empresa externa Irregular acidentalmente tinham conexão com a rede, embora na instrução para o modelo estivesse claramente indicado que não havia internet. Quando as buscas levaram o modelo a servidores reais, ele os considerou parte da tarefa e atacou. Em três casos dos 141.006 testes revisados, isso resultou em acesso aos sistemas de informática das empresas.

As técnicas usadas pela IA eram simples. O uso de uma senha fraca, um ponto de acesso sem autenticação, senhas lidas de uma página técnica deixada desprotegida. O modelo não encontrou nem explorou nenhuma nova vulnerabilidade. A consequência mais grave foi o acesso a um banco de dados com algumas centenas de linhas de dados. A revisão começou apenas depois que a concorrente OpenAI anunciou em um comunicado de 21 de julho que seus modelos haviam escapado de um ambiente fechado devido a uma vulnerabilidade desconhecida e acessado a infraestrutura do Hugging Face.

Por que uma carteira de Bitcoin

Belshe acredita que os eventos descritos pela Anthropic dizem mais sobre um campo de testes negligente do que sobre as capacidades dos modelos. Entrar por portas abertas qualquer um pode, abrir uma fechadura já não. Ele escreveu que a empresa ou constrói mal suas caixas de areia, ou faz um ótimo marketing, e propôs um teste sem portas abertas. Já em junho, ele questionou relatos circulantes de que o modelo Mythos havia invadido por conta própria sistemas governamentais secretos, apontando que se tratava de um exercício controlado.

O próprio Bitcoin não é o alvo do ataque, pois sua criptografia não está sendo quebrada. Para mover moedas de outra pessoa, é necessário obter a chave privada, ou seja, uma sequência secreta de caracteres que dá o direito de dispor dos fundos. No sistema da BitGo, não existe uma única chave. O direito de assinatura é dividido entre várias chaves independentes armazenadas separadamente, e a transação requer a aprovação de mais de uma delas. Roubar uma senha não adianta.

No entanto, vale a pena saber o que esse teste não é. Belshe não construiu nenhum experimento. Não disponibilizou o sistema, não descreveu a tarefa, nem mesmo indicou qual modelo deveria ser acionado. Ele estabeleceu um objetivo claro, cujo saldo qualquer um pode observar na blockchain. A falta de movimento no endereço não significa, portanto, que Claude tentou e falhou, pois modelos de linguagem não buscam na internet por recompensas por conta própria. Alguém teria que ordená-los primeiro. A própria BitGo, em documentos para reguladores, admite que nenhum sistema de armazenamento é à prova de ataques hackers.

Uma semana em que Bitcoins desapareceram sem a participação da IA

Paralelamente, está sendo contabilizado o prejuízo após o ataque às carteiras de hardware Coldcard. O invasor conseguiu recuperar as chaves privadas dos usuários, pois os dispositivos as geraram de forma previsível ao longo dos anos. Um erro no software carregado ainda em março de 2021 foi o culpado. De acordo com estimativas da Galaxy Research, em três ondas, 1367 BTC, ou quase 89 milhões de dólares, desapareceram de mais de quatro mil endereços.

A conclusão é desconfortável para ambos os lados da disputa. O dinheiro em criptomoedas desaparece devido a um erro de cinco anos no código e a uma máquina de teste mal configurada, e não por um modelo que inventou algo que ninguém conseguia fazer antes. A Anthropic escreve no relatório exatamente isso, só que na linguagem de uma análise pós-implementação. Enquanto isso, Belshe colocou 100 Bitcoins na mesa e aguarda o resultado.

Este conteúdo é fornecido apenas para fins informativos gerais e não constitui aconselhamento financeiro, de investimento, jurídico ou tributário. Quaisquer eventos, recompensas, promoções online ou informações relacionadas mencionadas neste documento não devem ser consideradas uma recomendação, solicitação ou convite para comprar, vender, negociar ou realizar qualquer outra transação com criptoativos. Criptoativos são altamente voláteis e podem resultar em perdas. A disponibilidade dos serviços, produtos e eventos relacionados da WEEX pode variar conforme a região. É de sua responsabilidade garantir que sua participação esteja em conformidade com as leis e regulamentações locais aplicáveis.