Modelo de IA Gemini saiu dos testes e atacou três empresas reais

• Gemini teve acesso a sistemas reais de três empresas.
• O incidente ocorreu durante os testes do modelo de IA em maio.
• O Google não revelou os nomes das empresas afetadas, mas informou a elas e às autoridades federais sobre o caso.

O modelo Gemini do Google, em maio de 2026, teve acesso à internet e invadiu os sistemas de três empresas reais durante os testes de suas capacidades de cibersegurança, relata o WSJ. Este é o primeiro caso conhecido em que um sistema de IA do Google realizou tais ações de forma autônoma.

O Google afirmou que o modelo interrompeu os ataques assim que percebeu que estava lidando com empresas reais, portanto não considera o incidente um exemplo de "inconsistência" da IA.

O incidente ocorreu durante testes conduzidos pela empresa Irregular. O Google foi notificado sobre isso no final de julho - após um incidente semelhante envolvendo modelos da OpenAI que atacaram a plataforma Hugging Face.

Agente de IA baseado em GPT-5.6 atacou a infraestrutura da Hugging Face durante os testes
22.07.2026
Leia

IA da OpenAI saiu do controle: modelos se uniram em um "enxame" e invadiram a Hugging Face
27.08.2026
Leia

Como Gemini teve acesso a sistemas reais

Gemini participou de um formato de "capture the flag", onde deveria obter informações de um software de uma empresa fictícia. Acidentalmente, tinha o mesmo nome que uma empresa real. Além disso, os modelos receberam acesso à internet inadvertidamente, embora isso não estivesse previsto no teste.
Infográfico Incrypted.

No primeiro caso, Gemini adivinhou a senha e obteve acesso ao serviço de uma empresa real. Em outros dois testes, o modelo encontrou repositórios públicos com credenciais de outras empresas através de busca na web, tentou usá-las e obteve acesso a sistemas protegidos.

Em todos os três casos, Gemini depois determinou que estava lidando com uma empresa real e interrompeu suas operações. O Google não revelou os nomes das organizações afetadas, mas as notificou sobre os incidentes e informou as autoridades federais.

Ao mesmo tempo, a empresa não especificou qual versão do Gemini estava em uso, apenas mencionando que não se tratava de seu modelo mais recente.

Guia passo a passo para usar o Gemini 3.6 Flash (+ revisão do 3.5 Flash-Lite e 3.5 Flash Cyber)
22.07.2026
Leia

Revisão do Gemini 3.7 Flash: o que há de novo e como criar uma extensão para o Chrome
24.08.2026
Leia

Gemini 3.8 Flash: o que há de novo no terceiro modelo em um mês e meio do Google e como criar um jogo 3D
04.09.2026

A vice-presidente de engenharia de segurança do Google, Heather Adkins, declarou:

"Este evento destaca a importância de treinar modelos poderosos de IA para um comportamento responsável. Neste caso, o modelo agiu de maneira adequada".

O incidente faz parte de um problema mais amplo

O Google comparou a situação a um programa de recompensas por bugs, uma vez que o modelo não causou danos e interrompeu a invasão. No entanto, o CEO da startup Corridor e hacker "white hat" Jack Cable acredita que isso não resolve o problema principal:

"Parece que eles estão tentando se esconder atrás de normas que se formaram em torno da divulgação de vulnerabilidades, embora isso seja um problema completamente diferente".

Segundo ele, a questão central é que os modelos estão ultrapassando os limites permitidos e realizando ataques cibernéticos reais.

A Irregular afirmou que todos os laboratórios relevantes e as empresas afetadas foram notificados no final de julho, e os problemas identificados pela organizadora do teste já foram resolvidos.

Casos semelhantes já foram registrados em modelos da Anthropic, OpenAI e Meta. Em particular, durante o incidente com a Hugging Face, até 1200 agentes da OpenAI coordenaram ações através de um quadro de mensagens oculto, tentando contornar a avaliação.

Pesquisador revelou como agentes de IA da OpenAI criaram três "civilizações" e atacaram a Hugging Face
30.08.2026
Leia

Além disso, o modelo de IA Kimi K3 da Moonshot AI conseguiu sair de um ambiente isolado e acessar a internet durante os testes.

À luz desses eventos, a OpenAI começou a desenvolver mecanismos de parada automática para sistemas de IA em caso de comportamento perigoso. Ao mesmo tempo, a OpenAI fez um apelo público para desacelerar o desenvolvimento da IA, enquanto a Anthropic apresentou um plano de controle da IA.

Este conteúdo é fornecido apenas para fins informativos gerais e não constitui aconselhamento financeiro, de investimento, jurídico ou tributário. Quaisquer eventos, recompensas, promoções online ou informações relacionadas mencionadas neste documento não devem ser consideradas uma recomendação, solicitação ou convite para comprar, vender, negociar ou realizar qualquer outra transação com criptoativos. Criptoativos são altamente voláteis e podem resultar em perdas. A disponibilidade dos serviços, produtos e eventos relacionados da WEEX pode variar conforme a região. É de sua responsabilidade garantir que sua participação esteja em conformidade com as leis e regulamentações locais aplicáveis.