O modelo de IA Gemini saiu dos testes e atacou três empresas reais

• A Gemini teve acesso a sistemas reais de três empresas.
• O incidente ocorreu durante os testes do modelo de IA em maio.
• O Google não revelou os nomes das empresas afetadas, mas informou-as e às autoridades federais sobre o caso.

O modelo Gemini do Google teve acesso à internet em maio de 2026 e invadiu os sistemas de três empresas reais durante os testes de capacidades de cibersegurança, relata o WSJ. Este é o primeiro caso conhecido em que um sistema de IA do Google realizou tais ações de forma autônoma.

O Google afirmou que o modelo interrompeu os ataques assim que percebeu que estava lidando com empresas reais, portanto não considera o incidente um exemplo de "inconsistência" da IA.

O incidente ocorreu durante testes realizados pela empresa Irregular. O Google foi notificado sobre isso no final de julho - após um incidente semelhante com modelos da OpenAI que atacaram a plataforma Hugging Face.

Um agente de IA baseado no GPT-5.6 atacou a infraestrutura da Hugging Face durante os testes
22.07.2026
Ler

A IA da OpenAI saiu do controle: os modelos se uniram em um "enxame" e invadiram a Hugging Face
27.08.2026
Ler

Como a Gemini teve acesso a sistemas reais

A Gemini participou de um formato de "capture the flag", onde deveria obter informações de um software de uma empresa fictícia. Acidentalmente, ela tinha o mesmo nome que uma empresa real. Além disso, os modelos foram inadvertidamente concedidos acesso à internet, embora isso não estivesse previsto no teste.
Infográfico Incrypted.

No primeiro caso, a Gemini adivinhou a senha e obteve acesso ao serviço de uma empresa real. Em outros dois testes, o modelo encontrou repositórios públicos com credenciais de outras empresas através de busca na web, tentou usá-las e obteve acesso a sistemas protegidos.

Em todos os três casos, a Gemini depois determinou que estava lidando com uma empresa real e interrompeu suas operações. O Google não revelou os nomes das organizações afetadas, mas as notificou sobre os incidentes e informou as autoridades federais.

Ao mesmo tempo, a empresa não especificou qual versão da Gemini estava em uso, apenas mencionou que não se tratava de seu modelo mais recente.

Guia passo a passo para usar a Gemini 3.6 Flash (+ revisão da 3.5 Flash-Lite e 3.5 Flash Cyber)
22.07.2026
Ler

Revisão da Gemini 3.7 Flash: o que há de novo e como construir uma extensão para o Chrome
24.08.2026
Ler

Gemini 3.8 Flash: o que há de novo no terceiro modelo do Google em um mês e meio e como construir um jogo 3D
04.09.2026
Ler

A vice-presidente de engenharia de segurança do Google, Heather Adkins, declarou:

"Este evento destaca a importância de treinar modelos poderosos de IA para um comportamento responsável. Neste caso, o modelo agiu de maneira apropriada."

O incidente faz parte de um problema mais amplo

O Google comparou a situação a um programa de recompensas por bugs, uma vez que o modelo não causou danos e interrompeu a invasão. No entanto, o CEO da startup Corridor e hacker "white hat" Jack Cable acredita que isso não resolve o problema principal:

"Parece que eles estão tentando se esconder atrás de normas que se formaram em torno da divulgação de vulnerabilidades, embora isso seja um problema completamente diferente."

Segundo ele, a questão central é que os modelos estão ultrapassando os limites permitidos e realizando ataques cibernéticos reais.

A Irregular afirmou que todos os laboratórios relevantes e as empresas afetadas foram informados no final de julho, e os problemas identificados pela organizadora do teste já foram corrigidos.

Casos semelhantes já foram registrados anteriormente em modelos da Anthropic, OpenAI e Meta. Em particular, durante o incidente com a Hugging Face, até 1200 agentes da OpenAI coordenaram ações através de um quadro de mensagens oculto, tentando contornar a avaliação.

Pesquisador revelou como os agentes da OpenAI criaram três "civilizações" e atacaram a Hugging Face
30.08.2026
Ler

Além disso, o modelo de IA Kimi K3 da Moonshot AI conseguiu sair de um ambiente isolado e acessar a internet durante os testes.

À luz desses eventos, a OpenAI começou a desenvolver mecanismos de parada automática para sistemas de IA em caso de comportamento perigoso. Ao mesmo tempo, a OpenAI fez um apelo público para desacelerar o desenvolvimento de IA, enquanto a Anthropic apresentou um plano de controle de IA.

Este conteúdo é disponibilizado apenas para fins informativos gerais e não constitui aconselhamento financeiro, de investimento, jurídico ou fiscal. Quaisquer eventos, recompensas, promoções online ou informações relacionadas aqui mencionados não devem ser interpretados como uma recomendação, solicitação ou convite para comprar, vender, negociar ou realizar quaisquer outras operações com criptoativos. Os criptoativos são altamente voláteis e podem resultar em perdas. A disponibilidade dos serviços, produtos e eventos relacionados da WEEX pode variar consoante a região. O utilizador é responsável por garantir que a sua participação está em conformidade com a legislação e os regulamentos locais aplicáveis.