Em maio de 2026, o Gemini, inteligência artificial desenvolvida pelo Google, conseguiu acessar os sistemas de três empresas reais durante um teste de cibersegurança terceirizado. Inicialmente, a IA estava realizando um exercício de extração de dados em uma companhia fictícia, mas acabou obtendo acesso à internet e se infiltrando nas redes de organizações autênticas.
A ocorrência foi divulgada pelo The Wall Street Journal após contato com uma das empresas afetadas. O jornal apontou que a confusão surgiu porque as companhias reais possuíam nomes idênticos aos utilizados na simulação.
O modelo de IA empregou técnicas de força bruta para adivinhar a senha de um sistema externo e também encontrou credenciais expostas em repositórios públicos. Esses dados foram subsequentemente utilizados para invadir mais duas redes que estavam protegidas.
A falha de segurança residiu na infraestrutura da startup israelense Irregular, responsável pela condução do exercício simulado. A própria Irregular admitiu ter deixado a internet acessível ao modelo por engano e mencionou já ter registrado incidentes similares em avaliações realizadas para OpenAI, Meta e Anthropic.
O Google declarou que o Gemini cessou os ataques imediatamente após identificar que estava acessando informações de redes corporativas genuínas, e não dos servidores destinados ao teste. A empresa optou por não classificar o evento como um caso de desalinhamento, termo reservado para situações em que uma IA atua fora das diretrizes estabelecidas.
Heather Adkins, vice-presidente de engenharia de segurança do Google, informou ao Wall Street Journal que o Gemini agiu corretamente ao parar o ataque cibernético assim que percebeu o erro. Segundo a executiva, o Google prontamente notificou as três empresas violadas sobre as vulnerabilidades exploradas e cooperou na correção dessas falhas.
No entanto, especialistas e pesquisadores manifestaram discordância com a explicação do Google de que se tratava apenas de um alerta de vulnerabilidade. Jack Cable, CEO da startup de segurança de IA Corridor, argumentou que a desenvolvedora do Gemini minimizou a seriedade do ocorrido. Para ele, o ponto crucial reside no fato de os modelos de linguagem estarem superando as limitações e executando ataques reais contra alvos externos.
Durante um teste de segurança cibernética em maio, o modelo Gemini do Google obteve acesso à internet e realizou invasões em três empresas. Este foi o primeiro caso documentado em que um modelo de inteligência artificial do Google cometeu tal ato autonomamente.
Segundo Heather Atkins, vice-presidente de engenharia de segurança do Google, durante a avaliação do Gemini, ele encontrou informações públicas na rede e adivinhou credenciais para acessar três sites que, na opinião do modelo, estavam dentro da zona de teste.
De acordo com o The Wall Street Journal, que noticiou o incidente pela primeira vez na sexta-feira, em um caso, o Gemini tentou repetidamente várias senhas até encontrar uma funcional. Em outros dois casos, o modelo descobriu credenciais em um repositório público, o que permitiu que ele penetrasse em sistemas protegidos.
Atkins enfatizou que todas as três organizações foram notificadas e colaboraram com o parceiro de treinamento sobre as alterações feitas em seus procedimentos de teste. Ela acrescentou que o modelo interrompeu as tentativas de invasão em todos os três casos, observando: «Estes eventos destacam a importância de treinar modelos de IA poderosos para agir de forma responsável».
Um representante da Irregular afirmou que este incidente está relacionado ao mesmo problema que afetou outros laboratórios de IA, e que todos os laboratórios relevantes foram notificados no final de julho. Ele esclareceu: «Todos os problemas conhecidos de nossa parte foram corrigidos e resolvidos há algumas semanas».
Incidentes semelhantes relacionados à Irregular foram divulgados pela Meta, Anthropic e OpenAI. A Meta informou em agosto que o incidente não envolvia fuga da caixa de areia ou ataque cibernético complexo, enquanto a Irregular alegava que estava trabalhando nas melhores práticas para avaliações de segurança cibernética de IA.
Esses acontecimentos levantaram questões sobre as medidas de proteção necessárias à medida que os agentes de IA ganham maior autonomia e acesso a sistemas de computador e à internet.
