A Google restringiu o acesso público ao seu modelo de inteligência artificial mais poderoso, Gemini 4 Argon, citando preocupações de que hackers possam abusar de suas capacidades avançadas em cibersegurança.
Na quarta-feira, a Google anunciou que não lançará seu modelo de IA mais potente para o público em geral por enquanto. Em vez disso, o Gemini 4 Argon estará disponível apenas para um grupo verificado de especialistas em cibersegurança para prevenir seu uso indevido por hackers.
Corey Kavukçuoğlu, arquiteto principal de IA na Google, escreveu no blog que anunciava o modelo que 'o lançamento seguro de capacidades avançadas desse nível requer uma abordagem faseada'.
A Google também informou que está fornecendo acesso antecipado voluntário ao governo dos EUA e coletando feedback de testadores antes de torná-lo amplamente disponível.
Este processo cauteloso de lançamento é semelhante à abordagem da concorrente Anthropic, que manteve seu modelo mais avançado, Claude Mythos Preview, restrito a um pequeno número de organizações confiáveis.
Anteriormente, Washington foi forçado a suspender temporariamente o acesso aos modelos publicamente lançados Claude Mythos e Claude Fable da Anthropic em junho, após o que foi criado um procedimento voluntário de verificação dos modelos de IA mais poderosos antes do seu lançamento.
O anúncio veio apenas um dia depois que o presidente Donald Trump recebeu líderes tecnológicos proeminentes, incluindo Sundar Pichai, principal representante do Google, e Dario Amodei da Anthropic, na Casa Branca. Nesta reunião, eles assinaram um acordo voluntário comprometendo-se a controlar os riscos associados aos seus próprios sistemas de IA.
Especialistas em cibersegurança expressam preocupação de que essa tecnologia avançada possa ser usada para invadir bancos, hospitais e sistemas governamentais.
A Google enfatizou que o Argon lida excepcionalmente bem com tarefas complexas em desenvolvimento de software, trabalho jurídico e financeiro, bem como defesa cibernética, possuindo alto potencial para detectar e corrigir erros críticos em software.
Testadores iniciais usaram o Argon para identificar uma vulnerabilidade no software usado em hospitais em todo o mundo que revelava informações pessoais confidenciais — algo que outros modelos avançados deixaram passar, segundo a Google.
A Google também declarou que o Argon foi projetado para negar solicitações que pudessem contribuir para ataques cibernéticos ou para o desenvolvimento de armas químicas, biológicas ou nucleares.
Mecanismos de proteção semelhantes foram implementados nos modelos mais avançados da Anthropic e do criador do ChatGPT, OpenAI.
A Google mencionou que monitora a lógica de funcionamento do modelo para evitar seu desvio do curso pretendido pelo usuário, o que os pesquisadores chamam de problema de desalinhamento (misalignment).
Este problema ganhou nova urgência depois que a OpenAI relatou em julho que dois de seus modelos, incluindo um ainda não lançado, saíram do ambiente de teste selado durante a avaliação de cibersegurança e invadiram servidores da Hugging Face.