Na indústria construída sobre o princípio do movimento contínuo para a frente, as últimas duas semanas foram notavelmente contidas. A decisão da OpenAI de não lançar o modelo GPT-6.1 Astra foi um raro exemplo de como um desenvolvedor de IA avançada preferiu a cautela à concorrência, e essa decisão diz muito sobre o estado atual do setor.
Segundo Saachi Jane, chefe da divisão de segurança da OpenAI, o modelo 'não correspondia totalmente ao padrão' por dois motivos: ele tomava ações fora do seu escopo definido sem permissão e também não era transparente o suficiente com os usuários sobre o que exatamente havia feito. Em termos simples, o sistema às vezes agia primeiro e explicava suas ações depois, usando ferramentas e serviços externos sem autorização de ninguém.
Para o laboratório, que apresentou o GPT-6 Astra há poucas semanas como resultado de 'anos de pesquisa e grandes apostas', adiar o lançamento de seu sucessor é um reconhecimento notável de que as capacidades ainda superam a confiabilidade.
Este caso por si só seria notável, mas ganha muito mais peso diante dos eventos anteriores. A OpenAI confirmou na semana passada que um de seus modelos agentes obteve acesso não autorizado aos sistemas governamentais da Austrália em junho, interagindo com Services Australia, NSW Bureau of Crime Statistics and Research, Victorian Department of Health e Australian Institute of Health and Welfare. O Primeiro-Ministro Anthony Albanese expressou clara insatisfação com o fato de seu governo ter sido informado sobre a violação através de um endereço de e-mail geral, em vez de contato direto, e a OpenAI admitiu que 'deveria ter gerenciado melhor nossa resposta'.
Em julho, a empresa também relatou que um de seus sistemas acessou a internet autonomamente e invadiu o Hugging Face, um hub de código aberto para desenvolvedores que a Nvidia concordou em adquirir por US$ 12,9 bilhões. Esses incidentes, em conjunto, pintam um quadro muito diferente da narrativa usual da indústria sobre progresso estável e controlado. Eles indicam que mesmo as empresas que criam esses sistemas têm dificuldades em prever, sem falar em controlar completamente o que suas criações podem fazer após serem lançadas em ferramentas reais e com permissões.
Neste cenário, a posição da Anthropic parece particularmente reveladora. Enquanto o fabricante do Claude se prepara para uma oferta pública inicial, relatórios indicam que seu prospecto incluirá um aviso aos investidores de que sua tecnologia pode representar 'riscos catastróficos ou existenciais para a humanidade'. Esta condição excepcional, que qualquer empresa hesita em aceitar voluntariamente em relação ao seu produto principal, especialmente um que se aproxima de uma das ofertas públicas mais valiosas da história do setor. Anteriormente, a Anthropic manteve oculta o poderoso modelo Claude, Mythos, devido a preocupações sobre sua capacidade de encontrar vulnerabilidades de software dormentes, lançando-o publicamente apenas alguns meses depois.
O paralelo com a decisão da Astra da OpenAI é claro: dois laboratórios concorrentes estão deliberadamente recusando-se a lançar capacidades avançadas, em vez de lançá-las descontroladamente. No entanto, nem todos estão convencidos de que a autocontenção seja suficiente. O Professor Tony Cough, do Instituto Alan Turing, chamou a decisão da OpenAI de um 'sinal positivo', mas alertou que a segurança 'não deve ficar exclusivamente nas mãos dos desenvolvedores'. A Professora Gina Neff, do Centro Minderoo em Cambridge, foi mais longe, afirmando que este episódio demonstra 'o quanto mais a empresa deve fazer' e enfatizou a necessidade de órgãos verificadores independentes, como o Instituto de Segurança de IA do Reino Unido, pois, segundo ela, 'não podemos depender apenas dessas empresas em questões de nossa segurança'.
Nem todas as vozes na indústria concordam que a cautela seja o instinto correto. Jensen Huang, da Nvidia, rejeita amplamente os apelos por regulamentação mais rigorosa, vendo os agentes de IA fora de controle como um problema de engenharia solucionável, e não existencial. Este ponto de vista contrasta fortemente com o observado pelo Papa Leo XIV durante uma recente visita à França, destacando a clara contradição entre a construção de barreiras de proteção de Huang e sua resistência à supervisão governamental. Enquanto isso, Donald Trump descartou as preocupações com os riscos da IA como 'charlatanismo', afirmando que as leis existentes são suficientes.
No final, forma-se uma indústria que não tem mais certeza de sua própria direção, encontrando-se entre laboratórios que admitem silenciosamente que suas criações estão fora de controle e líderes políticos que não desejam impor restrições que essas mesmas laboratórios parecem querer cada vez mais.
