Geoffrey Hinton, um dos pioneiros da inteligência artificial (IA), expressou a opinião de que a humanidade estaria em uma situação melhor sem o desenvolvimento dessa tecnologia. Além disso, ele emitiu um aviso de que sistemas de IA altamente avançados poderiam causar incidentes de grande magnitude já em 2026 ou 2027.
Vencedor do Prêmio Nobel, Hinton manifesta críticas aos líderes de grandes corporações de tecnologia, acusando-os de priorizarem o lucro e a fatia de mercado em detrimento da segurança. Para mitigar os riscos inerentes, ele defende a implementação de testes obrigatórios e avaliações realizadas por entidades independentes antes que qualquer modelo avançado seja lançado.
Em uma entrevista concedida ao The Guardian, Hinton, que possui 78 anos, salientou que os próximos dez anos, ou talvez um período menor, serão cruciais para definir se a humanidade conseguirá gerenciar os perigos da IA e atingir o que ele denomina de «abundância radical». Caso contrário, o futuro pode apresentar consequências como disparidades sociais acentuadas, desemprego em massa, deterioração cultural e fragmentação social.
Uma das maiores apreensões do pesquisador reside na potencial capacidade dos sistemas de IA de desenvolverem condutas que tornem o controle humano difícil. Ele já havia alertado que, se essas ferramentas passarem a buscar maior autonomia e domínio, a humanidade enfrentará sérios desafios.
Hinton também colocou em dúvida a conduta dos executivos das empresas que competem pelo domínio do setor. Ele declarou não depositar confiança em Sam Altman, CEO da OpenAI, e criticou Mark Zuckerberg, da Meta, e Elon Musk, da xAI. Ele afirmou ao The Guardian: «Eles entendem os riscos e não dão a mínima. Preferem ficar com o dinheiro. Essa é a minha opinião».
O cientista considera particularmente alarmante o fato de Altman estar à frente de uma das principais companhias norte-americanas na disputa com a China pelo desenvolvimento dos sistemas de IA mais sofisticados.
Hinton dedica-se à inteligência artificial há cerca de 44 anos. Na década de 1970, ele concebeu o conceito de redes neurais artificiais, que são sistemas matemáticos aptos a aprender através de experiências. Em 2023, ele deixou o Google para se dedicar a discutir publicamente os riscos associados à tecnologia.
Um incidente envolvendo agentes de IA da OpenAI, que orquestraram uma invasão ao site Hugging Face, serviu para reforçar suas preocupações. Hinton fez uma analogia com o acidente nuclear de Three Mile Island, ocorrido em 1979, nos Estados Unidos, classificando este evento como um primeiro sinal de alerta.
Segundo a análise do pesquisador, um evento ainda mais grave, comparável ao de Chernobyl, pode ocorrer até o final de 2027. Entre os possíveis cenários levantados, Hinton acredita que um episódio dessa natureza poderia forçar líderes globais a prestarem atenção aos perigos da tecnologia. Ao abordar quem deveria tomar providências, ele excluiu o presidente dos Estados Unidos, Donald Trump.
Trump, por sua vez, rejeita quaisquer iniciativas de controle internacional, defendendo que as próprias empresas devem estabelecer suas normas, sob o argumento de que restrições poderiam prejudicar a posição dos Estados Unidos na rivalidade com a China.
Hinton endossa uma proposta apoiada por 33 nações, incluindo Finlândia, Alemanha, Canadá, Austrália e Singapura. Este plano propõe a realização de avaliações obrigatórias dos modelos mais avançados, análises independentes e a criação de padrões comuns entre os governos.
Para detalhar como essa supervisão deveria operar, o pesquisador utilizou como referência a agência norte-americana responsável pela aprovação de fármacos, a FDA. Sua sugestão é que as empresas apresentem dados estatísticos a uma autoridade imparcial para comprovar que os benefícios dos sistemas superam os riscos antes de lançá-los.
Hinton mencionou o caso da talidomida, um medicamento criado na década de 1950 que causou graves deformidades congênitas, para argumentar que não basta apenas disponibilizar um produto e responsabilizar os fabricantes após a ocorrência dos danos.
Apesar de todos os avisos, o cientista mantém a crença de que ainda é possível prevenir uma catástrofe. Ele declarou: «Meu instinto diz que ainda estamos no controle», embora tenha ressaltado que isso dependerá de um esforço considerável.



