Um ex-funcionário do departamento de segurança da OpenAI, empresa responsável pelo ChatGPT, criticou a abordagem das empresas de inteligência artificial (IA) em relação ao gerenciamento de riscos decorrentes do desenvolvimento de sistemas cada vez mais sofisticados. David Robinson acredita que a aceleração da corrida tecnológica aumenta a probabilidade de falhas e exige uma postura mais cautelosa.
Em um artigo publicado neste sábado (3) na revista americana The Atlantic, Robinson afirmou que as empresas que desenvolvem IA, incluindo a OpenAI, estão 'longe de serem suficientemente cautelosas'.
Na opinião do ex-funcionário, as empresas devem dar mais atenção aos especialistas em segurança e à pesquisa antes de iniciar o desenvolvimento de sistemas mais avançados. Robinson enfatizou: 'O tempo dos testes e erros acabou.'
Ele defende que os sistemas avançados de IA devem ter medidas de segurança semelhantes às usadas em setores como energia nuclear e aviação. Robinson também criticou a prática da OpenAI, que ela chama de 'implementação iterativa', que consiste em lançar sistemas e, posteriormente, reforçar as medidas de segurança à medida que os problemas são descobertos.
Essas observações fazem parte de um debate no campo da IA sobre a velocidade com que as empresas estão criando sistemas cada vez mais complexos. A OpenAI e sua concorrente Anthropic estão sendo questionadas após incidentes em que os sistemas de segurança falharam ou sistemas experimentais demonstraram comportamento inesperado.
Mais informações:
A crítica de Robinson não é um caso isolado entre os especialistas que trabalharam em empresas de IA. No mês passado, um pesquisador que deixou a OpenAI para trabalhar na Anthropic também deixou a indústria e acusou ambas as empresas americanas de 'brincar com nossas vidas'.
Jacob Coxon, um britânico de 27 anos, trabalhou por três anos no pré-treinamento — a fase em que os modelos de IA absorvem enormes quantidades de informação. Ele trabalhou primeiro na OpenAI e depois na Anthropic este ano.
Coxon escreveu no X: 'Nenhuma das empresas está agindo de forma responsável. Elas estão correndo diretamente para a superinteligência capaz de se aperfeiçoar, arriscando nossas vidas.'