A OpenAI manifestou o desejo de que os Estados Unidos assumam a liderança em um esforço internacional focado na elaboração de padrões técnicos globais para sistemas de inteligência artificial (IA) de ponta, incluindo aquelas capazes de melhorar recursivamente suas próprias funcionalidades.
Esta sugestão foi divulgada pela companhia em uma publicação realizada nesta segunda-feira (21), coincidindo com a reunião da Assembleia Geral das Nações Unidas (ONU) com líderes mundiais. A iniciativa surge em um contexto de intenso debate global sobre como acompanhar o rápido progresso dos sistemas de IA.
A OpenAI defende a implementação de mecanismos que permitam a coexistência de normas nacionais e internacionais, juntamente com métricas padronizadas e protocolos claros para notificação de incidentes. De acordo com a empresa, isso facilitaria a comparação de provas, a análise de riscos e a resposta conjunta a problemas ligados à IA.
Para a OpenAI, os padrões internacionais de segurança e proteção no desenvolvimento de IA de ponta são tão cruciais quanto as pesquisas de alinhamento necessárias para acompanhar a evolução tecnológica.
Desafios e Propostas de Coordenação Internacional
A organização identificou três desafios principais que justificariam uma coordenação internacional, abrangendo tanto modelos de IA abertos quanto fechados. Além disso, a empresa sustenta que os laboratórios envolvidos em pesquisa automatizada ou outras capacidades avançadas devem conduzir seus trabalhos com segurança, aderindo a princípios básicos de autoria responsável e às legislações vigentes.
Uma das alternativas sugeridas pela OpenAI é utilizar a rede de institutos nacionais de segurança em IA já estabelecida em diversos países, como Austrália, Canadá, Alemanha, França, Quênia, Japão, Coreia do Sul, Singapura, Índia e Reino Unido. Essas entidades poderiam auxiliar na definição de padrões através do Center for AI Standards and Innovation (CAISI) e de órgãos setoriais nacionais, concentrando-se em modelos de IA de ponta e na gestão dos riscos e benefícios da pesquisa automatizada, incluindo o RSI.
Estes padrões funcionariam como uma base técnica comum para mensurar e avaliar capacidades, investigar riscos e confirmar a eficácia dos mecanismos de proteção. A OpenAI fez questão de esclarecer que tais padrões não constituiriam licenças, exigências de revisão prévia ao lançamento ou requisitos de aprovação para modelos de IA; caberá aos governos nacionais decidir como integrá-los aos seus ordenamentos jurídicos.
A proposta também prevê que o processo de criação dos padrões seja consultivo, envolvendo desenvolvedores de modelos abertos e fechados, especialistas técnicos independentes e universidades. O objetivo é assegurar que os padrões sejam desenvolvidos de forma transparente, sem beneficiar empresas, nações ou modelos de negócio específicos.
Medições Comuns e Comunicação de Incidentes
A segunda parte da proposta da OpenAI foca na criação de protocolos e medições uniformes para a comunicação de incidentes. A empresa também incentiva que governos e operadores de infraestrutura crítica criem canais seguros para compartilhar preocupações relativas à segurança nacional, vulnerabilidades, ameaças emergentes e melhores práticas de segurança para a IA de ponta.
Especificamente, a OpenAI mencionou o diálogo entre os Estados Unidos e a China como uma área onde essa comunicação poderia ser aprofundada. A companhia argumenta que os Estados Unidos estão bem posicionados para liderar este esforço devido à sua indústria de IA estar na vanguarda tecnológica e ao país possuir relevância em setores como finanças, comércio, defesa, tecnologia e sistemas de informação.
Segundo a análise da empresa, assumir a liderança neste momento ajudaria a moldar a estrutura global de IA, enquanto a inação poderia levar a um sistema desigual e fragmentado. Essa proposta surge em um período de intensa discussão internacional sobre a necessidade de coordenar o desenvolvimento de sistemas avançados.
A OpenAI e outros líderes do setor debatem métodos para acompanhar o ritmo do desenvolvimento tecnológico diante dos riscos inerentes a sistemas que poderiam ultrapassar a capacidade de supervisão humana. Contudo, a OpenAI ressalta que o conceito de «pacing» não implica em determinar uma velocidade fixa para o avanço da IA; tecnicamente, o propósito é garantir que as pesquisas de alinhamento e sua aplicação permaneçam à frente das capacidades dos sistemas.
