A OpenAI instituiu um painel independente composto por matemáticos com o intuito de guiar a própria empresa e outras corporações de inteligência artificial (IA) acerca da intersecção entre a IA e a investigação matemática.
Esta iniciativa foi motivada por uma série de controvérsias relacionadas à apresentação de resultados matemáticos gerados pelos modelos da OpenAI, bem como por críticas de especialistas sobre questões de autoria, comunicação e normas acadêmicas.
Estrutura e Funcionamento do Grupo
O grupo, denominado Advisory Group on Mathematics and Artificial Intelligence (AGMAI), contará com nove membros e será sediado no Institute for Advanced Study (IAS), localizado em Princeton, EUA. Os pesquisadores representam diversas instituições renomadas, incluindo Stanford, Harvard, Oxford e Cambridge. Entre os participantes estão matemáticos laureados com a Medalha Fields e aqueles que receberam as bolsas "genius" da MacArthur.
A OpenAI assegura que este painel operará de forma autônoma, podendo emitir recomendações mesmo sem solicitação formal da companhia. Além disso, os membros têm a prerrogativa de comentar publicamente sobre o impacto da IA na matemática e divulgar suas sugestões.
De acordo com a empresa, as responsabilidades do painel incluem participar da análise e da comunicação de novas descobertas matemáticas. Suas tarefas abrangem a avaliação da relevância dos achados, a orientação sobre como estes devem ser divulgados e a proposição de diretrizes relativas aos padrões profissionais e acadêmicos da área.
Adicionalmente, o painel deve aconselhar sobre formas pelas quais as ferramentas de IA podem auxiliar tanto a pesquisa quanto o processo de aprendizagem em matemática. É importante notar que os integrantes não receberão remuneração da OpenAI e possuem liberdade para modificar a composição do grupo conforme julgarem necessário.
A OpenAI enfatiza que o sucesso desta iniciativa depende da capacidade dos pesquisadores de exercerem seu próprio discernimento e de contestarem as decisões da empresa.
Perspectivas e Críticas dos Membros
Martin Hairer, um dos membros do grupo, detalhou a origem da iniciativa em um artigo publicado no blog Proofs and Prompts, abordando o que ele classificou como uma "avalancha de desinformação" sobre sua constituição. Hairer confirmou que a OpenAI iniciou o contato, mas ressaltou que nem todos os integrantes foram abordados pela organização. Ele defendeu que a estrutura é "genuinamente independente" tanto da OpenAI quanto de outras empresas de ponta em IA.
Hairer esclareceu que, exceto por obrigações básicas de sigilo, os membros não assinaram contratos que limitassem suas declarações públicas, tampouco recebem compensação financeira da OpenAI, contando apenas com o suporte técnico do Institute for Advanced Study.
O foco principal do painel, segundo Hairer, é representar os interesses da comunidade matemática da melhor maneira possível, embora ele tenha admitido que os nove membros não formam uma amostra representativa de todo o campo.
O número reduzido do grupo suscitou dúvidas sobre sua aptidão para consolidar conhecimento suficiente para julgar resultados em distintas áreas da matemática, visto que a pesquisa de fronteira demanda especialização elevada.
Visões Externas sobre a Representatividade
Francesco Fournier-Facio, futuro professor de matemática da Heriot-Watt University, manifestou-se com ambivalência sobre o painel. Embora veja potencial na maior proximidade entre empresas de IA e matemáticos para melhorar a situação, ele questionou se os membros realmente espelham a comunidade afetada pelo avanço tecnológico, descrevendo a situação como "parece uma torre de marfim".
Machado também expressou ceticismo quanto à capacidade dos integrantes de representar as preocupações de matemáticos que não pertencem a esse círculo de alto prestígio. Ele comentou que, apesar de serem matemáticos notáveis, ele não tem certeza se são as pessoas ideais para representá-lo em assuntos de cunho político, pois a realidade de pesquisadores tão privilegiados pode diferir muito da vivenciada pela maioria dos matemáticos.
Desafios Imediatos e Contexto das Polêmicas
Um desafio primordial já foi estabelecido: ao anunciar o painel, a OpenAI revelou que um modelo inédito, supostamente capaz de resolver o problema do Prêmio Millennium de Navier-Stokes, havia solucionado mais de cem problemas matemáticos abertos há muito tempo em várias disciplinas. A companhia também mencionou ter avançado na resolução de outro problema do Prêmio Millennium.
Conforme indicado no site do AGMAI, gerenciar esse vasto volume de resultados é a prioridade inicial do grupo. Os pesquisadores enfrentam o desafio específico de orientar a OpenAI sobre como coordenar a divulgação de uma grande quantidade de descobertas matemáticas significativas produzidas pelo modelo interno da empresa.
Essa criação ocorre após meses de críticas à metodologia de apresentação de descobertas pela OpenAI. As controvérsias incluíram alegações de apropriação indevida de trabalhos de pesquisadores, falha em dar devido crédito a contribuições humanas e uso inadequado de pesquisas feitas por indivíduos que empregaram seus próprios modelos.
Esses incidentes levaram os matemáticos a questionar se a OpenAI possuía ou respeitava as práticas e a comunidade matemática. Hairer argumentou que seria incoerente não dialogar com a empresa neste momento, dado seu esforço aparente em estabelecer um vínculo com os pesquisadores. Embora o grupo ainda não tenha definido recomendações, ele já identificou o problema central a ser tratado.
Ele observou que, nos últimos meses, empresas de IA geraram resultados matemáticos de grande impacto, mas a forma como essas descobertas foram publicadas e divulgadas ficou aquém do que seria considerado uma prática matemática aceitável. Atualmente, o grupo está reunindo opiniões através de conversas com pares, um formulário público de contribuições e debates no Proofs and Prompts, que se tornou um fórum de discussão sobre o tema.
Hairer também alertou sobre o poder comunicacional das empresas de IA, considerando ingênuo crer que os laboratórios não tentariam apresentar as declarações do painel de modo favorável às suas próprias estratégias de relações públicas.
Kevin Buzzard, professor de matemática do Imperial College London, questionou a necessidade de um grupo tão exclusivo para que a OpenAI entendesse o que a comunidade matemática almeja. Ele afirmou que "não eram provas de teoremas difíceis, era uma melhor compreensão da nossa área", acrescentando que "não está totalmente claro para mim que você precise de um comitê de pessoas brilhantes para enfatizar esse ponto".