Tudo sobre Inteligência Artificial
ver mais
Tudo sobre OpenAI
ver mais
A OpenAI criou um painel independente formado por matemáticos para orientar a empresa e outras companhias de inteligência artificial (IA) sobre a relação entre IA e pesquisa matemática.
Continua após a publicidade
A iniciativa surge após uma sequência de controvérsias envolvendo a divulgação de resultados matemáticos produzidos pelos modelos da OpenAI e críticas de pesquisadores sobre reconhecimento de autoria, comunicação e práticas acadêmicas.
Chamado Advisory Group on Mathematics and Artificial Intelligence (AGMAI), o grupo terá nove integrantes e será hospedado pelo Institute for Advanced Study (IAS), em Princeton (EUA). Entre as instituições representadas pelos pesquisadores estão Stanford, Harvard, Oxford e Cambridge. O grupo reúne matemáticos que incluem vencedores da Medalha Fields e pesquisadores que receberam as chamadas bolsas “genius” da MacArthur.
A OpenAI afirma que o painel funcionará de maneira independente e poderá oferecer recomendações mesmo quando elas não forem solicitadas pela empresa. Os integrantes também poderão comentar publicamente sobre o impacto da IA na matemática e tornar públicas suas recomendações.
Segundo a companhia, o grupo deverá participar da revisão e da comunicação de novos resultados matemáticos. Entre as atribuições estão avaliar a importância das descobertas, orientar como elas devem ser divulgadas e oferecer recomendações sobre padrões acadêmicos e profissionais da área.
O painel também deverá aconselhar sobre maneiras pelas quais as ferramentas de IA podem apoiar a pesquisa e o aprendizado de matemática.
Os integrantes não serão pagos pela OpenAI e poderão alterar a composição do grupo conforme considerarem necessário. A empresa afirma que o valor da iniciativa depende de os pesquisadores poderem exercer o próprio julgamento e questionar as decisões da companhia.
Origem do grupo gera dúvidas
- Apesar da declaração de independência, a criação do AGMAI surpreendeu parte da comunidade matemática;
- Pesquisadores ouvidos pelo The Verge consideraram a iniciativa um primeiro passo, mas levantaram dúvidas sobre como o grupo funcionará na prática, qual será sua influência sobre a OpenAI e se a empresa realmente seguirá suas recomendações;
- Simon Machado, pesquisador da ETH Zurich, afirmou que a formação do painel parecia estar “envolta em mistério” e questionou como os nove integrantes foram escolhidos;
- O próprio site do grupo afirma que a iniciativa surgiu depois que a OpenAI procurou alguns dos matemáticos para discutir a criação de um conselho externo. Após as conversas, os pesquisadores decidiram formar um grupo independente e convidar outros integrantes;
- Não está claro, porém, quais membros foram inicialmente procurados pela OpenAI ou como os demais foram selecionados.
Em um texto publicado no blog Proofs and Prompts, Martin Hairer, integrante do grupo, explicou a origem da iniciativa e respondeu ao que chamou de uma “avalanche de desinformação” sobre sua formação.
Hairer reconheceu que o grupo surgiu após uma abordagem da OpenAI, mas afirmou que nem todos os integrantes haviam sido procurados pela empresa. Segundo ele, a organização é “genuinamente independente” da OpenAI e de outras empresas de IA de fronteira.
Com exceção de requisitos óbvios de confidencialidade, Hairer disse que os integrantes não assinaram acordos que restrinjam o que podem dizer publicamente. Eles também não recebem compensação financeira da OpenAI e contam com suporte técnico do Institute for Advanced Study.
Grupo reúne pesquisadores de elite
Hairer afirmou que o objetivo central do painel é representar da melhor maneira possível os interesses da comunidade matemática. Ao mesmo tempo, reconheceu que os nove integrantes estão longe de constituir uma amostra representativa de toda a área.
Continua após a publicidade
O tamanho reduzido do grupo também levantou questionamentos sobre sua capacidade de reunir conhecimentos suficientes para avaliar resultados em diferentes áreas da matemática. Isso porque a pesquisa na fronteira do campo exige conhecimentos altamente especializados.
Leia mais:
- OpenAI prevê “queimar” US$ 280 bilhões até 2030 para financiar expansão da infraestrutura de IA
- OpenAI pede que EUA liderem criação de padrões globais para controlar riscos de IAs avançadas
- OpenAI lança GPT-6 Sol e Luna, novos modelos de IA que prometem mais desempenho por menos dinheiro
OpenAI afirma que o grupo de matemáticos vai orientar a empresa de forma independente – Imagem: Summit Art Creations / Shutterstock
Francesco Fournier-Facio, futuro professor de matemática da Heriot-Watt University, disse ser “ambivalente” em relação ao painel. Para ele, uma aproximação maior entre empresas de IA e matemáticos pode melhorar a situação, mas questionou se os integrantes representam de fato a comunidade afetada pelo avanço da tecnologia. “Parece uma torre de marfim”, afirmou ao The Verge.
Continua após a publicidade
Machado também questionou se os integrantes conseguem representar as preocupações de matemáticos que estão fora desse círculo altamente prestigiado.
“Eles são matemáticos incríveis, mas não sei se são as pessoas que quero que me representem em questões mais políticas”, disse. Segundo ele, a realidade enfrentada por pesquisadores em posições tão privilegiadas pode ser muito diferente daquela vivida pela maioria dos matemáticos.
OpenAI prepara divulgação de novos resultados
Um dos principais desafios do grupo já está definido. Ao anunciar o painel, a OpenAI revelou que um novo modelo ainda não lançado — o mesmo que teria resolvido o problema do Prêmio Millennium de Navier-Stokes — já teria resolvido mais de 100 problemas matemáticos abertos de longa data em diferentes áreas da matemática.
A empresa também afirmou anteriormente que está próxima de solucionar outro problema do Prêmio Millennium.
Continua após a publicidade
Segundo o site do AGMAI, lidar com esse grande volume de resultados é a primeira prioridade do grupo. Os pesquisadores afirmam estar diante do desafio específico de orientar a OpenAI sobre como coordenar a divulgação de uma grande quantidade de resultados matemáticos significativos que, segundo a empresa, foram produzidos por seu modelo interno.
A iniciativa ocorre após meses de críticas à forma como a OpenAI apresentou descobertas matemáticas. Entre as controvérsias estão acusações de que a companhia teria se apropriado de trabalhos de pesquisadores, deixado de reconhecer adequadamente contribuições humanas e até utilizado de maneira indevida trabalhos de pessoas que empregaram seus próprios modelos.
As controvérsias fizeram pesquisadores questionarem se a OpenAI compreendia ou respeitava as práticas e a comunidade da matemática.
Hairer afirmou que seria contraditório não dialogar com a empresa agora que ela aparenta estar tentando estabelecer uma relação com os pesquisadores. O grupo ainda não definiu quais recomendações apresentará, mas já identificou o problema que pretende enfrentar.
Continua após a publicidade
Segundo ele, empresas de IA produziram nos últimos meses resultados matemáticos de grande repercussão, mas a publicação e a divulgação dessas descobertas ficaram muito abaixo do que seria considerado uma prática matemática aceitável.
Por enquanto, o grupo está coletando opiniões por meio de conversas com colegas, de um formulário público de contribuições e de discussões no Proofs and Prompts, que se tornou um dos espaços de debate sobre o impacto da IA na matemática.
Hairer também reconheceu que o grupo terá de lidar com o poder de comunicação das empresas de IA. Segundo ele, seria ingênuo acreditar que os laboratórios não tentarão apresentar as declarações do painel de uma maneira favorável às próprias estratégias de relações públicas.
Kevin Buzzard, professor de matemática do Imperial College London, questionou por que a OpenAI precisaria de um grupo tão seleto de pesquisadores para compreender o que a comunidade matemática deseja.
“Não eram provas de teoremas difíceis, era uma melhor compreensão da nossa área”, afirmou. “Não está totalmente claro para mim que você precise de um comitê de pessoas brilhantes para enfatizar esse ponto.”
Rodrigo Mozelli
Rodrigo Mozelli é jornalista formado pela Universidade Metodista de São Paulo (UMESP) e, atualmente, é redator do Olhar Digital.
Ver todos os artigos →
Tags: Inteligência Artificial Matemática OpenAI
