TÍTULO: Matemáticos cobram transparência da OpenAI sobre uso de pesquisas em avanços recentes
SLUG: matematicos-cobram-transparencia-openai-uso-pesquisas
TAGS: OpenAI, Inteligência Artificial, Matemática, Transparência, Pesquisa Científica
META: Matemáticos questionam OpenAI sobre possíveis usos de suas pesquisas em avanços da IA e pedem mais clareza sobre dados de treinamento da empresa.
A recente conquista da OpenAI ao anunciar uma solução para um dos problemas do Milênio na matemática causou euforia. No entanto, o feito também levantou suspeitas e críticas dentro da comunidade acadêmica, especialmente entre matemáticos que afirmam que a empresa pode ter usado pesquisas deles sem autorização ou transparência.
Após acusações públicas feitas por Tristan Buckmaster, professor de matemática da New York University, outro pesquisador, Andreas Thom, veio à tona neste mês de setembro. Ele questiona os métodos da OpenAI e exige comprovação clara de que seu trabalho não foi usado indevidamente nos avanços recentes da companhia.
Matemáticos questionam origem dos dados usados pela OpenAI
Andreas Thom, em publicações na rede Mastodon, declarou preocupação com a possibilidade de que interações que ele e outros pesquisadores tiveram com o chatbot ChatGPT estivessem, de alguma forma, integradas aos dados que treinaram os modelos de IA da OpenAI.
O motivo desse questionamento surgiu principalmente após a OpenAI divulgar resultados envolvendo estruturas matemáticas complexas chamadas de grupos não-sofícos — área na qual Thom é especialista. A empresa admitiu que as novas descobertas foram fortemente baseadas em trabalhos dele e de outro matemático, Gábor Kun.
Acusações de falta de transparência e ética
Thom disse ter enviado e-mails aos pesquisadores da OpenAI, como Sébastien Bubeck e Mark Sellke, para entender se suas conversas com o ChatGPT poderiam ter sido usadas diretamente no treinamento do modelo ou impactado o processo decisório da IA.
Porém, as respostas não satisfizeram Thom, que acusa a companhia de não esclarecer se essas interações foram de fato incorporadas aos grandes conjuntos de dados utilizados para aprendizado. Ele afirmou que essa omissão configura, no mínimo, desonestidade, pois não houve explicações específicas ou provas fornecidas pela OpenAI.
Desafios para comprovar uso de dados e a posição da OpenAI
Os matemáticos alegam que não têm como confirmar se seu material foi efetivamente utilizado para treinar os sistemas da OpenAI, já que apenas a empresa dispõe do pipeline completo de dados. Thom defende que, caso a companhia negue o uso, cabe a ela comprovar isso detalhando todas as fontes e configurações adotadas.
A postura da OpenAI nesse caso lembra a defesa apresentada há pouco sobre a solução do problema de Navier-Stokes, relativo à dinâmica dos fluidos, reconhecido como um marco na inteligência artificial. Na ocasião, a empresa negou usar dados específicos de usuários na solução, mas admitiu que dados anônimos, desidentificados, poderiam ter tido um impacto indireto no aprimoramento dos modelos.
Reação da comunidade matemática e desdobramentos da polêmica
Vários pesquisadores relataram ao EventiOZ desconfiança diante do cenário, temendo que o comportamento das empresas de tecnologia leve a um ambiente acadêmico mais fechado e competitivo, onde rumores de descobertas matemáticas importantes desencadeiem corridas para publicação impulsionadas por grandes corporações.
Essa tensão cresce justamente quando a OpenAI celebra avanços inéditos, dando mais peso à demanda por transparência nos processos que envolvem o uso de dados de usuários e pesquisas científicas. Até o momento, a OpenAI não se manifestou oficialmente sobre as acusações de Andreas Thom.
Vale a pena acompanhar a transparência da OpenAI na matemática?
Sem dúvida, essa questão coloca em evidência o desafio do uso ético de dados e a necessidade de diálogo aberto entre pesquisadores e empresas de IA. A demanda por provas claras reforça quanto a transparência é fundamental para consolidar avanços tecnológicos, principalmente em áreas tão sensíveis quanto a matemática de ponta.
O público que acompanha as notícias relacionadas à inteligência artificial deve ficar atento às próximas respostas da OpenAI e como a empresa lidará com as cobranças da comunidade científica nos próximos meses. Assim, será possível avaliar de maneira justa o impacto real dessas tecnologias no conhecimento e na sociedade.
