Matemáticos de destaque exigem limitar o papel da IA na pesquisa científica

• 25 laureados com a medalha Fields assinaram uma carta contra modelos de IA
• A OpenAI é acusada de pressionar cientistas e usar dados de forma oculta
• A empresa desistiu de patrocinar o evento KTI após críticas
• Cientistas temem a perda da cultura científica aberta

No início da semana, 25 matemáticos de destaque, entre os quais todos os signatários são detentores da medalha Fields, publicaram uma carta aberta. No documento, eles afirmam que as empresas que desenvolvem grandes modelos de linguagem estão ameaçando o processo tradicional de criatividade científica, tentando superar umas às outras na resolução de problemas matemáticos conhecidos.

Conflito específico com a OpenAI

O professor Tristão Buckmaster da Universidade de Nova York acusou a OpenAI de pressioná-lo a excluir da lista de coautores um colega da Anthropic, com quem ele trabalhou em uma tarefa importante. Buckmaster também expressou preocupações de que a OpenAI poderia ter usado materiais carregados por cientistas no sistema Codex para obter sua própria prova inovadora durante longos cálculos.

Em resposta à crescente crítica por parte de pesquisadores do Instituto de Tecnologia da Califórnia (Caltech), a OpenAI anunciou na quinta-feira que desistiu de patrocinar um evento matemático planejado, organizado por essa instituição.

Os defensores da IA destacam que a capacidade dos modelos de resolver problemas complexos não resolvidos pode trazer enormes benefícios para a humanidade. No entanto, os autores da carta acreditam que tais conquistas só serão significativas quando os resultados puderem ser compreendidos, verificados e explicados por especialistas em matemática, e depois comunicados a um público mais amplo.

Na carta, é mencionado que frequentemente os anúncios sobre novas soluções são feitos às pressas, sem a devida formatação, sem destacar os métodos-chave e sem referência a trabalhos anteriores. Isso levanta sérias questões sobre autoria e possível plágio, além de colocar em risco a cadeia de transmissão de conhecimento, característica da cultura matemática.

Outros pesquisadores estão cada vez mais se perguntando se a OpenAI poderia ter usado informações sobre sua interação com o Codex ao treinar novos modelos. O verdadeiro perigo é que a cultura de pesquisa aberta pode ser substituída pela opacidade: um grande laboratório de IA, ao descobrir um caminho promissor para a prova, pode investir dezenas de milhões de dólares no desenvolvimento de modelos de linguagem e publicar o resultado primeiro, deixando os pesquisadores originais na sombra.

A carta seguiu a chamada Declaração de Leiden, publicada em junho por um grupo de trabalho de cientistas. A declaração discutiu as potenciais mudanças no trabalho dos matemáticos relacionadas às provas obtidas com o uso de grandes modelos de linguagem e foram feitas recomendações para pesquisadores, instituições de ensino e órgãos governamentais.

Assim, o problema vai além de um conflito isolado entre a OpenAI e cientistas individuais. Ele diz respeito a uma questão fundamental sobre como manter a abertura, transparência e caráter coletivo do processo científico em uma época em que poderosos sistemas de IA são capazes de gerar resultados mais rapidamente e a um custo menor, mas sem controle humano, eles podem permanecer incompreensíveis e inacessíveis para o desenvolvimento futuro.

Fonte: 3DNews