Matemáticos de destaque exigem limitar o papel da IA na pesquisa científica
- 25 лауреатов Филдса подписали письмо против ИИ‑моделей
- OpenAI обвиняют в давлении на учёных и скрытом использовании данных
- Компания отказалась от спонсорства мероприятия КТИ после критики
- Учёные опасаются потери открытой научной культуры
В начале недели 25 выдающихся математиков, среди которых все подписанты являются обладателями медали Филдса, опубликовали открытое письмо. В документе они указывают, что компании, разрабатывающие крупные языковые модели, ставят под угрозу традиционный процесс научного творчества, пытаясь обойти друг друга в решении известных математических задач.
Конкретный конфликт с OpenAI
Профессор Тристана Бакмастера из Нью‑Йоркского университета обвинил OpenAI в том, что фирма оказывала на него давление, требуя исключить из списка соавторов коллегу из Anthropic, с которым он совместно работал над важной задачей. Бакмастер также выразил опасения, что OpenAI могла использовать материалы, загруженные учёными в систему Codex, для получения собственного прорывного доказательства в ходе длительных вычислений.
В ответ на растущую критику со стороны исследователей Калифорнийского технологического института (КТИ) OpenAI в четверг объявила об отказе от спонсорства запланированного математического мероприятия, организованного этим вузом.
Os defensores da IA destacam que a capacidade dos modelos de resolver problemas complexos não resolvidos pode trazer enormes benefícios para a humanidade. No entanto, os autores da carta acreditam que tais conquistas só serão significativas quando os resultados puderem ser compreendidos, verificados e explicados por especialistas em matemática, e depois comunicados a um público mais amplo.
Na carta, é mencionado que frequentemente os anúncios sobre novas soluções são feitos às pressas, sem a devida formatação, sem destacar os métodos-chave e sem referência a trabalhos anteriores. Isso levanta sérias questões sobre autoria e possível plágio, além de colocar em risco a cadeia de transmissão de conhecimento, característica da cultura matemática.
Outros pesquisadores estão cada vez mais se perguntando se a OpenAI poderia ter usado informações sobre sua interação com o Codex ao treinar novos modelos. O verdadeiro perigo é que a cultura de pesquisa aberta pode ser substituída pela opacidade: um grande laboratório de IA, ao descobrir um caminho promissor para a prova, pode investir dezenas de milhões de dólares no desenvolvimento de modelos de linguagem e publicar o resultado primeiro, deixando os pesquisadores originais na sombra.
A carta seguiu a chamada Declaração de Leiden, publicada em junho por um grupo de trabalho de cientistas. A declaração discutiu as potenciais mudanças no trabalho dos matemáticos relacionadas às provas obtidas com o uso de grandes modelos de linguagem e foram feitas recomendações para pesquisadores, instituições de ensino e órgãos governamentais.
Assim, o problema vai além de um conflito isolado entre a OpenAI e cientistas individuais. Ele diz respeito a uma questão fundamental sobre como manter a abertura, transparência e caráter coletivo do processo científico em uma época em que poderosos sistemas de IA são capazes de gerar resultados mais rapidamente e a um custo menor, mas sem controle humano, eles podem permanecer incompreensíveis e inacessíveis para o desenvolvimento futuro.
Fonte: 3DNews
