Des mathématiciens de premier plan demandent de limiter le rôle de l'IA dans la recherche scientifique
- 25 лауреатов Филдса подписали письмо против ИИ‑моделей
- OpenAI обвиняют в давлении на учёных и скрытом использовании данных
- Компания отказалась от спонсорства мероприятия КТИ после критики
- Учёные опасаются потери открытой научной культуры
В начале недели 25 выдающихся математиков, среди которых все подписанты являются обладателями медали Филдса, опубликовали открытое письмо. В документе они указывают, что компании, разрабатывающие крупные языковые модели, ставят под угрозу традиционный процесс научного творчества, пытаясь обойти друг друга в решении известных математических задач.
Конкретный конфликт с OpenAI
Профессор Тристана Бакмастера из Нью‑Йоркского университета обвинил OpenAI в том, что фирма оказывала на него давление, требуя исключить из списка соавторов коллегу из Anthropic, с которым он совместно работал над важной задачей. Бакмастер также выразил опасения, что OpenAI могла использовать материалы, загруженные учёными в систему Codex, для получения собственного прорывного доказательства в ходе длительных вычислений.
В ответ на растущую критику со стороны исследователей Калифорнийского технологического института (КТИ) OpenAI в четверг объявила об отказе от спонсорства запланированного математического мероприятия, организованного этим вузом.
Les partisans de l'IA soulignent que la capacité des modèles à résoudre des problèmes complexes non résolus peut apporter d'énormes bénéfices à l'humanité. Cependant, les auteurs de la lettre estiment que de telles réalisations ne seront significatives que lorsque les résultats pourront être compris, vérifiés et expliqués par des spécialistes en mathématiques, puis communiqués à un public plus large.
La lettre note que souvent les annonces de nouvelles solutions sont faites dans la précipitation, sans présentation adéquate, sans mise en avant des méthodes clés et sans référence aux travaux antérieurs. Cela soulève de sérieuses questions sur la paternité et le plagiat potentiel, et met en péril la chaîne de transmission des connaissances, caractéristique de la culture mathématique.
D'autres chercheurs se demandent de plus en plus si OpenAI a pu utiliser des informations sur leurs interactions avec Codex lors de l'entraînement de nouveaux modèles. Le véritable danger réside dans le fait que la culture de recherche ouverte pourrait être remplacée par l'opacité : un grand laboratoire d'IA, découvrant une voie prometteuse vers une preuve, pourrait investir des dizaines de millions de dollars dans le développement de modèles linguistiques et publier le résultat en premier, laissant les chercheurs originaux dans l'ombre.
La lettre a suivi la soi-disant Déclaration de Leyde, publiée en juin par un groupe de travail de chercheurs. La déclaration discutait des changements potentiels dans le travail des mathématiciens liés aux preuves obtenues à l'aide de grands modèles linguistiques, et proposait des recommandations pour les chercheurs, les établissements d'enseignement et les organismes gouvernementaux.
Ainsi, le problème dépasse le cadre d'un conflit isolé entre OpenAI et certains chercheurs. Il soulève une question fondamentale sur la manière de maintenir l'ouverture, la transparence et le caractère collectif du processus scientifique à une époque où des systèmes d'IA puissants peuvent générer des résultats plus rapidement et à moindre coût, mais sans contrôle humain, ils peuvent rester incompréhensibles et inaccessibles pour un développement ultérieur.
Source : 3DNews
