Des mathématiciens de premier plan demandent de limiter le rôle de l'IA dans la recherche scientifique
- 25 lauréats de la médaille Fields ont signé une lettre contre les modèles d'IA
- OpenAI est accusé de faire pression sur les scientifiques et d'utiliser des données de manière cachée
- L'entreprise a renoncé à sponsoriser l'événement KTI après des critiques
- Les scientifiques craignent la perte d'une culture scientifique ouverte
Au début de la semaine, 25 mathématiciens éminents, tous signataires étant des lauréats de la médaille Fields, ont publié une lettre ouverte. Dans le document, ils indiquent que les entreprises développant de grands modèles linguistiques mettent en péril le processus traditionnel de créativité scientifique en essayant de se surpasser dans la résolution de problèmes mathématiques connus.
Conflit spécifique avec OpenAI
Le professeur Tristan Buckmaster de l'université de New York a accusé OpenAI de l'avoir pressé d'exclure de la liste des co-auteurs un collègue d'Anthropic avec qui il avait travaillé sur une tâche importante. Buckmaster a également exprimé des inquiétudes quant au fait qu'OpenAI pourrait avoir utilisé des matériaux téléchargés par des chercheurs dans le système Codex pour obtenir sa propre preuve révolutionnaire lors de calculs prolongés.
En réponse à la critique croissante de la part des chercheurs du California Institute of Technology (Caltech), OpenAI a annoncé jeudi qu'elle renonçait au parrainage d'un événement mathématique prévu, organisé par cette institution.
Les partisans de l'IA soulignent que la capacité des modèles à résoudre des problèmes complexes non résolus peut apporter d'énormes bénéfices à l'humanité. Cependant, les auteurs de la lettre estiment que de telles réalisations ne seront significatives que lorsque les résultats pourront être compris, vérifiés et expliqués par des spécialistes en mathématiques, puis communiqués à un public plus large.
La lettre note que souvent les annonces de nouvelles solutions sont faites dans la précipitation, sans présentation adéquate, sans mise en avant des méthodes clés et sans référence aux travaux antérieurs. Cela soulève de sérieuses questions sur la paternité et le plagiat potentiel, et met en péril la chaîne de transmission des connaissances, caractéristique de la culture mathématique.
D'autres chercheurs se demandent de plus en plus si OpenAI a pu utiliser des informations sur leurs interactions avec Codex lors de l'entraînement de nouveaux modèles. Le véritable danger réside dans le fait que la culture de recherche ouverte pourrait être remplacée par l'opacité : un grand laboratoire d'IA, découvrant une voie prometteuse vers une preuve, pourrait investir des dizaines de millions de dollars dans le développement de modèles linguistiques et publier le résultat en premier, laissant les chercheurs originaux dans l'ombre.
La lettre a suivi la soi-disant Déclaration de Leyde, publiée en juin par un groupe de travail de chercheurs. La déclaration discutait des changements potentiels dans le travail des mathématiciens liés aux preuves obtenues à l'aide de grands modèles linguistiques, et proposait des recommandations pour les chercheurs, les établissements d'enseignement et les organismes gouvernementaux.
Ainsi, le problème dépasse le cadre d'un conflit isolé entre OpenAI et certains chercheurs. Il soulève une question fondamentale sur la manière de maintenir l'ouverture, la transparence et le caractère collectif du processus scientifique à une époque où des systèmes d'IA puissants peuvent générer des résultats plus rapidement et à moindre coût, mais sans contrôle humain, ils peuvent rester incompréhensibles et inaccessibles pour un développement ultérieur.
Source : 3DNews
