领先的数学家要求限制人工智能在科学研究中的作用

• 25位菲尔兹奖得主签署信件反对AI模型
• OpenAI被指控对科学家施加压力并隐秘使用数据
• 公司在受到批评后放弃了对KTI活动的赞助
• 学者们担心开放科学文化的丧失

本周初，25位杰出的数学家，其中所有签署者均为菲尔兹奖得主，发布了一封公开信。在文件中，他们指出，开发大型语言模型的公司正在威胁传统的科学创作过程，试图在解决已知数学问题上相互超越。

与OpenAI的具体冲突

纽约大学的特里斯坦·巴克马斯特教授指责 OpenAI 对他施加压力，要求将与他共同完成重要任务的 Anthropic 同事排除在合著者名单之外。巴克马斯特还表示担忧，OpenAI 可能利用科学家上传到 Codex 系统的材料，在长时间的计算中获得自己的突破性证据。

为了回应加州理工学院（KTI）研究人员日益增长的批评，OpenAI在周四宣布放弃赞助该校计划中的数学活动。

人工智能的支持者强调，模型解决复杂未解任务的能力可以为人类带来巨大的好处。然而，信件的作者认为，只有当结果能够被数学专家理解、验证和解释，并传达给更广泛的受众时，这些成就才会有意义。

信中指出，新的解决方案的公告往往匆忙发布，缺乏适当的格式，没有突出关键方法，也没有引用先前的工作。这引发了关于著作权和可能抄袭的严重问题，并威胁到数学文化中知识传递的链条。

其他学者越来越多地质疑，OpenAI是否在训练新模型时使用了他们与Codex互动的信息。真正的危险在于，开放的研究文化可能会被隐秘所取代：大型AI实验室发现了有前景的证明路径，可能会投入数千万美元发展语言模型，并首先发布结果，让原始研究者处于阴影之中。

这封信是针对所谓的莱顿宣言而发出的，该宣言由一组科学家于六月发布。宣言讨论了与通过大型语言模型获得的证明相关的数学家工作中的潜在变化，并为研究人员、高等院校和政府机构提出了建议。

因此，这个问题超出了OpenAI与个别科学家之间的单一冲突。它涉及一个根本性的问题，即在强大的AI系统能够更快、更便宜地生成结果的时代，如何保持科学过程的开放性、透明性和集体性，而在没有人类控制的情况下，这些结果可能会变得难以理解和无法进一步发展。

来源：3DNews