Ведущие математики требуют ограничить роль ИИ в научных исследованиях

• 25 лауреатов Филдса подписали письмо против ИИ‑моделей
• OpenAI обвиняют в давлении на учёных и скрытом использовании данных
• Компания отказалась от спонсорства мероприятия КТИ после критики
• Учёные опасаются потери открытой научной культуры

В начале недели 25 выдающихся математиков, среди которых все подписанты являются обладателями медали Филдса, опубликовали открытое письмо. В документе они указывают, что компании, разрабатывающие крупные языковые модели, ставят под угрозу традиционный процесс научного творчества, пытаясь обойти друг друга в решении известных математических задач.

Конкретный конфликт с OpenAI

Профессор Тристана Бакмастера из Нью‑Йоркского университета обвинил OpenAI в том, что фирма оказывала на него давление, требуя исключить из списка соавторов коллегу из Anthropic, с которым он совместно работал над важной задачей. Бакмастер также выразил опасения, что OpenAI могла использовать материалы, загруженные учёными в систему Codex, для получения собственного прорывного доказательства в ходе длительных вычислений.

В ответ на растущую критику со стороны исследователей Калифорнийского технологического института (КТИ) OpenAI в четверг объявила об отказе от спонсорства запланированного математического мероприятия, организованного этим вузом.

Сторонники ИИ подчёркивают, что способность моделей решать сложнейшие нерешённые задачи может принести человечеству огромную пользу. Однако авторы письма считают, что такие достижения будут значимы лишь тогда, когда результаты смогут быть поняты, проверены и объяснены специалистами‑математиками, а затем донесены до более широкой аудитории.

В письме отмечается, что часто объявления о новых решениях делаются в спешке, без должного оформления, без выделения ключевых методов и без ссылки на предшествующие работы. Это создаёт серьёзные вопросы об авторстве и возможном плагиате, а также ставит под угрозу цепочку передачи знаний, характерную для математической культуры.

Другие учёные всё чаще задаются вопросом, могла ли OpenAI использовать сведения о их взаимодействии с Codex при обучении новых моделей. Реальная опасность заключается в том, что открытая исследовательская культура может быть заменена скрытностью: крупная ИИ‑лаборатория, обнаружив перспективный путь к доказательству, может вложить десятки миллионов долларов в развитие языковых моделей и первым опубликовать результат, оставив оригинальных исследователей в тени.

Письмо последовало за так называемой Лейденской декларацией, опубликованной в июне рабочей группой учёных. В декларации обсуждались потенциальные изменения в работе математиков, связанные с доказательствами, полученными с помощью больших языковых моделей, и были предложены рекомендации для исследователей, учебных заведений и государственных органов.

Таким образом, проблема выходит за рамки отдельного конфликта между OpenAI и отдельными учёными. Она касается фундаментального вопроса о том, как сохранять открытость, прозрачность и коллективный характер научного процесса в эпоху, когда мощные ИИ‑системы способны генерировать результаты быстрее и дешевле, но без человеческого контроля они могут остаться непонятными и недоступными для дальнейшего развития.

Источник: 3DNews