Провідні математики вимагають обмежити роль ШІ в наукових дослідженнях
- 25 лауреатів Філдса підписали лист проти ІІ‑моделей
- OpenAI звинувачують у тиску на вчених і прихованому використанні даних
- Компанія відмовилася від спонсорства заходу КТІ після критики
- Вчені побоюються втрати відкритої наукової культури
На початку тижня 25 видатних математиків, серед яких усі підписанти є володарями медалі Філдса, опублікували відкритий лист. У документі вони вказують, що компанії, які розробляють великі мовні моделі, ставлять під загрозу традиційний процес наукового творчості, намагаючись обійти один одного в розв'язанні відомих математичних задач.
Конкретний конфлікт з OpenAI
Професор Тристана Бакмастера з Нью-Йоркського університету звинуватив OpenAI в тому, що компанія чинила на нього тиск, вимагаючи виключити з списку співавторів колегу з Anthropic, з яким він спільно працював над важливим завданням. Бакмастер також висловив побоювання, що OpenAI могла використовувати матеріали, завантажені вченими в систему Codex, для отримання власного проривного доказу під час тривалих обчислень.
У відповідь на зростаючу критику з боку дослідників Каліфорнійського технологічного інституту (КТІ) OpenAI в четвер оголосила про відмову від спонсорства запланованого математичного заходу, організованого цим вузом.
Прихильники ШІ підкреслюють, що здатність моделей вирішувати складні нерозв'язані задачі може принести людству величезну користь. Однак автори листа вважають, що такі досягнення будуть значимі лише тоді, коли результати зможуть бути зрозумілі, перевірені та пояснені фахівцями-математиками, а потім донесені до більш широкої аудиторії.
У листі зазначається, що часто оголошення про нові рішення робляться в поспіху, без належного оформлення, без виділення ключових методів і без посилання на попередні роботи. Це створює серйозні питання про авторство та можливий плагіат, а також ставить під загрозу ланцюг передачі знань, характерний для математичної культури.
Інші вчені все частіше ставлять питання, чи могла OpenAI використовувати відомості про їхню взаємодію з Codex під час навчання нових моделей. Реальна небезпека полягає в тому, що відкрита дослідницька культура може бути замінена прихованістю: велика ІІ-лабораторія, виявивши перспективний шлях до доказу, може вкласти десятки мільйонів доларів у розвиток мовних моделей і першою опублікувати результат, залишивши оригінальних дослідників у тіні.
Лист надійшов після так званої Лейденської декларації, опублікованої в червні робочою групою вчених. У декларації обговорювалися потенційні зміни в роботі математиків, пов'язані з доказами, отриманими за допомогою великих мовних моделей, і були запропоновані рекомендації для дослідників, навчальних закладів та державних органів.
Таким чином, проблема виходить за рамки окремого конфлікту між OpenAI та окремими вченими. Вона стосується фундаментального питання про те, як зберігати відкритість, прозорість і колективний характер наукового процесу в епоху, коли потужні ІІ‑системи здатні генерувати результати швидше і дешевше, але без людського контролю вони можуть залишитися незрозумілими і недоступними для подальшого розвитку.
Джерело: 3DNews
