Czołowi matematycy domagają się ograniczenia roli AI w badaniach naukowych
- 25 laureatów Fieldsa podpisało pismo przeciwko modelom AI
- OpenAI oskarżane jest o wywieranie presji na naukowców i ukryte wykorzystanie danych
- Firma zrezygnowała z sponsorowania wydarzenia KTI po krytyce
- Naukowcy obawiają się utraty otwartej kultury naukowej
Na początku tygodnia 25 wybitnych matematyków, wśród których wszyscy sygnatariusze są posiadaczami medalu Fieldsa, opublikowało otwarte pismo. W dokumencie wskazują, że firmy rozwijające duże modele językowe zagrażają tradycyjnemu procesowi twórczości naukowej, próbując prześcignąć się nawzajem w rozwiązywaniu znanych problemów matematycznych.
Konkretny konflikt z OpenAI
Profesor Tristana Bakmastera z Uniwersytetu Nowojorskiego oskarżył OpenAI o wywieranie na niego presji, domagając się usunięcia z listy współautorów kolegi z Anthropic, z którym wspólnie pracował nad ważnym zadaniem. Bakmaster wyraził również obawy, że OpenAI mogła wykorzystać materiały przesłane przez naukowców do systemu Codex, aby uzyskać własny przełomowy dowód w trakcie długotrwałych obliczeń.
W odpowiedzi na rosnącą krytykę ze strony badaczy z California Institute of Technology (Caltech) OpenAI ogłosiła w czwartek rezygnację z sponsorowania planowanego wydarzenia matematycznego, organizowanego przez tę uczelnię.
Zwolennicy AI podkreślają, że zdolność modeli do rozwiązywania skomplikowanych, nierozwiązanych problemów może przynieść ludzkości ogromne korzyści. Jednak autorzy listu uważają, że takie osiągnięcia będą znaczące tylko wtedy, gdy wyniki będą mogły być zrozumiane, weryfikowane i wyjaśniane przez specjalistów-matematyków, a następnie przekazywane szerszej publiczności.
W liście zaznaczone jest, że często ogłoszenia o nowych rozwiązaniach są robione w pośpiechu, bez odpowiedniego sformatowania, bez wyróżnienia kluczowych metod i bez odniesienia do wcześniejszych prac. To rodzi poważne pytania o autorstwo i możliwy plagiat, a także zagraża łańcuchowi przekazywania wiedzy, charakterystycznemu dla kultury matematycznej.
Inni naukowcy coraz częściej zadają sobie pytanie, czy OpenAI mogło wykorzystać informacje o ich interakcji z Codex przy szkoleniu nowych modeli. Prawdziwe niebezpieczeństwo polega na tym, że otwarta kultura badawcza może zostać zastąpiona tajemniczością: duże laboratorium AI, odkrywając obiecującą drogę do dowodu, może zainwestować dziesiątki milionów dolarów w rozwój modeli językowych i jako pierwsze opublikować wynik, pozostawiając oryginalnych badaczy w cieniu.
List był odpowiedzią na tzw. Deklarację Lejdenską, opublikowaną w czerwcu przez grupę roboczą naukowców. W deklaracji omawiano potencjalne zmiany w pracy matematyków związane z dowodami uzyskanymi za pomocą dużych modeli językowych oraz zaproponowano zalecenia dla badaczy, instytucji edukacyjnych i organów państwowych.
W ten sposób problem wykracza poza pojedynczy konflikt między OpenAI a poszczególnymi naukowcami. Dotyczy on fundamentalnego pytania, jak zachować otwartość, przejrzystość i kolektywny charakter procesu naukowego w epoce, gdy potężne systemy AI są w stanie generować wyniki szybciej i taniej, ale bez ludzkiej kontroli mogą pozostać niejasne i niedostępne dla dalszego rozwoju.
Źródło: 3DNews
