I principali matematici chiedono di limitare il ruolo dell'IA nella ricerca scientifica

• 25 vincitori della Medaglia Fields hanno firmato una lettera contro i modelli di IA
• OpenAI è accusata di fare pressione sugli scienziati e di utilizzare dati in modo nascosto
• L'azienda ha rinunciato a sponsorizzare l'evento KTI dopo le critiche
• Gli scienziati temono la perdita della cultura scientifica aperta

All'inizio della settimana, 25 matematici di spicco, tra cui tutti i firmatari sono vincitori della medaglia Fields, hanno pubblicato una lettera aperta. Nel documento affermano che le aziende che sviluppano grandi modelli linguistici mettono a rischio il tradizionale processo di creatività scientifica, cercando di superarsi a vicenda nella risoluzione di noti problemi matematici.

Conflitto specifico con OpenAI

Il professor Tristana Buckmaster della New York University ha accusato OpenAI di averlo pressato per escludere dalla lista dei coautori un collega di Anthropic, con cui aveva collaborato su un compito importante. Buckmaster ha anche espresso preoccupazioni sul fatto che OpenAI potesse utilizzare i materiali caricati dagli scienziati nel sistema Codex per ottenere la propria prova rivoluzionaria durante calcoli prolungati.

In risposta alle crescenti critiche da parte dei ricercatori del California Institute of Technology (Caltech), OpenAI ha annunciato giovedì di ritirare il patrocinio di un evento matematico programmato, organizzato da questa università.

I sostenitori dell'IA sottolineano che la capacità dei modelli di risolvere compiti complessi e irrisolti può portare enormi benefici all'umanità. Tuttavia, gli autori della lettera ritengono che tali risultati saranno significativi solo quando potranno essere compresi, verificati e spiegati da esperti matematici, e poi comunicati a un pubblico più ampio.

Nella lettera si sottolinea che spesso gli annunci di nuove soluzioni vengono fatti in fretta, senza la dovuta formalizzazione, senza evidenziare i metodi chiave e senza riferimento ai lavori precedenti. Questo solleva seri interrogativi sull'autorialità e sul possibile plagio, e mette a rischio la catena di trasmissione delle conoscenze, caratteristica della cultura matematica.

Altri studiosi si chiedono sempre più se OpenAI possa aver utilizzato informazioni sulle loro interazioni con Codex durante l'addestramento di nuovi modelli. Il vero pericolo è che la cultura della ricerca aperta possa essere sostituita dalla segretezza: un grande laboratorio di IA, scoprendo un percorso promettente per la prova, potrebbe investire decine di milioni di dollari nello sviluppo di modelli linguistici e pubblicare per primo il risultato, lasciando i ricercatori originali nell'ombra.

La lettera è seguita dalla cosiddetta Dichiarazione di Leiden, pubblicata a giugno da un gruppo di lavoro di studiosi. Nella dichiarazione sono stati discussi i potenziali cambiamenti nel lavoro dei matematici, legati alle prove ottenute tramite grandi modelli linguistici, e sono state proposte raccomandazioni per ricercatori, istituzioni educative e enti governativi.

Pertanto, il problema va oltre il singolo conflitto tra OpenAI e singoli scienziati. Riguarda una questione fondamentale su come mantenere l'apertura, la trasparenza e il carattere collettivo del processo scientifico in un'epoca in cui potenti sistemi di IA sono in grado di generare risultati più rapidamente e a costi inferiori, ma senza controllo umano possono rimanere incomprensibili e inaccessibili per ulteriori sviluppi.

Fonte: 3DNews