Un dipendente di Google DeepMind se ne va, temendo lo sviluppo accelerato dell'IA

• Robert O'Callahan ha lasciato Google DeepMind a causa dei rapidi progressi dell'IA
• Ritiene che lo sviluppo dell'IA sia troppo veloce e irresponsabile
• La sua partenza si aggiunge alla lista di esperti preoccupati per i rischi dell'IA
• O'Callahan sottolinea il rischio reale, ma indefinito, dell'ASI

Robert O'Callahan, ingegnere del dipartimento Google DeepMind, ha annunciato la sua partenza dall'azienda tramite un post sui social media X. Secondo lui, il team stava lavorando allo sviluppo di chip specializzati per accelerare il funzionamento dei modelli di IA e ridurne i costi, tuttavia, i progressi della tecnologia, a suo avviso, superano i limiti ragionevoli.

Nel suo blog personale, O'Callahan ha pubblicato una lettera inviata ai colleghi venerdì, in cui ha sottolineato di non poter "chiudere gli occhi" sulle potenziali conseguenze del suo lavoro. Ha indicato che le sue convinzioni cristiane non gli permettono di sostenere progetti che potrebbero danneggiare le persone, e ha definito tale approccio "intrinsecamente irresponsabile".

L'autore della lettera ha notato di amare i suoi colleghi e di apprezzare l'opportunità di affrontare sfide interessanti, ma ritiene che l'obiettivo di accelerare e ridurre i costi dell'IA possa rivelarsi dannoso per la società. Secondo lui, lo sviluppo dell'IA sta avvenendo "troppo rapidamente", e la direzione in cui si sta muovendo l'industria solleva seri dubbi.

Business Insider non è riuscito a chiarire per quanto tempo O'Callahan abbia lavorato in Google, e i rappresentanti dell'azienda hanno rifiutato di commentare. Lo stesso dipendente, a suo dire, vive in Nuova Zelanda e ha invitato i giornalisti a consultare il testo completo del blog per ulteriori dettagli.

Tendenza alle uscite dal settore

L'uscita di O'Callahan si aggiunge alla lista di esperti che hanno lasciato grandi aziende di AI a causa di preoccupazioni per la sicurezza delle tecnologie. All'inizio di questo mese, Jacob Coxon ha lasciato Anthropic, citando l'impossibilità di controllare i futuri sistemi di IA. Il mese scorso, l'ex ricercatore di DeepMind Bilal Chughtai ha anche lasciato l'azienda, temendo che l'umanità non avesse tempo sufficiente per prevenire potenziali danni dall'IA.

A differenza di alcuni colleghi, O'Callahan non sostiene che uno scenario catastrofico con intelligenza artificiale superintelligente (ASI) sia inevitabile. Considera il rischio reale, ma incerto, e sottolinea il dovere morale dell'industria di minimizzarlo. Secondo lui, la probabilità di una catastrofe totale non raggiunge il 100%, tuttavia l'aspirazione a creare ASI nel prossimo futuro è già considerata irresponsabile.

O'Callahan ha anche respinto l'ipotesi che gli avvertimenti sui pericoli dell'IA siano alimentati per aumentare il valore delle azioni o per eliminare i concorrenti attraverso la regolamentazione. Ha espresso fiducia nella sincerità di coloro che sollevano questioni di sicurezza e ha invitato a una discussione pubblica più seria sul futuro dell'intelligenza artificiale.

Fonte: 3DNews