Un dipendente di Google DeepMind se ne va, temendo un'accelerazione dello sviluppo dell'IA
- Robert O'Callahan ha lasciato Google DeepMind a causa del rapido sviluppo dell'IA
- Ritiene che lo sviluppo dell'IA sia troppo veloce e irresponsabile
- Le dimissioni si aggiungono alla lista di esperti preoccupati per i rischi dell'IA
- O'Callahan sottolinea il rischio reale, ma indefinito, dell'ASI
Robert O'Callahan, ingegnere del dipartimento Google DeepMind, ha annunciato il suo addio all'azienda tramite un post sui social media X. Secondo lui, il team stava lavorando allo sviluppo di chip specializzati per accelerare il funzionamento dei modelli di IA e ridurne i costi, tuttavia, a suo avviso, il ritmo di sviluppo della tecnologia supera i limiti ragionevoli.
Nel suo blog personale, O'Callahan ha pubblicato una lettera inviata ai colleghi venerdì, in cui ha sottolineato di non poter "chiudere gli occhi" sulle potenziali conseguenze del suo lavoro. Ha indicato che le sue convinzioni cristiane non gli permettono di sostenere progetti che potrebbero danneggiare le persone, e ha definito tale approccio "intrinsecamente irresponsabile".
L'autore della lettera ha sottolineato di amare i suoi colleghi e di apprezzare l'opportunità di affrontare compiti interessanti, ma ritiene che l'obiettivo di accelerare e ridurre i costi dell'IA possa rivelarsi dannoso per la società. Secondo lui, lo sviluppo dell'IA sta procedendo "troppo rapidamente", e la direzione in cui si muove l'industria solleva seri dubbi.
Business Insider non è riuscito a chiarire per quanto tempo O'Callahan abbia lavorato in Google, e i rappresentanti dell'azienda hanno rifiutato di commentare. Lo stesso dipendente, a suo dire, vive in Nuova Zelanda e ha suggerito ai giornalisti di consultare il testo completo del blog per ulteriori dettagli.
Tendenza alle dimissioni dal settore
L'uscita di O'Callahan si aggiunge alla lista dei professionisti che hanno lasciato grandi aziende di IA a causa di preoccupazioni per la sicurezza delle tecnologie. All'inizio di questo mese, Jacob Coxon ha lasciato Anthropic, citando l'impossibilità di controllare i futuri sistemi di IA. Il mese scorso, anche l'ex ricercatore di DeepMind Bilal Chughtai ha lasciato l'azienda, temendo che l'umanità non avesse tempo sufficiente per prevenire potenziali danni dall'IA.
A differenza di alcuni colleghi, O'Callahan non sostiene che uno scenario catastrofico con intelligenza artificiale superintelligente (ASI) sia inevitabile. Considera il rischio reale, ma incerto, e sottolinea l'obbligo morale dell'industria di minimizzarlo. Secondo lui, la probabilità di una catastrofe totale non raggiunge il 100%, tuttavia l'aspirazione a creare ASI nel prossimo futuro è già considerata irresponsabile.
O'Callahan ha anche respinto l'ipotesi che gli avvertimenti sui pericoli dell'IA siano alimentati per aumentare il valore delle azioni o per eliminare i concorrenti attraverso la regolamentazione. Ha espresso fiducia nella sincerità di coloro che sollevano questioni di sicurezza e ha chiesto un dibattito pubblico più serio sul futuro dell'intelligenza artificiale.
Fonte: 3DNews
