Funcionário do Google DeepMind sai, temendo o desenvolvimento acelerado da IA
- Robert O'Callahan saiu do Google DeepMind devido ao rápido avanço da IA
- Ele considera o desenvolvimento da IA muito rápido e irresponsável
- A saída adiciona à lista de especialistas que temem os riscos da IA.
- O'Callahan destaca o risco real, mas indefinido da ASI
Robert O'Callahan, engenheiro da divisão Google DeepMind, anunciou sua saída da empresa através de um post na rede social X. Segundo ele, a equipe estava desenvolvendo chips especializados que permitem acelerar o funcionamento de modelos de IA e reduzir seus custos, no entanto, o ritmo de desenvolvimento da tecnologia, em sua opinião, ultrapassa limites razoáveis.
Em seu blog pessoal, O'Callahan publicou uma carta enviada a colegas na sexta-feira, onde enfatizou que não pode "fechar os olhos" para as potenciais consequências de seu trabalho. Ele apontou que suas crenças cristãs não permitem que ele apoie projetos que possam prejudicar as pessoas, e chamou essa abordagem de "essencialmente irresponsável".
O autor da carta observou que ama seus colegas e valoriza a oportunidade de resolver problemas interessantes, mas acredita que o objetivo de acelerar e baratear a IA pode ser prejudicial para a sociedade. Segundo ele, o desenvolvimento da IA está indo "rápido demais", e a direção em que a indústria está se movendo levanta sérias dúvidas.
O Business Insider não conseguiu esclarecer há quanto tempo O'Callahan trabalhou no Google, e os representantes da empresa se recusaram a comentar. O próprio funcionário, segundo suas palavras, reside na Nova Zelândia e sugeriu que os jornalistas consultassem o texto completo do blog para obter mais detalhes.
Tendência de saídas do setor
A saída de O'Callahan adiciona-se à lista de especialistas que deixaram grandes empresas de IA devido a preocupações com a segurança das tecnologias. No início deste mês, Jacob Coxon saiu da Anthropic, citando a impossibilidade de controlar os futuros sistemas de IA. No mês passado, o ex-pesquisador da DeepMind, Bilal Chughtai, também deixou a empresa, temendo que a humanidade não tivesse tempo suficiente para prevenir danos potenciais da IA.
Ao contrário de alguns colegas, O'Callahan não afirma que o cenário catastrófico com superinteligência artificial (ASI) é inevitável. Ele considera o risco real, mas incerto, e enfatiza a obrigação moral da indústria de minimizá-lo. Em sua opinião, a probabilidade de uma catástrofe total não chega a 100%, no entanto, a busca pela criação de ASI em um futuro próximo já é considerada irresponsável.
O'Callahan também rejeitou a hipótese de que os avisos sobre os perigos da IA são alimentados para aumentar o valor das ações ou eliminar concorrentes por meio de regulamentação. Ele expressou confiança na sinceridade daqueles que levantam questões de segurança e pediu uma discussão pública mais séria sobre o futuro da inteligência artificial.
Fonte: 3DNews
