O CEO da Anthropic chamou a China de principal obstáculo para desacelerar o desenvolvimento da IA
- O CEO da Anthropic considera a China o principal obstáculo para a limitação da IA
- Ele propôs um 'limite de velocidade' global, mas duvida de sua implementação
- Startups chinesas aceleram o desenvolvimento de IA, competindo com a OpenAI e a Anthropic
- OpenAI e Anthropic se preparam para o IPO, mas os prazos ainda não foram anunciados
Durante uma entrevista no programa Sunday Morning na CBS, Dario Amodei, CEO da Anthropic, observou que os esforços para estabelecer restrições internacionais na área de inteligência artificial enfrentam um sério desafio geopolítico. Em sua opinião, o principal problema é a falta de disposição dos países concorrentes, especialmente da China, em respeitar tais restrições em prol da manutenção da vantagem estratégica.
A ideia do 'limite de velocidade' e sua realismo
Amodei propôs criar um consenso global sobre um 'limite de velocidade' para o desenvolvimento de tecnologias de IA, permitindo reduzir os riscos associados ao uso potencialmente catastrófico dos modelos mais poderosos. No entanto, ele expressou ceticismo quanto à viabilidade dessa ideia, apontando para os fortes incentivos ao avanço tecnológico que movem estados e corporações.
Apesar das dúvidas, Amodei enfatizou que as tentativas de chegar a um acordo são necessárias. Ele lembrou seus apelos anteriores às empresas para desacelerar o aprimoramento de modelos avançados, como uma reação à crescente preocupação dentro da indústria sobre possíveis ameaças.
As divergências internas na Anthropic aumentaram após a saída do funcionário Jacob Coxon, que explicou a decisão com medo de que empresas, incluindo seu principal concorrente OpenAI, "estão jogando roleta com nossas vidas".
Enquanto isso, startups chinesas estão desenvolvendo ativamente suas redes neurais, criando concorrência para os líderes de mercado – OpenAI e Anthropic. Na cúpula do BRICS na Índia, o presidente da China, Xi Jinping, pediu a formação de um mecanismo global de governança de IA baseado em consenso, e as autoridades chinesas anunciaram planos para apoiar a comunidade de desenvolvedores de IA aberta dentro do bloco que reúne 11 países, incluindo a Rússia.
A Anthropic e a OpenAI estão se preparando para potenciais ofertas públicas iniciais de ações, mas ainda não há datas oficiais. Sam Altman, chefe da OpenAI, informou que a empresa provavelmente adiaria o IPO para o próximo ano, em parte devido a questões de segurança. Apesar das divergências anteriores, Altman apoiou a iniciativa de Amodei, afirmando a necessidade de "controlar o ritmo de desenvolvimento de sistemas avançados".
A iniciativa também foi apoiada por representantes conhecidos da indústria: Demis Hassabis, presidente do conselho da Google DeepMind, observou que o ensaio de Amodei aponta na direção certa, embora os detalhes exijam mais desenvolvimento; Elon Musk, chefe da Tesla e SpaceX, expressou concordância com a proposta de desacelerar o desenvolvimento de sistemas de IA avançados.
A situação destaca a crescente tensão entre a busca pelo progresso tecnológico e a necessidade de garantir segurança e controle sobre poderosas ferramentas de IA. Enquanto um acordo global permanece inatingível, o diálogo entre países e empresas continua sendo um elemento chave na prevenção de ameaças potenciais.
Fonte: 3DNews
