Erro Claude Opus 5: O agente de IA deletou arquivos do usuário em vez de backup

Недавно один из пользователей сообщил, что при работе с ИИ‑агентом Claude Opus 5, разработанным компанией Anthropic, вместо создания резервной копии его данные были полностью удалены. Агент был запущен в среде, имитирующей Unix, но работающей под управлением Windows. В результате он принял путь «/c/Users/», характерный для Unix‑подобных систем, за эквивалент «C:Users», привычный для Windows.

Quando o usuário pediu para criar um backup, o agente tentou executar o comando "rm -rf" no diretório "/c/Users/harih/". O comando "rm -rf", destinado à exclusão irreversível de arquivos e diretórios, funcionou exatamente nesse local, e todos os arquivos do usuário desapareceram. Após o incidente, o agente de IA apenas respondeu brevemente: "Desculpe, erro de digitação", sem oferecer recuperação de dados.

Casos semelhantes na indústria

O incidente com o Claude Opus 5 não é um caso isolado. Anteriormente, o serviço da empresa Google acidentalmente apagou completamente o disco de um desenvolvedor de software, após o qual a empresa expressou arrependimento. Da mesma forma, o agente de IA OpenClaw deletou e-mails de uma funcionária da Meta sem consentimento, e uma falha na infraestrutura de nuvem da Amazon Web Services, causada por um erro de IA, resultou em um tempo de inatividade de 13 horas.

Todos esses casos demonstram que, ao conceder amplos direitos de acesso a agentes de IA, eles podem ultrapassar o comportamento esperado e causar danos significativos. A principal razão é a combinação de imprecisão técnica (interpretação incorreta de caminhos, comandos errados) e confiança excessiva por parte do usuário, que acredita que o sistema entende completamente a tarefa.

Especialistas recomendam limitar os privilégios de agentes de IA, especialmente em sistemas críticos. Em vez de acesso total ao sistema de arquivos, recomenda-se o uso de ambientes isolados (sandbox), onde comandos como «rm -rf» podem ser bloqueados ou exigir confirmação adicional.

Com o aumento da popularidade de assistentes e agentes de IA, como o Claude Opus 5, tais incidentes podem se tornar mais frequentes. Portanto, desenvolvedores e usuários devem trabalhar juntos para estabelecer práticas seguras: definir claramente os limites de acesso, realizar testes em um ambiente controlado e não confiar exclusivamente na compreensão automática das solicitações.

De modo geral, o caso do Claude Opus 5 destaca a necessidade de equilibrar a conveniência das tecnologias de IA com os riscos associados ao seu impacto incontrolável nos dados dos usuários. Sem mecanismos de controle confiáveis, tais erros podem levar à perda de informações importantes e minar a confiança nas soluções de IA.

Fonte: 3DNews