Error Claude Opus 5: El agente de IA eliminó archivos de usuario en lugar de la copia de seguridad

Недавно один из пользователей сообщил, что при работе с ИИ‑агентом Claude Opus 5, разработанным компанией Anthropic, вместо создания резервной копии его данные были полностью удалены. Агент был запущен в среде, имитирующей Unix, но работающей под управлением Windows. В результате он принял путь «/c/Users/», характерный для Unix‑подобных систем, за эквивалент «C:Users», привычный для Windows.

Cuando el usuario pidió crear una copia de seguridad, el agente intentó ejecutar el comando «rm -rf» en el directorio «/c/Users/harih/». El comando «rm -rf», destinado a eliminar archivos y directorios de forma irreversible, funcionó precisamente en ese lugar, y todos los archivos del usuario desaparecieron. Después del incidente, el agente de IA solo respondió brevemente: «Lo siento, error tipográfico», sin ofrecer recuperación de datos.

Casos similares en la industria

El incidente con Claude Opus 5 no es un caso aislado. Anteriormente, el servicio de Google borró por error completamente el disco de un desarrollador de software, tras lo cual la empresa expresó su pesar. De manera similar, el agente de IA OpenClaw eliminó correos electrónicos de una empleada de Meta sin su consentimiento, y una falla en la infraestructura en la nube de Amazon Web Services, provocada por un error de IA, resultó en un tiempo de inactividad de 13 horas.

Todos estos casos demuestran que al otorgar amplios derechos de acceso a los agentes de IA, pueden sobrepasar el comportamiento esperado y causar daños significativos. La causa principal es una combinación de imprecisión técnica (interpretación incorrecta de rutas, comandos erróneos) y una confianza excesiva por parte del usuario, que cree que el sistema comprende completamente la tarea.

Los expertos aconsejan limitar los privilegios de los agentes de IA, especialmente en sistemas críticos. En lugar de acceso completo al sistema de archivos, se recomienda utilizar entornos aislados (sandbox), donde comandos como «rm -rf» pueden ser bloqueados o requerir confirmación adicional.

Con el aumento de la popularidad de los asistentes y agentes de IA, como Claude Opus 5, tales incidentes pueden volverse más frecuentes. Por lo tanto, los desarrolladores y usuarios deben trabajar juntos para establecer prácticas seguras: definir claramente los límites de acceso, realizar pruebas en un entorno controlado y no depender únicamente de la comprensión automática de las solicitudes.

En general, el caso de Claude Opus 5 subraya la necesidad de equilibrar la conveniencia de las tecnologías de IA con los riesgos asociados a su impacto incontrolado en los datos del usuario. Sin mecanismos de control confiables, tales errores pueden llevar a la pérdida de información importante y socavar la confianza en las soluciones de IA.

Fuente: 3DNews