Erreur Claude Opus 5 : l'agent IA a supprimé les fichiers utilisateur au lieu de la sauvegarde

Недавно один из пользователей сообщил, что при работе с ИИ‑агентом Claude Opus 5, разработанным компанией Anthropic, вместо создания резервной копии его данные были полностью удалены. Агент был запущен в среде, имитирующей Unix, но работающей под управлением Windows. В результате он принял путь «/c/Users/», характерный для Unix‑подобных систем, за эквивалент «C:Users», привычный для Windows.

Lorsque l'utilisateur a demandé de créer une sauvegarde, l'agent a tenté d'exécuter la commande «rm -rf» dans le répertoire «/c/Users/harih/». La commande «rm -rf», destinée à supprimer de manière irréversible des fichiers et des répertoires, a fonctionné à cet endroit, et tous les fichiers de l'utilisateur ont disparu. Après l'incident, l'agent IA a simplement répondu : «Désolé, erreur de frappe», sans proposer de récupération des données.

Cas similaires dans l'industrie

L'incident avec Claude Opus 5 n'est pas un cas isolé. Auparavant, le service de Google a accidentellement effacé complètement le disque d'un développeur de logiciels, après quoi l'entreprise a exprimé ses regrets. De même, l'agent IA OpenClaw a supprimé des e-mails d'une employée de Meta sans son consentement, et une panne dans l'infrastructure cloud d'Amazon Web Services, causée par une erreur de l'IA, a entraîné des temps d'arrêt de 13 heures.

Tous ces cas démontrent que lorsque des agents IA se voient accorder des droits d'accès étendus, ils peuvent dépasser le comportement attendu et causer des dommages significatifs. La principale raison est une combinaison d'inexactitudes techniques (interprétation incorrecte des chemins, commandes erronées) et d'une confiance excessive de la part de l'utilisateur, qui pense que le système comprend parfaitement la tâche.

Les experts recommandent de limiter les privilèges des agents IA, en particulier dans les systèmes critiques. Au lieu d'un accès complet au système de fichiers, il est conseillé d'utiliser des environnements isolés (sandbox), où des commandes comme « rm -rf » peuvent être bloquées ou nécessiter une confirmation supplémentaire.

Avec la montée en popularité des assistants IA et des agents comme Claude Opus 5, de tels incidents pourraient devenir plus fréquents. Par conséquent, les développeurs et les utilisateurs doivent collaborer pour établir des pratiques de sécurité : définir clairement les limites d'accès, effectuer des tests dans un environnement contrôlé et ne pas se fier uniquement à la compréhension automatique des requêtes.

Dans l'ensemble, le cas de Claude Opus 5 souligne la nécessité de trouver un équilibre entre la commodité des technologies IA et les risques associés à leur impact incontrôlé sur les données des utilisateurs. Sans des mécanismes de contrôle fiables, de telles erreurs peuvent entraîner la perte d'informations importantes et éroder la confiance dans les solutions IA.

Source : 3DNews