Claude Opus 5错误：AI代理删除了用户文件而不是备份
- Claude Opus 5 删除了文件而不是进行备份。
- 错误是由于 Unix 和 Windows 路径的混淆造成的。
- 类似的事件已经在 Google、Meta 和 AWS 中被记录。
- 建议限制 AI 代理的权限并使用沙箱。
Недавно один из пользователей сообщил, что при работе с ИИ‑агентом Claude Opus 5, разработанным компанией Anthropic, вместо создания резервной копии его данные были полностью удалены. Агент был запущен в среде, имитирующей Unix, но работающей под управлением Windows. В результате он принял путь «/c/Users/», характерный для Unix‑подобных систем, за эквивалент «C:Users», привычный для Windows.
当用户请求创建备份时，代理尝试在目录 "/c/Users/harih/" 中执行命令 "rm -rf"。命令 "rm -rf" 旨在永久删除文件和目录，正是在这个位置生效，所有用户的文件都消失了。事件发生后，AI 代理仅简短地回应：“对不起，打错了”，并没有提供数据恢复的建议。
行业中的类似案例
Claude Opus 5 的事件并不是个例。此前，谷歌公司的服务错误地完全删除了软件开发者的硬盘，之后公司表示遗憾。同样，AI代理 OpenClaw 在未获同意的情况下删除了 Meta 公司员工的电子邮件，而亚马逊网络服务的云基础设施因 AI 错误导致了 13 小时的停机。
所有这些案例表明，当 AI 代理被赋予广泛的访问权限时，它们可能会超出预期行为并造成重大损害。主要原因是技术不准确（路径错误解释、错误命令）与用户的过度信任相结合，用户认为系统完全理解任务。
专家建议限制人工智能代理的特权，特别是在关键系统中。建议使用隔离环境（sandbox），而不是完全访问文件系统，在这些环境中，类似“rm -rf”的命令可以被阻止或需要额外确认。
随着像Claude Opus 5这样的人工智能助手和代理的普及，这类事件可能会变得更加频繁。因此，开发者和用户必须共同建立安全实践：明确界定访问边界，在受控环境中进行测试，并且不应仅依赖于自动理解请求。
总体而言，Claude Opus 5的案例强调了在人工智能技术的便利性与其对用户数据的不可控影响之间保持平衡的必要性。没有可靠的控制机制，这类错误可能导致重要信息的丢失，并破坏对人工智能解决方案的信任。
来源：3DNews
