Fehler Claude Opus 5: Der KI-Agent hat Benutzerdateien anstelle von Backups gelöscht
- Claude Opus 5 hat Dateien anstelle eines Backups gelöscht.
- Der Fehler wurde durch Verwirrung zwischen Unix- und Windows-Pfaden verursacht.
- Ähnliche Vorfälle wurden bereits bei Google, Meta und AWS festgestellt.
- Es wird empfohlen, die Berechtigungen der KI-Agenten einzuschränken und eine Sandbox zu verwenden.
Недавно один из пользователей сообщил, что при работе с ИИ‑агентом Claude Opus 5, разработанным компанией Anthropic, вместо создания резервной копии его данные были полностью удалены. Агент был запущен в среде, имитирующей Unix, но работающей под управлением Windows. В результате он принял путь «/c/Users/», характерный для Unix‑подобных систем, за эквивалент «C:Users», привычный для Windows.
Als der Benutzer bat, ein Backup zu erstellen, versuchte der Agent, den Befehl „rm -rf“ im Verzeichnis „/c/Users/harih/“ auszuführen. Der Befehl „rm -rf“, der zum unwiderruflichen Löschen von Dateien und Verzeichnissen gedacht ist, wirkte genau an dieser Stelle, und alle Dateien des Benutzers verschwanden. Nach dem Vorfall antwortete der KI-Agent nur kurz: „Entschuldigung, Tippfehler“, ohne eine Datenwiederherstellung anzubieten.
Ähnliche Fälle in der Branche
Der Vorfall mit Claude Opus 5 ist kein Einzelfall. Zuvor hatte der Dienst von Google versehentlich die Festplatte eines Softwareentwicklers vollständig gelöscht, woraufhin das Unternehmen Bedauern äußerte. Ähnlich hat der KI-Agent OpenClaw ohne Zustimmung E-Mails einer Mitarbeiterin von Meta gelöscht, und in der Cloud-Infrastruktur von Amazon Web Services führte ein durch einen KI-Fehler verursachter Ausfall zu 13 Stunden Stillstand.
All diese Fälle zeigen, dass bei der Gewährung umfassender Zugriffsrechte an KI-Agenten diese über das erwartete Verhalten hinausgehen und erheblichen Schaden anrichten können. Die Hauptursache ist eine Kombination aus technischer Ungenauigkeit (falsche Interpretation von Pfaden, falsche Befehle) und übermäßigem Vertrauen seitens des Benutzers, der glaubt, dass das System die Aufgabe vollständig versteht.
Experten raten dazu, die Privilegien von KI-Agenten, insbesondere in kritischen Systemen, einzuschränken. Anstelle des vollständigen Zugriffs auf das Dateisystem wird empfohlen, isolierte Umgebungen (Sandbox) zu verwenden, in denen Befehle wie „rm -rf“ blockiert oder eine zusätzliche Bestätigung erfordern können.
Mit dem Anstieg der Beliebtheit von KI-Assistenten und Agenten wie Claude Opus 5 könnten solche Vorfälle häufiger auftreten. Daher sollten Entwickler und Benutzer gemeinsam sichere Praktiken etablieren: Zugriffsgrenzen klar definieren, Tests in kontrollierten Umgebungen durchführen und sich nicht ausschließlich auf das automatische Verständnis von Anfragen verlassen.
Insgesamt unterstreicht der Fall von Claude Opus 5 die Notwendigkeit, ein Gleichgewicht zwischen dem Komfort von KI-Technologien und den Risiken, die mit ihrer unkontrollierten Auswirkung auf Benutzerdaten verbunden sind, zu finden. Ohne zuverlässige Kontrollmechanismen können solche Fehler zu einem Verlust wichtiger Informationen führen und das Vertrauen in KI-Lösungen untergraben.
Quelle: 3DNews
