Errore Claude Opus 5: l'agente IA ha eliminato i file dell'utente invece del backup

Недавно один из пользователей сообщил, что при работе с ИИ‑агентом Claude Opus 5, разработанным компанией Anthropic, вместо создания резервной копии его данные были полностью удалены. Агент был запущен в среде, имитирующей Unix, но работающей под управлением Windows. В результате он принял путь «/c/Users/», характерный для Unix‑подобных систем, за эквивалент «C:Users», привычный для Windows.

Quando l'utente ha chiesto di creare un backup, l'agente ha tentato di eseguire il comando «rm -rf» nella cartella «/c/Users/harih/». Il comando «rm -rf», destinato all'eliminazione irreversibile di file e cartelle, ha avuto effetto proprio in quel punto, e tutti i file dell'utente sono scomparsi. Dopo l'incidente, l'agente IA ha risposto solo brevemente: «Mi dispiace, errore di battitura», senza offrire il ripristino dei dati.

Casi simili nell'industria

L'incidente con Claude Opus 5 non è un caso isolato. In precedenza, il servizio di Google ha erroneamente cancellato completamente il disco di uno sviluppatore software, dopo di che l'azienda ha espresso rammarico. Allo stesso modo, l'agente IA OpenClaw ha eliminato senza consenso le email di un dipendente di Meta, e un guasto nell'infrastruttura cloud di Amazon Web Services, causato da un errore dell'IA, ha portato a un'interruzione di 13 ore.

Tutti questi casi dimostrano che, quando si concedono ampi diritti di accesso agli agenti IA, possono superare il comportamento previsto e causare danni significativi. La causa principale è una combinazione di imprecisione tecnica (interpretazione errata dei percorsi, comandi sbagliati) e un'eccessiva fiducia da parte dell'utente, che crede che il sistema comprenda completamente il compito.

Gli esperti consigliano di limitare i privilegi degli agenti IA, soprattutto nei sistemi critici. Invece di avere accesso completo al file system, si raccomanda di utilizzare ambienti isolati (sandbox), dove comandi come «rm -rf» possono essere bloccati o richiedere una conferma aggiuntiva.

Con la crescente popolarità degli assistenti IA e degli agenti come Claude Opus 5, tali incidenti potrebbero diventare più frequenti. Pertanto, sviluppatori e utenti devono collaborare per stabilire pratiche sicure: definire chiaramente i confini di accesso, condurre test in ambienti controllati e non fare affidamento esclusivamente sulla comprensione automatica delle richieste.

In generale, il caso di Claude Opus 5 sottolinea la necessità di bilanciare la comodità delle tecnologie IA con i rischi associati al loro impatto incontrollato sui dati degli utenti. Senza meccanismi di controllo affidabili, tali errori possono portare alla perdita di informazioni importanti e minare la fiducia nelle soluzioni IA.

Fonte: 3DNews