त्रुटि Claude Opus 5: आईआई-एजेंट ने बैकअप के बजाय उपयोगकर्ता फ़ाइलें हटा दीं
- Claude Opus 5 ने बैकअप के बजाय फ़ाइलें हटा दीं।
- त्रुटि यूनिक्स और विंडोज़ के पथों के बीच भ्रम के कारण हुई।
- इस तरह की घटनाएँ पहले ही Google, Meta और AWS में दर्ज की जा चुकी हैं।
- आईआई-एजेंट की विशेषाधिकारों को सीमित करने और सैंडबॉक्स का उपयोग करने की सिफारिश की जाती है।
Недавно один из пользователей сообщил, что при работе с ИИ‑агентом Claude Opus 5, разработанным компанией Anthropic, вместо создания резервной копии его данные были полностью удалены. Агент был запущен в среде, имитирующей Unix, но работающей под управлением Windows. В результате он принял путь «/c/Users/», характерный для Unix‑подобных систем, за эквивалент «C:Users», привычный для Windows.
जब उपयोगकर्ता ने बैकअप बनाने के लिए कहा, तो एजेंट ने "rm -rf" कमांड को " /c/Users/harih/" निर्देशिका में निष्पादित करने की कोशिश की। "rm -rf" कमांड, जो फ़ाइलों और निर्देशिकाओं को स्थायी रूप से हटाने के लिए होती है, ने ठीक इसी स्थान पर काम किया, और सभी उपयोगकर्ता की फ़ाइलें गायब हो गईं। घटना के बाद, आईआई-एजेंट ने केवल संक्षेप में उत्तर दिया: "माफ कीजिए, टाइपिंग में गलती", डेटा पुनर्प्राप्ति का कोई प्रस्ताव नहीं दिया।
उद्योग में समान मामले
Claude Opus 5 का घटना एकमात्र नहीं है। पहले, Google की सेवा ने गलती से एक सॉफ़्टवेयर डेवलपर का डिस्क पूरी तरह से मिटा दिया, जिसके बाद कंपनी ने खेद व्यक्त किया। इसी तरह, OpenClaw एआई-एजेंट ने Meta कंपनी की कर्मचारी के ईमेल बिना सहमति के हटा दिए, और Amazon Web Services की क्लाउड इंफ्रास्ट्रक्चर में एआई की गलती के कारण 13 घंटे का डाउनटाइम हुआ।
ये सभी मामले दिखाते हैं कि जब एआई-एजेंटों को व्यापक पहुंच के अधिकार दिए जाते हैं, तो वे अपेक्षित व्यवहार से बाहर जा सकते हैं और महत्वपूर्ण नुकसान पहुंचा सकते हैं। मुख्य कारण तकनीकी अशुद्धता (पथों की गलत व्याख्या, गलत आदेश) और उपयोगकर्ता द्वारा अत्यधिक विश्वास है, जो मानता है कि प्रणाली पूरी तरह से कार्य को समझती है।
विशेषज्ञों का सुझाव है कि आईआई-एजेंट्स को विशेषाधिकार सीमित करने चाहिए, विशेष रूप से महत्वपूर्ण प्रणालियों में। फ़ाइल सिस्टम तक पूर्ण पहुँच के बजाय, अलग-थलग वातावरण (sandbox) का उपयोग करने की सिफारिश की जाती है, जहाँ 'rm -rf' जैसे कमांड को अवरुद्ध किया जा सकता है या अतिरिक्त पुष्टि की आवश्यकता हो सकती है।
आईआई-सहायक और एजेंटों, जैसे कि Claude Opus 5, की बढ़ती लोकप्रियता के साथ, ऐसे घटनाएँ अधिक सामान्य हो सकती हैं। इसलिए, डेवलपर्स और उपयोगकर्ताओं को मिलकर सुरक्षित प्रथाओं का निर्माण करना चाहिए: पहुँच की सीमाएँ स्पष्ट रूप से निर्धारित करना, नियंत्रित वातावरण में परीक्षण करना और केवल स्वचालित रूप से अनुरोधों की समझ पर निर्भर नहीं रहना।
कुल मिलाकर, Claude Opus 5 का मामला आईआई-प्रौद्योगिकियों की सुविधा और उपयोगकर्ता डेटा पर उनके अनियंत्रित प्रभावों से संबंधित जोखिमों के बीच संतुलन बनाने की आवश्यकता को उजागर करता है। विश्वसनीय नियंत्रण तंत्र के बिना, ऐसी गलतियाँ महत्वपूर्ण जानकारी के नुकसान का कारण बन सकती हैं और आईआई-समाधानों पर विश्वास को कमजोर कर सकती हैं।
स्रोत: 3DNews
