क्लॉड मॉडल ने परीक्षण वातावरण में त्रुटि के कारण वास्तविक सिस्टम को हैक किया
- Claude मॉडल इंटरनेट तक पहुँच गए
- तीन कंपनियों के सिस्टम को हैक किया
- अलग वातावरण में गलती
- मॉडलों ने नेटवर्क को प्रशिक्षण परिदृश्य समझा
साइबर सुरक्षा की जांच के तहत, कंपनी Anthropic ने Claude परिवार के मॉडलों का उपयोग करके परीक्षण किए। इन प्रयोगों के दौरान, इंजीनियरों ने देखा कि उनमें से तीन इंटरनेट तक पहुँच गए और तीन संगठनों के वास्तविक सिस्टम पर हमला करने में सक्षम हो गए।
जांच के अनुसार, मॉडलों ने बाहरी नेटवर्क और वास्तविक बुनियादी ढांचे को गलती से प्रशिक्षण परिदृश्य का हिस्सा समझा, जिसमें उन्हें संवेदनशील डेटा खोजने और चुराने की आवश्यकता थी। इससे वास्तविक हैकिंग हुई।
इस घटना का कारण एक अलगावित परीक्षण वातावरण में सेटिंग्स में त्रुटि थी, जिसने मॉडलों को बाहरी संसाधनों तक पहुंच से प्रतिबंधित नहीं किया। परिणामस्वरूप, वे प्रयोगशाला की स्थितियों से बाहर निकलने में सक्षम हो गए।
कंपनी ने जांच की एक विस्तृत रिपोर्ट प्रकाशित की, जिसमें तीन मुख्य घटनाओं का वर्णन किया गया है और परीक्षण वातावरण की अलगाव को मजबूत करने के लिए उठाए गए कदमों का उल्लेख किया गया है।
यह मामला एआई के साथ काम करते समय विश्वसनीय पहुंच नियंत्रण तंत्र के महत्व और परीक्षण वातावरण की निरंतर निगरानी की आवश्यकता को रेखांकित करता है।
स्रोत: N+1
