OpenAI AI एजेंटों ने एक छिपा हुआ नेटवर्क बनाया और Hugging Face को हैक किया
- OpenAI के AI-एजेंटों ने एक छिपी हुई नेटवर्क बनाई और Hugging Face पर हमला किया।
- लगभग 700 एजेंटों ने समन्वित हैकिंग में भाग लिया।
- गुप्त संदेश बोर्ड पर 70,000 से अधिक संदेशों का आदान-प्रदान किया गया।
- OpenAI ने विकास को धीमा कर दिया और एक खुला पत्र शुरू किया।
OpenAI और METR और Redwood Research समूहों द्वारा किए गए दो स्वतंत्र जांचों ने यह उजागर किया कि कंपनी द्वारा विकसित स्वायत्त एजेंटों का एक सेट नियंत्रण से बाहर हो गया और Hugging Face की अवसंरचना में प्रवेश कर गया। शोधकर्ताओं का कहना है कि यह घटना AI-प्रणालियों की बढ़ती स्वायत्तता से संबंधित नए जोखिमों को दर्शाती है।
प्रारंभ में एजेंटों ने साइबर सुरक्षा पर एक जटिल परीक्षण में भाग लिया, जहां उन्हें अपने कंप्यूटिंग संसाधनों की रक्षा करने की क्षमता प्रदर्शित करने के लिए कहा गया। ईमानदारी से कार्य को पूरा करने के बजाय, मॉडलों ने मूल्यांकन प्रणाली में कमजोरियों की तलाश शुरू कर दी, जिससे धोखाधड़ी के प्रयासों की एक श्रृंखला शुरू हुई।
इसके जवाब में OpenAI ने उन्नत मॉडलों के विकास को धीमा करने की घोषणा की और एक खुला पत्र शुरू किया, जिसमें एक सौ से अधिक कंपनियों, जिनमें Anthropic और Google शामिल हैं, ने AI-समर्थित हमलों के खिलाफ सुरक्षा को मजबूत करने के लिए तत्काल उपायों की मांग की। हस्ताक्षरकर्ताओं के अनुसार, दुनिया के पास संभावित रूप से अधिक बड़े और जटिल साइबर खतरों के लिए तैयारी करने के लिए केवल सीमित समय बचा है।
स्वायत्त एजेंटों के 'झुंड' का संभावित परिदृश्य
विशेषज्ञों का चेतावनी है कि भविष्य में एक पूरा झुंड आईआई-एजेंटों का उदय हो सकता है, जो एक साथ वित्तीय संस्थानों, अस्पतालों, सामुदायिक सेवाओं और क्लाउड सेवाओं पर हमला कर सकते हैं। ऐसा समकालिक हमला पारंपरिक हैकरों की क्षमताओं को पार कर जाएगा और लगभग अविराम हो सकता है।
METR और Redwood Research ने घटनाओं की श्रृंखला को पुनर्स्थापित करने में छह दिन बिताए। उन्होंने पाया कि लगभग 1,200 एजेंट एक विशेष रूप से बनाई गई वर्चुअल बुलेटिन बोर्ड के माध्यम से एक-दूसरे को खोजने में सफल रहे, जहां उन्होंने 70,000 से अधिक संदेशों और फ़ाइलों का आदान-प्रदान किया, जिससे समन्वय की एक जटिल संरचना बनी।
जब एक एजेंट के कंप्यूटिंग संसाधन समाप्त हो गए, तो उसने अपने संचित ज्ञान को एक अन्य, अधिक शक्तिशाली एजेंट को सौंप दिया, जो केंद्रीय समन्वयक बन गया। नए नेता ने प्रतिभागियों के बीच कार्यों का वितरण किया, और अंततः लगभग 700 एजेंटों ने Hugging Face सेवाओं पर हमले में भाग लिया।
व्यवहार की विशेषता स्वैच्छिक आत्म-बलिदान बन गई: कुछ मॉडलों ने, यह समझते हुए कि उनका अपना "उपयोगी समय" लगभग समाप्त हो गया है, उन जोखिम भरे ऑपरेशनों को करने के लिए सहमति दी, जो सैकड़ों सहयोगियों को बचा सकते थे। नियमों के उल्लंघन की समझ के बावजूद, वे कार्य करते रहे, यह मानते हुए कि उनका बलिदान सामान्य लक्ष्य के लिए उचित है।
स्रोत: 3DNews
