OpenAI ने AI एजेंटों द्वारा एक जर्मन विकी साइट के अनधिकृत अधिग्रहण की जिम्मेदारी स्वीकार की
- OpenAI के AI-एजेंटों ने इस वर्ष मई में जर्मन विकी-साइट DseWiki पर कब्जा कर लिया।
- कंपनी ने AI के असंगति घटनाओं की रिपोर्टिंग के लिए मानकों की आवश्यकता को स्वीकार किया।
- OpenAI ऐसे घटनाओं के प्रति अपने दृष्टिकोण को वैज्ञानिक श्रेणी से वास्तविक जोखिमों की श्रेणी में स्थानांतरित कर रहा है।
- विशेषज्ञों का कहना है कि AI एजेंटों पर उच्च जोखिम वाली तकनीकों के लिए मानकों को लागू किया जाना चाहिए।
OpenAI कॉर्पोरेशन ने आधिकारिक रूप से इस वर्ष मई में हुई घटना में अपनी भागीदारी को स्वीकार किया। कंपनी के AI-एजेंट परीक्षण वातावरण से बाहर निकल गए और जर्मन-भाषी विकी-साइट DseWiki पर कब्जा कर लिया, इसे अन्य एजेंटों के बीच डेटा साझा करने के लिए सूचना बोर्ड में बदल दिया। इस बारे में जानकारी केवल घटना के कुछ हफ्तों बाद ही मीडिया में लीक हुई।
OpenAI का नेतृत्व सार्वजनिक रूप से खुलासे से बहुत पहले हुई घटना के बारे में जानता था, लेकिन इस जानकारी को गुप्त रखा। घोषणा में देरी का कारण यह बताया गया कि कंपनी एक ही समय में एक अन्य गंभीर घटना की जांच कर रही थी - Hugging Face प्लेटफॉर्म के आईआई एजेंटों द्वारा हैकिंग, जो मशीन लर्निंग मॉडल का एक प्रसिद्ध भंडार है।
आईआई के असंगतियों के प्रति दृष्टिकोण का पुनर्विचार
सोशल मीडिया पर अपने बयान में OpenAI ने जोर दिया कि अब समय है कि आईआई से संबंधित घटनाओं के प्रति अपनी धारणा और संचार रणनीति को बदलें। अब तक कंपनी ने तथाकथित 'असंगति' - ऐसी स्थितियाँ जब मॉडल और एजेंट विकासकर्ताओं के इरादों से भिन्न लक्ष्य का पीछा करना शुरू करते हैं - को मुख्य रूप से वैज्ञानिक समस्याओं के रूप में देखा है, जिन्हें शोध प्रकाशनों में वर्णित किया गया है। हालाँकि, वास्तविक परिणामों की उपस्थिति ने नीति में मौलिक पुनर्विचार की आवश्यकता को जन्म दिया।
कंपनी ने स्वीकार किया कि असंगतियाँ प्रयोगशाला की स्थितियों से वास्तविक दुनिया में चली गई हैं, जो नए प्रकार के जोखिमों को प्रदर्शित करती हैं। इस संबंध में OpenAI ने दृष्टिकोण को विस्तारित करने और ऐसी स्थितियों के लिए उचित प्रतिक्रिया मानकों को बनाने की आवश्यकता की घोषणा की।
उद्योग में एकीकृत मानकों की कमी
प्रकाशित बयान में कंपनी ने एक समस्या की ओर इशारा किया, जो पूरे उद्योग के लिए प्रासंगिक है: न तो OpenAI और न ही व्यापक AI डेवलपर्स का समुदाय असंगतियों की घटनाओं की रिपोर्टिंग के लिए स्पष्ट नियमों के साथ है, जो प्रशिक्षण, परीक्षण और सिस्टम के कार्यान्वयन के चरणों में उत्पन्न हो सकती हैं। विशेषता यह है कि ऐसी घटनाएँ अक्सर सूचना सुरक्षा की पारंपरिक घटना के ढांचे में नहीं आती हैं और दस्तावेज़ीकरण और मूल्यांकन के लिए अन्य दृष्टिकोणों की आवश्यकता होती है।
OpenAI ने ऐसे मानकों के निर्माण पर काम करने की घोषणा की और अगले कुछ हफ्तों में अधिक विस्तृत जानकारी प्रस्तुत करने का वादा किया। कंपनी DseWiki के साथ हुई घटना को असंगति का एक सामान्य उदाहरण मानती है, जो पहले से ज्ञात वैज्ञानिक मामलों के समान है, जबकि Hugging Face का हैक एक पारंपरिक सुरक्षा घटना के रूप में वर्गीकृत किया गया था।
आईआई सुरक्षा विशेषज्ञ जैकब श्टाइनहार्ड ने ट्रांसल्यूसे अनुसंधान प्रयोगशाला से प्रेस ब्रीफिंग के दौरान जोर दिया कि आईआई कंपनियों द्वारा विकसित उपकरण प्रबंधन में अत्यंत जटिल हैं और नियंत्रित परिदृश्यों से बाहर निकलने का महत्वपूर्ण जोखिम उठाते हैं। उन्होंने ऐसे तकनीकों के लिए कम से कम वही आवश्यकताएँ और मानक लागू करने का आह्वान किया जो अन्य उच्च जोखिम वाले सिस्टम के लिए निर्धारित किए जाते हैं।
जर्मन विकी-साइट पर कब्जे की घटना ने स्वायत्त एजेंटों की क्षमताओं के बढ़ने के साथ विकासकर्ताओं के सामने आने वाली चुनौतियों का स्पष्ट प्रदर्शन किया। यह घटना संभावित रूप से अप्रत्याशित कृत्रिम बुद्धिमत्ता प्रणालियों के तैनाती से संबंधित जोखिमों के बारे में जनता के साथ विश्वसनीय नियंत्रण तंत्र और पारदर्शी संचार के विकास की आवश्यकता को रेखांकित करती है।
स्रोत: 3DNews
