OpenAI ने साइबर सुरक्षा खतरों के कारण Astra मॉडल के विकास को रोक दिया

अमेरिकी शोध कंपनी OpenAI ने बताया कि कोड नाम Astra के तहत कृत्रिम बुद्धिमत्ता मॉडल के विकास को तब तक निलंबित किया जाएगा जब तक कि नए सुरक्षा मानदंड पूरे नहीं हो जाते। कंपनी के प्रतिनिधियों के अनुसार, हाल के दिनों में किए गए आंतरिक आकलनों ने मॉडल में स्वायत्त एजेंटों के प्रोग्रामिंग और साइबर सुरक्षा के क्षेत्र में उत्कृष्ट क्षमताओं का पता लगाया।

मॉडल को 'बहुत बुद्धिमान' क्यों माना जाता है

Preparedness Framework की आंतरिक पद्धति के अनुसार, OpenAI प्रत्येक परियोजना का मूल्यांकन कई मानदंडों के आधार पर करता है, जिनमें AI की शून्य-दिन की कमजोरियों का पता लगाने और साइबर हमलों की रणनीतियों को स्वायत्त रूप से विकसित करने की क्षमता शामिल है। मूल्यांकनकर्ताओं ने निष्कर्ष निकाला कि Astra पहले से ही महत्वपूर्ण बुनियादी ढांचा प्रणालियों में कमजोरियों की पहचान और उनका दोहन करने में सक्षम है, बिना मानव हस्तक्षेप के, और केवल सामान्य लक्ष्यों के साथ जटिल हमलों की योजनाएँ बनाने में सक्षम है।

ये परिणाम Preparedness Framework के तहत निर्धारित सीमा से अधिक हो गए, जिसके बाद कंपनी ने परियोजना के आगे के विकास को अस्थायी रूप से रोकने का निर्णय लिया। इस दौरान OpenAI ने यह स्पष्ट किया कि मॉडल का हालिया Hugging Face प्लेटफॉर्म पर हुए घटना से कोई संबंध नहीं था, जहां इसके एक मॉडल का दुरुपयोग किया गया था।

अब आगे क्या होगा

OpenAI उच्च स्तर की स्वायत्तता वाली AI प्रणालियों पर अधिक कठोर नियंत्रण उपाय लागू करने की योजना बना रहा है। Astra के लिए एक सार्वभौमिक निगरानी प्रणाली विकसित की गई है, जो किसी भी एजेंट एप्लिकेशन में संभावित खतरनाक गतिविधियों की निगरानी करेगी। इसके अलावा, कंपनी नए फीचर्स के रिलीज से पहले जांच और सत्यापन की प्रक्रिया को मजबूत करने का वादा करती है।

यह दृष्टिकोण AI विकास के नियमों को सख्त करने के वैश्विक प्रवृत्ति के अनुरूप है। जनरेटिव मॉडलों से संबंधित कई सार्वजनिक स्कैंडलों की श्रृंखला के बाद, कई देशों और अंतरराष्ट्रीय संगठनों ने तकनीकी कंपनियों से जोखिम मूल्यांकन की अधिक पारदर्शी प्रक्रियाओं की मांग की है।

यूक्रेन के लिए, जो सशस्त्र संघर्ष की स्थिति में है, साइबर सुरक्षा के मुद्दे विशेष रूप से महत्वपूर्ण हैं। साइबर हमलों में उन्नत एआई उपकरणों के उपयोग की संभावना उनके विकास और वितरण पर कड़े नियंत्रण की आवश्यकता को बढ़ाती है।

OpenAI ने कहा है कि नए प्रोटोकॉल को लागू करने और अतिरिक्त परीक्षण करने के बाद, वह निलंबन के निर्णय पर पुनर्विचार करने के लिए तैयार है। इस बीच, परियोजना की टीम सुरक्षित निगरानी और सीमाओं के तंत्र बनाने पर ध्यान केंद्रित करेगी, ताकि वास्तविक दुनिया में मॉडल के अनियंत्रित उपयोग के जोखिम को समाप्त किया जा सके।

स्रोत: 3DNews