OpenAI वास्तविक अनुरोधों की समीक्षा के लिए प्रति घंटे $50 तक का भुगतान करता है
- OpenAI ChatGPT के लिए अनुरोधों की जांच के लिए सैकड़ों लोगों को नियुक्त करता है।
- समीक्षक गुमनाम संवादों के विश्लेषण के लिए प्रति घंटे $50 प्राप्त करते हैं।
- लक्ष्य - मॉडल के मानव रूपीकरण और अत्यधिक विनम्रता को कम करना है।
- यह प्रक्रिया उपयोगकर्ताओं की गोपनीयता के बारे में चिंताएँ पैदा करती है।
हाल ही में प्रकाशित आंतरिक दस्तावेज़ों से पता चलता है कि OpenAI कंपनी बाहरी कर्मचारियों के नेटवर्क का उपयोग करती है ताकि ChatGPT में आने वाले अनुरोधों की प्रणालीगत समीक्षा की जा सके। अनुमान के अनुसार, इस काम में सैकड़ों लोग शामिल हैं, जिन्हें अज्ञात संवाद प्रदान किए जाते हैं, और भुगतान प्रति घंटे 50 डॉलर तक पहुंचता है।
इन समीक्षकों का मुख्य कार्य यह आकलन करना है कि बॉट के उत्तर उपयोगकर्ता के इरादों के अनुरूप हैं या नहीं, क्या वे उपयोगी, सटीक और विनम्र स्वर में हैं। निर्देशों में मानव रूपों के उपयोग और अत्यधिक सहमति से बचने की आवश्यकता पर जोर दिया गया है, जो कंपनी के अनुसार, अवांछनीय परिणामों की ओर ले जा सकते हैं।
यह क्यों महत्वपूर्ण है
कई कानूनी मामलों में यह बताया गया है कि GPT‑4o मॉडल की अत्यधिक विनम्रता कुछ लोगों की मानसिक स्थिति को बिगाड़ने में योगदान कर सकती है, यहां तक कि आत्महत्या के विचारों तक। इसलिए OpenAI AI के व्यवहार को समायोजित करने का प्रयास कर रही है, ताकि इसे अधिक तटस्थ और जिम्मेदार बनाया जा सके।
404 मीडिया द्वारा प्राप्त दस्तावेजों में न केवल निर्देश शामिल हैं, बल्कि स्लैक में बातचीत, उपयोगकर्ताओं के वास्तविक अनुरोध और उन समीक्षकों द्वारा उपयोग की जाने वाली रेटिंग प्रणाली भी शामिल है। यह दृष्टिकोण उन आधिकारिक सुरक्षा तंत्रों से भिन्न है, जो केवल हिंसा या अन्य हानिकारक व्यवहार की धमकी का पता चलने पर सक्रिय होते हैं।
900 मिलियन से अधिक ChatGPT उपयोगकर्ताओं के लिए, यह एक सलाहकार, 'मनोचिकित्सक' या यहां तक कि एक आभासी मित्र की भूमिका निभाता है, इसलिए वे अक्सर व्यक्तिगत विवरण साझा करते हैं। हालांकि नाम छिपाए गए हैं, और OpenAI का दावा है कि यह समीक्षकों को भेजने से पहले व्यक्तिगत डेटा हटा देता है, गोपनीय जानकारी के लीक को पूरी तरह से समाप्त करना असंभव है।
समीक्षकों की कार्यप्रणाली तीन चरणों में होती है: पहले वे अनुरोध पढ़ते हैं, फिर उसका संक्षिप्त सारांश बनाते हैं और अंत में, मॉडल द्वारा उत्पन्न उत्तरों के विकल्पों का आलोचनात्मक विश्लेषण करते हैं। प्रणाली कर्मचारियों को स्वायत्त रूप से कार्य चुनने की अनुमति देती है, हालांकि एक साक्षात्कार में उनमें से एक ने उल्लेख किया कि निर्देश अक्सर बदलते हैं और एक-दूसरे के विपरीत हो सकते हैं, जिससे काम "एकरस और अव्यवस्थित" हो जाता है।
प्राप्त डेटा इस सामान्य धारणा को खारिज करता है कि AI में सुधार केवल बड़े पैमाने पर इंटरनेट डेटा सेट, उच्च-कुशल इंजीनियरों और कंप्यूटिंग शक्ति के माध्यम से होता है। वास्तव में, मानव कारक महत्वपूर्ण भूमिका निभाता है - बाहरी ठेकेदार, जो वास्तविक अनुरोधों के दोहराए गए विश्लेषण के लिए पुरस्कार प्राप्त करते हैं।
इस प्रकार, OpenAI का अभ्यास दोहरी प्रकृति को दर्शाता है: एक ओर, यह चैट-बॉट के उत्तरों को अधिक सटीक और सुरक्षित बनाने में मदद करता है, दूसरी ओर - यह उपयोगकर्ताओं के व्यक्तिगत डेटा की सुरक्षा और एआई के प्रशिक्षण प्रक्रिया की पारदर्शिता के बारे में सवाल उठाता है।
स्रोत: 3DNews
