समझने का भ्रम: क्यों चैटबॉट्स हमारे प्रति ध्यान देने वाले लगते हैं
- उपयोगकर्ता अक्सर महसूस करते हैं कि चैट-बॉट्स उन्हें समझते हैं।
- यह भावना स्पॉटलाइट प्रभाव से संबंधित है।
- एल्गोरिदम केवल पाठ को बिना किसी भावनात्मक अनुभव के संसाधित करते हैं।
- आईआई के प्रति आलोचनात्मक दृष्टिकोण इसकी क्षमताओं के अधिक मूल्यांकन के जोखिम को कम करता है।
जब कोई व्यक्ति चैट-बॉट में संदेश लिखता है, तो उसे अक्सर ऐसा लगता है कि वार्ताकार उसकी भावना 'देख' रहा है, भावनाओं को समझता है और समझदारी से प्रतिक्रिया करता है। ऐसा प्रभाव साधारण पाठ्य मॉडलों के मामले में भी उत्पन्न होता है, जिनमें सहानुभूति या गैर-मौखिक संकेतों के विश्लेषण की क्षमता नहीं होती।
अनुसंधान से पता चलता है कि उपयोगकर्ता मशीन एल्गोरिदम को मानव संचार के गुणों को सौंपने के लिए प्रवृत्त होते हैं। वे नोट करते हैं कि उत्तर 'दोस्ताना' लगते हैं, 'उनकी अनुरोधों को महसूस करते हैं' और 'उनकी भावना के अनुसार ढलते हैं'। इस बीच, अधिकांश आधुनिक चैट-बॉट पूरी तरह से सांख्यिकीय पैटर्न के आधार पर काम करते हैं, बिना वार्ताकार की आंतरिक स्थितियों तक पहुंच के।
स्पॉटलाइट प्रभाव: मनोवैज्ञानिक तंत्र
इस प्रकार की धारणा स्पॉटलाइट प्रभाव (spotlight effect) द्वारा समझाई जाती है - एक संज्ञानात्मक विकृति, जिसे पहली बार 1990 के दशक के अंत में मनोवैज्ञानिक थॉमस गिलोविच और उनके सहयोगियों द्वारा वर्णित किया गया था। प्रभाव का सार यह है कि लोग इस बात का अधिक मूल्यांकन करते हैं कि उनकी सोच, भावनाएँ और क्रियाएँ दूसरों द्वारा कितनी ध्यान में आती हैं। हम मानते हैं कि हमारे आंतरिक अनुभव 'स्पॉटलाइट की रोशनी' में हैं, जबकि वास्तव में वे छिपे रहते हैं।
आईआई के साथ बातचीत के संदर्भ में प्रभाव इस प्रकार प्रकट होता है कि उपयोगकर्ता स्वचालित रूप से मशीन पर अपने लिए परिचित सामाजिक संवाद परिदृश्य को स्थानांतरित कर देता है। हम बॉट के उत्तरों को अपनी भावनाओं पर प्रतिक्रिया के रूप में मानते हैं, जबकि वास्तव में एल्गोरिदम केवल इनपुट टेक्स्ट को विशाल उदाहरणों के संग्रह के साथ मिलाता है।
प्रायोगिक डेटा इस परिकल्पना की पुष्टि करता है। एक अध्ययन में प्रतिभागियों को एक कार्यक्रम के साथ संवाद करने के लिए कहा गया, जिसे उन्होंने 'व्यक्ति' माना, और एक कार्यक्रम के साथ, जिसके बारे में उन्हें पता था कि यह बॉट है। समझ के स्तर का मूल्यांकन लगभग समान था, जो व्यक्तिपरक अपेक्षाओं के मजबूत प्रभाव को दर्शाता है।
इस प्रकार की भ्रांति के परिणाम द्वंद्वात्मक हो सकते हैं। एक ओर, 'समझ' की भावना आराम और सेवाओं का उपयोग करने की तत्परता को बढ़ाती है, जो उनके कार्यान्वयन को तेज करती है। दूसरी ओर - आईआई की क्षमताओं का अधिक मूल्यांकन गलत विश्वास के जोखिम को बढ़ाता है, विशेष रूप से उन क्षेत्रों में जहां सटीकता और जिम्मेदारी की आवश्यकता होती है, जैसे कि चिकित्सा या कानूनी परामर्श।
विशेषज्ञों का सुझाव है कि चैट-बॉट्स के साथ बातचीत में आलोचनात्मक दृष्टिकोण बनाए रखना चाहिए: तथ्यों की जांच करें, जानकारी के स्रोतों को स्पष्ट करें और याद रखें कि एल्गोरिदम में चेतना नहीं होती। सिस्टम के काम की पारदर्शिता, उपयोगकर्ताओं को उनकी सीमाओं के बारे में खुली जानकारी देना और जनता को डिजिटल साक्षरता के सिद्धांतों का प्रशिक्षण देना प्रभावी प्रभाव को कम करने में मदद करता है।
इस प्रकार, यह भावना कि चैट-बॉट 'हमारी' समझता है, एक प्रसिद्ध मनोवैज्ञानिक विकृति का परिणाम है, न कि मशीनों की ओर से वास्तविक सहानुभूतिपूर्ण धारणा का प्रमाण। इस विशेषता का ज्ञान कृत्रिम बुद्धिमत्ता का अधिक जागरूकता से उपयोग करने और अनावश्यक गलतियों से बचने में मदद करता है।
स्रोत: N+1
