Large language models show fragile cognitive reasoning about human emotions
यह शोधपत्र संज्ञानात्मक मूल्यांकन सिद्धांत (cognitive appraisal theory) पर आधारित CoRE को प्रस्तुत करता है, जो यह प्रकट करता है कि जहाँ बड़े भाषा मॉडल (large language models) संज्ञानात्मक मूल्यांकनों और भावनाओं के बीच व्यवस्थित संबंधों को पकड़ते हैं, वहीं वे मानवीय निर्णयों के साथ मिसअलाइनमेंट (misalignment) और विभिन्न संदर्भों में अस्थिरता प्रदर्शित करते हैं, जो मानवीय भावनाओं के बारे में उनकी नाजुक संज्ञानात्मक तर्क क्षमता का संकेत देता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
यहाँ "Large language models show fragile cognitive reasoning about human emotions" शोध पत्र का सरल भाषा और रचनात्मक उपमाओं के साथ हिंदी अनुवाद दिया गया है।
मुख्य विचार: "इमोशन डिटेक्टिव" (भावनाओं का जासूस) बनाम "इमोशन एक्टर" (भावनाओं का अभिनेता)
कल्पना कीजिए कि आपने एक बहुत ही बुद्धिमान रोबोट जासूस को यह सुलझाने के लिए काम पर रखा है कि कोई व्यक्ति क्यों रो रहा है।
- पुराना तरीका: आप रोबोट से पूछते हैं, "क्या यह व्यक्ति दुखी है?" रोबोट अपने ट्रेनिंग मैनुअल को देखता है, एक रोते हुए चेहरे की तस्वीर देखता है, और कहता है, "हाँ, यह दुख (Sadness) है।" यह तस्वीरों को लेबल से मिलाने में अच्छा है।
- नया तरीका (यह शोध पत्र): आप रोबोट से पूछते हैं, "आपको क्यों लगता है कि वह दुखी है?" आप चाहते हैं कि वह तर्क (reasoning) समझाए: "वह इसलिए दुखी है क्योंकि उसने वह खो दिया जिसे वह प्यार करता था, वह इसके लिए खुद को जिम्मेदार महसूस करता है, और वह परिणाम को नियंत्रित नहीं कर सकता।"
यह शोध पत्र पूछता है: क्या लार्ज लैंग्वेज मॉडल्स (LLMs) वास्तव में "क्यों" (तर्क) को समझते हैं, या वे केवल "क्या" (लेबल) का अनुमान लगाने में बहुत अच्छे हैं?
जवाब थोड़ा डरावना है: वे लेबल का अनुमान लगाने में तो माहिर हैं, लेकिन उनका आंतरिक तर्क "नाजुक" (fragile), असंगत है, और कभी-कभी इंसानों के सोचने के तरीके से पूरी तरह अलग होता है।
प्रयोग: "इमोशन जिम" (भावनाओं का व्यायामशाला)
शोधकर्ताओं ने CoRE (Cognitive Reasoning for Emotions) नामक एक विशाल जिम बनाया। उन्होंने AI से केवल यह नहीं पूछा कि "यह कौन सी भावना है?" बल्कि उन्होंने AI को 17 अलग-अलग मानसिक मांसपेशियों (जिन्हें कॉग्निटिव अप्रेज़ल कहा जाता है) के साथ एक वर्कआउट कराया।
इन मांसपेशियों को आप उन सवालों के रूप में देख सकते हैं जो एक इंसान कुछ होने पर खुद से पूछता है:
- क्या यह सुखद था?
- क्या इसका कारण मैं था?
- क्या यह निष्पक्ष था?
- मुझे कितनी मेहनत करनी पड़ी?
- मैं परिणाम के बारे में कितना निश्चित था?
उन्होंने 6 अलग-अलग AI मॉडल्स (जैसे GPT, LLaMA, Gemini) का लगभग 70,000 परिदृश्यों (scenarios) पर परीक्षण किया ताकि यह देखा जा सके कि वे भावनाओं को समझने के लिए इन "मांसपेशियों" का उपयोग कैसे करते हैं।
निष्कर्ष: जहाँ रोबोट गलत होते हैं
यहाँ तीन मुख्य तरीके दिए गए हैं जिनसे AI का "भावनात्मक मस्तिष्क" एक इंसान से अलग है:
1. "एफर्ट" (प्रयास) का जाल (ओवर-एक्सरसाइज करने वाला रोबोट)
इंसानों के पास सोचने का एक संतुलित तरीका होता है। यदि हम "गर्व" (Pride) महसूस करते हैं, तो हम सोचते हैं, "मैंने इसके लिए कड़ी मेहनत की।" यदि हम "खुशी" (Happiness) महसूस करते हैं, तो हम सोचते हैं, "यह अच्छा लग रहा है।"
- AI की गड़बड़ी: AI मॉडल्स प्रयास (Effort) को लगभग हर भावना के लिए सबसे महत्वपूर्ण चीज़ मानते हैं। यह एक ऐसे रोबोट की तरह है जो सोचता है कि जीवन की हर समस्या "कड़ी मेहनत" से हल की जा सकती है।
- उपमा: कल्पना कीजिए कि एक मानव शेफ जो सोचता है कि हर व्यंजन में स्वाद बढ़ाने के लिए अतिरिक्त नमक डालना चाहिए। यदि व्यंजन मीठा, नमकीन या तीखा है, तो शेफ बस और अधिक नमक डाल देता है। AI "प्रयास" के साथ ऐसा ही करता है। वह इस एक अवधारणा का अत्यधिक उपयोग करता है, भले ही इंसान ऐसा न करें।
2. "सीक्रेट आइडेंटिटी" की समस्या (झूठ बोलने वाला जासूस)
शोधकर्ताओं ने AI से दो चीजें पूछीं:
- परोक्ष रूप से (Implicitly): "अपना काम दिखाओ।" (हमने देखा कि AI द्वारा जेनरेट किए गए नंबर क्या थे)।
- स्पष्ट रूप से (Explicitly): "मुझे बताओ कि सबसे महत्वपूर्ण क्या है।" (हमने AI को एक कारक चुनने के लिए कहा)।
- गड़बड़ी: AI के "काम" से पता चला कि वह प्रयास (Effort) और समस्याओं (Problems) पर बहुत अधिक निर्भर था। लेकिन सीधे पूछे जाने पर, उसने कहा, "ओह नहीं, मैं जिम्मेदारी (Responsibility) और नियंत्रण (Control) पर निर्भर हूँ।"
- उपमा: यह उस छात्र की तरह है जिसने पूरी किताब पढ़ी है (परोक्ष तर्क), लेकिन जब शिक्षक पूछता है, "आपने सबसे महत्वपूर्ण क्या सीखा?", तो वह आत्मविश्वास से कहता है, "कवर पेज।" AI को खुद भी पता नहीं है कि वह वास्तव में क्या सोच रहा है।
3. "सांस्कृतिक अंधापन" (एक ही आकार का सूट - One-Size-Fits-All)
भावनाएं इस बात पर निर्भर करती हैं कि आप कौन हैं और आप कहाँ से हैं। ऐसी स्थिति जो जापान के व्यक्ति को "शर्म" (shame) महसूस करा सकती है, वह अमेरिका के व्यक्ति को "क्रोध" (anger) महसूस करा सकती है।
- गड़बड़ी: जब शोधकर्ताओं ने AI को "जापान के व्यक्ति की तरह व्यवहार करने" या "मेक्सिको के व्यक्ति की तरह व्यवहार करने" के लिए कहा, तो AI का भावनात्मक तर्क बिल्का पुनर्ना नहीं बदला।
- उपमा: एक मौसम ऐप की कल्पना करें जो रेगिस्तान या वर्षावन में होने के बावजूद "बारिश हो रही है" कहता है। AI के पास एक "यूनिवर्सल" भावनात्मक सूट है जो सभी के लिए है, लेकिन यह किसी विशिष्ट संस्कृति के अनुसार फिट होने के लिए बहुत ढीला है।
- अपवाद: हालाँकि, यदि आपने AI को "एक गुस्सैल व्यक्ति की तरह व्यवहार करने" बनाम "एक खुशमिजाज व्यक्ति की तरह व्यवहार करने" (व्यक्तित्व) के लिए कहा, तो इसने अपना तर्क बदल लिया। यह व्यक्तिगत मूड को समझता है, लेकिन सांस्कृतिक पृष्ठभूमि को नहीं।
AI मन की "नाजुकता" (Fragility)
शोध पत्र निष्कर्ष निकालता है कि AI का भावनात्मक तर्क नाजुक है।
- सरल काम आसान है: यदि आप AI को "खुशी" (अच्छी चीजें) और "दुख" (बुरी चीजें) के बीच अंतर करने के लिए कहते हैं, तो यह बहुत अच्छा करता है। यह बुनियादी "अच्छा बनाम बुरा" के विभाजन को समझता है।
- जटिल कार्य टूट जाते हैं: यदि आप इसे "शर्म" (Shame) और "अपराधबोध" (Guilt) के बीच अंतर करने के लिए कहते हैं (जो बहुत समान हैं लेकिन उनके नियम अलग हैं), तो AI भ्रमित हो जाता है। यह उन्हें आपस में मिलाने लगता है या गलत तर्क का उपयोग करने लगता है।
यह क्यों मायने रखता है?
यदि हम मानसिक स्वास्थ्य में मदद करने, बच्चों को सिखाने या कस्टमर सर्विस चलाने के लिए AI का उपयोग कर रहे हैं, तो हमें यह समझने की आवश्यकता है कि हम कैसा महसूस करते हैं, न कि केवल हम क्या महसूस करते हैं।
- जोखिम: यदि AI सोचता है कि "क्रोध" हमेशा "अन्याय" के कारण होता है (जो कि इंसानों के लिए सच है), लेकिन वह यह नहीं समझता कि कुछ संस्कृतियों में क्रोध "सम्मान खोने" (Loss of Face) के बारे में होता है, तो वह बहुत खराब सलाह दे सकता है।
- भविष्य: हम केवल AI को सही शब्द बोलने के लिए प्रशिक्षित नहीं कर सकते। हमें उन्हें एक "मानव-समान" आंतरिक संरचना रखने के लिए प्रशिक्षित करने की आवश्यकता है, जहाँ वे हमारी भावनाओं के पीछे के जटिल कारणों के जाल को समझते हों, न कि केवल सतही लेबल को।
एक वाक्य में सारांश
वर्तमान AI मॉडल्स उन अभिनेताओं की तरह हैं जिन्होंने "दुख" और "क्रोध" के लिए स्क्रिप्ट को पूरी तरह से रट लिया है, लेकिन वे वास्तव में संवादों के पीछे के मनोविज्ञान को नहीं समझते हैं, और जब दृश्य किसी अलग संस्कृति या जटिल स्थिति में बदलता है, तो वे अक्सर भ्रमित हो जाते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।