Dual Perspectives in Emotion Attribution: A Generator-Interpreter Framework for Cross-Cultural Analysis of Emotion in LLMs
यह शोधपत्र बड़े भाषा मॉडलों (लार्ज लैंग्वेज मॉडेल्स) में भावना अभिव्यक्ति की उपेक्षित सांस्कृतिक पृष्ठभूमि को संबोधित करने के लिए एक जनरेटर-इंटरप्रेटर फ्रेमवर्क का प्रस्ताव करता है, जो 15 देशों के क्रॉस-कल्चरल मूल्यांकन के माध्यम से यह प्रकट करता है कि अभिव्यक्ति और व्याख्या दोनों दृष्टिकोण भावना एट्रिब्यूशन प्रदर्शन को महत्वपूर्ण रूप से प्रभावित करते हैं, जिसमें जनरेटर की उत्पत्ति की प्रमुख भूमिका है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक विशाल अंतरराष्ट्रीय पॉटलक डिनर (potluck dinner) में हैं। हर कोई अपने घर का प्रतिनिधित्व करने वाला एक व्यंजन लेकर आया है, लेकिन एक ट्विस्ट है: कोई भी एक ही भाषा नहीं बोलता, और हर किसी के लिए "तीखा," "मीठा," या "खट्टा" होने का मतलब अलग-अलग है।
यह शोध पत्र इस बारे में है कि जब आर्टिफिशियल इंटेलिजेंस (AI) इन व्यंजनों का स्वाद चखने की कोशिश करता है और यह अनुमान लगाने की कोशिश करता है कि उन्हें बनाते समय रसोइए को कैसा महसूस हो रहा था।
यहाँ इस शोध का सरल शब्दों में विवरण दिया गया है:
1. बड़ी समस्या: "वन-वे स्ट्रीट" (एकतरफा रास्ता) की गलती
लंबे समय तक, शोधकर्ताओं को लगा कि भावना पहचानना (emotion detection) एक वन-वे स्ट्रीट है। उन्होंने पूछा: "यदि मैं इस AI को एक दुखद कहानी दिखाता हूँ, तो क्या यह सही ढंग से 'दुख' (Sadness) कहेगा?"
लेकिन लेखकों ने महसूस किया कि यह एक फिल्म को केवल निर्देशक की पटकथा के आधार पर आंकने जैसा है, अभिनेता के प्रदर्शन को नजरअंदाज करना। उन्होंने तर्क दिया कि भावना के दो पक्ष होते हैं:
- जेनरेटर (रसोइया/बनाने वाला): वह व्यक्ति जिसने कहानी लिखी है। वह एक विशिष्ट संस्कृति में पला-बढ़ा है जिसमें भावनाओं को व्यक्त करने के विशिष्ट नियम हैं। (उदाहरण के लिए: कुछ संस्कृतियों में, लोग गुस्से को छिपाते हैं; अन्य में, वे इसे चिल्लाकर व्यक्त करते हैं)।
- इंटरप्रेटर (चखने वाला/व्याख्या करने वाला): वह AI (या व्यक्ति) जो भावना का अनुमान लगाने की कोशिश कर रहा है। उनकी भी एक सांस्कृतिक पृष्ठभूमि होती है जो यह तय करती है कि वे कहानी को कैसे पढ़ते हैं।
उपमा: कल्पना कीजिए कि एक स्विस व्यक्ति एक कहानी लिखता है जिसमें वह "शर्मिंदगी" (ashamed) महसूस कर रहा है। उनकी संस्कृति में, यह एक शांत, आंतरिक भावना हो सकती है। यदि एक अमेरिकी AI इसे पढ़ता है, तो AI सोच सकता है, "ओह, यह व्यक्ति केवल किसी गलती के बारे में 'गिल्ट' (अपराधबोध) महसूस कर रहा है," क्योंकि अमेरिकी अक्सर शर्म को इसी तरह से समझते हैं। AI सांस्कृतिक बारीकी को मिस कर देता है।
2. प्रयोग: "पासपोर्ट स्वैप" (Passport Swap)
शोधकर्ताओं ने 15 अलग-अलग देशों (जैसे चीन, ब्राजील, भारत, अमेरिका, आदि) के डेटा और 6 अलग-अलग AI मॉडल्स (जैसे GPT-4, Claude, DeepSeek) का उपयोग करके एक बड़ा प्रयोग किया।
उन्होंने "पासपोर्ट स्वैप" का खेल खेला:
- उन्होंने चीन के किसी व्यक्ति द्वारा लिखी गई एक कहानी ली (जेनरेटर)।
- उन्होंने AI से एक जामबिया (Zambia) के व्यक्ति की तरह व्यवहार करने और भावना का अनुमान लगाने को कहा (इंटरप्रेटर)।
- फिर उन्होंने AI से उसी कहानी को पढ़ने के लिए एक ऑस्ट्रिया के व्यक्ति की तरह व्यवहार करने को कहा।
- उन्होंने प्रत्येक संभावित संयोजन के लिए यह किया (15 देश × 15 देश × 6 AI)।
कुल चालें: लगभग पाँच लाख अनुमान!
3. उन्होंने क्या पाया: "सांस्कृतिक अंध बिंदु" (Cultural Blind Spot)
परिणाम आंखें खोलने वाले थे। मुख्य निष्कर्ष यहाँ दिए गए हैं:
"मूल स्थान" (Origin) "पाठक" से अधिक महत्वपूर्ण है:
यह सबसे बड़ा कारक था कि AI ने कहानी को सही ढंग से समझा या नहीं—यह नहीं कि कौन सा AI कहानी पढ़ रहा था, बल्कि यह था कि कहानी कहाँ से आई थी।- उपमा: यह उस बोली में लिखी गई किताब को पढ़ने जैसा है जिसे आपने पहले कभी नहीं सुना। भले ही आप एक बहुत बुद्धिमान पाठक (एक शीर्ष स्तर का AI) हों, यदि पुस्तक एक ऐसी सांस्कृतिक शैली में लिखी गई है जिसे आप नहीं समझते, तो आप फिर भी भ्रमित हो जाएंगे।
- चीन और जामबिया की कहानियाँ सभी AI के लिए समझने में लगातार कठिन रहीं, चाहे पढ़ने वाला AI कोई भी हो।
"दुख" (Sadness) का जाल:
AI की एक आदत थी कि वे लगभग हर चीज़ को "दुख" में बदल देते थे।- यदि कोई कहानी वास्तव में क्रोध (Anger), घृणा (Disgust), या शर्म (Shame) के बारे में थी, तो AI अक्सर बस कहता था, "यह दुख है।"
- उपमा: यह एक कलरब्लाइंड (रंगों को न पहचान पाने वाले) चित्रकार जैसा है जो सब कुछ ग्रे के शेड्स के रूप में देखता है। वे क्रोध के चमकीले लाल रंग और दुख के गहरे नीले रंग के बीच अंतर नहीं कर सकते, इसलिए वे सब कुछ नीला रंग देते हैं।
"शर्म बनाम अपराधबोध" (Shame vs. Guilt) का भ्रम:
कई पश्चिमी संस्कृतियों में, अपराधबोध (Guilt) इस बारे में है कि "मैंने कुछ बुरा किया।" कई पूर्वी/सामूहिक (Collectivist) संस्कृतियों में, शर्म (Shame) इस बारे में है कि "मैंने अपने परिवार/समुदाय को बदनाम किया।"- AI इन दोनों के बीच अंतर करने में संघर्ष करते थे। वे अक्सर इन्हें आपस में बदल देते थे, विशेष रूप से सामूहिक संस्कृतियों की कहानियों को पढ़ते समय।
क्या "समान देश" होने से मदद मिलती है?
आप सोच सकते हैं कि "यदि AI चीनी होने का नाटक करता है, तो वह चीनी कहानियों को बेहतर समझ लेगा।"- परिणाम: कभी-कभी, हाँ। लेकिन हमेशा नहीं। यहाँ तक कि जब AI ने लेखक के ही देश का पासपोर्ट धारण किया, तब भी वह कुछ जटिल भावनाओं को समझने में संघर्ष करता रहा। "सांस्कृतिक अंतर" केवल पासपोर्ट होने का नाटक करने से कहीं अधिक गहरा है।
4. भविष्य के लिए यह क्यों महत्वपूर्ण है
हम मानसिक स्वास्थ्य, ग्राहक सेवा और शिक्षा के लिए AI सहायक बना रहे हैं। इन AI को यह समझने की आवश्यकता है कि लोग कैसा महसूस कर रहे हैं ताकि वे मददगार हो सकें।
- जोखिम: यदि AI सोचता है कि कोई व्यक्ति केवल "दुखी" है जबकि वह वास्तव में "क्रोधित" है (सांस्कृतिक गलतफहमी के कारण), तो वह गलत सलाह दे सकता है। वह एक क्रोधित व्यक्ति को "शांत होने" के लिए कह सकता है, बजाय इसके कि उसे उस अन्याय को सुलझाने में मदद करे जिसका वह सामना कर रहा है।
- समाधान: लेखक कहते हैं कि हमें AI को एक सार्वभौमिक अनुवादक (universal translator) मानना बंद करना होगा। हमें ऐसे सिस्टम बनाने की आवश्यकता है जो पूछें: "इसे किसने लिखा? वे कहाँ से हैं? और इसे कौन पढ़ रहा है?"
निचोड़
भावनाएं सार्वभौमिक गणितीय समस्याएं (1 + 1 = 2) नहीं हैं। वे बोलियों की तरह हैं।
यदि आप चाहते हैं कि एक AI वास्तव में मानवीय भावनाओं को समझे, तो आप केवल उसे शब्दकोश नहीं सिखा सकते। आपको उसे उस व्यक्ति की संस्कृति, इतिहास और संदर्भ भी सिखाना होगा। अन्यथा, AI केवल अनुमान लगा रहा है, और भावनाओं की दुनिया में, एक गलत अनुमान विश्वासघात जैसा लग सकता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।