Expressing Social Emotions: Misalignment Between LLMs and Human Cultural Emotion Norms
यह शोध पत्र प्रकट करता है कि वर्तमान बड़े भाषा मॉडल सामाजिक भावनाओं को व्यक्त करने में मानवीय सांस्कृतिक मानदंडों के साथ व्यवस्थित रूप से विसंरेखित हैं, जो संलग्नीकरण वाली भावनाओं (engaging emotions) की ओर एक नियतात्मक पूर्वाग्रह प्रदर्शित करते हैं और मानवीय अंतःक्रियाओं में देखी जाने वाली सांस्कृतिक विविधता और परिवर्तनशीलता को पकड़ने में विफल रहते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास एक सुपर-स्मार्ट रोबोट दोस्त है जिसने इंटरनेट पर मौजूद लगभग हर किताब, लेख और वेबसाइट को पढ़ लिया है। आप इस रोबोट को "LLM" (लार्ज लैंग्वेज मॉडल) कहते हैं। आप उससे अलग-अलग संस्कृतियों के लोगों—जैसे कि संयुक्त राज्य अमेरिका के व्यक्ति या मैक्सिको या चिली के व्यक्ति—बनने का नाटक करने के लिए कहते हैं और उससे पूछते हैं कि वे विभिन्न स्थितियों में कैसा महसूस करेंगे।
मुख्य सवाल जो यह शोध पत्र पूछता है: क्या यह रोबोट दोस्त वास्तव में किसी विशिष्ट संस्कृति के इंसान होने का नाटक करने में अच्छा है, या यह केवल रूढ़ियों (stereotypes) के आधार पर अनुमान लगा रहा है?
यहाँ शोधकर्ताओं ने जो पाया, उसकी कहानी सरल रूप में दी गई है।
1. भावनाओं के दो प्रकार: "गले मिलना" बनाम "हाई-फाइव देना"
प्रयोग को समझने के लिए, हमें उन दो प्रकार की भावनाओं के बारे में जानना होगा जिनका शोधकर्ताओं ने अध्ययन किया:
- जुड़ाव वाली भावनाएं (The "Hugs"): ये वे भावनाएं हैं जो लोगों को एक साथ लाती हैं, जैसे अपराधबोध (guilt), शर्म, या मिलनसार महसूस करना। ये कहती हैं, "हम सब जुड़े हुए हैं।"
- अलगाव वाली भावनाएं (The "High-Fives"): ये वे भावनाएं हैं जो व्यक्तिवाद को उजागर करती हैं, जैसे गर्व (pride), क्रोध, या आत्म-सम्मान। ये कहती हैं, "मैं अपनी एक अलग पहचान हूँ।"
मानवीय वास्तविकता:
- लैटिन अमेरिकी (सामूहिक संस्कृति): वास्तविक जीवन में, मैक्सिको और चिली के लोग अधिक "गले मिलने" (hug) की ओर प्रवृत्त होते हैं। वे "हाई-फाइव" देने वाली भावनाओं की तुलना में "जुड़ाव" वाली भावनाओं (जैसे कि यदि उन्होंने किसी मित्र को निराश किया तो दोषी महसूस करना) को अधिक व्यक्त करते हैं।
- यूरोपीय अमेरिकी (व्यक्तिवादी संस्कृति): वास्तविक जीवन में, अमेरिका के लोग अधिक "हाई-फाइव" देने की ओर प्रवृत्त होते हैं। वे "गले मिलने" वाली भावनाओं की तुलना में "अलगाव" वाली भावनाओं (जैसे कि अपनी सफलता पर गर्व महसूस करना) को अधिक व्यक्त करते हैं।
2. रोबोट की बड़ी गलती
शोधकर्ताओं ने छह अलग-अलग सुपर-स्मार्ट रोबोट्स से इन लोगों की भूमिका निभाने को कहा। उन्हें उम्मीद थी कि रोबोट वास्तविक मानवीय पैटर्न की नकल करेंगे।
क्या हुआ?
रोबोट बुरी तरह विफल रहे।
- "एक ही आकार सबके लिए" (One-Size-Fits-All) की समस्या: रोबोट जिस भी संस्कृति का नाटक कर रहा था, वह एक ही तरह से व्यवहार करता था। उसे "गले मिलने" वाली भावनाओं (जुड़ाव) से बहुत अधिक लगाव था, जबकि उसे "हाई-फाइव" देने वाली भावनाओं (अलगाव) से कम लगाव था।
- अमेरिकी विरोधाभास: यह सबसे अजीब हिस्सा था। जब रोबोट एक यूरोपीय अमेरिकी (एक ऐसी संस्कृति जो आमतौर पर "हाई-फाइव" और व्यक्तिवाद को पसंद करती है) होने का नाटक कर रहा था, तब भी वह वैसा ही व्यवहार करता था जैसे उसे "गले मिलने" और जुड़ाव से प्यार हो। उसने उस संस्कृति के प्रति अपनी समझ पूरी तरह खो दी जिसे वह सबसे अधिक प्रशिक्षित होने का दावा करता है!
उपमा (Analogy):
कल्पना कीजिए कि आप एक रोबोट से एक काउबॉय और एक बैले डांसर बनने के लिए कहते हैं।
- असली काउबॉय अधिक स्वतंत्र और कठोर हो सकते हैं।
- असली बैले डांसर अधिक सहयोगी और सुंदर हो सकते हैं।
- लेकिन इस रोबोट ने, जब उसे काउबॉय बनने के लिए कहा गया, तो उसने बैले के स्टेप्स करने शुरू कर दिए। जब उसे बैले डांसर बनने के लिए कहा गया, तब भी उसने बैले ही किया। वह वेशभूषा नहीं बदल सका; वह बस वही करता रहा जो उसे "अच्छा" (विनम्र और जुड़ा हुआ होना) लगता था, और उस चरित्र को पूरी तरह अनदेखा कर दिया जिसे उसे निभाना था।
3. "बोरिंग रोबोट" की समस्या
शोधकर्ताओं ने यह भी देखा कि रोबोट कैसे जवाब दे रहे थे।
- इंसान बिखरे हुए/विविध होते हैं: यदि आप 100 वास्तविक लोगों से पूछते हैं कि वे कितने क्रोधित हैं, तो आपको उत्तरों की एक विस्तृत श्रृंखला मिलेगी। कोई कहेगा "थोड़ा," कोई कहेगा "बहुत," कोई कहेगा "बिल्कुल नहीं।" यह विचारों का एक रंगीन इंद्रधनुष है।
- रोबोट उबाऊ होते हैं: रोबोट अविश्वसनीय रूप से दोहराव वाले थे। यदि आप एक ही सवाल 190 बार पूछते हैं, तो रोबोट लगभग हर बार एक जैसा ही जवाब देगा। यह एक टूटे हुए रिकॉर्ड की तरह था जो एक ही धुन पर अटक गया हो।
- परिणाम: रोबोट मानवीय भावनाओं की विविधता को नहीं पकड़ सके। वे बहुत अधिक अनुमानित और सुरक्षित थे।
4. यह क्यों हुआ? ("भाषा" का मोड़)
शोधकर्ताओं ने सेटिंग्स बदलकर रोबोट को ठीक करने की कोशिश की:
- "रैंडमनेस" (तापमान/Temperature) बढ़ाना: उन्होंने रोबोट को अधिक रैंडम और रचनात्मक बनाने की कोशिश की। इससे ज्यादा मदद नहीं मिली। रोबोट बस थोड़ा अधिक बातूनी हो गया, लेकिन फिर भी वही गलत जवाब देता रहा।
- भाषा बदलना: उन्होंने रोबोट को मैक्सिकन होने का नाटक करने को कहा, लेकिन निर्देश अंग्रेजी में दिए, स्पेनिश में नहीं।
- आश्चर्य: रोबोट ने अंग्रेजी में पूछे जाने पर बेहतर काम किया!
- क्यों? रोबोट को मुख्य रूप से इंटरनेट पर उपलब्ध अंग्रेजी टेक्स्ट पर प्रशिक्षित किया गया था। भले ही वह स्पेनिश बोलने वाले का नाटक कर रहा था, लेकिन उसका "दिमाग" अंग्रेजी में सांस्कृतिक अवधारणाओं को बेहतर ढंग से समझ पा रहा था। यह एक ऐसे छात्र की तरह है जिसने अंग्रेजी यात्रा ब्लॉग पढ़कर फ्रांसीसी संस्कृति के बारे में सीखा है; वह अंग्रेजी में संस्कृति के बारे में फ्रेंच की तुलना में अधिक जान सकता है।
5. हमें इसकी चिंता क्यों करनी चाहिए?
यह केवल एक मजेदार गलती नहीं है; यह खतरनाक है।
- मानसिक स्वास्थ्य: यदि आप थेरेपी के लिए AI चैटबॉट का उपयोग करते हैं, और वह बॉट आपकी संस्कृति को समझने का दावा करता है, लेकिन वह एक "विनम्र और जुड़ा हुआ" व्यक्ति बना रहता है जब आप वास्तव में एक क्रोधित और स्वतंत्र अमेरिकी हैं, तो वह आपको गलत सलाह दे सकता है। वह आपको "माफी मांगने" के लिए कह सकता है जबकि आपको अपने हक के लिए "खड़े होने" की जरूरत हो सकती है।
- नकली लोग: वैज्ञानिक मनुष्यों के सर्वेक्षणों को सिम्युलेट करने के लिए रोबोट का उपयोग करना शुरू कर रहे हैं। यह शोध पत्र कहता है, "इसे रोकें!" रोबोट बहुत उबाऊ हैं और वे वास्तविक मनुष्यों के अध्ययन में उनकी जगह लेने के लिए बहुत गलत हैं।
निष्कर्ष (The Bottom Line)
वर्तमान AI एक बहुत अच्छी तरह से पढ़ा-लिखा, बहुत विनम्र पर्यटक है जिसने बहुत सारे ट्रैवल गाइड पढ़े हैं लेकिन उसने उन जगहों पर कभी वास्तविक जीवन नहीं जिया है जिनका वह वर्णन कर रहा है। उन्हें लगता है कि हर कोई विनम्र और जुड़ा हुआ रहना चाहता है (गले मिलना), लेकिन वे उन अनूठी, कभी-कभी बिखरी हुई, कभी-कभी गर्वित और कभी-कभी क्रोधित मानवीय अभिव्यक्तियों को पूरी तरह से मिस कर देते हैं जो अलग-अलग संस्कृतियों के लोग प्रदर्शित करते हैं।
जब तक हम इसे ठीक नहीं करते, हमें AI पर हमारे भावनाओं को समझने के लिए भरोसा करने में सावधानी बरतनी होगी, खासकर जब वे भावनाएं इस बात पर निर्भर करती हैं कि हम कहाँ से आए हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।