Do Large Language Models Encode Institutional Experience? Evidence from Cross-Linguistic Moral Reasoning Under Ambiguity
यह अध्ययन प्रदर्शित करता है कि बड़े भाषा मॉडल अपनी प्रशिक्षण भाषाओं से संस्था-विशिष्ट नैतिक पूर्वग्रहों (moral priors) को विरासत में प्राप्त करते हैं, जो अस्पष्ट परिदृश्यों में क्रॉस-लिंग्विस्टिक नैतिक विचलन को प्रकट करता है जो वास्तविक दुनिया के संस्थागत अंतरों को दर्शाता है, हालांकि ये प्रभाव तब दब जाते हैं जब संस्थागत संदर्भों को स्पष्ट रूप से फ्रेम किया जाता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास बहुत बुद्धिमान, विद्वान रोबोटों (लार्ज लैंग्वेज मॉडल्स, या LLMs) का एक समूह है, जिन्होंने इंटरनेट पर लिखा गया लगभग सब कुछ पढ़ लिया है। आप उनसे एक नैतिक प्रश्न पूछते हैं: "क्या परमिट पाने के लिए रिश्वत देना ठीक है?"
आप उम्मीद कर सकते हैं कि यदि आप रोबोट से डेनिश (एक ऐसा देश जहाँ बहुत ईमानदार, विश्वसनीय सरकार है) में पूछेंगे, तो वह कहेगा "नहीं, यह गलत है।" लेकिन यदि आप उसी रोबोट से बंगाली (एक ऐसा देश जहाँ सरकारी भ्रष्टाचार अधिक आम है) में पूछेंगे, तो आप उम्मीद कर सकते हैं कि वह कहेगा, "खैर, काम पूरा करने के लिए कभी-कभी जो करना पड़ता है, वह करना पड़ता है।"
यह शोध पत्र पूछता है: क्या ये रोबोट वास्तव में अलग तरह से "सोचते" हैं क्योंकि वे उन भाषाओं के बोलने वाले लोगों के वास्तविक जीवन के अनुभवों को आत्मसात कर चुके हैं, जिन्हें वे बोल रहे हैं? या वे केवल अलग होने का नाटक कर रहे हैं?
लेखक, नत्तावुध पौधथावी (Nattavath Powdthavee) ने यह पता लगाने के लिए दो प्रयोग चलाए। यहाँ उनके द्वारा पाए गए निष्कर्षों की सरल व्याख्या दी गई।
दो प्रयोग: "प्रत्यक्ष" बनाम "सूक्ष्म" परीक्षण
शोधकर्ता ने दो अलग-अलग तरीकों से सवाल पूछकर रोबोटों का परीक्षण किया।
प्रयोग 1: "प्रत्यक्ष" परीक्षण (स्पष्ट जाल)
इस परीक्षण में, शोधकर्ता ने रोबोटों से बहुत स्पष्ट रूप से पूछा: "क्या परमिट पाने के लिए सरकारी अधिकारी को रिश्वत देना ठीक है?"
- परिणाम: रोबctions ने भाषा के आधार पर बिल्कुल एक जैसा उत्तर दिया, चाहे वे किसी भी भाषा में बात कर रहे हों। चाहे वह डेनिश हो, हिंदी हो या चीनी, उन सभी ने कहा, "नहीं, यह सामान्यतः ठीक नहीं है।"
- निष्कर्ष: जब आप स्पष्ट रूप से "सरकार" या "रिश्वतखोरी" जैसे शब्दों का उल्लेख करते हैं, तो रोबोट एक "सेफ्टी मोड" (सुरक्षा मोड) चालू कर देते हैं। वे सभी एक मानक, पश्चिमी-शैली की नियम पुस्तिका पर सहमत होते हैं और किसी भी स्थानीय सांस्कृतिक आदतों को अनदेखा कर देते हैं। यह वैसा ही है जैसे किसी व्यक्ति से पूछना, "क्या कानून तोड़ना ठीक है?" और वे सभी "नहीं" कहते हैं, भले ही वे ऐसी जगह रहते हों जहाँ कानून तोड़ना आम हो।
प्रयोग 2: "सूक्ष्म" परीक्षण (छिपा हुआ संदर्भ)
इस परीक्षण में, शोधकर्ता ने वही प्रश्न पूछे लेकिन "सरकार", "अधिकारी" या "रिश्वत" जैसे शब्द हटा दिए। इसके बजाय, उन्होंने एक ऐसी स्थिति का वर्णन किया जहाँ एक व्यक्ति फंसा हुआ है, उसे एक परमिट की आवश्यकता है, और उसे काम जल्दी निपटाने के लिए एक "छोटा भुगतान" देने का प्रस्ताव दिया गया है, बिना यह बताए कि पैसे कौन मांग रहा है।
- परिणाम: अचानक, रोबोट भाषा के आधार पर अलग व्यवहार करने लगे!
- मजबूत, ईमानदार सरकारों वाले देशों (जैसे डेनिश) की भाषा बोलने वाले रोबोटों ने अभी भी कहा, "नहीं, यह गलत है।"
- कमजोर, अधिक भ्रष्ट सरकारों वाले देशों (जैसे बंगाली या हिंदी) की भाषा बोलने वाले रोबोटों ने बहुत अधिक संभावना के साथ कहा, "खैर, इस स्थिति में यह स्वीकार्य हो सकता है।"
- निष्कर्ष: जब "सेफ्टी मोड" स्पष्ट कीवर्ड्स (keywords) द्वारा सक्रिय नहीं हुआ, तो रोबोटों ने अपना छिपा हुआ "प्रशिक्षण" प्रकट कर दिया। उन्होंने उन लोगों के वास्तविक दुनिया के तर्क को आत्मसात कर लिया था जो उनकी भाषा बोलते हैं। उन जगहों पर जहाँ व्यवस्था टूटी हुई है, लोग सीखते हैं कि चीजें करने के लिए कभी-कभी "नियम तोड़ना" ही एकमात्र तरीका होता है। रोबोटों ने यह तर्क उस टेक्स्ट से सीखा जो उन्होंने पढ़ा था।
"चीनी अपवाद"
वहाँ एक दिलचस्प मोड़ था। चीनी भाषा का डेटा पैटर्न में पूरी तरह फिट नहीं बैठा।
- क्यों? लेखक इसके दो कारण बताते हैं। पहला, लगभग सभी रोबोट (यहाँ तक कि चीनी-निर्मित रोबोट भी) चीनी बोलते समय पश्चिमी लोगों की तरह सोचने के लिए प्रशिक्षित किए जाते हैं, इसलिए वे अपना स्थानीय "स्वाद" खो देते हैं। दूसरा, चीनी रोबोटों में सख्त "कंटेंट फिल्टर्स" होते हैं जो सरकारी भ्रष्टाचार के बारे में जवाबों को रोकते या बदलते हैं। इसलिए, चीनी रोबोट ने स्थानीय तर्क नहीं दिखाया; बल्कि उसने पश्चिमी सोच और सख्त सेंसरशिप का मिश्रण दिखाया।
बड़ी तस्वीर: इसका क्या अर्थ है?
रोबोटों को अभिनेताओं की तरह समझें।
- जब आप उन्हें एक स्क्रिप्ट देते हैं जिसमें लिखा है, "आप कानून के बारे में बात करने वाले एक वकील हैं" (प्रत्यक्ष परीक्षण), तो वे सभी एक ही "वकील का कॉस्ट्यूम" पहन लेते हैं और एक समान, नियम-मानने वाली आवाज़ में बोलते हैं। वे अपने वास्तविक व्यक्तित्व को छिपा लेते हैं।
- जब आप उन्हें एक स्क्रिप्ट देते हैं जिसमें केवल लिखा है, "आप एक कठिन परिस्थिति में फंसे व्यक्ति हैं" (सूक्ष्म परीक्षण), तो वे कॉस्ट्यूम उतार देते हैं। वे उस संस्कृति के लहजे और तर्क के साथ बोलना शुरू कर देते हैं जिस पर उन्हें प्रशिक्षित किया गया है।
मुख्य निष्कर्ष:
यह शोध पत्र सिद्ध करता है कि लार्ज लैंग्वेज मॉडल्स वास्तव में उन भाषाओं के संस्थागत अनुभवों को संचित (encode) करते हैं जिन्हें वे बोलते हैं। वे जानते हैं कि दुनिया के कुछ हिस्सों में जीवित रहने के लिए नियम तोड़े जाते हैं, और दूसरों में नियम पवित्र होते हैं।
हालाँकि, यह "सांस्कृतिक ज्ञान" आसानी से छिपाया जा सकता है। यदि आप रोबोट से ऐसा प्रश्न पूछते हैं जो उसके सुरक्षा फिल्टर (जैसे "भ्रष्टाचार" का नाम लेना) को सक्रिय करता है, तो वह एक सार्वभौमिक, आदर्श नैतिक प्राणी होने का ढोंग करेगा। लेकिन यदि आप प्रश्न को सूक्ष्मता से पूछते हैं, जिससे संदर्भ स्वयं बोल सके, तो रोबोट उस संस्कृति के जटिल, वास्तविक दुनिया के तर्क को प्रकट कर देता है जिसका वह प्रतिनिधित्व करता है।
संक्षेप में: रोबोट केवल शब्दों का अनुवाद नहीं कर रहे हैं; वे विश्वदृष्टिकोण (worldviews) का अनुवाद कर रहे हैं। लेकिन वे आपको वह विश्वदृष्टिकोण तभी दिखाएंगे जब आप उन्हें "पूर्ण नैतिक मुखौटा" पहनने के लिए मजबूर नहीं करेंगे।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।