Geopolitical alignment: Endorsement effects in large language models
यह अध्ययन प्रदर्शित करता है कि बड़े भाषा मॉडल (लार्ज लैंग्वेज मॉडल्स) नीतिगत मूल्यांकनों में महत्वपूर्ण भू-राजनीतिक पूर्वाग्रह प्रदर्शित करते हैं, जहाँ वे समान नीतियों को अमेरिका या यूरोपीय संघ की तुलना में चीन या रूस द्वारा समर्थित होने पर व्यवस्थित रूप से कम रेटिंग देते हैं, और ये विसंगतियाँ मॉडल के आधार पर तथा यह निर्भर करते हुए बनी रहती हैं या तीव्र हो जाती हैं कि औचित्य माँगा गया है या नहीं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक डेस्क पर बैठे एक सुपर-स्मार्ट रोबोट जज हैं, जो अंतरराष्ट्रीय नीतियों को 0 से 100 के पैमाने पर रेटिंग देने के लिए तैयार हैं। आपको एक बहुत ही विशिष्ट परीक्षण दिया गया है: दो बिल्कुल समान नीति विचारों को देखें—एक छोटे व्यवसायों के लिए सीमा शुल्क कागजी कार्रवाई को आसान बनाने के बारे में, और दूसरा रैनसमवेयर को रोकने के लिए साइबर-सुरक्षा अलर्ट साझा करने के बारे में। इन नीतियों का टेक्स्ट हर बार बिल्कुल एक जैसा ही रहता है।
लेकिन यहाँ एक ट्विस्ट है: इससे पहले कि आप रेटिंग दें, डेस्क पर एक छोटा सा नोट सरकाया जाता है जिसमें लिखा है, "यह विचार [नाम] द्वारा समर्थित है।" कभी-कभी वह नाम संयुक्त राज्य अमेरिका या यूरोपीय संघ होता है। अन्य समय में, यह चीन या रूस होता है।
मैक्सिम चुपिल्किन का पेपर एक सरल लेकिन डरावना सवाल पूछता है: क्या नोट पर लिखा नाम आपके स्कोर को बदल देता है, भले ही नीति में कोई बदलाव न हुआ हो?
संक्षिप्त उत्तर है: हाँ, बिल्कुल। रोबोट जज उतने निष्पक्ष नहीं हैं जितनी हम उम्मीद करते हैं।
"नेम टैग" प्रभाव
इन लार्ज लैंग्वेज मॉडल्स (LLMs) को एक परीक्षा देने वाले छात्रों की तरह समझें। यदि कोई छात्र एक प्रश्न देखता है, तो उसे गणित के आधार पर उत्तर देना चाहिए। लेकिन इस प्रयोग में, वे "छात्र" (GPT-5, Claude Sonnet, Gemini, और DeepSeek) एक ही गणितीय समस्या को अलग-अलग तरीके से ग्रेड करने लगे, यह इस पर निर्भर करते हुए कि किसने उस पर हस्ताक्षर किए थे।
जब नीतियों का समर्थन संयुक्त राज्य अमेरिका या यूरोपीय संघ द्वारा किया गया, तो मॉडल्स ने उन्हें उच्च स्कोर दिए।
- GPT-5 ने अमेरिका को 80.5 और यूरोपीय संघ को 78.6 दिया।
- Gemini और भी उत्साहित था, जिसने अमेरिका को 85.0 और यूरोपीय संघ को 83.0 दिया।
लेकिन जब बिल्कुल वैसी ही नीतियों का समर्थन चीन या रूस द्वारा किया गया, तो स्कोर नाटकीय रूप से गिर गए।
- Gemini सबसे कठोर आलोचक था, जिसने चीन के स्कोर को घटाकर 49.9 और रूस के स्कोर को मामूली 36.2 कर दिया।
- Claude Sonnet ने भी स्कोर में बड़ी कटौती की, चीन को 54.5 और रूस को 56.9 दिया।
- GPT-5 उतना चरम नहीं था जितना कि Gemini, लेकिन इसने फिर भी स्कोर को चीन के लिए 66.6 और रूस के लिए 63.2 तक कम कर दिया।
पेपर सुझाव देता है कि इन तीन मॉडल्स के लिए, "चीन" या "रूस" का नाम एक रेड फ्लैग (चेतावनी) की तरह काम करता है। यह ऐसा है जैसे रोबोट सोचता है, "ओह, यह नीति उनसे है? सावधान रहना बेहतर है, शायद यह जोखिम भरा है," भले ही नीति का टेक्स्ट उसी के समान हो जिसे उन्होंने पश्चिम से आते देख पसंद किया था।
वह एक रोबोट जो (शुरुआत में) नहीं डिगा
वहाँ एक अपवाद था: DeepSeek। परीक्षण के पहले दौर में, जहाँ रोबलों से केवल एक संख्या देने के लिए कहा गया था, DeepSeek ने एक सच्चे निष्पक्ष जज की तरह व्यवहार किया। इसने अमेरिका को 85.2, यूरोपीय संघ को 83.5, चीन को 84.8, और रूस को 81.0 दिया। अंतर इतने कम थे कि वे सांख्यिकीय रूप से महत्वपूर्ण नहीं थे। ऐसा लग रहा था कि DeepSeek ही एकमात्र ऐसा था जिसे नाम के टैग से कोई फर्क नहीं पड़ा।
"जस्टिफिकेशन" (औचित्य) का जाल
फिर, प्रयोगकर्ताओं ने नियम बदल दिए। उन्होंने रोबोट्स से पूछा: "मुझे अपना स्कोर दें, लेकिन साथ ही एक छोटा वाक्य भी लिखें कि क्यों।"
यहीं पर चीजें अजीब हो गईं। स्पष्टीकरण माँगने से न केवल रोबोट की सोच का पता चला; बल्कि इसने उनकी सोच को वास्तव में बदल दिया।
- GPT-5 और Claude के लिए: स्कोर काफी हद तक समान रहे। वे अभी भी पश्चिम को पसंद करते थे, और कारण पूछने से यह ठीक नहीं हुआ।
- Gemini के लिए: कारण पूछने से वास्तव में चीन और रूस को थोड़ा फायदा हुआ। स्कोर बढ़ गया (लगभग 19.4 और 16.0 अंक), जिससे अंतर कम हो गया, हालांकि दंड अभी भी मौजूद था।
- DeepSeek के लिए: यह सबसे बड़ा आश्चर्य था। जैसे ही DeepSeek से उसके स्कोर का स्पष्टीकरण माँगा गया, उसका "निष्पक्ष" मुखौटा उतर गया। अचानक, इसने चीन और रूस को भारी दंड देना शुरू कर दिया। रूस का स्कोर 33.3 अंक गिर गया (घटकर 47.8 रह गया), और चीन का स्कोर 23.3 अंक गिर गया।
यह ऐसा है जैसे DeepSeek अपने असली विचारों को तब तक रोक कर रख रहा था जब तक कि उसे बोलने के लिए मजबूर नहीं किया गया। एक बार जब उसे औचित्य लिखना पड़ा, तो उसने चीन और रूस के लिए "डेटा सुरक्षा," "निगरानी," और "भू-राजनीतिक जोखिम" जैसे कारण सूचीबद्ध करना शुरू कर दिया, जबकि अमेरिका और यूरोपीय संघ की "विश्वसनीयता" और "मानकों" के लिए प्रशंसा की। पेपर में उल्लेख किया गया है कि यह बदलाव बताता है कि प्रॉम्प्ट ने भू-राजनीतिक तर्क के एक रूप को सक्रिय कर दिया जो संख्यात्मक-मात्र प्रतिक्रियाओं में शांत था, बजाय इसके कि यह हमेशा से मौजूद एक छिपे हुए आंतरिक विचार को प्रकट कर रहा हो।
वास्तव में क्या हो रहा है?
पेपर सुझाव देता है कि ये मॉडल्स केवल नीति को नहीं पढ़ रहे हैं; वे उससे जुड़े देश के "वाइब" (अहसास) को पढ़ रहे हैं।
- जब अमेरिका या यूरोपीय संघ समर्थक होता है, तो मॉडल्स उन्हें एक "विश्वसनीयता संकेत" (credibility cue) के रूप में देखते हैं। वे सोचते हैं, "यह सुरक्षित, मानक और अच्छी तरह से समन्वित है।"
- जब चीन या रूस समर्थक होता है, तो मॉडल्स "चेतावनी संकेत" (warning cue) पर स्विच कर जाते हैं। वे तुरंत डेटा चोरी, जासूसी, या रणनीतिक निर्भरता के बारे में चिंता करने लगते हैं, भले ही नीति के टेक्स्ट में इनका जिक्र न किया गया हो।
वह जो पेपर नहीं कहता
यह जानना महत्वपूर्ण है कि इस प्रयोग ने क्या सिद्ध नहीं किया। पेपर स्पष्ट रूप से कहता है कि ये परिणाम सिमुलेशन पर आधारित हैं (प्रत्येक परिदृश्य के लिए 10 रन)। लेखक सावधानी बरतते हुए कहते हैं कि ये इस विशिष्ट तरीके से प्रश्न पूछने के गुण हैं, न कि अनिवार्य रूप से रोबोट के दिमाग की एक स्थायी, अपरिवर्तनीय खामी। वे यह भी नोट करते हैं कि उन्होंने केवल "मध्यम और तकनीकी" नीतियों (जैसे सीमा शुल्क और साइबर अलर्ट) का परीक्षण किया। हमें नहीं पता कि रोबोट अधिक भावनात्मक या राजनीतिक विषयों पर वैसा ही व्यवहार करेंगे या नहीं।
निष्कर्ष
मुख्य निष्कर्ष यह है कि इन AI मॉडल्स में भू-राजनीतिक पूर्वाग्रह वास्तविक और मापने योग्य है। भले ही सामग्री बिल्कुल समान हो, समर्थक की पहचान मूल्यांकन को बदल देती है। पेपर का तर्क है कि यदि हम इन मॉडल्स का उपयोग नीतिगत निर्णय लेने में मदद के लिए करते हैं, तो हमें सावधान रहना होगा। एक मॉडल ऐसा दिख सकता है जैसे वह किसी योजना की "व्यवहार्यता" का विश्लेषण कर रहा है, लेकिन वास्तव में वह उसके "प्रायोजक" के प्रति प्रतिक्रिया दे रहा हो सकता है।
और सबसे बड़ी बात यह है: स्पष्टीकरण माँगना हमेशा चीजों को स्पष्ट नहीं बनाता। कभी-कभी, एक रोबोट से उसके उत्तर का औचित्य माँगने से वह अधिक पक्षपाती हो जाता है, जैसा कि DeepSeek के मामले में देखा गया। लेखक सुझाव देते हैं कि उच्च-जोखिम वाले निर्णयों के लिए, हमें मॉडल्स का "केवल संख्या दें" मोड और "स्पष्टीकरण दें" मोड दोनों में परीक्षण करने की आवश्यकता है, क्योंकि वे आपको दो बहुत अलग कहानियाँ सुना सकते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।