Location Not Found: Exposing Implicit Local and Global Biases in Multilingual LLMs
यह शोधपत्र LocQA को प्रस्तुत करता है, जो एक बहुभाषी बेंचमार्क है जो यह प्रकट करता है कि लार्ज लैंग्वेज मॉडल्स (LLMs) अमेरिकी-केंद्रित उत्तरों के प्रति अंतर्निहित वैश्विक पूर्वाग्रह और उच्च-जनसंख्या वाले स्थानों के पक्ष में अंतर्भाषी पूर्वाग्रह प्रदर्शित करते हैं, और ये संरचनात्मक पूर्वाग्रह इंस्ट्रक्शन ट्यूनिंग द्वारा और अधिक बढ़ जाते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास एक अत्यंत बुद्धिमान, बहुभाषी लाइब्रेरियन है जिसका नाम "LLM" (लार्ज लैंग्वेज मॉडल) है। इस लाइब्रेरियन ने दुनिया की लगभग हर किताब पढ़ ली है और वह 12 अलग-अलग भाषाएं धाराप्रवाह बोल सकता है। आप सोच सकते हैं, "बहुत बढ़िया! अगर मैं इससे फ्रेंच में सवाल पूछता हूँ, तो उसे पता होगा कि फ्रांस में जीवन कैसा है। अगर मैं स्पेनिश में पूछता हूँ, तो उसे मेक्सिको या स्पेन के बारे में पता होगा।"
लेकिन यह शोध पत्र, "लोकेशन नॉट फाउंड" (स्थान नहीं मिला), एक आश्चर्यजनक समस्या को उजागर करता है: लाइब्रेरियन भाषा में तो कुशल है, लेकिन वह अक्सर इस बात को लेकर भ्रमित रहता है कि पूछने वाला व्यक्ति वास्तव में कहाँ खड़ा है।
यहाँ शोधकर्ताओं द्वारा खोजे गए निष्कर्षों का विवरण दिया गया, जिसे कुछ सरल उपमाओं (analogies) का उपयोग करके समझाया गया है।
1. "अस्पष्ट प्रश्न" का परीक्षण (The "Ambiguous Question" Test)
शोधकर्ताओं ने LocQA नामक एक खेल बनाया। केवल "फ्रांस की राजधानी क्या है?" (जो कि आसान है) पूछने के बजाय, उन्होंने ऐसे प्रश्न पूछे जो सुनने में एक जैसे लगते हैं लेकिन स्थान के आधार पर उनके उत्तर अलग-अलग होते हैं।
- प्रश्न: "आपातकालीन फोन नंबर क्या है?"
- जाल: यदि आप यह अंग्रेजी में पूछते हैं, तो उत्तर 911 (USA), 999 (UK), या 000 (ऑस्ट्रेलिया) हो सकता है। प्रश्न यह नहीं बताता कि आप किस देश में हैं।
शोधकर्ता यह देखना चाहते थे: जब लाइब्रेरियन को नहीं पता होता कि आप कहाँ हैं, तो वह कौन सा उत्तर चुनता है?
2. दो बड़े पूर्वाग्रह (दो "ग्लिच")
अध्ययन में पाया गया कि लाइब्रेरियन की दो मुख्य आदतें हैं जो उसे गलत साबित करती हैं।
पूर्वाग्रह A: "अमेरिकन डिफॉल्ट" (वैश्विक पूर्वाग्रह)
रूपक (Metaphor): कल्पना कीजिए कि एक मानचित्र है जहाँ संयुक्त राज्य अमेरिका को चमकीले नियॉन गुलाबी रंग से रंगा गया है, और बाकी सभी देश धुंधले ग्रे रंग के हैं। भले ही आप लाइब्रेरियन से इंडोनेशियाई या जर्मन में सवाल पूछें, वे बार-बार उसी नियॉन गुलाबी मानचित्र को देखते रहते हैं।
- क्या होता है: गैर-अंग्रेजी भाषा में पूछे जाने पर भी, मॉडल अक्सर अमेरिकी उत्तर ही देता है।
- उदाहरण: यदि आप फ्रेंच में पूछते हैं, "टैक्स वर्ष कब शुरू होता है?" तो मॉडल शायद "1 जनवरी" (US/UK मानक) कह सकता है, बजाय फ्रांस या कनाडा के विशिष्ट दिनांक के, भले ही फ्रेंच कई स्थानों पर बोली जाती है।
- निष्कर्ष: मॉडल पूरे विश्व के लिए अमेरिका को "स्टैंडर्ड सेटिंग" के रूप में मानता है, जैसे कि कोई वीडियो गेम जो "पेरिस" को अपने पात्र का घर चुनने के बाद भी डिफ़ॉल्ट रूप से "न्यूयॉर्क" सेट रहता है।
पूर्वाग्रह B: "लोकप्रियता प्रतियोगिता" (क्षेत्रीय पूर्वाग्रह)
रूपक: कल्पना कीजिए कि स्पेनिश बोलने वाले लोगों से भरा एक कमरा है। वहाँ 20 अलग-अलग देशों का प्रतिनिधित्व है। लाइब्रेरियन एक लोकप्रियता प्रतियोगिता के जज की तरह व्यवहार करता है। वह कोने में बैठे शांत बच्चे (बोलीविया जैसे छोटे देश) को अनदेखा कर देता है और केवल शोर मचाने वाले लोकप्रिय बच्चों (मेक्सिको, स्पेन और अमेरिका जैसे बड़े देशों) की बात सुनता है।
- क्या क्या होता है: जब एक भाषा कई स्थानों पर बोली जाती है (जैसे स्पेनिश या फ्रेंच), तो मॉडल मान लेता है कि उत्तर उस देश का है जहाँ सबसे अधिक लोग रहते हैं।
- निष्कर्ष: मॉडल एक "जनसांख्यिकीय संभाव्यता इंजन" (demographic probability engine) बन जाता है। यह छोटे राष्ट्रों का अस्तित्व मिटा देता है। यदि आप स्पेनिश में किसी कानून के बारे में पूछते हैं, तो मॉडल आपको मेक्सिको या स्पेन का उत्तर देने की संभावना रखता है, जिससे प्रभावी रूप से यह आभास होता है कि छोटे स्पेनिश भाषी देश मौजूद ही नहीं हैं।
3. "सहायक" बनने का जाल (The "Helpful" Trap)
शोधकर्ताओं ने दो प्रकार के लाइब्रेरियनों का परीक्षण किया:
- कच्चा लाइब्रेरियन (The Raw Librarian): जो बस किताबें पढ़ता है और उत्तर देता है।
- "प्रशिक्षित" लाइब्रेरियन (The "Trained" Librarian): जिसे विनम्र, सहायक होने और निर्देशों का पालन करने के लिए सिखाया गया है (इसे "इंस्ट्रक्शन ट्यूनिंग" कहा जाता है)।
आश्चर्य: "प्रशिक्षित" लाइब्रेरियन सांस्कृतिक रूप से तटस्थ होने में वास्तव में अधिक खराब था!
- क्यों? प्रशिक्षण ने लाइब्रेरियन को "सहायक" होने के लिए अधिक विकल्प देने के लिए सिखाया। इसलिए, केवल स्थानीय उत्तर देने के बजाय, प्रशिक्षित लाइब्रेरियन कहता है: "उत्तर X है, लेकिन अमेरिका में, यह Y है, और कनाडा में, यह Z है।"
- परिणाम: समावेशी होने और हर संभावना को सूचीबद्ध करने की कोशिश में, उन्होंने अनजाने में अमेरिका के उत्तर को "मुख्य पात्र" बना दिया। उन्होंने स्थानीय उत्तर को मिटाया नहीं, बल्कि उसे अमेरिकी तुलनाओं के ढेर के नीचे दबा दिया।
4. "सांस्कृतिक संरेखण कर" (The "Cultural Alignment Tax")
शोध पत्र इसे "सांस्कृतिक संरेखण कर" (Cultural Alignment Tax) कहता है।
इसे इस तरह सोचें: AI को सभी के लिए सुरक्षित और अधिक उपयोगी बनाने के लिए, डेवलपर्स ने इसे "संरेखित" (align) किया। लेकिन इस सुरक्षा की कीमत सांस्कृतिक विलोपन थी। एक "सार्वभौमिक सहायक" बनाने की कोशिश में, उन्होंने अनजाने में इसे एक "अमेरिका-केंद्रित सहायक" बना दिया जो केवल अन्य भाषाएं धाराप्रवाह बोलता है।
मुख्य निष्कर्ष
यह शोध पत्र तर्क देता है कि किसी भाषा को धाराप्रवाह बोलना, संस्कृति को समझने के समान नहीं है।
सिर्फ इसलिए कि एक AI हिंदी में एक बेहतरीन कविता लिख सकता है, इसका मतलब यह नहीं है कि उसे भारत बनाम अमेरिका में जीवन के बारे में वास्तविक जानकारी है। शोधकर्ता AI बनाने के एक नए तरीके का आह्वान कर रहे: एक ऐसा तरीका जो स्थान (location) को एक विशिष्ट, महत्वपूर्ण सेटिंग (जैसे वीडियो गेम में "रीजन" बटन) के रूप में मानता है, न कि यह मान लेता है कि किसी भाषा को बोलने का अर्थ स्वतः ही स्थानीय नियमों को जानना है।
संक्षेप में: AI एक बहुभाषी (polyglot) है, लेकिन वह एक ऐसा पर्यटक है जो हमेशा यह मान लेता है कि वह अमेरिका में है, भले ही वह टोक्यो, पेरिस या ब्यूनस आयर्स में खड़ा हो।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।