Framing Political Bias in Multilingual LLMs Across Pakistani Languages
यह शोध पत्र पांच पाकिस्तानी भाषाओं में 13 अत्याधुनिक लार्ज लैंग्वेज मॉडल्स (LLMs) का एक व्यवस्थित मूल्यांकन प्रस्तुत करता है, जो यह प्रकट करता है कि हालांकि ये मॉडल आम तौर पर पश्चिमी उदारवादी-वामपंथी पूर्वाग्रहों को दर्शाते हैं, वे क्षेत्रीय भाषाओं में विशिष्ट, भाषा-आधारित सत्तावादी ढांचे (authoritarian framing) का प्रदर्शन करते हैं, जिससे सांस्कृतिक रूप से आधारित, बहुभाषी पूर्वाग्रह ऑडिटिंग ढांचों की तत्काल आवश्यकता रेखांकित होती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास बहुत बुद्धिमान, विद्वान रोबोटों (लार्ज लैंग्वेज मॉडल्स, या LLMs) का एक समूह है जिन्होंने अंग्रेजी में लिखी गई लगभग हर चीज़ पढ़ ली है। वे सवाल पूछने, कहानियाँ लिखने और विषयों पर बहस करने में माहिर हैं। हालाँकि, उन्होंने जो कुछ भी पढ़ा है, उसका अधिकांश हिस्सा पश्चिमी देशों जैसे अमेरिका और यूके से आता है।
यह शोध पत्र इन रोबोटों के लिए एक सांस्कृतिक वास्तविकता की जाँच (cultural reality check) की तरह है। शोधकर्ताओं ने पूछा: "क्या ये रोबोट पाकिस्तान के राजनीतिक और सांस्कृतिक बारीकियों को समझते हैं, या वे बस पाकिस्तानी भाषाओं पर पश्चिमी विचारों को थोप देते हैं?"
यहाँ उनके निष्कर्षों का सरल उपमाओं (analogies) का उपयोग करके विवरण दिया गया है:
1. समस्या: "एक ही आकार सबके लिए" वाला सूट (The "One-Size-Fits-All" Suit)
इन AI मॉडलों को सूट बनाने वाले दर्जी के रूप में सोचें। उनके पास अंग्रेजी बोलने वालों के लिए एक आदर्श सूट बना हुआ है (पश्चिमी संदर्भ)। लेकिन जब वे उर्दू, पंजाबी, सिंधी, पश्तो या बलोची बोलने वाले व्यक्ति के लिए सूट बनाने की कोशिश करते हैं, तो वे बस उस अंग्रेजी सूट को छोटा कर देते हैं।
शोधकर्ताओं ने पाया कि जबकि ये रोबोट अंग्रेजी बोलते समय आम तौर पर "उदार" (प्रगतिशील/वामपंथी) होते हैं, लेकिन जब वे पाकिस्तानी भाषाओं में स्विच करते हैं, तो वे अलग तरह से व्यवहार करने लगते हैं।
- उपमा: यह वैसा ही है जैसे कोई व्यक्ति जो लंदन की किसी पार्टी में बहुत खुले विचारों वाला और स्वतंत्र स्वभाव का होता है, लेकिन अचानक पाकिस्तान के एक पारंपरिक गाँव में कदम रखते ही बहुत सख्त हो जाता है और कठोर नियमों का पालन करने लगता है। रोबोट अपनी राय नहीं बदल रहा है; वह बस उस "भाषाई पोशाक" (language costume) के प्रति प्रतिक्रिया दे रहा है जो उसने पहनी हुई है।
2. प्रयोग: "राजनीतिक दिशा-सूचक" परीक्षण (The "Political Compass" Test)
इसकी जांच करने के लिए, टीम ने पॉलिटिकल कंपास टेस्ट (PCT) नामक एक प्रसिद्ध परीक्षण का उपयोग किया। एक विशाल मानचित्र की कल्पना करें जिसके चार कोने हैं:
- ऊपर-बाएँ: उदार/वामपंथी (मुक्त अर्थव्यवस्था, प्रगतिशील सामाजिक विचार)
- ऊपर-दाएँ: रूढ़िवादी/दक्षिणपंथी (मुक्त अर्थव्यवस्था, पारंपरिक सामाजिक विचार)
- नीचे-बाएँ: सत्तावादी/वामपंथी (राज्य नियंत्रण, प्रगतिशील सामाजिक विचार)
- नीचे-दाएँ: सत्तावादी/दक्षिणपंथी (राज्य नियंत्रण, पारंपरिक सामाजिक विचार)
उन्होंने इस परीक्षण के 62 प्रश्नों का पांच पाकिस्तानी भाषाओं में अनुवाद किया और 13 अलग-अलग AI मॉडलों से उनके उत्तर पूछे। उन्होंने मॉडलों से 11 संवेदनशील विषयों (जैसे मृत्युदंड, ईशनिंदा कानून और अल्पसंख्यक अधिकार) पर समाचार सुर्खियाँ लिखने के लिए भी कहा।
3. निष्कर्ष: "भाषा परिवर्तन" प्रभाव (The "Language Switch" Effect)
परिणाम आश्चर्यजनक थे और एक स्पष्ट पैटर्न दिखाया:
- अंग्रेजी बेसलाइन: जब रोबों ने अंग्रेजी में बात की, तो वे ज्यादातर लिबर्टेरियन-लेफ्ट (स्वतंत्रतावादी-वामपंथी) कोने में थे। वे बहुत पश्चिमी, प्रगतिशील और व्यक्तिगत स्वतंत्रता पर केंद्रित सुनाई दिए।
- पाकिस्तानी बदलाव: जब उन्हीं रोबोटों ने उर्दू, पंजाबी या सिंधी में बात की, तो वे बदल गए।
- कुछ अधिक सत्तावादी-वामपंथी (Authoritarian-Left) हो गए। इसका मतलब है कि वे ऐसा दिखने लगे जैसे वे मजबूत सरकारी नियंत्रण और राज्य की जिम्मेदारी का समर्थन करते हैं, जो स्थानीय राजनीतिक विमर्श का एक सामान्य विषय है।
- "मृत्युदंड" का उदाहरण: शोध पत्र एक विशिष्ट मामले पर प्रकाश डालता है जहाँ एक रोबोट ने उर्दू में मृत्युदंड के बारे में पूछे जाने पर धार्मिक और सांस्कृतिक वाक्यांशों का उपयोग किया। एक पश्चिमी-प्रशिक्षित डिटेक्टर इसे "हिंसा का समर्थन" करने के रूप में गलत समझ सकता था क्योंकि वह सांस्कृतिक संदर्भ को नहीं समझता था। वास्तव में, रोबोट एक स्थानीय दृष्टिकोण को प्रतिबिंबित कर रहा था जिसे पश्चिमी डिटेक्टर "पढ़" नहीं सका।
4. "फ्रेमिंग" विश्लेषण: वे कैसे कहते हैं (The "Framing" Analysis: How They Say It)
शोधकर्ताओं ने केवल यह नहीं देखा कि रोबोट क्या कह रहे हैं (उनका पक्ष); उन्होंने यह भी देखा कि वे इसे कैसे कह रहे हैं (उनकी फ्रेमिंग)।
- समाचार सुर्खियाँ परीक्षण: उन्होंने रोबटों को विभिन्न मुद्दों के पक्ष और विपक्ष में सुर्खियाँ लिखने के लिए कहा।
- परिणाम: रोबोटों ने भाषा के आधार पर अलग-अलग "लेंस" का उपयोग किया।
- उदाहरण: अल्पसंख्यक अधिकारों के बारे में चर्चा करते समय, कुछ रोबोटों ने संस्थाओं (जैसे सुप्रीम कोर्ट या राज्य) पर ध्यान केंद्रित किया, जो बहुत आधिकारिक और पदानुक्रमित (hierarchical) लगा। अन्य ने व्यक्तिगत कहानियों और मानवाधिकारों पर ध्यान केंद्रित किया।
- स्वर (Tone): ईशनिंदा या गर्भपात जैसे संवेदनशील विषयों के लिए, रोबोट बहुत नकारात्मक और विभाजित सुनाई दिए। शिक्षा जैसे विषयों के लिए, वे आशावादी सुनाई दिए।
5. समाधान: "सांस्कृतिक ट्यूनिंग" (The Solution: "Cultural Tuning")
पत्र ने यह भी परीक्षण किया कि क्या होता है यदि आप एक रोबोट को विशेष रूप से उर्दू के लिए "फाइन-ट्यून" करते हैं (उसे स्थानीय संस्कृति के बारे में अधिक सिखाते हैं)।
- उपमा: यह एक ऐसे छात्र को लेने जैसा है जिसने केवल लंदन में पढ़ाई की है और फिर उसे पाकिस्तान के एक स्थानीय विश्वविद्यालय में एक सेमेस्टर के लिए भेजा जाता है।
- परिणाम: ये "सांस्कृतिक रूप से ट्यून किए गए" रोबोट बहुत अधिक संतुलित और तटस्थ हो गए। वे चरम सीमाओं के बीच झूलना बंद कर दिए और ऐसे उत्तर दिए जो स्थानीय संदर्भ के प्रति अधिक निष्पक्ष महसूस होते थे।
मुख्य निष्कर्ष का सारांश
यह पत्र तर्क देता है कि भाषा केवल एक कोड नहीं है; यह संस्कृति को अपने साथ लेकर चलती है।
यदि आप पाकिस्तान में राजनीति के बारे में बात करने के लिए पश्चिमी-प्रशिक्षित AI का उपयोग करते हैं, तो यह अनजाने में बातचीत को विकृत कर सकता है। यह बहुत "पश्चिमी" लग सकता है या स्थानीय सांस्कृतिक मूल्यों को पूर्वाग्रह के रूप में गलत समझ सकता है। शोधकर्ताओं ने इस "राजनीतिक पूर्वाग्रह" को विभिन्न भाषाओं में मापने के लिए एक नया टूलकिट बनाया है ताकि डेवलपर्स ऐसा AI बना सकें जो स्थानीय संस्कृतियों को थोपने के बजाय उनका सम्मान करे।
संक्षेप में: यह पत्र दिखाता है कि AI राजनीतिक रूप से तटस्थ नहीं है; इसकी "राजनीति" इस बात पर निर्भर करती है कि वह कौन सी भाषा बोल रहा है, और यह सुनिश्चित करने के लिए कि यह निष्पक्ष हो, हमें हर भाषा में इसके "राजनीतिक दिशा-सूचक" की जाँच करने की आवश्यकता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।