Bias Beyond Borders: Political Ideology Evaluation and Steering in Multilingual LLMs
यह शोध पत्र 50 देशों और 33 भाषाओं में राजनीतिक पूर्वाग्रह के एक बड़े पैमाने के बहुभाषी मूल्यांकन के साथ-साथ क्रॉस-लिंगुअल अलाइनमेंट स्टीयरिंग (CLAS) नामक एक नवीन शमन ढांचे को प्रस्तुत करता है, जो प्रतिक्रिया की गुणवत्ता को बनाए रखते हुए भाषाओं के बीच लेटेंट रिप्रेजेंटेशन (latent representations) को संरेखित करके वैचारिक पूर्वाग्रह को कम करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
समस्या: "भाषा बदलने वाला" राजनीतिज्ञ
कल्पना कीजिए कि आपका एक मित्र है जो बहुत ही विनम्र और तटस्थ व्यक्ति है जब आप उससे अंग्रेजी में बात करते हैं। आप उससे किसी विवादास्पद विषय पर उसकी राय पूछते हैं, और वह एक संतुलित, "एक तरफ यह है, दूसरी तरफ वह है" वाला उत्तर देता है।
लेकिन, जैसे ही आप स्पेनिश में बात करना शुरू करते हैं, वह अचानक बहुत रूढ़िवादी (conservative) हो जाता है। फ्रेंच में स्विच करते ही, वह बहुत प्रगतिशील (progressive) हो जाता है। उर्दू में स्विच करने पर, वह पूरी तरह से अलग रुख अपना लेता है।
यह बिल्कुल वही है जो ChatGPT या DeepSeek जैसे लार्ज लैंग्वेज मॉडल्स (LLMs) के साथ हो रहा है। भले ही उन्हें भारी मात्रा में डेटा पर प्रशिक्षित किया गया है, लेकिन उनका कोई एक, स्थिर "व्यक्तित्व" नहीं है। इसके बजाय, वे एक गिरगिट की तरह व्यवहार करते हैं। क्योंकि उन्होंने इंटरनेट के विभिन्न हिस्सों (जो विभिन्न भाषाओं में लिखा गया है) से अलग-अलग राजनीतिक विचार सीखे हैं, इसलिए उनकी "राजनीतिक दिशा" इस बात पर निर्भर करती है कि आप उनसे किस भाषा में बात कर रहे हैं।
यह निष्पक्षता के लिए एक समस्या है। यदि किसी AI का उपयोग लोगों को निर्णय लेने या जानकारी खोजने में मदद करने के लिए किया जाता है, तो केवल इसलिए कि आपने भाषा बदल दी है, उसे अपने "मूल्यों" को नहीं बदलना चाहिए।
समाधान: मूल्यों के लिए "यूनिवर्सल ट्रांसलेटर" (CLAS)
शोधकर्ताओं ने एक नया टूल बनाया जिसे CLAS (क्रॉस-लिंगुअल अलाइनमेंट स्टीयरिंग) कहा जाता है। यह समझने के लिए कि यह कैसे काम करता है, आइए हम दो रूपकों (metaphors) का उपयोग करें:
1. "साझा मानचित्र" (अलाइनमेंट)
कल्पना कीजिए कि पाँच अलग-अलग पदयात्री (पाँच अलग-अलग भाषाओं का प्रतिनिधित्व करते हुए) एक पहाड़ पर "तटस्थ भूमि" (Neutral Ground) खोजने की कोशिश कर रहे हैं।
- अंग्रेजी पदयात्री के पास मील (miles) में एक मानचित्र है।
- फ्रांसीसी पदयात्री के पास किलोमीटर (kilometers) में एक मानचित्र है।
- जापानी पदयात्री के पास पूरी तरह से अलग लैंडमार्क्स वाला मानचित्र है।
यदि आप उन सभी से "केंद्र की ओर जाने" के लिए कहते हैं, तो वे सभी अलग-अलग स्थानों पर पहुँचेंगे क्योंकि उनके मानचित्र मेल नहीं खाते।
CLAS एक मास्टर कार्टोग्राफर (मानचित्रकार) की तरह कार्य करता है। यह इन सभी अलग-अलग मानचित्रों को देखता है और गणितीय रूप से उन्हें "खींचता" और "संरेखित" (align) करता है ताकि वे सभी एक ही समन्वय प्रणाली (coordinate system) का उपयोग करें। यह "साझा वैचारिक उपस्थान" (shared ideological subspace) को खोज निकालता है—बेसिकली, राजनीतिक विचारों का एक एकल, सार्वभौमिक मानचित्र जो हर भाषा के लिए काम करता है।
2. "स्मार्ट वॉल्यूम नॉब" (अनसर्टेन्टी-एडेप्टिव स्केलिंग)
आमतौर पर, जब वैज्ञानिक किसी AI के पूर्वाग्रह (bias) को "ठीक" करने की कोशिश करते हैं, तो वे "स्टीयरिंग" नामक एक विधि का उपयोग करते हैं। इसे एक वॉल्यूम नॉब की तरह समझें जो "राजनीतिक शोर" को कम करता है।
समस्या यह है कि यदि आप नॉब को बहुत अधिक घुमा देते हैं, तो आप AI को "खराब" कर देते हैं। वह राजनीतिक होना तो बंद कर सकता है, लेकिन वह अर्थपूर्ण भी नहीं रहता—वह बड़बड़ाने लगता है या अपनी स्वाभाविक रूप से बोलने की क्षमता खो देता है। यह रेडियो को म्यूट करने की कोशिश करने जैसा है, लेकिन गलती से गायक की आवाज़ को भी म्यूट कर देना।
CLAS इस नॉब में एक "स्मार्ट" फीचर जोड़ता है। यह देखता है कि AI कितना आत्मविश्वासी है।
- यदि AI एक बहुत ही पक्षपाती, निश्चित राय चिल्ला रहा है, तो CLAS "सुधार नॉब" को ऊपर (अधिक) कर देता है।
- यदि AI पहले से ही सूक्ष्म (nuanced) और अनिश्चित व्यवहार कर रहा है, तो CLAS नॉब को अकेला छोड़ देता है ताकि बातचीत खराब न हो।
परिणाम: एक अधिक सुसंगत AI
शोधकर्ताओं ने इसका परीक्षण 50 देशों और 33 भाषाओं पर किया। उन्होंने पाया कि:
- गिरगिट वाला प्रभाव (Chameleon Effect) वास्तविक है: मॉडल निश्चित रूप से भाषा के आधार पर अपने राजनीतिक झुकाव बदलते हैं (विशेष रूप से एशियाई और यूरोपीय भाषाओं में)।
- CLAS काम करता है: इस "यूनिवर्सल मैप" और "स्मार्ट वॉल्यूम नॉब" का उपयोग करके, वे लगभग सभी भाषाओं में AI को वापस एक तटस्थ केंद्र की ओर खींचने में सक्षम रहे।
- यह AI को खराब नहीं करता: पुराने तरीकों के विपरीत, CLAS ने AI को रोबोटिक या निरर्थक बनाए बिना पूर्वाग्रह को कम करने में सफलता प्राप्त की।
संक्षेप में:
यह शोध पत्र एक तरीका प्रदान करता है जिससे यह सुनिश्चित किया जा सके कि आप चाहे जिस भी भाषा में बात करें, AI एक निष्पक्ष, तटस्थ और सुसंगत सेट "मूल्यों" के प्रति सच्चा रहे, न कि एक राजनीतिक गिरगिट की तरह अपना व्यक्तित्व बदले।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।