Do Political Opinions Transfer Between Western Languages? An Analysis of Unaligned and Aligned Multilingual LLMs
यह शोध पत्र प्रदर्शित करता है कि पश्चिमी भाषाई संदर्भों में, बहुभाषी लार्ज लैंग्वेज मॉडल्स (LLMs) में राजनीतिक विचार भाषाओं के बीच अलग रहने के बजाय एक भाषा से दूसरी भाषा में स्थानांतरित हो जाते हैं, और संरेखण (alignment) इन विचारों को लक्षित भाषा की परवाह किए बिना समान रूप से परिवर्तित कर देता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास 15 बहुत बुद्धिमान, बहुभाषी रोबोटों की एक टीम है। इन रोबोटों ने इंटरनेट पर लगभग सब कुछ पढ़ लिया है, लेकिन ज्यादातर अंग्रेजी में। अब, कल्पना कीजिए कि आप उनसे पांच अलग-अलग भाषाओं (अंग्रेजी, जर्मन, फ्रेंच, स्पेनिश और इतालवी) में एक सरल प्रश्न पूछते हैं: "क्या आपको लगता है कि हमें पर्यावरण की अधिक रक्षा करनी चाहिए?" या "क्या हमारे पास अप्रवासन (immigration) पर सख्त कानून होने चाहिए?"
मुख्य सवाल जो यह शोध पत्र पूछता है वह यह है: क्या ये रोबोट इस बात पर अलग-अलग राय रखते हैं कि आप उनसे किस भाषा में बात कर रहे हैं? या, यदि आप उनसे जर्मन में पूछते हैं, तो क्या वे वही उत्तर देंगे जो वे अंग्रेजी में देते?
यहाँ बताया गया है कि शोधकर्ताओं ने क्या पाया, कुछ सरल उपमाओं (analogies) का उपयोग करते हुए।
सेटअप: "राय जनमत संग्रह" (The "Opinion Poll")
शोधकर्ताओं ने इन रोबलों के साथ एक बड़े जनमत संग्रह में मतदाताओं की तरह व्यवहार किया। उन्होंने राजनीतिक प्रश्नों का एक मानक सेट (जैसे कि वोटिंग एडवाइस ऐप) इस्तेमाल किया और रोबोटों को "हाँ" या "नहीं" कहने के लिए कहा। उन्होंने पांच पश्चिमी यूरोपीय भाषाओं में 15 अलग-अलग रोबोट मॉडल के साथ ऐसा किया।
पहली खोज: रोबोट "एक ही आकार के सभी के लिए" (One-Size-Fits-All) हैं
आप उम्मीद कर सकते हैं कि एक जर्मन डेटा पर प्रशिक्षित रोबोट की जर्मन राय होगी, और एक फ्रेंच डेटा पर प्रशिक्षित रोबोट की फ्रेंच राय होगी। लेकिन शोधकर्ताओं ने पाया कि यह कुछ आश्चर्यजनक है: रोबोटों को वास्तव में भाषा की परवाह नहीं है।
- उपमा: कल्पना कीजिए कि जुड़वा बच्चों का एक समूह है जो अलग-अलग देशों में पले-बढ़े हैं। आमतौर पर, आप उम्मीद करेंगे कि उनके लहजे अलग होंगे और शायद अलग सांस्कृतिक आदतें भी होंगी। लेकिन ये रोबोट उन जुड़वा बच्चों की तरह हैं जो एक ऐसे घर में पले-बढ़े हैं जहाँ हर कोई अंग्रेजी बोलता है, भले ही वे फ्रांस या जर्मनी में हों। जब आप उनसे फ्रेंच में राजनीतिक प्रश्न पूछते हैं, तो वे उसी "अंग्रेजी-शैली" की राय के साथ उत्तर देते हैं जो वे अंग्रेजी में देते।
- परिणाम: इससे पहले कि शोधकर्ता उनके विचार बदलने की कोशिश करते, रोबोटों ने सभी भाषाओं में लगभग कोई अंतर नहीं दिखाया। वे सभी थोड़े "वामपंथी" (उदारवादी) झुकाव रखते थे, लेकिन वे सभी भाषाओं में समान रूप से ऐसा करते थे।
प्रयोग: "मनोदशा परिवर्तन" (The "Mind-Shift")
चूंकि सभी रोबोट एक ही तरह से सोच रहे थे, इसलिए शोधकर्ता यह देखना चाहते थे कि क्या वे उनका मन बदल सकते हैं। उन्होंने दो सबसे बुद्धिमान रोबोटों को लिया और उन्हें केवल अंग्रेजी राजनीतिक ग्रंथों का उपयोग करके एक विशेष "प्रशिक्षण पाठ्यक्रम" दिया।
- लक्ष्य: उन्होंने एक रोबोट को अधिक "वामपंथी" (उदारवादी) और दूसरे को अधिक "दक्षिणपंथी" (रूढ़िवादी) बनाने की कोशिश की।
- ट्विस्ट: उन्होंने उन्हें सिखाने के लिए केवल अंग्रेजी डेटा का उपयोग किया। उन्होंने उन्हें कोई जर्मन, फ्रेंच या स्पेनिश प्रशिक्षण सामग्री नहीं दी।
दूसरी खोज: "डोमिनो प्रभाव" (The "Domino Effect")
यह वह जगह है जहाँ यह वास्तव में दिलचस्प हो जाता है। जब उन्होंने केवल अंग्रेजी डेटा का उपयोग करके रोबोटों का मन बदला, तो यह बदलाव एक साथ सभी पांच भाषाओं में हुआ।
- उपमा: कल्पना कीजिए कि आपके पास एक कठपुतली है जिसमें पांच अलग-अलग रंगों के धागे हैं (प्रत्येक भाषा के लिए एक)। आमतौर पर, आप सोचेंगे कि "जर्मन धागे" को खींचने से केवल कठपुतली का जर्मन हिस्सा हिलेगा। लेकिन इन शोधकर्ताओं ने पाया कि कठपुतली वास्तव में एक ही ठोस ब्लॉक है। जब उन्होंने रोबोट को अधिक रूढ़िवादी बनाने के लिए "अंग्रेजी धागे" को खींचा, तो पूरा ब्लॉक हिल गया। रोबोट अचानक जर्मन, फ्रेंच, स्पेनिश और इतालवी में भी अधिक रूढ़िवादी हो गया, भले ही उसने उन भाषाओं में एक भी रूढ़िवादी शब्द नहीं "पढ़ा" था।
- परिणाम: राजनीतिक राय का हस्तांतरण (transfer) बहुत मजबूत है। यदि आप एक बहुभाषी रोबोट को अंग्रेजी में संरेखित (align) करते हैं, तो आप प्रभावी रूप से उसे उसकी अन्य सभी भाषाओं में भी संरेखित कर रहे होते हैं।
यह क्यों मायने रखता है?
शोध पत्र निष्कर्ष निकालता है कि पश्चिमी भाषाओं के लिए, ये रोबोट पांच अलग-अलग मस्तिष्क के बजाय एक एकल, एकीकृत मस्तिष्क की तरह कार्य करते हैं।
- समस्या: यदि आप चाहते हैं कि एक रोबोट जर्मनी की विशिष्ट राजनीतिक बारीकियों को समझे (जो अमेरिका या यूके से भिन्न हो सकती हैं), तो केवल इसे अंग्रेजी में प्रशिक्षित करना काम नहीं करेगा। रोबोट आपको बस अपनी "अंग्रेजी राय" जर्मन में अनुवादित करके देगा।
- सीख: यह बहुत कठिन है कि इन रोबोटों को विभिन्न देशों के अद्वितीय सांस्कृतिक और राजनीतिक अंतरों को प्रतिबिंबित करने के लिए कैसे तैयार किया जाए। वे चाहे आप किसी भी भाषा में बात करें, सब कुछ एक "पश्चिमी अंग्रेजी" परिप्रेक्ष्य में मिला देते हैं।
सारांश
- प्रशिक्षण से पहले: रोबोटों की सभी पांच भाषाओं में एक ही राजनीतिक राय है। उनके पास "जर्मन राय" या "फ्रेंच राय" नहीं है; उनके पास बस "रोबोट राय" है।
- प्रशिक्षण के बाद: यदि आप किसी रोबोट को केवल अंग्रेजी का उपयोग करके एक नया राजनीतिक दृष्टिकोण सिखाते हैं, तो वह उस दृष्टिकोण को अपनी बोली जाने वाली प्रत्येक भाषा में अपना लेता है।
- सबक: ये बहुभाषी मॉडल गहराई से आपस में जुड़े हुए हैं। आप आसानी से एक भाषा की संस्कृति को दूसरी भाषा से अलग नहीं कर सकते; एक भाषा में मन बदलना सभी भाषाओं में मन बदल देता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।