Cross-Lingual Consensus: Aligning Multilingual Cultural Knowledge via Multilingual Self-Consistency
यह शोधपत्र एक नवीन स्व-पर्यवेक्षित ढांचे का प्रस्ताव करता है जो क्रॉस-लिंगुअल ज्ञान अंतराल को पाटने के लिए बहुभाषी स्व-संगति और स्व-आलोचना का लाभ उठाता है, जिससे बाहरी डेटा पर निर्भर रहे बिना स्थानीय भाषाओं से अंग्रेजी में अंतर्निहित सांस्कृतिक ज्ञान को उजागर और स्थानांतरित करके एलएलएम (LLMs) में सांस्कृतिक संरेखण में महत्वपूर्ण सुधार होता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास "LLM" नाम का एक प्रतिभाशाली, बहुभाषी लाइब्रेरियन है जिसने दुनिया की लगभग हर किताब पढ़ ली है। यह लाइब्रेरियन अविश्वसनीय रूप से बुद्धिमान है, लेकिन उसकी एक अजीब आदत है: जब आप उससे अंग्रेजी में कोई सवाल पूछते हैं, तो वह बहुत ही सुसंस्कृत और मानक उत्तर देता है। हालांकि, जब आप उसी सवाल को किसी स्थानीय भाषा (जैसे कि इंडोनेशियाई, हौसा या सुंडानी) में पूछते हैं, तो उसका उत्तर थोड़ा अस्त-व्यस्त हो सकता है या उसमें सांस्कृतिक बारीकियों की कमी हो सकती है, भले ही वह वास्तव में गहराई में सही उत्तर जानता हो।
समस्या यह है कि लाइब्रेरियन का "अंग्रेजी मस्तिष्क" इतना शोर करता है कि वह अन्य भाषाओं में छिपे हुए शांत, सांस्कृतिक रूप से समृद्ध ज्ञान को दबा देता है। वे स्थानीय रीति-रिवाजों के बारे में बात करते समय भी पश्चिमी दृष्टिकोण अपनाने की प्रवृत्ति रखते हैं।
यह शोध पत्र इस समस्या को बिना किसी नए मानव विशेषज्ञों को काम पर रखे, ठीक करने के लिए एक चतुर, स्व-शिक्षण (self-teaching) तकनीक का प्रस्ताव करता है। यह कैसे काम करता है, इसके लिए एक सरल उपमा (analogy) यहाँ दी गई है:
"समूह सहमति" (Group Consensus) की तरकीब
कल्पना कीजिए कि लाइब्रेरियन से एक स्थानीय उत्सव के बारे में सवाल पूछा गया है। केवल एक उत्तर देने के बजाय, शोध पत्र की विधि लाइब्रेरियन को एक ही सवाल को दो अलग-अलग तरीकों से कई बार उत्तर देने के लिए कहती है:
- एक बार अंग्रेजी में।
- एक बार स्थानीय भाषा में।
इसके बाद शोधकर्ता एक रेफरी की तरह कार्य करते हैं। वे "अंग्रेजी उत्तरों" और "स्थानीय भाषा के उत्तरों" को अलग-अलग देखते हैं।
- निरंतरता की जाँच (Consistency Check): वे पूछते हैं, "क्या अंग्रेजी उत्तर आपस में सहमत हैं?" और "क्या स्थानीय भाषा के उत्तर आपस में सहमत हैं?"
- विजेता: जिस भाषा समूह के उत्तर एक-दूसरे के साथ अधिक सुसंगत (consistent) होते हैं, उसे उस विशिष्ट विषय के लिए "मजबूत भाषा" घोषित किया जाता है।
- उदाहरण: यदि अंग्रेजी के उत्तर इधर-उधर के हैं (एक कहता है "उत्सव मनाना", दूसरा कहता है "उपवास करना", तीसरा कहता है "कुछ नहीं"), लेकिन स्थानीय भाषा के सभी उत्तर बिल्कुल एक जैसी बात कह रहे हैं (जैसे, "विशिष्ट भोजन के साथ उत्सव मनाना"), तो सिस्टम जान जाता है कि स्थानीय भाषा के पास वास्तविक सांस्कृतिक ज्ञान है।
"अनुवाद और आलोचना" का पाठ
एक बार जब सिस्टम पहचान लेता है कि स्थानीय भाषा के पास बेहतर और अधिक सुसंगत उत्तर है, तो वह दो चीजें करता है:
- अनुवाद: वह उस "विजेता" स्थानीय उत्तर को वापस अंग्रेजी (या कमजोर भाषा) में अनुवादित करता है।
- स्व-आलोचना (Self-Critique): वह लाइब्रेरियन से अपने द्वारा पहले दिए गए एक "खराब" उत्तर को देखने, विजेता उत्तर के साथ उसकी तुलना करने और यह आलोचना लिखने के लिए कहता है कि वह गलत उत्तर क्यों था।
यह प्रक्रिया प्रशिक्षण डेटा का एक नया सेट बनाती है जहाँ लाइब्रेरियन खुद को सिखाता है। वह सीखता है: "आह, जब मैंने अंग्रेजी में उत्तर दिया, तो मैं गलत था। स्थानीय भाषा वाला संस्करण ही सुसंगत सत्य था। मुझे यह याद रखने की जरूरत है।"
परिणाम: वास्तव में क्या हुआ
शोधकर्ताओं ने Llama 3.1 नामक मॉडल पर इसका परीक्षण किया। उन्हें यह पता चला:
- बड़ी जीत: जब उन्होंने मॉडल से दुनिया भर की संस्कृतियों के बारे में अंग्रेजी में सवाल पूछे, तो मॉडल सांस्कृतिक उत्तर देने में काफी बेहतर हो गया। औसतन, उनकी सटीकता लगभग 5% बढ़ गई। इसका मतलब है कि मॉडल इतना "पश्चिमी-केंद्रित" नहीं रहा और विविध संस्कृतियों को अधिक सटीक रूप से दर्शाने लगा, भले ही वह अंग्रेजी बोल रहा हो।
- एक पेंच (The Catch): यह विधि उन भाषाओं के लिए सबसे अच्छा काम करती जिनके पास पहले से ही पर्याप्त डेटा था। बहुत कम संसाधन वाली भाषाओं (जैसे हौसा या असमिया) के लिए, मॉडल वास्तव में थोड़ा खराब हो गया। यह ऐसा है जैसे किसी छात्र को ऐसे पाठ्यपुस्तक से पढ़ाने की कोशिश करना जिसमें केवल कुछ ही पन्ने हों; छात्र भ्रमित हो जाता है और जो वह पहले से जानता था उसे भूल जाता है।
- कोई बाहरी मदद नहीं: सबसे अच्छी बात यह है कि उन्हें उत्तर लिखने के लिए मानव विशेषज्ञों को नियुक्त करने या गलतियों को सुधारने के लिए किसी "अधिक स्मार्ट" AI का उपयोग करने की आवश्यकता नहीं पड़ी। मॉडल ने सारा काम स्वयं किया, अपने स्वयं के आंतरिक ज्ञान का उपयोग करके।
संक्षेप में
यह शोध पत्र दिखाता है कि बड़े भाषा मॉडलों (LLMs) के पास उनके स्थानीय-भाषा सेटिंग्स के भीतर पहले से ही समृद्ध सांस्कृतिक ज्ञान का भंडार मौजूद है। वे बस अंग्रेजी बोलते समय उसे खोजने में संघर्ष करते हैं। एक "स्व-निरंतरता" (self-consistency) जाँच का उपयोग करके—मॉडल को विभिन्न भाषाओं में खुद से सहमत होने के लिए कहकर—वे इस छिपे हुए ज्ञान को अनलॉक कर सकते हैं और मॉडल को अधिक सांस्कृतिक रूप से निष्पक्ष और सटीक होने के लिए सिखा सकते हैं, और वह भी बिना किसी मानव शिक्षक के।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।