Similarity All The Way Up: Multilingual Generalization in LLMs Relies on Language-Level Similarity Structures
यह शोध पत्र यह प्रदर्शित करता है कि लार्ज लैंग्वेज मॉडल्स (LLMs) विभिन्न भाषाओं में बेहतर सामान्यीकरण तब करते हैं जब उनके लेटेंट रिप्रेजेंटेशन्स (latent representations) भाषा परिवारों, जैसे कि इंडो-यूरोपीयियन ट्री, की पदानुक्रमित समानता संरचनाओं को सटीक रूप से कैप्चर करते हैं, और यह संरचनात्मक संरेखण सीधे XNLI जैसे बहुभाषी बेंचमार्क पर बेहतर प्रदर्शन के साथ सह-संबंधित होता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक रोबोट को दुनिया को समझना सिखाने की कोशिश कर रहे हैं। आप उसे केवल एक शब्दकोश नहीं देते; बल्कि आप उसे लाखों किताबें, वेबसाइटें और कहानियाँ पढ़ने देते हैं। समय के साथ, रोबोट चीजें एक-दूसरे से कैसे संबंधित हैं, इसका एक मानसिक मानचित्र (mental map) बनाना शुरू कर देता है। कंप्यूटर विज्ञान की दुनिया में, इसे "लार्ज लैंग्वेज मॉडल" (LLM) कहा जाता है। इन मॉडलों को सुपर-स्मार्ट डिजिटल दिमागों के रूप में सोचें जिन्होंने इंटरनेट पर लगभग सब कुछ पढ़ लिया है। लेकिन यहाँ एक पेचीदा बात है: उन्होंने जो कुछ भी पढ़ा है, उसका अधिकांश हिस्सा अंग्रेजी में है। जब आप उनसे ऐसी भाषा में बोलने के लिए कहते हैं जिसे उन्होंने बहुत कम देखा है, जैसे स्वाहिली या आइसलैंडिक, तो वे अक्सर लड़खड़ा जाते हैं।
वैज्ञानिक लंबे समय से यह सोचते आए हैं कि ऐसा क्यों होता है। मनोविज्ञान का एक प्रमुख विचार सुझाव देता है कि हमारे मस्तिष्क (और स्मार्ट कंप्यूटर) समानताओं को देखकर सीखते हैं। यदि आप जानते हैं कि "कुत्ता" क्या है, तो आप अनुमान लगा सकते हैं कि "भेड़िया" क्या है क्योंकि वे दिखने और व्यवहार करने में एक जैसे हैं। इसे "जनरलाइजेशन" (generalization) कहा जाता है। आपका मानसिक मानचित्र समान चीजों को कितनी अच्छी तरह से समूहों में बांटता है, इससे आप नई चीजों का अनुमान लगाने में कितने बेहतर होते हैं, यह तय होता है। लेकिन क्या यही नियम पूरी भाषाओं पर लागू होता है? क्या ये डिजिटल दिमाग गुप्त रूप से भाषाओं को उसी तरह व्यवस्थित करते हैं जैसे एक वंशावली (family tree) रिश्तेदारों को व्यवस्थित करती है? यही वह बड़ा सवाल है जिसका उत्तर यह शोध पत्र देने की कोशिश कर रहा है।
द ग्रेट लैंग्वेज फैमिली रियूनियन (भाषा परिवारों का महामिलन)
एक विशाल, अदृश्य पार्टी की कल्पना करें जहाँ इंडो-यूरोपीय परिवार (एक विशाल समूह जिसमें अंग्रेजी, स्पेनिश, हिंदी और रूसी शामिल हैं) का हर सदस्य आमंत्रित है। वास्तविक दुनिया में, हम जानते हैं कि ये भाषाएँ चचेरी बहनों, भाई-बहनों और दूर के रिश्तेदारों की तरह संबंधित हैं। कुछ, जैसे स्पेनिश और इतालवी, जुड़वा बच्चों की तरह हैं जो एक ही घर में पले-बढ़े हैं। अन्य, जैसे अंग्रेजी और हिंदी, दूर के चचेरे भाई-बहन हैं जिन्होंने हजारों वर्षों से एक-दूसरे को नहीं देखा है।
इस शोध पत्र के शोधकर्ता यह देखना चाहते थे कि क्या LLMs गुप्त रूप से इस वंशावली को जानते हैं। उन्होंने मॉडलों से यह नहीं पूछा, "हे, क्या ये भाषाएँ संबंधित हैं?" इसके बजाय, उन्होंने मॉडलों के "विचारों" (उनके आंतरिक गणित) को देखा कि वे भाषाओं को एक साथ कैसे समूहबद्ध करते हैं। यह पार्टी में आए किसी मेहमान को देखने जैसा है और यह देखना कि वह किसके पास खड़ा है। यदि मॉडल स्पेनिश और इतालवी को करीब रखता है, लेकिन उन्हें हिंदी से दूर रखता है, तो यह दिखा रहा है कि वह बिना स्पष्ट रूप से सिखाए भी पारिवारिक संबंधों को समझता है।
खोज: मॉडलों के पास एक गुप्त मानचित्र है
टीम ने पुराने मॉडलों से लेकर नए, अधिक शक्तिशाली मॉडलों तक 12 अलग-अलग AI मॉडलों का परीक्षण किया। उन्होंने मॉडलों को 38 विभिन्न भाषाओं में हजारों वाक्य दिए। फिर, उन्होंने यह मानचित्र बनाने के लिए एक विशेष गणितीय तकनीक का उपयोग किया कि मॉडल प्रत्येक भाषा के बारे में क्या "महसूस" करते हैं।
परिणाम आश्चर्यजनक और सुखद था: मॉडलों ने अनजाने में एक ऐसा मानचित्र बना लिया था जो लगभग वास्तविक भाषा वंशावली के समान दिखता था।
एक वंशावली बनाने वाले विशेषज्ञ की तरह, मॉडलों ने स्वाभाविक रूप से भाषाओं को उन्हीं उप-परिवारों में वर्गीकृत किया: जर्मनिक भाषाएँ (जैसे अंग्रेजी और जर्मन) एक साथ झुंड बनाकर रहीं; रोमांस भाषाएँ (जैसे फ्रेंच और स्पेनिश) अपना स्वयं का घेरा बनाती थीं; और स्लाव भाषाएँ (जैसे रूसी और पोलिश) अपने स्वयं के समूह से चिपकी रहीं। मॉडलों को यह बताने के लिए किसी शिक्षक की आवश्यकता नहीं थी कि "ये रोमांस भाषाएँ हैं।" उन्होंने डेटा को पढ़कर खुद ही इसे समझ लिया।
कुछ मॉडल पार्टी में बेहतर क्यों हैं
लेकिन यहाँ एक मोड़ है: सभी मॉडल समान रूप से अच्छे नहीं हैं। शोधकर्ताओं ने पाया कि एक मॉडल ने अपनी भाषा के मानचित्र को कितनी अच्छी तरह व्यवस्थित किया है और XNLI नामक एक कठिन परीक्षण (एक परीक्षण जहाँ मॉडल को यह अनुमान लगाना होता है कि क्या एक वाक्य दूसरे वाक्य को सिद्ध करता है, खंडन करता है, या उससे संबंधित नहीं है) पर उसका प्रदर्शन कैसा रहा, इसके बीच सीधा संबंध है।
इसे इस तरह सोचें: यदि किसी छात्र के पास एक बिखरी हुई, अव्यवस्थित नोटबुक है जहाँ वह अपने इतिहास के तथ्यों को मिला देता है, तो उसे परीक्षण के प्रश्न हल करने में संघर्ष करना पड़ेगा। लेकिन यदि उनकी नोटबुक विषयों के आधार पर पूरी तरह से व्यवस्थित है, तो वे तुरंत उत्तर पा सकते हैं। शोध पत्र ने पाया कि जिन मॉडलों ने अपने "भाषा नोटबुक" को सही ढंग से व्यवस्थित किया था (समान भाषाओं को करीब रखा था), वे परीक्षण समस्याओं को हल करने में बहुत बेहतर थे।
विशेष रूप से, वे मॉडल जिन्हें कई अलग-अलग भाषाओं के डेटा पर प्रशिक्षित किया गया था (बहुभाषी मॉडल), वे अंग्रेजी-प्रधान मॉडलों की तुलना में इस वंशावली को बेहतर ढंग से बनाने में बहुत अधिक सक्षम थे। यह ऐसा ही है जैसे बहुभाषी मॉडलों के पास एक बड़ा, स्पष्ट मानचित्र था, जबकि अंग्रेजी-केंद्रित मॉडल एक धुंधले, अधूरे स्केच के साथ नेविगेट करने की कोशिश कर रहे थे।
"स्क्रिप्ट" का जाल और अन्य आश्चर्य
कोई यह अनुमान लगा सकता है कि मॉडल केवल कागज पर दिखने वाले स्वरूप (उनकी वर्णमाला या लिपि) के आधार पर भाषाओं को समूहबद्ध करते हैं। उदाहरण के लिए, शायद उन्होंने सोचा कि हिंदी और उर्दू इसलिए समान हैं क्योंकि वे दोनों देवनागरी लिपि का उपयोग करते हैं? शोध पत्र कहता है नहीं। हालांकि, शब्दों के लिखे जाने के तरीके (ऑर्थोग्राफी) का एक छोटा प्रभाव पड़ता है, लेकिन यह मुख्य कारण नहीं है। मॉडल इतने स्मार्ट थे कि वे देख सके कि हिंदी और उर्दू भाषाई रूप से चचेरे भाई-बहन हैं, भले ही वे अलग-अलग लिपियों का उपयोग करते हों, और फारसी (जो अरबी लिपि का उपयोग करती है) वास्तव में उत्तर भारतीय भाषाओं से संबंधित है, न कि अरबी भाषाओं से। मॉडल भाषा की संरचना को देख रहे थे, न कि केवल फॉन्ट को।
हालाँकि, मॉडल पूर्ण नहीं थे। वे कभी-कभी "अनाथ" भाषाओं जैसे ग्रीक, वेल्श और अल्बानियाई के साथ भ्रमित हो जाते थे। कुछ मॉडलों में, ग्रीक और वेल्श को अजीब तरह से जोड़ा गया था, भले ही वे निकटता से संबंधित नहीं हैं। यह सुझाव देता है कि जबकि मॉडल बड़े चित्र को देखने में माहिर हैं, वे कभी-कभी वंशावली की अनूठी, अलग शाखाओं पर लड़खड़ा जाते हैं।
उन्होंने यह कब सीखा?
शोधकर्ताओं ने मॉडलों को उनके प्रशिक्षण के दौरान भी देखा, जैसे किसी बच्चे को चलना सीखते हुए देखना। उन्होंने पाया कि मॉडलों ने प्रशिक्षण के बहुत शुरुआती चरण में ही इन भाषा समूहों में भाषाओं को व्यवस्थित करना शुरू कर दिया था—सीखने के केवल 100 चरणों के बाद। यह सुझाव देता है कि "कौन किससे संबंधित है" को समझना एक स्मार्ट भाषा मॉडल द्वारा सीखी जाने वाली पहली चीजों में से एक है, इससे पहले कि वह विशिष्ट शब्दों के सूक्ष्म विवरणों में जाए।
निष्कर्ष
यह शोध पत्र बताता है कि एक भाषा मॉडल की सफलता का रहस्य केवल अधिक शब्दों को याद रखना नहीं है; यह इस बारे में है कि भाषाएँ एक-दूसरे से कैसे संबंधित हैं, इसका एक अच्छा मानसिक मानचित्र बनाना। जब एक मॉडल समझ जाता है कि स्पेनिश और इतालवी करीबी चचेरे भाई हैं, और अंग्रेजी और जर्मन भाई-बहन हैं, तो वह एक से दूसरे में विचारों का अनुवाद करने में बहुत बेहतर हो जाता है।
ऐसा प्रतीत होता है कि ये डिजिटल दिमाग इतिहास समझने में आश्चर्यजनक रूप से अच्छे हैं। उन्हें इंडो-यूरोपीय वंशावली सीखने के लिए किसी पाठ्यपुस्तक की आवश्यकता नहीं थी; उन्हें बस दुनिया को पढ़ने की आवश्यकता थी, और पैटर्न अपने आप उभर आए। और वे उस मानचित्र को जितना बेहतर तरीके से बना पाते हैं, वे उस पर मौजूद हर भाषा को बोलने में उतने ही बेहतर होते जाते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।