Rethinking the Multilingual Reasoning Gap with Layer Swap
यह शोध पत्र यह प्रदर्शित करता है कि तुलनीय पर्यवेक्षण (supervision) का उपयोग करने पर बहुभाषी एलएलएम (LLM) में मूल-भाषा और अंग्रेजी-पिवोटेड तर्क के बीच प्रदर्शन का अंतर पहले की तुलना में काफी कम है, और एक "लेयर स्वैप" तकनीक का प्रस्ताव करता है जो मध्य परतों से अंग्रेजी तर्क क्षमताओं को मूल विशेषज्ञों (native specialists) में स्थानांतरित करता है, जिससे चेन-ऑफ-थॉट जनरेशन के लिए लक्षित भाषा को संरक्षित करते हुए प्रभावी रूप से इस अंतर को पाट दिया जाता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
यहाँ इस शोध पत्र का सरल भाषा और रोज़मर्रा के उदाहरणों के साथ स्पष्टीकरण दिया गया है।
बड़ी समस्या: "अंग्रेजी बिचौलिया" (The English Middleman)
कल्पना कीजिए कि आपने एक बहुत ही बुद्धिमान, बहुभाषी छात्र (एक AI) से फ्रेंच में एक जटिल गणित का सवाल पूछा। भले ही आपने फ्रेंच में पूछा हो, लेकिन वह छात्र सहज रूप से अपने दिमाग में सोचने लगता है, "हम्म, मुझे इसे हल करने दो..." और यह प्रक्रिया अंग्रेजी में चलती है। वह सारी कठिन गणनाएँ अंग्रेजी में करता है, और केवल अंतिम उत्तर देने के लिए वापस फ्रेंच में स्विच करता है।
इसे इंग्लिश-पिवोटेड रीजनिंग (English-pivoted reasoning) कहा जाता है। यह अच्छा काम करता है, लेकिन इसके कुछ नुकसान हैं:
- अनुवाद में चूक (Lost in Translation): यदि छात्र वापस स्विच करते समय अनुवाद की छोटी सी भी गलती करता है, तो अंतिम उत्तर गलत हो सकता है।
- समझने में कठिन: यदि आप अंग्रेजी नहीं जानते, तो आप देख नहीं पाएंगे कि उन्होंने समस्या को कैसे हल किया क्योंकि उनकी "सोचने की प्रक्रिया" (Chain-of-Thought) उस भाषा में है जिसे आप नहीं जानते।
शोधकर्ताओं ने छात्र को पूरी तरह से फ्रेंच में सोचने के लिए मजबूर करने की कोशिश की (नेटिव रीजनिंग - Native Reasoning)। हालाँकि, पिछले अध्ययनों ने दिखाया कि जब उन्होंने ऐसा किया, तो छात्र समस्याओं को हल करने में काफी कमजोर हो गए। यह एक मास्टर शेफ को केवल फ्रेंच रेसिपी का उपयोग करके फ्रेंच व्यंजन बनाने के लिए मजबूर करने जैसा था, लेकिन वे अंग्रेजी के मापों (measurements) के आदी होने के कारण सामग्री के साथ बार-बार गलती कर रहे थे।
नया प्रयोग: एक निष्पक्ष परीक्षण
इस शोध पत्र के लेखकों ने यह देखना चाहा कि क्या "नेटिव रीजनिंग" का यह अंतर वास्तविक था या केवल इसलिए था क्योंकि छात्रों को पर्याप्त प्रशिक्षण नहीं मिला था। उन्होंने एक विशाल, निष्पक्ष प्रयोग करने का निर्णय लिया:
- छात्र: उन्होंने एक स्मार्ट बेस AI (Qwen3-8B) लिया और उसे छह भाषाओं में विशेषज्ञ बनाने के लिए प्रशिक्षित किया: अंग्रेजी, फ्रेंच, जर्मन, स्पेनिश, चीनी और स्वाहिली।
- प्रशिक्षण: उन्होंने प्रत्येक विशेषज्ञ को भारी मात्रा में अभ्यास डेटा (लगभग 10 बिलियन शब्दों के बराबर) दिया ताकि सभी को समान अवसर मिले।
- तुलना: उन्होंने दो समूहों की तुलना की:
- अंग्रेजी में सोचने वाले (The English Thinkers): ये छात्र अंग्रेजी में समस्याओं को हल करते थे लेकिन उत्तर स्थानीय भाषा में देते थे।
- नेटिव विचारक (The Native Thinkers): ये छात्र पूरी तरह से स्थानीय भाषा में ही समस्याओं को हल करते थे और सोचते थे।
चौंकाने वाला परिणाम:
जब सभी को उच्च गुणवत्ता वाला प्रशिक्षण मिला, तो दोनों समूहों के बीच का अंतर भारी रूप से कम हो गया। "नेटिव विचारक" लगभग "अंग्रेजी विचारकों" के बराबर ही थे (औसतन केवल 2-3% कम)। इससे पता चलता है कि पर्याप्त अभ्यास के साथ, AI अपनी मूल भाषा में बिना अपनी बुद्धिमत्ता खोए सोच सकता है।
गुप्त नुस्खा: "लेयर स्वैप" (The Layer Swap)
भले ही अंतर छोटा था, लेकिन "अंग्रेजी विचारक" अभी भी सबसे कठिन गणित और विज्ञान की पहेलियों में थोड़े बेहतर थे। शोधकर्ता जानना चाहते थे: क्यों?
उन्होंने AI के "दिमाग" (इसके न्यूरल नेटवर्क लेयर्स) के अंदर झाँका और एक दिलचस्प संरचना पाई:
- बाहरी परतें (ऊपरी और निचली): ये कान और मुँह की तरह हैं। ये विशिष्ट भाषा को संभालती हैं (फ्रेंच सुनना, फ्रेंच बोलना)। ये भाग भाषाओं के बीच बहुत भिन्न होते हैं।
- मध्य परतें (Middle Layers): ये लॉजिक सेंटर (तर्क केंद्र) की तरह हैं। शोधकर्ताओं ने पाया कि जब AI गणित या विज्ञान की समस्याओं को हल करना सीखता है, तो "लॉजिक सेंटर" लगभग एक जैसा ही दिखता है, चाहे AI फ्रेंच, चीनी या अंग्रेजी बोल रहा हो। यह एक सार्वभौमिक तर्क इंजन (universal reasoning engine) है।
समाधान: "लेयर स्वैप"
चूँकि अंग्रेजी विशेषज्ञ का मध्य "लॉजिक" वाला हिस्सा थोड़ा अधिक तेज था, इसलिए शोधकर्ताओं ने एक "सर्जरी" की। उन्होंने अंग्रेजी विशेषज्ञ की मध्य परतों को लिया और उन्हें नेटिव विशेषज्ञों में बदल (swap) दिया।
- उपमा: कल्पना कीजिए कि आपके पास एक फ्रेंच शेफ है जो खाना बनाने में बहुत अच्छा है लेकिन सब्जियाँ काटने में थोड़ा धीमा है। आप एक विश्व स्तरीय अंग्रेजी शेफ के "सब्जी काटने वाले हाथ" (मध्य परतें) लेते हैं और उन्हें फ्रेंच शेफ के साथ जोड़ देते हैं।
- परिणाम: अब फ्रेंच शेफ अंग्रेजी शेफ जितनी ही तेजी से सब्जियाँ काट सकता है, लेकिन वे अभी भी फ्रेंच बोलते हैं और फ्रेंच व्यंजन ही बनाते हैं। AI ने फ्रेंच में सोचना जारी रखा (स्थानीय भाषा में "सोचने की प्रक्रिया" को बनाए रखते हुए) लेकिन अंग्रेजी मॉडल की तर्क शक्ति प्राप्त कर ली।
अंतिम परिणाम
यह "लेयर स्वैप" करके, शोधकर्ताओं ने फ्रेंच और जर्मन जैसी भाषाओं के लिए शेष प्रदर्शन अंतर को 80-90% तक कम कर दिया। स्पेनिश के लिए, उन्होंने इस अंतर को पूरी तरह से समाप्त कर दिया। अब AI:
- उपयोगकर्ता की भाषा में सोच सकता है (जिससे इसे समझना आसान हो जाता है)।
- कठिन समस्याओं को उतनी ही अच्छी तरह से हल कर सकता है जैसे कि वह अंग्रेजी में सोच रहा हो।
सारांश
यह शोध पत्र दिखाता है कि यह विचार कि "AI को स्मार्ट होने के लिए अंग्रेजी में सोचना चाहिए" मुख्य रूप से प्रशिक्षण का मुद्दा है, न कि कोई मौलिक सीमा। AI को सही ढंग से प्रशिक्षित करके और फिर एक अंग्रेजी मॉडल के "सबसे स्मार्ट मध्य मस्तिष्क" को बदलकर, हम ऐसा AI बना सकते हैं जो किसी भी भाषा में पूरी तरह से तर्क कर सके, जिससे सोचने की प्रक्रिया पारदर्शी और सभी के लिए सुलभ बनी रहे।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।