Cross-lingual Collapse: How Language-Centric Foundation Models Shape Reasoning in Large Language Models
यह शोध पत्र "क्रॉस-लिंगुअल कोलैप्स" (Cross-lingual Collapse) की पहचान और विश्लेषण करता है, जो एक ऐसी घटना है जहाँ सत्यापन योग्य पुरस्कारों के साथ सुदृढीकरण शिक्षण (RLVR) बहुभाषी बड़े भाषा मॉडलों को उनके तर्क प्रदर्शन में सुधार होने के साथ ही अपनी तर्क श्रृंखलाओं को एक प्रमुख प्री-ट्रेनिंग भाषा (आमतौर पर अंग्रेजी) की ओर वापस ले जाता है, जो तर्क की गहराई और लक्षित-भाषा की निष्ठा के बीच एक निरंतर समझौता प्रकट करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
यहाँ सरल भाषा और रचनात्मक उपमाओं का उपयोग करके शोध पत्र "When Verifiable Rewards Switch the Language" का स्पष्टीकरण दिया गया है।
मुख्य विचार: "सबसे स्मार्ट रास्ता" की समस्या
कल्पthought लीजिए कि आपने आपको गणित सिखाने के लिए एक प्रतिभाशाली लेकिन थोड़े पक्षपाती ट्यूटर (शिक्षक) को काम पर रखा है। यह ट्यूटर केवल अंग्रेजी बोलकर बड़ा हुआ है, लेकिन अब वह आपको यूक्रेनी में पढ़ाने की कोशिश कर रहा है।
आप ट्यूटर को गणित का एक सवाल देते हैं और कहते हैं, "कृपया अपनी सोच को यूक्रेनी में, चरण-दर-चरण समझाएं, और सही उत्तर प्राप्त करें।"
शुरुआत में, ट्यूटर यूक्रेनी में सोचने की पूरी कोशिश करता है। लेकिन जैसे-जैसे वे अभ्यास करते हैं, उन्हें कुछ एहसास होता है: अंग्रेजी में सोचना तेज़ है और इसमें गलतियाँ होने की संभावना कम है। भले ही आपने यूक्रेनी में बोलने के लिए कहा हो, ट्यूटर कठिन हिस्सों के लिए अंग्रेजी में फिसलने लगता है क्योंकि इससे उन्हें "A+" (पुरस्कार/रिवॉर्ड) आसानी से मिल जाता है।
अंततः, ट्यूटर लगभग पूरी तरह से यूक्रेनी में सोचना बंद कर देता है। वे समस्या को पूरी तरह से हल कर लेते हैं, लेकिन पूरी व्याख्या अंग्रेजी में होती है। आपको सही उत्तर तो मिल गया, लेकिन आपने यह देखने की क्षमता खो दी कि वे आपकी भाषा में कैसे सोच रहे थे।
यह शोध पत्र इस घटना को "क्रॉस-लिंगुअल कोलैप्स" (Cross-lingual Collapse) कहता है।
पात्र (Characters)
- मॉडल (LLMs): ये AI ट्यूटर हैं। इन्हें इंटरनेट पर प्रशिक्षित किया गया था, जो ज्यादातर अंग्रेजी में है। इसलिए, गहरी सोच के लिए अंग्रेजी उनकी "मातृभाषा" है।
- विधि (RLVR/GRPO): यह प्रशिक्षण तकनीक है। यह एक वीडियो गेम की तरह है जहाँ AI को अंक (रिवॉर्ड) तभी मिलते हैं जब वह गणित का उत्तर सही देता है। AI सबसे अधिक अंक पाने के लिए समस्या को हल करने के हजारों अलग-अलग तरीकों को आज़माता है।
- लक्ष्य: ऐसी AI बनाना जो गहराई से तर्क कर सके (कठिन गणित हल कर सके) और उपयोगकर्ता की भाषा (जैसे यूक्रेनी, कोरियाई, थाई) में बनी रहे।
प्रयोग में क्या हुआ?
शोधकर्ताओं ने AI मॉडल्स को लिया और उन्हें "पॉइंट्स सिस्टम" (RLVR) का उपयोग करके गणित सिखाया। उन्होंने उन्हें पांच अलग-अलग भाषाओं में समस्याएं दीं: चीनी, कोरियाई, जापानी, थाई और यूक्रेनी।
यहाँ उन्हें क्या पता चला:
1. "अंग्रेजी का शॉर्टकट" (The English Shortcut)
जैसे-जैसे AI गणित की समस्याओं को हल करने में बेहतर होता गया (इसकी सटीकता बढ़ती गई), इसने लक्षित भाषा को छोड़ना शुरू कर दिया।
- उपमा: कल्पना करें कि एक यात्री किसी विदेशी देश में पहाड़ चढ़ने की कोशिश कर रहा है। उसे स्थानीय रास्ते पर रहने के लिए कहा गया है। लेकिन जैसे-जैसे पहाड़ कठिन होता जाता है (कठिन गणित), उसे एहसास होता है कि स्थानीय रास्ता कीचड़ भरा और भ्रमित करने वाला है। वह एक पक्की सड़क (अंग्रेजी) देखता है जो सीधे शिखर तक जाती है। भले ही उसने स्थानीय रास्ते पर रहने का वादा किया था, वह शिखर तक तेजी से पहुँचने के लिए हाईवे पर कूद जाता है।
- परिणाम: AI की "चेन ऑफ थॉट" (उसका आंतरिक संवाद) यूक्रेनी से बदलकर अंग्रेजी हो गई। AI के गणित स्कोर में जितना सुधार हुआ, वह उतना ही अधिक अंग्रेजी बोलने लगा।
2. "कठिनाई का ट्रिगर" (The Difficulty Trigger)
यह पतन (collapse) तुरंत नहीं हुआ। यह तब हुआ जब समस्याएँ कठिन हुईं।
- उपमा: यदि आप ट्यूटर से "2 + 2" जैसा सरल प्रश्न पूछते हैं, तो वे आसानी से यूक्रेनी में उत्तर दे सकते हैं। लेकिन यदि आप उन्हें जटिल कैलकुलस की समस्या देते हैं, तो सही उत्तर पाने का दबाव उन्हें घबराहट में अपने "सुरक्षित क्षेत्र" (अंग्रेजी) की ओर ले जाता है।
- निष्कर्ष: गणित जितना कठिन हुआ, AI ने उतनी ही तेजी से लक्षित भाषा को छोड़ा।
3. "संसाधन अंतराल" (The Resource Gap)
सभी भाषाओं के साथ एक जैसा व्यवहार नहीं किया गया।
- उच्च-संसाधन वाली भाषाएँ (चीनी, जापानी): इन भाषाओं के लिए इंटरनेट पर बहुत सारा डेटा उपलब्ध है। AI की इनके लिए एक मजबूत "मसल मेमोरी" थी, इसलिए इसमें बहुत अधिक गिरावट नहीं आई।
- कम-संसाधन वाली भाषाएँ (यूक्रेनी, थाई): इन भाषाओं के लिए डेटा कम है। AI की इनके लिए "मसल मेमोरी" कमजोर थी। जब गणित कठिन हुआ, तो AI तुरंत घबरा गया और अंग्रेजी में स्विच कर गया।
दुविधा: सटीकता बनाम निष्ठा (Accuracy vs. Fidelity)
यह शोध पत्र एक दर्दनाक समझौते (trade-off) को उजागर करता है, जैसे कि एक सी-सॉ (seesaw):
- पक्ष A (उच्च सटीकता, कम निष्ठा): यदि आप AI को सही उत्तर पाने के लिए कुछ भी करने देते हैं, तो वह गणित को पूरी तरह से हल करेगा, लेकिन वह अंग्रेजी बोलेगा। आपको उत्तर तो मिलेगा, लेकिन आप "स्थानीय" तर्क (reasoning) खो देंगे।
- पक्ष B (उच्च निष्ठा, कम सटीकता): यदि आप AI को लक्षित भाषा में रहने के लिए मजबूर करते हैं (उसे अंग्रेजी में स्विच करने पर दंडित करके), तो वह यूक्रेनी में बना रहता है। लेकिन क्योंकि वह उस भाषा में सोचने के लिए संघर्ष कर रहा है जिसमें वह उतना कुशल नहीं है, वह गणित में अधिक गलतियाँ करता है।
शोधकर्ताओं ने इसे तीन "बैंड-एड" (जुगाड़) के साथ ठीक करने की कोशिश की:
- भाषा के लिए पुरस्कार: AI को यूक्रेनी बोलने के लिए अतिरिक्त अंक देना। परिणाम: वह यूक्रेनी में बना रहा, लेकिन उसके गणित के स्कोर गिर गए।
- AI की गति धीमी करना: AI को अधिक सावधानी से सोचने के लिए मजबूर करना (तापमान/temperature कम करना)। परिणाम: वह यूक्रेनी में रहा, लेकिन वह धीमा और कम सटीक था।
- बहु-भाषी शिक्षण: AI को एक साथ कई भाषाओं पर प्रशिक्षित करना। परिणाम: इससे थोड़ी मदद मिली, लेकिन कठिन कार्यों के लिए AI अभी भी अंग्रेजी को ही प्राथमिकता देता रहा।
निष्कर्ष (The Takeaway)
यह शोध पत्र निष्कर्ष निकालता है कि वर्तमान AI मॉडल्स के साथ हम एक साथ दो चीजें हासिल नहीं कर सकते।
यदि हम चाहते हैं कि AI जटिल तर्क में जीनियस हो, तो वह स्वाभाविक रूप से अपनी "मातृभाषा" (अंग्रेजी) का उपयोग करना चाहता है क्योंकि उसने वहीं से सबसे अधिक सीखा है। यदि हम उसे एक अलग भाषा बोलने के लिए मजबूर करते हैं, तो हम अक्सर उसकी बुद्धिमत्ता का बलिदान देते हैं।
रूपक (Metaphor):
AI को एक रेस कार के रूप में सोचें। अंग्रेजी वह चिकना, पक्का ट्रैक है जिसके लिए इसे बनाया गया है। अन्य भाषाएँ ऑफ-रोड रास्ते हैं।
- जब रेस आसान होती है, तो कार ऑफ-रोड ट्रैक को संभाल सकती है।
- जब रेस तीव्र (कठिन गणित) हो जाती है, तो कार जीतने के लिए स्वाभाविक रूप से पक्की सड़क पर चली जाती है।
- उसे ऑफ-रोड ट्रैक पर रखने के लिए, आपको कार पर गति सीमा लगानी होगी, जिसका अर्थ है कि वह शायद रेस नहीं जीत पाएगी।
भविष्य:
लेखकों का सुझाव है कि इसे ठीक करने के लिए, हमें ऐसे AI मॉडल बनाने की आवश्यकता है जो शुरुआत से ही कई भाषाओं में "नेटिव" (मूल निवासी) हों, न कि केवल अंग्रेजी में। जब तक ऐसा नहीं होता, हमें यह स्वीकार करना होगा कि बहुत कठिन कार्यों के लिए, AI अभी भी अंग्रेजी में सोचना पसंद कर सकता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।