Disentangling Linguistic Relatedness from Task Alignment in Cross-Lingual Transfer
यह शोध पत्र यह प्रदर्शित करता है कि लार्ज लैंग्वेज मॉडल्स में क्रॉस-लिंगुअल ट्रांसफर मुख्य रूप से टास्क-फॉर्मेट अलाइनमेंट द्वारा संचालित होता है न कि भाषाई संबद्धता द्वारा, क्योंकि मॉडल अपने बेसलाइन प्रदर्शन या चेन-ऑफ-थॉट रीजनिंग के उपयोग की परवाह किए बिना भाषा परिवारों में समान सुधार प्रदर्शित करते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास सात अलग-अलग छात्रों (AI मॉडल्स) की एक टीम है, जो एक होनहार लेकिन अनुभवहीन हाई स्कूल छात्र से लेकर एक अनुभवी प्रोफेसर तक फैली हुई है। आप यह देखना चाहते हैं कि क्या उन्हें अरबी में एक विशिष्ट विषय सिखाने से वे अचानक हिब्रू, अम्महारिक और माल्टीज़ (अरबी से संबंधित भाषाएं) में सवालों के जवाब देने में विशेषज्ञ बन जाते हैं, या क्या इससे वे जापानी, कोरियाई और फ्रेंच (असंबंधित भाषाएं) में भी समान रूप से बेहतर हो जाते हैं।
शोधकर्ताओं की बड़ी खोज यह है: उन्हें अरबी सिखाने से उनके भीतर "अरबी ज्ञान" का जादुई रूप से हिब्रू या अम्महारिक जैसी संबंधित भाषाओं में स्थानांतरण नहीं हुआ। इसके बजाय, इसने उन्हें केवल परीक्षा देने का तरीका सिखा दिया।
यहाँ सरल उपमाओं का विवरण दिया गया है:
1. सेटअप: "भाषा परिवार" का परीक्षण
शोधकर्ताओं ने सेमिटिक भाषा परिवार (अरबी, हिब्रू, अम्महारिक, माल्टीज़) को चुना क्योंकि वे चचेरे भाई-बहनों की तरह हैं। वे गहरे पारिवारिक मूल साझा करते हैं, भले ही वे कागज़ पर अलग दिखते हों (अरबी और हिब्रू अक्षरों के कंकाल की तरह दिखने वाले लिपि का उपयोग करते हैं, अम्महारिक एक अलग लिपि का उपयोग करता है, और माल्टीज़ उस मानक लैटिन वर्णमाला का उपयोग करता है जिसे हम अंग्रेजी के लिए उपयोग करते हैं)।
विचार यह था: यदि हम एक मॉडल को अरबी सिखाते हैं, तो क्या वह स्वाभाविक रूप से हिब्रू या अम्महारिक में बेहतर हो जाएगा क्योंकि वे "परिवार" हैं?
2. प्रयोग: "अरबी क्रैश कोर्स"
उन्होंने सात बड़े AI मॉडल्स को लिया और उन्हें केवल अरबी बोलियों का उपयोग करके एक "क्रैश कोर्स" (फाइन-ट्यूनिंग) दिया। उन्होंने उन्हें अन्य भाषाओं के बारे में कुछ भी नहीं सिखाया। फिर, उन्होंने बिना किसी अतिरिक्त प्रशिक्षण के अन्य सभी भाषाओं में पठन बोध (रीडिंग कॉम्प्रिहेन्शन) के सवालों पर मॉडल्स का परीक्षण किया।
3. परिणाम: यह सब "परीक्षा देने के कौशल" के बारे में था
परिणाम आश्चर्यजनक थे।
"कमजोर" मॉडल्स (संघर्ष कर रहे छात्र): जिन मॉडल्स ने शुरुआत में खराब प्रदर्शन किया था (जैसे GPT-OSS मॉडल्स), उन्हें अरबी प्रशिक्षण के बाद जबरदस्त उछाल मिला। वे 45% सही उत्तरों से बढ़कर लगभग 80% तक पहुँच गए।
- ट्विस्ट: उनमें जापानी और फ्रेंच पर भी उतना ही सुधार हुआ जितना कि हिब्रू और अम्महारिक पर।
- उपमा: कल्पना कीजिए कि एक छात्र को यह नहीं पता कि बबल शीट को सही ढंग से कैसे भरना है। आप उसे अरबी के अभ्यास परीक्षण का उपयोग करके शीट भरने का तरीका सिखाते हैं। अचानक, वे हर टेस्ट में बेहतर हो जाते हैं, यहाँ तक कि जापानी में भी, सिर्फ इसलिए क्योंकि उन्होंने अंततः बबल्स को सही ढंग से भरना सीख लिया है। उन्होंने जापानी नहीं सीखी; उन्होंने फॉर्मेट सीखा।
"मजबूत" मॉडल्स (टॉप छात्र): जो मॉडल्स पहले से ही बहुत अच्छा कर रहे थे (जैसे 671-बिलियन पैरामीटर वाला DeepSeek), उनमें बहुत कम सुधार हुआ।
- उपमा: यदि कोई छात्र पहले से ही एक A+ छात्र है जो ठीक जानता है कि बबल शीट को कैसे भरना है, तो उसे शीट पर अधिक अभ्यास कराने से बहुत अधिक मदद नहीं मिलती। वे पहले से ही कैलिब्रेटेड थे।
4. "चेन-ऑफ-थॉट" (CoT) का प्रमाण
यह साबित करने के लिए कि यह नए भाषाई तथ्य सीखने के बारे में नहीं था, शोधकर्ताओं ने एक अलग तरकीब आजमाई: चेन-ऑफ-थॉट (CoT)। मॉडल्स को फिर से प्रशिक्षित करने के बजाय, उन्होंने बस उन्हें उत्तर देने से पहले "ज़ोर से सोचने" (एक तर्क चरण लिखने) के लिए कहा।
- परिणाम: ठीक वही मॉडल्स जो अरबी प्रशिक्षण से बेहतर हुए थे, वे "ज़ोर से सोचने" से भी बेहतर हो गए।
- निष्कर्ष: यदि अरबी प्रशिक्षण ने "भाषाई ज्ञान" (जैसे व्याकरण के नियम) को स्थानांतरित किया होता, तो "ज़ोर से सोचने" से उतना सुधार नहीं होता। लेकिन चूंकि दोनों तरीकों ने एक ही मॉडल्स को समान रूप से मदद की, यह साबित करता है कि समस्या ज्ञान की कमी नहीं थी। समस्या यह थी कि मॉडल्स को अपने उत्तरों को टेस्ट फॉर्मेट के साथ कैसे संरेखित (align) करना है, यह नहीं पता था।
5. लिपि का मिथक
शोधकर्ताओं ने यह भी जांचा कि क्या लेखन प्रणाली मायने रखती है। चूंकि अरबी और हिब्रू दोनों ऐसी लिपि का उपयोग करते हैं जो अक्षरों के कंकाल की तरह दिखती है (अब्जाद), उन्होंने सोचा कि शायद हिब्रू को विशेष बढ़ावा मिलेगा।
- वास्तविकता: हिब्रू को कोई विशेष बढ़ावा नहीं मिला। सुधार वैसा ही था चाहे भाषा अरबी के समान लिपि का उपयोग करती हो या पूरी तरह से अलग। "फैमिली ट्री" का संबंध मायने नहीं रखता था।
मुख्य निष्कर्ष
पेपर यह निष्कर्ष निकालता है कि जब हम देखते हैं कि एक AI एक संबंधित भाषा के प्रशिक्षण के बाद एक भाषा में बेहतर हो जाता है, तो हमें यह नहीं मानना चाहिए कि वह "भाषा परिवार" सीख गया है।
इसके बजाय, AI संभवतः केवल खेल के नियम सीख रहा था। वह सीख रहा था कि प्रश्न को कैसे देखना है, विकल्पों को प्रोसेस करना है, और सही उत्तर संख्या (1, 2, 3, या 4) को चुनना है। एक बार जब उसने अरबी का उपयोग करके उस "गेम फॉर्मेट" को सीख लिया, तो वह उस कौशल को किसी भी भाषा में लागू कर सका, चाहे वह चचेरा भाई (हिब्रू) हो या अजनबी (जापानी)।
संक्षेप में: मॉडल्स ने हिब्रू बोलना नहीं सीखा; उन्होंने परीक्षा देना सीखा।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।