💬 NLP

DuDi: Dual-Signal Distillation with Cross-Lingual Verbalizer

यह शोध पत्र DuDi को प्रस्तुत करता है, जो एक क्रॉस-लिंगुअल वर्बलाइज़र द्वारा संवर्धित एक ड्यूल-सिग्नल डिस्टिलेशन फ्रेमवर्क है, जो अनुक्रम-स्तरीय (sequence-level) और टोकन-स्तरीय (token-level) पर्यवेक्षण संकेतों को जोड़कर छोटे भाषा मॉडलों की बहुभाषी क्षमताओं को, विशेष रूप से दक्षिण-पूर्व एशियाई भाषाओं के लिए, प्रभावी ढंग से सुधारता है।

मूल लेखक: Patomporn Payoungkhamdee, Tinnakit Udsa, Jian Gang Ngui, Sarana Nutanong, Alham Fikri Aji, Peerat Limkonchotiwat

प्रकाशित 2026-06-04

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Patomporn Payoungkhamdee, Tinnakit Udsa, Jian Gang Ngui, Sarana Nutanong, Alham Fikri Aji, Peerat Limkonchotiwat

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

यहाँ "DuDi: Dual-Signal Distillation with Cross-Lingual Verbalizer" पेपर का सरल भाषा और रोज़मर्रा के उदाहरणों के साथ विवरण दिया गया है।

बड़ी समस्या: "नन्हे दिमाग" का संघर्ष

कल्पना कीजिए कि आपके पास एक बहुत ही बुद्धिमान, विद्वान प्रोफेसर (एक बड़ा AI मॉडल) है जो कई भाषाओं में धाराप्रवाह बोल सकता है। अब, कल्पना कीजिए कि आपको एक छोटे, ऊर्जावान बच्चे (एक Small Language Model या SLM) को वही काम करने के लिए सिखाना है।

समस्या यह है कि जब आप किसी मॉडल को तेज़ और सस्ता बनाने के लिए छोटा करते हैं, तो वह अक्सर अंग्रेजी के अलावा अन्य भाषाएँ बोलने की अपनी क्षमता खो देता है। यह विशेष रूप से दक्षिण-पूर्व एशियाई (SEA) भाषाओं जैसे थाई, वियतनामी और इंडोनेशियाई के मामले में सच है। "बच्चा" मॉडल भ्रमित हो जाता है और गलतियाँ करता है, जबकि "प्रोफेसर" को उत्तर पूरी तरह से पता होता है।

समाधान: DuDi (सुपर ट्यूटर)

लेखकों ने एक नई शिक्षण पद्धति बनाई है जिसे DuDi कहा जाता है। DuDi को केवल एक शिक्षक के रूप में नहीं, बल्कि एक सुपर-इंटेलिजेंट ट्यूटर के रूप में देखें जो तीन विशिष्ट तरकीबों का उपयोग करता है ताकि छोटे मॉडल को पहले की तुलना में तेज़ी से और बेहतर तरीके से सीखने में मदद मिल सके।

1. "बड़ी तस्वीर" की जाँच (Sequence Signal)

उपमा: कल्पना कीजिए कि एक छात्र निबंध लिख रहा है। एक सामान्य शिक्षक केवल शब्द-दर-शब्द वर्तनी (spelling) की जाँच कर सकता है। लेकिन एक महान शिक्षक पूरे निबंध को देखता है ताकि यह देख सके कि क्या कहानी शुरू से अंत तक समझ में आने योग्य है।
DuDi इसे कैसे करता है: DuDi छात्र के पूरे उत्तर की एक साथ जाँच करता है। यह पूछता है, "क्या यह पूरा पैराग्राफ सही उत्तर जैसा दिखता है?" यह छात्र को केवल व्यक्तिगत शब्दों के बजाय समग्र प्रवाह और दिशा समझने में मदद करता है।

2. "दो-ट्रैक" फीडबैक (Dual-Signal Distillation)

उपमा: साइकिल चलाना सीखने के बारे में सोचें।
- ट्रैक A (Off-Policy): आप एक आदर्श सवार की फोटो देखते हैं (शिक्षक का डेटा) और ठीक उसकी नकल करने की कोशिश करते हैं। यह आपको एक ठोस आधार देता है।
- ट्रैक B (On-Policy): आप वास्तव में साइकिल पर चढ़ते हैं और चलाने की कोशिश करते हैं। जब आप डगमगाते हैं, तो शिक्षक बीच में आता है और कहता है, "अरे, तुम यहाँ बहुत ज़्यादा बाईं ओर झुक गए थे!" यह आपको वास्तविक समय में अपनी गलतियों को सुधारने में मदद करता है।
DuDi इसे कैसे करता है: अधिकांश विधियाँ इनमें से केवल एक ही करती हैं। DuDi दोनों करता है। यह मानक निर्धारित करने के लिए शिक्षक के आदर्श डेटा का उपयोग करता है, और यह छात्र द्वारा अपने स्वयं के उत्तर उत्पन्न करने को भी देखता है ताकि होने वाली विशिष्ट गलतियों को सुधारा जा सके। यह "दोहरा-संकेत" (dual-signal) दृष्टिकोण छात्र को सही रास्ते पर बनाए रखता है।

3. "यूनिवर्सल ट्रांसलेटर" (Cross-Lingual Verbalizer)

उपमा: कल्पना कीजिए कि शिक्षक थाई बोलता है, और छात्र वियतनामी सीखने की कोशिश कर रहा है। यदि शिक्षक केवल थाई बोलता है, तो छात्र इस बात को लेकर भ्रमित हो सकता है कि वियतनामी में चीजों को कैसे कहना है।
DuDi इसे कैसे करता है: DuDi एक विशेष "ट्रांसलेटर प्रॉम्प्ट" का उपयोग करता है।
- शिक्षक एक थाई प्रश्न और एक आदर्श थाई उत्तर देखता है।
- लेकिन, शिक्षक को यह समझाने के लिए कहा जाता है कि उत्तर मानो उसे वियतनामी (या अंग्रेजी, या किसी अन्य मिश्रित भाषा) में पढ़ाया जा रहा हो।
- छात्र को फिर उस लक्षित भाषा में उत्तर उत्पन्न करना होता है।
- यह क्यों काम करता है: यह छात्र को केवल शब्दों को रटने के बजाय उत्तर के तर्क (logic) को सीखने के लिए मजबूर करता है। यह "जनवरी" की अवधारणा को समझने जैसा है, न कि केवल थाई शब्द को याद करने जैसा। यह छात्र को विभिन्न भाषाओं के बीच ज्ञान को बेहतर ढंग से स्थानांतरित करने में मदद करता है।

परिणाम: एक छोटा मॉडल जो अपने वजन से अधिक प्रहार करता है

शोधकर्ताओं ने 0.5 बिलियन पैरामीटर्स से लेकर 1.5 बिलियन पैरामीटर्स तक के मॉडलों पर इस पद्धति का परीक्षण किया। उन्होंने इसकी तुलना अन्य लोकप्रिय शिक्षण विधियों से की।

परिणाम: DuDi ने अन्य विधियों को लगातार पछाड़ दिया।
प्रमाण: एक "रिपोर्ट कार्ड" जिसे SEA-HELM कहा जाता है (जो यह परीक्षण करता है कि मॉडल दक्षिण-पूर्व एशियाई भाषाओं को कितनी अच्छी तरह संभालते हैं), में DuDi-प्रशिक्षित मॉडलों ने उच्चतम स्कोर प्राप्त किया।
आश्चर्य: भले ही "प्रोफेसर" (शिक्षक) किसी विशिष्ट भाषा में आदर्श न हो, फिर भी DuDi ने "छात्र" को खुद से बेहतर करने के लिए सिखाने में सफलता प्राप्त की।

"सीक्रेट सॉस" विश्लेषण

लेखकों ने यह देखने के लिए परीक्षण किए कि DuDi का कौन सा हिस्सा सबसे महत्वपूर्ण था:

"बड़ी तस्वीर" की जाँच को हटाना: मॉडल थोड़ा खराब हो गया।
"दो-ट्रैक" फीडबैक को हटाना: मॉडल बहुत अधिक खराब हो गया। इससे सिद्ध हुआ कि शिक्षक के डेटा और छात्र की अपनी गलतियों, दोनों को देखना अत्यंत महत्वपूर्ण है।
"यूनिवर्सल ट्रांसलेटर" को हटाना: मॉडल खराब हो गया, जिससे साबित हुआ कि विभिन्न भाषाओं में शिक्षण शैली को अनुवादित करना सफलता का एक प्रमुख कारक है।

सारांश

DuDi छोटे AI मॉडलों को दक्षिण-पूर्व एशियाई भाषाएं बोलने के लिए प्रशिक्षित करने का एक नया तरीका है। केवल एक बड़े मॉडल की नकल करने के बजाय, यह संपूर्ण-उत्तर जाँच, वास्तविक समय में गलती सुधार, और क्रॉस-लैंग्वेज शिक्षण शैली के संयोजन का उपयोग करता है ताकि छोटे मॉडल तेज़ी से और स्मार्ट तरीके से सीख सकें। परिणाम एक छोटा, कुशल AI है जो कई भाषाओं को लगभग उतना ही अच्छा समझ और बोल सकता है जितना कि बहुत बड़े और महंगे मॉडल।

तकनीकी सारांश: DuDi – क्रॉस-लिंगुअल वर्बलाइज़र के साथ डुअल-सिग्नल डिस्टिलेशन

समस्या विवरण

स्मॉल लैंग्वेज मॉडल्स (SLMs) दक्षता, स्केलेबिलिटी और संसाधन-सीमित एज डिवाइसेस पर तैनाती के मामले में महत्वपूर्ण लाभ प्रदान करते हैं। हालाँकि, उनकी बहुभाषी क्षमताएं, विशेष रूप से दक्षिण-पूर्व एशियाई (SEA) भाषाओं के लिए, मॉडल का आकार एक बिलियन-पैरामीटर स्केल से नीचे गिरने पर गंभीर रूप से घट जाती है। मानक सुपरवाइज्ड फाइन-ट्यूनिंग (SFT) अक्सर सब-बिलियन मॉडल्स (जैसे Qwen2.5-0.5B) के लिए उनके बड़े समकक्षों की तुलना में प्रदर्शन में भारी गिरावट का परिणाम देती है। जबकि नॉलेज डिस्टिलेशन (KD) बड़े टीचर्स से छोटे स्टूडेंट्स तक ज्ञान स्थानांतरित करने के लिए एक सामान्य रणनीति है, मौजूदा बहुभाषी KD दृष्टिकोण अक्सर कार्य-विशिष्ट सेटिंग्स तक सीमित होते हैं या सीक्वेंस-लेवल और टोकन-लेवल सुपरविजन को प्रभावी ढंग से एकीकृत करने में विफल रहते हैं। इसके अलावा, मानक डिस्टिलेशन विधियां अक्सर प्रशिक्षण-अनुमान (training-inference) के बेमेल होने और दक्षिण-पूर्व एशियाई भाषाओं में निहित भाषाई विविधता के साथ संघर्ष करती हैं, जहाँ उच्च-गुणवत्ता वाले प्रशिक्षण डेटा की कमी होती है।

कार्यप्रणाली: DuDi फ्रेमवर्क

लेखक DuDi (क्रॉस-लिंगुअल वर्बलाइज़र के साथ डुअल-सिग्नल डिस्टिलेशन) का प्रस्ताव करते हैं, जो तीन मुख्य घटकों को एकीकृत करके बहुभाषी SLMs को बेहतर बनाने के लिए डिज़ाइन किया गया एक एकीकृत फ्रेमवर्क है:

1. सीक्वेंस-लेवल सिग्नल

DuDi में सेल्फ-प्ले फाइन-ट्यूनिंग (SPIN) से प्रेरित एक ऑनलाइन सीक्वेंस-लेवल ऑब्जेक्टिव शामिल है। स्टैटिक इटरेटिव विधियों के विपरीत, DuDi वास्तविक समय में रिस्पॉन्स ( $y' \sim \pi_\theta(x)$ ) को सैंपल करता है। मॉडल को ग्राउंड-ट्रुथ रिस्पॉन्स की सापेक्ष संभावना को अधिकतम करके अपने वर्तमान पॉलिसी को ग्राउंड-ट्रुथ से अलग करने के लिए प्रशिक्षित किया जाता है। यह स्टूडेंट पॉलिसी को गतिशील रूप से ग्राउंड-ट्रुथ दिशा की ओर निर्देशित करता है।

2. टोकन-लेवल सिग्नल्स (डुअल-सिग्नल)

स्टूडेंट-जेनरेटेड डेटा या स्टैटिक डेटासेट्स पर निर्भरता की सीमाओं को दूर करने के लिए, DuDi टोकन-लेवल सुपरविजन के लिए एक डुअल-सिग्नल दृष्टिकोण अपनाता है:

ऑफ-पॉलिसी सिग्नल: ट्रेनिंग कॉर्पस से प्राप्त, यह सिग्नल टीचर-प्रदान किए गए लॉजिट्स का उपयोग करता है ताकि यह सुनिश्चित हो सके कि सुपरवाइजरी सिग्नल सख्ती से ग्राउंड-ट्रुथ डिस्ट्रीब्यूशन में आधारित रहे। यह सीखा हुआ पॉलिसी टारगेट डेटा डिस्ट्रीब्यूशन से दूर जाने से रोकता है।
ऑन-पॉलिसी सिग्नल: स्टूडेंट-जेनरेटेड रिस्पॉन्स ( $\tilde{y} \sim \pi_\theta(x)$ ) से प्राप्त, यह सिग्नल टीचर को स्टूडेंट के स्व-जेनरेटेड आउटपुट को रिफाइन करने की अनुमति देता है, जिससे वास्तविक समय में गलतियों को सुधारा जा सके।

3. क्रॉस-लिंगुअल वर्बलाइज़र

बहुभाषी सेटिंग्स में ज्ञान की हस्तांतरणीयता (transferability) में सुधार के लिए, DuDi एक क्रॉस-लिंगुअल वर्बलाइज़र पेश करता है। यह घटक एक इनपुट प्रॉम्प्ट ( $x$ ), ग्राउंड-ट्रुथ ( $y$ ), सोर्स लैंग्वेज ( $l$ ), और एक सैंपलड टारगेट लैंग्वेज ( $l_z$ ) को टीचर के लिए एक स्ट्रक्चर्ड वर्बलाइज्ड प्रॉम्प्ट ( $z$ ) और स्टूडेंट के लिए एक संबंधित प्रॉम्प्ट ( $p_z$ ) में बदल देता है।

मैकेनिज्म: टीचर को सोर्स लैंग्वेज में प्रॉम्प्ट और ग्राउंड-ट्रुथ के साथ डेमॉन्स्ट्रेशन प्राप्त होता है। फिर स्टूडेंट को टारगेट लैंग्वेज (जो ट्रेनिंग सेट से, सोर्स लैंग्वेज को छोड़कर, और इंग्लिश को शामिल करते हुए यूनिफॉर्मली सैंपल की गई है) में रिस्पॉन्स जेनरेट करने के निर्देश दिए जाते हैं।
उद्देश्य: यह स्टूडेंट को भाषा की सीमाओं के पार टीचर के मार्गदर्शन के साथ अपने ऑन-पॉलिसी जनरेशन को संरेखित करने के लिए मजबूर करता है, जिससे समृद्ध लर्निंग सिग्नल्स की सुविधा मिलती है।

एकीकृत प्रशिक्षण उद्देश्य

अंतिम लर्निंग ऑब्जेक्टिव ( $L_{DuDi}$ ) निम्नलिखित का एक वेटेड सम (weighted sum) है:

सीक्वेंस-लेवल अलाइनमेंट (SPIN-स्टाइल)।
ऑफ-पॉलिसी टोकन-लेवल डिस्टिलेशन (ग्राउंड-ट्रुथ गाइडेड)।
ऑन-पॉलिसी टोकन-लेवल डिस्टिलेशन (क्रॉस-लिंगुअल वर्बलाइज़र के माध्यम से टीचर-गाइडेड)।

मुख्य योगदान

DuDi फ्रेमवर्क: एक जनरल-पर्पस मल्टीलिंगुअल डिस्टिलेशन फ्रेमवर्क जो सीक्वेंस-लेवल ऑब्जेक्टिव्स और डुअल-सिग्नल (ऑफ-पॉलिसी और ऑन-पॉलिसी) टोकन-लेवल सुपरविजन को संयुक्त रूप से ऑप्टिमाइज़ करता है।
क्रॉस-लिंगुअल वर्बलाइज़र: एक अभिनव तंत्र जो इनपुट्स और डेमॉन्स्ट्रेशन को ऐसे प्रॉम्प्ट्स में बदलकर टीचर फीडबैक को रिफाइन करता है जो स्टूडेंट को विभिन्न टारगेट भाषाओं में रिस्पॉन्स जेनरेट करने के लिए निर्देशित करते हैं, जिससे ट्रांसफ़रेबिलिटी बढ़ती है।
व्यापक विश्लेषण: व्यापक एब्लेशन स्टडीज और विश्लेषण जो पुष्टि करते हैं कि सीक्वेंस-लेवल ऑप्टिमाइज़ेशन, टोकन-लेवल सुपरविजन और क्रॉस-लिंगुअल वर्बलाइजेशन पूरक (complementary) और ट्रांसफ़रेबल लर्निंग सिग्नल्स प्रदान करते हैं।

प्रयोगात्मक परिणाम

लेखकों ने सात दक्षिण-पूर्व एशियाई भाषाओं (इंडोनेशियाई, वियतनामी, थाई, तमिल, टैगालोग, मलय और बर्मी) के लिए SEA-HELM बेंचमार्क का उपयोग करके DuDi का मूल्यांकन किया।

प्रदर्शन: DuDi ने SFT, DFT, SPIN, SDFT, SeqKD, और GKD सहित प्रतिस्पर्धी बेसलाइन्स को लगातार पीछे छोड़ा।
- Qwen2.5-0.5B पर, DuDi ने औसतन 10.1 का स्कोर प्राप्त किया, जो सांख्यिकीय रूप से दूसरे सर्वश्रेष्ठ बेसलाइन (DFT 9.7 पर) और SPIN (9.5) से बेहतर प्रदर्शन करता है।
- DuDi ने विभिन्न मॉडल परिवारों (Qwen2.5, Qwen3, Llama3.2) और स्केल्स (0.5B से 1.5B स्टूडेंट्स) में मजबूती प्रदर्शित की।
- Qwen3-0.6B सेटिंग में, DuDi ने मजबूत GKD बेसलाइन की तुलना में औसत प्रदर्शन में 15.6% का सुधार किया।
एब्लेशन स्टडीज:
- ऑफ-पॉलिसी KD को हटाने से सबसे बड़ा प्रदर्शन ड्रॉप (-24.6%) हुआ, जो टारगेट डिस्ट्रीब्यूशन में मॉडल को ग्राउंड करने में इसकी महत्वपूर्ण भूमिका को रेखांकित करता है।
- ऑन-पॉलिसी KD को हटाने से -6.6% की गिरावट आई।
- वर्बलाइज़र को हटाने से -5.0% की गिरावट आई।
- वर्बलाइज़र में टारगेट लैंग्वेज सेट से इंग्लिश को हटाने से प्रदर्शन कम हो गया, जो सुझाव देता है कि इंग्लिश बेहतर क्रॉस-लिंगुअल ट्रांसफर की सुविधा प्रदान करती है।
वर्बलाइज़र विश्लेषण: ओवरलैप रेशियो विश्लेषण ने दिखाया कि क्रॉस-लिंगुअल वर्बलाइज़र ने ऑन-पॉलिसी रोलआउट के दौरान टीचर और स्टूडेंट लॉजिट्स के बीच उच्चतम सहमति हासिल की, जिससे पुष्टि हुई कि यह सबसे सूचनात्मक सुपरविजन सिग्नल प्रदान करता है।
इनिशियलाइजेशन: अध्ययन ने पुष्टि की कि "कोल्ड-स्टार्ट" SFT (ग्राउंड-ट्रुथ डेटा पर फाइन-ट्यून किए गए मॉडल से इनिशियलाइज़ करना) महत्वपूर्ण है; सीधे बेस मॉडल्स या टीचर-जेनरेटेड आउटपुट्स से इनिशियलाइज़ करने से काफी कम प्रदर्शन मिला।

महत्व और दावे

पेपर का दावा है कि DuDi एक एकीकृत फ्रेमवर्क प्रदान करके बहुभाषी क्षमताओं को स्केल डाउन करने की विशिष्ट चुनौती को संबोधित करता है जो पूरक लर्निंग सिग्नल्स का लाभ उठाता है। लेखक तर्क देते हैं कि:

संयुक्त अनुकूलन (Joint Optimization) आवश्यक है: घटक (सीक्वेंस सिग्नल, डुअल टोकन सिग्नल्स, और वर्बलाइज़र) स्वतंत्र रूप से प्रभावी नहीं हैं, बल्कि बहुभाषी SLMs में स्टेट-ऑफ-द-आर्ट परिणाम प्राप्त करने के लिए संयुक्त एकीकरण की आवश्यकता है।
क्रॉस-लिंगुअल ट्रांसफर: क्रॉस-लिंगुअल वर्बलाइज़र एक प्रमुख नवाचार है जो टीचर-स्टूडेंट नॉलेज ट्रांसफरैबिलिटी में सुधार करता है, जो इंग्लिश-ओनली या मोनोलिंगुअल वर्बलाइज़र्स की सीमाओं को दूर करता है।
मजबूती (Robustness): फ्रेमवर्क विभिन्न मॉडल आर्किटेक्चर और स्केल्स में मजबूत है, जिससे यह दक्षिण-पूर्व एशिया जैसे विविध, लो-रिसोर्स भाषाई वातावरणों में कुशल SLMs को तैनात करने के लिए एक व्यवहार्य समाधान बनाता है।

लेखक निष्कर्ष निकालते हैं कि DuDi बहुभाषी वातावरण में SLMs के लिए एक प्रभावी फाइन-ट्यूनिंग फ्रेमवर्क प्रदान करता है, और सभी आर्टिफैक्ट्स (कोड, डेटासेट, मॉडल्स) को ओपन रिसर्च के लिए रिलीज़ किया जाएगा।