🤖 AI

Bootstrapping Code Translation with Weighted Multilanguage Exploration

यह शोध पत्र BootTrans का प्रस्ताव करता है, जो एक बूटस्ट्रैपिंग पद्धति है जो यूनिवर्सल ओरैकल के रूप में पिवट-लैंग्वेज टेस्ट सूट्स का लाभ उठाती है और डेटा की कमी तथा अनुकूलन असंतुलन को दूर करने के लिए एक लैंग्वेज-अवेयर वेटिंग मैकेनिज्म का उपयोग करती है, जिससे विविध भाषा युग्मों में मल्टीलिंगुअल कोड ट्रांसलेशन प्रदर्शन में महत्वपूर्ण सुधार होता है।

मूल लेखक: Yuhan Wu, Huan Zhang, Wei Cheng, Chen Shen, Jingyue Yang, Wei Hu

प्रकाशित 2026-04-22

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Yuhan Wu, Huan Zhang, Wei Cheng, Chen Shen, Jingyue Yang, Wei Hu

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक रोबोट को तीन अलग-अलग भाषाओं में बोलना और लिखना सिखाने की कोशिश कर रहे हैं: Python (आसान, लोकप्रिय वाली), Java (सख्त, कॉर्पोरेट वाली), और C++ (जटिल, उच्च-प्रदर्शन वाली)।

आपका लक्ष्य यह है कि रोबोट एक भाषा में लिखे गए कोड के टुकड़े को दूसरी भाषा में पूरी तरह से अनुवादित करे, जिससे तर्क (logic) बिल्कुल समान रहे।

समस्या क्या है? आपके पास कोई शब्दकोश नहीं है। आपके पास कोई ऐसा शिक्षक नहीं है जो तीनों भाषाओं को पूरी तरह से जानता हो। और आपके पास "सही" अनुवादों का ढेर भी नहीं है जिसे आप रोबोट को दिखा सकें।

यह चुनौती है जिसे BootTrans पेपर हल करता है। आइए इसे सरल तरीके से समझा जाए।

दो बड़ी समस्याएँ

"खाली लाइब्रेरी" की समस्या (The "Empty Library" Problem): रोबोट को अनुवाद करना सिखाने के लिए, आमतौर पर आपको "कोड A" के हजारों उदाहरणों की आवश्यकता होती है जो "सही कोड B" के साथ जुड़े हों। लेकिन कई भाषा जोड़ों (language pairs) के लिए, ऐसे उदाहरण मौजूद नहीं होते। यह ऐसा ही है जैसे आप केवल अंग्रेजी वाक्यों की किताब के माध्यम से फ्रेंच सीखने की कोशिश कर रहे हों, बिना किसी फ्रेंच अनुवाद के।
"आसान बनाम कठिन" की समस्या (The "Easy vs. Hard" Problem): भले ही आपके पास कुछ उदाहरण हों, कुछ अनुवाद आसान होते हैं (जैसे अंग्रेजी से स्पेनिश) और कुछ कठिन (जैसे एक जटिल कोडिंग भाषा से अंग्रेजी)। यदि आप रोबोट को सब कुछ एक साथ सिखाते हैं, तो वह आलसी हो जाता है। वह आसान चीजों में महारत हासिल कर लेता है और कठिन चीजों को अनदेखा कर देता है क्योंकि वे बहुत निराशाजनक होती हैं। रोबोट आसान कार्यों में तो बहुत अच्छा होता है लेकिन कठिन कार्यों में बहुत बुरा।

समाधान: BootTrans

लेखकों ने BootTrans (शॉर्ट फॉर "बूटस्ट्रैपिंग ट्रांसलेशन") नामक एक विधि बनाई है। इसे एक स्व-शिक्षण लूप (self-teaching loop) के रूप में सोचें जिसमें दो चतुर तरकीबें हैं।

तरकीब 1: "यूनिवर्सल टेस्ट" (खाली लाइब्रेरी का समाधान)

मानव द्वारा सही अनुवाद लिखने की आवश्यकता के बजाय, यह पेपर यूनिट टेस्ट (Unit Tests) का उपयोग करता है।

उपमा (Analogy): कल्पना करें कि आपके पास अंग्रेजी में केक बनाने की एक रेसिपी है। आप नहीं जानते कि इसे फ्रेंच में कैसे लिखा जाए, लेकिन आपके पास एक "टेस्ट" है जो यह जांचता है कि केक मीठा, स्पफ़्फी (fluffy) और सही आकार का है या नहीं।
यह कैसे काम करता है:
1. वे Python कोड की एक विशाल लाइब्रेरी से शुरुआत करते हैं जिसमें ये "टेस्ट" (यूनिट टेस्ट) जुड़े हुए हैं।
2. वे रोबोट से Python कोड को Java में अनुवाद करने के लिए कहते हैं।
3. वे Java कोड को उसी टेस्ट से गुजारते हैं। यदि Java केक का स्वाद सही है (टेस्ट पास करता है), तो रोबोट को "गोल्ड स्टार" मिलता है। यदि यह विफल हो जाता है, तो उसे "रेड लाइट" मिलती है।
4. जादू: एक बार जब रोबोट Python से Java में सफलतापूर्वक अनुवाद कर लेता है, तो वह नया Java कोड भी उस टेस्ट को पास कर लेता है। अब, रोबोट उस Java कोड का उपयोग C++ में अनुवाद करने के लिए एक नए शुरुआती बिंदु के रूप में कर सकता है।
5. परिणाम: रोबोट अपनी खुद की उदाहरणों की लाइब्रेरी बनाता है। वह Python से शुरू करता है, Java सीखता है, फिर उसका उपयोग C++ में अनुवाद करने के लिए किया जाता है, और वह पीछे की ओर (C++ से Python) भी सीखता है। वह खुद को "बूटस्ट्रैप" करता है, अपना स्वयं का पाठ्यक्रम (curriculum) बनाता है।

तरकीब 2: "फेयर कोच" (आसान बनाम कठिन की समस्या का समाधान)

रोबोट स्वाभाविक रूप से आलसी है। वह आसान अनुवादों (जैसे Python से Java) को पसंद करता है क्योंकि उसे आसानी से "गोल्ड स्टार" मिलते हैं। वह कठिन अनुवादों (जैसे Python से C++) से नफरत करता है क्योंकि वह बार-बार विफल होता रहता है।

उपमा: एक कोच की कल्पना करें जो एक एथलीट को प्रशिक्षित कर रहा है। एथलीट दौड़ने में बहुत अच्छा है लेकिन तैराकी में बहुत बुरा है। यदि कोच बस कहता है, "दौड़ो और तैरो," तो एथलीट हमेशा दौड़ता रहेगा क्योंकि इसमें अच्छा महसूस होता है।
यह कैसे काम करता है:
- BootTrans एक स्मार्ट कोच (एक वेटिंग मैकेनिज्म) जोड़ता है।
- कोच रोबोट को देखता है। यदि रोबोट दौड़ने (आसान अनुवाद) में बहुत अच्छा है लेकिन तैराकी (कठिन अनुवाद) में विफल हो रहा है, तो कोच चिल्लाकर कहता है: "दौड़ना बंद करो! तैराकी पर ध्यान दो!"
- गणितीय रूप से, सिस्टम स्वचालित रूप से उन कठिन कार्यों को अधिक महत्व देता है जहाँ रोबोट संघर्ष कर रहा है, और उन आसान कार्यों को कम महत्व देता है जिनमें वह पहले से ही अच्छा है।
- परिणाम: रोबोट आलसी नहीं होता और वास्तव में कठिन भाषाओं को सीखता है, जिससे वह सभी दिशाओं में संतुलित और मजबूत बनता है।

परिणाम

टीम ने वास्तविक दुनिया के बेंचमार्क (HumanEval-X और TransCoder-Test) पर इसका परीक्षण किया।

पहले: रोबोट आसान अनुवादों में ठीक था लेकिन कठिन अनुवादों में बहुत बुरा था।
BootTrans के बाद: रोबोट ने सभी क्षेत्रों में महत्वपूर्ण सुधार किया। कुछ मामलों में, इसने अपनी सटीकता में लगभग 27% तक सुधार किया।
आश्चर्य: भले ही उन्होंने एक छोटे रोबोट (एक छोटे AI मॉडल) से शुरुआत की थी, BootTrans पद्धति ने इसे विशाल, महंगे AI मॉडलों के बराबर या कभी-कभी उनसे बेहतर प्रदर्शन करने के योग्य बना दिया।

एक वाक्य में सारांश

BootTrans एक AI को कोड अनुवाद करना सिखाता है, इसे उत्तर कुंजियों (answer keys) के बजाय "टेस्ट स्कोर" के साथ अभ्यास करने देता है, और एक सख्त कोच के रूप में कार्य करता है जो इसे कठिन भाषाओं पर तब तक ध्यान केंद्रित करने के लिए मजबूर करता है जब तक कि यह उन सभी में महारत हासिल न कर ले।

यहाँ "Bootstrapping Code Translation with Weighted Multilanguage Exploration" (BootTrans) के तकनीकी सारांश का विस्तृत विवरण दिया गया है।

1. समस्या विवरण (Problem Statement)

यह शोध पत्र बहुभाषी कोड अनुवाद (जैसे Python, Java और C++ जैसी भाषाओं के बीच कोड का अनुवाद करना) में दो महत्वपूर्ण बाधाओं को संबोधित करता है:

डेटा की कमी और ओरैकल्स का अभाव (Data Scarcity & Lack of Oracles): उच्च-गुणवत्ता वाले समानांतर कोड डेटासेट दुर्लभ हैं। जब वे उपलब्ध भी होते हैं, तो उनमें अक्सर कार्यात्मक शुद्धता (functional correctness) को सत्यापित करने के लिए आवश्यक एग्जीक्यूटेबल टेस्ट केसेस (ओरेकल) की कमी होती है। मौजूदा अनसुपरवाइज्ड विधियाँ विशाल मोनोलिंगुअल कॉर्पोरा पर निर्भर करती हैं, लेकिन वे कार्यात्मक समानता के बजाय केवल सिंटैक्टिक समानता पर ध्यान केंद्रित करती हैं।
अनुकूलन असंतुलन (Optimization Imbalance): 'वेरिफिएबल रिवॉर्ड्स से रीइन्फोर्समेंट लर्निंग' (RLVR) में, विभिन्न अनुवाद दिशाओं (जैसे, Python $\to$ Java बनाम Python $\to$ C++) के कठिनाई स्तर अलग-अलग होते हैं। मानक यूनिफॉर्म ऑप्टिमाइज़ेशन मॉडल को उन "आसान" दिशाओं के प्रति ओवर-फिट होने के लिए मजबूर करता है जहाँ रिवॉर्ड आसानी से प्राप्त होते हैं, जिससे "कठिन" दिशाओं पर प्रदर्शन स्थिर हो जाता है या उतार-चढ़ाव (oscillation) करता है।

2. कार्यप्रणाली: BootTrans (Methodology: BootTrans)

लेखक BootTrans प्रस्तावित करते हैं, जो एक बूटस्ट्रैपिंग फ्रेमवर्क है जो बहुभाषी अन्वेषण (multilingual exploration) को भाषा-जागरूक वेटिंग (language-aware weighting) के साथ जोड़ता है। यह विधि बिना किसी ग्राउंड-ट्रुथ पैरेलल कोड के काम करती है, बल्कि इसके बजाय एक एकल संसाधन-समृद्ध "पिवट" भाषा (जैसे, Python) और उसके यूनिट टेस्ट्स पर निर्भर करती है।

A. बहुभाषी अन्वेषण को बूटस्ट्रैप करना (Bootstrapping Multilanguage Exploration)

डेटा की कमी को दूर करने के लिए, BootTrans एक डुअल-पूल आर्किटेक्चर का उपयोग करके प्रशिक्षण पाठ्यक्रम (curriculum) को प्रगतिशील रूप से विस्तारित करता है:

सीड पूल ( $D_{seed}$ ): इसमें पिवट भाषा (जैसे, Python) में सोर्स कोड और यूनिट टेस्ट का प्रारंभिक डेटासेट होता है। यूनिट टेस्ट को नियम-आधारित विधियों का उपयोग करके लक्षित भाषाओं में अनुवादित किया जाता है (टेस्ट की कार्यात्मक अपरिवर्तनीयता का लाभ उठाते हुए)।
एक्सप्लोरेशन पूल ( $D_{explore}$ ): यह एक डायनेमिक FIFO कतार (queue) है जो पॉलिसी मॉडल द्वारा जनरेट किए गए वेरिफाइड रोलआउट्स (verified rollouts) को संग्रहीत करती है।
- प्रक्रिया: मॉडल दोनों पूल्स से सोर्स कोड के लिए अनुवाद जनरेट करता है। यदि जनरेट किया गया अनुवाद लक्षित भाषा के यूनिट टेस्ट पास कर लेता है, तो उसे एक्सप्लोरेशन पूल में जोड़ दिया जाता है।
- विस्तार: ये वेरिफाइड अनुवाद फिर आगामी इटरेशन के लिए नए सोर्स इनपुट के रूप में कार्य करते हैं। यह मॉडल को रिवर्स (जैसे, Java $\to$ Python) और क्रॉस-लिंगुअल (जैसे, Java $\to$ C++) अनुवादों को सीखने की अनुमति देता है जो मूल सीड डेटा में मौजूद नहीं थे, जिससे प्रभावी रूप से एक पूर्ण $L \times L$ ट्रांसलेशन मैट्रिक्स तैयार होता है।
रिवॉर्ड मैकेनिज्म: यह एक बाइनरी रिवॉर्ड ( $R=1$ यदि कोड कंपाइल होता है और सभी टेस्ट पास करता है; $R=0$ अन्यथा) का उपयोग करता है, यह सुनिश्चित करता है कि अनुकूलन सतह की समानता के बजाय कार्यात्मक शुद्धता द्वारा संचालित हो।

B. भाषा-जागरूक भार अनुकूलन (Language-Aware Weight Optimization)

अनुकूलन असंतुलन को हल करने के लिए, लेखक सहोदर भाषाओं (sibling languages) के बीच सापेक्ष प्रदर्शन के आधार पर एक डायनेमिक वेटिंग मैकेनिज्म पेश करते हैं:

अवधारणा: दिए गए सोर्स कोड के लिए, यदि मॉडल "सहोदर" लक्षित भाषाओं (जैसे, Python $\to$ Java) पर अच्छा प्रदर्शन करता है लेकिन एक विशिष्ट लक्ष्य (जैसे, Python $\to$ C++) पर खराब प्रदर्शन करता है, तो कठिन दिशा के लिए लर्निंग सिग्नल को बढ़ाया जाना चाहिए।
वेट गणना: भाषा $L_k$ के लिए अनुवाद हेतु वेट $w_{i,k}$ की गणना इस प्रकार की जाती है:
$w_{i,k} = \frac{R_{i, \neg k}}{R_{i,k} + R_{i, \neg k}}$
जहाँ $R_{i,k}$ भाषा $k$ के लिए संचयी रिवॉर्ड है, और $R_{i, \neg k}$ अन्य सभी सहोदर भाषाओं के लिए कुल रिवॉर्ड है।
प्रभाव: यह मॉडल को उन "पिछड़ रही" दिशाओं पर ध्यान केंद्रित करने के लिए मजबूर करता है जहाँ मॉडल के पास सिमेंटिक समझ (सहोदर सफलता द्वारा सिद्ध) है लेकिन वह सिंटैक्टिक या इडियोमैटिक बाधाओं से जूझ रहा है।
एल्गोरिदम: यह पॉलिसी को अपडेट करने के लिए इन डायनेमिक वेट्स के साथ ग्रुप रिलेटिव पॉलिसी ऑप्टिमाइज़ेशन (GRPO) का उपयोग करता है।

3. मुख्य योगदान (Key Contributions)

पिवट-आधारित बूटस्ट्रैपिंग: एक एकल संसाधन-समृद्ध पिवट भाषा और पोर्टेबल यूनिट टेस्ट का उपयोग करके एक सत्यापन योग्य बहुभाषी कॉर्पस बनाने की एक नवीन विधि, जो पैरेलल कोड की आवश्यकता को समाप्त करती है।
डुअल-पूल एक्सप्लोरेशन: एक ऐसा आर्किटेक्चर जो मॉडल को अपना प्रशिक्षण डेटा स्वयं जनरेट और सत्यापित करने में सक्षम बनाता है, जिससे शुरुआती सीड डेटा से परे रिवर्स और क्रॉस-लिंगुअल अनुवाद क्षमताएं अनलॉक होती हैं।
भाषा-जागरूक वेटिंग: एक डायनेमिक ऑप्टिमाइज़ेशन रणनीति जो सहोदर प्रदर्शन के आधार पर कठिन अनुवाद दिशाओं को प्राथमिकता देकर प्रदर्शन असंतुलन को कम करती है।
व्यापक मूल्यांकन: कई मॉडल परिवारों और बेंचमार्क पर स्टेट-ऑफ-द-आर्ट प्रदर्शन प्रदर्शित करने वाले व्यापक प्रयोग।

4. प्रयोगात्मक परिणाम (Experimental Results)

इस पद्धति का मूल्यांकन Python, Java और C++ में HumanEval-X और TransCoder-Test बेंचमार्क पर किया गया।

प्रदर्शन लाभ: BootTrans ने अपने बेस मॉडल्स को लगातार पीछे छोड़ा।
- HumanEval-X पर, इसने 26.82% तक सुधार हासिल किया (जैसे, Qwen3-1.7B बेस बनाम BootTrans)।
- TransCoder-Test पर, इसने 7.46% तक सुधार हासिल किया।
- इसने छोटे मॉडल्स (1.7B - 8B) का उपयोग करने के बावजूद बड़े पैमाने के बेसलाइन्स (जैसे, 70B पैरामीटर मॉडल्स) को पछाड़ दिया।
एब्लेशन स्टडीज (Ablation Studies):
- एक्सप्लोरेशन पूल को हटाने से औसतन ~4% की गिरावट आई, जो रिवर्स/क्रॉस-लिंगुअल डेटा को बूटस्ट्रैप करने की आवश्यकता को सिद्ध करता है।
- वेटिंग (Weighting) को हटाने से ~2.5% की गिरावट आई, जो कठिन दिशाओं में संतुलन बनाने में इसकी भूमिका की पुष्टि करती है।
पिवट भाषा संवेदनशीलता: हालांकि Python ने सबसे अच्छे परिणाम दिए (अधिक प्री-ट्रेनिंग डेटा और सीड उपलब्धता के कारण), यह विधि Java या C++ को पिवट के रूप में उपयोग करने पर भी प्रभावी रही।
सामान्यीकरण (Generalization): विधि ने अनदेखी भाषाओं (Go) और लो-रिसोर्स भाषाओं (Dlang, Racket) में सफलतापूर्वक सामान्यीकरण किया, जो बेस मॉडल्स की तुलना में महत्वपूर्ण सुधार दिखाता है।
अनुकूलता: BootTrans, इन्फरेंस-टाइम रणनीतियों (जैसे, InterTrans, UniTrans) के लिए एक मजबूत आधार के रूप में कार्य करता है, जो इनके संयोजन के साथ प्रदर्शन को और बढ़ाता है।

5. महत्व (Significance)

BootTrans, दुर्लभ, उच्च-गुणवत्ता वाले पैरेलल कॉर्पोरा पर निर्भरता को समाप्त करके कोड अनुवाद के प्रतिमान (paradigm) को बदल देता है। कार्यात्मक अपरिवर्तनीयता (टेस्ट्स विभिन्न भाषाओं में काम करते हैं) और RLVR का लाभ उठाकर, यह एक सेल्फ-इंप्रूविंग लूप बनाता है जो मॉडल की क्षमताओं को सभी भाषा युग्मों (language pairs) तक विस्तारित करता है। भाषा-जागरूक वेटिंग तंत्र विशेष रूप से बहुभाषी RL में एक सामान्य विफलता मोड को संबोधित करता है, जो संतुलित दक्षता सुनिश्चित करता है। यह दृष्टिकोण उच्च-गुणवत्ता वाले, कार्यात्मक रूप से सही कोड अनुवाद को सीमित डेटा वाले भाषा युग्मों के लिए भी सुलभ बनाता है, जो लीगेसी सिस्टम आधुनिकीकरण और क्रॉस-प्लेटफॉर्म इंटरऑपरेबिलिटी के लिए एक स्केलेबल समाधान प्रदान करता है।