🤖 AI

Improving Code Translation with Syntax-Guided and Semantic-aware Preference Optimization

यह शोध पत्र CTO को प्रस्तुत करता है, जो एक नवीन ढांचा है जो डायरेक्ट प्रेफरेंस ऑप्टिमाइज़ेशन सेटिंग के भीतर कॉन्ट्रास्टिव लर्निंग के माध्यम से सोर्स-व्युत्पन्न सिमेंटिक रिवॉर्ड के साथ सिंटैक्स-गाइडेड कंपाइलर फीडबैक को एकीकृत करके कोड ट्रांसलेशन को बढ़ाता है, जिससे सिंटैक्टिक शुद्धता और सिमेंटिक निरंतरता दोनों सुनिश्चित करने में मौजूदा विधियों की सीमाओं को दूर किया जा सके।

मूल लेखक: Yuhan Wu, Huan Zhang, Wei Cheng, Chen Shen, Jingyue Yang, Wei Hu

प्रकाशित 2026-05-14

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Yuhan Wu, Huan Zhang, Wei Cheng, Chen Shen, Jingyue Yang, Wei Hu

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक मास्टर अनुवादक हैं जो एक फ्रांसीसी भाषा में लिखी गई रेसिपी को एक ऐसे शेफ के लिए रेसिपी में बदलने की कोशिश कर रहे हैं जो केवल अंग्रेजी बोलता है। आप चाहते हैं कि नई रेसिपी दो काम पूरी तरह से करे:

अंग्रेजी व्याकरण के नियमों का पालन करे (Syntax): वाक्यों की संरचना सही होनी चाहिए ताकि शेफ भाषा के कारण भ्रमित न हो।
समान अर्थ बनाए रखे (Semantics): आप अंत में जो व्यंजन पकाते हैं वह मूल फ्रांसीसी व्यंजन जैसा ही स्वाद वाला होना चाहिए, न कि केवल कागज पर वैसा दिखने वाला।

यह शोध पत्र, जिसका शीर्षक "Improving Code Translation with Syntax-Guided and Semantic-aware Preference Optimization" है, एक नया तरीका पेश करता है जिसे CTO कहा जाता है, ताकि AI अनुवादकों को यह काम बहुत बेहतर तरीके से करने में मदद मिल सके।

यहाँ यह पेपर कैसे समस्या और उनके समाधान को समझाता है, सरल उपमाओं (analogies) का उपयोग करते हुए:

समस्या: वर्तमान AI अनुवादकों का "जाल" (The "Trap")

वर्तमान में, कोड को ट्रांसलेट करने की कोशिश करने वाले AI मॉडल (जैसे पायथन कोड को C++ में बदलना) अक्सर एक जाल में फंस जाते हैं। पेपर एक चतुर उदाहरण का उपयोग करके दिखाता है कि ऐसा क्यों होता है:

"भाग्यशाली अनुमान" का जाल (Reward Hacking): कल्पना कीजिए कि एक अनुवादक एक ऐसी रेसिपी लिखता है जो व्याकरण की दृष्टि से तो एकदम सही है लेकिन उसमें गलत सामग्री का उपयोग किया गया है। हालांकि, शुद्ध भाग्य से, उन्हें दिया गया विशिष्ट टेस्ट केस (जैसे, "1 अंडे के साथ केक बनाएं") काम कर जाता है क्योंकि गलत सामग्री संयोग से उस एक विशिष्ट अंडे के लिए काम कर जाती है। AI को एक "पास" मिल जाता है और वह सोचता है कि उसने बहुत अच्छा काम किया है, भले ही वह रेसिपी किसी अन्य स्थिति के लिए गलत हो। इसे reward hacking कहा जाता है।
"पूर्ण अर्थ, टूटा हुआ व्याकरण" का जाल: कल्पना कीजिए कि दूसरा अनुवादक एक ऐसी रेसिपी लिखता है जो बिल्कुल सही व्यंजन का वर्णन करती है (पूर्ण अर्थ/semantics) लेकिन उसे इस तरह से लिखता है जो अंग्रेजी व्याकरण के नियमों को तोड़ता है। शेफ उसे पढ़ ही नहीं सकता, इसलिए कंप्यूटर कहता है, "Fail!" भले ही विचार शानदार था।

वर्तमान तरीके यह अंतर करने में संघर्ष करते हैं कि क्या यह एक "भाग्यशाली अनुमान" है या एक "टूटा हुआ विचार"। वे अक्सर निम्नलिखित पर निर्भर होते हैं:

विरल टेस्ट केस (Sparse Test Cases): जैसे अनुवादक को केवल एक विशिष्ट टेस्ट पास करने के लिए देना। यदि वे उस एक टेस्ट को पास करने के लिए धोखाधड़ी करते हैं, तो वे जीत जाते हैं।
संदर्भ तुलना (Reference Comparisons): नए कोड की तुलना एक "गोल्ड स्टैंडर्ड" उदाहरण से करना। लेकिन यदि गोल्ड स्टैंडर्ड थोड़ा अपूर्ण है, या यदि नया कोड अलग तरीके से लिखा गया है लेकिन उसका अर्थ वही है, तो AI भ्रमित हो जाता है।

समाधान: CTO (द "डबल-चेक" सिस्टम)

लेखक CTO का प्रस्ताव करते हैं, जो एक सख्त, दो-चरणीय गुणवत्ता नियंत्रण निरीक्षक (quality control inspector) की तरह कार्य करता है। केवल यह पूछने के बजाय कि "क्या इसने टेस्ट पास किया?", CTO एक साथ दो अलग-अलग प्रश्न पूछता है:

1. व्याकरण की जाँच (Syntax)

यह आसान हिस्सा है। सिस्टम अनुवादित कोड को एक कंपाइलर (एक उपकरण जो यह जांचता है कि कोड भाषा के नियमों का पालन करता है या नहीं) के माध्यम से चलाता है।

उपमा: इसे एक स्पेल-चेकर की तरह समझें। यदि वाक्य में टाइपो है या पूर्ण विराम गायब है, तो यह स्वतः ही "Fail" है। यह हिस्सा 100% विश्वसनीय है क्योंकि कंप्यूटर नियमों की जांच करने में बहुत कुशल होते हैं।

2. अर्थ की जाँच (Semantics)

यह कठिन हिस्सा है। बिना भाग्यशाली टेस्ट केसों पर निर्भर हुए आप कैसे जांच सकते हैं कि अर्थ सही है या नहीं?

नवाचार: लेखकों ने कॉन्ट्रास्टिव लर्निंग (contrastive learning) नामक तकनीक का उपयोग करके एक विशेष "मीनिंग डिटेक्टर" (एक सिमेंटिक मॉडल) को प्रशिक्षित किया है।
उपमा: कल्पना कीजिए कि आपके पास एक मास्टर शेफ (सोर्स कोड) और एक नया प्रशिक्षु (अनुवादित कोड) है। केवल अंतिम व्यंजन को चखने के बजाय, मीनिंग डिटेक्टर सामग्रियों के सार और खाना पकाने के तर्क को देखता है। यह सीखने में सक्षम है कि, "भले ही इस रेसिपी में अलग शब्दों का उपयोग किया गया हो, यह मास्टर शेफ की रेसिपी के समान स्वाद प्रोफ़ाइल का वर्णन करती है।"
इसे कैसे प्रशिक्षित किया गया: उन्होंने सही रेसिपी ली और एक AI को ऐसी सूक्ष्म, चालाकी भरी गलतियाँ करने के लिए कहा जिससे व्याकरण तो सही रहे लेकिन अर्थ बदल जाए। डिटेक्टर ने मूल रेसिपी की तुलना उस त्रुटिपूर्ण संस्करण से करके इन "चालाकी भरी गलतियों" को पहचानना सीखा।

CTO कैसे काम करता है: "बैलेंस्ड स्कोरकार्ड"

एक बार जब सिस्टम के पास दोनों जाँचें होती हैं, तो यह प्रिफरेंस ऑप्टिमाइजेशन (Preference Optimization) नामक विधि का उपयोग करता है।

पुराना तरीका: AI एक एकल स्कोर को अधिकतम करने की कोशिश करता था। यदि व्याकरण गलत था, तो पूरा स्कोर शून्य हो जाता था, भले ही अर्थ एकदम सही हो।
CTO का तरीका: यह अनुवाद को एक बहु-उद्देश्यीय खेल (multi-objective game) के रूप में मानता है। यह एक "स्कोरकार्ड" बनाता है जहाँ:
- व्याकरण (Grammar) को पास/फेल स्कोर मिलता है।
- अर्थ (Meaning) को इस आधार पर स्कोर मिलता है कि "स्वाद" मूल के कितने करीब है।
- इसके बाद AI को उस "स्वीट स्पॉट" को खोजने के लिए प्रशिक्षित किया जाता है जहाँ कोड दोनों रूप से व्याकरणिक रूप से सही और अर्थपूर्ण रूप से सटीक हो।

लेखक तर्क देते हैं कि इन दोनों संकेतों को मिलाने से, AI भाग्यशाली टेस्ट केसों के साथ "धोखाधड़ी" करना बंद कर देता है और बेहतरीन विचारों के बावजूद व्याकरण खराब होने के कारण अस्वीकार होना भी बंद कर देता है।

परिणाम: क्या यह काम करता है?

लेखकों ने तीन लोकप्रिय भाषाओं: C++, Java, और Python के बीच कोड अनुवाद करने के लिए CTO का परीक्षण किया।

प्रतिस्पर्धा: उन्होंने अन्य शीर्ष तरीकों के मुकाबले CTO की तुलना की, जिनमें रिइन्फोर्समेंट लर्निंग (जो अस्थिर हो सकता है) और वे भी शामिल हैं जो केवल मानक टेक्स्ट समानता (text similarity) पर निर्भर करते हैं।
परिणाम: CTO लगातार जीता।
- इसने मॉडल के आकार और डेटासेट के आधार पर अनुवाद सटीकता में 3.66% से 6.70% तक सुधार किया।
- यह "भाग्यशाली अनुमान" वाली समस्या को ठीक करने में विशेष रूप से प्रभावी रहा, जिससे यह सुनिश्चित हुआ कि अनुवादित कोड वास्तव में इच्छित कार्य करता है, न कि केवल एक विशिष्ट टेस्ट पर।

सारांश में

CTO को एक ऐसे अनुवादक के रूप में समझें जिसे न केवल वर्तनी (Syntax) या केवल कहानी (Semantics) की चिंता है। यह एक ऐसा अनुवादक है जिसके पास व्याकरण की जाँच के लिए एक सख्त संपादक है और कहानी की जाँच के लिए एक बुद्धिमान आलोचक है, जो यह सुनिश्चित करने के लिए मिलकर काम करते हैं कि अंतिम अनुवाद पठनीय भी हो और मूल के प्रति सच्चा भी। यह AI को कोड को अधिक विश्वसनीय रूप से अनुवाद करने की अनुमति देता है, जिससे सॉफ्टवेयर को एक भाषा से दूसरी भाषा में ले जाना सुरक्षित हो जाता है।

तकनीकी सारांश: CTO – कोड अनुवाद के लिए सिंटैक्स-निर्देशित और सिमेंटिक-जागरूक प्राथमिकता अनुकूलन (Syntax-Guided and Semantic-Aware Preference Optimization)

समस्या विवरण

लार्ज लैंग्वेज मॉडल्स (LLMs) ने कोड अनुवाद में महत्वपूर्ण क्षमता प्रदर्शित की है, फिर भी वे सिंटैक्टिक शुद्धता (syntactic correctness) और सिमेंटिक निरंतरता (semantic consistency) को एक साथ सुनिश्चित करने में अक्सर संघर्ष करते हैं। मौजूदा दृष्टिकोण संरेखण (alignment) के लिए विश्वसनीय रिवॉर्ड सिग्नल को परिभाषित करने में गंभीर सीमाओं का सामना करते हैं:

सिंटैक्टिक रिवॉर्ड्स (Syntactic Rewards): कंपाइलर फीडबैक सिंटैक्स के लिए एक नियत (deterministic), बाइनरी सिग्नल प्रदान करता है, लेकिन कार्यात्मक शुद्धता (functional correctness) के बारे में कोई जानकारी नहीं देता है।
सिमेंटिक रिवॉर्ड्स (Semantic Rewards): वर्तमान रणनीतियाँ त्रुटिपूर्ण प्रॉक्सी पर निर्भर करती हैं।
- टेस्ट-केस आधारित रिवॉर्ड्स अक्सर विरल (sparse) और कम कवरेज वाले होते हैं, जिससे "रिवॉर्ड हैकिंग" की स्थिति उत्पन्न होती है जहाँ मॉडल सोर्स कोड के वास्तविक इरादे को संरक्षित किए बिना विशिष्ट टेस्ट केसों पर ओवरफिट हो जाता है। इसके अलावा, टारगेट भाषा में एक एकल सिंटैक्टिक त्रुटि पूर्ण निष्पादन विफलता (execution failure) का कारण बनती है, जिससे सिमेंटिक सटीकता की परवाह किए बिना शून्य रिवॉर्ड प्राप्त होता है, जिससे सिंटैक्स और सिमेंटिक्स आपस में उलझ जाते हैं।
- रेफरेंस-आधारित रिवॉर्ड्स (जैसे CodeBLEU या एक रेफरेंस ट्रांसलेशन के साथ तुलना करने वाले मोनोलिंगुअल सिमेंटिक मॉडल) सतही होते हैं या यह मान लेते हैं कि रेफरेंस एक आदर्श सिमेंटिक एंकर है। यह आउटपुट विविधता को प्रतिबंधित करता है और रेफरेंस में मौजूद त्रुटियों को प्रसारित करता है।

यह शोध पत्र तर्क देता है कि एक मजबूत सिमेंटिक रिवॉर्ड इन त्रुटिपूर्ण प्रॉक्सी से अलग, सीधे सोर्स कोड से ही प्राप्त किया जाना चाहिए।

कार्यप्रणाली: CTO

लेखक CTO (Code Translation Optimization) प्रस्तावित करते हैं, जो एक फ्रेमवर्क है जो सिंटैक्स-निर्देशित और सिमेंटिक-जागरूक प्राथमिकता अनुकूलन के माध्यम से कोड अनुवाद में सुधार करता है। यह विधि कोड अनुवाद को डायरेक्ट प्रेफरेंस ऑप्टिमाइजेशन (DPO) फ्रेमवर्क के भीतर एक मल्टी-ऑब्जेक्टिव ऑप्टिमाइजेशन समस्या के रूप में पुनर्गठित करती है।

1. सिमेंटिक रिवॉर्ड मॉडल ट्रेनिंग
मजबूत सिमेंटिक सिग्नल उत्पन्न करने के लिए, लेखक कॉन्ट्रास्टिव लर्निंग (contrastive learning) का उपयोग करके एक क्रॉस-लिंगुअल सिमेंटिक मॉडल को प्रशिक्षित करते हैं:

आर्किटेक्चर: एक ड्यूल-एनकोडर (पैरामीटर्स साझा करते हुए) सोर्स और टारगेट कोड को एक साझा लेटेंट स्पेस (latent space) में मैप करता है।
ट्रेनिंग ऑब्जेक्टिव: InfoNCE लॉस का उपयोग करते हुए, मॉडल एक रेफरेंस ट्रांसलेशन ( $y^+$ ) के एम्बेडिंग को सोर्स कोड एंकर ( $x$ ) के करीब लाने और सिमेंटिक रूप से भिन्न नेगेटिव सैंपल्स ( $y^-$ ) को दूर धकेलने के लिए सीखता है।
नेगेटिव सैंपल जनरेशन: रैंडम नॉइज़ पर निर्भर रहने के बजाय, एक LLM रेफरेंस कोड को सूक्ष्म, सिंटैक्टिक रूप से वैध लेकिन सिमेंटिक रूप से त्रुटिपूर्ण परिवर्तनों के साथ फिर से लिखता है।
रिवॉर्ड स्कोरिंग: एक कैंडिडेट ट्रांसलेशन के लिए सिमेंटिक रिवॉर्ड ( $r_s$ ) लेटेंट स्पेस में कैंडिडेट और सोर्स कोड के बीच कोसाइन समानता (cosine similarity) के आधार पर निकाला जाता है, जिसे लिस्ट-वाइज स्कोरिंग सक्षम करने के लिए z-स्कोर के माध्यम से सामान्यीकृत (normalize) किया जाता है।

2. प्रेफरेंस ऑप्टिमाइजेशन फॉर्मूलेशन
CTO कोड अनुवाद को सिंटैक्स ( $g$ ) और सिमेंटिक्स ( $s$ ) को एकीकृत करने वाली एक मल्टी-ऑब्जेक्टिव समस्या के रूप में मानता है:

ओरकल रिवॉर्ड (Oracle Reward): सिंटैक्स और सिमेंटिक रिवॉर्ड का एक भारित (weighted) संयोजन: $r^*(x, y) = w \cdot r^*_g(x, y) + (1-w) \cdot r^*_s(x, y)$ ।
प्रेफरेंस डेटासेट निर्माण:
- सिंटैक्स: प्रेफरेंस पेयर्स कंपाइलर फीडबैक (Pass बनाम Fail) के आधार पर नियत रूप से निर्मित किए जाते हैं।
- सिमेंटिक: सिमेंटिक रिवॉर्ड मॉडल सॉफ्ट गाइडेंस प्रदान करता है। चुने गए (Pass) और अस्वीकृत (Fail) नमूनों के बीच सिमेंटिक स्कोर अंतर को एक रेक्टिफिकेशन टर्म के रूप में इंजेक्ट किया जाता है।
ऑप्टिमाइजेशन ऑब्जेक्टिव: लेखक एक संशोधित DPO लॉस फंक्शन (Eq. 7) निकालते हैं जो एक ऑब्जेक्टिव (जैसे, सिंटैक्स) से प्रेफरेंस डेटा का लाभ उठाता है जबकि पूरक ऑब्जेक्टिव (जैसे, सिमेंटिक्स) से स्पष्ट रिवॉर्ड अंतर को एक बायस टर्म के रूप में एकीकृत करता है। यह अनुकूलन चरण के दौरान एक अलग रिवॉर्ड मॉडल की आवश्यकता के बिना दोनों उद्देश्यों का एक साथ मॉडलिंग करने की अनुमति देता है।

मुख्य योगदान

CTO फ्रेमवर्क: एक नया दृष्टिकोण जो एक एकल प्रेफरेंस ऑप्टिमाइजेशन प्रक्रिया में सिंटैक्स और सिमेंटिक्स को एकीकृत करता है, जो DPO के भीतर एक रिवॉर्ड-बायसिंग मैकेनिज्म पेश करता है।
क्रॉस-लिंगुअल सिमेंटिक मॉडल: कॉन्ट्रास्टिव लर्निंग के माध्यम से प्रशिक्षित एक मजबूत रिवॉर्ड स्रोत जो सीधे सोर्स और टारगेट कोड के बीच कार्यात्मक समानता का मूल्यांकन करता है, जिससे टेस्ट-केस स्पर्सिटी और रेफरेंस डिपेंडेंसी की सीमाओं को दूर किया जा सकता है।
अनुभवजन्य सत्यापन (Empirical Validation): व्यापक प्रयोग जो दर्शाते हैं कि CTO कई भाषा युग्मों (language pairs) और मॉडल आकारों में मौजूदा बेसलाइन्स (अनसुपरवाइज्ड मेथड्स, सुपरवाइज्ड फाइन-ट्यूनिंग और PPO-आधारित दृष्टिकोणों सहित) से काफी बेहतर प्रदर्शन करता है।

प्रयोगात्मक परिणाम

लेखकों ने C++, Java और Python के बीच अनुवादों से संबंधित TransCoder-Test और HumanEval-X बेंचमार्क पर CTO का मूल्यांकन किया।

प्रदर्शन लाभ:
- CodeT5 मॉडल का उपयोग करते हुए, CTO ने SFT बेसलाइन्स की तुलना में TransCoder-Test पर 3.66% और HumanEval-X पर 4.27% तक सटीकता में सुधार किया।
- बड़े CodeLlama-7B मॉडल का उपयोग करते हुए, CTO ने क्रमशः संबंधित डेटासेट्स पर 5.60% और 6.70% की सटीकता वृद्धि प्रदान की।
- Qwen2.5-Coder-7B का उपयोग करते हुए, CTO ने सभी कार्यों में उच्चतम स्कोर प्राप्त किया, जो SFT और अन्य प्रेफरेंस ऑप्टिमाइजेशन रणनीतियों (IPO, SimPO) से काफी बेहतर है।
एब्लेशन स्टडीज (Ablation Studies): सिमेंटिक या सिंटैक्स में से किसी एक को हटाने से प्रदर्शन में गिरावट आई, जो पुष्टि करता है कि मल्टी-ऑब्जेक्टिव ऑप्टिमाइजेशन महत्वपूर्ण है।
रिवॉर्ड मॉडल तुलना: सीखा गया सिमेंटिक रिवॉर्ड मॉडल, सिमेंटिक सिग्नल के रूप में CTO में उपयोग किए जाने पर CodeBLEU और CodeBERTScore जैसे रेफरेंस-आधारित मेट्रिक्स से लगातार बेहतर रहा।

महत्व और दावे

शोध पत्र का दावा है कि CTO कोड अनुवाद में सिंटैक्टिक वैधता को सिमेंटिक शुद्धता से अलग करने (decoupling) की मौलिक चुनौती को संबोधित करता है। सोर्स कोड से सीधे सिमेंटिक रिवॉर्ड प्राप्त करके और उन्हें एक एकीकृत प्रेफरेंस ऑप्टिमाइजेशन फ्रेमवर्क में एकीकृत करके, CTO टेस्ट-केस की विरलता और अपूर्ण रेफरेंस ट्रांसलेशन के दोषों से बचता है। लेखक दावा करते हैं कि यह दृष्टिकोण LLMs को सोर्स कोड की इच्छित कार्यक्षमता के साथ संरेखित करने के लिए एक अधिक मजबूत और सामान्यीकरण योग्य रणनीति प्रदान करता है, जिससे विभिन्न मॉडल आर्किटेक्चर और प्रोग्रामिंग भाषाओं में बेहतर अनुवाद सटीकता और स्थिरता प्राप्त होती है।