Beyond Code Pairs: Dialogue-Based Data Generation for LLM Code Translation
यह शोध पत्र एक स्वचालित, संवाद-आधारित डेटासेट जनरेशन पाइपलाइन प्रस्तुत करता है जो कंपाइलर और रनटाइम फीडबैक के साथ एक दोहरे-LLM क्वेश्चनर-सॉल्वर डिज़ाइन का लाभ उठाता है ताकि सत्यापित कोड अनुवाद और तर्क संबंधी संवाद बनाए जा सकें, जो फोर्ट्रान और CUDA जैसे कम-संसाधन वाले डोमेन में LLMs की कार्यात्मक शुद्धता को महत्वपूर्ण रूप से बढ़ाता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक प्रतिभाशाली लेकिन अनुभवहीन प्रशिक्षु (apprentice) को एक पुरानी, अस्पष्ट भाषा (जैसे Fortran) से एक आधुनिक भाषा (जैसे C++ या CUDA) में एक जटिल रेसिपी का अनुवाद करना सिखाने की कोशिश कर रहे हैं।
समस्या: "ब्लैक बॉक्स" अनुवाद
पारंपरिक रूप से, जब हम AI को कोड अनुवाद करना सिखाते हैं, तो हम उसे "सोर्स कोड" और "टारगेट कोड" अगल-बगल दिखाते हैं। यह ऐसा है जैसे आप प्रशिक्षु को सामग्री की एक सूची और अंतिम व्यंजन दिखा रहे हों, लेकिन उन्हें कभी खाना बनाने की प्रक्रिया नहीं देखने देते। वे सही व्यंजन का अनुमान तो लगा सकते हैं, लेकिन यदि वे कोई गलती करते हैं, तो उन्हें पता नहीं चलेगा कि क्यों या कैसे इसे ठीक किया जाए। वे बस एक ऐसा परिणाम देंगे जो दिखने में सही लगता है लेकिन वास्तव में जब आप इसे खाने (कोड चलाने) की कोशिश करेंगे तो विफल हो सकता है।
समाधान: "प्रश्नकर्ता" और "सुलझाने वाला"
यह शोध पत्र एक नया तरीका पेश करता है जिससे AI को प्रशिक्षित किया जाता है, जिसे Beyond Code Pairs कहा जाता है। केवल शुरुआत और अंत दिखाने के बजाय, उन्होंने अनुवाद प्रक्रिया के पूरे संवाद और संघर्ष को रिकॉर्ड करने वाली एक प्रणाली बनाई है।
इसे एक रसोई की तरह सोचें जिसमें दो अलग-अलग भूमिकाएँ हैं:
- प्रश्नकर्ता (शेफ का आलोचक): यह AI कोड नहीं लिखता है। इसके बजाय, यह एक सख्त हेड शेफ की तरह कार्य करता है। यह वर्तमान स्थिति को देखता है, त्रुटियों की जाँच करता है (जैसे कि कंपाइलर एरर या रनटाइम क्रैश), और विशिष्ट प्रश्न पूछता है: "यह क्यों क्रैश हुआ?" या "क्या आपने मेमोरी सीमाओं की जाँच की थी?" यह प्रक्रिया को निर्देशित करने के लिए वास्तविक दुनिया के फीडबैक का उपयोग करता है।
- सुलझाने वाला (प्रशिक्षु): यह AI वास्तव में कोड लिखता है। यह अनुवाद करने का प्रयास करता है, यूनिट टेस्ट (स्वाद परीक्षण की तरह) लिखता है, और उन त्रुटियों को ठीक करने का प्रयास करता है जिन्हें प्रश्नकर्ता द्वारा इंगित किया गया है।
प्रक्रिया: एक संवाद, न कि एक एकालाप
शोध पत्र एक पाइपलाइन का वर्णन करता है जहाँ ये दो AI एक बहु-चरणीय संवाद (multi-turn dialogue) में आपस में बात करते हैं:
- चरण 1: प्रश्नकर्ता, सुलझाने वाले को मूल कोड के लिए एक टेस्ट लिखने के लिए कहता है।
- चरण 2: सुलझाने वाला वह टेस्ट लिखता है। प्रश्नकर्ता जाँच करता है कि क्या वह पास होता है। यदि नहीं, तो वे सुधार के लिए बहस और परिष्करण करते हैं जब तक कि वह काम न करने लगे।
- चरण 3: प्रश्नकर्ता अनुवाद के लिए कहता है। सुलझाने वाला नया कोड लिखता है।
- चरण 4: प्रश्नकर्ता नए कोड को चलाता है। यदि यह क्रैश हो जाता है, तो प्रश्नकर्ता कहता है, "आप इस विशिष्ट त्रुटि को संभालना भूल गए!" सुलझाने वाला फिर इसे ठीक करता है।
- चरण 5: वे तब तक दोहराते रहते हैं जब तक कि कोड कंपाइल, रन और सभी टेस्ट पास न कर ले।
जादू यह है कि शोधकर्ताओं ने इस संवाद के हर एक मोड़ को सहेजा है। उन्होंने केवल अंतिम कोड को नहीं बचाया; उन्होंने गलतियों, प्रश्नों, कंपाइलर एरर संदेशों और सुधारों को भी सहेजा।
परिणाम: छोटे मॉडल, बड़ी जीत
शोधकर्ताओं ने Fortran से C++ और C++ से CUDA (ग्राफिक्स कार्ड के लिए एक भाषा) में अनुवाद करने के लिए इन "संवादों" को उत्पन्न करने के लिए इस पद्धति का उपयोग किया।
जब उन्होंने इन संवादों पर छोटे, ओपन-सोर्स AI मॉडल (जैसे कि 7-बिलियन पैरामीटर वाला मॉडल) को प्रशिक्षित किया, तो परिणाम चौंकाने वाले थे:
- कार्यात्मक शुद्धता (Functional Correctness): मॉडल ने केवल ऐसा कोड नहीं लिखा जो सही दिखता था; उन्होंने ऐसा कोड लिखा जो वास्तव में काम करता था। C++ से CUDA में अनुवाद करने के कठिन कार्य में, टेस्ट पास करने की सफलता दर 12.5% से बढ़कर 68.8% हो गई।
- दिग्गजों को पछाड़ना: इस "डायलॉग" डेटा पर प्रशिक्षित एक छोटा, ओपन-सोर्स मॉडल, कोड को कंपाइल करने और बिना क्रैश हुए चलाने जैसे प्रमुख मेट्रिक्स पर विशाल, महंगे, प्रोप्रायटरी सिस्टम (जैसे Google का Gemini या Meta का Llama 4) से बेहतर प्रदर्शन करता है।
निष्कर्ष
यह शोध पत्र तर्क देता है कि AI को जटिल कार्य करने के लिए सिखाने के लिए, आपको उन्हें केवल उत्तर नहीं दिखाना चाहिए। आपको उन्हें संघर्ष, प्रश्न और सुधार दिखाना होगा। केवल स्थिर कोड पेयर्स के बजाय इन "संवादों" पर प्रशिक्षण देकर, छोटे, सस्ते AI मॉडल भी तर्क करने और त्रुटियों को ठीक करने और उच्च गुणवत्ता वाला, कार्यात्मक सॉफ़्टवेयर बनाने की क्षमता विकसित कर सकते हैं।
संक्षेप में: AI को केवल उत्तर न सिखाएं; उसे सिखाएं कि कैसे सोचना, बहस करना और अपनी गलतियों को ठीक करना है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।