CodeEvo: Interaction-Driven Synthesis of Code-centric Data through Hybrid and Iterative Feedback
यह शोध पत्र CodeEvo को प्रस्तुत करता है, जो एक दोहरा-एजेंट ढांचा (dual-agent framework) है जो पुनरावृत्ति हाइब्रिड फीडबैक के माध्यम से उच्च-गुणवत्ता वाले, तार्किक रूप से जटिल निर्देश-कोड युग्मों को संश्लेषित करता है, जिसके परिणामस्वरूप CodeEvo-100K डेटासेट प्राप्त होता है जो कोड जेनरेशन मॉडलों के प्रदर्शन को महत्वपूर्ण रूप से बढ़ाता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक रोबोट को एक शानदार प्रोग्रामर बनने के लिए सिखाने की कोशिश कर रहे हैं। आप बस बैठकर हाथ से दस लाख कोडिंग समस्याएँ नहीं लिख सकते; इसमें बहुत समय लगेगा और आपके पास विचार भी खत्म हो जाएंगे। इसलिए, वैज्ञानिकों ने इन छात्र रोबोटों को सिखाने के लिए अन्य, अधिक स्मार्ट रोबोटों (जिन्हें लार्ज लैंग्वेज मॉडल्स कहा जाता है) का उपयोग करना शुरू कर दिया है। लेकिन यहाँ एक पेंच है: जब ये AI शिक्षक नई समस्याएँ बनाने की कोशिश करते हैं, तो वे अक्सर गलत हो जाते हैं। वे शायद एक ऐसी गणितीय प्रश्न लिख देते हैं जिसका कोई उत्तर ही नहीं है, या एक ऐसा कोडिंग कार्य जो कंप्यूटर को चलाते ही क्रैश कर देता है। यह वैसा ही है जैसे एक शिक्षक एक ऐसी परीक्षा बाँट रहा हो जहाँ आधे प्रश्न निरर्थक हों। यह पेपर, जिसका शीर्षक CodeEvo है, इस अव्यवस्थित समस्या को हल करने के लिए एक नया तरीका ईजाद करता है जिससे AI बिना किसी मानवीय जाँच के खुद को एकदम सटीक और हल करने योग्य कोडिंग चुनौतियाँ लिखना सिखा सके।
इसका मूल विचार दो मुख्य अवधारणाओं पर आधारित है। पहला, निर्देश (instruction) है, जो समस्या का विवरण है (जैसे "एक सूची को सॉर्ट करने वाला फंक्शन लिखें")। दूसरा, कोड (code) है, जो समाधान है। लक्ष्य इन दोनों के ऐसे जोड़े बनाना है जो न केवल सही हों, बल्कि धीरे-धीरे कठिन और अधिक दिलचस्प भी होते जाएँ। लेखक सुझाव देते हैं कि पुराना तरीका—बस AI से यह कहना कि "इसे और कठिन बनाओ"—बहुत अस्पष्ट है और इसके परिणामस्वरूप टूटे हुए परिणाम मिलते हैं। इसके बजाय, वे एक प्रणाली का प्रस्ताव देते हैं जहाँ AI एक दो-सदस्यीय टीम की तरह कार्य करता है: एक कोडर (Coder) जो समस्या को हल करने की कोशिश करता है, और एक समीक्षक (Reviewer) जो काम को ग्रेड देता है और अगली चुनौती डिजाइन करता है।
दो-एजेंटों का नृत्य: कोडर और समीक्षक
लेखकों ने CodeEvo नामक एक फ्रेमवर्क बनाया है, जो अनिवार्य रूप से एक उच्च-तकनीकी, स्वचालित कार्यशाला है जहाँ दो AI एजेंट एक लूप में मिलकर काम करते हैं। इसे एक वीडियो गेम की तरह समझें जहाँ एक खिलाड़ी (कोडर) स्तर को पार करने की कोशिश करता है, और दूसरा खिलाड़ी (समीक्षक) स्तर के डिज़ाइनर और रेफरी दोनों की भूमिका निभाता है।
पुराने तरीकों में, "लेवल डिज़ाइनर" बस चिल्लाता था, "इस लेवल को कठिन बनाओ!" और अच्छे परिणाम की उम्मीद करता था। अक्सर, परिणाम एक ऐसा लेवल होता था जिसे जीतना असंभव होता या जिसका कोई अर्थ नहीं होता। CodeEvo खेल बदल देता है। समीक्षक द्वारा नया प्रश्न लिखने से पहले, वह एक स्कीमा (Schema) बनाता है। कल्पना कीजिए कि यह एक ब्लूप्रिंट या रेसिपी कार्ड है। समीक्षक वर्तमान समस्या को देखता है और उसमें मिलाने के लिए विशिष्ट "सामग्री" (जैसे कीवर्ड्स: Matrix, Recursion, Big Integer) चुनता है। स्कीमा एक योजना है जो कहती है, "ठीक है, हम वर्तमान तर्क को लेंगे और इसे पेचीदा बनाने के लिए इसमें एक मैट्रिक्स मल्टीप्लिकेशन स्टेप जोड़ेंगे, लेकिन हमें इसे हल करने योग्य रखना होगा।" यह सुनिश्चित करता है कि नया प्रश्न वास्तविक तर्क पर आधारित हो, न कि केवल शब्दों का बेतरतीब समूह।
एक बार जब समीक्षक ब्लूप्रिंट डिजाइन कर लेता है, तो कोडर उस कोड को लिखने की कोशिश करता है ताकि समस्या को हल किया जा सके। लेकिन यहीं पर जादू होता है: सिस्टम केवल कोड को स्वीकार नहीं करता है। यह कोड को एक हाइब्रिड फीडबैक (Hybrid Feedback) लूप के माध्यम से परखता है।
डबल-चेक सिस्टम
आमतौर पर, जब कोई AI कोड लिखता है, तो वह सही लग सकता है लेकिन वास्तव में चलाने पर विफल हो सकता है। इसे ठीक करने के लिए, CodeEvo दो-चरणीय सत्यापन प्रक्रिया का उपयोग करता है। सबसे पहले, यह कोड को एक कंपाइलर (एक उपकरण जो यह जाँचता है कि क्या कोड प्रोग्रामिंग भाषा के सख्त नियमों का पालन करता है) के माध्यम से चलाता है। यदि कोड क्रैश होता है या इसमें सिंटैक्स एरर है, तो कंपाइलर कहता है "नहीं"। लेकिन कभी-कभी, कोड बिना क्रैश हुए चलता है लेकिन फिर भी गलत उत्तर देता है।
इसलिए, समीक्षक फिर से कदम रखता है। इस बार, वह एक मानव न्यायाधीश की तरह कार्य करता है, जो कोड और समस्या के विवरण को पढ़कर यह देखता है कि क्या तर्क वास्तव में मेल खाता है। वह पूछता है, "क्या आपने वास्तव में समस्या को हल किया है, या आप सिर्फ भाग्यशाली रहे?" कंपाइलर की सख्त, भावनाहीन जाँच को AI समीक्षक की स्मार्ट, प्रासंगिक जाँच के साथ जोड़कर, यह सिस्टम खराब डेटा को फ़िल्टर कर देता है। यदि कोड विफल होता है, तो कोडर को एक विस्तृत रिपोर्ट मिलती है कि क्या गलत हुआ और वह फिर से प्रयास करता है। यह बार-बार होता रहता है जब तक कि कोड एकदम सटीक न हो जाए।
डेटा का एक विशाल पर्वत बनाना
इस पद्धति का उपयोग करते हुए, लेखकों ने CodeEvo-100K नामक एक विशाल डेटासेट बनाया। यह केवल 100,000 समस्याओं का रैंडम ढेर नहीं है; यह "क्रमिक कठिनाई" (stepped difficulty) के साथ तैयार किया गया एक सावधानीपूर्वक क्यूरेट किया गया संग्रह है। उन्होंने सरल 'सीड' समस्याओं से शुरुआत की और एजेंटों को उन्हें विकसित करने दिया। कुछ समस्याएँ आसान रहीं, कुछ मध्यम बनीं, और एक विशेष "कठिन" (Hard) सेट बनाया गया, जिसे एजेंटों को तीन या अधिक चरणों के परिशोधन (refinement) के माध्यम से कठिन बनाया गया।
परिणाम प्रभावशाली हैं। जब उन्होंने अन्य AI मॉडलों को इस नए डेटासेट पर प्रशिक्षित किया, तो वे मॉडल अन्य सिंथेटिक डेटा पर प्रशिक्षित मॉडलों की तुलना में कोडिंग समस्याओं को हल करने में काफी बेहतर हो गए। वास्तव में, CodeEvo के उच्च-गुणवत्ता वाले डेटा की एक छोटी मात्रा (लगभग 17,000 कठिन समस्याएँ) वास्तव में पुराने तरीकों द्वारा बनाए गए बहुत बड़े डेटासेट (75,000 समस्याएँ) से बेहतर काम करती है। यह सुझाव देता है कि प्रशिक्षण डेटा की केवल विशाल मात्रा होने से ज्यादा महत्वपूर्ण उसकी गुणवत्ता है।
यह क्यों मायने रखता है
यह पेपर स्पष्ट रूप से इस विचार का खंडन करता है कि आप केवल सरल, कठोर नियमों (heurिक्स) का उपयोग करके अच्छा कोडिंग डेटा उत्पन्न कर सकते हैं। वे दिखाते हैं कि एक संरचित योजना (स्कीमा) और एक कठोर जाँच प्रणाली (हाइब्रिड फीडबैक) के बिना, उत्पन्न डेटा अक्सर त्रुटियों या असंभव कार्यों से भरा होता है। उन्होंने यह भी पाया कि हालांकि यह प्रक्रिया केवल एक बार AI से कोड निकालने की तुलना में धीमी है, लेकिन परिणामी डेटा कहीं अधिक श्रेष्ठ है।
संक्षेप में, CodeEvo सुझाव देता है कि यदि आप एक स्मार्ट कोडिंग AI बनाना चाहते हैं, तो आपको उसे केवल लाखों रैंडम समस्याएँ नहीं देनी चाहिए। इसके बजाय, आपको एक ऐसी प्रणाली बनानी चाहिए जहाँ AI एजेंट एक-दूसरे को सिखाते हैं, अपने पाठों की सावधानीपूर्वक योजना बनाते हैं, और एक-एक बारीक चीज़ की जाँच के साथ एक-दूसरे के होमवर्क को ग्रेड करते हैं। परिणाम एक ऐसा डेटासेट है जो न केवल विशाल है, बल्कि तार्किक रूप से सुदृढ़, निष्पादनीय और अगली पीढ़ी के कोड-जेनरेटिंग रोबोटों को प्रशिक्षित करने के लिए तैयार है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।