Compressing Code Context for LLM-based Issue Resolution
यह शोध पत्र SWEzze का प्रस्ताव करता है, जो एक नया फ्रेमवर्क है जो ऑरेकल-गाइडेड कोड डिस्टिलेशन (Oracle-guided Code Distillation) का उपयोग करके एक हल्के मॉडल को प्रशिक्षित करता है जो शोर को फ़िल्टर करते हुए आवश्यक फिक्स सामग्री को संरक्षित करके कोड संदर्भ को प्रभावी ढंग से संकुचित करता है, जिससे टोकन लागत में काफी कमी आती है और फ्रंटियर LLMs में GitHub इश्यू समाधान दरों में सुधार होता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक मास्टर डिटेक्टिव (AI) हैं जो एक जटिल अपराध (एक सॉफ्टवेयर बग) को सुलझाने की कोशिश कर रहे हैं, जो एक विशाल और अराजक शहर (एक विशाल कोडबेस) में हुआ है।
समस्या: बहुत अधिक कचरा (Clutter)
वर्तमान में, जब डिटेक्टिव घटनास्थल पर पहुँचता है, तो पुलिस उन्हें एक ऐसा बक्सा थमा देती है जिसमें सब कुछ होता है: हर एक सड़क, हर इमारत, हर व्यक्ति की डायरी और पूरे शहर का हर एक कचरा।
- लागत: इस भारी-भरकम बक्से को ले जाना महंगा और धीमा है।
- भ्रम: डिटेक्टिव बहुत अधिक उलझन में पड़ जाता है। महत्वपूर्ण सुराग (जो "फिक्स इंग्रीडिएंट्स" यानी सुधार के तत्व हैं) ढेर सारे अप्रासंगिक शोर के नीचे दब जाते हैं। डिटेक्टिव विचलित हो सकता है और वास्तविक समाधान को मिस कर सकता है।
मौजूदा टूल्स मदद करने की कोशिश करते हैं, लेकिन वे केवल बक्से का "सारांश" (summarize) देते हैं या कुछ चीजें रैंडम तरीके से फेंक देते हैं। लेकिन यह खतरनाक है। यदि आप अपराध स्थल का बहुत अधिक सारांश बना देते हैं, तो आप उस एक विशिष्ट उंगलियों के निशान (fingerprint) को भी फेंक सकते हैं जो मामले को सुलझा सकता था, भले ही वह धूल के एक छोटे से कण जैसा दिखता हो।
समाधान: "स्मार्ट फिल्टर" (SWEzze)
इस पेपर के लेखकों ने एक नया सिस्टम बनाया है जिसे SWEzze कहा जाता है। इसे एक सुपर-इंटेलिजेंट, जादुई छलनी की तरह समझें जो पुलिस (जो सबूत इकट्ठा करती है) और डिटेक्टिव (AI) के बीच बैठी है।
यह कैसे काम करता है, यहाँ एक कुकिंग एनालॉजी (खाना बनाने के उदाहरण) दी गई है:
1. "ओरेकल" शेफ (सिस्टम को प्रशिक्षित करना)
SWEzze को यह सिखाने के लिए कि क्या रखना है, शोधकर्ताओं ने एक "मास्टर शेफ" (एक ओरेकल) का उपयोग किया।
- मास्टर शेफ को एक विशाल, अस्त-व्यस्त पेंट्री (पूरा कोड कॉन्टेक्स्ट) और एक विशिष्ट रेसिपी (बग फिक्स) दी जाती है।
- शेफ विभिन्न संयोजनों (combinations) का उपयोग करके व्यंजन बनाने की कोशिश करता है।
- जादू: शेफ व्यवस्थित रूप से एक-एक करके सामग्री को हटाता है। यदि व्यंजन किसी विशेष सामग्री के बिना भी एकदम सही बनता है, तो वह सामग्री "शोर" (noise) है और उसे फेंक दिया जाता है। यदि वह सामग्री के बिना विफल हो जाता है, तो वह एक "फिक्स इंग्रीडिएंट" है और उसे सुरक्षित रखा जाता है।
- परिणाम एक मिनिमल सफिशिएंट कॉन्टेक्स्ट (Minimal Sufficient Context) है: सामग्रियों का सबसे छोटा, एकदम सटीक सेट जिसकी उस व्यंजन को बनाने के लिए आवश्यकता है।
2. छात्र शेफ (SWEzze)
SWEzze वह छात्र शेफ है जो मास्टर शेफ को हजारों बार ऐसा करते हुए देखता है।
- यह पैटर्न पहचानना सीखता है: "आह, जब रेसिपी में 'स्पाइसी' बग शामिल होता है, तो मुझे 'चिली' फंक्शन को रखना होगा, भले ही वह पेंट्री में कहीं दूर हो। लेकिन मैं 'साल्ट' फंक्शन को फेंक सकता हूँ क्योंकि वह सिर्फ जेनेरिक शोर है।"
- यह आवश्यक सामग्री (variables, विशिष्ट लॉजिक) और विचलित करने वाले कचरे (अनुपयोगी हेल्पर फंक्शन्स, अप्रासंगिक कमेंट्स) के बीच अंतर करना सीख जाता है।
3. अंतिम परिणाम
जब कोई वास्तविक बग आता है:
- पुलिस सबूतों का एक बड़ा ढेर इकट्ठा करती है (प्रारंभिक कॉन्टेक्स्ट)।
- SWEzze तेजी से उसे छानता है, केवल "फिक्स इंग्रीडिएंट्स" को रखता है और बाकी सबको बाहर निकाल देता है।
- डिटेक्टिव (AI) को एक छोटा, साफ और पूरी तरह से व्यवस्थित सबूतों का बक्सा मिलता है।
- परिणाम: डिटेक्टिव अपराध को तेजी से सुलझाता है, जांच में कम पैसा खर्च करता है, और कम गलतियाँ करता है क्योंकि वह कचरे से विचलित नहीं होता है।
यह एक बड़ी बात क्यों है
- यह "सारांश" (Summarizing) से अधिक स्मार्ट है: पुराने टूल्स कोड का सारांश एक समाचार हेडलाइन की तरह देने की कोशिश करते थे। SWEzze कोड की संरचना (structure) को समझता है। वह जानता है कि यदि आप एक विशिष्ट परिभाषा (definition) को हटा देते हैं, तो पूरा प्रोग्राम टूट जाएगा, इसलिए वह उस परिभाषा को रखता है, भले ही वह बहुत उबाऊ लगे।
- यह पैसे बचाता है: AI द्वारा पढ़े जाने वाले डेटा की मात्रा को लगभग 6 गुना कम करके, यह कंप्यूटिंग पावर (और पैसे) की भारी बचत करता है।
- यह बेहतर काम करता है: आश्चर्यजनक रूप से, AI को कम जानकारी (लेकिन सही जानकारी) देकर, इसने पूर्ण, अस्त-व्यस्त कॉन्टेक्स्ट दिए जाने की तुलना में अधिक बग्स हल किए। यह ठीक वैसा ही है जैसे एक डिटेक्टिव 1,000 अप्रासंगिक गवाहों का इंटरव्यू लेने के बजाय मुख्य गवाह पर ध्यान केंद्रित करके केस को बेहतर ढंग से सुलझाता है।
संक्षेप में
यह पेपर एक ऐसे टूल का परिचय देता है जो AI के लिए एक स्मार्ट एडिटर की तरह काम करता है। AI को एक वाक्य खोजने के लिए 100 पन्नों का उपन्यास खिलाने के बजाय, SWEzze उस उपन्यास को काटकर केवल वही एक पन्ना बना देता है जो मायने रखता है, यह सुनिश्चित करता है कि AI इसे जल्दी पढ़ सके, इसे पूरी तरह समझ सके और शोर में खोए बिना समस्या को ठीक कर सके।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।