SWE-Pruner: Self-Adaptive Context Pruning for Coding Agents
SWE-Pruner एक स्व-अनुकूलनीय (self-adaptive) कॉन्टेक्स्ट प्रूनिंग फ्रेमवर्क है जो स्पष्ट एजेंट लक्ष्यों के आधार पर अप्रासंगिक कोड को गतिशील रूप से फ़िल्टर करने के लिए एक टास्क-अवेयर न्यूरल स्किमर का उपयोग करता है, जो विभिन्न बेंचमार्क में कोडिंग एजेंट प्रदर्शन को बनाए रखते हुए या उसमें सुधार करते हुए टोकन उपयोग और लागत को काफी कम कर देता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक जासूस हैं जिसे एक विशाल, धूल भरी लाइब्रेरी में एक जटिल केस सुलझाना है। यह लाइब्रेरी एक कंप्यूटर प्रोग्राम का कोडबेस है, और आपका काम एक विशिष्ट बग ढूंढना या एक नया फीचर जोड़ना है।
समस्या: "बहुत अधिक जानकारी" का जाल
अतीत में, जब आप किसी सुपर-स्मार्ट एआई डिटेक्टिव (एक LLM एजेंट) से इन कोडिंग रहस्यों को सुलझाने के लिए कहते थे, तो आप उसे एक ही बार में पूरी लाइब्रेरी थमा देते थे। एआई उस सुराग को खोजने के लिए हर किताब, हर पन्ना और हर फुटनोट को पढ़ने की कोशिश करता था।
इससे दो बड़ी समस्याएं हुईं:
- यह अभिभूत हो गया: एआई के "दिमाग" (इसके कॉन्टेक्स्ट विंडो) की एक सीमा होती है। यदि आप इसे बहुत अधिक टेक्स्ट देते हैं, तो यह कहानी की शुरुआत को भूलने लगता है या अप्रासंगिक विवरणों (जैसे कार मैनुअल खोजने के दौरान कुकबुक पढ़ने) से भ्रमित हो जाता है।
- यह महंगा हो गया: एआई जितना शब्द पढ़ता और लिखता है, उसकी एक लागत आती है। हर सुराग के लिए पूरी लाइब्रेरी पढ़ना एक विश्वकोश को केवल एक फोन नंबर खोजने के लिए पढ़ने के लिए भुगतान करने जैसा था।
मौजूदा समाधानओं ने किताबों का सारांश बनाने या जगह बचाने के लिए यादृच्छिक रूप से शब्दों को हटाने की कोशिश करके इसे ठीक करने का प्रयास किया। लेकिन यह एक कार मैनुअल से "इंजन" या "ब्रेक" शब्द को हटाने के समान था। इसने तर्क को तोड़ दिया, जिससे कोड अपठनीय या बेकार हो गया।
समाधान: SWE-Pruner (एक कुशल लाइब्रेरियन)
लेखकों ने SWE-Pruner पेश किया है, जो एक अत्यधिक कुशल, स्वयं-अनुकूलित लाइब्रेरियन की तरह काम करता है जो आपके और लाइब्रेरी के बीच खड़ा है।
यह सरल शब्दों में इस प्रकार काम करता है:
- आप एक विशिष्ट प्रश्न पूछते हैं: केवल यह कहने के बजाय कि "यह फ़ाइल पढ़ें," एआई एजेंट को पहले एक विशिष्ट प्रश्न पूछने के लिए सिखाया जाता है, जैसे कि एक "गोल हिंट" (लक्ष्य का संकेत)। उदाहरण के लिए: "मुझे उस कोड के हिस्से को खोजने की आवश्यकता है जो यूजर लॉगिन एरर को हैंडल करता है।"
- लाइब्रेरियन सरसरी निगाह डालता है: SWE-Pruner (एक छोटा, तेज़ एआई मॉडल) विशाल फ़ाइल और विशिष्ट प्रश्न को लेता है। यह हर शब्द को गहराई से नहीं पढ़ता है; यह टेक्स्ट को बिल्कुल वैसे ही "स्कैन" करता है जैसे एक मानव प्रोग्रामर डिबगिंग करते समय करता है। वह जानता है कि "लॉगिन एरर्स" के लिए कौन सी लाइनें प्रासंगिक हैं और कौन सी लाइनें केवल "डेटाबेस सेटिंग्स" या "कलर थीम्स" के बारे में हैं।
- यह फालतू चीज़ों को काट देता है: लाइब्रेरियन अप्रासंगिक पन्नों को काट देता है और एआई एजेंट को केवल विशिष्ट, प्रासंगिक पैराग्राफ सौंप देता है। महत्वपूर्ण बात यह है कि वह ऐसा लाइन-दर-लाइन करता है। वह वाक्यों को टुकड़ों में नहीं काटता या कीवर्ड्स को यादृच्छिक रूप से नहीं हटाता है। यह कोड की संरचना को बरकरार रखता है, जैसे कि पिछले पैराग्राफ को हटाने के बावजूद पूरे पैराग्राफ को एक साथ रखना।
- परिणाम: एआई एजेंट को पहेली का एक छोटा, केंद्रित और साफ हिस्सा मिलता है। यह समस्या को तेज़ी से, कम गलतियों के साथ और बहुत कम लागत पर हल कर सकता है।
उपमा: "घास के ढेर में सुई" बनाम "छलनी"
- पुराना तरीका: आप पूरा घास का ढेर मेज पर डाल देते हैं और एआई को उसमें सुई खोजने के लिए कहते हैं। एआई थक जाता है, भ्रमित हो जाता है और बहुत पैसा खर्च करता है।
- खराब संपीड़न (Compression): आप घास के ढेर को कुचलकर उसे छोटा करने की कोशिश करते हैं। अब सुई एक छोटे, टूटे हुए भूसे के ढेर में दब गई है, और आप यह नहीं बता सकते कि ऊपर का हिस्सा कौन सा है।
- SWE-प्रूनर: आप एक छलनी का उपयोग करते हैं जो बिल्कुल सुई के आकार की है। आप घास के ढेर को हिलाते हैं, और केवल सुई (और उससे जुड़ा थोड़ा सा भूसा) ही नीचे गिरता है। बाकी की घास पीछे रह जाती है। सुई पूरी तरह से सुरक्षित और उपयोग के लिए तैयार है।
उन्होंने क्या पाया
इस पेपर ने वास्तविक दुनिया के कोडिंग कार्यों (जैसे GitHub पर बग फिक्स करना) पर इसका परीक्षण किया।
- लागत और गति: उन्होंने टेक्स्ट की मात्रा को 23% से 54% तक कम कर दिया जिसे एआई को पढ़ना था। इसका मतलब है कि एआई ने कार्यों को तेज़ी से और सस्ते में हल किया।
- स्मार्ट निर्णय: क्योंकि एआई अप्रासंगिक कोड से विचलित नहीं हुआ, इसलिए उसने वास्तव में बेहतर निर्णय लिए। कुछ परीक्षणों में, बग फिक्स करने की सफलता दर थोड़ी बढ़ गई क्योंकि एआई बेहतर ध्यान केंद्रित कर सका।
- कोई टूट-फूट नहीं: अन्य तरीकों के विपरीत जो कोड के व्याकरण को तोड़ देते थे, SWE-Pruner ने कोड की संरचना को एकदम सही रखा, जिससे एआई अभी भी समझ सका कि हिस्से एक-दूसरे के साथ कैसे फिट होते हैं।
संक्षेप में, SWE-Pruner कोडिंग एजेंटों को पूरी किताब पढ़ने के बजाय केवल उन अध्यायों को पढ़ना सिखाता है जो महत्वपूर्ण हैं, जिससे समय, पैसा और मानसिक ऊर्जा की बचत होती है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।