SWE-Pruner Pro: The Coder LLM Already Knows What to Prune
SWE-Pruner Pro एक हल्के हेड (lightweight head) का उपयोग करके कोडिंग एजेंटों के आंतरिक निरूपणों (internal representations) का लाभ उठाकर अप्रासंगिक टूल आउटपुट को सीधे काट देता है, जिससे बिना किसी अलग क्लासिफायर की आवश्यकता के महत्वपूर्ण टोकन बचत और बेहतर कार्य प्रदर्शन प्राप्त होता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक विशाल, अनंत पुस्तकालय के भीतर एक बहुत बड़े रहस्य को सुलझाने की कोशिश कर रहेกัน एक अत्यंत बुद्धिमान जासूस हैं। आपके पास एक रोबोट सहायक है जो कोई भी किताब पढ़ सकता है, लेकिन हर बार जब वह किसी लाइब्रेरियन से एक पन्ना मांगता है, तो लाइब्रेरियन उसे कागजों का एक ढेर थमा देता है जो कभी केवल एक वाक्य होता है और कभी हज़ार पन्नों का पाठ। समस्या यह है कि आपके रोबोट सहायक का ध्यान केंद्रित करने की अवधि (attention span) बहुत कम है। यदि आप उसे एक बार में बहुत अधिक टेक्स्ट खिला देते हैं, तो वह अभिभूत हो जाता है, सुराग भूलने लगता है, और गलतियाँ करने लगता है। यह "कोडिंग एजेंट्स" (coding agents) की दुनिया है—ऐसे AI प्रोग्राम जो फाइलों को पढ़ने और कमांड चलाने के द्वारा सॉफ्टवेयर लिखते हैं। उन्हें सूचनाओं में डूबने से बचाने के लिए, वैज्ञानिक उन्हें पढ़ाए गए टेक्स्ट के उबाऊ हिस्सों को "प्रून" (prune), या छाँटने का तरीका सिखाने की कोशिश कर रहे हैं।
लंबे समय तक, इसका समाधान एक दूसरे, अलग संपादक को रोबोट के बगल में खड़ा करने जैसा था। हर बार जब रोबोट को कागजों का नया ढेर मिलता, तो यह संपादक पूरे दस्तावेज़ को पढ़ता, तय करता कि क्या महत्वपूर्ण है, और बाकी को रोबोट के देखने से पहले ही फेंक देता। लेकिन यह धीमा और बोझिल था; यह ऐसा था जैसे किसी इंसान को सिर्फ यह बताने के लिए किताब पढ़ने को कहना कि दूसरे इंसान को क्या पढ़ना चाहिए। बड़ा सवाल यह था: क्या रोबलेट खुद जान सकता था कि क्या फेंकना है बिना किसी दूसरे व्यक्ति की मदद लिए?
यह शोध पत्र एक चतुर नई तकनीक पेश करता है जिसे SWE-Pruner Pro कहा जाता है। शोधकर्ताओं ने पाया कि रोबोट का मस्तिष्क वास्तव में पहले से ही जानता है कि टेक्स्ट की कौन सी पंक्तियाँ महत्वपूर्ण हैं और कौन सी केवल शोर (noise) हैं। यह ऐसा है जैसे रोबोट कागजात पढ़ रहा है और, गहराई में, मुख्य सुरागों के लिए महत्व की एक हल्की "गूँज" (buzz) और फालतू बातों के लिए "बोरियत" का संकेत महसूस कर रहा है। एक अलग संपादक को काम पर रखने के बजाय, टीम ने एक छोटा, हल्का "डिकोडर" बनाया जो इन आंतरिक गूँजों को सुनता है। जैसे ही रोबोट किसी टूल का आउटपुट पढ़ता है, यह डिकोडर उन भावनाओं को तुरंत हर एक पंक्ति के लिए एक सरल "रखें" (keep) या "मिटाएं" (delete) लेबल में अनुवादित कर देता है।
इसके परिणाम आश्चर्यजनक रूप से प्रभावी हैं। रोबोट के अपने आंतरिक संकेतों को सुनकर, यह प्रणाली उस टेक्स्ट को 39% तक कम कर सकती है जिसे रोबोट को प्रोसेस करना पड़ता है, जिससे कंप्यूटिंग पावर और समय की भारी बचत होती है। महत्वपूर्ण बात यह है कि रोबोट भ्रमित नहीं होता या अधिक गलतियाँ नहीं करता; वास्तव में, कुछ कठिन कोडिंग चुनौतियों में, रोबोट ने पहले की तुलना में 3.8% अधिक समस्याओं को हल किया क्योंकि वह शोर में खो नहीं गया था। यह शोध पत्र दिखाता है कि हमें AI की मेमोरी को प्रबंधित करने के लिए जटिल बाहरी उपकरण बनाने की आवश्यकता नहीं है; कभी-कभी, AI के पास पहले से ही नक्शा होता है, हमें बस उसे पढ़ना सीखने की जरूरत होती है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।