🤖 AI

SWE-AGILE: A Software Agent Framework for Efficiently Managing Dynamic Reasoning Context

SWE-AGILE एक नवीन सॉफ़्टवेयर एजेंट फ्रेमवर्क है जो विस्तृत तर्क (reasoning) के स्लाइडिंग विंडो को बनाए रखते हुए ऐतिहासिक संदर्भ को संक्षिप्त सारांशों में संकुचित करने की एक गतिशील रणनीति का उपयोग करके स्वायत्त सॉफ़्टवेयर इंजीनियरिंग में तर्क की गहराई और संदर्भ सीमाओं के बीच के समझौते को संबोधित करता है, जिससे कुशल 7B-8B मॉडलों के साथ SWE-Bench-Verified पर अत्याधुनिक प्रदर्शन प्राप्त होता है।

मूल लेखक: Shuquan Lian, Juncheng Liu, Yazhe Chen, Yuhong Chen, Hui Li

प्रकाशित 2026-04-14

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Shuquan Lian, Juncheng Liu, Yazhe Chen, Yuhong Chen, Hui Li

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक जासूस हैं जो एक विशाल, अस्त-व्यस्त पुस्तकालय (सॉफ्टवेयर कोड) में एक बहुत ही जटिल रहस्य को सुलझाने की कोशिश कर रहे हैं। आपको कई दिनों तक किताबें पढ़नी पड़ती है, सुराग खोजने होते हैं, रिपोर्ट लिखनी होती है और मदद के लिए लाइब्रेरियन से पूछना होता है।

वर्तमान AI जासूसों के साथ एक समस्या है, वे एक भयानक दुविधा का सामना करते हैं:

"भुलक्कड़" जासूस: यदि वे तेज़ होने की कोशिश करते हैं और केवल वही याद रखते हैं जो अभी हो रहा है, तो वे बड़े परिदृश्य (big picture) को भूलते जाते हैं। उन्हें हर नया कदम उठाने के लिए पूरी लाइब्रेरी को फिर से पढ़ना पड़ता है, जिससे बहुत अधिक समय और ऊर्जा बर्बाद होती है।
"जमाखोरी करने वाला" जासूस: यदि वे वह सब कुछ याद रखने की कोशिश करते हैं जो उन्होंने कभी सोचा था, तो उनका मस्तिष्क इतने नोट्स से भर जाता है कि वे महत्वपूर्ण सुराग भी नहीं ढूंढ पाते। वे अपने ही नोट्स से अभिभूत हो जाते हैं और गलतियाँ करने लगते हैं (इसे "लॉस्ट-इन-द-मिडल" समस्या कहा जाता है)।

SWE-AGILE एक नया फ्रेमवर्क है जो AI जासूस को इस समस्या को हल करने के लिए एक चतुर ट्रिक सिखाता है। यह एक "स्मार्ट, जादुई नोटबुक" देने जैसा है जिसमें दो विशेष भाग हैं।

जादुई नोटबुक: SWE-AGILE कैसे काम करता है

एक विशाल, अंतहीन स्क्रॉल में अपने हर विचार को लिखने के बजाय, SWE-AGLE एक "स्लाइडिंग विंडो" रणनीति का उपयोग करता है:

"लाइव" सेक्शन (स्लाइडिंग विंडो): जासूस अपने विस्तृत विचारों के पिछले कुछ पन्ने सामने रखता है। यह उसे यह याद रखने में मदद करता है कि वह अभी क्षणों पहले क्या कर रहा था ताकि उसे पहिया फिर से बनाने (re-invent the wheel) की ज़रूरत न पड़े।
"सारांश" सेक्शन (डाइजेस्ट): जैसे ही वह उन कुछ पन्नों से आगे बढ़ता है, वह पुराने नोट्स को फेंक नहीं देता। इसके बजाय, वह जो हुआ उसका एक एक-वाक्य का सारांश (एक "डाइजेस्ट") लिखता है और उसे नोटबुक के पीछे चिपका देता है।

उपमा (Analogy):
कल्पना कीजिए कि आप एक जटिल 10-कोर्स का भोजन बना रहे हैं।

पुराना तरीका: आप 10वें कोर्स को पकाते समय काउंटर पर पहले 9 कोर्स की पूरी विस्तृत रेसिपी लिखते रहते हैं। काउंटर अव्यवस्थित हो जाता है, और आप वह मसाला नहीं ढूंढ पाते जिसकी आपको ज़रूरत है।
SWE-AGILE तरीका: आप वर्तमान डिश के निर्देश अपने ठीक सामने रखते हैं। जिन डिशों को आप पहले ही बना चुके हैं, उनके लिए आप फ्रिज पर एक स्टिकी नोट पर बस "सूप बनाया" लिख देते हैं। आप जानते हैं कि सूप बन चुका है, लेकिन आपको जगह घेरने के लिए पूरी रेसिपी की आवश्यकता नहीं है।

तीन गुप्त सामग्रियां

इसे सफल बनाने के लिए, शोधकर्ताओं ने तीन विशेष तकनीकों का उपयोग किया है:

"स्नैपशॉट" प्रशिक्षण:
आमतौर पर, AI शुरू से अंत तक पूरी कहानी पढ़कर सीखता है। लेकिन SWE-AGILE AI को "स्नैशॉट" में अभ्यास करना सिखाता है। यह AI को यह सीखने के लिए मजबूर करता है कि वह अभी भी सोचते समय एक सारांश कैसे लिखे। यह एक छात्र को परीक्षा के लिए अभ्यास कराने जैसा है जिसे कहा जाता है, "आप अपने नोट्स के केवल पिछले 3 पन्नों को देख सकते हैं, लेकिन आपको बाकी किताब का सारांश बनाना होगा।" यह AI को पहले दिन से ही कुशल बनने के लिए प्रशिक्षित करता है।
"हाइंडसाइट" बैकफिल:
शोधकर्ताओं ने पुराने, सफल जासूसी मामलों को लिया जहाँ AI ने अपने गहरे विचार नहीं लिखे थे (उसने केवल अनुमान लगाया था)। उन्होंने एक सुपर-स्मार्ट AI का उपयोग करके बाद में "खाली जगहों को भरने" के लिए किया, यानी बाद में गहन तर्क (reasoning) लिखा। यह एक उच्च-गुणवत्ता वाली प्रशिक्षण नियमावली बनाता है जो AI को सिखाती है कि केवल क्या करना है, बल्कि कैसे गहराई से सोचना है।
"दक्षता पुरस्कार" (Efficiency Reward):
जब AI अभ्यास करता है, तो उसे एक स्कोर मिलता है। लेकिन यह केवल रहस्य सुलझाने के बारे में नहीं है; यह इस बारे में भी है कि उसने अपने नोट्स कितनी सफाई से पैक किए। यदि AI समस्या सुलझा लेता है लेकिन 1-पेज के सारांश के बजाय 10-पेज का सारांश लिखता है, तो उसे कम स्कोर मिलता है। यह AI को एक "संक्षिप्त विचारक" बनने के लिए सिखाता है—जब ज़रूरत हो तब गहरा, और जब संभव हो तब संक्षिप्त।

यह क्यों मायने रखता है

इसके परिणाम प्रभावशाली हैं। इस पद्धति का उपयोग करके, एक अपेक्षाकृत छोटा AI (एक मानक लैपटॉप प्रोग्राम के आकार का, न कि सुपरकंप्यूटर का) बहुत बड़े और महंगे AI मॉडल की तुलना में सॉफ़्टवेयर बग्स को बेहतर ढंग से हल करने में सक्षम था।

संक्षेप में: SWE-AGILE AI को एक स्मार्ट आर्काइविस्ट बनना सिखाता है। वह जानता है कि कब गहराई से सोचना है और कब सारांश लिखना है, जिससे उसका मन स्पष्ट और केंद्रित रहता है ताकि वह अपने ही विचारों में खोए बिना जटिल समस्याओं को हल कर सके। यह एक जासूस के बीच का अंतर है जो कागज के समुद्र में डूब रहा है और वह जो एक व्यवस्थित, कुशल केस फाइल रखता है।

यहाँ शोध पत्र "SWE-AGILE: कुशल गतिशील तर्क संदर्भ (Dynamic Reasoning Context) प्रबंधन के लिए एक सॉफ्टवेयर एजेंट फ्रेमवर्क" का विस्तृत तकनीकी सारांश दिया गया है।

1. समस्या विवरण (Problem Statement)

स्वायत्त सॉफ्टवेयर इंजीनियरिंग (SWE) एजेंट जटिल, बहु-चरण (multi-turn) कार्यों के लिए System-2 रीजनिंग (गहन, विश्लेषणात्मक Chain-of-Thought) का लाभ उठाने का प्रयास करते समय एक मौलिक दुविधा का सामना करते हैं:

संदर्भ विस्फोट और "Lost-in-the-Middle": पूर्ण रीजनिंग इतिहास (Interleaved Thinking) को बनाए रखने से विशाल कॉन्टेक्स्ट विंडो बन जाती है। इसके कारण अटेंशन डाइल्यूशन (मॉडल लंबे अनुक्रमों के बीच से प्रासंगिक जानकारी खोजने में संघर्ष करता है) और अत्यधिक GPU मेमोरी उपयोग के कारण प्रदर्शन में गिरावट आती है।
अनावश्यक पुन: तर्क (Redundant Re-reasoning): संदर्भ बचाने के लिए ऐतिहासिक तर्क को हटा देने से एजेंट को प्रत्येक चरण पर पूरी समस्या की स्थिति का पुन: विश्लेषण करने के लिए मजबूर होना पड़ता है, जिससे टोकन अक्षमता और संज्ञानात्मक विस्मृति (cognitive amnesia) होती है।
प्रशिक्षण-अनुमान बेमेल (Training-Inference Mismatch): मानक प्रशिक्षण एक निरंतर अनुक्रम मानता है जहाँ सारा इतिहास दृश्यमान होता है। हालाँकि, गतिशील अनुमान (inference) के लिए कॉन्टेक्स्ट सीमाओं में फिट होने के लिए पिछले विस्तृत तर्क को छिपाना आवश्यक है, जो एक अंतराल पैदा करता है जिसके कारण मानक मॉडल कॉन्टेक्स सीमाओं के साथ तैनात होने पर विफल हो जाते हैं।

2. कार्यप्रणाली: SWE-AGILE

SWE-AGILE एक फ्रेमवर्क है जिसे तर्क की गहराई, दक्षता और संदर्भ सीमाओं के बीच के अंतर को पाटने के लिए डिज़ाइन किया गया है। यह तीन मुख्य घटकों के माध्यम से कार्य करता है:

A. गतिशील तर्क संदर्भ रणनीति (Dynamic Reasoning Context Strategy)

पूर्ण इतिहास रखने या उसे पूरी तरह से हटाने के बजाय, SWE-AGILE एक हाइब्रिड दृष्टिकोण अपनाता है:

स्लाइडिंग रीजनिंग विंडो (Sliding Reasoning Window): संज्ञानात्मक निरंतरता सुनिश्चित करने और अनावश्यक पुन: विश्लेषण को रोकने के लिए विस्तृत तर्क ट्रेस ( $r_t$ ) का एक "Last-N-Steps" विंडो बनाए रखता है।
रीजनिंग डाइजेस्ट (Reasoning Digests): स्लाइडिंग विंडो के बाहर के ऐतिहासिक तर्क ट्रेस को संक्षिप्त रीजनिंग डाइजेस्ट ( $d_t$ ) में संकुचित किया जाता है।
हाइब्रिड कॉन्टेक्स्ट ( $C_t$ ): मॉडल को दिया जाने वाला कॉन्टेक्स्ट अवलोकनों/कार्यों का पूर्ण इतिहास है, लेकिन विस्तृत तर्क को विंडो के बाहर के चरणों के लिए डाइजेस्ट द्वारा प्रतिस्थापित किया जाता है।
- संरचना: $Y_t = r_t \oplus d_t \oplus a_t$ (तर्क $\to$ डाइजेस्ट $\to$ क्रिया)।

B. ट्राजेक्टरी स्नैपशॉट प्रशिक्षण (Trajectory Snapshot Training)

प्रशिक्षण-अनुमान बेमेल को हल करने के लिए, लेखक लंबी ट्राजेक्टरीज को अलग-अलग स्नैपशॉट्स में विभाजित करने का प्रस्ताव देते हैं:

फ्रोजन कॉन्टेक्स्ट (Frozen Context): प्रत्येक स्नैपशॉट में, इनपुट कॉन्टेक्स्ट अनुमान अवस्था (inference state) का अनुकरण करता है (ऐतिहासिक तर्क पहले से ही डाइजेस्ट में संकुचित है)। ये टोकन मॉडल के लिए दृश्यमान हैं लेकिन लॉस फंक्शन से छिपे (masked) हुए हैं।
एक्टिव टारगेट (Active Target): मॉडल को केवल वर्तमान चरण के तर्क ( $r_t$ ), डाइजेस्ट ( $d_t$ ), और क्रिया ( $a_t$ ) की भविष्यवाणी करने के लिए प्रशिक्षित किया जाता है।
लाभ: यह मॉडल को केवल रनटाइम पर उपलब्ध संकुचित कॉन्टेक्स्ट के आधार पर अगला चरण उत्पन्न करना सीखने के लिए मजबूर करता है, न कि पूर्ण ऐतिहासिक दृश्यता पर निर्भर रहने के लिए।

C. बैकफिलिंग रीजनिंग और डाइजेस्ट सिंथेसिस (Backfilling Reasoning and Digest Synthesis)

चूंकि मौजूदा SWE डेटासेट में अक्सर स्पष्ट System-2 रीजनिंग का अभाव होता है, इसलिए लेखकों ने एक हाइंडसाइट बैकफिल (Hindsight Backfill) पाइपलाइन विकसित की है:

प्रक्रिया: एक शक्तिशाली रीजनिंग मॉडल (जैसे Qwen3-235B) सफल कच्चे ट्राजेक्टरीज (जिनमें अक्सर उथले विचार होते हैं) को लेता है और उन्हें विस्तृत तर्क ( $r_t$ ) और संक्षिप्त डाइजेस्ट ( $d_t$ ) के साथ "बैकफिल" करता है।
इनपुट: सिंथेसाइज़र ग्राउंड-ट्रुथ एक्शन (भविष्य का ज्ञान), मूल उथला विचार (इरादा), और डायनेमिक कॉन्टेक्स्ट बाधाओं का उपयोग करता है।
लक्ष्य: एक उच्च गुणवत्ता वाला, प्रारूप-अनुपालन योग्य प्रशिक्षण डेटा बनाना जो उथले ह्यूरिस्टिक्स और गहरे समस्या-समाधान के बीच के अंतर को पाटता है।

D. कंप्रेशन-अवेयर RLVR के साथ RLVR

फ्रेमवर्क पॉलिसी को अनुकूलित करने के लिए 'वेरिफिएबल रिवार्ड्स के साथ सुदृढीकरण शिक्षण' (RLVR) का उपयोग करता है:

रिवॉर्ड फंक्शन: $R(\tau) = I_{success} \cdot (1 + \beta \cdot \min(R_{comp}, \gamma))$ $R (τ) = I_{s u ccess} \cdot (1 + β \cdot min (R_{co m p}, γ))$ ।
- $I_{success}$ : बाइनरी टास्क सफलता (सुनिश्चित करता है कि शुद्धता को प्राथमिकता दी जाए)।
- $R_{comp}$ : ट्राजेक्टरी-स्तरीय संपीड़न दर (Compression Rate), जो डाइजेस्ट का उपयोग करके प्राप्त किए गए कॉन्टेक्स्ट टोकन की कमी को मापता है।
ग्लोबल बनाम लोकल: रिवॉर्ड प्रति-चरण औसत के बजाय एक ग्लोबल ट्राजेक्टरी-स्तरीय मीट्रिक का उपयोग करता है। यह मॉडल को सरल चरणों में तर्क बढ़ाकर "रिवॉर्ड हैकिंग" करने से रोकता है; इसके बजाय, यह जटिल चरणों के लिए गहन तर्क करने और अंतिम आउटपुट को आक्रामक रूप से संकुचित करने के लिए प्रोत्साहित करता है।

3. मुख्य योगदान

गतिशील तर्क संदर्भ: निरंतरता के लिए स्लाइडिंग विंडो और दीर्घकालिक प्रतिधारण के लिए रीजनिंग डाइजेस्ट का उपयोग करने वाली एक नवीन रणनीति, जो "Lost-in-the-Middle" समस्या को बिना अनावश्यक पुन: विश्लेषण के हल करती है।
ट्राजेक्टरी स्नैपशॉट प्रशिक्षण: एक प्रशिक्षण प्रतिमान जो मॉडल के लर्निंग ऑब्जेक्टिव को डायनेमिक विजिबिलिटी बाधाओं के साथ संरेखित करता है, जिससे प्रशिक्षण-अनुमान बेमेल समाप्त हो जाता है।
बैकफिलिंग डेटा सिंथेसिस: स्पष्ट System-2 रीजनिंग और संरचित डाइजेस्ट के साथ बिखरे हुए SWE ट्राजेक्टरीज को समृद्ध करने के लिए एक पाइपलाइन, जो छोटे डेटासेट (2.2k ट्राजेक्टरीज) पर प्रशिक्षण सक्षम करती है।
कंप्रेशन-अवेयर RLVR: एक रिवॉर्ड तंत्र जो तर्क की गहराई को कॉन्टेक्स्ट लागत से अलग करता है, मॉडल को आवश्यकतानुसार "गहन विचारक" और इतिहास के लिए "संक्षिप्त डिस्टिलर" बनने के लिए प्रोत्साहित करता है।

4. प्रयोगात्मक परिणाम

SWE-Bench-Verified बेंचमार्क (12 GitHub रिपॉजिटरी से 500 कार्यों) पर मूल्यांकन:

प्रदर्शन:
- SWE-AGILE (SFT) ने Qwen3-8B पर 21.45% सफलता दर प्राप्त की, जो बेस मॉडल (15.83%) पर 35.5% सापेक्ष सुधार है।
- SWE-AGILE (SFT + RLVR) ने 24.05% प्राप्त किया, जो सभी मौजूदा 7B/8B बेसलाइन से बेहतर है और बड़े मॉडल्स जैसे SkyRL-Agent-v0-14B (21.6%) को भी पीछे छोड़ देता है।
- Qwen3-14B पर लागू करने पर, इसने 30.06% प्राप्त किया, जो मौजूदा 14B बेसलाइन को काफी पीछे छोड़ देता है।
डेटा दक्षता: इसने केवल 2.2k प्रशिक्षण ट्राजेक्टरीज (SWE-Dev द्वारा उपयोग किए गए डेटा का 11%) का उपयोग करके ये परिणाम प्राप्त किए।
दक्षता विश्लेषण:
- कॉन्टेक्स्ट प्रबंधन: डाइजेस्ट को कॉग्निटिव कैश के रूप में उपयोग करके, SWE-AGILE ने "करेंट-स्टेप थिंकिंग" बेसलाइन की तुलना में प्रति चरण औसत रीजनिंग लंबाई को ~28% कम कर दिया।
- संपीड़न: कंप्रेशन रिवॉर्ड ने सफलता दर बनाए रखते हुए टेक्स्टुअल समरी (डाइजेस्ट) की लंबाई को 33.4% (41 से 27.3 टोकन तक) कम कर दिया।
- Lost-in-the-Middle: फ्रेमवर्क ने "इंटरलीव्ड थिंकिंग" (पूर्ण इतिहास) के कारण होने वाली प्रदर्शन गिरावट को सफलतापूर्वक कम किया, जिसने 8B मॉडल पर केवल 12.42% स्कोर किया था।

5. महत्व

छोटे मॉडल्स के लिए स्केलेबिलिटी: यह प्रदर्शित करता है कि यदि छोटे मॉडल्स (7B-8B) को कुशल कॉन्टेक्स मैनेजमेंट और स्पष्ट System-2 रीजनिंग से लैस किया जाए, तो वे जटिल SWE कार्यों में स्टेट-ऑफ-द-आर्ट प्रदर्शन प्राप्त कर सकते हैं, जो इस धारणा को चुनौती देता है कि केवल विशाल मॉडल्स ही गहरी रीजनिंग संभाल सकते हैं।
डेप्थ-एफिशिएंसी ट्रेड-ऑफ को हल करना: SWE-AGILE सिद्ध करता है कि तर्क की गहराई और कॉन्टेक्स सीमाएं परस्पर अनन्य (mutually exclusive) नहीं हैं। क्षणिक तर्क ओवरहेड को स्थायी संदर्भ प्रतिधारण से अलग करके, यह प्रदर्शन और टोकन दक्षता के पारेटो फ्रंटियर (Pareto frontier) को प्राप्त करता है।
एजेंटिक ट्रेनिंग के लिए नया प्रतिमान: "स्नैपशॉट ट्रेनिंग" और "बैकफिलिंग" दृष्टिकोण उन एजेंटों के लिए एक ब्लूप्रिंट प्रदान करते हैं जिन्हें लॉन्ग-होरिजन, मल्टी-टर्न वातावरण में प्रशिक्षित किया जाना है जहाँ कॉन्टेक्स सीमाएं एक प्राथमिक बाधा हैं।
भविष्य की दिशाएं: यह फ्रेमवर्क सरल सारांशीकरण से आगे बढ़कर, संरचित रीजनिंग कंप्रेशन के माध्यम से संज्ञानात्मक दक्षता को अनुकूलित करने के मार्ग खोलता है।