🤖 AI

Repair the Amplifier, Not the Symptom: Stable World-Model Correction for Agent Rollouts

यह शोधपत्र WM-SAR प्रस्तुत करता है, जो एक वर्ल्ड-मॉडल करेक्टर (world-model corrector) है जो पारंपरिक लक्षण-स्कैनिंग (symptom-scanning) दृष्टिकोणों से बेहतर प्रदर्शन करता है, क्योंकि यह बड़े एजेंट प्लानिंग ग्राफ में त्रुटियों को बढ़ाने वाले विशिष्ट कारण उप-ग्राफ (causal subgraph) की पहचान करता है और उन्हें ठीक करता है, जिससे पूर्ण-ग्राफ रीप्लानिंग की कम्प्यूटेशनल लागत के बिना कुशल इन-प्लेस स्थिरीकरण (in-place stabilization) सक्षम होता है।

मूल लेखक: Xinyuan Song, Zekun Cai

प्रकाशित 2026-07-03

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Xinyuan Song, Zekun Cai

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक विशाल अंतरिक्ष यान (एक AI एजेंट) के कप्तान हैं जो एक जटिल आकाशगंगा के माध्यम से रास्ता खोज रहा है। आपका जहाज केवल एक सीधी रेखा में नहीं चलता; यह अपनी यात्रा का एक विशाल, शाखाओं वाला मानचित्र बनाता है, जिसमें रास्ते में हजारों पड़ाव, टूल का उपयोग और जाँच शामिल होती है। इस मानचित्र को प्लानिंग ग्राफ (planning graph) कहा जाता है।

कभी-कभी, जहाज कोई गलती कर देता है। शायद उसने गलत ईंधन चुन लिया, स्टार चार्ट को गलत पढ़ लिया, या कोई नियम भूल गया। अतीत में, जब जहाज गलती करता था, तो मानक समाधान यह था कि पूरे मानचित्र को फेंक दिया जाए और पूरी यात्रा को शुरू से फिर से बनाया जाए।

लेखक इस पेपर में कहते हैं: "ऐसा करना बंद करें!"

उनका तर्क है कि पूरे मानचित्र को फिर से बनाना ईंधन (कंप्यूटेशनल पावर) और समय की बर्बादी है। यह एक पूरी किताब को फेंक देने जैसा है क्योंकि आपने पेज 50 पर एक शब्द गलत लिख दिया है। इसके बजाय, आपको उस विशिष्ट टूटे हुए हिस्से को खोजना चाहिए और केवल उसे ठीक करना चाहिए।

यहाँ समस्या यह है: ठीक वह टूटा हुआ हिस्सा कहाँ है?

"दृश्य लक्षणों" का जाल (The Trap of "Visible Symptoms")

अधिकांश वर्तमान मरम्मत विधियाँ एक ऐसे डॉक्टर की तरह कार्य करती हैं जो केवल बुखार का इलाज करता है।

परिदृश्य: जहाज का इंजन ओवरहीट हो रहा है (दृश्य लक्षण) क्योंकि तीन घंटे पहले ईंधन लाइन में एक छोटा सा वाल्व उल्टा लगाया गया था (मूल कारण)।
पुराना तरीका: "इंजीनियरिंग" मरम्मत विधि मानचित्र को स्कैन करती है, देखती है कि इंजन गर्म हो गया है, और कहती है, "आह, इंजन खराब है! चलिए इंजन को ठीक करते हैं।" यह इंजन को पैच करती है।
परिणाम: इंजन कुछ समय के लिए ठंडा हो जाता है, लेकिन क्योंकि उल्टा लगा हुआ वाल्व अभी भी वहीं है, यात्रा के अगले चरण में इंजन फिर से ओवरहीट हो जाता है। जहाज अभी भी खराब है; आपने केवल लक्षण का इलाज किया, बीमारी का नहीं।

नया समाधान: WM-SAR (द "एम्प्लीफायर" डिटेक्टर)

लेखक एक नई विधि प्रस्तावित करते हैं जिसे WM-SAR कहा जाता है। जो चीज़ सबसे अधिक टूटी हुई दिखती है उसे खोजने के बजाय, WM-SAR उस चीज़ को खोजता है जो पूरे सिस्टम को अस्थिर बनाती है।

इसे एक साउंड सिस्टम की तरह समझें जिसमें माइक्रोफ़ोन स्पीकर के बहुत करीब है।

लक्षण: स्पीकर बहुत ज़ोर से चीख रहे हैं (उच्च त्रुटि/error)।
पुराना समाधान: आप स्पीकर की आवाज़ कम कर देते हैं। चीख एक पल के लिए रुक जाती है, लेकिन जैसे ही आप आवाज़ वापस बढ़ाते हैं, यह फिर से चीखने लगता है क्योंकि माइक्रोफ़ोन अभी भी बहुत करीब है।
WM-SAR समाधान: यह विधि पूछती है, "शोर को क्या एम्प्लीफाई (बढ़ा) कर रहा है?" यह माइक और स्पीकर के बीच के फीडबैक लूप की पहचान करती है। यह केवल वॉल्यूम कम नहीं करती; यह माइक्रोफ़ोन को हटा देती है। एक बार जब फीडबैक लूप टूट जाता है, तो सिस्टम स्थिर हो जाता है, भले ही स्पीकर सबसे तेज़ शोर कर रहे हों।

WM-SAR कैसे काम करता है ("पीछे की ओर" खोज)

एम्प्लीफायर को खोजें: शुरुआत से अंत तक मैप को स्कैन करने के बजाय, WM-SAR विफलता (failure) से पीछे की ओर काम करता है। यह पूछता है: "कौन सा छोटा समूह, जो आपस में जुड़ा हुआ है, इस त्रुटि को दोहराने के लिए जिम्मेदार है?"
"कॉज़ल सबग्राफ" (Causal Subgraph) खोजें: यह घटनाओं की एक छोटी, जुड़ी हुई श्रृंखला (जैसे उल्टा वाल्व और फ्यूल पंप) को अलग करता है, जिसे ठीक करने से त्रुटि का बढ़ना रुक जाता है।
AI को एक छोटा सा नोट भेजें: AI को पूरे 10,000 चरणों वाले मानचित्र को दिखाने के बजाय (जो उसे भ्रमित करता है और मेमोरी बर्बाद करता है), WM-SAR केवल उस छोटे, टूटे हुए क्रम को AI के पास भेजता है।
AI इसे ठीक करता है: AI समस्या के इस साफ और केंद्रित हिस्से को देखता है, मूल कारण का पता लगाता है, और इसे ठीक करता है।

यह क्यों महत्वपूर्ण है

इस पेपर ने सिम्युलेटेड एजेंट कार्यों (जैसे सॉफ्टवेयर डिबगिंग और वेब नेविगेशन) पर इसका परीक्षण किया। उन्होंने पाया कि:

पुराने तरीकों ने अक्सर गलत चीज़ को ठीक किया या भाग्यशाली होने के लिए पूरे मानचित्र को देखना पड़ा।
WM-SAR ने बहुत कम जानकारी (कम "टोकन" या शब्द) का उपयोग करके समस्या को ठीक किया।
स्थिरता (Stability): WM-SAR द्वारा समस्या ठीक करने के बाद, एजेंट केवल अगले कदम पर जीवित नहीं रहा; वह सैकड़ों भविष्य के कदमों तक स्थिर रहा। त्रुटि वापस नहीं आई।

मुख्य निष्कर्ष (The Bottom Line)

इस पेपर का मुख्य संदेश है: केवल लक्षण को ठीक न करें; एम्प्लीफायर को ठीक करें।

यदि आप एक जटिल AI एजेंट को ठीक करना चाहते हैं, तो केवल उस हिस्से को पैच न करें जो वर्तमान में चिल्ला रहा है। उस छोटे, छिपे हुए कनेक्शन को खोजें जो पूरे सिस्टम को चिल्लाने पर मजबूर कर रहा है, उसे ठीक करें, और बाकी सिस्टम अपने आप शांत हो जाएगा। यह समय बचाता है, पैसा बचाता है, और AI को बहुत अधिक विश्वसनीय बनाता है।

तकनीकी सारांश: लक्षण को नहीं, एम्पलीफायर (Amplifier) को ठीक करें

समस्या का निरूपण (Problem Formulation)
जैसे-जैसे एजेंट प्लानिंग, छोटे टूल चेन्स से विकसित होकर हजारों स्टेप्स वाले निरंतर वर्कफ़्लो की ओर बढ़ रही है, विफलताएं अब अलग-थलग भविष्यवाणियों के बजाय बड़े प्लानिंग ग्राफों के भीतर होने लगी हैं। हर त्रुटि के बाद पूरे ग्राफ को फिर से प्लान (Replanning) करना गणनात्मक रूप से निषेधात्मक और अक्षम है; यह अत्यधिक कॉन्टेक्स्ट बजट खर्च करता है, LLMs को अप्रासंगिक लक्षणों के संपर्क में लाता है, और लॉन्ग-कॉन्टेक्स्ट रिट्रीवल प्रदर्शन को कम करने का जोखिम उठाता है।

मुख्य समस्या जिसका समाधान किया गया है वह है वर्ल्ड-मॉडल करेक्शन (World-Model Correction): एक विफल प्लानिंग ग्राफ के भीतर एक न्यूनतम, जुड़े हुए सबग्राफ (subgraph) की पहचान करना जिसका सुधार शेष सिस्टम को स्थिर कर सके। चुनौती दृश्यमान लक्षणों (वे नोड्स जिनमें तत्काल उच्च त्रुटि है) और अंतर्निहित "एम्पलीफायर्स" (वे सबग्राफ जो आगामी रोलआउट्स में त्रुटियों को पुनः प्रवर्धित या री-एम्पलीफाई करते हैं) के बीच अंतर करने में निहित है। इंजीनियरिंग दृष्टिकोण जो केवल उच्च-त्रुटि वाले नोड्स को स्कैन करते हैं या स्थानीय पड़ोस (neighborhoods) का विस्तार करते हैं, अक्सर विफल हो जाते हैं क्योंकि वे लक्षणों को तो पैच कर देते हैं लेकिन 'कॉज़ल एम्प्लीफिकेशन पाथ' (causal amplification path) को सक्रिय छोड़ देते हैं, जिससे त्रुटि की पुनरावृत्ति होती है।

कार्यप्रणाली: WM-SAR
यह शोध पत्र WM-SAR (World-Model Subgraph Amplification Repair) प्रस्तावित करता है, जो एक ऐसा करेक्टर है जो दृश्य लक्षणों के बजाय त्रुटि प्रवर्धन (error amplification) से पीछे की ओर काम करता है। यह विधि दो चरणों में कार्य करती है:

ग्राफ-आधारित क्षेत्र चयन (चरण 1):
- सैद्धांतिक आधार: यह दृष्टिकोण इस अवलोकन पर आधारित है कि रोलआउट एरर ग्रोथ, एक कपल्ड नोड-एज ऑपरेटर के स्पेक्ट्रल रेडियस ( $\rho(B)$ ) द्वारा नियंत्रित होती है। यदि $\rho(B) > 1$ है, तो त्रुटियां बढ़ती हैं; यदि $\rho(B) \le 1$ है, तो वे घटती हैं। लक्ष्य एक ऐसा सबग्राफ $R$ खोजना है जो इसे हटाकर अवशिष्ट स्पेक्ट्रल रेडियस $\rho(B_{G_f \setminus R})$ को न्यूनतम कर दे।
- स्कोरिंग: WM-SAR प्रत्येक नोड के लिए एक ग्राफ एरर एम्प्लीफिकेशन फील्ड (GEAF) स्कोर की गणना करता है, जो देखे गए त्रुटि परिमाण और नोड के स्थानीय स्पेक्ट्रल रेडियस के गुणनफल से परिभाषित होता है। यह नोड और एज चैनलों के बीच सुपर-एडिटिव इंटरैक्शन को मापने के लिए एक कपलिंग फैक्टर ( $\kappa_v$ ) की भी गणना करता है।
- ग्रीडी ग्रोथ (Greedy Growth): उच्च-स्कोरिंग सीड्स (seeds) से शुरू होकर, एल्गोरिदम रिपेयर रीजन को उन सीमावर्ती नोड्स को जोड़कर विस्तार देता है जो मार्जिनल स्पेक्ट्रल रिलीफ ( $\Delta\rho_{rel}$ ), यानी अवशिष्ट स्पेक्ट्रल रेडियस में कमी को अधिकतम करते हैं। यह प्रक्रिया तब तक चलती है जब तक कि बजट की सीमा पूरी न हो जाए या कोई और राहत संभव न हो।
- प्रूनिंग (Pruning): अनावश्यक नोड्स जिन्हें स्पेक्ट्रल रिलीफ में योगदान नहीं मिलता, उन्हें हटा दिया जाता है ताकि क्षेत्र सघन (compact) बना रहे।
LLM-आधारित रिपेयर (चरण 2):
एक बार जब इष्टतम सबग्राफ $R^*$ की पहचान हो जाती है, तो केवल इसी जुड़े हुए क्षेत्र को सीरियलाइज किया जाता है और LLM को भेजा जाता है। LLM को मूल कारण (root cause) की पहचान करने और एक संरचित रिपेयर निर्णय उत्पन्न करने का कार्य सौंपा जाता है। यह पूर्ण-ग्राफ दृष्टिकोणों के विपरीत है जो पूरे विफल ट्रेस को सीरियलाइज करते हैं, जिससे अप्रासंगिक डाउनस्ट्रीम लक्षणों पर टोकन बर्बाद होते हैं।

प्रमुख योगदान

समस्या का निरूपण: वर्ल्ड-मॉडल करेक्शन को एक बाधा-युक्त अनुकूलन (constrained optimization) समस्या के रूप में पुनर्गठित करता है: पूर्ण ग्राफ को फिर से प्लान करने या सबसे बड़ी त्रुटि को पैच करने के बजाय, उस न्यूनतम जुड़े हुए क्षेत्र को खोजना जो अवशिष्ट वर्ल्ड मॉडल को स्थिर करता है।
इंजीनियरिंग बेसलाइन्स: एक मजबूत इंजीनियरिंग करेक्टर परिवार (जिसमें Top-K, स्लाइडिंग विंडोज, k-hop नेबरहुड्स और कैस्केड स्कैन्स शामिल हैं) को लागू और मूल्यांकित किया गया है ताकि एक कठोर बेसलाइन स्थापित की जा सके।
WM-SAR एल्गोरिदम: एक स्पेक्ट्रल-ग्राफ दृष्टिकोण पेश करता है जो GEAF और नोड-एज कपलिंग का उपयोग करके "एम्प्लीफायर" सबग्राफ की पहचान करता है। यह एक सैद्धांतिक प्रमाण प्रदान करता है कि अवशिष्ट स्पेक्ट्रल रेडियस 'प्लानिंग रिग्रेट' को नियंत्रित करता है।
अनुभवजन्य साक्ष्य: यह प्रदर्शित करता है कि WM-SAR, फुल-ग्राफ LLM रिपेयर या बड़े नेबरहुड स्कैन द्वारा आवश्यक टोकन के एक अंश का उपयोग करके, लगभग पूर्ण-ग्राफ स्थिरता प्राप्त करता है।

परिणाम
प्रयोग एक सिंथेटिक हेटेरोजेनियस कॉलिंग-ट्री टेस्टबेड पर किए गए, जो प्लानर-एक्सेक्यूटर-वैलिडेटर वर्कफ़्लो की नकल करता है, और SWE-bench, WebArena और AgentBench से प्रेरित टोपोलॉजी पर भी किए गए।

स्थिरता बनाम लक्षण पैचिंग (Stability vs. Symptom Patching): इंजीनियरिंग करेक्टर (जैसे, Greedy-Point, Window-based) सफलतापूर्वक तत्काल त्रुटि को कम करते हैं, लेकिन अक्सर लंबे समय के (long-horizon) एरर कर्व को सपाट करने में विफल रहते हैं क्योंकि वे एम्प्लीफिकेशन चैनल को सक्रिय छोड़ देते हैं। WM-SAR, अवशिष्ट स्पेक्ट्रल रेडियस को लक्षित करके, एरर कर्व को सपाट कर देता है, जिससे त्रुटि का पुनर्विकास रुक जाता है।
टोकन दक्षता: WM-SAR, फुल-ग्राफ LLM रिपेयर की तुलना में समान या बेहतर रूट-कॉज़ रिकवरी प्राप्त करता है, जबकि काफी कम टोकन का उपयोग करता है (उदाहरण के लिए, GPT-4o-mini प्रयोगों में ~2157+ टोकन के मुकाबले ~855 टोकन)।
बजट संवेदनशीलता: सख्त रिपेयर बजट के तहत, WM-SAR छोटे रीजन साइज (जैसे, ~8 नोड्स) के साथ उच्च स्पेक्ट्रल रिलीफ तक पहुँच जाता है, जबकि इंजीनियरिंग विधियों को समान स्थिरता प्राप्त करने के लिए बहुत बड़े क्षेत्रों (अक्सर पूरे ग्राफ कवरेज के करीब) की आवश्यकता होती है।
क्रॉस-मॉडल मजबूती: WM-SAR का प्रदर्शन लाभ विभिन्न LLM टियर्स (GPT-4o, GPT-4o-mini, Gemini-2.5-Flash) में बना रहता है, जो यह दर्शाता है कि लाभ बेहतर कॉन्टेक्स्ट चयन से आता है न कि विशिष्ट मॉडल की विशेषताओं से।
सीमाएँ: यह विधि अवलोकन योग्य प्रति-नोड एरर सिग्नल पर निर्भर करती है। ब्लैक-बॉक्स एट्रिब्यूशन परिदृश्यों (जैसे, "Who&When" बेंचमार्क) में जहाँ केवल अंतिम उत्तर ज्ञात होता है, WM-SAR का प्रदर्शन गिर जाता है क्योंकि GEAF स्कोर की गणना नहीं की जा सकती, जिससे यह सरल सिंक-नोड (sink-node) चयन के व्यवहार में वापस चला जाता है।

महत्व और दावे
यह शोध पत्र तर्क देता है कि वर्तमान एजेंट रिपेयर रणनीतियों की प्राथमिक विफलता मोड रिपेयर टारगेट (दृश्य लक्षण) और स्थिरता उद्देश्य (अवशिष्ट प्रवर्धन) के बीच मिसअलाइनमेंट है। "एम्प्लीफायर को रिपेयर करने" पर ध्यान केंद्रित करके, WM-SAR एजेंटों को पूर्ण-ग्राफ रिप्लानिंग की अत्यधिक लागत उठाए बिना लंबे समय तक स्थिर वर्ल्ड मॉडल बनाए रखने में सक्षम बनाता है।

लेखक दावा करते हैं कि यह दृष्टिकोण ह्यूरिस्टिक स्कैनिंग के लिए एक सिद्धांत-आधारित विकल्प प्रदान करता है, जो एक "साफ" रिपेयर टारगेट देता है जो कॉज़ल ब्रिज को सुरक्षित रखता है और विचलित करने वाले डाउनस्ट्रीम शोर को हटा देता है। यह कार्य सुझाव देता है कि भविष्य के एजेंट सिस्टम को केवल सबसे दृश्यमान विफलताओं पर प्रतिक्रिया करने के बजाय, उन संरचनात्मक ऑपरेटरों की पहचान करने और उन्हें ठीक करने को प्राथमिकता देनी चाहिए जो त्रुटि को प्रसारित करते हैं।

"दृश्य लक्षणों" का जाल (The Trap of "Visible Symptoms")

नया समाधान: WM-SAR (द "एम्प्लीफायर" डिटेक्टर)

WM-SAR कैसे काम करता है ("पीछे की ओर" खोज)

यह क्यों महत्वपूर्ण है

मुख्य निष्कर्ष (The Bottom Line)

इसी तरह के और पेपर