💬 NLP

ReSum: Unlocking Long-Horizon Search Intelligence via Context Summarization

यह शोध पत्र ReSum को प्रस्तुत करता है, जो एक प्रशिक्षण-मुक्त (training-free), प्लग-एंड-प्ले फ्रेमवर्क है जो LLM-आधारित वेब एजेंटों को आवधिक इतिहास सारांश (periodic history summarization) के माध्यम से कॉन्टेक्स्ट विंडो की सीमाओं को पार करने में सक्षम बनाता है, जिसे आगे एडवांटेज ब्रॉडकास्टिंग (advantage broadcasting) के माध्यम से लॉन्ग-होराइजन क्रेडिट असाइनमेंट को अनुकूलित करने के लिए ReSum-GRPO द्वारा बढ़ाया गया है।

मूल लेखक: Xixi Wu, Kuan Li, Yida Zhao, Liwen Zhang, Litu Ou, Huifeng Yin, Zhongwang Zhang, Xinmiao Yu, Dingchu Zhang, Yong Jiang, Pengjun Xie, Fei Huang, Minhao Cheng, Shuai Wang, Hong Cheng, Jingren Zhou

प्रकाशित 2026-03-27

📖 4 मिनट में पढ़ें☕ कॉफ़ी ब्रेक में पढ़ें

CC0 1.0

मूल लेखक: Xixi Wu, Kuan Li, Yida Zhao, Liwen Zhang, Litu Ou, Huifeng Yin, Zhongwang Zhang, Xinmiao Yu, Dingchu Zhang, Yong Jiang, Pengjun Xie, Fei Huang, Minhao Cheng, Shuai Wang, Hong Cheng, Jingren Zhou

मूल पेपर CC0 1.0 (http://creativecommons.org/publicdomain/zero/1.0/) के तहत सार्वजनिक डोमेन को समर्पित है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक जासूस हैं जो एक अविश्वसनीय रूप से जटिल रहस्य को सुलझाने की कोशिश कर रहे हैं। आपके पास एक शानदार दिमाग (AI) है, लेकिन आपके पास अपने सुरागों, विचारों और साक्षात्कारों को लिखने के लिए केवल एक छोटी सी नोटबुक है।

समस्या: "नोटपैड" की सीमा (The "Notepad" Limit)
AI की दुनिया में, इस नोटबुक को कॉन्टेक्स्ट विंडो (Context Window) कहा जाता है।

पुराना तरीका (ReAct): जासूस अपना हर एक विचार, अपना हर एक सवाल और उन्हें मिलने वाला हर एक जवाब लिखता है। यदि रहस्य सरल है, तो नोटबुक ठीक है। लेकिन यदि रहस्य बहुत बड़ा है (जैसे कि एक उलझे हुए पारिवारिक वंश और अस्पष्ट तथ्यों के आधार पर किसी विशिष्ट व्यक्ति को ढूंढना), तो नोटबुक तुरंत भर जाती है। जासूस पन्ने के किनारे पर पहुँच जाता है, रुकना पड़ता है, और वह जो कुछ भी पहले लिखा था उसे भूल जाता है। वे केस हल नहीं कर पाते क्योंकि उनके पास जगह खत्म हो गई है।
वर्तमान "सुधार" (Current "Fixes"): कुछ शोधकर्ता एक बड़ी नोटबुक बनाने या जासूस को एक जादुई मेमोरी इम्प्लांट देने की कोशिश करते हैं। लेकिन यह महंगा है, इसके लिए जासूस को फिर से शून्य से बनाने की आवश्यकता होती है, और यह हमारे मौजूदा जासूसों के साथ काम नहीं करता है।

समाधान: ReSum (द "स्मार्ट समराइज़र")
ReSum आपके जासूस की मदद करने के लिए एक शानदार संपादक (Editor) को काम पर रखने जैसा है।

यह कैसे काम करता है: यह सुनिश्चित करने के बजाय कि नोटबुक भर जाए, संपादक समय-समय पर हस्तक्षेप करता है। वे जासूस के बिखरे हुए, लंबे नोट्स को पढ़ते हैं और कहते हैं, "ठीक है, हमें अब तक मिले 5 सबसे महत्वपूर्ण सुराग ये हैं। आइए बाकी के नोट्स को हटा दें और केवल इन 5 सुरागों के साथ एक नया पन्ना शुरू करें।"
जादू: अब जासूस हमेशा के लिए आगे बढ़ सकता है! वे कभी भी जगह खत्म नहीं कर पाएंगे क्योंकि संपादक इतिहास को एक छोटे, शक्तिशाली सारांश में बदलता रहता है। यह एक वीडियो गेम खेलने जैसा है जहाँ आप अपनी प्रगति को एक छोटी फ़ाइल में सहेजते हैं, फिर पूरे गेम को दोबारा खेले बिना उस फ़ाइल को लोड करते हैं और यात्रा जारी रखते हैं।

टूल: ReSumTool-30B
इसे काम करने के लिए, आपको एक बहुत अच्छे संपादक की आवश्यकता है। एक सामान्य AI शायद चीजों का सारांश खराब तरीके से बनाएगा, जिससे महत्वपूर्ण सुराग छूट सकते हैं। लेखकों ने एक विशेष AI (ReSumTool-30B) को विशेष रूप से इसी "संपादक" के रूप में प्रशिक्षित किया है। यह एक ऐसे लाइब्रेरियन को प्रशिक्षित करने जैसा है जो जानता है कि 500 पन्नों के उपन्यास को एक पन्ने के 'चीट शीट' में कैसे बदलना है जो अभी भी पूरी कहानी बताता हो।

प्रशिक्षण: ReSum-GRPO (जासूस को संपादक पर भरोसा करना सिखाना)
यहाँ पेचीदा हिस्सा है: जासूस को सब कुछ देखने की आदत होती है। जब आप अचानक उन्हें पूर्ण इतिहास के बजाय एक सारांश देते हैं, तो वे भ्रमित हो सकते हैं या गलतियाँ कर सकते हैं क्योंकि वे इसकी आदी नहीं हैं।

सुधार: लेखकों ने ReSum-GRPO नामक एक विशेष प्रशिक्षण पद्धति का उपयोग किया है। इसे एक कोच के रूप में सोचें जो जासूस को रहस्य सुलझाते हुए देखता है।
- यदि जासूस केस सुलझा लेता है, तो कोच इनाम देता है।
- लेकिन इसका चतुर हिस्सा यह है: कोच केवल खेल के अंत को नहीं देखता। वे पूरी यात्रा को देखते हैं। वे कहते हैं, "शुरुआत में आपने वह सुराग ढूँढा, उसके लिए बहुत अच्छा काम किया, भले ही बाद में हमने उसका सारांश बना दिया हो!"
- यह जासूस को सिखाता है कि सारांश बनाना अच्छा है और वे मार्गदर्शन के लिए संपादक के नोट्स पर भरोसा कर सकते हैं।

यह क्यों मायने रखता है

पुनर्निर्माण की आवश्यकता नहीं: आपको अपने AI जासूस को फिर से बनाने की आवश्यकता नहीं है। आप बस इस "संपादक" टूल को जोड़ते हैं, और यह तुरंत काम करता है।
कठिन पहेलियों को हल करता है: यह AI को सैकड़ों वेब पेजों में खुदाई करने वाली समस्याओं को हल करने की अनुमति देता है, जो पहले असंभव था क्योंकि खोज के अंत तक पहुँचते-पहुँचते AI शुरुआत को भूल जाता था।
सस्ता और कुशल: यह विशाल, महंगे AI मॉडल के बराबर परिणाम प्राप्त करता है लेकिन बहुत कम कंप्यूटिंग पावर का उपयोग करता है।

संक्षेप में
ReSum, AI को एक जादुई इरेज़र और हाइलाइटर देने जैसा है। यह AI को सबसे कठिन, लंबे कार्यों पर काम करने की अनुमति देता है क्योंकि यह उबाऊ विवरणों को लगातार मिटाते हुए सबसे महत्वपूर्ण तथ्यों को हाइलाइट करता रहता है, जिससे इसे अभिभूत हुए बिना हमेशा सोचने की अनुमति मिलती है।

यहाँ शोध पत्र "ReSum: Unlocking Long-Horizon Search Intelligence via Context Summarization" का विस्तृत तकनीकी सारांश दिया गया है।

1. समस्या विवरण (Problem Statement)

LLM (लार्ज लैंग्वेज मॉडल) आधारित वेब एजेंट ज्ञान-गहन कार्यों में उत्कृष्ट हैं, लेकिन वे एक मौलिक संघर्ष का सामना करते हैं: व्यापक, दीर्घ-क्षितिज अन्वेषण (long-horizon exploration) की आवश्यकता बनाम वर्तमान LLMs के सीमित संदर्भ विंडो (context windows)।

बाधा (The Bottleneck): मानक ReAct (Reason + Act) प्रतिमान प्रत्येक विचार, क्रिया और अवलोकन को संदर्भ इतिहास (context history) में जोड़ता जाता है। जटिल प्रश्नों के लिए, जिनमें कई खोज चक्रों की आवश्यकता होती है, यह तेजी से टोकन बजट (जैसे, 32k टोकन) को समाप्त कर देता है, जिससे एजेंट को इतिहास को छोटा करने (truncate) या उत्तर खोजने से पहले विफल होने के लिए मजबूर होना पड़ता है।
मौजूदा समाधानों की सीमाएँ: MEM1 या MemAgent जैसे वर्तमान दृष्टिकोणों के लिए वास्तुशकीय संशोधनों (architectural modifications) (जैसे, आंतरिक मेमोरी टोकन) की आवश्यकता होती है जो पूर्व-प्रशिक्षित एजेंटों के साथ अनुकूलता तोड़ देते हैं और महंगे एंड-टू-एंड पुन: प्रशिक्षण (retraining) की मांग करते हैं।

2. कार्यप्रणाली (Methodology)

लेखक ReSum नामक एक हल्का, प्लग-एंड-प्ले प्रतिमान, और एजेंटों को इस नए प्रतिमान के अनुकूल बनाने के लिए एक सुदृढीकरण शिक्षण (reinforcement learning) एल्गोरिदम ReSum-GRPO प्रस्तावित करते हैं।

A. ReSum प्रतिमान (The ReSum Paradigm)

ReSum, संवादात्मक इतिहास को एक संक्षिप्त सारांश में समय-समय पर संपीड़ित (compress) करके असीमित अन्वेषण को सक्षम बनाता है।

तंत्र (Mechanism):
1. मानक अंतःक्रिया (Standard Interaction): एजेंट सामान्य रूप से कार्य करता है (Thought $\to$ Action $\to$ Observation)।
2. ट्रिगर (Trigger): जब संदर्भ टोकन सीमा के करीब पहुँच जाता है (व्यवस्थित ट्रिगर), तो एक सारांश टूल (Summary Tool) ( $\pi_{sum}$ ) को बुलाया जाता है।
3. संपीड़न (Compression): टूल पूरे इतिहास ( $H_t$ ) को एक लक्ष्य-उन्मुख सारांश ( $s$ ) में सिकोड़ देता है।
4. रीसेट (Reset): इतिहास को एक संपीड़ित अवस्था $H'_t = (q, s)$ में रीसेट किया जाता है, जहाँ $q$ मूल प्रश्न है और $s$ सारांश है। एजेंट इस संपीड़ित अवस्था से तर्क करना फिर से शुरू करता है।
लाभ: यह एजेंट को पूर्व खोजों के प्रति जागरूकता बनाए रखने की अनुमति देता है और साथ ही अनिश्चित अन्वेषण के लिए संदर्भ स्थान खाली करता है, बिना किसी वास्तुशकीय परिवर्तन के।

B. ReSumTool-30B (विशेषज्ञ सारांश मॉडल)

सामान्य LLMs शोर भरे, लंबे इतिहासों से मुख्य साक्ष्य को अलग करने में संघर्ष करते हैं। लेखकों ने इसे संबोधित करने के लिए ReSumTool-30B विकसित किया है:

वास्तुकला (Architecture): यह Qwen3-30B-A3B-Thinking पर आधारित है।
प्रशिक्षण (Training): इसे SailorFog-QA बेंचमार्क से प्राप्त 9,000+ उच्च-गुणवत्ता वाले $\langle$ Conversation, Summary $\rangle$ युग्मों का उपयोग करके एक शक्तिशाली शिक्षक मॉडल (GPT-OSS-120B) से डिस्टिल (distill) किया गया है।
क्षमताएं (Capabilities): इसे विशेष रूप से सत्यापन योग्य साक्ष्य निकालने, सूचना अंतराल (information gaps) की पहचान करने और कार्रवाई योग्य अगले चरणों का प्रस्ताव देने के लिए प्रशिक्षित किया गया है, जो वेब खोज संदर्भों के लिए सारांश गुणवत्ता में बहुत बड़े मॉडलों (जैसे, DeepSeek-R1-671B) से बेहतर प्रदर्शन करता है।

C. ReSum-GRPO (RL के माध्यम से प्रतिमान अनुकूलन)

यद्यपि ReSum बिना प्रशिक्षण के कार्य करता है, मानक एजेंट स्वाभाविक रूप से संपीड़ित संदर्भों पर तर्क करने के लिए संरेखित नहीं होते हैं। लेखक एजेंटों को इस प्रतिमान के लिए अनुकूलित करने हेतु ReSum-GRPO (Group Relative Policy Optimization) पेश करते हैं।

ट्रैजेक्टरी सेगमेंटेशन (Trajectory Segmentation): लंबे ट्रैजेक्टरीज को सारांश बिंदुओं पर कई एपिसोड ( $H^{(1)}, H^{(2)}, \dots$ ) में विभाजित किया जाता है।
एडवांटेज ब्रॉडकास्टिंग (Advantage Broadcasting):
- प्रति-खंड पुरस्कार (per-segment rewards) डिजाइन करने के बजाय, अंतिम उत्तर की शुद्धता ( $R \in \{0, 1\}$ ) के आधार पर एक एकीकृत ट्रैजेक्टरी-स्तरीय पुरस्कार की गणना की जाती है।
- इस पुरस्कार को रोलआउट्स के एक समूह के भीतर सामान्यीकृत (normalize) किया जाता है ताकि एक एडवांटेज ( $\hat{A}$ ) की गणना की जा सके।
- महत्वपूर्ण रूप से, यह एडवांटेज ट्रैजेक्टरी के सभी खंडों में ब्रॉडकास्ट किया जाता है।
लक्ष्य: यह तंत्र दीर्घ-क्षितिज कार्यों में क्रेडिट असाइनमेंट समस्या को हल करता है, जिससे एजेंटों को संपीड़ित अवस्थाओं से प्रभावी ढंग से तर्क करने और ऐसी जानकारी एकत्र करने के लिए प्रोत्साहित किया जाता है जो उच्च-गुणवत्ता वाले सारांशों की ओर ले जाती है।

3. प्रमुख योगदान (Key Contributions)

ReSum प्रतिमान: एक प्लग-एंड-प्ले समाधान जो एजेंट के आर्किटेक्चर को संदर्भ प्रबंधन से अलग करता है, जिससे बिना पुन: प्रशिक्षण या वास्तुशकीय परिवर्तनों के अनिश्चित अन्वेषण संभव होता है।
ReSumTool-30B: एक विशिष्ट, कुशल सारांश मॉडल जो मुख्य साक्ष्य निकालने और खोज चरणों को निर्देशित करने में काफी बड़े मॉडलों से बेहतर प्रदर्शन करता है।
ReSum-GRPO: एक नवीन RL एल्गोरिदम जो ट्रैजेक्टरी सेगमेंटेशन और एडवांटेज ब्रॉडकास्टिंग के माध्यम से एजेंटों को सारांश-आधारित तर्क के लिए अनुकूलित करता है, जिसमें महत्वपूर्ण लाभ के लिए केवल 1K प्रशिक्षण नमूनों की आवश्यकता होती है।

4. प्रयोगात्मक परिणाम (Experimental Results)

प्रयोग तीन चुनौतीपूर्ण बेंचमार्क पर किए गए: GAIA, BrowseComp, और BrowseComp-zh।

प्रशिक्षण-मुक्त प्रदर्शन (Training-Free Performance):
- ReSum (ReSumTool-30B का उपयोग करते हुए) ने मानक ReAct पर 4.5% औसत सुधार प्राप्त किया।
- इसने प्रशिक्षण-मुक्त सेटिंग्स में MEM1 को पछाड़ दिया, जहाँ MEM1 अक्सर असंगतता के कारण प्रदर्शन में गिरावट दिखाता था।
- ReSum द्वारा संवर्धित एक 30B एजेंट ने BrowseComp पर 16.0% Pass@1 प्राप्त किया, जो Claude-4 (12.2%) और Kimi-K2 (14.1%) जैसे मालिकाना मॉडलों से बेहतर है।
प्रशिक्षण-आवश्यक प्रदर्शन (Training-Required Performance - ReSum-GRPO):
- केवल 1K प्रशिक्षण नमूनों के साथ, ReSum-GRPO ने प्रशिक्षण-मुक्त ReSum बेसलाइन पर 8.2% अतिरिक्त लाभ दिया।
- ReSum-GRPO के साथ WebSailor-30B ने BrowseComp-zh पर 33.3% Pass@1 प्राप्त किया, जो 10K+ नमूनों (जैसे, ASearcher-32B @ 15.6%) पर प्रशिक्षित ओपन-सोर्स मॉडलों की बराबरी करता है।
- दक्षता (Efficiency): ReSum-GRPO ने MEM1-GRPO की तुलना में समान या बेहतर प्रदर्शन हासिल किया जबकि लगभग 3x कम टोकन का उपयोग किया, जो एक बेहतर प्रदर्शन-दक्षता ट्रेड-ऑफ प्रदान करता है।

5. महत्व और प्रभाव (Significance and Impact)

स्केलेबिलिटी (Scalability): ReSum सिद्ध करता है कि बड़े संदर्भ विंडो (जैसे, 128k) वाले एजेंट भी सारांशीकरण से लाभान्वित होते हैं, क्योंकि जटिल सूचना-खोज कार्यों में वर्तमान संदर्भ सीमाओं से अधिक विस्तार होता है।
लागत-प्रभावशीलता (Cost-Effectiveness): यह नए आर्किटेक्चर के विशाल कम्प्यूटेशनल खर्च या सुपरवाइज्ड फाइन-ट्यूनिंग के लिए विशेषज्ञ ट्रैजेक्टरीज एकत्र करने की डेटा अक्षमता के बिना उच्च-प्रदर्शन एजेंटों का मार्ग प्रदान करता है।
सामान्यीकरण (Generalizability): एक प्लग-एंड-प्ले प्रतिमान के रूप में, इसे मौजूदा 'ऑफ-द-शेल्फ' एजेंटों पर तुरंत लागू किया जा सकता है, जो वास्तविक दुनिया के परिदृश्यों में मजबूत दीर्घ-क्षितिज वेब एजेंटों को तैनात करने के लिए एक व्यावहारिक समाधान बनाता है।

निष्कर्षतः, ReSum बुद्धिमान संपीड़न और RL-आधारित अनुकूलन के माध्यम से वेब एजेंटों में संदर्भ बाधा को हल करता है, यह प्रदर्शित करते हुए कि प्रभावी दीर्घ-क्षितिज खोज के लिए भारी मॉडल पुन: प्रशिक्षण या वास्तुशकीय ओवरहाल की आवश्यकता नहीं है।