🔢 mathematics

ConCise: Training-Free Conclusion-Chain State Compression for Cost-Efficient Multi-Step RAG Services

यह शोध पत्र ConCise का प्रस्ताव करता है, जो एक प्रशिक्षण-मुक्त प्रोटोकॉल है जो कच्चे टेक्स्ट संचय (raw text accumulation) को संरचित निष्कर्ष श्रृंखलाओं (structured conclusion chains) से बदलकर और जनरेशन चरणों को फ्यूज करके मल्टी-स्टेप RAG सेवाओं को अनुकूलित करता है, जिससे बिना किसी मॉडल रिट्रेनिंग या विशेष हार्डवेयर की आवश्यकता के संचयी टोकन वृद्धि को $O(N^2)$ से घटाकर $O(N)$ किया जाता है और महत्वपूर्ण लागत बचत प्राप्त की जाती है।

मूल लेखक: Kuan Yan, Zhiqing Tang, Tian Wang, Weijia Jia

प्रकाशित 2026-06-30

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Kuan Yan, Zhiqing Tang, Tian Wang, Weijia Jia

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक जटिल रहस्य को सुलझाने की कोशिश कर रहे हैं, जैसे कि एक जासूस जो यह पता लगाने की कोशिश कर रहा है कि ताज के गहरे किसने चुराए। आपके पास मदद करने के लिए AI जासूसों (लार्ज लैंग्वेज मॉडल्स) की एक टीम है।

समस्या: "बिखरा हुआ जासूसी बोर्ड" (The Cluttered Detective Board)

एक मानक बहु-चरणीय जांच (multi-step investigation) में, हर बार जब आपका AI जासूस कोई नया सुराग (दस्तावेज़) पाता है या कोई विचार (तर्क) लिखता है, तो वे उसे एक विशाल कॉर्कबोर्ड पर चिपका देते हैं।

राउंड 1: वे एक सुराग चिपकाते हैं।
राउंड 2: वे एक नया सुराग साथ ही पहला वाला भी चिपकाते हैं।
राउंड 3: वे एक नया सुराग साथ ही पहले दो भी चिपकाते हैं।

राउंड 10 तक पहुँचते-पहुँचते, बोर्ड बहुत विशाल हो जाता है। यह कागजों से इतना भर जाता है कि जासूस भ्रमित हो जाता है, महत्वपूर्ण विवरणों को चूक जाता है और थक जाता है। वास्तविक दुनिया में AI सेवाओं के मामले में, यह "कागज" पैसे खर्च करता है। हर बार जब आप AI को एक अनुरोध भेजते हैं, तो आप भेजे गए टेक्स्ट की मात्रा के आधार पर भुगतान करते हैं। एक विशाल बोर्ड का मतलब है एक भारी बिल, धीमी प्रतिक्रिया, और बहुत सारी बर्बाद हुई जगह।

समाधान: ConCise (द "समरी नोटबुक")

पेपर में ConCise नामक एक नई विधि बताई गई है। हर कच्चे कागज को बोर्ड पर चिपकाने के बजाय, ConCise नियमों को बदल देता है:

"निष्कर्ष श्रृंखला" (The "Conclusion Chain"): सोचने के हर दौर के बाद, AI एक छोटा, साफ-सुथरा सारांश (summary) लिखता है कि उसने अब तक क्या सीखा है (एक "निष्कर्ष")। वह अपने बिखरे हुए कच्चे नोट्स को फेंक देता है और केवल इस सारांश को रखता है।
- उपमा: हर किताब के साथ पूरी लाइब्रेरी लेकर चलने के बजाय, आप बस एक नोटबुक लेकर चलते हैं जहाँ आप प्रत्येक किताब से सीखी गई सबसे महत्वपूर्ण बात लिखते हैं।
"वन-स्टेप" जादू (The "One-Step" Magic): आमतौर पर, AI को दो चीजें करनी पड़ती हैं: सुरागों के बारे में सोचना, और फिर सारांश लिखना। इसमें दो बार पैसा खर्च होता है। ConCise इन दोनों को एक सुपर-फास्ट मूव में मिला देता है, जिससे और भी समय और पैसा बचता है।

यह सरल भाषा में कैसे काम करता है

पुराना तरीका (फुल कॉन्टेक्स्ट): आप AI को भेजते हैं: "यहाँ प्रश्न है, यहाँ पहला सुराग है, यहाँ मेरा पहला विचार है, यहाँ दूसरा सुराग है, यहाँ मेरा दूसरा विचार है..." हर चरण के साथ संदेश लंबा होता जाता है।
ConCise तरीका: आप AI को भेजते हैं: "यहाँ प्रश्न है, यहाँ वह सारांश है जो हमने अब तक सीखा है, और यहाँ नया सुराग है।" संदेश छोटा और प्रबंधनीय रहता है।

परिणाम: पेपर ने क्या पाया

शोधकर्ताओं ने तीन AI मॉडलों और दो प्रकार के कठिन प्रश्नों का उपयोग करके 12 अलग-अलग परिदृश्यों पर इसका परीक्षण किया। यहाँ क्या हुआ:

भारी बचत: औसतन, ConCise ने "टोकन" (टेक्स्ट की इकाइयाँ जिनके लिए आप भुगतान करते हैं) की 64.63% बचत की। यह ऐसा है जैसे अपने फोन बिल पर 65% की छूट पाना, बस अपने संदेश लिखने का तरीका बदलकर।
सटीकता (Accuracy):
- कुछ AI विधियों (जैसे "IRCoT" स्टाइल) के लिए, सटीकता वास्तव में बेहतर हो गई। क्यों? क्योंकि पुराना तरीका इतना बिखरा हुआ था कि AI अप्रासंगिक विवरणों से विचलित हो जाता था। ConCise ने AI को केवल महत्वपूर्ण तथ्यों पर ध्यान केंद्रित करने के लिए मजबूर किया।
- अन्य AI विधियों (जैसे "Search-R1" स्टाइल) के लिए, सटीकता लगभग वैसी ही रही या थोड़ी कम हो गई। ऐसा इसलिए हुआ क्योंकि वे AI मॉडल लंबी, बिखरी हुई सूचियों को संभालने में पहले से ही बहुत अच्छे थे, और कभी-कभी "बिखरे हुए" विवरणों को हटाने का मतलब था कि एक बहुत ही विशिष्ट सुराग (जैसे कोई विशिष्ट संख्या या तारीख) खो गया जिसकी उन्हें आवश्यकता थी।
समझौता (The Trade-off): पेपर एक विशिष्ट जोखिम को नोट करता है। यदि AI पहले सारांश में गलती करता है, तो वह गलती आगे के लिए "लॉक" हो जाती है और हमेशा के लिए चलती रहती है क्योंकि सिस्टम मूल बिखरे हुए नोट्स को वापस जाकर चेक नहीं करता है। यह ऐसा है जैसे आपने अपनी नोटबुक में गलत तारीख लिख दी और फिर दोबारा मूल कैलेंडर को देखने से इनकार कर दिया।

यह क्यों मायने रखता है (पेपर के अनुसार)

यह AI को नई चीजें सीखने में स्मार्ट बनाने के बारे में नहीं है; यह जटिल कार्यों के लिए इसे उपयोग करना सस्ता और तेज़ बनाने के बारे में है।

यह बिना AI मॉडल को फिर से प्रशिक्षित किए काम करता है (यह "ट्रेनिंग-फ्री" है)।
यह "ब्लैक बॉक्स" AI सेवाओं के साथ काम करता है (जहाँ आप मॉडल के अंदर नहीं देख सकते)।
यह एक ऐसे खर्च को जो विस्फोटक रूप से बढ़ता है (जैसे $1, $4, $9, $16...), एक ऐसे खर्च में बदल देता है जो धीरे-धीरे और लगातार बढ़ता है (जैसे$ 1, $2, $3, $4...)।

संक्षेप में, ConCise AI की "वर्किंग मेमोरी" को साफ और सस्ता रखने का एक चतुर तरीका है, ताकि वह भारी बिल या अपने ही नोट्स से भ्रमित हुए बिना कठिन समस्याओं को हल कर सके।

तकनीकी सारांश: ConCise – मल्टी-स्टेप RAG के लिए ट्रेनिंग-फ्री कंक्लूजन-चेन स्टेट कंप्रेशन

1. समस्या विवरण (Problem Statement)

मल्टी-स्टेप रिट्रीवल-ऑगमेंटेड जनरेशन (RAG) जटिल प्रश्नोत्तर के लिए एक मानक प्रतिमान (paradigm) बन गया है, जो मल्टी-हॉप सटीकता प्राप्त करने के लिए रिट्रीवल और रीजनिंग के पुनरावृत्त दौरों (iterative rounds) का उपयोग करता है। हालांकि, यह दृष्टिकोण ऐतिहासिक संदर्भ मुद्रास्फीति (historical context inflation) से ग्रस्त है। पारंपरिक "फुल-कॉन्टेक्स्ट" प्रतिमान के तहत, पिछले सभी रिट्रीव किए गए दस्तावेज़ और रीजनिंग ट्रेसेस को प्रत्येक अगले चरण के इनपुट में जोड़ा जाता है। इसके कारण संचयी इनपुट टोकन का विकास द्विघाती (quadratically) होता है, जो लगभग $O(N^2)$ है, जहाँ $N$ रीजनिंग स्टेप्स की संख्या है।

API-आधारित सेवा आर्किटेक्चर (जैसे सर्वरलेस, एज डिप्लॉयमेंट) में, यह द्विघाती वृद्धि तीन महत्वपूर्ण समस्याओं का कारण बनती है:

लागत (Cost): प्रति-अनुरोध बिलिंग सीधे इनपुट टोकन गणना से जुड़ी होती है, जिससे गहरी रीजनिंग चेन अत्यधिक महंगी हो जाती है।
विलंबता (Latency): बड़े पेलोड नेटवर्क ट्रांसमिशन समय और रिस्पॉन्स लेटेंसी को बढ़ा देते हैं।
शोर (Noise): जैसे-जैसे संदर्भ बढ़ता है, अप्रासंगिक जानकारी का घनत्व बढ़ जाता है, जिससे अटेंशन ड्रिफ्ट (attention drift) और रीजनिंग सटीकता में गिरावट आ सकती है।

मौजूदा कंप्रेशन विधियाँ (जैसे टोकन प्रूनिंग, KV कैश ऑप्टिमाइज़ेशन, सॉफ्ट वेक्टर कंप्रेशन, या रिकर्सिव समराइजेशन) इस डायनेमिक सेटिंग के लिए उपयुक्त नहीं हैं। वे या तो मॉडल एक्सेस की मांग करती हैं (ब्लैक-बॉक्स API के साथ असंगत), ऑफलाइन ट्रेनिंग/फाइन-ट्यूनिंग की आवश्यकता होती है, या ऐतिहासिक अवस्थाओं के बार-बार पुनर्लेखन (रिकर्सिव समराइजेशन) के कारण सूचना हानि का शिकार होती हैं। विशेष रूप से इटरेटिव RAG स्टेट मैनेजमेंट की 'अेंड-ओनली' (append-only) प्रकृति के लिए डिज़ाइन किए गए ट्रेनिंग-फ्री, प्लग-एंड-प्ले समाधानों की कमी है।

2. कार्यप्रणाली (Methodology): ConCise

यह पेपर ConCise का प्रस्ताव करता है, जो एक ट्रेनिंग-फ्री स्टेट-लेयर प्रोटोकॉल है जो क्रॉस-राउंड कॉन्टेक्स्ट ट्रांसमिशन को पुनर्गठित करता है। यह मॉडल मॉडिफिकेशन या अतिरिक्त ट्रेनिंग की आवश्यकता के बिना प्रॉम्प्ट-कॉन्कैटेनेशन स्तर पर कार्य करता है।

मुख्य तंत्र (Core Mechanisms)

कंक्लूजन-चेन स्टेट इटरेशन (Conclusion-Chain State Iteration):
कच्चे दस्तावेज़ों ( $D_t$ ) और रीजनिंग ट्रेसेस ( $r_t$ ) के पूर्ण इतिहास को प्रसारित करने के बजाय, ConCise एक स्ट्रक्चर्ड निष्कर्षों की अेंड-ओनली चेन ( $C_t$ ) बनाए रखता है।
- प्रत्येक दौर $t$ में, सिस्टम क्वेरी $q$ और वर्तमान कंक्लूजन चेन $C_{t-1}$ के आधार पर एक दस्तावेज़ सेट $D_t$ रिट्रीव करता है।
- जनरेटर एक रीजनिंग ट्राजेक्टरी $r_t$ और एक स्ट्रक्चर्ड कंक्लूजन $c_t$ उत्पन्न करता है।
- अगले दौर में भेजी जाने वाली स्टेट $S_t = (q, C_t)$ है, जहाँ $C_t = \text{Append}(C_{t-1}, c_t)$ ।
- कच्चे दस्तावेज़ $D_t$ को वर्तमान दौर के बाद हटा दिया जाता है।
- जटिलता में कमी: यह संचयी कॉन्टेक्स्ट ग्रोथ को $O(N^2)$ से घटाकर लगभग $O(N)$ कर देता है।
फ्यूज्ड जनरेशन (Fused Generation):
सीरियल डुअल-इनवोकेशन (एक कॉल रीजनिंग के लिए, एक समरी के लिए) के ओवरहेड को समाप्त करने के लिए, ConCise एक फ्यूज्ड जनरेशन मोड पेश करता है। एक ही API कॉल में, मॉडल संयुक्त रूप से रीजनिंग ट्राजेक्टरी, स्ट्रक्चर्ड कंक्लूजन और अगला एक्शन उत्सर्जित करता है। यह संदर्भ को दो बार भेजने से जुड़ी बार-बार होने वाली इनपुट बिलिंग लागत को हटा देता है।
प्लगेबल आर्किटेक्चर (Pluggable Architecture):
स्टेट अपडेट मॉड्यूल को दो मोड के साथ एक प्लगेबल घटक के रूप में डिज़ाइन किया गया है:
- फ्यूज्ड मोड: दक्षता के लिए सिंगल API कॉल (एज/सर्वरलेस के लिए अनुशंसित)।
- टू-स्टेज मोड: रीजनिंग और कंक्लूजन एक्सट्रैक्शन के लिए अलग-अलग कॉल, जो तब उपयोगी है जब एक समर्पित समरी मॉडल उपलब्ध हो या उच्च एक्सट्रैक्शन क्वालिटी की आवश्यकता हो।

सैद्धांतिक औचित्य (Theoretical Justification)

पेपर रिकर्सिव समराइजेशन की तुलना में ConCise का सूचना-सैद्धांतिक विश्लेषण प्रदान करता है।

रिकर्सिव समराइजेशन: पिछले सारांशों को बार-बार पुनर्लेखन एक ऐसा मार्कोव चेन बनाता है जहाँ सूचना की निष्ठा (fidelity) निरंतर घटती है ( $I(\sigma_t; Z_k) \leq I(\sigma_{t-1}; Z_k)$ )।
अेंड-ओनली नियम: वर्तमान चेन के सापेक्ष पिछले निष्कर्षों को वर्बेटिम (verbatim) बनाए रखकर, ConCise यह सुनिश्चित करता है कि वर्तमान चेन के दिए गए पिछले निष्कर्षों की कंडीशनल एंट्रॉपी शून्य है ( $H(c_k | C_t) = 0$ )। यह शुरुआती दौर के तथ्यों के क्रमिक क्षरण को रोकता है और $O(N)$ पेलोड बनाए रखता है।

3. मुख्य योगदान (Key Contributions)

कंक्लूजन-चेन इटरेटिव प्रतिमान: एक नवीन स्टेट मैनेजमेंट रणनीति जो कच्चे-टेक्स्ट संचय को स्ट्रक्चर्ड निष्कर्षों की एक अेंड-ओनली चेन से बदल देती है, जिससे कॉन्टेक्स्ट ग्रोथ $O(N^2)$ से घटकर $O(N)$ हो जाती है और क्रॉस-राउंड नॉइज़ प्रोपेगेशन समाप्त हो जाता है।
ट्रेनिंग-फ्री प्लगेबल आर्किटेक्चर: एक जीरो-ट्रेनिंग विधि जो ब्लैक-बॉक्स API के साथ संगत है। इसमें एक फ्यूज्ड जनरेशन मैकेनिज्म शामिल है जो रीजनिंग और कंक्लूजन एक्सट्रैक्शन को एक ही API कॉल में जोड़कर प्रति-स्टेप ओवरहेड को कम करता है।
व्यवस्थित अनुभवजन्य मूल्यांकन: 12 युग्मित कॉन्फ़िगरेशन (3 मॉडल, 2 डेटासेट, 2 फ्रेमवर्क) में व्यापक प्रयोग, जो स्वीकार्य सटीकता ट्रेड-ऑफ के साथ महत्वपूर्ण टोकन बचत प्रदर्शित करते हैं।

4. प्रयोगात्मक परिणाम (Experimental Results)

मूल्यांकन के लिए HotpotQA और 2WikiMultihopQA डेटासेट्स के साथ तीन मॉडल्स (GPT-5, Qwen2.5-72B, DeepSeek V3.2) और दो बेसलाइन्स (IRCoT, Search-R1) का उपयोग किया गया। अधिकतम रीजनिंग डेप्थ 4 स्टेप्स निर्धारित की गई थी।

टोकन दक्षता: ConCise ने स्टेप 4 पर औसत 64.63% टोकन बचत हासिल की। बचत रीजनिंग डेप्थ के साथ बढ़ती है (डेप्थ एम्प्लीफिकेशन इफेक्ट), जो विभिन्न कॉन्फ़िगरेशन में 49.6% से 74.1% तक रहती है।
सटीकता प्रभाव: सटीकता पर प्रभाव बेसलाइन पद्धति के अनुसार भिन्न था:
- IRCoT (प्रॉम्प्ट-ड्रिवन): इसने महत्वपूर्ण सटीकता सुधार (औसत +8.37 pp) दिखाया, जो सुझाव देता है कि कंक्लूजन चेन प्रॉम्प्ट-ड्रिवन विधियों में अंतर्निहित अटेंशन ड्रिफ्ट और रेडंडेंसी को कम करने में मदद करती है।
- Search-R1 (RL-ट्रेन्ड): इसने मामूली सटीकता गिरावट (औसत -1.07 pp) दिखाई। लेखक इसका श्रेय उन सूक्ष्म विवरणों (जैसे संख्यात्मक विवरण, कमजोर जुड़ाव) की संभावित हानि को देते हैं, जिन पर RL पॉलिसी निर्भर करती है और जिन्हें कंप्रेशन के दौरान हटा दिया जाता है।
सर्विस मेट्रिक्स: टोकन कटौती सीधे अनुमानित नेटवर्क पेलोड और इनपुट बिलिंग लागतों में आनुपातिक कमी में परिवर्तित हुई।

पहचाने गए विफलता मोड (Failure Modes Identified)

पेपर तीन विशिष्ट विफलता मोड की पहचान करता है:

सूचना की कमी (Missing Information): निष्कर्ष में प्रमुख विवरणों का अधूरा निष्कर्षण।
सूक्ष्म विवरण की हानि (Fine-grained Loss): कंप्रेशन के दौरान उच्च-घनत्व वाली जानकारी (संख्या, टाइमस्टैम्प) का क्षरण।
त्रुटि प्रसार (Error Propagation): चेन में शुरुआती दौर में दर्ज किए गए गलत निष्कर्षों को वर्बेटिम सुरक्षित रखा जाता है और अेंड-ओनली प्रकृति के कारण बाद के दौरों में सुधारा नहीं जा सकता है।

5. महत्व और दावे (Significance and Claims)

पेपर दावा करता है कि ConCise मल्टी-स्टेप RAG सेवाओं के लिए एक डिप्लॉयमेंट-फ्रेंडली, लागत-कुशल समाधान प्रदान करता है, विशेष रूप से API-नेटिव, सर्वरलेस और एज वातावरण के लिए जहाँ मॉडल एक्सेस प्रतिबंधित है और लागत एक प्राथमिक बाधा है।

लागत दक्षता: कॉन्टेक्स्ट ग्रोथ को $O(N)$ में कंप्रेस करके और फ्यूज्ड जनरेशन का उपयोग करके, ConC-ise मॉडल्स को फिर से प्रशिक्षित किए बिना API बिलिंग लागतों को भारी मात्रा में कम करने के लिए एक प्लग-एंड-प्ले विधि प्रदान करता है।
गुणवत्ता संरक्षण: उन विधियों के लिए जो लॉन्ग-कॉन्टेक्स्ट नॉइज़ के प्रति संवेदनशील हैं (जैसे IRCoT), स्ट्रक्चर्ड कंक्लूजन चेन एक "अटेंशन एंकर" के रूप में कार्य करके रीजनिंग की गुणवत्ता में वास्तव में सुधार कर सकती है, जिससे मॉडल को गलत संस्थाओं (entities) के बार-बार उल्लेख द्वारा हाईजैक होने से बचाया जा सकता है।
सीमाएँ: लेखक विनम्रतापूर्वक स्वीकार करते हैं कि यह विधि प्रारंभिक निष्कर्ष निष्कर्षण की गुणवत्ता पर निर्भर करती है। यदि कोई शुरुआती निष्कर्ष गलत है, तो अेंड-ओनली डिज़ाइन स्वयं-सुधार (self-correction) को रोकता है। वे सुझाव देते हैं कि भविष्य के कार्य में इसे कम करने के लिए 'डिलेड चेन इंसर्शन' या 'स्लाइडिंग एविडेंस विंडोज़' का पता लगाया जा सकता है।

संक्षेप में, ConCise इटरेटिव RAG की स्केलेबिलिटी बाधा को कच्चे टेक्स्ट संचय से संक्षिप्त, स्ट्रक्चर्ड कंक्लूजन चेन में बदलकर हल करता है, जो लागत, विलंबता और रीजनिंग फिडेलिटी के बीच एक व्यावहारिक समझौता प्रदान करता है।