🤖 AI

D $^2$ F-ReAG: Dynamic Decomposition and Filtering for Multi-Hop Reasoning-Augmented Generation

यह शोध पत्र D $^2$ F-ReAG का प्रस्ताव करता है, जो एक नवीन रिट्रीवल-ऑगमेंटेड जनरेशन फ्रेमवर्क है जो प्रारंभिक तर्क (reasoning) की विश्वसनीयता के आधार पर सीधे उत्तर देने या गतिशील रूप से उप-प्रश्नों को विभाजित और फ़िल्टर करने का अनुकूल रूप से निर्णय लेकर मल्टी-हॉप रीजनिंग की सटीकता और दक्षता में सुधार करता है।

मूल लेखक: Jiaoyang Li, Junhao Ruan, Shengwei Tang, Kaiyan Chang, Zhengtao Yu, Tong Xiao, Jingbo Zhu

प्रकाशित 2026-08-06

📖 4 मिनट में पढ़ें☕ कॉफ़ी ब्रेक में पढ़ें

CC BY 4.0

मूल लेखक: Jiaoyang Li, Junhao Ruan, Shengwei Tang, Kaiyan Chang, Zhengtao Yu, Tong Xiao, Jingbo Zhu

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक रहस्य सुलझाने की कोशिश कर रहे हैं, लेकिन आपके पास सभी सुराग एक ही नोटबुक में होने के बजाय, एक विशाल पुस्तकालय की एक हजार अलग-अलग किताबों में बिखरे हुए हैं। यह आधुनिक "लार्ज लैंग्वेज मॉडल्स" (LLMs) के सामने आने वाली चुनौती है, जो वे सुपर-स्मार्ट कंप्यूटर दिमाग हैं जो कहानियाँ लिखते हैं, सवालों के जवाब देते हैं और हमसे चैट करते हैं। ये मॉडल उन प्रतिभाशाली छात्रों की तरह हैं जिन्होंने अपने प्रशिक्षण के दौरान किताबों का एक विशाल संग्रह पढ़ा है, लेकिन वे सब कुछ पूरी तरह से याद नहीं रख पाते, और कभी-कभी वे मनगढ़ंत बातें बना लेते हैं (एक समस्या जिसे वैज्ञानिक "हैलुसिनेशन" कहते हैं)। इसे ठीक करने के लिए, शोधकर्ता एक तरकीब का उपयोग करते हैं जिसे रिट्रीवल-ऑगमेंटेड जनरेशन (RAG) कहा जाता है। RAG को एक छात्र को सर्च इंजन देने के रूप में समझें: जब कोई सवाल पूछा जाता है, तो कंप्यूटर सवाल का जवाब लिखने से पहले अपनी किताबों के पुस्तकालय में उत्तर खोजता है।

साधारण सवालों के लिए, जैसे "हैरी पॉटर किसने लिखा?", सर्च इंजन एक ही त्वरित कदम में उत्तर ढूंढ लेता है। लेकिन मल्टी-हॉप रीजनिंग (multi-hop reasoning) के लिए, पहेली बहुत कठिन हो जाती है। यह पूछने जैसा है कि, "उस फिल्म का निर्देशन किसने किया जो उस अभिनेता की फिल्म से पहले आई थी जिसने 1995 में ऑस्कर जीता था?" इसे हल करने के लिए, आप केवल एक तथ्य नहीं खोज सकते; आपको पहले अभिनेता को खोजना होगा, फिर फिल्म को, फिर निर्देशक को, और अंत में रिलीज की तारीख को, विभिन्न पृष्ठों के माध्यम से कड़ियों को जोड़ना होगा। वर्तमान तरीके इस भूलभुलैया में अक्सर खो जाते हैं, या तो सवाल को बहुत सारे छोटे, भ्रमित करने वाले टुकड़ों में तोड़ देते हैं या रास्ते में मिले गलत सुरागों को छानने में विफल रहते हैं।

यहाँ D2F-ReAG आता है, जो शोधकर्ता जियाओयांग ली और उनकी टीम द्वारा प्रस्तावित एक नया फ्रेमवर्क है। D2F-ReAG को एक बहुत ही स्मार्ट, सतर्क जासूस के रूप में समझें जो तब तक अनुमान लगाने से इनकार करता है जब तक कि वह सुनिश्चित न हो जाए। हर सवाल को छोटे उप-सवालों में अंधाधुंध तोड़ने (जिससे समय बर्बाद होता है) या पूरी चीज़ को एक बड़ी छलांग में हल करने की कोशिश करने (जिससे अक्सर गलतियाँ होती हैं) के बजाय, यह नया तरीका एक "कॉन्फिडेंस चेक" (विश्वास जांच) का उपयोग करता है।

यहाँ जासूस कैसे काम करता है:

पहला अनुमान: सिस्टम तुरंत मिलने वाली जानकारी का उपयोग करके बड़े सवाल का उत्तर देने की कोशिश करता है।
कॉन्फिडेंस चेक: एक विशेष "जज" मॉडल उस पहले अनुमान को देखता है और पूछता है, "क्या तुम पक्का हो?" यदि उत्तर आत्मविश्वासी और विश्वसनीय है, तो जासूस वहीं रुक जाता है और अंतिम उत्तर लिख देता है। यह आसान सवालों के लिए बहुत समय बचाता है।
विभाजन (The Breakdown): यदि जज कहता है, "नहीं, यह सही नहीं लग रहा है," तब सिस्टम बड़े सवाल को छोटे, प्रबंधनीय उप-सवालों में तोड़ देता है। यह एक-एक करके इन छोटे पहेलियों को हल करता है।
फ़िल्टर: महत्वपूर्ण बात यह है कि सिस्टम छोटे-छोटे सवालों के सभी उत्तरों को वापस बड़े सवाल में नहीं डाल देता। यह जाँचता है कि क्या प्रत्येक छोटा उत्तर वास्तव में प्रासंगिक और सही है। यदि एक छोटा उत्तर गलत या विषय से बाहर है, तो उसे फेंक दिया जाता है। यदि वह सही है, तो इसका उपयोग बड़े सवाल के उत्तर को ठीक करने और सुधारने के लिए किया जाता है।

शोधकर्ताओं ने इस विचार का परीक्षण तीन अलग-अलग "रहस्य" डेटासेट्स (HotpotQA, 2WikiMultiHopQA, और MuSiQue) पर किया है जो कि काफी पेचीदा हैं। उन्होंने पाया कि जटिल पहेलियों को हल करने में D2F-ReAG पिछले तरीकों से बेहतर था। उदाहरण के लिए, 2WikiMultiHopQA टेस्ट पर, इसने 70.3 (एक सख्त मिलान मीट्रिक का उपयोग करते हुए) और 68.9 (एक लचीले सिमेंटिक चेक का उपयोग करते हुए) का स्कोर प्राप्त किया, जो पिछले सर्वश्रेष्ठ तरीके LogicRAG को पीछे छोड़ देता है, जिसने क्रमशः 65.3 और 62.6 स्कोर किया था।

यह पेपर सुझाव देता है कि यह "ऑन-डिमांड" दृष्टिकोण ही कुंजी है। केवल आवश्यक होने पर ही सवालों को तोड़ने और खराब जानकारी को छानने के माध्यम से, यह सिस्टम बहुत अधिक शोर (noise) से भ्रमित होने से बचता है। यह एक शेफ की तरह है जो सब्जियां तभी काटता है जब रेसिपी की वास्तव में आवश्यकता होती है, बजाय इसके कि वह रसोई की हर चीज़ काट दे और उम्मीद करे कि कुछ फिट बैठ जाएगा। प्रयोग दिखाते हैं कि यह तरीका न केवल अधिक उत्तर सही पाता है, बल्कि अप्रासंगिक जानकारी के "शोर" को भी बेहतर ढंग से संभालता है, जिससे जटिल, बहु-चरणीय सवालों के लिए अधिक सटीक और भरोसेमंद परिणाम मिलते हैं।

तकनीकी सारांश: D2F-ReAG

समस्या विवरण (Problem Statement)

ज्ञान-गहन परिदृश्यों में, अप्रासंगिक या पुराने पैरामीट्रिक ज्ञान और मतिभ्रम (hallucinations) पर निर्भरता के कारण लार्ज लैंग्वेज मॉडल्स (LLMs) अक्सर तथ्यात्मक रूप से गलत या असमर्थ आउटपुट उत्पन्न करते हैं। जबकि रिट्रीवल-ऑगमेंटेड जनरेशन (RAG) बाहरी ज्ञान को एकीकृत करके सिंगल-हॉप प्रश्नों के लिए इन समस्याओं को कम करता है, यह मल्टी-हॉप रीजनिंग (multi-hop reasoning) वाले प्रश्नों के साथ संघर्ष करता है, जिनमें कई दस्तावेजों में बिखरे हुए साक्ष्यों को जोड़ने की आवश्यकता होती है।

मौजूदा मल्टी-हॉप RAG दृष्टिकोण विशिष्ट सीमाओं का सामना करते हैं:

ग्राफ-आधारित विधियाँ (जैसे, GraphRAG, HippoRAG) पूर्व-निर्मित ग्राफ संरचनाओं पर निर्भर करती हैं। ये बनाने और बनाए रखने में महंगी हैं, अक्सर अधूरी होती हैं, और जब अंतर्निहित ज्ञान विकसित होता है तो कम प्रभावी हो जाती हैं।
प्रॉम्प्ट-आधारित डिकंपोजिशन विधियाँ (जैसे, LogicRAG, ChainRAG) जटिल प्रश्नों को उप-प्रश्नों (sub-questions) में विभाजित करती हैं। हालाँकि, वे अक्सर कठोर डिकंपोजिशन रणनीतियों (सरल प्रश्नों को अनावश्यक रूप से विभाजित करना या जटिल प्रश्नों को पर्याप्त गहराई तक विभाजित करने में विफल रहना) और प्रभावी फ़िल्टरिंग की कमी से ग्रस्त होती हैं। इससे पुनरावृत्तियों (iterations) के दौरान शोर और त्रुटिपूर्ण मध्यवर्ती परिणामों का संचय होता है, जिससे अंतिम उत्तर की सटीकता कम हो जाती है।

कार्यप्रणाली: D2F-ReAG

लेखक D2F-ReAG (डायनेमिक डिकंपोजिशन एंड फ़िल्टरिंग फॉर मल्टी-हॉप रीजनिंग-ऑगमेंटेड जनरेशन) प्रस्तावित करते हैं, जो वर्तमान रीजनिंग अवस्था की विश्वसनीयता के आधार पर रीजनिंग की गहराई को अनुकूल रूप से नियंत्रित करने के लिए डिज़ाइन किया गया एक फ्रेमवर्क है। यह प्रक्रिया चार पुनरावृत्त चरणों में संचालित होती है:

रिट्रीवल और जनरेशन (Retrieval & Generation):
एक दिए गए प्रश्न (प्रारंभिक मूल प्रश्न) के लिए, सिस्टम एक डेंस रिट्राइवर का उपयोग करके शीर्ष- $k$ प्रासंगिक दस्तावेज़ प्राप्त करता है। एक जनरेटर मॉडल बाहरी साक्ष्य के आधार पर आउटपुट तैयार करने के लिए इन प्राप्त दस्तावेज़ों की स्थिति में एक रीजनिंग प्रक्रिया ( $r(q)$ ) उत्पन्न करता है।
जज रिलायबिलिटी (Judge Reliability):
एक LLM-आधारित स्कोरिंग तंत्र उत्पन्न रीजनिंग की विश्वसनीयता का मूल्यांकन करता है। सिस्टम तार्किक सुसंगतता, प्राप्त दस्तावेज़ों के साथ तथ्यात्मक निरंतरता और उत्तर की पूर्णता का आकलन करता है, और एक स्कोर $s_r(q) \in [0, 10]$ प्रदान करता है।

यदि $s_r(q) > \theta$ (थ्रेशोल्ड $\theta = 7$ निर्धारित है), तो प्रश्न को हल किया गया (solved) माना जाता है, और अंतिम उत्तर उत्पन्न किया जाता है।
यदि $s_r(q) \le \theta$ , तो रीजनिंग को अविश्वसनीय माना जाता है, जो डिकंपोजिशन चरण को सक्रिय करता है।

डिकंपोजिशन और रीराइटिंग (Decomposition & Rewriting):
यदि प्रश्न अनसुलझा है, तो इसे तार्किक रूप से छोटे, सुलभ उप-प्रश्नों ($sub(q)$) में विभाजित किया जाता है।

पुनरावृत्त समाधान (Iterative Solving): उप-प्रश्नों को क्रमिक रूप से हल किया जाता है।
रीराइटिंग (Rewriting): एक बार जब कोई उप-प्रश्न उच्च विश्वास के साथ हल हो जाता है, तो उसके सत्यापित रीजनिंग ( $r_q$ ) का उपयोग संबंधित आगामी उप-प्रश्नों को रीराइट (rewrite) करने के लिए किया जाता है। यह अस्पष्ट संदर्भों और लुप्त संस्थाओं (entities) को हल करता है, जिससे यह सुनिश्चित होता है कि आगामी रिट्रीवल लक्षित हो और रेडंडेंट या विरोधाभासी पथों से बचा जा सके।

ReAG (Reasoning-Augmented Generation):
हल किए गए उप-प्रश्नों से सत्यापित और प्रासंगिक रीजनिंग ट्रेसेस को मूल रीजनिंग प्रक्रिया में वापस एकीकृत किया जाता है। यह चरण सटीक मध्यवर्ती निष्कर्षों के साथ मूल रीजनिंग ( $r'(q_{root})$ ) को अपडेट करता है, जिससे वैश्विक संदर्भ धीरे-धीरे समृद्ध होता है।

प्रासंगिकता जांच (Relevance Check): शोर के संदूषण को रोकने के लिए एक तंत्र अप्रासंगिक उप-प्रश्नों को फ़िल्टर करता है।
अर्ली स्टॉपिंग (Early Stopping): प्रक्रिया तुरंत समाप्त हो जाती है जैसे ही मूल प्रश्न का रीजनिंग स्कोर थ्रेशोल्ड से ऊपर जाता है, जिससे अनावश्यक कम्प्यूटेशनल ओवरहेड और ओवर-डिकंपोजिशन से बचा जा सके।

मुख्य योगदान (Key Contributions)

पेपर तीन प्राथमिक योगदानों को रेखांकित करता है:

डायनेमिक डिकंपोजीशन फ्रेमवर्क: एक नवीन प्रतिमान जो विश्वसनीयता के आधार पर ऑन-डिमांड प्रश्नों को विभाजित करता है। फिक्स्ड-डेप्थ विधियों के विपरीत, यह सुनिश्चित करता है कि सटीक मध्यवर्ती परिणाम अंतिम उत्तर को निर्देशित करने के लिए वापस प्रसारित किए जाएं, न कि लॉस्य मेमोरी कम्प्रेशन में खो जाएं।
अनुकूल नियंत्रण तंत्र (Adaptive Control Mechanism): एक कॉन्फिडेंस-ड्रिवन दृष्टिकोण जो डिकंपोजिशन की गहराई को संतुलित करता है। यह केवल आवश्यकता होने पर (जटिल प्रश्नों के लिए) गहरा डिकंपोजिशन करता है, जबकि सरल प्रश्नों के लिए अनावश्यक चरणों से बचता है, जिससे वास्तव में अनुकूलित रीजनिंग प्राप्त होती है।
पुनरावृत्त त्रुटि सुधार (Iterative Error Correction): एक विधि जो विश्वसनीय रीजनिंग श्रृंखलाओं का उपयोग करके मूल रीजनिंग प्रक्रिया को अपडेट और ठीक करने के लिए उप-प्रश्नों का लाभ उठाती है। यह प्रभावी रूप से मध्यवर्ती त्रुटियों की पहचान करता है और उन्हें ठीक करता है, जिससे रीजनिंग चरणों में त्रुटि संचय कम होता है।

प्रयोगात्मक परिणाम (Experimental Results)

लेखकों ने तीन मानक मल्टी-हॉप बेंचमार्क: HotpotQA, 2WikiMultiHopQA, और MuSiQue पर D2F-ReAG का मूल्यांकन किया। प्रदर्शन को Str-Acc (स्ट्रिक्ट लेक्सिकल मैचिंग) और LLM-Acc (एक मजबूत LLM द्वारा आंका गया सिमेंटिक इक्विवेलेंस) का उपयोग करके मापा गया।

प्रदर्शन: D2F-ReAG ने सभी डेटासेट्स पर सर्वश्रेष्ठ या सर्वश्रेष्ठ के निकटतम परिणाम प्राप्त किए। विशेष रूप से, 2WikiMultiHopQA पर, इसने 70.3 Str-Acc और 68.9 LLM-Acc प्राप्त किया, जो सबसे मजबूत बेसलाइन (LogicRAG) से क्रमशः 5.4 और 6.4 अंक अधिक है। HotpotQA पर, इसने उच्चतम LLM-Acc (63.4) प्राप्त किया।
दक्षता: "डिकंपोजिशन के साथ" बनाम "डिकंपोजिशन के बिना" की तुलना करने वाले एक एब्लेशन अध्ययन ने दिखाया कि कई प्रश्नों को डिकंपोजिशन के बिना हल किया जा सकता है। डायनेमिक दृष्टिकोण आसान मामलों के लिए अनावश्यक चरणों को छोड़ देता है, जिससे हमेशा डिकंपोजिशन करने वाली विधियों की तुलना में प्रदर्शन और दक्षता के बीच बेहतर संतुलन बनता है।
केस स्टडी: LogicRAG के साथ एक गुणात्मक तुलना ने प्रदर्शित किया कि D2F-ReAG क्वेरी को विभाजित करके और सत्यापित तथ्यों के आधार पर उप-प्रश्नों को रीराइट करके मध्यवर्ती त्रुटियों (जैसे, लुप्त तुलना लक्ष्य) को सफलतापूर्वक ठीक करता है, जबकि LogicRAG कठोर डिकंपोजिशन और सत्यापन की कमी के कारण विफल रहा।

महत्व और दावे (Significance and Claims)

पेपर दावा करता है कि D2F-ReAG मौजूदा RAG विधियों की महत्वपूर्ण सीमाओं को संबोधित करता है: फिक्स्ड डिकंपोजिशन रणनीतियाँ और रीजनिंग के दौरान त्रुटिपूर्ण जानकारी को फ़िल्टर करने में असमर्थता।

प्रश्नों को केवल आवश्यकतानुसार अनुकूल रूप से विभाजित करके और विश्वसनीयता के आधार पर मध्यवर्ती रीजनिंग को चुनिंदा रूप से फ़िल्टर करके, D2F-ReAG प्रभावी रूप से त्रुटि प्रसार (error propagation) को रोकता है। लेखक दावा करते हैं कि यह दृष्टिकोण अधिक निष्ठापूर्ण (faithful) रीजनिंग श्रृंखलाएं उत्पन्न करता है और ग्राफ-आधारित संरचनाओं की उच्च रखरखाव लागत या कठोर प्रॉम्प्ट-आधारित विधियों के शोर संचय के बिना चुनौतीपूर्ण मल्टी-हॉप बेंचमार्क पर मजबूत प्रदर्शन प्राप्त करता है। इस फ्रेमवर्क को LLMs में अधिक मानव-समान, कुशल और सटीक रीजनिंग की दिशा में एक कदम के रूप में प्रस्तुत किया गया है।