🤖 machine learning

Hierarchical Abstract Tree for Cross-Document Retrieval-Augmented Generation

यह शोध पत्र $\Psi$ -RAG को प्रस्तुत करता है, जो एक नवीन ट्री-आधारित रिट्रीवल-ऑगमेंटेड जनरेशन फ्रेमवर्क है, जो क्रॉस-डॉक्यूमेंट मल्टी-हॉप प्रश्नों को संभालने में मौजूदा विधियों की सीमाओं को दूर करने के लिए एक एडेप्टिव पदानुक्रमित एब्स्ट्रैक्ट ट्री इंडेक्स और एक मल्टी-ग्रैनुलर रिट्रीवल एजेंट का उपयोग करता है, जिससे संबंधित बेंचमार्क पर अत्याधुनिक प्रदर्शन प्राप्त होता है।

मूल लेखक: Ziwen Zhao, Menglin Yang

प्रकाशित 2026-05-04

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Ziwen Zhao, Menglin Yang

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आपके पास लाखों किताबें, लेख और दस्तावेज़ों वाली एक विशाल लाइब्रेरी है। आप एक जटिल प्रश्न पूछना चाहते हैं जिसमें कई अलग-अलग पृष्ठों के बीच कड़ियों को जोड़ने की आवश्यकता हो, जैसे, "उस व्यक्ति की पत्नी कौन है जिसने उस गायक के बारे में डॉक्यूमेंट्री बनाई जिसने बीयॉन्से (Beyoncé) को प्रेरित किया था?"

पारंपरिक खोज इंजन (पुराना तरीका) एक ऐसे लाइब्रेरियन की तरह हैं जो बस "Beyoncé" या "documentary" जैसे शब्दों वाले कुछ यादृच्छिक पन्ने उठा लेते हैं। वे अक्सर उस विशिष्ट व्यक्ति तक पहुँचने वाले महत्वपूर्ण लिंक को मिस कर देते हैं जिसके बारे में आप पूछ रहे हैं क्योंकि वे उस कहानी को नहीं समझते जो उन्हें जोड़ती है।

अन्य उन्नत प्रणालियाँ इन किताबों को एक पेड़ (Tree) (एक पदानुक्रम जहाँ बड़े सारांश ऊपर होते हैं और छोटे विवरण नीचे) में व्यवस्थित करने की कोशिश करती हैं। हालाँकि, शोध पत्र का तर्क है कि मौजूदा ट्री सिस्टमों में तीन प्रमुख खामियां हैं:

वे चौकोर खांचे में गोल चीज़ फिट करने की कोशिश करते हैं: वे मान लेते हैं कि सभी जानकारी समान रूप से वितरित है, जो कि सच नहीं है। यह सिस्टम को तब भ्रमित करता है जब कुछ विषय दुर्लभ होते हैं और कुछ सामान्य।
वे अलग-थलग द्वीप हैं: पेड़ की शाखाएं आपस में ठीक से बात नहीं कर पातीं। यदि उत्तर के लिए एक शाखा से दूसरी शाखा पर कूदने की आवश्यकता है, तो सिस्टम अटक जाता है।
वे बहुत अस्पष्ट हैं: पेड़ के शीर्ष पर स्थित "सारांश" इतना व्यापक होता है कि वह एक सटीक प्रश्न का उत्तर देने के लिए आवश्यक विशिष्ट विवरणों को भूल जाता है।

समाधान: Ψ-RAG (Psi-RAG)

लेखक Ψ-RAG नामक एक नई प्रणाली प्रस्तावित करते हैं। इसे एक अति-बुद्धिमान, अनुकूलन योग्य लाइब्रेरियन के रूप में सोचें जो केवल किताबें व्यवस्थित नहीं करता; बल्कि वह उत्तर खोजने के लिए सक्रिय रूप से सोचता है।

यह यहाँ बताया गया है कि यह कैसे काम करता है, जिसे दो भागों में विभाजित किया गया है:

1. "मर्जिंग और कोलैप्सिंग" ट्री (लाइब्रेरी का पुनर्गठन)

निर्धारित श्रेणियों (जैसे "खेल" या "इतिहास") में किताबों को जबरन डालने के बजाय, Ψ-RAG अपना स्वयं का मानचित्र बनाता है जो इस आधार पर है कि टेक्स्ट वास्तव में एक-दूसरे के कितने समान हैं।

उपमा: कल्पना कीजिए कि आपके पास मिश्रित LEGO ब्रिक्स का एक ढेर है। रंगों के आधार पर छाँटने के बजाय, आप समान ब्रिक्स को एक साथ जोड़ना शुरू करते हैं। यदि आपको दो ब्रिक्स मिलते हैं जो पूरी तरह से फिट होते हैं, तो आप उन्हें चिपका देते हैं। यदि कोई छोटा क्लस्टर किसी बड़े क्लस्टर के नीचे फिट बैठता है, तो आप उसे वहां जोड़ देते हैं।
परिणाम: यह एक "हाइरार्किकल एब्स्ट्रैक्ट ट्री" (Hierarchical Abstract Tree) बनाता है। निचली परत में वास्तविक टेक्स्ट चंक्स (chunks) होते हैं। ऊपर की परतें निचली परतों के सारांश (abstracts) होती हैं।
यह बेहतर क्यों है: अन्य प्राहनों के विपरीत जो हर शाखा को एक ही आकार का बनाने की कोशिश करते हैं (जो दुर्लभ विषयों को बिगाड़ देता है), Ψ-RAG पेड़ को स्वाभाविक रूप से बढ़ने देता है। यदि कोई विषय दुर्लभ है, तो उसे अपनी एक अलग, विशिष्ट शाखा मिलती है। यदि कोई विषय बहुत बड़ा है, तो उसे एक बड़ी शाखा मिलती है। यह सूचना के "आकार" को सुरक्षित रखता है।

2. "मल्टी-ग्रैनुलर एजेंटिक रिट्रीवल" (जासूसी एजेंट)

यह ऑपरेशन का मस्तिष्क है। यह केवल एक सर्च बार नहीं है; यह एक AI जासूस है जो लाइब्रेरी से बात कर सकता है।

जासूस का काम: जब आप प्रश्न पूछते हैं, तो एजेंट केवल एक बार नहीं देखता। वह सामान्य विचार प्राप्त करने के लिए पेड़ के शीर्ष (बड़े सारांशों) को देखता है। यदि उत्तर वहां नहीं है, तो वह खुद से पूछता है, "मुझे किस विशिष्ट विवरण की कमी है?"
क्वेरी पुनर्गठन (Query Reorganization): यदि एजेंट को एहसास होता है कि वह अटक गया है, तो वह आपके प्रश्न को अधिक विशिष्ट बनाने के लिए फिर से लिखता है।
- मूल प्रश्न: "उस व्यक्ति की पत्नी कौन है जिसने उस गायक के बारे में डॉक्यूमेंट्री बनाई जिसने बीयॉन्से को प्रेरित किया था...?"
- एजेंट का पुनर्गठित प्रश्न: "डेविड गेस्ट (David Gest) की पत्नी कौन है?" (पहले चरण में उस व्यक्ति का नाम पता लगाने के बाद)।
हाइब्रिड सर्च: एजेंट एक साथ दो उपकरणों का उपयोग करता है:
1. द ट्री (The Tree): बड़ी तस्वीर को समझने और तार्किक पथ का अनुसरण करने के लिए।
2. कीवर्ड सर्च (स्पार्स इंडेक्स): उन सटीक नामों और तथ्यों को खोजने के लिए जो एक व्यापक सारांश में खो सकते हैं।
लूप (The Loop): एजेंट पूछता रहता है, "क्या मेरे पास पर्याप्त जानकारी है?" यदि नहीं, तो वह गहराई से खोज करता है, प्रश्न को फिर से लिखता है, और पूरी कहानी मिलने तक फिर से खोज करता है।

यह क्यों मायने रखता है (पेपर के अनुसार)

पेपर ने कठिन प्रश्नों का परीक्षण करने के लिए इस प्रणाली का उपयोग किया जिनमें "मल्टी-हॉप" रीजनिंग (A से B को जोड़ना, फिर B से C को, फिर C से उत्तर तक) की आवश्यकता होती है।

गति बनाम सटीकता: अन्य ट्री सिस्टम बड़े डेटासेट पर तेज़ थे लेकिन कम सटीक थे। ग्राफ-आधारित सिस्टम (जो संबंधों को सबवे मैप की तरह मैप करते हैं) सटीक थे लेकिन उन्हें बनाने में बहुत धीमे थे।
विजेता: Ψ-RAG पिछले सर्वश्रेष्ठ ट्री सिस्टम (RAPTOR) की तुलना में 25.9% अधिक सटीक था और शीर्ष ग्राफ सिस्टम (HippoRAG 2) की तुलना में 7.4% अधिक सटीक था।
दक्षता: इसने RAPTOR की तुलना में अपना इंडेक्स 6.5 गुना तेज़ी से बनाया और यह ग्राफ सिस्टम की तुलना में बहुत तेज़ था, जिससे यह दस्तावेज़ों के बड़े संग्रह के लिए व्यावहारिक बन गया।

संक्षेप में

Ψ-RAG सूचनाओं के विशाल मात्रा को व्यवस्थित करने और खोजने का एक नया तरीका है। यह एक लचीला मानचित्र बनाता है जो डेटा की प्राकृतिक संरचना का सम्मान करता है और एक AI "जासूस" का उपयोग इस मानचित्र को नेविगेट करने के लिए करता है, जो जटिल पहेलियों को हल करने के लिए अनुवर्ती प्रश्न पूछता है और व्यापक सारांशों को विशिष्ट तथ्यों के साथ जोड़ता है जिन्हें अन्य सिस्टम मिस कर देते हैं।

यहाँ शोध पत्र "Hierarchical Abstract Tree for Cross-Document Retrieval-Augmented Generation" (Ψ-RAG) का विस्तृत तकनीकी सारांश दिया गया है।

1. समस्या विवरण (Problem Statement)

रिट्रीवल-ऑगमेंटेड जनरेशन (RAG) बाहरी ज्ञान के साथ लार्ज लैंग्वेज मॉडल्स (LLMs) को उन्नत करता है। जबकि Tree-RAG विधियाँ (जैसे RAPTOR) मल्टी-ग्रैनुलैरिटी प्रश्नों के समर्थन के लिए दस्तावेज़ों को पदानुक्रमित इंडेक्स (hierarchical indexes) में व्यवस्थित करती हैं, वे क्रॉस-डॉक्यूमेंट मल्टी-हॉप प्रश्नों (cross-document multi-hop questions) तक स्केल करने पर गंभीर सीमाओं का सामना करती हैं:

खराब वितरण अनुकूलन क्षमता (Poor Distribution Adaptability): मौजूदा विधियाँ $k$ -means प्रकार के क्लस्टरिंग (जैसे Gaussian Mixture Models) पर निर्भर करती हैं। ये एल्गोरिदम गोलाकार डेटा वितरण (spherical data distributions) को मानते हैं और "यूनिफॉर्म इफेक्ट" (uniform effect) से जूझते हैं, जो क्लस्टरों को समान आकार का बनाने के लिए मजबूर करते हैं। यह प्रमुख क्लस्टरों में मामूली, विषम विषयों (minor, skewed topics) को मिलाकर शोर (noise) उत्पन्न करता है, जिससे रिट्रीवर विशिष्ट (niche) जानकारी को अनदेखा कर देता है।
संरचनात्मक अलगाव (Structural Isolation): ट्री इंडेक्स में आमतौर पर विभिन्न शाखाओं के लीफ नोड्स (leaf nodes) के बीच स्पष्ट संबंध नहीं होते हैं। Graph-RAG के विपरीत, जो किनारों (edges) के माध्यम से संस्थाओं (entities) के बीच हॉप करता है, ट्री के लीफ अलग-थलग होते हैं। यह रिट्रीवर को मल्टी-हॉप रीजनिंग के लिए आवश्यक अंतर्निहित कारण संबंधी निर्भरताओं (implicit causal dependencies) को पकड़ने से रोकता है।
कोर्स एब्स्ट्रैक्शन (Coarse Abstraction): मानक ट्री एब्स्ट्रैक्शन अक्सर उच्च-स्तरीय सारांश बनाता है जो सूक्ष्म विवरणों को अस्पष्ट कर देता है। डेंस वेक्टर मिलान, उपयोगकर्ता के प्रश्न में विशिष्ट संस्थाओं को इन अमूर्त अवधारणाओं के साथ जोड़ने में संघर्ष करता है, जिससे तथ्यात्मक, टोकन-स्तर के प्रश्नों पर रिट्रीवल विफल हो जाता है।

2. कार्यप्रणाली: Ψ-RAG (Methodology: Ψ-RAG)

लेखक Ψ-RAG का प्रस्ताव करते हैं, जो दो मुख्य घटकों से बना एक फ्रेमवर्क है: एक Hierarchical Abstract Tree Index और एक Multi-granular Agentic Retriever।

A. Hierarchical Abstract Tree Indexing

$k$ -means क्लस्टरिंग के बजाय, Ψ-RAG एक पुनरावृत्त (iterative) "merging and collapse" प्रक्रिया का उपयोग करता है जो एग्लोमेरेटिव पदानुक्रमित क्लस्टरिंग (Agglomerative Hierarchical Clustering - AHC) से प्रेरित है, लेकिन बिना किसी पूर्व वितरण धारणा (a priori distribution assumptions) के।

समानता रैंकिंग (Similarity Ranking): सभी दस्तावेज़ चंक्स (chunks) को डेंस वेक्टर्स में एनकोड किया जाता है, और पेयरवाइज समानता की गणना की जाती है और उन्हें सॉर्ट किया जाता है।
Merging & Collapse:
- Merging: सबसे समान जोड़ी (चंक्स या नोड्स) को एक नए एब्सट्रैक्ट नोड के तहत जोड़ा जाता है।
- Leaf Node Collapse: यदि एक नोड पहले से ही एक पैरेंट से जुड़ा है, तो आइसोलेटेड नोड को उसी पैरेंट से जोड़ा जाता है।
- Abstract Node Collapse: यदि दो नोड्स एक ही गहराई (depth) पर अलग-अलग पैरेंट्स के अंतर्गत आते हैं, तो उनके रूट्स को एक नए नोड के तहत मर्ज किया जाता है। यदि डेप्थ्स भिन्न हैं, तो संतुलन बनाए रखने के लिए उथले (shallower) रूट को गहरे नोड के पाथ पर लिंक किया जाता है।
एब्स्ट्रैक्शन (Abstraction): एक LLM एजेंट प्रत्येक नॉन-लीफ नोड के लिए दो प्रकार के एब्सट्रैक्ट्स जेनरेट करता है:
- Summative Abstract: तर्क और संस्था संबंधों का सारांश देने वाला एक सुसंगत पैराग्राफ।
- Keyword Abstract: उच्च-घनत्व वाले कीवर्ड/फ्रेज जो संस्था सह-अस्तित्व (entity co-occurrence) को सुरक्षित रखते हैं।
Rebalancing: अत्यधिक बच्चों (children) वाले नोड्स को विभाजित किया जाता है ताकि एब्स्ट्रैक्शन एजेंट की कॉन्टेक्स्ट विंडो का उल्लंघन न हो।

B. Multi-granular Agentic Retrieval

संरचनात्मक अलगाव और कोर्स एब्स्ट्रैक्शन को संबोधित करने के लिए, Ψ-RAG एक Retrieval and Answering (R&A) Agent का उपयोग करता है जो Multi-granular Hybrid Index (Tree + Sparse Keyword Index) के साथ इंटरैक्ट करता है।

पुनरावृत्त रीजनिंग (Iterative Reasoning): एजेंट आकलन करता है कि क्या वर्तमान जानकारी पर्याप्त है। यदि नहीं, तो वह एक पुनर्गठित प्रश्न (reorganized query) (जो संदर्भ से समृद्ध है, जैसे वर्णनात्मक विशेषण जोड़ना) जेनरेट करता है और एक नया रिट्रीवल स्टेप ट्रिगर करता है।
हाइब्रिड रिट्रीवल (Hybrid Retrieval):
- Tree Retrieval: रूट से लीफ लेयर तक टॉप-डाउन डेंस वेक्टर सर्च।
- Sparse Retrieval: BM25-आधारित कीवर्ड सर्च।
- Fusion: परिणामों को रेंकर (पैरामीट्रिक) या रिकiproकल रैंक फ्यूजन (नॉन-पैरामीट्रिक) के माध्यम से संयोजित किया जाता है।
Query Reorganization: एजेंट विषयगत कीवर्ड (thematic keywords) शामिल करने के लिए प्रश्नों को गतिशील रूप से फिर से लिखता है, जो स्पार्स रिट्रीवर (विशिष्ट संस्थाओं को खोजने के लिए) और ट्री रिट्रीवर (प्रासंगिक उच्च-स्तरीय एब्सट्रैक्ट्स खोजने के लिए) दोनों की सहायता करता है।

3. मुख्य योगदान (Key Contributions)

वितरण अनुकूलन क्षमता (Distribution Adaptability): Ψ-RAG सैद्धांतिक रूप से सिद्ध करता है (Dasgupta के कॉस्ट एनालिसिस के माध्यम से) कि इसकी पदानुक्रमित मर्जिंग प्रक्रिया $k$ -means के "यूनिफॉर्म इफेक्ट" से बचती है। यह अनुकूल रूप से विषम डेटा वितरण को सुरक्षित रखता है, यह सुनिश्चित करता है कि मामूली क्लस्टर प्रमुख क्लस्टरों द्वारा अवशोषित होने के बजाय विशिष्ट बने रहें।
प्रथम क्रॉस-डॉक्यूमेंट ट्री-RAG (First Cross-Document Tree-RAG): यह पहला Tree-RAG फ्रेमवर्क है जो कॉर्पस-लेवल, क्रॉस-डॉक्यूमेंट मल्टी-हॉप रिट्रीवल को संभालने में सक्षम है, जो Graph-RAG की क्षमताओं से मेल खाता है जबकि ट्री संरचनाओं की दक्षता बनाए रखता है।
हाइब्रिड एजेंटिक फ्रेमवर्क (Hybrid Agentic Framework): यह एक स्पार्स कीवर्ड इंडेक्स और एक पुनरावृत्त एजेंट को एकीकृत करके कोर्स एब्स्ट्रैक्शन और फाइन-ग्रेन्ड रिट्रीवल के बीच के संघर्ष को हल करता है।
लचीलापन (Flexibility): यह फ्रेमवर्क पूरी तरह से ओपन-सोर्स LLMs पर बना है और यह मॉड्यूलर है, जिससे बिना रिट्रेनिंग के घटकों (एम्बेडिंग, एब्स्ट्रैक्शन, एजेंट, रेंकर) को बदला जा सकता है।

4. प्रयोगात्मक परिणाम (Experimental Results)

लेखकों ने विविध बेंचमार्क पर Ψ-RAG का मूल्यांकन किया जिसमें सिंगल-हॉप/मल्टी-हॉप QA (HotpotQA, 2Wiki, MuSiQue, MultiHop-RAG), नैरेटिव QA (NarrativeQA), और समराइजेशन (QMSum, WCEP) शामिल हैं।

प्रदर्शन लाभ (Performance Gains):
- क्रॉस-डॉक्यूमेंट मल्टी-हॉप QA बेंचमार्क पर, Ψ-RAG औसत F1 स्कोर में RAPTOR से 25.9% बेहतर प्रदर्शन करता है।
- यह औसत F1 में स्टेट-ऑफ-द-आर्ट HippoRAG 2 (एक Graph-RAG विधि) से 7.4% आगे निकल जाता है।
- यह सभी डेटासेट्स में रिट्रीवल मेट्रिक्स (Recall@5) में महत्वपूर्ण लाभ प्राप्त करता है।
दक्षता (Efficiency):
- Indexing: Ψ-RAG, OpenIE-आधारित Graph-RAG (जैसे GraphRAG) की तुलना में 10 गुना तेज़ और RAPTOR की तुलना में 6.5 गुना तेज़ कॉर्पस-लेवल ट्री बनाता है।
- Retrieval: टॉप-डाउन सर्च $O(\log n)$ कॉम्प्लेक्सिटी प्रदान करता है, जिसके परिणामस्वरूप Graph-RAG के ट्रैवर्सल की तुलना में कम लेटेंसी होती है।
एब्लेशन स्टडीज (Ablation Studies):
- R&A एजेंट को हटाने से मल्टी-हॉप प्रदर्शन में ~20% की गिरावट आती है।
- स्पार्स रिट्रीवर को हटाने से तथ्यात्मक प्रश्नों (जैसे PopQA पर -21.8%) पर प्रदर्शन काफी खराब हो जाता है।
- मल्टी-हॉप सफलता के लिए एजेंट द्वारा क्वेरी पुनर्गठन (Query reorganization) महत्वपूर्ण है।

5. महत्व (Significance)

अंतराल को भरना (Bridging the Gap): Ψ-RAG सफलतापूर्वक Tree-RAG की दक्षता और Graph-RAG की रीजनिंग शक्ति के बीच के अंतर को पाटता है, यह सिद्ध करता है कि पदानुक्रमित संरचनाएं भारी ओवरहेड के बिना जटिल मल्टी-हॉप रीजनिंग को प्रभावी ढंग से संभाल सकती हैं।
स्केलेबिलिटी (Scalability): "यूनिफॉर्म इफेक्ट" से बचकर और कुशल मर्जिंग एल्गोरिदम का उपयोग करके, यह बड़े, विषम कॉर्पस तक प्रभावी ढंग से स्केल करता है जहाँ पारंपरिक क्लस्टरिंग विफल हो जाती है।
व्यावहारिकता (Practicality): यह फ्रेमवर्क प्रदर्शित करता है कि ओपन-सोर्स मॉडल स्ट्रक्चर्ड RAG में स्टेट-ऑफ-द-आर्ट प्रदर्शन प्राप्त कर सकते हैं, जिससे उन्नत मल्टी-हॉप रीजनिंग प्रोप्राइटरी API या व्यापक फाइन-ट्यूनिंग के बिना सुलभ हो जाती है।
भविष्य की दिशा (Future Direction): यह क्रॉस-डॉक्यूमेंट रिट्रीवल को संभालने के लिए एक नया मानक स्थापित करता है, जो सुझाव देता है कि पदानुक्रमित इंडेक्सिंग के साथ एजेंटिक रीजनिंग अगली पीढ़ी के RAG सिस्टम के लिए एक व्यवहार्य और बेहतर मार्ग है।