💬 NLP

S-Path-RAG: Semantic-Aware Shortest-Path Retrieval Augmented Generation for Multi-Hop Knowledge Graph Question Answering

S-Path-RAG एक सिमेंटिक-अवेयर (semantic-aware), रिट्रीवल-ऑगमेंटेड जनरेशन फ्रेमवर्क है जो मौजूदा बेसलाइन्स की तुलना में उच्च सटीकता, बेहतर साक्ष्य कवरेज और अधिक दक्षता प्राप्त करने के लिए एक हाइब्रिड पाथ एन्यूमरेशन रणनीति को एक डिफरेंशिएबल स्कोरर और एक इटरेटिव न्यूरल-सोक्रेटिक डायलॉग लूप के साथ जोड़कर मल्टी-हॉप नॉलेज ग्राफ क्वेश्चन आंसरिंग में सुधार करता है।

मूल लेखक: Rong Fu, Yemin Wang, Tianxiang Xu, Yongtai Liu, Weizhi Tang, Wangyu Wu, Xiaowen Ma, Simon Fong

प्रकाशित 2026-03-26

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Rong Fu, Yemin Wang, Tianxiang Xu, Yongtai Liu, Weizhi Tang, Wangyu Wu, Xiaowen Ma, Simon Fong

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक बहुत ही कठिन पहेली सुलझाने की कोशिश कर रहे हैं, जैसे: "किसने फिल्म 'Argo' लिखी और उनका जन्म उसी शहर में हुआ था जिसने 1976 के ग्रीष्मकालीन ओलंपिक की मेजबानी की थी?"

इसका उत्तर देने के लिए, आप केवल अनुमान नहीं लगा सकते। आपको तीन बिंदुओं को जोड़ना होगा:

फिल्म Argo।
उस फिल्म का लेखक।
वह शहर जहाँ उस लेखक का जन्म हुआ था।
क्या उस शहर ने 1976 के ओलंपिक की मेजबानी की थी।

इसे कंप्यूटर Multi-Hop Question Answering कहते हैं। यह एक खजाने की खोज की तरह है जहाँ आपको खजाना (उत्तर) खोजने के लिए एक विशाल मानचित्र (Knowledge Graph) पर संकेतों के निशान का पीछा करना होता है।

यह पेपर एक नया सिस्टम पेश करता है जिसे S-Path-RAG कहा जाता है। यह कैसे काम करता है, इसे सरल उपमाओं के माध्यम से समझाया गया है।

समस्या: "अंधा खोज" बनाम "स्मार्ट जासूस"

पुराना तरीका (अंधा खोज - The Blind Search):
कल्पना कीजिए कि आप एक बहुत ही बुद्धिमान लेकिन थोड़ी भ्रमित (hallucinating) लाइब्रेरियन (एक Large Language Model) से उत्तर मांगते हैं। लाइब्रेरियन को बहुत सारे तथ्य पता हैं लेकिन उनके पास कोई नक्शा नहीं है। वे अनुमान लगा सकते हैं, "शायद यह बोस्टन है?" या "शायद यह न्यूयॉर्क है?" वे भाग्यशाली हो सकते हैं, लेकिन अक्सर वे चीजें बना लेते हैं (hallucinations) क्योंकि वे भौतिक रूप से नक्शे की जांच नहीं कर सकते।

"ग्राफ" का तरीका (नक्शा पाठक - The Graph Way):
अन्य सिस्टम लाइब्रेरियन को एक नक्शा देने की कोशिश करते हैं। लेकिन वे अक्सर पूरा का पूरा नक्शा लाइब्रेरियन की मेज पर ढेर कर देते हैं। यह बहुत अधिक हो जाता है। लाइब्रेरियन बहुत अधिक जानकारी से भ्रमित हो जाता है, अप्रासंगिक सड़कों को पढ़ने में समय बर्बाद करता है, और फिर भी वह उस विशिष्ट पथ को मिस कर सकता है जिसकी उसे आवश्यकता है।

समाधान: S-Path-RAG (स्मार्ट जासूस)

S-Path-RAG एक सुपर-स्मार्ट जासूस की तरह काम करता है जो लाइब्रेरियन की मदद करता है। पूरे नक्शे को डालने के बजाय, जासूस चार चतुर काम करता है:

1. "स्मार्ट टॉर्चलाइट" (Semantic-Aware Path Search)

हर एक सड़क पर चलने के बजाय, जासूस एक ऐसी टॉर्चलाइट का उपयोग करता है जो केवल उन सड़कों पर रोशनी डालती है जो देखने में ऐसे लगती हैं कि उत्तर तक ले जा सकती हैं।

यह कैसे काम करता है: यह एक मैप एल्गोरिदम (सबसे कम दूरी की तलाश करना) को एक "वाइब चेक" (क्या यह रास्ता सवाल के साथ मेल खाता है?) के साथ जोड़ता है।
उपमा: यदि आप बेकरी की तलाश कर रहे हैं, तो एक मानक मानचित्र आपको शहर की हर सड़क दिखा सकता है। स्मार्ट टॉर्चलाइट केवल उन सड़कों को हाइलाइट करती है जिनसे ब्रेड की खुशबू आती है और जिन पर बेकरी के बोर्ड लगे हैं। यह उन सड़कों को अनदेखा कर देती है जो दलदल की ओर जाती हैं, भले ही वे छोटी क्यों न हों।

2. "झूठ पकड़ने वाला यंत्र" (Verifier & Scorer)

जासूस कुछ आशाजनक रास्ते ढूंढता है, लेकिन कुछ रास्ते अच्छे लग सकते हैं पर वे फर्जी हो सकते हैं।

यह कैसे काम करता है: लाइब्रेरियन को रास्ता दिखाने से पहले, एक "झूठ पकड़ने वाला यंत्र" (verifier) इसकी जांच करता है। यदि रास्ता कहता है "लेखक का जन्म मंगल ग्रह पर हुआ था," तो डिटेक्टर कहता है, "नहीं, यह असंभव है।"
उपमा: यह एक क्लब के बाउंसर की तरह है। सिर्फ इसलिए कि कोई व्यक्ति ऐसा दिखता है जैसे वह वहां का हिस्सा हो (रास्ता तर्कसंगत लगता है), इसका मतलब यह नहीं है कि उसके पास टिकट है (तथ्य सत्य है)। बाउंसर नकली लोगों को बाहर निकाल देता है ताकि लाइब्रेरियन अपना समय उन पर बर्बाद न करे।

3. "फुसफुसाहट" (Soft Latent Injection)

यह सबसे शानदार हिस्सा है। आमतौर पर, जासूस लाइब्रेरियन को पढ़ने के लिए एक लंबा, 5-पेज का रिपोर्ट लिखेगा। इसमें बहुत समय लगता है और बहुत अधिक "दिमागी शक्ति" (कंप्यूटर टोकन) खर्च होती है।

यह कैसे काम करता है: एक लंबी रिपोर्ट लिखने के बजाय, जासूस एक विशेष "टेलीपैथिक लिंक" (cross-attention) का उपयोग करके सही रास्ते का सार सीधे लाइब्रेरियन के कान में फुसफुसा देता है।
उपमा: कल्पना कीजिए कि आप अपने दोस्त को एक जटिल फिल्म की कहानी समझाने की कोशिश कर रहे हैं। उन्हें पूरी स्क्रिप्ट पढ़ाने के बजाय, आप बस उन्हें एक छोटा, सटीक सारांश कार्ड देते हैं जिससे उन्हें तुरंत कहानी समझ आ जाती है। लाइब्रेरियन बिना उपन्यास पढ़े सही रास्ते का एहसास प्राप्त कर लेता है।

4. "संवाद चक्र" (Neural-Socratic Graph Dialogue)

कभी-कभी, जासूस सुनिश्चित नहीं होता। शायद नक्शा धुंधला है।

यह कैसे काम करता है: लाइब्रेरियन कहता है, "मैं इस शहर के बारे में 100% निश्चित नहीं हूँ।" जासूस यह सुनता है, वापस नक्शे पर जाता है, और कहता है, "ठीक है, चलिए एक अलग रास्ता देखते हैं।" वे तब तक आपस में बात करते रहते हैं जब तक कि लाइब्रेरियन आश्वस्त न हो जाए।
उपमा: यह '20 Questions' खेलने जैसा है। यदि आप पूछते हैं "क्या यह एक कुत्ता है?" और मैं कहता हूँ "नहीं, लेकिन यह एक पालतू जानवर है," तो आप हार नहीं मानते। आप मेरे फीडबैक के आधार पर अपने अगले अनुमान को बदलते हैं। S-Path-RAG लाइब्रेरियन की अनिश्चितता के आधार पर खोज को एडजस्ट करता है।

यह एक बड़ी बात क्यों है?

यह कुशल है: यह पूरी विश्वकोश पढ़ने में समय बर्बाद नहीं करता। यह जल्दी से विशिष्ट पथ खोज लेता है।
यह ईमानदार है: यह तथ्यों की मानचित्र के विरुद्ध दोबारा जांच करके कंप्यूटर को मनगढ़ंत बातें बनाने से रोकता है।
यह अनुकूलनीय है: यदि पहला अनुमान गलत है, तो यह घबराता नहीं है; यह बस दूसरी नज़र डालने के लिए कहता है और एक अलग रास्ता आजमाता है।

परिणाम

परीक्षणों में, यह सिस्टम जटिल पहेलियों को हल करने में पिछले तरीकों की तुलना में बहुत बेहतर था। इसने सही उत्तर अधिक बार खोजे, कम गलतियाँ कीं, और यह काम तेजी से किया। यह एक आंखों पर पट्टी बांधकर अनुमान लगाने वाले से बदलकर एक ऐसे जासूस में अपग्रेड होने जैसा है जिसके पास GPS, झूठ पकड़ने वाला यंत्र और उत्तर तक पहुँचने के लिए टेलीपैथिक लिंक है।

यहाँ शोध पत्र "S-Path-RAG: Semantic-Aware Shortest-Path Retrieval Augmented Generation for Multi-Hop Knowledge Graph Question Answering" का विस्तृत तकनीकी सारांश दिया गया है।

1. समस्या विवरण (Problem Statement)

लार्ज लैंग्वेज मॉडल्स (LLMs) प्राकृतिक भाषा के कार्यों में उत्कृष्ट हैं, लेकिन वे तथ्यात्मक निरंतरता (factual consistency) और संरचित मल्टी-हॉप रीजनिंग (structured multi-hop reasoning) में संघर्ष करते हैं, जिससे अक्सर 'hallucinations' (भ्रम) की स्थिति उत्पन्न होती है। जबकि नॉलेज ग्राफ्स (KGs) संरचित और सत्यापन योग्य तथ्य प्रदान करते हैं, उन्हें रिट्रिवल-ऑगमेंटेड जनरेशन (RAG) के माध्यम से LLMs के साथ एकीकृत करने में कई चुनौतियाँ आती हैं:

वन-शॉट सीमाएँ (One-shot Limitations): मौजूदा विधियाँ अक्सर एक एकल रिट्रीवल पास करती हैं, जिससे मॉडल अनिश्चित होने पर साक्ष्यों को पुनरावृत्ति (iteratively) से परिष्कृत करने में विफल रहता है।
सिमेंटिक बनाम टोपोलॉजिकल बेमेल (Semantic vs. Topological Mismatch): ग्राफ न्यूरल नेटवर्क्स (GNNs) टोपोलॉजी में अच्छे हैं लेकिन उनमें सूक्ष्म सिमेंटिक समझ की कमी होती है; LLMs सिमेंटिक्स समझते हैं लेकिन गहरे ग्राफ ट्रैवर्सल में संघर्ष करते हैं।
टोकन अक्षमता (Token Inefficiency): उम्मीदवार पथों (candidate paths) की लंबी सूचियों को मौखिक रूप (verbalize) में बदलने से अत्यधिक टोकन बजट खर्च होता है और शोर (noise) उत्पन्न होता है।
अनुकूलन क्षमता का अभाव (Lack of Adaptability): वर्तमान सिस्टम शायद ही कभी डायग्नोस्टिक फीडबैक के आधार पर रिट्रीवल प्रक्रिया को निर्देशित करने की अनुमति देते हैं।

2. कार्यप्रणाली: S-Path-RAG (Methodology: S-Path-RAG)

S-Path-RAG एक फ्रेमवर्क है जिसे इटरेटिव न्यूरल-सोक्रेटिक ग्राफ डायलॉग (NSGD) लूप के भीतर संचालित होने वाले सिमेंटिक-अवेयर शॉर्टेस्ट-पाथ रिट्रीवल तंत्र के माध्यम से इन अंतरालों को पाटने के लिए डिज़ाइन किया गया है।

A. मुख्य घटक (Core Components)

हाइब्रिड वेटेड पाथ एन्यूमरेशन (Hybrid Weighted Path Enumeration):
- साधारण शॉर्टेस्ट पाथ के बजाय, यह सिस्टम वेटेड $k$ -शॉर्टेस्ट पाथ्स (Yen/Dijkstra), बीम सर्च, और कन्स्ट्रेंड रैंडम वॉक्स को संयोजित करने वाली एक हाइब्रिड रणनीति का उपयोग करके सीमित-लंबाई वाले उम्मीदवार पथों को सूचीबद्ध करता है।
- एज वेट्स (Edge Weights): किनारों (edges) को स्ट्रक्चरल कॉस्ट, नोड एम्बेडिंग्स के बीच सिमेंटिक समानता और रिलेशन प्रायर्स (relation priors) को संयोजित करने वाले सूत्र द्वारा भारित किया जाता है:
  $w_e = \alpha \cdot c_{struct}(e) + \beta \cdot (1 - \text{sim}(\ell_u, \ell_v)) + \gamma \cdot \pi_{rel}(r)$
- पथों को पथ लागत और क्वेरी के साथ सिमेंटिक संरेखण (alignment) के बीच संतुलन बनाने वाले स्कोर द्वारा रैंक किया जाता है।
डिफरेंशिएबल पाथ स्कोरिंग और वेरिफिकेशन (Differentiable Path Scoring & Verification):
- स्कोरर (Scorer): एक सीखने योग्य स्कोरर ( $s_\theta$ ) पथों को स्कोर प्रदान करता है।
- वेरिफायर (Verifier): एक हल्का वर्िफायर ( $v_\eta$ ) पथ की उपयोगिता का अनुमान लगाता है, जो विशेष रूप से "LLM-प्लॉज़िबल" लेकिन KG-असमर्थित 'फॉल्स पॉजिटिव्स' को दबाने के लिए प्रशिक्षित है।
- कॉन्ट्रास्टिव एनकोडर (Contrastive Encoder): एक पाथ एनकोडर ( $f_\psi$ ) को हार्ड नेगेटिव्स के विरुद्ध सिमेंटिक रैंकिंग सुधारने के लिए InfoNCE लॉस के साथ प्रशिक्षित किया जाता है।
सॉफ्ट लेटेंट इंजेक्शन (क्रॉस-अटेंशन) (Soft Latent Injection - Cross-Attention):
- पथों को मौखिक रूप में व्यक्त करने के बजाय, सिस्टम चयनित पथ एम्बेडिंग्स का एक कॉम्पैक्ट सॉफ्ट मिश्रण ( $z_{ctx}$ ) बनाता है।
- इन लेटेंट वेक्टर्स को क्रॉस-अटेंशन तंत्र के माध्यम से फ्रोजन LLM में इंजेक्ट किया जाता है। यह LLM को टेक्स्ट विवरणों के टोकन ओवरहेड के बिना संरचित साक्ष्य पर तर्क करने की अनुमति देता है।
- अलाइनमेंट (Alignment): एक अलाइनमेंट लॉस ( $L_{align}$ ) यह सुनिश्चित करता है कि अटेंशन मैकेनिज्म उनके गुणवत्ता स्कोर के अनुपात में इंजेक्ट किए गए पथों पर ध्यान केंद्रित करे।
इटरेटिव न्यूरल-सोक्रेटिक ग्राफ डायलॉग (NSGD):
- सिस्टम एक लूप में काम करता है जहाँ LLM एक उत्तर उत्पन्न करता है और यदि अनिश्चितता अधिक हो तो एक डायग्नोस्टिक मैसेज ( $m^{(t)}$ ) देता है।
- मैपर (Mapper): एक मैपर ( $\pi_{map}$ ), जो या तो नियम-आधारित है या सीखा हुआ, डायग्नोस्टिक संदेशों को ग्राफ एडिट्स (जैसे, सीड एक्सपेंशन, एज वेरिफिकेशन) में अनुवादित करता है।
- अपडेट (Update): अगले दौर के लिए सर्च स्पेस को परिष्कृत करने के लिए सबग्राफ को अपडेट किया जाता है (प्रशिक्षण के दौरान सॉफ्टली और इन्फरेंस के दौरान डिस्क्रीटली)।

B. प्रशिक्षण रणनीति (Training Strategy)

स्टेज्ड ऑप्टिमाइजेशन (Staged Optimization): पहले GNN/Verifier को प्री-ट्रेन करें, फिर फ्रोजन LLM के साथ स्कोरर/इंजेक्शन लेयर्स को ऑप्टिमाइज़ करें, और फिर जॉइंट फाइन-ट्यूनिंग करें।
रीइन्फोर्समेंट लर्निंग (वैकल्पिक): F1 स्कोर पर आधारित रिवार्ड्स के साथ PPO का उपयोग करता है, जो अत्यधिक एडिट्स और हैलुसिनेशन को दंडित करता है।
लॉस फंक्शन (Loss Function): उत्तर हानि (answer loss), कॉन्ट्रास्टिव लॉस, वर्िफायर लॉस, रेगुलराइजेशन और अलाइनमेंट लॉस का एक वेटेड सम।

3. प्रमुख योगदान (Key Contributions)

सिमेंटिक-अवेयर पाथ एन्यूमरेशन: संरचनात्मक संभाव्यता और सीखे गए सिमेंटिक संरेखण दोनों के आधार पर पथों को रैंक करने के लिए एक हाइब्रिड सर्च रणनीति पेश करता है, जो विशुद्ध रूप से टोपोलॉजिकल या विशुद्ध रूप से टेक्स्ट-आधारित रिट्रीवल से आगे बढ़ता है।
डिफरेंशिएबल वेरिफिकेशन पाइपलाइन: हैलुसिनेशन-प्रोन पथों को LLM तक पहुँचने से पहले फ़िल्टर करने के लिए एक पाथ स्कोरर और वर्िफायर के लिए एक जॉइंट ट्रेनिंग मैकेनिज्म विकसित करता है।
कॉम्पैक्ट सॉफ्ट लेटेंट इंजेक्शन: क्रॉस-अटेंशन के माध्यम से सीधे LLM में पथ प्रतिनिधित्व को इंजेक्ट करने का प्रस्ताव देता है, जो तर्क करने की क्षमता बनाए रखते हुए टोकन के उपयोग को काफी कम कर देता है।
इटरेटिव डायग्नोस्टिक-टू-एडिट लूप: न्यूरल-सोक्रेटिक ग्राफ डायलॉग को परिभाषित करता है, जो LLM को डायग्नोस्टिक फीडबैक के माध्यम से सक्रिय रूप से ग्राफ रिट्रीवल को निर्देशित करने की अनुमति देता है, जिससे साक्ष्य का अनुकूलन योग्य परिशोधन संभव होता है।
व्यापक सत्यापन: WebQSP, ComplexWebQuestions (CWQ), और MetaQA-3 जैसे मानक मल्टी-हॉप KGQA बेंचमार्क पर व्यापक एब्लेशन अध्ययन, कारण हस्तक्षेप विश्लेषण (causal intervention analyses), और शोर एवं लापता सीड्स के विरुद्ध मजबूती परीक्षण प्रदान करता है।

4. प्रयोगात्मक परिणाम (Experimental Results)

फ्रेमवर्क का मूल्यांकन मानक मल्टी-हॉप KGQA बेंचमार्क: WebQSP, ComplexWebQuestions (CWQ), और MetaQA-3 के साथ-साथ बड़े पैमाने पर OGB WikiKG 2.0 पर किया गया।

प्रदर्शन (Performance): S-Path-RAG स्टेट-ऑफ-द-आर्ट (SOTA) परिणाम प्राप्त करता है।
- WebQSP: 88.9% Hit@1, 78.2% F1।
- CWQ: 77.9% Hit@1, 75.2% F1।
- यह GNN-RAG, ToG (Think-on-Graph), और विभिन्न LLM+KG हाइब्रिड सहित मजबूत बेसलाइन्स को पछाड़ देता है।
दक्षता (Efficiency):
- इटरेटिव बेसलाइन्स की तुलना में LLM कॉल्स को कम करता है (2.3 कॉल्स बनाम अन्य के लिए 3.0–4.2)।
- टेक्स्ट-हैवी रिट्रीवल विधियों की तुलना में कम लेटेंसी (3.8s) और कम GPU मेमोरी उपयोग (11.2 GB)।
एब्लेशन अध्ययन (Ablation Studies):
- सॉफ्ट इंजेक्शन को हटाने से F1 लगभग 6 अंक गिर जाता है।
- वर्िफायर को हटाने से F1 लगभग 4 अंक गिर जाता है।
- इटरेटिव लूप (सिंगल-राउंड) को हटाने से F1 लगभग 3 अंक गिर जाता है।
मजबूती (Robustness): यह 20–80% एंटिटी-लिंकिंग शोर के साथ भी अपनी क्लीन परफॉरमेंस का >92% बनाए रखता है और k-NN एक्सपेंशन के माध्यम से मिसिंग सीड एंटिटीज से अच्छी तरह से रिकवर करता है।
स्केलेबिलिटी (Scalability): OGB WikiKG 2.0 (17M+ edges) पर, यह एम्बेडिंग-आधारित विधियों की तुलना में काफी कम पैरामीटर्स (5.5M) के साथ सर्वश्रेष्ठ सटीकता प्राप्त करता है, जिसमें सब-लीनियर मेमोरी ग्रोथ होती है।

5. महत्व (Significance)

S-Path-RAG क्वेश्चन अनswering के लिए न्यूरो-सिम्बोलिक AI में एक महत्वपूर्ण प्रगति का प्रतिनिधित्व करता है।

व्याख्यात्मकता (Interpretability): यह पाथ-लेवल ट्रेसेस और अटेंशन डायग्नोस्टिक्स प्रदान करता है, जिससे रीजनिंग प्रक्रिया पारदर्शी और डिबगेबल हो जाती है।
दक्षता (Efficiency): विस्तृत टेक्स्ट रिट्रीवल को कॉम्पैक्ट लेटेंट इंजेक्शन से बदलकर, यह RAG सिस्टम में "कॉन्टेक्स्ट विंडो" की बाधा को हल करता है।
अनुकूलन क्षमता (Adaptability): NSGD लूप एक नया प्रतिमान (paradiment) पेश करता है जहाँ LLM रिट्रीव किए गए टेक्स्ट के निष्क्रिय उपभोक्ता के बजाय, रिट्रीवल प्रक्रिया को निर्देशित करने वाला एक सक्रिय एजेंट के रूप में कार्य करता है।
व्यावहारिकता (Practicality): फ्रेमवर्क को सीमित कंप्यूट और टोकन बजट के लिए डिज़ाइन किया गया है, जो जटिल मल्टी-हॉप रीजनिंग को वास्तविक दुनिया के अनुप्रयोगों में तैनात करने के लिए एक व्यवहार्य समाधान प्रदान करता है।

निष्कर्षतः, S-Path-RAG प्रभावी रूप से ग्राफ एल्गोरिदम की टोपोलॉजिकल शक्तियों को LLMs की सिमेंटिक प्रवाह के साथ एकीकृत करता है, जिससे जटिल नॉलेज ग्राफ रीजनिंग के लिए एक मजबूत, कुशल और व्याख्यात्मक प्रणाली बनती है।