SelfGraphRAG: Bridging the Supervision Gap in Graph-Based RAG with Synthetic QA Generation
SelfGraphRAG ग्राफ-आधारित पुनर्प्राप्ति (retrieval) के लिए लेबल किए गए डेटा की कमी को दूर करने के लिए ज्ञान ग्राफ संरचनाओं से सीधे सिंथेटिक प्रश्न-उत्तर युग्म उत्पन्न करके एक क्वेरी-कंडीशन्ड रिट्रीवर को प्रशिक्षित करता है, जिससे बिना किसी मैनुअल एनोटेशन के मल्टी-हॉप रीजनिंग और रिट्रीवल प्रिसिजन में सुधार होता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
लार्ज लैंग्वेज मॉडल्स ने हमारे कंप्यूटर के साथ बातचीत करने के तरीके को बदल दिया है, जो मानव ज्ञान के विशाल भंडार के रूप में कार्य करते हैं जो आश्चर्यजनक प्रवाह के साथ लिख सकते हैं, सारांश निकाल सकते हैं और संवाद कर सकते हैं। फिर भी, इन डिजिटल दिमागों में एक मौलिक कमी है: उन्हें अतीत के एक निश्चित स्नैपशॉट पर प्रशिक्षित किया गया है और वे पूरी तरह से पुन: प्रशिक्षित हुए बिना नए तथ्यों को आसानी से नहीं सीख सकते। इसे हल करने के लिए, शोधकर्ताओं ने 'रिट्रीवल-ऑगमेंटेड जनरेशन' (retrieval-augmented generation) नामक एक विधि विकसित की, जो मॉडल को किसी प्रश्न का उत्तर देने से पहले एक बाहरी लाइब्रेरी में जानकारी खोजने की अनुमति देती है। यह सरल तथ्यों के लिए तो अच्छा काम करता है, लेकिन जब किसी प्रश्न के लिए विभिन्न सूचनाओं के बीच संबंधों को जोड़ने की आवश्यकता होती है, तो यह संघर्ष करता है। कल्पना कीजिए कि आप एक रहस्य सुलझाने की कोशिश कर रहे हैं जहाँ सुराग एक पुस्तक के अलग-अलग पृष्ठों में बिखरे हुए हैं; एक मानक खोज सही पृष्ठ तो ढूंढ सकती है, लेकिन वह अक्सर यह देखने में विफल रहती है कि वे सुराग एक पूर्ण चित्र बनाने के लिए कैसे जुड़ते हैं। यह सीमा उन जटिल, ज्ञान-प्रधान विषयों से निपटने में एक बड़ी बाधा बन जाती है जहाँ लोगों, घटनाओं और अवधारणाओं के बीच संबंधों को समझना उतना ही महत्वपूर्ण है जितना कि स्वयं तथ्य।
इस अंतर को पाटने के लिए, यूनिवर्सिटी ऑफ मैरीलैंड, बाल्टीमोर काउंटी के शोधकर्ताओं ने 'सेल्फग्राफआरएजी' (SelfGraphRAG) नामक एक नया दृष्टिकोण प्रस्तावित किया। इसका मूल विचार जानकारी को केवल दस्तावेजों की एक सूची के रूप में नहीं, बल्कि जुड़े हुए तथ्यों के एक जाल के रूप में व्यवस्थित करना है, जिसे 'नॉलेज ग्राफ' (knowledge graph) कहा जाता है। इस जाल में, सूचना का प्रत्येक टुकड़ा एक 'नोड' (node) है, और उनके बीच के संबंध उन नोड्स को जोड़ने वाली रेखाएं हैं। जबकि मौजूदा सिस्टम निजी दस्तावेजों से इन जालों को बना सकते हैं, वे ऐतिहासिक रूप से इनका प्रभावी ढंग से उपयोग करने में संघर्ष करते आए हैं क्योंकि उनके पास कंप्यूटर को विशिष्ट प्रश्नों के लिए इस जाल में नेविगेट करना सिखाने का तरीका नहीं है। आमतौर पर, कंप्यूटर को सही रास्ता खोजना सिखाने के लिए एक इंसान को हजारों उदाहरण प्रश्न लिखने और सही उत्तरों को चिह्नित करने की आवश्यकता होती है, जो एक धीमी, महंगी और ऐसी निजी डेटा के लिए असंभव प्रक्रिया है जहाँ ऐसे प्रश्न मौजूद ही नहीं होते। शोधकर्ताओं ने एक सरल लेकिन गहन प्रश्न पूछा: क्या कंप्यूटर उस जाल की संरचना से अपने स्वयं के अभ्यास प्रश्न उत्पन्न करके खुद को पढ़ा सकता है?
टीम ने एक ऐसा पाइपलाइन विकसित किया जो दस्तावेजों के एक संग्रह को एक संरचित नॉलेज ग्राफ में बदलकर शुरू होता है, जिसमें लोग या स्थान जैसी संस्थाओं और उनके बीच के संबंधों की पहचान की जाती है। मानव द्वारा प्रश्न लिखे जाने की प्रतीक्षा करने के बजाय, सिस्टम ग्राफ की संरचना से सीधे एक विशाल अभ्यास प्रश्नों का सेट स्वचालित रूप से बनाता है। यह यह काम नोड्स के जुड़ाव को देखकर करता है। उदाहरण के लिए, यदि ग्राफ दिखाता है कि व्यक्ति A, व्यक्ति B को जानता है, और व्यक्ति B, व्यक्ति C को जानता है, तो सिस्टम स्वचालित रूप से व्यक्ति A और व्यक्ति C के बीच के संबंध के बारे में प्रश्न पूछ सकता है। यह ऐसे प्रश्न भी बनाता है जिनमें एक एकल नोड के तत्काल परिवेश का सारांश निकालने की आवश्यकता होती है। ये कृत्रिम (synthetic) प्रश्न और उनके सही उत्तर एक प्रशिक्षण डेटासेट बनाते हैं, जिससे सिस्टम यह सीख पाता है कि क्वेरी (query) को उत्तर देने के लिए ग्राफ के विशिष्ट हिस्सों को कैसे प्राप्त किया जाए। यह प्रक्रिया प्रभावी रूप से चक्र को पूरा करती है, जिससे ग्राफ स्वयं एक स्व-निहित पर्यवेक्षण (supervision) का स्रोत बन जाता है जिसके लिए किसी मैनुअल लेबलिंग की आवश्यकता नहीं होती।
जब शोधकर्ताओं ने इस पद्धति का परीक्षण किया, तो उन्होंने पाया कि सिस्टम पिछले दृष्टिकोणों की तुलना में, जो सरल समानता मिलान (similarity matching) पर निर्भर थे, नॉलेज ग्राफ को कहीं बेहतर तरीके से नेविगेट करना सीख गया। मानक सिस्टम में, कंप्यूटर प्रश्न में उन शब्दों को खोजता है जो दस्तावेजों में शब्दों से मेल खाते हैं, जो अक्सर तब विफल हो जाता है जब उत्तर के लिए उन विचारों को जोड़ने की आवश्यकता होती है जो पूरी तरह से अलग शब्दावली का उपयोग करते हैं। नए सिस्टम ने, अपने स्वयं के उत्पन्न प्रश्नों पर प्रशिक्षित होकर, ग्राफ के माध्यम से तार्किक पथों का अनुसरण करना सीख लिया। मल्टी-स्टेप रीजनिंग (multi-step reasoning) के परीक्षण के लिए डिज़ाइन किए गए एक बेंचमार्क पर, नए मेथड ने 24.62 का स्कोर प्राप्त किया, जो एक मानक सिस्टम के 2.60 स्कोर और एक अग्रणी ग्राफ-आधारित प्रतिस्पर्धी के 0.98 स्कोर की तुलना में एक महत्वपूर्ण सुधार है। परिणाम बताते हैं कि सिस्टम ने केवल अधिक जानकारी ही नहीं खोजी; बल्कि उसने सही जानकारी खोजी, अप्रासंगिक विवरणों को फ़िल्टर कर दिया जो अक्सर अन्य मॉडल्स को भ्रमित करते हैं। मेडिकल रिसर्च एब्स्ट्रैक्ट्स (medical research abstracts) से संबंधित एक परीक्षण में, नए मेथड ने 55.2% प्रश्नों का सही उत्तर दिया, जिसने मानक खोज विधियों और अन्य ग्राफ-आधारित सिस्टम दोनों को पीछे छोड़ दिया, विशेष रूप से उन मामलों में जहाँ उत्तर नकारात्मक या अनिश्चित था, जो मशीनों के लिए संभालना अत्यंत कठिन होता है।
अध्ययन ने वर्तमान ग्राफ-आधारित सिस्टम की एक गंभीर कमजोरी को भी उजागर किया जो एम्बेडिंग समानता (embedding similarity) पर निर्भर करते हैं। जबकि ये सिस्टम अक्सर बड़ी मात्रा में जानकारी प्राप्त करते हैं, वे अक्सर कंप्यूटर को अप्रासंगिक विवरणों से भर देते हैं, जिससे सटीकता खराब हो जाती है। इसके विपरीत, नया दृष्टिकोण सटीक होना सीख गया, ऐसे सबग्राफ (subgraphs) प्राप्त किए जो पूर्ण और अत्यधिक प्रासंगिक दोनों थे। शोधकर्ताओं ने नोट किया कि सिस्टम की सफलता उसके द्वारा बनाए गए ग्राफ की गुणवत्ता पर निर्भर थी; यदि तथ्यों का प्रारंभिक निष्कर्षण त्रुटिपूर्ण था, तो प्रशिक्षण डेटा उन त्रुटियों को विरासत में ले लेगा। हालाँकि, ग्राफ से स्वयं प्रशिक्षण डेटा उत्पन्न करने की क्षमता का अर्थ है कि संगठन अब बिना डेटा लेबल करने वाली टीमों को नियुक्त किए अपने निजी दस्तावेजों पर परिष्कृत, संरचित तर्क लागू कर सकते हैं। यह कार्य सुझाव देता है कि संरचित निरूपणों (structured representations) से प्राप्त सिंथेटिक पर्यवेक्षण, ग्राफ-आधारित तर्क की पूर्ण क्षमता को अनलॉक कर सकता है, जिससे लार्ज लैंग्वेज मॉडल्स को सरल तथ्य प्राप्ति से आगे बढ़कर जटिल जानकारी की वास्तविक, बहु-चरणीय समझ की ओर बढ़ने में मदद मिल सकती है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।