One Retrieval to Cover Them All: Co-occurrence-Aware Knowledge Base Reorganization for Session-Level RAG
यह शोध पत्र एक सह-उपस्थिति-जागरूक (co-occurrence-aware) ज्ञान आधार पुनर्गठन पद्धति का प्रस्ताव करता है जो संबंधित दस्तावेजों को क्लस्टर करने और क्वेरी उम्मीदवारों के विस्तार के माध्यम से एंटरप्राइज RAG सिस्टम के लिए सत्र-स्तरीय (session-level) पुनर्प्राप्ति कवरेज और दक्षता में महत्वपूर्ण सुधार करता है, और यह तर्क देता है कि एकल-क्वेरी रिकॉल के स्थान पर सत्र-स्तरीय कवरेज को प्राथमिक मूल्यांकन मीट्रिक के रूप में अपनाया जाना चाहिए।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप अपनी वेबसाइट के साथ एक जटिल समस्या को ठीक करने की कोशिश कर रहे हैं, जैसे कि एक नया ऑनलाइन स्टोर सेटअप करना। आपको चार चीजें करने की आवश्यकता है: अपना डोमेन नाम जोड़ना, एक डिज़ाइन टेम्पलेट चुनना, भुगतान (payments) सेटअप करना और ईमेल कॉन्फ़िगर करना।
एक स्टैंडर्ड AI सिस्टम (जिसे RAG कहा जाता) में, कंप्यूटर एक ऐसे लाइब्रेरियन की तरह काम करता है जो केवल उन किताबों को ढूंढ सकता है जो आपके द्वारा पूछे गए प्रश्न से बिल्कुल मेल खाती हैं।
- आप पूछते हैं: "मैं अपना डोमेन कैसे जोड़ूँ?"
- लाइब्रेरियन डोमेन के बारे में तीन लेख ढूंढता है।
- समस्या: लाइब्रेरियन को यह अहसास नहीं होता कि आपको अभी टेम्पलेट्स और पेमेंट्स के बारे में लेखों की भी आवश्यकता है। वे लेख लाइब्रेरी के बिल्कुल अलग शेल्फ पर हैं। उन्हें पाने के लिए, आपको चार अलग-अलग प्रश्न पूछने होंगे, लाइब्रेरियन द्वारा प्रत्येक को खोजने का इंतज़ार करना होगा, और हर बार उम्मीद करनी होगी कि वह सही परिणाम दे।
इस शोध पत्र के लेखक इसे एक "ब्लाइंड स्पॉट" (अंध बिंदु) कहते हैं। उन्होंने पाया कि एक स्टैंडर्ड सिस्टम एक बार में आपके द्वारा वास्तव में आवश्यक जानकारी का केवल लगभग 41% ही ढूंढ पाता है।
समाधान: लाइब्रेरी को व्यवस्थित करने का एक नया तरीका
शोधकर्ता एक चतुर तरकीब का प्रस्ताव देते हैं: लाइब्रेरी को इस आधार पर पुनर्गठित करें कि लोग वास्तव में एक साथ क्या करते हैं, न कि केवल इस आधार पर कि किताबें दिखने में कैसी हैं।
इसे एक किराने की दुकान की तरह समझें।
- स्टैंडर्ड सिस्टम: यह "दूध" को "पनीर" के पास रखता है क्योंकि दोनों सफेद डेयरी उत्पाद हैं (सिमेंटिक समानता)।
- यह नया सिस्टम: यह ध्यान देता है कि जो लोग "दूध" खरीदते हैं, वे लगभग हमेशा "सीरियल" और "स्ट्रॉबेरी" भी खरीदते हैं (सह-उपस्थिति/co-occurrence), भले ही दूध और स्ट्रॉबेरी एक जैसे न दिखते हों। इसलिए, यह सीरियल और स्ट्रॉबेरी को दूध वाले ही गलियारे (aisle) में ले आता है।
यह कैसे काम करता है (सरल चरण)
- ऑफलाइन पुनर्गठन ("नाइट शिफ्ट"): किसी के भी सवाल पूछने से पहले, सिस्टम पिछले हजारों यूजर सेशन्स को देखता है। यह देखता है कि जब लोग डोमेन के बारे में पूछते हैं, तो उन्हें अक्सर टेम्पलेट्स और पेमेंट्स के बारे में भी मदद की आवश्यकता होती है। यह असंबंधित विषयों को एक साथ "क्लस्टर्स" या "पड़ोस" (neighborhoods) में समूहित करता है।
- ऑनलाइन रिट्रीवल ("डे शिफ्ट"): जब आप अपना प्रश्न पूछते हैं, तो सिस्टम दो काम करता है:
- यह सबसे स्पष्ट उत्तर ढूंढता है (एक स्टैंडर्ड लाइब्रेरियन की तरह)।
- जादुई कदम: यह तुरंत उस "पड़ोस" को देखता है जहाँ वह उत्तर रहता है और उस क्लस्टर के अन्य आइटम (टेम्पलेट्स और पेमेंट्स) को उठा लेता है, भले ही वे आपके प्रश्न से मेल न खाते हों।
- परिणाम: केवल डोमेन लेख देने के बजाय, यह आपको डोमेन लेख साथ ही टेम्पलेट और पेमेंट के लेख एक ही उत्तर में देता है।
यह क्यों महत्वपूर्ण है
शोधकर्ताओं ने इसका परीक्षण 6,000 से अधिक लेखों वाले एक वास्तविक एंटरप्राइज नॉलेज बेस पर किया। यहाँ उन्हें क्या पता चला:
- एक कॉल, अधिक उत्तर: आपको सारी जानकारी प्राप्त करने के लिए चार अलग-अलग प्रश्न पूछने के बजाय, अब एक एकल प्रश्न आपके 58% जरूरतों को पूरा कर देता है (41% से ऊपर)।
- कम चरण: आपको आवश्यक 70% जानकारी प्राप्त करने के लिए, अब उपयोगकर्ताओं को 34% कम प्रश्नों की आवश्यकता होती है। यह आपकी खरीदारी की यात्रा को चार यात्राओं के बजाय एक ही यात्रा में पूरा करने जैसा है।
- छोटी लाइब्रेरी: क्योंकि सिस्टम चीजों को कुशलतापूर्वक समूहित करता है, यह सही उत्तर ढूंढते हुए भी नॉलेज बेस के प्रभावी आकार को इसके मूल आकार के 20% तक सिकोड़ सकता है।
- हर जगह काम करता है: यह तरकीब काम करती थी चाहे आपने शब्दों को समझने के लिए किसी भी "दिमाग" (AI मॉडल) का उपयोग किया हो, और यह छह अलग-अलग प्रकार के विषयों (जैसे भुगतान, ईमेल और डिज़ाइन) में सफल रही।
ट्रेड-ऑफ (समझौता)
लेखक स्वीकार करते हैं कि इसकी एक छोटी सी कीमत है। क्योंकि यह जानकारी का एक व्यापक जाल फैला रहा है, इसलिए कभी-कभी पहला उत्तर पहले की तुलना में थोड़ा कम सटीक हो सकता है (प्रिसिजन 96% से गिरकर 93% हो जाता है)। हालांकि, वे तर्क देते हैं कि यह एक बेहतरीन समझौता है। आपके सामने तुरंत 58% समाधान होने का होना, "परफेक्ट" एकल उत्तर होने और फिर बाकी चीज़ों के लिए तीन और प्रश्न पूछने की आवश्यकता होने से कहीं बेहतर है।
उन्होंने क्या दावा नहीं किया
- उन्होंने यह दावा नहीं किया कि यह एक बार पूछे जाने वाले प्रश्नों (one-off questions) के लिए काम करता है जहाँ कोई फॉलो-अप नहीं होता (जैसे कि ट्रिविया क्विज़)।
- उन्होंने यह दावा नहीं किया कि यह AI के अंतिम लिखित उत्तर को परफेक्ट बनाता है; उन्होंने केवल यह मापा कि क्या सही दस्तावेज़ मिले।
- उन्होंने प्रशिक्षण के लिए वास्तविक यूजर लॉग का उपयोग नहीं किया (गोपनीयता के कारण), बल्कि सिस्टम को यह सिखाने के लिए कि चीजों को कैसे समूहित किया जाए, विशेषज्ञ-लेबल वाले डेटा और सिम्युलेटेड यूजर पाथ का उपयोग किया।
संक्षेप में: यह शोध पत्र सुझाव देता है कि जटिल, वास्तविक दुनिया की समस्याओं के लिए, हमें केवल AI से सबसे "समान" दस्तावेज़ खोजने के लिए नहीं कहना चाहिए। हमें AI को यह सिखाना चाहिए कि वह मानव व्यवहार के आधार पर सबसे "उपयोगी समूह" के दस्तावेज़ों को कैसे ढूंढे।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।