CompactRAG: Reducing LLM Calls and Token Overhead in Multi-Hop Question Answering
CompactRAG मल्टी-हॉप प्रश्न उत्तर देने के लिए एक लागत-कुशल ढांचा है जो ऑफलाइन कॉर्पस पुनर्गठन को एक परमाणु (atomic) QA ज्ञान आधार में और ऑनलाइन रीजनिंग चरण को, जो डेंस रिट्रीवल और उत्तर निष्कर्षण पर निर्भर करता है, में अलग करके LLM कॉल्स और टोकन ओवरहेड को न्यूनतम करता है, जिससे रीजनिंग की जटिलता के बावजूद LLM को केवल दो बार ही बुलाया जाता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक जटिल रहस्य को सुलझाने की कोशिश कर रहे हैं, जैसे कि यह पता लगाना कि किसी विशिष्ट फिल्म का निर्देशक कौन है, लेकिन उत्तर एक ही जगह पर नहीं है। आपको उस फिल्म के बारे में एक किताब पढ़नी होगी, निर्देशक का नाम ढूंढना होगा, फिर उस निर्देशक की जीवनी खोजनी होगी ताकि उनके जन्मस्थान का पता चल सके, और अंत में एक मानचित्र देखना होगा कि वह शहर कौन सा है।
यह मल्टी-हॉप क्वेश्चन अनस्विंग (Multi-Hop Question Answering) है: एक पहेली को सुलझाना जिसके लिए जानकारी के विभिन्न टुकड़ों (हॉप्स) के बीच कूदने की आवश्यकता होती है।
समस्या: "ओवर-वर्क्ड लाइब्रेरियन" (अत्यधिक काम करने वाला पुस्तकालयाध्यक्ष)
वर्तमान प्रणालियाँ (जिन्हें RAG या रिट्रीवल-ऑगमेंटेड जनरेशन कहा जाता है) इसे हल करने के लिए एक बहुत ही बुद्धिमान AI (एक लार्ज लैंग्वेज मॉडल या LLM) को यह काम करने के लिए कहती हैं। हालाँकि, जिस तरह से वे यह करती हैं, वह अक्षम है।
वर्तमान पद्धति को एक बहुत महंगे, उच्च वेतन वाले लाइब्रेरियन को आपका रहस्य सुलझाने के लिए काम पर रखने जैसा समझें।
- आप लाइब्रेरियन से एक प्रश्न पूछते हैं।
- लाइब्रेरियन अलमारियों की ओर दौड़ता है, एक किताब उठाता है, उसे पढ़ता है, और एक नोट लिखता है।
- लाइब्रेरियन वापस आपके पास आता है, आपके नोट को पढ़ता है, और कहता है, "ठीक है, अब मुझे जानना है कि निर्देशक का जन्म कहाँ हुआ था।"
- आप फिर से पूछते हैं। लाइब्रेरियन फिर से अलमारियों की ओर दौड़ता है, एक अलग किताब उठाता है, उसे पढ़ता है, और एक और नोट लिखता है।
- वह इस प्रक्रिया को रहस्य के हर चरण के लिए दोहराता है।
परिणाम? लाइब्रेरियन थक जाता है, प्रक्रिया में बहुत समय लगता है, और आपको एक भारी बिल ( "टोकन" या कंप्यूटिंग पावर के रूप में) चुकाना पड़ता है क्योंकि लाइब्रेरियन बार-बार इधर-उधर चक्कर लगा रहा है। इसके अलावा, कभी-कभी लाइब्रेरियन दूसरे चरण में भ्रमित हो जाता है कि "वह" (he) किसे संदर्भित करता है, जिससे गलत उत्तर मिलते हैं।
समाधान: कॉम्पैक्टRAG (द "प्री-पैकेज्ड नॉलेज बॉक्स")
इस शोध पत्र के लेखक, कॉम्पैक्टRAG (CompactRAG), एक स्मार्ट तरीका प्रस्तावित करते हैं। यह करने के बजाय कि महंगे लाइब्रेरियन को आपके पूछने पर बार-बार लाइब्रेरी के चक्कर लगाने दें, वे आपके आने से पहले ही लाइब्रेरी को पुनर्गठित कर देते हैं।
चरण 1: ऑफलाइन तैयारी (द "वन-टाइम सेटअप")
किसी भी उपयोगकर्ता के प्रश्न पूछने से पहले, सिस्टम पूरे दस्तावेज़ों की लाइब्रेरी को एक बार पढ़ने के लिए एक AI का उपयोग करता है।
- यह प्रत्येक दस्तावेज़ को छोटे, पूर्ण और आत्मनिर्भर "फैक्ट कार्ड्स" (तथ्य कार्डों) में तोड़ देता है।
- एक पूरा पैराग्राफ जो कहता है, "फिल्म 1953 में आर्थर क्रैबट्री द्वारा बनाई गई थी," के बजाय, यह एक विशिष्ट कार्ड बनाता है जो कहता है: "प्रश्न: 'द वेडिंग ऑफ लिली मार्लीन' का निर्देशन किसने किया? उत्तर: आर्थर क्रैबट्री।"
- यह लाइब्रेरी के हर तथ्य के लिए ऐसा करता है। इससे एक कॉम्पैक्ट नॉलेज बेस बनता है।
उपमा: कल्पना कीजिए कि एक अव्यवस्थित लाइब्रेरी के बजाय, आपके पास इंडेक्स कार्डों का एक विशाल, पूरी तरह से व्यवस्थित बॉक्स है। प्रत्येक कार्ड के सामने एक विशिष्ट प्रश्न है और उसके पीछे सटीक उत्तर है। कोई फालतू बात नहीं, कोई अतिरिक्त शब्द नहीं।
चरण 2: ऑनलाइन रीजनिंग (द "टू-ट्रिप रूल")
अब, जब कोई उपयोगकर्ता एक जटिल प्रश्न पूछता है, तो सिस्टम इस प्रकार कार्य करता है:
- ब्रेकडाउन (ट्रिप 1): महंगे लाइब्रेरियन (LLM) को बड़े रहस्य को छोटे, सरल चरणों में तोड़ने के लिए केवल एक बार बुलाया जाता है।
- उपयोगकर्ता: "निर्देशक का जन्म कहाँ हुआ था?"
- LLM: "ठीक है, चरण 1: फिल्म का निर्देशन किसने किया? चरण 2: उस व्यक्ति का जन्म कहाँ हुआ था?"
- खोज (लाइब्रेरियन की आवश्यकता नहीं): सिस्टम फिर से महंगे लाइब्रेरियन को नहीं बुलाता है। इसके बजाय, यह पूर्व-निर्मित "फैक्ट कार्ड" बॉक्स में उत्तर खोजने के लिए एक सस्ते, तेज़ रोबोट का उपयोग करता है।
- रोबोट "किसने निर्देशन किया..." वाला कार्ड ढूंढता है और "आर्थर क्रैबट्री" प्राप्त करता है।
- रोबोट फिर अगले प्रश्न को स्पष्ट बनाने के लिए उसे फिर से लिखता है: "आर्थर क्रैबट्री का जन्म कहाँ हुआ था?" (यह "वह" के भ्रम को रोकता है)।
- रोबोट "आर्थर क्रैबट्री का जन्म कहाँ हुआ था?" वाला कार्ड ढूंढता है और "लंदन" प्राप्त करता है।
- अंतिम उत्तर (ट्रिप 2): एक बार जब रोबोट के पास सभी छोटे उत्तर आ जाते हैं, तो टुकड़ों को जोड़ने और आपको अंतिम उत्तर देने के लिए महंगे लाइब्रेरियन को एक आखिरी बार बुलाया जाता है।
जादू: चाहे कितने भी चरणों (हॉप्स) का रहस्य हो, महंगे लाइब्रेरियन को केवल दो बार बुलाया जाता है। चाहे पहेली 2 चरणों की हो या 10 चरणों की, लागत वही रहती है।
यह क्यों महत्वपूर्ण है
- पैसे बचाता है: आप महंगे लाइब्रेरियन को बार-बार इधर-उधर दौड़ने के लिए भुगतान करना बंद कर देते हैं। आप उन्हें केवल दो बार भुगतान करते हैं।
- समय बचाता है: यह प्रक्रिया बहुत तेज़ है क्योंकि "फैक्ट कार्ड्स" को ढूंढना और पढ़ना आसान है।
- कम गलतियाँ: प्रश्नों को विशिष्ट नामों (जैसे "आर्थर क्रैबट्री" के बजाय "वह") को शामिल करने के लिए फिर से लिखने से, सिस्टम इस बात पर भ्रमित नहीं होता कि वह किसके बारे में बात कर रहा है।
परिणाम
पेपर ने तीन कठिन पहेली डेटासेट्स (HotpotQA, 2WikiMultiHopQA, और MuSiQue) पर इसका परीक्षण किया।
- सटीकता (Accuracy): कॉम्पैक्टRAG पहेलियों को सुलझाने में पुराने, महंगे तरीकों के समान ही अच्छा था।
- दक्षता (Efficiency): इसने काफी कम "टोकन" (AI कंप्यूटिंग की मुद्रा) का उपयोग किया। कुछ मामलों में, इसने अन्य विधियों की तुलना में आधे से भी कम संसाधनों का उपयोग किया।
सारांश
कॉम्पैक्टRAG एक अराजक, महंगी और बार-बार होने वाली जांच को एक सुव्यवस्थित, प्री-पैकेज्ड ऑपरेशन में बदलने जैसा है। यह ज्ञान को व्यवस्थित करने का भारी काम शुरू में ही एक बार कर देता है, ताकि किसी भी नए रहस्य को सुलझाना एक त्वरित, सस्ता और दो-चरणीय प्रक्रिया बन जाए।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।