LivingRAG: Augmenting Graph RAG with Experience
LivingRAG एक Graph RAG फ्रेमवर्क है जो सत्यापित तर्क अनुभवों—जैसे कि उपयोगी ग्राफ सिग्नल्स और रीजनिंग पैटर्न—को संग्रहीत और पुन: उपयोग करके मल्टी-हॉप प्रश्न उत्तर देने की क्षमता को बढ़ाता है, जिससे संबंधित प्रश्नों के लिए सटीकता में सुधार होता है और टोकन की खपत कम होती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
आर्टिफिशियल इंटेलिजेंस की दुनिया में, लार्ज लैंग्वेज मॉडल्स मानव ज्ञान के विशाल पुस्तकालयों की तरह कार्य करते हैं, जो जटिल प्रश्नों के उत्तर देने और कहानियाँ लिखने में सक्षम हैं। हालाँकि, इन डिजिटल मस्तिष्क की एक महत्वपूर्ण कमी है: वे अक्सर उन तथ्यों को भूल जाते हैं जिन पर उन्हें प्रशिक्षित नहीं किया गया था, या वे ऐसे विवरण गढ़ लेते हैं जो सुनने में सत्य लगते हैं लेकिन वास्तव में गलत होते हैं। इसे ठीक करने के लिए, शोधकर्ताओं ने 'रिट्रीवल-ऑगमेंटेड जनरेशन' (retrieval-augmented generation) नामक एक विधि विकसित की। एक ऐसे छात्र की कल्पना करें जो परीक्षा दे रहा है जिसे एक पाठ्यपुस्तक खोलने की अनुमति दी गई है। केवल स्मृति पर निर्भर रहने के बजाय, छात्र उत्तर लिखने से पहले पुस्तक में उत्तर ढूँढता है। यह उत्तरों को वास्तविकता पर आधारित रखता है। इस दृष्टिकोण का एक अधिक उन्नत संस्करण एक "नॉलेज ग्राफ" (knowledge graph) का उपयोग करता है, जो सूचना को एक मानचित्र की तरह व्यवस्थित करता है, जो लोगों, स्थानों और घटनाओं को आपस में जोड़ने वाली रेखाओं के माध्यम से दिखाता है कि वे कैसे संबंधित हैं। यह सिस्टम को मूल प्रश्न से कई कदम दूर के सुराग खोजने में मदद करता है, न कि केवल सबसे स्पष्ट मिलान खोजने में।
इन प्रगतियों के बावजूद, अधिकांश वर्तमान प्रणालियाँ प्रत्येक नए प्रश्न के साथ इस तरह व्यवहार करती हैं जैसे कि सिस्टम ने इसे पहली बार देखा हो। भले ही सिस्टम ने अभी-अभी किसी विशिष्ट ऐतिहासिक व्यक्ति के बारे में एक कठिन पहेली सुलझाई हो, जैसे ही अगला प्रश्न आता है, सिस्टम उस तर्क को त्याग देता है जिसका उसने अभी उपयोग किया था। यह शून्य से शुरुआत करता है, इस तथ्य को अनदेखा करते हुए कि उसने पहले ही एक समान पथ का पता लगा लिया था। यह अक्षम है, जैसे कि एक यात्री जो कल गए स्थान के लिए निर्देश पूछने के लिए हर नए शहर में रुकता है, बजाय इसके कि वह उस मार्ग को याद रखे जिस पर वह अभी गया था। चीन में बेइहांग यूनिवर्सिटी के शोधकर्ताओं की एक टीम ने इस समस्या के समाधान का प्रस्ताव दिया है। उन्होंने 'लिविंग-आरएजी' (LivingRAG) नामक एक प्रणाली बनाई है, जो आर्टिफिशियल इंटेलिजेंस को अपने स्वयं के सफल तर्क की एक नोटबुक रखने की अनुमति देती है। अपने अनुभवों को लिखकर और भविष्य के प्रश्नों के लिए उन नोट्स का पुन: उपयोग करके, सिस्टम समय के साथ अधिक स्मार्ट बनता है, जिससे वह कम कंप्यूटिंग संसाधनों का उपयोग करते हुए अधिक सटीकता से प्रश्नों के उत्तर देता है।
LivingRAG के पीछे का मूल विचार सिस्टम को एक ऐसी 'लिखने योग्य स्मृति' (writable memory) देना है जिसे वह काम करते समय अपडेट कर सके। जब सिस्टम किसी प्रश्न का उत्तर देता है, तो वह केवल अंतिम उत्तर देकर आगे नहीं बढ़ता है। इसके बजाय, वह यह जाँचने के लिए रुकता है कि उस उत्तर को खोजने के लिए उसने जो मार्ग अपनाया था वह कितना ठोस था। वह सत्यापित करता है कि उसके द्वारा उपयोग किए गए तथ्य वास्तव में उसके द्वारा प्राप्त किए गए दस्तावेजों द्वारा समर्थित थे या नहीं। यदि तर्क सही है और प्रश्न केवल किसी ऐसी चीज़ का दोहराव नहीं है जिसे उसने पहले ही हल कर लिया है, तो सिस्टम उस अनुभव का एक संक्षिप्त सारांश सहेज लेता है। इस सारांश में यह जानकारी शामिल होती है कि कौन से सूचना के टुकड़े सबसे महत्वपूर्ण थे और उत्तर कैसे बनाया गया था, इसका एक संक्षिप्त खाका। यह प्रक्रिया एक बार की बातचीत को सत्यापित ज्ञान के बढ़ते पुस्तकालय में बदल देती है।
शोधकर्ताओं ने इस दृष्टिकोण का परीक्षण प्रश्नों की एक धारा (stream) को सिस्टम में फीड करके किया, जैसा कि एक वास्तविक उपयोगकर्ता कुछ दिनों तक चैटबॉट के साथ बातचीत कर सकता है। उन्होंने पाया कि संबंधित प्रश्न अक्सर समूहों (clusters) में दिखाई देते हैं। कभी-कभी एक उपयोगकर्ता किसी विशिष्ट व्यक्ति के बारे में पूछता है, और फिर बाद में किसी अन्य व्यक्ति के बारे में पूछता है जो उसी शहर या समय काल में रहा था। अन्य समय में, प्रश्न एक ही तार्किक पैटर्न का पालन करते हैं, जैसे कि दो अलग-अलग घटनाओं की तुलना करना, भले ही विवरण अलग हों। अपने प्रयोगों में, सिस्टम ने पाया कि वह इन पैटर्न का बार-बार पुन: उपयोग कर सकता है। उदाहरण के लिए, जटिल बहु-चरणीय प्रश्नों वाले एक डेटासेट पर, सिस्टम पिछले प्रश्न के तर्क पथ का लगभग सभी बाद के संबंधित प्रश्नों के लिए पुन: उपयोग करने में सक्षम था। इसका अर्थ था कि सिस्टम को हर बार तथ्यों के बीच के संबंधों को फिर से खोजने की आवश्यकता नहीं थी।
परिणामों ने दिखाया कि अनुभव से सीखने की यह विधि सिस्टम को प्रश्न पूछने में काफी बेहतर बनाती है। उन अन्य मजबूत प्रणालियों की तुलना में, जो अपने तर्क को सहेजती नहीं हैं, LivingRAG ने कई मानक बेंचमार्क पर उच्च सटीकता प्राप्त की। ऐतिहासिक हस्तियों और घटनाओं से जुड़े प्रश्नों वाले एक परीक्षण में, सिस्टम की सही उत्तर दर लगभग 84 प्रतिशत से बढ़कर 87 प्रतिशत हो गई। ग्राहक सहायता प्रश्नों पर केंद्रित एक अन्य परीक्षण में, सुधार और भी स्पष्ट था, जो 66 प्रतिशत से बढ़कर 70 प्रतिशत से अधिक हो गया। ये लाभ केवल सही उत्तर पाने के बारे में नहीं थे; इनके साथ दक्षता का एक अतिरिक्त लाभ भी आया। क्योंकि सिस्टम पिछले उत्तर के "ढाँचे" (scaffolding) या संरचना का पुन: उपयोग कर सकता था, इसलिए उसे अपने तर्क को समझाने के लिए बहुत अधिक नया टेक्स्ट उत्पन्न करने की आवश्यकता नहीं थी। इसने डेटा की मात्रा को कम कर दिया जिसे सिस्टम को प्रोसेस करना था, जिसने बदले में सिस्टम चलाने की अनुमानित लागत को भी कम कर दिया।
यह सुनिश्चित करने के लिए कि सिस्टम अपनी गलतियों से न सीखे, शोधकर्ताओं ने किसी भी अनुभव को सहेजने से पहले सख्त गुणवत्ता जाँच बनाई। सिस्टम किसी भी अनुभव को अपनी स्मृति में तभी लिखता है जब उत्तर दस्तावेजों में मिले साक्ष्यों द्वारा समर्थित हो। यदि सिस्टम सही उत्तर का अनुमान लगाता है लेकिन दस्तावेज़ वास्तव में उसका समर्थन नहीं करते हैं, तो उस अनुभव को त्याग दिया जाता है। यह सिस्टम को त्रुटियों को सुदृढ़ करने या ऐसी रेडंडेंट (redundant) जानकारी को संग्रहीत करने से रोकता है जो कोई नया मूल्य नहीं जोड़ती है। अध्ययन से पता चला कि सिस्टम बहुत चयनात्मक था, और उसने केवल उन 27 प्रतिशत संभावित अनुभवों को संग्रहीत किया जिन्हें उसने विचार में लिया था। इस चयनात्मकता ने यह सुनिश्चित किया कि स्मृति केवल उच्च-गुणवत्ता वाले, सत्यापित अंतर्दव्यों का संग्रह बनी रहे, न कि हर प्रयास का एक अव्यवस्थित लॉग।
शोधकर्ताओं ने यह भी देखा कि सिस्टम का प्रदर्शन समय के साथ कैसे बदलता है। सत्र की शुरुआत में, जब स्मृति खाली थी, तो सिस्टम ने मानक मॉडलों के समान प्रदर्शन किया। हालाँकि, जैसे-जैसे उसने अधिक प्रश्नों के उत्तर दिए और अपनी स्मृति को सत्यापित अनुभवों से भरा, उसने अपने भविष्य के खोजों को निर्देशित करने के लिए उन पिछले सफलताओं का उपयोग करना शुरू कर दिया। सिस्टम ने तेजी से सही स्थानों पर देखना और अपने उत्तरों को अधिक कुशलता से संरचित करना सीखा। यह सुझाव देता है कि सिस्टम का मूल्य उसके उपयोग के साथ बढ़ता है, जो इसे उन वातावरणों के लिए विशेष रूप से उपयुक्त बनाता है जहाँ उपयोगकर्ता संबंधित प्रश्नों की एक निरंतर धारा पूछते हैं। अध्ययन ने यह दावा नहीं किया कि यह विधि हर समस्या को हल करती है या यह हर स्थिति में पूरी तरह से काम करती है, लेकिन इसने प्रदर्शित किया कि सिस्टम को अपने स्वयं के सत्यापित तर्क से सीखने की क्षमता देना इसके प्रदर्शन को सुधारने का एक व्यावहारिक और प्रभावी तरीका है।
इस कार्य के निहितार्थ केवल बेहतर उत्तर प्राप्त करने से कहीं अधिक हैं। सिस्टम को आवश्यक टेक्स्ट की मात्रा को कम करके, यह विधि उन मॉडलों को चलाने के लिए आवश्यक ऊर्जा और कंप्यूटिंग शक्ति को भी कम करती है। यह एक महत्वपूर्ण विचार है क्योंकि आर्टिफिशियल इंटेलिजेंस दैनिक जीवन में एकीकृत हो रहा है। शोधकर्ताओं ने नोट किया कि जबकि उनका सिस्टम नियंत्रित प्रश्नों के सेट पर अच्छा काम करता है, वास्तविक दुनिया के उपयोग में चुनौतियाँ पेश आ सकती हैं, जैसे कि समय के साथ तथ्यों का बदलना या प्रश्नों का अधिक बिखरा हुआ और कम पूर्वानुमानित होना। उन्होंने सुझाव दिया कि भविष्य के संस्करणों में ऐसी विधियाँ शामिल करने की आवश्यकता हो सकती है जो नई जानकारी उपलब्ध होने पर पुराने अनुभवों को अपडेट या हटा सकें। फिलहाल, अध्ययन एक स्पष्ट प्रमाण प्रदान करता है कि एक आर्टिफिशियल इंटेलिजेंस को केवल उसे जो पहले से सीखा है उसे याद रखने की अनुमति देकर अधिक सक्षम और कुशल बनाया जा सकता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।