Dynamic Knowledge Grounding for Retrieval-Augmented Generation: Uncertainty-Aware Evidence Fusion with Adaptive Retrieval Control
FORGE एक सिद्धांतपूर्ण ढांचा है जो एक अनिश्चितता-संचालित अनुकूलन योग्य पुनर्प्राप्ति नियंत्रक (uncertainty-driven adaptive retrieval controller), एक विश्वसनीयता-भारित साक्ष्य संलयन नेटवर्क (reliability-weighted evidence fusion network), और एक टोकन-स्तरीय ग्राउंडिंग सत्यापन मॉड्यूल (token-level grounding verification module) को एकीकृत करके रिट्रीवल-ऑगमेंटेड जनरेशन (Retrieval-Augmented Generation) को बढ़ाता है, जिससे कई बेंचमार्क में अत्याधुनिक प्रदर्शन प्राप्त करते हुए मतिभ्रम (hallucinations) और कम्प्यूटेशनल लागत को महत्वपूर्ण रूप से कम किया जा सकता है।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
आर्टिफिशियल इंटेलिजेंस के विशाल परिदृश्य में, बड़े भाषा मॉडल (लार्ज लैंग्वेज मॉडल्स) टेक्स्ट के शक्तिशाली इंजन के रूप में उभरे हैं, जो कहानियाँ लिखने, समस्याओं को हल करने और मानवीय विचारों की नकल करते हुए प्रवाह के साथ प्रश्नों के उत्तर देने में सक्षम हैं। ये सिस्टम एक विशाल आंतरिक तथ्य और पैटर्न लाइब्रेरी का उपयोग करके काम करते हैं जिसे उन्होंने प्रशिक्षण के दौरान आत्मसात किया है। हालाँकि, इस आंतरिक लाइब्रेरी में एक बड़ी खामी है: यह स्थिर है और पुराना हो सकता है, और अधिक खतरनाक रूप से, मॉडल आत्मविश्वास के साथ ऐसे तथ्य गढ़ सकता है जो कभी हुए ही नहीं थे, जिसे "हैलुसिनेशन" (hallucination) नामक घटना कहा जाता है। इसे ठीक करने के लिए, शोधकर्ताओं ने 'रिट्रीवल-ऑगमेंटेड जनरेशन' (retrieval-augmented generation) नामक एक विधि विकसित की। यह दृष्टिकोण एआई के लिए एक लाइब्रेरियन की तरह कार्य करता है, जिससे वह बोलने से पहले लिखने को रोक सकता है और दस्तावेज़ों के बाहरी डेटाबेस में उत्तर खोज सकता है। हालाँकि यह मदद करता है, वर्तमान प्रणालियाँ अक्सर अनाड़ी व्यवहार करती हैं, हर एक प्रश्न के लिए जानकारी प्राप्त करती हैं चाहे उसकी आवश्यकता हो या न हो, और फिर उस जानकारी को एक सरल, बिना सोचे-समझे तरीके से मिला देती हैं जिससे त्रुटियां हो सकती हैं।
शोधकर्ताओं के एक दल ने अब FORGE नामक एक नया फ्रेमवर्क पेश किया है, जिसे इस प्रक्रिया को अधिक स्मार्ट, कुशल और कहीं अधिक विश्वसनीय बनाने के लिए डिज़ाइन किया गया है। हर सवाल के साथ एक जैसा व्यवहार करने के बजाय, FORGE एक सतर्क संपादक की तरह कार्य करता है जो यह तय करता है कि जानकारी कब खोजनी है, विभिन्न स्रोतों की विश्वसनीयता को कैसे तौलना है, और यह कैसे सत्यापित करना है कि अंतिम उत्तर वास्तव में उस जानकारी द्वारा समर्थित है जो उसे मिली है। यह सिस्टम तीन अलग-अलग हिस्सों के इर्द-गिर्द बना है जो सहजता से एक साथ काम करते हैं। पहला, यह सीखता है कि कब वह किसी उत्तर के बारे में अनिश्चित है और केवल तभी वह अपने बाहरी ज्ञान तक पहुँचता है, जिससे समय बचता है और अप्रासंगिक डेटा के शोर से बचाव होता है। दूसरा, जब वह जानकारी एकत्र करता है, तो वह केवल टेक्स्ट को उत्तर में नहीं डाल देता; इसके बजाय, वह प्रत्येक दस्तावेज़ की गुणवत्ता का सावधानीपूर्वक विश्लेषण करता है, यह जाँचता है कि क्या विभिन्न स्रोत एक-दूसरे से सहमत हैं और सबसे भरोसेमंद अंशों को अधिक महत्व देता है। अंत में, जैसे ही सिस्टम अपनी प्रतिक्रिया उत्पन्न करता है, वह अपने द्वारा लिखे गए प्रत्येक शब्द की लगातार जाँच करता है ताकि यह सुनिश्चित हो सके कि वह मिले हुए साक्ष्यों द्वारा समर्थित है, और ऐसे दावे करने से इनकार करता है जिनमें समर्थन की कमी है।
शोधकर्ताओं ने इस नई पद्धति का परीक्षण आठ अलग-अलग चुनौतीपूर्ण बेंचमार्क पर किया, जिसमें सरल तथ्य-जाँच से लेकर जटिल प्रश्न शामिल थे जिनमें कई दस्तावेज़ों से विचारों को जोड़ने की आवश्यकता होती है। परिणामों ने दिखाया कि FORGE मौजूदा तरीकों से काफी बेहतर प्रदर्शन करता है। इसने पिछले सर्वोत्तम सिस्टमों की तुलना में उत्तरों की सटीकता में 2.1 से 4.8 अंक सुधार किए, जबकि साथ ही साथ हैलुसिनेशन की दर को लगभग 39 प्रतिशत कम कर दिया। शायद उतना ही महत्वपूर्ण यह है कि सिस्टम बहुत अधिक कुशल हो गया। खोज चरण को छोड़ने के बारे में सीखकर, जिसे वह पहले से अच्छी तरह जानता था, इसने उन मामलों की संख्या को 42 प्रतिशत से अधिक कम कर दिया जिनमें उसे जानकारी खोजने की आवश्यकता थी। इसका अर्थ है कि सिस्टम न केवल अधिक सत्यनिष्ठ है बल्कि तेज़ भी है और इसे चलाने के लिए कम गणनात्मक लागत (कंप्यूटेशनल एक्सपेंस) की आवश्यकता है।
FORGE की सफलता इस बात पर निर्भर करती है कि एआई अपने ज्ञान आधार के साथ कैसे इंटरैक्ट करता है। जानकारी को हर क्वेरी के लिए अंधाधुंध प्राप्त करने के बजाय, सिस्टम अपने स्वयं के अनिश्चितता का आकलन करने के लिए एक 'लर्नड पॉलिसी' (learned policy) का उपयोग करता है। यदि मॉडल आत्मविश्वास महसूस करता है, तो वह स्मृति से उत्तर देता है; यदि उसे अपने ज्ञान में कमी का आभास होता है, तो वह खोज को ट्रिगर करता है। जब वह खोज करता है, तो वह एक परिष्कृत फ्यूजन नेटवर्क का उपयोग करता है जो विभिन्न दस्तावेज़ों के साथ अलग-अलग व्यवहार करता है, और उन स्रोतों को उच्च भार (वेट) देता है जो आधिकारिक हैं और एक-दूसरे के अनुरूप हैं। यह सिस्टम को एक अविश्वसनीय दस्तावेज़ द्वारा गुमराह होने से रोकता है। इसके अलावा, एक सत्यापन मॉड्यूल बैकग्राउंड में चलता है, जो उत्पन्न किए गए प्रत्येक शब्द को कॉन्फिडेंस स्कोर प्रदान करता है। यदि सिस्टम को किसी विशिष्ट दावे का समर्थन करने के लिए साक्ष्य नहीं मिलता है, तो वह तथ्य गढ़ने के बजाय चुप रहना चुन सकता है। नियंत्रण का यह सूक्ष्म स्तर सिस्टम को प्राकृतिक भाषा के प्रवाह से समझौता किए बिना सत्यनिष्ठा का उच्च मानक बनाए रखने की अनुमति देता है।
अपने विश्लेषण में, शोधकर्ताओं ने प्रदर्शित किया कि ये सुधार केवल भाग्यशाली दुर्घटनाएँ नहीं हैं बल्कि कठोर गणितीय सिद्धांतों पर आधारित हैं जो गारंटी देते हैं कि सिस्टम समय के साथ इष्टतम व्यवहार करेगा। उन्होंने दिखाया कि जानकारी कब प्राप्त करनी है, यह तय करने की विधि सर्वोत्तम रणनीति की ओर अभिसरित (converge) होती है, जिससे व्यर्थ प्रयास न्यूनतम हो जाते हैं। उन्होंने यह भी सिद्ध किया कि जानकारी को संयोजित करने का तरीका सबसे उपयोगी विवरणों को संरक्षित करने और बाकी को त्यागने के लिए सैद्धांतिक रूप से इष्टतम है। सबसे महत्वपूर्ण रूप से, उन्होंने स्थापित किया कि सत्यापन प्रक्रिया विश्वास का एक विश्वसनीय माप प्रदान करती है, यह सुनिश्चित करती है कि सिस्टम के दावे लगातार वास्तविक साक्ष्यों से जुड़े हों। अध्ययन पुष्टि करता है कि इन तीन क्षमताओं—अनुकूली खोज (adaptive searching), बुद्धिमान सम्मिश्रण (intelligent blending), और सख्त सत्यापन (strict verification)—को एक एकल फ्रेमवर्क में एकीकृत करके, ऐसा आर्टिफिशियल इंटेलिजेंस बनाना संभव है जो न केवल अधिक जानकार है बल्कि अधिक ईमानदार और कुशल भी है। यह कार्य उच्च-जोखिम वाली सूचनाओं, जैसे कि चिकित्सा सलाह से लेकर कानूनी अनुसंधान तक, जहाँ सटीकता और स्रोतों को उद्धृत करने की क्षमता आवश्यक है, उन एआई उपकरणों के निर्माण के लिए एक स्पष्ट मार्ग सुझाता है जिन पर उपयोगकर्ता भरोसा कर सकें।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।