Adaptive Context Reliance Control in Noisy Retrieval-Augmented Generation: A Systematic Literature Review

लार्ज लैंग्वेज मॉडल्स आधुनिक आर्टिफिशियल इंटेलिजेंस टूल्स के पीछे के शक्तिशाली इंजन हैं, जो एक वाक्य में अगले शब्द की भविष्यवाणी करके कहानियाँ लिखने, प्रश्नों के उत्तर देने और समस्याओं को हल करने में सक्षम हैं। ये सिस्टम बड़ी मात्रा में टेक्स्ट से सीखते हैं, जिससे वे तथ्यों और पैटर्न का एक आंतरिक पुस्तकालय (लाइब्रेरी) बनाते हैं जिसका उपयोग वे बोलने के लिए कर सकते हैं। हालाँकि, इस आंतरिक पुस्तकालय की सीमाएँ होती हैं; यह पुराना हो सकता है, विशिष्ट विवरणों को छोड़ सकता है, या उस डेटा से त्रुटियाँ भी शामिल हो सकती हैं जिस पर इसे प्रशिक्षित किया गया था। इसे ठीक करने के लिए, इंजीनियरों ने 'रिट्रीवल-ऑगमेंटेड जनरेशन' नामक एक विधि विकसित की। यह दृष्टिकोण AI के लिए एक लाइब्रेरियन की तरह कार्य करता है, जो मॉडल को अधिक सटीक उत्तर देने में मदद करने के लिए एक बाहरी डेटाबेस से ताज़ा, प्रासंगिक दस्तावेज़ प्राप्त करता है। विचार यह है कि इन नए दस्तावेज़ों को पढ़कर, AI केवल अपनी स्मृति पर निर्भर रहने के बजाय वास्तविकता के आधार पर अपने उत्तर दे सकता है।

फिर भी, AI और इसके बाहरी पुस्तकालय के बीच यह साझेदारी पूर्ण नहीं है। जो दस्तावेज़ सिस्टम प्राप्त करता है, वे हमेशा सहायक नहीं होते। कभी-कभी वे अप्रासंगिक होते हैं, कभी-कभी वे पुराने होते हैं, और कभी-कभी वे आत्मविश्वास के साथ गलत होते हैं, ऐसे तथ्य प्रस्तुत करते हैं जो सत्य का खंडन करते हैं। त्रुटियों के इस संग्रह को "रिट्रीवल नॉइज़" (retrieval noise) के रूप में जाना जाता है। जब एक AI इन शोर वाले दस्तावेज़ों का सामना करता है, तो वह एक कठिन विकल्प के सामने खड़ा होता है: क्या उसे अभी पढ़ी गई नई जानकारी पर भरोसा करना चाहिए, या उसे जो वह पहले से जानता है उस पर टिके रहना चाहिए? यदि वह शोर पर बहुत अधिक भरोसा करता है, तो वह गलत सूचना फैला सकता है। यदि वह नई जानकारी को बहुत जल्दी अनदेखा कर देता है, तो वह सही उत्तर चूक सकता है। सही संतुलन ढूँढना ही वह केंद्रीय चुनौती है जिसे यह अध्ययन क्षेत्र हल करने का लक्ष्य रखता है।

फेडरल उर्दू यूनिवर्सिटी और अल्स्टर यूनिवर्सिटी के शोधकर्ताओं की एक टीम ने हाल ही में यह समझने के लिए एक व्यवस्थित समीक्षा (systematic review) की कि वैज्ञानिक वर्तमान में वैज्ञानिकों को इन शोर वाले परिदृश्य में AI को नेविगेट करने में कैसे मदद कर रहे हैं। उन्होंने जनवरी 2022 से मार्च 2026 के बीच प्रकाशित सोलह प्राथमिक अध्ययनों और दो प्रमुख बेंचमार्क रिपोर्टों की जांच की। उनका लक्ष्य उन विभिन्न रणनीतियों का मानचित्र बनाना था जिनका उपयोग इन सिस्टमों को खराब जानकारी के प्रति मजबूत बनाने के लिए किया जाता है और यह पहचानना था कि वर्तमान समाधान कहाँ विफल हो रहे हैं। शोधकर्ताओं ने पाया कि हालांकि प्रदर्शन में सुधार के लिए कई विधियाँ मौजूद हैं, लेकिन वे अक्सर सभी खराब जानकारी को एक ही समस्या के रूप में मान लेती हैं, यह अंतर करने में विफल रहती हैं कि एक दस्तावेज़ जो केवल अप्रासंगिक है और एक जो खतरनाक रूप से गलत है, दोनों में क्या अंतर है। इसके अलावा, अधिकांश मौजूदा समाधान या तो बदलते परिवेश के अनुकूल होने के लिए बहुत कठोर हैं या वास्तविक समय के अनुप्रयोगों के लिए बहुत धीमे हैं।

समीक्षा से पता चला कि यह क्षेत्र वर्तमान में दो मुख्य समूहों में विभाजित है। पहला समूह AI को तैनात करने से पहले ही शोर के प्रति अधिक प्रतिरोधी बनाने पर ध्यान केंद्रित करता है। इन विधियों में मॉडल को कठोर अभ्यास सत्रों के माध्यम से खराब जानकारी को पहचानने और अस्वीकार करने के लिए सिखाना शामिल है। जबकि ये मॉडल त्रुटियों को अनदेखा करने में बहुत मजबूत हो जाते हैं, वे लचीले नहीं होते हैं; एक बार प्रशिक्षित होने के बाद, वे आसानी से समायोजित नहीं हो सकते हैं यदि शोर की प्रकृति बदल जाती है या बाहरी दस्तावेज़ों की गुणवत्ता बदल जाती है। दूसरा समूह काम करते समय AI को अनुकूलित करने पर ध्यान केंद्रित करता है, जिससे इसे यह तय करने की अनुमति मिलती है कि वह खोजे गए दस्तावेज़ों को कितना महत्व दे। ये विधियाँ अधिक लचीली हैं लेकिन अक्सर इस बात की मजबूत गारंटी देने में संघर्ष करती हैं कि मॉडल विशेष रूप से पेचीदा शोर से मूर्ख नहीं बनेगा।

समीक्षा से एक महत्वपूर्ण अंतर्दृष्टि मिली कि सभी शोर समान नहीं होते हैं। कुछ दस्तावेज़ थोड़े विषय से हटकर हो सकते हैं, जबकि अन्य पूरी तरह से मनगढ़ंत या ज्ञात तथ्यों का खंडन करने वाले हो सकते हैं। शोधकर्ताओं ने नोट किया कि वर्तमान दृष्टिकोण अक्सर इन अंतरों को पहचानने में विफल रहते हैं। वे शोर को एक अलग प्रकार के बजाय एक एकल, समान समस्या के रूप में देखते हैं, जिसके लिए अलग-अलग प्रतिक्रिया की आवश्यकता होती है। उदाहरण के लिए, एक मॉडल को उस दस्तावेज़ के प्रति बहुत संदेही होने की आवश्यकता हो सकती है जो इसके आंतरिक ज्ञान का खंडन करता है, लेकिन यह एक ऐसे दस्तावेज़ पर भरोसा कर सकता है जो केवल एक नया विवरण जोड़ता है। समीक्षा ने इस बात पर प्रकाश डाला कि कोई भी मौजूदा विधि शोर के प्रकार की विस्तृत समझ को मॉडल के अपने आत्मविश्वास के माप के साथ सफलतापूर्वक संयोजित नहीं करती है ताकि यह निर्णय लिया जा सके कि नई जानकारी पर कितना भरोसा किया जाए।

इन कमियों को दूर करने के लिए, लेखकों ने 'एडेप्टिव कॉन्टेक्स्ट रिलायंस कंट्रोल' (Adaptive Context Reliance Control) नामक एक नया ढांचा प्रस्तावित किया। यह एक सिस्टम का एक वैचारिक डिज़ाइन है जो AI के लिए एक गतिशील फ़िल्टर के रूप में कार्य करता है। सभी बाहरी दस्तावेज़ों को आँख मूंदकर स्वीकार या अस्वीकार करने के बजाय, यह सिस्टम पहले आने वाली जानकारी का विश्लेषण करेगा कि उसमें किस प्रकार का शोर है। इसके बाद यह जांच करेगा कि AI अपने विषय के बारे में अपने आंतरिक ज्ञान में कितना आश्वस्त है। इस जानकारी को—नई डेटा की गुणवत्ता और पुरानी स्मृति की शक्ति को—संयोजित करके, सिस्टम यह गणना कर सकता है कि AI को नए दस्तावेज़ों पर कितना भरोसा करना चाहिए। यदि नए दस्तावेज़ विरोधाभासों से भरे हैं और AI पहले से ही उत्तर के बारे में बहुत निश्चित है, तो सिस्टम AI को नए डेटा को अनदेखा करने के लिए कहेगा। इसके विपरीत, यदि AI अनिश्चित है और नए दस्तावेज़ विश्वसनीय दिखते हैं, तो सिस्टम उसे ध्यान से देखने के लिए प्रोत्साहित करेगा।

शोधकर्ताओं ने इस विचार को वास्तविक दुनिया में काम करने में सक्षम बनाने के लिए एक महत्वपूर्ण बाधा की भी पहचान की: गति। इन स्मार्ट निर्णयों को लेने के लिए, वर्तमान सैद्धांतिक मॉडल को जानकारी पर कुछ अतिरिक्त जाँच चलाने की आवश्यकता होती है, जिसमें समय लगता है। एक तेज़ वातावरण में जहाँ उत्तर तुरंत चाहिए, ये अतिरिक्त चरण बहुत धीमे हो सकते हैं। समीक्षा सुझाव देती है कि भविष्य के कार्य को इन जाँचों को उनकी सटीकता खोए बिना तेज़ बनाने के तरीकों पर ध्यान केंद्रित करना चाहिए। लेखकों ने यह भी बताया कि हालांकि कुछ अध्ययनों ने नियंत्रित सेटिंग्स में आशाजनक परिणाम दिखाए हैं, लेकिन बड़े पैमाने पर, वास्तविक दुनिया के परीक्षण की कमी है जो यह सिद्ध कर सके कि ये विधियाँ विभिन्न प्रकार के प्रश्नों और भाषाओं में लगातार काम करती हैं।

अंततः, यह समीक्षा अगली पीढ़ी के AI सिस्टम के लिए एक रोडमैप के रूप में कार्य करती है। यह स्पष्ट करती है कि केवल अधिक डेटा जोड़ना या मॉडल को अधिक कठिन प्रशिक्षण देना पर्याप्त नहीं है। विश्वसनीय AI का भविष्य उन सिस्टमों को बनाने में निहित है जो बुद्धिमानी से नई जानकारी के मूल्य को अपने ज्ञान के विरुद्ध तौल सकें, और साक्ष्य की विशिष्ट गुणवत्ता के आधार पर अपने विश्वास स्तर को अनुकूलित कर सकें। शोर के विशिष्ट प्रकारों को समझने और ऐसे नियंत्रक विकसित करने के माध्यम से जो उनके प्रति प्रतिक्रिया कर सकें, शोधकर्ता न केवल जानकार बल्कि भरोसेमंद AI बनाने की आशा करते हैं, भले ही उन्हें मिलने वाली जानकारी अपूर्ण हो। आगे का रास्ता इन एडेप्टिव कंट्रोलर्स को परिष्कृत करने, उन्हें तेज़ बनाने और यह सुनिश्चित करने के लिए उनका कड़ाई से परीक्षण करने में निहित है कि वे सूचना की दुनिया की जटिल वास्तविकता को संभाल सकें।