RADAR: Defending RAG Dynamically against Retrieval Corruption
RADAR एक नवीन फ्रेमवर्क है जो संदर्भ चयन को एक ग्राफ-आधारित ऊर्जा न्यूनीकरण समस्या के रूप में मॉडल करके और भंडारण लागत को कम करते हुए स्थिरता एवं अनुकूलनशीलता के बीच संतुलन बनाने के लिए एक बायेसियन मेमोरी नोड का उपयोग करके गतिशील वातावरण में रिट्रीवल-ऑगमेंटेड जनरेशन सिस्टम को प्रतिकूल रिट्रीवल भ्रष्टाचार से सुरक्षित करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास एक बहुत ही बुद्धिमान, लेकिन थोड़ा भोला सहायक है जिसका नाम LLM है। यह सहायक कहानियाँ लिखने और सवालों के जवाब देने में बहुत अच्छा है, लेकिन कभी-कभी यह चीजें बना लेता है या भ्रमित हो जाता है क्योंकि इसे दुनिया के बारे में सब कुछ पता नहीं है। इसे ठीक करने के लिए, आप इसे एक "शोधकर्ता" (researcher) देते हैं जो इंटरनेट पर जाता है, लेख ढूंढता है, और उन्हें सहायक को सौंप देता है। इस प्रणाली को RAG (रिट्रीवल-ऑगमेंटेड जनरेशन) कहा जाता है।
हालाँकि, एक समस्या है: इंटरनेट एक शोर-शराबे वाली, अराजक जगह है। बुरे तत्व (हैकर्स) उन लेखों में फर्जी खबरें, झूठ या दुर्भावनापूर्ण निर्देश छिपा सकते हैं। यदि शोधकर्ता सहायक को ऐसे कागजों का ढेर थमा देता है जिनमें ज्यादातर झूठ हैं, तो सहायक उन झूठों पर विश्वास कर लेगा और आपको गलत उत्तर देगा।
यह शोध पत्र एक नया रक्षा तंत्र पेश करता है जिसे RADAR कहा जाता है। RADAR को एक अत्यंत बुद्धिमान संपादक-इन-चीफ (Editor-in-Chief) के रूप में समझें जो शोधकर्ता और सहायक के बीच बैठता है। इसका काम कागजों के ढेर को देखना, यह पता लगाना कि कौन से विश्वसनीय हैं, और सहायक के देखने से पहले ही फर्जी कागजों को फेंक देना है।
RADAR कैसे काम करता है, इसे सरल उपमाओं के माध्यम से समझाया गया है:
1. "ग्रुप हग" बनाम "अलग-थलग झूठा" (ग्राफ और मिन-कट)
जब शोधकर्ता 10 लेख वापस लाता है, तो RADAR उन्हें केवल एक-एक करके नहीं पढ़ता है। इसके बजाय, यह उन्हें पार्टी में मेहमानों के एक समूह की तरह मानता है।
- पार्टी: प्रत्येक लेख एक मेहमान है।
- बातचीत: RADAR पूछता है, "क्या मेहमान A, मेहमान B से सहमत है?" या "क्या मेहमान A, मेहमान B का खंडन करता है?"
- लक्ष्य: RADAR उस सबसे बड़े, सबसे सामंजस्यपूर्ण समूह को खोजना चाहता है जहाँ सभी मेहमान एक-दूसरे से सहमत हों।
RADAR एक पहेली को हल करने के लिए एक गणितीय ट्रिक (Max-Flow Min-Cut) का उपयोग करता है: "हम पार्टी को दो समूहों में कैसे काटें ताकि 'झूठे लोग' मुख्य समूह से कम से कम कटाई के साथ अलग-थलग पड़ जाएं?"
- यदि कोई दस्तावेज़ झूठा है, तो उसे मुख्य समूह से "काट" दिया जाएगा।
- यदि कोई दस्तावेज़ सच बोल रहा है, तो वह अन्य सच बोलने वालों के साथ जुड़ा रहेगा।
- परिणाम? सहायक को अंतिम उत्तर लिखने के लिए केवल "सच बोलने वाला" समूह ही मिलता है।
2. "मेमोरी बैंक" (डायनेमिक डिफेंस)
इंटरनेट हर दिन बदलता है। कल जो तथ्य सच था, आज वह झूठ हो सकता है (जैसे, "राष्ट्रपति कौन है?" यह हर कुछ वर्षों में बदल जाता है)।
- पुराने बचाव: अधिकांश सुरक्षा प्रणालियाँ एक सुरक्षा गार्ड की तरह होती हैं जो केवल अभी अंदर आने वाले लोगों को देखती हैं। वे याद नहीं रखते कि कल वहाँ कौन था। यदि आज कोई झूठा व्यक्ति घुस आता है, तो गार्ड उसे पकड़ने में विफल हो सकता है यदि वह एक सामान्य व्यक्ति जैसा दिखता है।
- RADAR का दृष्टिकोण: RADAR के पास एक मेमोरी बैंक है। यह कल दिया गया अपना उत्तर याद रखता है।
- यदि आज की नई जानकारी कल के उत्तर से सहमत है, तो RADAR कहता है, "बहुत बढ़िया, हम अभी भी सही रास्ते पर हैं!" और उस स्मृति को बनाए रखता है।
- यदि आज की नई जानकारी कल के उत्तर का पुरजोर विरोध करती है (जैसे, कोई बड़ी समाचार घटना), तो RADAR कहता है, "रुको, चीजें बदल गई हैं। पुराना उत्तर अब एक झूठा है।" यह नए सच को दर्शाने के लिए अपनी स्मृति को अपडेट करता है।
यह एक जासूस की तरह है जो एक केस फाइल रखता है। यदि नए सबूत आते हैं जो साबित करते हैं कि संदिग्ध निर्दोष था, तो जासूस फाइल को अपडेट कर देता है। यदि नया सबूत केवल वही दोहराता है जो वे पहले से जानते हैं, तो वे फाइल को वैसा ही रखते हैं। यह सिस्टम को अस्थायी शोर या "चमकदार" झूठ से भ्रमित होने से बचाता है।
3. "बेयसियन बिलीफ" (गणितीय जादू)
RADAR कैसे तय करता है कि स्मृति सही है या गलत? यह बेयसियन इन्फरेंस (Bayesian Inference) नामक एक विधि का उपयोग करता है।
- कल्पना कीजिए कि आपके पास एक पूर्वाग्रह (एक विश्वास) है कि कोई कहानी सच है।
- फिर, आपको नया साक्ष्य मिलता है।
- RADAR गणितीय रूप से अपने "पूर्वाग्रह" को इस आधार पर अपडेट करता है कि नया साक्ष्य पुराने कहानी का कितनी अच्छी तरह समर्थन करता है।
- यदि नया साक्ष्य पुराने कहानी का पुरजोर समर्थन करता है, तो आपका "पूर्वाग्रह" एक "निश्चितता" बन जाता है।
- यदि नया साक्ष्य पुराने कहानी का पुरजोर खंडन करता है, तो आपका "पूर्वाग्रह" "असत्य" में गिर जाता है।
यह RADAR को लचीला (वास्तविक परिवर्तनों के अनुकूल होना) लेकिन भी स्थिर (यादृच्छिक शोर या अस्थायी हमलों को अनदेखा करना) बनाता है।
यह वर्तमान में हमारे पास जो है उससे बेहतर क्यों है?
- स्टोरेज: पुराने तरीके भविष्य में तुलना करने के लिए देखे गए हर एक दस्तावेज़ को सहेजने की कोशिश करते हैं। यह अपने बैकपैक में पूरी लाइब्रेरी ले जाने जैसा है। यह भारी और धीमा है। RADAR केवल उस विश्वास का एक छोटा "सारांश" (मेमोरी नोड) सहेजता है जो वह मानता है, जिससे यह बहुत हल्का और तेज़ हो जाता है।
- डायनेमिक हमले: हैकर्स स्मार्ट हो रहे हैं; वे अपने झूठ लगातार बदलते रहते हैं। पुराने बचाव एक स्थिर ढाल की तरह हैं जो केवल एक प्रकार के तीर के खिलाफ काम करती है। RADAR एक ऐसी ढाल की तरह है जो चलती-फिरती है और अनुकूलित होती है, हमलावर चाहे अपने निशाने को कैसे भी बदले, वह तीरों को रोक देती है।
निष्कर्ष
यह शोध पत्र दावा करता है कि RADAR इंटरनेट पर फर्जी सूचनाओं से AI सहायकों को बचाने का एक नया तरीका है। अच्छी जानकारी के चयन को दोस्तों को जोड़ने और दुश्मनों को अलग करने की पहेली की तरह मानकर, और नए झूठ को पहचानने के लिए पिछले सत्यों को याद रखकर, RADAR AI के उत्तरों को सटीक रखता है, भले ही इंटरनेट बुरे तत्वों से भरा हो।
संक्षेप में: RADAR एक स्मार्ट फ़िल्टर है जो जानता है कि किस पर भरोसा करना है, किसे अनदेखा करना है, और अपनी मान्यताओं को कब अपडेट करना है, और यह सब करते हुए यह सिस्टम को तेज़ और हल्का बनाए रखता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।