Beyond Topical Similarity: Contrastive Evidence Retrieval with Interpretable Attention Alignment in RAG
यह शोध पत्र CERA को प्रस्तुत करता है, जो एक नवीन रिट्रीवल फ्रेमवर्क है जो विषयगत समानता (topical similarity) पर निर्भर रहने के बजाय विशिष्ट साक्ष्य टोकन (evidence tokens) की पहचान करने के लिए रिट्रीवर्स को निर्देशित करने हेतु विषयपरकता-आधारित हार्ड नेगेटिव चयन (subjectivity-based hard negative selection) को एक सहायक अटेंशन अलाइनमेंट लॉस (auxiliary attention alignment loss) के साथ जोड़कर RAG सिस्टम में तथ्यात्मकता और व्याख्यात्मकता को बढ़ाता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक रहस्य सुलझाने की कोशिश कर रहे हैं एक जासूस के रूप में। आपके पास एक कंप्यूटर सहायक (एक लार्ज लैंग्वेज मॉडल) है जो बहुत सारे तथ्यों को जानता है, लेकिन कभी-कभी वह चीजें बना लेता है या भ्रमित हो जाता है। इसकी मदद करने के लिए, आप इसे खोजने के लिए दस्तावेजों का एक पुस्तकालय देते हैं। इस सेटअप को RAG (रिट्रीवल-ऑगमेंटेड जनरेशन) कहा जाता है।
समस्या यह है कि आपका वर्तमान कंप्यूटर सहायक एक भोंदले इंटर्न जैसा है। जब आप पूछते हैं, "क्या नींबू कैंसर के इलाज के लिए अच्छा है?", तो इंटर्न शायद एक ऐसा पेज उठा सकता है जिसमें "नींबू" और "कैंसर" शब्द एक साथ आते हैं, भले ही वह पेज केवल एक अफवाह या मजाक हो। वह देखता है कि शब्द मेल खाते हैं, लेकिन वह सच्चाई को नहीं समझता। वह "एक ही विषय के बारे में बात करने" और "वास्तविक प्रमाण प्रदान करने" के बीच भ्रमित हो जाता है।
यह शोध पत्र एक नया सिस्टम पेश करता है जिसे CERA (कॉन्ट्रास्टिवटिव एविडेंस रैशनल अटेंशन) कहा जाता है ताकि इसे ठीक किया जा सके। यह कैसे काम करता है, इसके लिए सरल उपमाओं का उपयोग किया गया है:
1. "विषयपरक" फ़िल्टर (सही गलतियों को खोजना)
आमतौर पर, एक जासूस को प्रशिक्षित करते समय, आप उसे सही सुराग (सकारात्मक) दिखाते हैं और फिर उसे कुछ यादृच्छिक गलत सुराग (नकारात्मक) दिखाते हैं। लेकिन शोध पत्र का तर्क है कि यादृच्छिक गलत सुराग दिखाना पर्याप्त कठिन नहीं है।
CERA एक चतुर तकनीक का उपयोग करता है जिसे Subjectivity-Based Hard Negative Selection कहा जाता है।
- उपमा: कल्पना कीजिए कि आप एक छात्र को असली हीरा पहचानने के लिए सिखा रहे हैं। उन्हें कांच का एक टुकड़ा दिखाने के बजाय (जिसे पहचानना आसान है), आप उन्हें कांच का एक ऐसा टुकड़ा दिखाते हैं जो बिल्कुल हीरे जैसा दिखता है और जिसे बहुत ही भावनात्मक, नाटकीय शैली में लिखा गया है।
- यह कैसे काम करता है: CERA उन दस्तावेजों को खोजता है जो आपके प्रश्न के विषय के समान हैं लेकिन वास्तव में विषयपरक (व्यक्तिगत राय वाले, भावनात्मक या अविश्वसनीय) हैं न कि तथ्यात्मक। यह मॉडल को एक "तेज, विचारपूर्ण कहानी" और एक "शांत, तथ्यात्मक रिपोर्ट" के बीच अंतर करना सीखने के लिए मजबूर करता है। इन ट्रिकी "नकली" सुरागों पर प्रशिक्षण प्राप्त करके, मॉडल शोर को अनदेखा करने और वास्तविक साक्ष्य खोजने में बहुत बेहतर हो जाता है।
2. "हाइलाइटर" प्रशिक्षण (मॉडल को इशारा करना सिखाना)
भले ही मॉडल सही दस्तावेज़ ढूंढ ले, लेकिन उसे यह नहीं पता होगा कि कौन सा विशिष्ट वाक्य प्रमाण है। वह केवल यह कह सकता है कि "मुझे नींबू के बारे में एक दस्तावेज़ मिला है," बिना उस विशिष्ट पंक्ति की ओर इशारा किए जो कहती है कि "नींबू कैंसर को ठीक नहीं करता है।"
CERA एक दूसरा प्रशिक्षण लक्ष्य जोड़ता है जिसे Interpretable Attention Alignment कहा जाता है।
- उपमा: एक शिक्षक के बारे में सोचें जो छात्र के निबंध को ग्रेड दे रहा है। शिक्षक केवल यह नहीं देखता कि उत्तर सही है या नहीं; वे यह भी देखते हैं कि क्या छात्र ने पाठ्यपुस्तक में उस सटीक वाक्य को हाइलाइट किया है जिसने उत्तर को सिद्ध किया।
- यह कैसे काम करता है: सिस्टम उन मानव विशेषज्ञों का उपयोग करता है जिन्होंने पहले से ही टेक्स्ट में "गोल्ड स्टैंडर्ड" साक्ष्य को हाइलाइट किया हुआ है। CERA मॉडल के आंतरिक "अटेंशन मैकेनिज्म" (शब्दों पर ध्यान केंद्रित करने का उसका तरीका) को उन मानव हाइलाइट्स से मेल खाने के लिए मजबूर करता है।
- यह एक विशेष नियम का उपयोग करता है: यह संज्ञा (nouns), क्रिया (verbs) और विशेषण (adjectives) जैसे महत्वपूर्ण शब्दों (वाक्य का मुख्य हिस्सा) पर अधिक ध्यान देता है और "the" या "and" जैसे छोटे शब्दों पर कम ध्यान देता है।
- यदि मॉडल गलत शब्दों पर ध्यान केंद्रित करने लगता है, तो उसे "दंड" (penalty) मिलता है। यह मॉडल को सीधे उन तथ्यों की ओर इशारा करने के लिए प्रशिक्षित करता है जो उत्तर का समर्थन करते हैं, न कि केवल सामान्य विषय की ओर।
3. परिणाम: एक स्मार्ट, अधिक ईमानदार जासूस
लेखकों ने हजारों क्लिनिकल ट्रायल रिपोर्टों (चिकित्सा अध्ययनों) पर इसका परीक्षण किया।
- CERA से पहले: सिस्टम एक सर्च इंजन की तरह था जो केवल कीवर्ड्स को मैच करता था। यह अक्सर भ्रामक या अप्रासंगिक टेक्स्ट को चुन लेता था जो संयोग से आपके प्रश्न के समान शब्दों को साझा करता था।
- CERA के साथ: सिस्टम वास्तविक प्रमाण खोजने में बहुत बेहतर हो गया।
- इसने सही साक्ष्य बहुत अधिक बार खोजे (रिकॉल/Recall में सुधार)।
- यह अधिक "वफादार" (faithful) हो गया, जिसका अर्थ है कि जब यह कोई उत्तर देता है, तो वह साक्ष्य जिस पर यह इशारा करता है, वह वास्तव में उसके उत्तर का समर्थन करता है, न कि केवल अस्पष्ट रूप से संबंधित होता है।
सारांश
संक्षेप में, CERA AI को जानकारी खोजने के लिए प्रशिक्षित करने का एक नया तरीका है। केवल उन दस्तावेजों को खोजने के बजाय जो उत्तर की तरह सुनाई देते हैं, यह सीखता है कि:
- भावनात्मक या विचारपूर्ण टेक्स्ट को अनदेखा कैसे किया जाए जो तथ्यों की तरह दिखता है लेकिन है नहीं (विषयपरकता का उपयोग करके)।
- अपना ध्यान उन विशिष्ट शब्दों पर कैसे केंद्रित किया जाए जिन्हें मानव विशेषज्ञों ने "प्रमाण" के रूप में चिह्नित किया है (अटेंशन अलाइनमेंट का उपयोग करके)।
शोध पत्र का दावा है कि यह AI को अधिक विश्वसनीय और समझने में आसान बनाता है, विशेष रूप से चिकित्सा जैसे उच्च-दांव वाले क्षेत्रों में, क्योंकि यह आपको दिखा सकता है कि वह क्यों सोचता है कि कुछ सच है, जो कि उसके द्वारा पाए गए विशिष्ट साक्ष्य पर आधारित है।
नोट: शोध पत्र स्पष्ट रूप से कहता है कि यह एक अनुसंधान प्रोटोटाइप है। यह चिकित्सा निर्णय लेने वाला उपकरण नहीं है और इसका उपयोग डॉक्टर के निर्णय को बदलने के लिए नहीं किया जाना चाहिए।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।