Mitigating Multimodal LLMs Hallucinations via Relevance Propagation at Inference Time
यह शोध पत्र LIME का प्रस्ताव करता है, जो एक प्रशिक्षण-मुक्त इन्फरेंस-टाइम फ्रेमवर्क है जो लेयर-वाइज रेलेवेंस प्रोपेगेशन का उपयोग करके की-वैल्यू रिप्रेजेंटेशन को गतिशील रूप से समायोजित करने और टेक्स्टुअल प्रायर्स (textual priors) के बजाय संवेदी इनपुट्स पर अधिक निर्भरता लागू करके मल्टीमॉडल लार्ज लैंग्वेज मॉडल्स में मतिभ्रम (hallucinations) को कम करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास एक बहुत ही बुद्धिमान, बहुमुखी प्रतिभा वाला रोबोट सहायक है। यह रोबोट तस्वीरें देख सकता है, आवाजें सुन सकता है और टेक्स्ट पढ़ सकता है। इसे एक जासूस के रूप में बनाया गया है जो किसी फोटो को देखकर या कोई रिकॉर्डिंग सुनकर आपको बिल्कुल सटीक रूप से बताता है कि क्या हो रहा है।
हालाँकि, इस रोबोट की एक बुरी आदत है: यह खुद से झूठ बोलता है।
कभी-कभी, आप इसे एक खाली पार्क की तस्वीर दिखाते हैं, और यह पूरे आत्मविश्वास के साथ कहता है, "मैं एक कुत्ते को गेंद के साथ खेलते हुए देख रहा हूँ!" या आप सन्नाटे की रिकॉर्डिंग बजाते हैं, और यह ज़ोर देकर कहता है, "मुझे एक बिल्ली के म्याऊँ करने की आवाज़ आ रही है!" इसे हैलुसिनेशन (Hallucination) कहा जाता है। रोबोट कहानियाँ पढ़ने और बातें करने का इतना आदी हो गया है कि वह वास्तव में जो वहां मौजूद है, उसे देखने के बजाय इस आधार पर अनुमान लगाने लगता है कि आमतौर पर क्या होता है।
समस्या: रोबोट "टेक्स्ट-हैवी" (Text-Heavy) है
इस शोध पत्र के लेखकों ने पता लगाया कि रोबोट ऐसा क्यों करता है। उन्होंने पाया कि जब रोबोट कोई निर्णय लेता है, तो वह अपने "टेक्स्ट ब्रेन" (शब्दों और कहानियों के ज्ञान) को बहुत अधिक सुनता है और अपनी "आंखों" या "कानों" (वास्तविक चित्र या ध्वनि) को बहुत कम सुनता है।
इसे एक छात्र की तरह समझें जो परीक्षा दे रहा है। छात्र ने कड़ी मेहनत की है और उसे पाठ्यपुस्तक कंठस्थ है। लेकिन जब शिक्षक उसे एक चित्र दिखाते हैं और पूछते हैं, "इस चित्र में क्या है?", तो छात्र चित्र को अनदेखा कर देता है और बस वही लिख देता है जो उसके दिमाग में सबसे पहले आता है। वह "हैलुसिनेट" कर रहा है क्योंकि वह सबूतों को नहीं देख रहा है।
समाधान: LIME (लर्निंग इन्फरेंस-टाइम मोडैलिटी एन्हांसमेंट)
शोधकर्ताओं ने LIME नामक एक सुधार बनाया। खास बात यह है कि उन्हें रोबोट को फिर से सिखाने या उसके दिमाग (कोड) को बदलने की ज़रूरत नहीं पड़ी। इसके बजाय, उन्होंने उसे ठीक उसी क्षण एक "धक्का" दिया जब वह सवाल का जवाब दे रहा था।
LIME कैसे काम करता है, इसे एक सरल उपमा से समझते हैं:
"स्पॉटलाइट" की उपमा
कल्पना कीजिए कि रोबोट एक अंधेरे कमरे में टॉर्च लेकर खड़ा है।
- LIME के बिना: रोबोट अपनी टॉर्च का प्रकाश ज्यादातर किताबों के ढेर (टेक्स्ट) पर डालता है। वह कमरे में मौजूद वास्तविक वस्तुओं (चित्र या ध्वनि) को अनदेखा कर देता है। वह किताबों के आधार पर अनुमान लगाता है कि कमरे में क्या है।
- LIME के साथ: शोधकर्ता एक स्मार्ट सेंसर स्थापित करते हैं जो यह पता लगाता है कि रोबोट कहाँ देख रहा है। यदि रोबोट चित्र को अनदेखा करने लगता है, तो LIME धीरे से टॉर्च की रोशनी को वापस चित्र की ओर धकेल देता है। यह रोबोट को बोलने से पहले यह कहने के लिए मजबूर करता है, "रुको, बोलने से पहले मुझे चित्र को फिर से देखने दो।"
तकनीकी रूप से यह कैसे काम करता है (सरल भाषा में):
रोबोट एक बार में एक शब्द का उत्तर देता है। हर बार जब वह अगला शब्द चुनने वाला होता है, LIME हस्तक्षेप करता है और पूछता है:
- "इस शब्द को तय करने में चित्र ने आपकी कितनी मदद की?"
- "टेक्स्ट ने कितनी मदद की?"
यदि चित्र पर्याप्त मदद नहीं कर रहा है, तो LIME रोबोट की आंतरिक मेमोरी (विशेष रूप से उसके मस्तिष्क के "Key" और "Value" भागों) में एक छोटा, अस्थायी समायोजन करता है ताकि चित्र का महत्व बढ़ सके। यह पलक झपकते ही किया जाता है, और फिर अगले शब्द के लिए रीसेट हो जाता है। यह एक कोच की तरह है जो खिलाड़ी के प्रहार करने से ठीक पहले फुसफुसाता है, "गेंद पर ध्यान दो!"
जब उन्होंने इसे आज़माया तो क्या हुआ?
शोधकर्ताओं ने कई अलग-अलग कार्यों पर इसका परीक्षण किया:
- विज़न (Vision): उन्होंने रोबोट को तस्वीरें दिखाईं और पूछा, "क्या यहाँ कोई स्पोर्ट्स बॉल है?" या "इस छवि का वर्णन करें।"
- ऑडियो (Audio): उन्होंने आवाजें सुनाईं और पूछा, "क्या आप बिल्ली की आवाज़ सुन सकते हैं?"
परिणाम:
- कम झूठ: रोबोट ने ऐसी चीजें बनाना बंद कर दिया जो वहां मौजूद नहीं थीं। यदि कोई गेंद नहीं थी, तो उसने अनुमान लगाने के बजाय "नहीं" कहा।
- बेह बेहतर फोकस: जब रोबोट ने वास्तव में किसी चीज़ के बारे में बात की, तो वह वास्तव में चित्र के सही हिस्से या ध्वनि के सही क्षण को देख रहा था।
- कोई री-ट्रेनिंग नहीं: उन्हें रोबोट को महीनों तक फिर से सिखाने की आवश्यकता नहीं पड़ी। उन्होंने बस यह बदला कि वह जवाब देते समय कैसे सोचता है।
ट्रेड-ऑफ (Trade-off)
इसमें एक पेच है। क्योंकि LIME को हर शब्द के लिए इस अतिरिक्त "स्पॉटलाइट एडजस्टमेंट" को करना पड़ता है, इसलिए उत्तर मिलने में थोड़ा अधिक समय लगता है। यह एक बहुत ही बुद्धिमान सहायक की तरह है जो थोड़ा धीमा है क्योंकि वह हर वाक्य से पहले अपने काम की दोबारा जांच करता है। लेकिन उन स्थितियों के लिए जहाँ गति से अधिक सटीकता महत्वपूर्ण है, यह एक बड़ी जीत है।
सारांश
यह शोध पत्र दिखाता है कि AI मॉडल अक्सर झूठ बोलते हैं क्योंकि वे शब्दों की अपनी स्मृति पर बहुत अधिक निर्भर करते हैं और जो वे वास्तव में देख या सुन रहे हैं, उस पर बहुत कम ध्यान देते हैं। नया तरीका, LIME, एक वास्तविक समय के कोच की तरह कार्य करता है जो AI को बोलने से ठीक पहले साक्ष्य (चित्र या ध्वनि) पर ध्यान केंद्रित करने के लिए मजबूर करता है, जिसके परिणामस्वरूप बिना किसी री-ट्रेनिंग के बहुत अधिक ईमानदार और सटीक उत्तर मिलते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।