Mitigating Hallucinations in Large Vision-Language Models via Causal Route Gating
यह शोध पत्र 'कॉज़ल रूट गेटिंग' (Causal Route Gating) नामक एक प्रशिक्षण-मुक्त हस्तक्षेप का प्रस्ताव करता है जो अटेंशन हेड्स को विजुअल और टेक्स्ट रूट्स में विभाजित करके लार्ज विजन-लैंग्वेज मॉडल्स में मतिभ्रम (hallucinations) को कम करता है, ताकि विजुअल साक्ष्यों को सुरक्षित रखते हुए टेक्स्ट-प्रधान मार्गों को चुनिंदा रूप से दबाया जा सके।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
एक Large Vision-Language Model (LVLM) की कल्पना एक बहुत ही बुद्धिमान, लेकिन थोड़े अति-आत्मविश्वासी कला समीक्षक (art critic) के रूप में करें। यह समीक्षक एक पेंटिंग (छवि) को देख सकता है और उसका सुंदर, प्रवाहपूर्ण वाक्यों में वर्णन कर सकता है। हालाँकि, कभी-कभी समीक्षक अपने सामान्य ज्ञान के आधार पर जो वे देखने की उम्मीद करते हैं, उसके कारण इतना बहक जाता है कि वे उन चीजों का वर्णन करने लगता है जो वास्तव में वहाँ नहीं हैं। इसे हैलुसिनेशन (hallucination) कहा जाता है।
उदाहरण के लिए, यदि आप समीक्षक को एक काले केले की तस्वीर दिखाते हैं, तो वे आत्मविश्वास से कह सकते हैं, "केला पीला है," क्योंकि उनके ट्रेनिंग डेटा में केले लगभग हमेशा पीले होते हैं। वे वास्तविक दृश्य साक्ष्य (visual evidence) के बजाय अपने "टेक्स्टुअल प्रायर्स" (textual priors - जो वे सोचते हैं कि वहाँ होना चाहिए) को प्राथमिकता दे रहे हैं।
समस्या: मस्तिष्क के भीतर एक खींचतान (Tug-of-War)
पेपर का तर्क है कि यह एक छिपे हुए आंतरिक संघर्ष के कारण होता है। मॉडल के "मस्तिष्क" के भीतर (विशेष रूप से इसके अटेंशन मैकेनिज्म में), हर निर्णय पर दो अलग-अलग मार्ग (pathways) काम कर रहे हैं:
- दृश्य मार्ग (The Visual Route): यह मार्ग छवि के वास्तविक पिक्सेल को देखता है।
- पाठ मार्ग (The Text Route): यह भाषा के पैटर्न और सामान्य ज्ञान पर निर्भर करता है।
आमतौर पर, ये दोनों मिलकर काम करते हैं। लेकिन जब हॉलुसिनेशन होता है, तो Text Route खींचतान में जीत रहा होता है, यानी वह Visual Route पर हावी हो जाता है। मॉडल काला केला देखता है, लेकिन टेक्स्ट मार्ग चिल्लाता है, "केले पीले होते हैं!" और मॉडल आँखों के बजाय उस चिल्लाहट को सुनने लगता है।
समाधान: "कॉज़ल रूट गेट" (The Causal Route Gate)
लेखक एक चतुर, ट्रेनिंग-मुक्त समाधान प्रस्तावित करते हैं जिसे Causal Route Gating (CRG) कहा जाता है। इसे मॉडल के भीतर एक स्मार्ट ट्रैफिक कंट्रोलर के रूप में समझें जो मॉडल के बोलते समय वास्तविक समय (real-time) में काम करता है।
यह इस प्रकार काम करता है, चरण-दर-चरण:
1. "क्या होगा अगर" परीक्षण (Causal Measurement)
मॉडल किसी शब्द पर प्रतिबद्ध होने से पहले, सिस्टम एक त्वरित, अदृश्य परीक्षण चलाता है। यह पूछता है:
- "यदि हम एक पल के लिए Visual Route को बंद कर दें, तो क्या उत्तर बदल जाएगा?"
- "यदि हम एक पल के लिए Text Route को बंद कर दें, तो क्या उत्तर बदल जाएगा?"
यह प्रत्येक मार्ग की वास्तविक शक्ति को प्रकट करता है। यदि Text Route "पीला" के लिए दबाव डाल रहा है लेकिन Visual Route "काला" के लिए दबाव डाल रहा है, तो सिस्टम एक संघर्ष (conflict) का पता लगाता है।
2. "विजुअल रिलायंस इंडेक्स" (Visual Reliance Index - VRI)
सिस्टम मॉडल के प्रत्येक आंतरिक "चैनल" (जिसे 'हेड' कहा जाता है) के लिए एक स्कोर की गणना करता है। यह स्कोर बताता है: यह चैनल चित्र पर कितना निर्भर है बनाम पाठ पर?
- यदि कोई चैनल ज्यादातर टेक्स्ट को सुन रहा है और चित्र को अनदेखा कर रहा है, तो उसे कम स्कोर मिलता है।
- यदि वह चित्र को सुन रहा है, तो उसे उच्च स्कोर मिलता है।
3. चयनात्मक म्यूट बटन (Selective Mute Button - Gating)
यही जादू वाला हिस्सा है। पूरे चैनल को बंद करने के बजाय (जिससे उपयोगी जानकारी खत्म हो सकती है), सिस्टम विशेष रूप से Text Route पर एक वॉल्यूम नॉब (volume knob) लागू करता है।
- मामूली संघर्ष: यदि टेक्स्ट थोड़ा सा शोर भरा है, तो सिस्टम टेक्स्ट का वॉल्यूम थोड़ा कम कर देता है।
- मजबूत संघर्ष: यदि टेक्स्ट आक्रामक रूप से झूठ बोल रहा है (जैसे कि यह जिद करना कि काला केला पीला है), तो सिस्टम टेक्स्ट रूट को लगभग पूरी तरह से म्यूट कर देता है।
- महत्वपूर्ण रूप से: Visual Route को अछूता छोड़ दिया जाता है और पूर्ण वॉल्यूम पर रखा जाता है।
परिणाम: एक अधिक ईमानदार समीक्षक
Text Pathway को केवल तभी चुनिंदा रूप से चुप कराकर जब वह दृश्य साक्ष्य के साथ संघर्ष करता है, मॉडल को वास्तव में वही देखने के लिए मजबूर किया जाता है जो वह देख रहा है।
- पहले: "केला पीला है।" (हैलुसिनेशन)
- बाद में: "केला काला है।" (सही)
यह विशेष क्यों है
- कोई रिट्रेनिंग नहीं: आपको मॉडल को फिर से सिखाने की आवश्यकता नहीं है। आप बस इसे उत्तर देते समय सोचने के तरीके को थोड़ा बदल देते हैं।
- सटीकता: पुराने तरीके पूरे "मस्तिष्क" का वॉल्यूम कम करने या अटेंशन के बारे में मोटे अनुमान लगाने की कोशिश करते थे। यह तरीका एक सर्जन की तरह है: यह उस सटीक छोटी तार को ढूंढता है जो समस्या पैदा कर रही है (विशिष्ट संघर्ष में टेक्स्ट पाथवे) और केवल उसी तार को काटता है, बाकी मस्तिष्क को स्वस्थ छोड़ देता है।
- दक्षता (Efficiency): यह सोचने की प्रक्रिया में बहुत कम समय जोड़ता है (सामान्य से लगभग 2 गुना धीमा, लेकिन अन्य जटिल सुधारों की तुलना में बहुत तेज़), जिससे यह वास्तविक उपयोग के लिए व्यावहारिक बन जाता है।
संक्षेप में, पेपर मॉडल को सिखाता है कि जब दोनों के बीच असहमति हो, तो अपनी यादों के बजाय अपनी आँखों पर भरोसा करें, जिससे यह सुनिश्चित होता है कि जो वह कह रहा है वह वास्तव में उस छवि पर आधारित है जिसे वह देख रहा है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।