Tell Model Where to Look: Mitigating Hallucinations in MLLMs by Vision-Guided Attention
यह शोध पत्र विज़न-गाइडेड अटेंशन (VGA) का प्रस्ताव करता है, जो एक प्रशिक्षण-मुक्त विधि है जो मल्टीमॉडल लार्ज लैंग्वेज मॉडल्स में मतिभ्रम (hallucinations) को कम करने के लिए सेमेंटिक टोकन सामग्री के आधार पर मॉडल के फोकस को प्रासंगिक विज़ुअल क्षेत्रों की ओर गतिशील रूप से निर्देशित करती है, जिससे नगण्य विलंबता के साथ अत्याधुनिक डीहैलुसिनेशन प्रदर्शन प्राप्त होता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपका एक बहुत ही बुद्धिमान, विद्वान मित्र है जो एक कला समीक्षक (art critic) भी है। आप उन्हें एक पार्क की फोटो दिखाते हैं और पूछते हैं, "आपको क्या दिख रहा है?"
आमतौर पर, वे एक शानदार विवरण देते हैं। लेकिन कभी-कभी, वे थोड़े "स्वप्निल" हो जाते हैं। वे कह सकते हैं, "मुझे एक गोल्डन रिट्रीवर लाल गेंद का पीछा करते हुए दिख रहा है," भले ही फोटो में केवल एक गिलहरी और एक नीली फ्रिस्बी हो। AI की दुनिया में, इसे हैलुसिनेशन (hallucination) कहा जाता है। मॉडल पूरी तरह आश्वस्त होता है, लेकिन वह अपनी ओर से चीजें बना रहा होता है।
आपके द्वारा साझा किया गया पेपर एक चतुर समाधान पेश करता है जिसे विज़न-गाइडेड अटेंशन (Vision-Guided Attention - VGA) कहा जाता है। यह कैसे काम करता है, इसे कुछ उपमाओं (analogies) के साथ सरल रूप में यहाँ समझाया गया है।
समस्या: "भटका हुआ छात्र" (The Distracted Student)
एक मल्टीमॉडल लार्ज लैंग्वेज मॉडल (MLLM) को एक ऐसे छात्र की तरह समझें जो अपने सामने रखी एक तस्वीर के साथ परीक्षा दे रहा है।
- समस्या: छात्र ने तस्वीर को पढ़ लिया है (विजुअल टोकन) और तथ्यों को जानता है। लेकिन जब वह अपना उत्तर लिखना शुरू करता है, तो उसका ध्यान भटक जाता है। उसकी आँखें इधर-उधर घूमने लगती हैं। वह मुख्य विषय के बजाय कोने में धूल के एक छोटे से कण पर ध्यान केंद्रित कर सकता है, या वह केवल उस आधार पर अनुमान लगा सकता है जो उसे लगता है कि पार्क में आमतौर पर होता है, न कि जो वास्तव में वहाँ है।
- पुराना तरीका: पिछले तरीकों ने इसे ठीक करने के लिए छात्र को फिर से प्रशिक्षित (retrain) करने की कोशिश की (जो महंगा और धीमा है) या काम की जाँच करने के लिए दूसरे विशेषज्ञ को बुलाने की कोशिश की (जो धीमा और जटिल है)।
समाधान: "स्पॉटलाइट गाइड" (The Spotlight Guide)
लेखकों ने महसूस किया कि छात्र वास्तव में उत्तर जानता है; उसे बस अपनी आँखों को सही जगह पर केंद्रित करने में मदद की जरूरत है।
उन्होंने विज़न-गाइडेड अटेंशन (VGA) नामक एक प्रणाली बनाई। इसे एक फ्लैशलाइट या स्पॉटलाइट की तरह समझें जिसे मॉडल खुद के लिए चालू करता है।
1. "कॉन्फिडेंस चेक" (विजुअल सिमेंटिक कॉन्फिडेंस)
मॉडल अपना उत्तर लिखना शुरू करने से पहले, वह एक त्वरित, मौन "कॉन्फिडेंस चेक" करता है।
- उपमा: कल्पना कीजिए कि मॉडल फोटो के हर एक पिक्सेल को देखता है और खुद से पूछता है, "मैं इस बात के बारे में कितना आश्वस्त हूँ कि इस इमेज के इस हिस्से में एक 'कुत्ता' है?"
- उसे पूरी तस्वीर को फिर से देखने की आवश्यकता नहीं है; वह बस उन नोट्स को चेक करता है जो उसने पहले ही बना लिए हैं। यदि नोट्स कहते हैं, "पिक्सेल का यह हिस्सा कुत्ते जैसी गंध देता है," तो वह उस स्थान को उच्च कॉन्फिडेंस स्कोर देता है।
- यह एक महत्व का मानचित्र (map of importance) बनाता है। वह जानता है कि "कुत्ता" कहाँ है, भले ही उसने अभी तक "कुत्ता" शब्द का उच्चारण न किया हो।
2. "स्पॉटलाइट" (अटेंशन को निर्देशित करना)
अब, मॉडल लिखना शुरू करता है।
- VGA के बिना: मॉडल का ध्यान एक भटकती हुई फ्लैशलाइट की बीम की तरह है। यह आसमान पर, फिर घास पर, फिर कुत्ते पर, और फिर वापस आसमान पर चमक सकता है, जिससे वह भ्रमित हो जाता है।
- VGA के साथ: मॉडल "कॉन्फिडेंस मैप" का उपयोग करके अपनी फ्लैशलाइट की बीम को कुत्ते पर लॉक कर देता है। वह कहता है, "ठीक है, मैं अब कुत्ते के बारे में लिख रहा हूँ, इसलिए मैं अपनी रोशनी केवल कुत्ते पर केंद्रित करूँगा।"
- जादू: यह तुरंत होता है। मॉडल को फिर से तस्वीर पढ़ने की आवश्यकता नहीं होती। वह बस अपने आंतरिक फोकस को समायोजित करता है, जैसे कैमरा लेंस एकदम शार्प फोकस में आता है।
लंबी कहानियों के लिए विशेष ट्रिक: "इरेज़र" (The Eraser)
जब मॉडल एक लंबा कैप्शन (जैसे पूरे दृश्य का वर्णन करना) लिख रहा होता है, तो उसे आगे बढ़ते रहने की आवश्यकता होती है।
- समस्या: यदि मॉडल उसी "कुत्ते" को देखते रहने लगता जिसका उसने अभी वर्णन किया है, तो वह बस कह सकता है, "कुत्ता यहाँ है। कुत्ता अभी भी यहाँ है। कुत्ता बहुत ही कुत्ता जैसा है।" वह अटक जाता है।
- समाधान (प्रोग्राम्ड विज़न-गाइडेंस): सिस्टम में एक इन-बिल्ट "इरेज़र" है। जैसे ही मॉडल "एक कुत्ता" लिखता है, स्पॉटलाइट स्वचालित रूप से कुत्ते पर धुंधली हो जाती है और अगली दिलचस्प चीज़, जैसे कि "पेड़" या "बाड़" की ओर स्थानांतरित हो जाती है।
- परिणाम: वर्णन स्वाभाविक रूप से बहता है, नई चीज़ों को कवर करता है और खुद को दोहराने या ऐसी चीजें बनाने से बचता है जो वहाँ मौजूद नहीं हैं।
यह एक बड़ी बात क्यों है?
- यह मुफ्त है (ट्रेनिंग-फ्री): आपको मॉडल को सोचने का नया तरीका सिखाने की आवश्यकता नहीं है। आप बस उसे वह देखने का बेहतर तरीका देते हैं जो वह पहले से जानता है। यह एक छात्र को पाठ्यपुस्तक को फिर से सीखने के बजाय हाइलाइटर देने जैसा है।
- यह तेज़ है: यह कंप्यूटर को धीमा नहीं करता है। यह एक ट्रैफिक पुलिसकर्मी की तरह है जो कारों को निर्देशित करता है; कारें (डेटा) रुकती नहीं हैं, वे बस सही लेन में चलती हैं।
- यह हर जगह काम करता है: यह मॉडल के चाहे तो एक साधारण प्रश्न का उत्तर दे रहा हो ("क्या वहाँ एक कप है?") या व्यस्त सड़क के बारे में एक जटिल कहानी लिख रहा हो, यह हर जगह काम करता है।
निष्कर्ष (The Bottom Line)
पेपर कहता है: "AI को केवल अनुमान लगाने न दें; उसे दिखाएं कि कहाँ देखना है।"
अपने स्वयं के आंतरिक "कॉन्फिडेंस स्कोर" का उपयोग करके एक स्पॉटलाइट बनाने के माध्यम से, लेखकों ने AI को दिवास्वप्न देखने से रोक दिया। परिणाम एक ऐसा AI है जिसके झूठ बोलने की संभावना बहुत कम है, जो वास्तविक दुनिया के उपयोग के लिए इसे अधिक विश्वसनीय बनाता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।