🤖 machine learning

Mitigating Manifold Departure: Uncertainty-Aware Subspace Rectification for Trustworthy MLLM Decoding

यह शोध पत्र मैनिफोल्ड-गाइडेड एडेप्टिव प्रोजेक्शन (MGAP) का प्रस्ताव करता है, जो एक प्रशिक्षण-मुक्त डिकोडिंग विधि है जो सिमेंटिक सुसंगतता को बनाए रखते हुए मैनिफोल्ड डिपार्चर को रोकने के लिए एक सीखे गए सबस्पेस के भीतर भाषाई पूर्वाग्रहों को एडेप्टिव रूप से कम करके मल्टीमॉडल लार्ज लैंग्वेज मॉडल्स में मतिभ्रम (hallucinations) को कम करती है।

मूल लेखक: Yingxuan Zhuang, Jingxiao Yang, Miao Pan, Cheng Tan, Yuxiang Cai, Siwei Tan, Chen Zhi, Xuhong Zhang, Jianwei Yin, Jintao Chen

प्रकाशित 2026-06-10

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Yingxuan Zhuang, Jingxiao Yang, Miao Pan, Cheng Tan, Yuxiang Cai, Siwei Tan, Chen Zhi, Xuhong Zhang, Jianwei Yin, Jintao Chen

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

यहाँ "Mitigating Manifold Departure: Uncertainty-Aware Subspace Rectification for Trustworthy MLLM Decoding" पेपर का सरल भाषा और रचनात्मक उपमाओं (analogies) के साथ विवरण दिया गया है।

समस्या: मॉडल की "आंतरिक आवाज़" बनाम वास्तविकता

कल्पना कीजिए कि एक मल्टीमॉडल लार्ज लैंग्वेज मॉडल (MLLM) एक बहुत ही बुद्धिमान कलाकार की तरह है जो आपके द्वारा दिखाई गई तस्वीर का वर्णन करने की कोशिश कर रहा है। इस कलाकार के दिमाग में दो आवाजें हैं:

दृश्य आवाज़ (The Visual Voice): जो वे वास्तव में तस्वीर में देख रहे हैं।
भाषा की आवाज़ (The Language Voice/The Prior): जो वे उम्मीद करते हैं कि उन्हें देखना चाहिए, उनके द्वारा पहले पढ़ी या सीखी गई हर चीज़ के आधार पर।

भ्रम (Hallucination) की समस्या:
कभी-कभी, "भाषा की आवाज़" बहुत तेज़ हो जाती है। यदि आप कलाकार को एक नीले केले (blue banana) की तस्वीर दिखाते हैं, तो उनकी "भाषा की आवाज़" चिल्लाती है, "केले पीले होते हैं! यह पीला ही होना चाहिए!" क्योंकि कलाकार अपने प्रशिक्षण (training) पर बहुत भरोसा करता है, वह नीले रंग को अनदेखा कर देता है और एक पीले केले का वर्णन करता है। इसे ही "हैलुसिनेशन" (hallucination) कहा जाता है।

पुराना समाधान (और क्यों वह विफल रहा):
पिछले तरीकों ने हर बार "भाषा की आवाज़" को बस चिल्लाकर दबाने की कोशिश की। उन्होंने मॉडल को बताया, "जो तुम जानते हो उसे भूल जाओ; केवल तस्वीर को देखो!"

पेपर की खोज:
लेखकों ने महसूस किया कि यह "सब कुछ बंद कर देने" वाला दृष्टिकोण एक अखरोट तोड़ने के लिए हथौड़े के इस्तेमाल जैसा है।

अच्छी बात: कभी-कभी "भाषा की आवाज़" सही होती है (जैसे, यदि आप एक पीला केला दिखाते हैं, तो मॉडल सही ढंग से "पीला" कहता है)।
बुरी बात: कभी-कभी "भाषा की आवाज़" गलत होती है (जैसे, नीला केला)।
परिणाम: "भाषा की आवाज़" को अंधाधुंध चुप कराने से, पुराने तरीकों ने अनजाने में मॉडल की उन चीजों को सही ढंग से वर्णित करने की क्षमता को भी बिगाड़ दिया जो उनके प्रशिक्षण से मेल खाती थीं। उन्होंने मॉडल के सोचने के स्वाभाविक प्रवाह को तोड़ दिया।

लेखक इस टूटी हुई स्थिति को "मैनिफ़ोल्ड डिपार्चर" (Manifold Departure) कहते हैं। मॉडल के सोचने के स्वाभाविक, सही तरीके को एक अच्छी तरह से बनी पक्की सड़क (highway) मान लें। पुराने तरीके उस कार को हाईवे से उतारकर कीचड़ भरे खेत में ले जाने जैसे थे। भले ही कार गड्ढे (हैलुसिनेशन) से बचने की कोशिश कर रही थी, लेकिन वह कीचड़ में फंस गई और ठीक से चल नहीं पाई।

समाधान: MGAP (एक स्मार्ट ट्रैफिक पुलिस)

लेखकों ने MGAP (Manifold-Guided Adaptive Projection) नामक एक नया तरीका प्रस्तावित किया है। "भाषा की आवाज़" को पूरी तरह से चुप कराने के बजाय, MGAP एक स्मार्ट ट्रैफिक पुलिस की तरह काम करता है जो केवल आवश्यकता पड़ने पर ही हस्तक्षेप करता है।

MGAP कैसे काम करता है, इसके चरण यहाँ दिए गए हैं:

1. "भाषा के हाईवे" का मानचित्रण (Offline)

मॉडल द्वारा तस्वीर का वर्णन शुरू करने से पहले, MGAP अकेले मॉडल की "भाषा की आवाज़" का अध्ययन करने के लिए एक क्षण लेता है। यह मॉडल से बिना कोई चित्र दिखाए, केवल टेक्स्ट के माध्यम से कल्पना करने को कहता है।

उपमा: यह मॉडल के "डिफ़ॉल्ट दिवास्वप्न" (daydreams) का अध्ययन करने जैसा है।
गणित: यह इन दिवास्वप्नों में मुख्य पैटर्न खोजने के लिए SVD (Singular Value Decomposition) नामक तकनीक का उपयोग करता है। यह एक "लैंग्वेज सबस्पेस" (Language Subspace) का मानचित्र बनाता है—मॉडल के मस्तिष्क के वे विशिष्ट दिशाएँ जहाँ ये अपेक्षाएँ रहती हैं।

2. वास्तविक समय की जाँच (Online)

अब, मॉडल एक वास्तविक तस्वीर देखता है। जैसे-जैसे वह शब्द बनाता है, MGAP दो चीजें जाँचता है:

निरंतरता जाँच (Consistency Check): क्या मॉडल का वर्तमान विचार उसके "भाषा के दिवास्वप्न" से मेल खाता है?
- यदि वे मेल खाते हैं: तो मॉडल शायद सही है। MGAP कहता है, "जारी रखें, बदलने की कोई आवश्यकता नहीं है।"
- यदि वे टकराते हैं: तो मॉडल कुछ ऐसा देख रहा है (जैसे नीला केला) जो उसके दिवास्वप्न (पीला केला) के विपरीत है। यह एक रेड फ्लैग (चेतावनी) है।
आत्मविश्वास जाँच (Confidence Check): क्या मॉडल अनिश्चित है?
- MGAP मापता है कि मॉडल कितना "भ्रमित" है (एन्ट्रॉपी का उपयोग करके)। यदि मॉडल आत्मविश्वासी है, तो MGAP कोमल रहता है। यदि मॉडल भ्रमित है, तो MGAP अधिक सख्ती से हस्तक्षेप करता है।

3. "सबस्पेस-चयनात्मक" सुधार (Subspace-Selective Correction)

यही जादू वाला हिस्सा है। जब MGAP एक संघर्ष देखता है (नीला केला बनाम पीली अपेक्षा), तो वह मॉडल को हाईवे से बाहर नहीं धकेलता।

पुराना तरीका: पूरी कार को सड़क से बाहर धकेल दिया।
MGAP: यह केवल कार के उस विशिष्ट हिस्से को धकेलता है जो भटक रहा है। यह विचार के "भाषा की अपेक्षा" वाले घटक को धीरे से वापस लाता है, जबकि "दृश्य वास्तविकता" वाले घटक को पूरी तरह से अकेला छोड़ देता है।
उपमा: कल्पना कीजिए कि मॉडल का विचार एक गाना है। "भाषा की आवाज़" बेसलाइन (bassline) है और "दृश्य आवाज़" धुन (melody) है। यदि बेसलाइन गलत नोट बजा रही है, तो MGAP पूरे गाने को म्यूट नहीं करता है। वह बस बेस नोट को ठीक करता है ताकि धुन स्पष्ट रूप से चमक सके।

यह क्यों महत्वपूर्ण है (परिणाम)

पेपर ने दो प्रमुख बेंचमार्क (POPE और CHAIR) पर परीक्षण किया जो AI के लिए "हैलुसिनेशन परीक्षा" की तरह हैं।

बेहतर सटीकता: MGAP ने पिछले तरीकों की तुलना में मॉडल द्वारा चीजें बनाने (जैसे नीला केला) को बहुत बेहतर तरीके से रोका।
कोई नुकसान नहीं (No Collateral Damage): पुराने तरीकों के विपरीत, MGAP ने मॉडल की उन चीजों को सही ढंग से वर्णित करने की क्षमता को नुकसान नहीं पहुँचाया जब तस्वीर वास्तव में अपेक्षाओं से मेल खाती थी। इसने "हाईवे" को सुचारू बनाए रखा।
गति: क्योंकि MGAP को मॉडल को कई बार चलाने की आवश्यकता नहीं होती है (जैसे कि अन्य तरीके जो उत्तर के विभिन्न संस्करणों की तुलना करते हैं), यह बहुत तेज़ और अधिक कुशल है।

एक वाक्य में सारांश

MGAP एक स्मार्ट, सर्जिकल टूल है जो AI के हैलुसिनेशन को ठीक करता है, क्योंकि यह केवल मॉडल के सोचने के उन हिस्सों को धीरे से सुधारता है जो गलत अपेक्षाओं पर आधारित होते हैं, बिना उन हिस्सों को परेशान किए जो वास्तव में मॉडल द्वारा देखे जा रहे दृश्य पर आधारित हैं।

तकनीकी सारांश: अनिश्चितता-जागरूक उपसमष्टि सुधार (Uncertainty-Aware Subspace Rectification) के माध्यम से मैनिफोल्ड डिपार्चर (Manifold Departure) को कम करना

1. समस्या विवरण

मल्टीमॉडल लार्ज लैंग्वेज मॉडल्स (MLLMs) अक्सर ऑब्जेक्ट हेलुसिनेशन (वस्तु मतिभ्रम) से ग्रस्त होते हैं, जहाँ वे ऐसी सामग्री उत्पन्न करते हैं जो प्रवाहपूर्ण और तर्कसंगत तो लगती है, लेकिन दृश्य इनपुट के साथ असंगत होती है। यह घटना मुख्य रूप से प्री-ट्रेनिंग के दौरान सीखे गए लैंग्वेज प्रायर्स (भाषा पूर्वग्रहों) पर अत्यधिक निर्भरता के कारण होती है, जो कमजोर या संदिग्ध दृश्य साक्ष्यों को दबा सकते हैं।

जबकि हालिया ट्रेनिंग-फ्री डिकोडिंग रणनीतियाँ भाषा पूर्वग्रहों को दंडित करके (जैसे कि कंट्रास्टिव डिकोडिंग के माध्यम से) इसे कम करने का प्रयास करती हैं, लेखक इन दृष्टिकोणों में एक गंभीर दोष की पहचान करते हैं: वे भाषा पूर्वग्रहों को समान रूप से हानिकारक मानते हैं। वास्तव में, पूर्वग्रहों की एक दोहरी भूमिका होती है:

हानिकारक: वे तब हेलुसिनेशन उत्पन्न करते हैं जब दृश्य और भाषाई साक्ष्य संघर्ष करते हैं (जैसे, जब चित्र में नीला केला दिखाया गया हो और मॉडल "पीला केला" भविष्यवाणी करता है)।
सहायक: वे तब पीढ़ी को स्थिर और सटीक बनाते हैं जब वे दृश्य साक्ष्य के साथ संरेखित होते हैं (जैसे, जब चित्र वास्तव में एक पीले केले का हो, तो "पीला" शब्द को सुदृढ़ करना)।

पूर्वग्रहों का अंधाधुंध दमन मॉडल के आंतरिक सिमेंटिक मैनिफोल्ड (अर्थपूर्ण मैनिफोल्ड) को बाधित करता है, जिससे हिडन स्टेट्स लो-डेंसिटी क्षेत्रों में चले जाते हैं और वैध मामलों में भी प्रदर्शन गिर जाता है। लेखक इस विफलता मोड को मैनिफोल्ड डिपार्चर (Manifold Departure) कहते हैं।

2. कार्यप्रणाली: मैनिफोल्ड-गाइडेड एडेप्टिव प्रोजेक्शन (MGAP)

मैनिफोल्ड डिपार्चर को संबोधित करने के लिए, यह शोध पत्र MGAP का प्रस्ताव करता है, जो एक ज्योमेट्री-जागरूक, ट्रेनिंग-फ्री डिकोडिंग फ्रेमवर्क है। ग्लोबल लीनियर सप्रेशन विधियों के विपरीत, MGAP सबस्पेस-सेलेक्टिव अपडेट्स करता है जो मॉडल की ऑर्थोगोनल सिमेंटिक संरचना को सुरक्षित रखता है।

2.1. ऑफलाइन: लेबल-मुक्त लैंग्वेज प्रायर सबस्पेस निर्माण

MGAP पहले बिना किसी लेबल या इमेज कंटेंट की आवश्यकता के, लैंग्वेज प्रायर्स का एक लो-डायमेंशनल प्रतिनिधित्व बनाता है:

डेटा संग्रह: मॉडल टेक्स्टुअल क्वेरीज़ के एक सेट को "ब्लाइंड" इनपुट (जैसे, एक नल या विचलित इमेज) के साथ प्रोसेस करता है ताकि अंतिम-लेयर हिडन स्टेट्स $\{h_{blind}^{(i)}\}$ निकाले जा सकें।
सबस्पेस एस्टीमेशन: इन ब्लाइंड स्टेट्स का एक सेंटर्ड मैट्रिक्स बनाया जाता है, और सिंगुलर वैल्यू डिकम्पोजिशन (SVD) लागू किया जाता है। टॉप- $K$ राइट सिंगुलर वेक्टर्स ( $V_{prior}$ ) लैंग्वेज-प्रायर सबस्पेस को परिभाषित करते हैं, जो भाषाई नियमितताओं द्वारा प्रेरित प्रमुख विविधताओं को कैप्चर करता है।

2.2. ऑनलाइन: कंसिस्टेंसी-अवेयर एडेप्टिव प्रोजेक्शन

मानक मल्टीमॉडल डिकोडिंग के दौरान, MGAP प्रत्येक स्टेप $t$ पर हस्तक्षेप करता है ताकि केवल आवश्यकता होने पर ही प्रायर्स को कम किया जा सके:

प्रोजेक्शन: वर्तमान हिडन स्टेट $h_{orig}$ को प्रायर सबस्पेस पर प्रोजेक्ट किया जाता है: $h_{proj} = V_{prior}V_{prior}^\top h_{orig}$ ।
कंसिस्टेंसी चेक (संरक्षण): ओरिजिनल स्टेट और प्रायर प्रोजेक्शन के बीच संरेखण को कोसाइन सिमिलरिटी के माध्यम से मापा जाता है। एक मिसमैच स्कोर $\delta = 1 - \cos(h_{orig}, h_{proj})$ की गणना की जाती है। छोटा $\delta$ यह दर्शाता है कि स्टेट प्रायर के साथ सुसंगत है (कोई दमन आवश्यक नहीं है)।
अनसर्टेन्टी गेटिंग: टोकन डिस्ट्रीब्यूशन के शैनन एंट्रॉपी ( $H$ ) का उपयोग करके प्रेडिक्टिव अनसर्टेन्टी का अनुमान लगाया जाता है। एक गेटिंग फैक्टर $\gamma = \tanh(\lambda H)$ प्राप्त किया जाता है, जो केवल तभी हस्तक्षेप को बढ़ाता है जब मॉडल अनिश्चित होता है।
एडेप्टिव करेक्शन: सुधारा गया हिडन स्टेट इस प्रकार कंप्यूट किया जाता है:
$h_{cut} = h_{orig} - \alpha \cdot \gamma \cdot \delta \cdot h_{proj}$
यह फॉर्मूलेशन सुनिश्चित करता है कि सुधार बाउंडेड (सीमित) और सेलेक्टिव (चयनात्मक) है। यदि दृश्य साक्ष्य प्रायर के साथ संरेखित हैं (कम $\delta$ ) या मॉडल आश्वस्त है (कम $H$ ), तो ऑपरेशन एक आइडेंटिटी मैपिंग के करीब होता है, जिससे सिमेंटिक मैनिफोल्ड सुरक्षित रहता है।

3. मुख्य योगदान

यह शोध पत्र तीन प्राथमिक योगदान देता है:

मैनिफोल्ड डिपार्चर की पहचान: लेखक "मैनिफोल्ड डिपार्चर" को एक ज्योमेट्रिक विफलता मोड के रूप में औपचारिक रूप से परिभाषित और विश्लेषण करते हैं, जहाँ यूनिफॉर्म लीनियर सप्रेशन हिडन स्टेट्स को हाई-डेंसिटी सिमेंटिक मैनिफोल्ड से दूर धकेल देता है। यह समझाता है कि मौजूदा ट्रेनिंग-फ्री विधियाँ सही होने पर भी प्रदर्शन को क्यों कम करती हैं।
MGAP का प्रस्ताव: एक नवीन डिकोडिंग फ्रेमवर्क जो ब्लाइंड स्टेट्स से लैंग्वेज-प्रायर सबस्पेस सीखता है और अनसर्टेन्टी-अवेयर, सबस्पेस-सेलेक्टिव प्रोजेक्शन लागू करता है। यह ऑर्थोगोनल सिमेंटिक कंपोनेंट्स को बाधित किए बिना हेलुसिनेशन को दबाने की अनुमति देता है।
सैद्धांतिक और अनुभवजन्य सत्यापन: पेपर में सैद्धांतिक प्रमाण दिए गए हैं जो दिखाते हैं कि MGAP के अपडेट्स बाउंडेड और सबस्पेस-सेलेक्टिव हैं। व्यापक प्रयोगों से पता चलता है कि MGAP पिछले बेसलाइन्स की तुलना में हेलुसिनेशन मिटिगेशन और डिस्क्रिप्टिव फिडेलिटी के बीच बेहतर ट्रेड-ऑफ प्राप्त करता है।

4. प्रयोगात्मक परिणाम

लेखकों ने दो प्रतिनिधि बैकबोन्स (LLaVA v1.5-7B और Qwen3-VL-8B) पर कई बेंचमार्क्स में MGAP का मूल्यांकन किया:

POPE (ऑब्जेक्ट हेलुसिनेशन): MGAP ने रैंडम, पॉपुलर और एडवर्सरियल स्प्लिट्स में वैनिला डिकोडिंग और अन्य ट्रेनिंग-फ्री बेसलाइन्स (VCD, ICD, HalTrapper, DeCo, MoD) की तुलना में लगातार बेहतर प्रदर्शन किया। विशेष रूप से, जहाँ VCL जैसे तरीकों ने स्टैंडर्ड स्प्लिट्स पर प्रदर्शन कम कर दिया, वहीं MGAP ने हाई एक्यूरेसी बनाए रखते हुए प्रिसिजन और F1 स्कोर में सुधार किया।
CHAIR (इमेज कैप्शनिंग): MGAP ने सभी बेसलाइन्स की तुलना में हेलुसिनेशन रेट (कम CHAIRs और CHAIRi स्कोर) को काफी कम कर दिया, जबकि साथ ही प्रिसिजन में भी सुधार किया। यह इंगित करता है कि हेलुसिनेशन मिटिगेशन अत्यधिक कंजर्वेटिव जनरेशन के बिना प्राप्त किया गया था।
AMBER बेंचमार्क: MGAP इस विविध बेंचमार्क पर अच्छी तरह से सामान्य हुआ, जिससे पता चला कि सीखा गया प्रायर सबस्पेस विशिष्ट मूल्यांकन प्रोटोकॉल से परे हेलुसिनेशन के ट्रांसफ़रेबल स्ट्रक्चरल गुणों को कैप्चर करता है।
दक्षता (Efficiency): कंट्रास्टिव डिकोडिंग विधियों के विपरीत, जिन्हें कई फॉरवर्ड पास की आवश्यकता होती है (जैसे, VCD, ICD), MGAP एक सिंगल फॉरवर्ड पास के भीतर काम करता है। इसने कंट्रास्टिव बेसलाइन्स की तुलना में इन्फरेंस लेटेंसी को लगभग 50% कम कर दिया, जबकि पूरी तरह से ट्रेनिंग-फ्री बना रहा।

5. महत्व और दावे

पेपर का दावा है कि लैंग्वेज प्रायर्स का अंधाधुंध दमन वर्तमान ट्रेनिंग-फ्री डिकोडिंग रणनीतियों की एक मौलिक सीमा है। रिप्रेजेंटेशन ज्योमेट्री के लेंस के माध्यम से समस्या को फिर से परिभाषित करके, लेखक प्रदर्शित करते हैं कि मैनिफोल्ड डिपार्चर मौजूदा विधियों में प्रदर्शन गिरावट का मूल कारण है।

MGAP का महत्व इसके सेलेक्टिव इंटरवेंशन मैकेनिज्म में निहित है। प्रायर्स को एक लो-रैंक सबस्पेस के रूप में मॉडल करके और एडेप्टिव, अनसर्टेन्टी-अवेयर गेटिंग लागू करके, MGAP ग्लोबल लीनियर शिफ्ट के "ब्लंट इंस्ट्रूमेंट" (कुंद उपकरण) वाले दृष्टिकोण से बचता है। लेखक दावा करते हैं कि यह दृष्टिकोण MLLMs को तब भाषा पूर्वग्रहों के स्थिरीकरण लाभों को बनाए रखने की अनुमति देता है जब वे सही होते हैं, जबकि दृश्य साक्ष्यों के साथ संघर्ष करने पर उन्हें प्रभावी ढंग से दबाने में सक्षम बनाता है, जिससे एक अधिक मजबूत और विश्वसनीय डिकोडिंग प्रक्रिया प्राप्त होती है।

कार्य यह निष्कर्ष निकालता है कि हेलुसिनेशन प्रायर्स केवल विशिष्ट बेंचमार्क्स के आर्टिफैक्ट्स नहीं हैं, बल्कि वे रिप्रेजेंटेशन स्पेस में ट्रांसफ़रेबल स्ट्रक्चरल गुण प्रदर्शित करते हैं, जो यह सुझाव देता है कि सेलेक्टिव प्रायर करेक्शन बड़े विजन-लैंग्वेज मॉडल्स को बेहतर बनाने के लिए एक सामान्यीकरण योग्य तंत्र है।