💬 NLP

Evaluating and Steering Modality Preferences in Multimodal Large Language Model

यह शोध पत्र बहुविध बड़े भाषा मॉडलों (MLLMs) में मोडैलिटी प्राथमिकताओं को व्यवस्थित रूप से मूल्यांकन करने के लिए MC² बेंचमार्क प्रस्तुत करता है, जो यह प्रकट करता है कि ये प्राथमिकताएं कार्य प्रदर्शन के साथ सह-संबंधित हैं और बिना किसी अतिरिक्त फाइन-ट्यूनिंग के, एक रिप्रेजेंटेशन इंजीनियरिंग-आधारित विधि का उपयोग करके वांछित दिशाओं की ओर प्रभावी ढंग से निर्देशित की जा सकती हैं।

मूल लेखक: Yu Zhang, Jinlong Ma, Yongshuai Hou, Xuefeng Bai, Kehai Chen, Yang Xiang, Jun Yu, Min Zhang

प्रकाशित 2026-02-05

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Yu Zhang, Jinlong Ma, Yongshuai Hou, Xuefeng Bai, Kehai Chen, Yang Xiang, Jun Yu, Min Zhang

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आपके पास एक बहुत ही बुद्धिमान सहायक है जो चित्रों को देख सकता है और टेक्स्ट को पढ़ सकता है। आप मान सकते हैं कि यह सहायक उत्तर खोजने के लिए चित्र और टेक्स्ट दोनों को समान रूप से देखता है। लेकिन क्या होगा अगर इस सहायक का कोई गुप्त पसंदीदा हो? क्या होगा अगर, जब चित्र कहता है "लाल" और टेक्स्ट कहता है "नीला", तो सहायक हर बार टेक्स्ट पर आँख मूंदकर भरोसा करता है, चित्र को पूरी तरह से अनदेखा कर देता है?

यह शोध पत्र इस बारे में है कि कैसे मल्टी-मोडल लार्ज लैंग्वेज मॉडल्स (MLLMs)—वे AI मस्तिष्क जो चित्रों और शब्दों दोनों को संभालते हैं—में अक्सर ये गुप्त पसंदीदा होते हैं, जिन्हें "मोडैलिटी प्रेफरेंस" (modality preferences) के रूप में जाना जाता है।

यहाँ शोधकर्ताओं ने क्या पाया और क्या किया, इसका विवरण सरल उपमाओं (analogies) का उपयोग करके दिया गया है:

1. समस्या: "पक्षपाती न्यायाधीश" (The Biased Judge)

शोधकर्ताओं ने महसूस किया कि हालांकि ये AI कई चीजों में बेहतरीन हैं, लेकिन किसी ने वास्तव में यह परीक्षण नहीं किया था कि वे तब कैसे व्यवहार करते हैं जब चित्र और टेक्स्ट के बीच मतभेद हो।

उपमा: एक अदालत की कल्पना करें जहाँ एक न्यायाधीश को दो गवाहों के आधार पर मामला तय करना है। गवाह A (चित्र) कहता है, "मैंने एक लाल कार देखी।" गवाह B (टेक्स्ट) कहता है, "मैंने एक नीली कार देखी।"
पुराना तरीका: पिछले परीक्षणों में न्यायाधीश से केवल गवाह A को सुनने के लिए, फिर केवल गवाह B को सुनने के लिए कहा जाता था। इससे हमें यह पता नहीं चलता था कि जब दोनों एक साथ चिल्ला रहे हों, तो न्यायाधीश किस पर अधिक भरोसा करता है।
नया तरीका (MC2 बेंचमार्क): शोधकर्ताओं ने MC2 नामक एक विशेष परीक्षण बनाया। उन्होंने 2,000 ऐसे परिदृश्य तैयार किए जहाँ चित्र और टेक्स्ट स्पष्ट रूप से एक-दूसरे का खंडन करते हैं।
- उदाहरण: चित्र में चार लड़के फ्रिसबी खेल रहे हैं। टेक्स्ट विवरण कहता है, "वहाँ पाँच लड़के हैं, जिनमें से एक अपने जूते के फीते बाँध रहा है।"
- AI से पूछा जाता है: "वहाँ कितने लोग हैं?"
- यदि AI कहता है "चार," तो वह विज़न (Vision) यानी चित्र को प्राथमिकता देता है।
- यदि AI कहता है "पाँच," तो वह टेक्स्ट (Text) को प्राथमिकता देता है।

2. खोज: अधिकांश AI "टेक्स्ट के शौकीन" (Text Snobs) हैं

जब उन्होंने इस परीक्षण को 20 अलग-अलग AI मॉडल पर चलाया, तो उन्हें कुछ आश्चर्यजनक बातें पता चलीं:

हर किसी का एक पसंदीदा है: परीक्षण किए गए हर एक मॉडल ने एक स्पष्ट प्राथमिकता दिखाई। उनमें से कोई भी वास्तव में तटस्थ नहीं था।
टेक्स्ट ही राजा है: अधिकांश मॉडल्स (जैसे लोकप्रिय LLaVA) ने टेक्स्ट को अत्यधिक प्राथमिकता दी। भले ही चित्र स्पष्ट रूप से कुछ अलग दिखा रहा हो, AI अक्सर चित्र को अनदेखा कर देता है और बस शब्दों को पढ़ लेता है। यह एक ऐसे छात्र की तरह है जो पाठ्यपुस्तक के आरेख (diagram) को अनदेखा करता है और केवल कैप्शन पढ़ता है, भले ही कैप्शन गलत हो।
बड़ा होना हमेशा संतुलित नहीं होता: दिलचस्प बात यह है कि जैसे-जैसे मॉडल बड़े (अधिक "मस्तिष्क शक्ति") होते गए, उनमें से कुछ ने चित्रों पर अधिक भरोसा करना शुरू कर दिया, लेकिन कई अभी भी अपनी टेक्स्ट की आदतों पर टिके रहे।
"विज़न रेश्यो" (The Vision Ratio): उन्होंने विज़न रेश्यो नामक एक स्कोर बनाया। यदि किसी मॉडल का स्कोर उच्च है, तो वह एक "विजुअल थिंकर" (दृश्य विचारक) है। यदि यह कम है, तो वह एक "टेक्स्ट रीडर" (पाठ पाठक) है। उन्होंने पाया कि यह स्कोर उस कार्य के लिए एक अच्छा भविष्यवक्ता है जिसके लिए वास्तव में चीजों को देखने की आवश्यकता होती है।

3. समाधान: AI मस्तिष्क के लिए "रिमोट कंट्रोल"

सबसे रोमांचक हिस्सा यह है कि उन्होंने न केवल समस्या को खोजा, बल्कि इसे बिना AI को फिर से प्रशिक्षित किए (जो एक वयस्क को पुन: शिक्षित करने जैसा है) ठीक कर दिया।

उपमा: AI के आंतरिक मस्तिष्क को अदृश्य स्विचों से भरे एक विशाल कमरे के रूप में सोचें। शोधकर्ताओं ने पाया कि "टेक्स्ट के लिए प्राथमिकता" और "छवियों के लिए प्राथमिकता" इस कमरे में दो विशिष्ट दिशाएँ हैं।
विधि (Representation Engineering):
1. प्रोबिंग (Probing): उन्होंने AI से कुछ प्रश्न पूछे ताकि उस सटीक "दिशा" का पता लगाया जा सके जहाँ वह टेक्स्ट की ओर झुकता है।
2. स्टीयरिंग (Steering): उन्होंने एक गणितीय "पुश" (एक स्टीयरिंग वेक्टर) बनाया जो एक रिमोट कंट्रोल की तरह काम करता है।
3. परिणाम: जब उन्होंने इस 'पुश' को लागू किया, तो वे AI के मस्तिष्क को चित्र पर अधिक भरोसा करने या टेक्स्ट पर अधिक भरोसा करने के लिए तुरंत प्रेरित (nudge) कर सके।
- उदाहरण: यदि कोई मॉडल आमतौर पर चित्र को अनदेखा करता है और टेक्स्ट के आधार पर भ्रमित (hallucinate) होता है, तो वे उसे चित्र पर ध्यान केंद्रित करने के लिए "स्टीयर" कर सकते हैं।

4. यह क्यों महत्वपूर्ण है

शोधकर्ताओं ने दिखाया कि इस "रिमोट कंट्रोल" का उपयोग करके, वे AI को कठिन कार्यों पर बहुत बेहतर प्रदर्शन करने में सक्षम बना सकते हैं:

गणित और तर्क (Math & Logic): जब टेक्स्ट एक व्याकुलता (distraction) था, तो AI को चित्र पर भरोसा करने के लिए स्टीयर करने से उसने गणित की समस्याओं को सही ढंग से हल करने में मदद की।
अनुवाद (Translation): अनुवाद करते समय, वे AI को चित्र से भ्रमित होने से बचने के लिए टेक्स्ट पर ध्यान केंद्रित करने के लिए स्टीयर कर सकते हैं।

सारांश

संक्षेप में, यह शोध पत्र प्रकट करता है कि AI मॉडल अक्सर एक "पसंदीदा इंद्रिय" (आमतौर पर देखने के बजाय पढ़ने) रखते हैं जो जानकारी के संघर्ष होने पर उन्हें पक्षपाती बना देती है। लेखकों ने इस पूर्वाग्रह को मापने के लिए एक परीक्षण बनाया और एक ट्रेनिंग-फ्री "स्टीयरिंग व्हील" का आविष्कार किया जो मनुष्यों को AI के फोकस को मैन्युअल रूप से समायोजित करने की अनुमति देता है, जिससे मॉडल को फिर से बनाए बिना इसे अधिक विश्वसनीय और सटीक बनाया जा सके।

तकनीकी सारांश: मल्टी-मॉडल LLMs में मोडैलिटी प्राथमिकताओं का मूल्यांकन और स्टीयरिंग (Steering)

समस्या विवरण (Problem Statement)

मल्टी-मॉडल लार्ज लैंग्वेज मॉडल्स (MLLMs) ने हेट्रोजेनियस डेटा (टेक्स्ट, इमेज, वीडियो) को प्रोसेस करने में असाधारण क्षमताएं प्रदर्शित की हैं। हालांकि, एक महत्वपूर्ण अंतराल यह समझने में बना हुआ है कि क्या ये मॉडल मोडैलिटी प्रेफरेंस (modality preference) प्रदर्शित करते हैं—अर्थात, विरोधाभासी मल्टी-मॉडल संदर्भों को प्रोसेस करते समय एक मोडैलिटी को दूसरी मोडैलिटी पर प्राथमिकता देने की व्यवस्थित प्रवृत्ति। मौजूदा मूल्यांकन विधियां अक्सर मोडैलिटीज को अलग करती हैं (जैसे, टेक्स्ट-ओनली बनाम इमेज-ओनली इनपुट का परीक्षण करना) या शापली वैल्यूज (Shapley values) पर निर्भर करती हैं, जो वास्तविक परिदृश्यों को प्रतिबिंबित करने में विफल रहती हैं जहाँ मोडैलिटीज सह-अस्तित्व में होती हैं और संभावित रूप से संघर्ष करती हैं। इसके अलावा, यह स्पष्ट नहीं है कि क्या ये अंतर्निहित प्राथमिकताएं नियंत्रणीय हैं या क्या वे डाउनस्ट्रीम टास्क प्रदर्शन के साथ सह-संबंधित हैं।

कार्यप्रणाली (Methodology)

1. MC2 बेंचमार्क

मोडैलिटी प्रेफरेंस का कठोरता से मूल्यांकन करने के लिए, लेखक MC2 (Modality Context Conflict) पेश करते हैं, जो नियंत्रित साक्ष्य-संघर्ष (evidence-conflict) परिदृश्यों को बनाने के लिए डिज़ाइन किया गया एक बेंचमार्क है।

डेटा निर्माण: यह डेटासेट आठ कार्यों (जैसे, गिनती, एट्रिब्यूट रिकग्निशन, सेंटीमेंट एनालिसिस) में 2,000 सैंपल्स से बना है। यह TDIUC और MS-COCO से लिया गया है।
संघर्ष तंत्र (Conflict Mechanism): प्रत्येक सैंपल के लिए, एक विजुअल कॉन्टेक्स्ट ( $c_v$ ) और एक टेक्स्टुअल कॉन्टेक्स्ट ( $c_t$ ) को एक विशिष्ट प्रश्न ( $q$ ) के संबंध में विरोधाभासी साक्ष्य प्रदान करने के लिए बनाया जाता है।
वैलिडेशन: निर्माण पाइपलाइन यह सुनिश्चित करती है कि मॉडल एकल-मोडैलिटी टेस्ट पर सटीक रूप से दोनों मोडैलिटीज को समझ सके (सिंगल-मोडैलिटी टेस्ट पर >95% सटीकता प्राप्त करना), इससे कन्फाउंडिंग फैक्टर्स जैसे कि खराब विजुअल रिकग्निशन या इंटरनल नॉलेज बायस समाप्त हो जाते हैं।
एनोटेशन: एक सेमी-ऑटोमेटेड फ्रेमवर्क (DeepSeekV3, GPT-4o-mini जैसे LLMs का उपयोग करके) डिस्ट्रैक्टर आंसर्स और कॉन्फ्लिक्टिंग टेक्स्ट जेनरेट करता है, जिसके बाद मानव सत्यापन (human verification) किया जाता है ताकि मोडैलिटीज के बीच सिमेंटिक इनकंसिस्टेंसी सुनिश्चित की जा सके।

2. मूल्यांकन मीट्रिक: विजन रेश्यो (Vision Ratio)

लेखक प्राथमिकता को मापने के लिए विज़न रेश्यो को परिभाषित करते हैं:
$\text{Vision Ratio} = \frac{S_{\text{vision}}}{S_{\text{vision}} + S_{\text{text}}}$
जहाँ $S$ उन सैंपल्स के अनुपात को दर्शाता है जहाँ मॉडल का रिस्पॉन्स क्रमशः विजुअल या टेक्स्टुअल कॉन्टेक्स्ट के साथ संरेखित (align) होता है। यदि रेश्यो > 0.5 है तो यह विजन के प्रति प्राथमिकता दर्शाता है; यदि < 0.5 है तो यह टेक्स्ट के प्रति प्राथमिकता दर्शाता है।

3. ड्राइवर्स का विश्लेषण

अध्ययन इन कारकों की जांच करता है जो इन प्राथमिकताओं को संचालित करते हैं:

अटेंशन पैटर्न: लेखक विजन रेश्यो को अटेंशन रेश्यो (विजुअल अटेंशन बनाम टोटल अटेंशन) के साथ सह-संबंधित करते हैं, जिससे पता चलता है कि असमान अटेंशन डिस्ट्रीब्यूशन प्राथमिकता को संचालित करता है।
स्केल और ट्रेनिंग: प्रयोग दिखाते हैं कि बड़े मॉडल आम तौर पर मजबूत विजुअल प्राथमिकता प्रदर्शित करते हैं। इसके अतिरिक्त, मल्टी-मोडल कॉन्फ्लिक्ट डेटा के साथ फाइन-ट्यूनिंग करने से प्राथमिकताएं बदल जाती हैं, जो यह सुझाव देती है कि ट्रेनिंग के दौरान विरोधाभासी संदर्भों के संपर्क में आना इन बायस को प्रभावित करता है।

4. स्टीयरिंग के लिए रिप्रेजेंटेशन इंजीनियरिंग

इस निष्कर्ष के आधार पर कि मोडैलिटी प्रेफरेंस लेटेंट रिप्रेजेंटेशन्स में एनकोडेड है, लेखक एक ट्रेनिंग-फ्री स्टीयरिंग मेथड प्रस्तावित करते हैं:

प्रोबिंग (Probing): मॉडल को विजन या टेक्स्ट को प्राथमिकता देने के निर्देश के साथ क्वेरी किया जाता है। अंतिम टोकन पर विभिन्न लेयर्स में हिडन स्टेट्स ( $x^t_{i,\ell} - x^v_{i,\ell}$ ) के अंतर की गणना करके मोडैलिटी प्रेफरेंस डायरेक्शन वेक्टर ( $u^\ell_t$ ) की पहचान की जाती है।
लेयर सिलेक्शन: विश्लेषण से पता चलता है कि लेयर्स 20–23 (Qwen2.5VL जैसे मॉडल्स में) सबसे स्थिर और महत्वपूर्ण प्रेफरेंस सिग्नल प्रदर्शित करती हैं।
स्टीयरिंग: इन्फरेंस के दौरान, चयनित लेयर पर एक स्केल्ड स्टीयरिंग वेक्टर ( $s^\ell = w \cdot u^\ell$ ) को हिडन स्टेट्स में जोड़ा जाता है। वेट $w$ की गणना प्रोब्ड डायरेक्शन के मीन को ओरिजिनल डिस्ट्रीब्यूशन के साथ अलाइन करने के लिए की जाती है, ताकि यह सुनिश्चित हो सके कि हस्तक्षेप प्रभावी है बिना लैंग्वेज क्षमताओं को बाधित किए।

मुख्य परिणाम (Key Results)

MLLMs में मोडैलिटी प्राथमिकताएं

व्यापकता: सभी 20 टेस्ट किए गए MLLMs स्पष्ट मोडैलिटी प्राथमिकताएं प्रदर्शित करते हैं।
टेक्स्ट बायस: अधिकांश मॉडल (जैसे, LLaVA1.5-7B) एक मजबूत टेक्स्ट प्रेफरेंस (विजन रेश्यो ~13.4%) दिखाते हैं, जो "लैंग्वेज प्रायर" हाइपोथीसिस के अनुरूप है।
विजुअल प्रेफरेंस: Qwen2.5VL और InternVL3 जैसे मॉडल एक मजबूत विजुअल प्रेफरेंस दिखाते हैं, जो मॉडल स्केल के साथ बढ़ता है।
सहसंबंध: विजन रेश्यो और डाउनस्ट्रीम बेंचमार्क्स (जैसे, MathVista, TallyQA) पर विजुअल अंडरस्टैंडिंग परफॉरमेंस के बीच एक मजबूत पॉजिटिव कोरिलेशन ( $\rho = 0.964$ ) है, जो बताता है कि प्रेफरेंस एक विश्वसनीय इंडिकेटर है।

स्टीयरिंग की प्रभावशीलता

प्रस्तावित रिप्रेजेंटेशन इंजीनियरिंग मेथड बिना फाइन-ट्यूनिंग के मॉडल को वांछित मोडैलिटी की ओर स्टीयर करने में सफल रहा:

MC2 परफॉरमेंस: यह मेथड विजन रेश्यो को एडजस्ट करने में बेसलाइन्स (Zero-shot, Instruction Design, Chain-of-Thought, Few-shot) से बेहतर प्रदर्शन करता है। उदाहरण के लिए, Qwen2.5VL-7B को टेक्स्ट की ओर स्टीयर करने से इसका टेक्स्ट-अलाइनमेंट स्कोर 35.4% से बढ़कर 63.6% हो गया।
डाउनस्ट्रीम टास्क:
- रीजनिंग: MathVista (62.3% बनाम 59.0% बेसलाइन) और TallyQA (76.6% बनाम 74.4%) पर सटीकता में सुधार हुआ।
- हैलुसिनेशन मिटिगेशन: PhD बेंचमार्क पर (विशेष रूप से भ्रामक टेक्स्ट वाले सबसेट पर), विजन की ओर स्टीयर करने से विरोधात्मक टेक्स्ट के कारण होने वाले हॉलुसिनेशन में काफी कमी आई।
- ट्रांसलेशन: AmbigCaps (मल्टी-मोडल मशीन ट्रांसलेशन) पर, टेक्स्ट की ओर स्टीयर करने से स्प्यूरियस विजुअल क्यूज पर निर्भरता कम करके BLEU स्कोर में सुधार हुआ।

आंतरिक तंत्र (Internal Mechanism)

अटेंशन विश्लेषण पुष्टि करता है कि स्टीयरिंग मेथड सफलतापूर्वक मॉडल के अटेंशन डिस्ट्रीब्यूशन को बदल देता है। जब टेक्स्ट की ओर स्टीयर किया जाता है, तो टेक्स्ट टोकन्स पर अटेंशन वेट काफी बढ़ जाता है (जैसे, ~55% से ~83% तक) जबकि विजुअल अटेंशन कम हो जाता है, जो यह प्रमाणित करता है कि हस्तक्षेप रिप्रेजेंटेशन लेवल पर काम करता है।

महत्व और दावे (Significance and Claims)

पेपर तीन प्राथमिक योगदानों का दावा करता है:

मूल्यांकन ढांचा: MC2 का परिचय MLLMs में मोडैलिटी प्रेफरेंस को व्यवस्थित रूप से मूल्यांकन करने के लिए पहला नियंत्रित, बड़े पैमाने का बेंचमार्क प्रदान करता है, जो प्रेफरेंस को अंडरस्टैंडिंग क्षमताओं से अलग करता है।
लेटेंट स्पेस में अंतर्दृष्टि: अध्ययन प्रकट करता है कि मोडैलिटी प्राथमिकताएं MLLMs के लेटेंट रिप्रेजेंटेशन्स के भीतर स्टीरेबल और आइडेंटिफिएबल हैं, जो मल्टी-मोडल रीजनिंग मैकेनिज्म के लिए एक नया दृष्टिकोण प्रदान करती हैं।
ट्रेनिंग-फ्री कंट्रोल: प्रस्तावित प्रोबिंग और स्टीयरिंग मेथड अतिरिक्त डेटा या फाइन-ट्यूनिंग के बिना मोडैलिटी प्रेफरेंस के स्पष्ट, नियंत्रणीय समायोजन को सक्षम बनाता है। यह उन डाउनस्ट्रीम टास्क पर प्रदर्शन को बढ़ाता है जहाँ विशिष्ट मोडैलिटी रिलायंस महत्वपूर्ण है (जैसे, विजुअल रीजनिंग में टेक्स्ट-प्रेरित हॉलुसिनेशन से बचना)।

लेखक निष्कर्ष निकालते हैं कि मोडैलिटी प्रेफरेंस को समझना और नियंत्रित करना अधिक विश्वसनीय और मजबूत मल्टी-मोडल सिस्टम विकसित करने के लिए आवश्यक है, विशेष रूप से उन परिदृश्यों में जहाँ विरोधाभासी जानकारी मौजूद है।