How Do VLMs Fail? Vision-Operation Misalignment in Compositional VQA
यह शोध पत्र कंपोजिशनल VQA में विजन-लैंग्वेज मॉडल की विफलताओं का विश्लेषण करने के लिए एक ऑपरेशन-केंद्रित मैकेनिस्टिक फ्रेमवर्क प्रस्तुत करता है, जो चार विशिष्ट विफलता मोड को प्रकट करता है और यह प्रदर्शित करता है कि वे विशिष्ट, विच्छेदित (dissociated) कम्प्यूटेशनल पथों के माध्यम से प्रसारित होते हैं, जिससे लक्षित विश्वसनीयता सुधारों के लिए एक आधार स्थापित होता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
जासूस, मानचित्र और ग्लिची मस्तिष्क
कल्पना कीजिए कि आप एक रोबोट को जासूस बनना सिखाने की कोशिश कर रहे हैं। आप उसे एक बिखरे हुए कमरे की तस्वीर देते हैं और एक प्रश्न पूछते है, जैसे, "क्या लाल बिल्ली नीली कुर्सी पर बैठी है?" इसका उत्तर देने के लिए, रोबोट केवल अनुमान नहीं लगा सकता; उसे मानसिक चरणों की एक श्रृंखला का पालन करना होगा। पहले, उसे बिल्ली को खोजना होगा (वस्तु चयन - object selection)। फिर, उसे यह जांचना होगा कि क्या बिल्ली लाल है (विशेषता सत्यापन - attribute verification)। अंत में, उसे कुर्सी को देखना होगा और उनके बीच के स्थानिक संबंध (spatial relationship) को समझना होगा (तर्क - reasoning)। इस अध्ययन के क्षेत्र को विज़न-लैंग्वेज मॉडलिंग (Vision-Language Modeling) कहा जाता है, जहाँ कंप्यूटर एक ही समय में छवियों और पाठ (text) दोनों को समझने की कोशिश करते हैं।
लंबे समय तक, ये रोबोट कुल मिलाकर उत्तर देने में बहुत अच्छे होते जा रहे थे। लेकिन एक पेंच था: वे कभी-कभी "चीटिंग" कर रहे थे। वास्तव में चित्र को देखने के बजाय, वे शब्दों के सामान्य जुड़ाव के आधार पर उत्तर का अनुमान लगा सकते थे। उदाहरण के लिए, यदि पूछा जाए, "क्या आकाश आमतौर पर नीला होता है?" तो रोबोट बिना चित्र देखे ही "हाँ" कह सकता है। वैज्ञानिक जानना चाहते थे: जब ये रोबोट गलत होते हैं, तो वे क्यों विफल होते हैं? क्या इसलिए कि वे वस्तु को नहीं देख पा रहे हैं? क्या इसलिए कि वे संबंध को नहीं समझ पा रहे हैं? या वे पूरी तरह से चित्र को अनदेखा कर रहे हैं? यह समझना महत्वपूर्ण है क्योंकि यदि हम चाहते हैं कि ये रोबोट वास्तविक दुनिया में विश्वसनीय सहायक बनें, तो हमें यह जानना होगा कि उनके मस्तिष्क का कौन सा हिस्सा गड़बड़ (glitch) कर रहा है ताकि हम उसे ठीक कर सकें।
ऑपरेशन-केंद्रित शव परीक्षा (The Operation-Centric Autopsy)
इस शोध पत्र में, शोधकर्ताओं ने केवल अंतिम स्कोर को देखने के बजाय रोबोट के मस्तिष्क का "मैकेनिस्टिक ऑटोप्सी" (mechanistic autopsy) करने का निर्णय लिया। उन्होंने GQA नामक एक विशिष्ट डेटासेट का उपयोग किया, जिसमें ऐसे प्रश्न शामिल हैं जिनमें एक रेसिपी की तरह कई चरणों को जोड़ने की आवश्यकता होती है। उन्होंने Qwen2.5-VL-3B नामक एक मॉडल पर ध्यान केंद्रित किया, जो एक विज़न घटक वाला एक बड़ा लैंग्वेज मॉडल है। केवल यह पूछने के बजाय कि, "क्या इसने सही किया?", उन्होंने पूछा, "यह वहाँ कैसे पहुँचा, और सिग्नल कहाँ टूटा?"
उन्होंने रोबोट के आंतरिक वायरिंग का परीक्षण करने के लिए एक चतुर तरीका विकसित किया। कल्पना कीजिए कि रोबोट का मस्तिष्क दो मुख्य असेंबली लाइनों वाली एक फैक्ट्री है: एक है अटेंशन लाइन (Attention Line), जहाँ रोबोट की "आँखें" छवि को स्कैन करती हैं और तय करती हैं कि किन हिस्सों पर ध्यान केंद्रित करना है, और दूसरी है MLP लाइन (MLP Line/Feedforward Network), जहाँ रोबोट उस जानकारी को संसाधित करता है और उसे एक अंतिम विचार में बदल देता है। शोधकर्ताओं ने "कॉज़ल इंटरवेंशन" (causal interventions) का उपयोग किया, जो रोबोट के मस्तिष्क के विशिष्ट हिस्सों को अस्थायी रूप से तोड़ने का एक शानदार तरीका है ताकि देखा जा सके कि क्या होता है। वे रोबोट की किसी विशिष्ट वस्तु को देखने की क्षमता को ब्लॉक कर देते, या उस वस्तु के विवरण को प्रोसेस करने से रोक देते, और फिर देखते कि क्या उत्तर बदल जाता है।
रोबोट विफल होने के चार तरीके
रोबोट के मस्तिष्क को बहुत विशिष्ट तरीकों से तोड़कर, लेखकों ने पाया कि केवल "सही" और "गलत" उत्तर नहीं होते हैं। वास्तव में चार अलग-अलग तरीके हैं जिनसे रोबोट विफल हो सकता है, और प्रत्येक विफलता फैक्ट्री के एक अलग हिस्से में होती है:
"ब्लाइंड स्पॉट" विफलता (ग्राउंडिंग विफलता - Grounding Failure):
यह तब होता है जब रोबro-बोट चित्र में वस्तु को खोजने में ही असमर्थ होता है। यह वैसा ही है जैसे पार्किंग लॉट में एक विशिष्ट लाल कार को खोजने की कोशिश करना, लेकिन रोबोट की आँखें बंद हैं। शोधकर्ताओं ने पाया कि जब रोबोट इसमें गलत होता है, तो इसका कारण यह है कि उसने वास्तव में वस्तु के दृश्य विवरणों पर ध्यान केंद्रित नहीं किया। इस विफलता को MLP लाइन (प्रोसेसिंग फैक्ट्री) द्वारा संभाला जाता है। यदि आप MLP को वस्तु को प्रोसेस करने से रोकते हैं, तो रोबोट पूरी तरह से विफल हो जाता है। यह बताता है कि रोबोट कच्चे इमेज डेटा को अपने मन में एक पहचानने योग्य "वस्तु" में बदलने के लिए संघर्ष कर रहा है।"ओवर-फोकस" विफलता (रीजनिंग विफलता - Reasoning Failure):
यह सबसे दिलचस्प और विपरीत (counter-intuitive) वाला है। यहाँ, रोबोट वस्तु को बिल्कुल सही देखता है, लेकिन वह उसे देखते हुए ही अटक जाता है। कल्पना कीजिए कि रोबोट एक बिल्ली और एक कुर्सी देखता है, लेकिन "बिल्ली कुर्सी पर है" सोचने के बजाय, वह बस बिल्ली के फर की बनावट पर ही अटक जाता है और कुर्सी के साथ उसकी तुलना करना भूल जाता है। रोबोट "ओवर-ग्राउंडेड" (over-grounded) है। अध्ययन में पाया गया कि यह विशिष्ट विफलता अटेंशन लाइन (स्कैनिंग तंत्र) के माध्यम से चलती है, विशेष रूप से मस्तिष्क की बाद की परतों (layers) में। रोबोट सही चीज़ देख रहा है लेकिन उस दृष्टि का उपयोग एक तार्किक संबंध बनाने के लिए करने में विफल हो रहा है।"गलत गुण" विफलता (एट्रीब्यूट एक्सट्रैक्शन विफलता - Attribute Extraction Failure):
इस परिदृश्य में, रोबोट वस्तु को पाता है और जानता है कि वह कहाँ है, लेकिन विवरण गलत हो जाते हैं। वह एक सुनहरी गाड़ी देखता है लेकिन उसे चांदी की कहता है। रोबлот के पास विजुअल सिग्नल है, लेकिन सिग्नल को शब्द में बदलने का अंतिम चरण विफल हो जाता है। यह भी MLP लाइन में होता है, लेकिन विशेष रूप से बिल्कुल अंत में जहाँ उत्तर उत्पन्न किया जाता है। यह ऐसा है जैसे फैक्ट्री के पास सही कच्चा माल है लेकिन अंतिम लेबल लगाने वाली मशीन खराब है।"चीटर" विफलता (लैंग्वेज प्रायर डोमिनेंस - Language Prior Dominance):
कभी-कभी, रोबोट चित्र को देखता तक नहीं है। यदि प्रश्न है "चेन काली है या पीली?" और रोबोट को अपने प्रशिक्षण से पता है कि चेन आमतौर पर काली होती है, तो वह चित्र की जाँच किए बिना ही "काली" का अनुमान लगा लेता है। शोधकर्ताओं ने पाया कि इन प्रकार के प्रश्नों के लिए, रोबोट का विजुअल मस्तिष्क लगभग सक्रिय ही नहीं होता है। वह उत्तर का अनुमान लगाने के लिए पूरी तरह से अपने "लैंग्वेज ब्रेन" पर निर्भर रहता है। यह विजुअल सिस्टम का पूर्ण बाईपास है।
द ग्रेट पाथवे स्प्लिट (The Great Pathway Split)
इस शोध पत्र की सबसे महत्वपूर्ण खोज एक "पाथवे डिसोसिएशन" (pathway dissociation) है। शोधकर्ताओं ने दिखाया कि रोबोट के मस्तिष्क में अलग-अलग प्रकार की त्रुटियाँ अलग-अलग तारों (wires) से गुजरती हैं।
- यदि रोबोट वस्तु को खोजने में विफल होता है (Grounding) या उसका वर्णन सही ढंग से करने में विफल होता है (Attribute Extraction), तो समस्या MLP प्रोसेसिंग लाइन में है।
- यदि रोबोट वस्तुओं के बीच के संबंध के बारे में तर्क (Reasoning) करने में विफल होता है, तो समस्या अटेंशन स्कैनिंग लाइन में है।
यह एक बड़ी बात है क्योंकि इसका मतलब है कि आप सभी रोबोट त्रुटियों को एक ही टूल से ठीक नहीं कर सकते। यदि आप ऑब्जेक्ट-प्रोसेसिंग लाइन को ट्यून करके "रीजनिंग" त्रुटि को ठीक करने की कोशिश करते हैं, तो आप सफल नहीं होंगे। आपको उस विशिष्ट तार को लक्षित करना होगा जहाँ त्रुटि हो रही है।
क्या यह सभी रोबोट्स में होता है?
शोधकर्ताओं ने यह भी जाँच की कि क्या यह दूसरे रोबोट, LLaVA-1.5 के लिए भी सच है। उन्होंने पाया कि "चीटर" और "गलत प्रॉपर्टी" वाली विफलताएं दोनों रोबोट्स में हुईं, जो यह सुझाव देती हैं कि ये रोबोट उत्तर उत्पन्न करने के तरीके से जुड़ी मौलिक समस्याएँ हैं। हालाँकि, "ब्लाइंड स्पॉट" और "ओवर-फोकस" विफलताएं केवल पहले रोबोट (Qwen2.5-VL) में दिखाई दीं। क्यों? क्योंकि पहले रोबोट में एक विज़न एनकोडर है जो वस्तुओं के स्थान के बारे में बहुत विस्तृत, पिक्सेल-परफेक्ट जानकारी रखता है। दूसरा रोबोट (LLaVA) एक ऐसा विज़न एनकोडर उपयोग करता है जो छवि को अधिक व्यापक रूप से सारांशित करता है, जिससे कुछ सूक्ष्म स्थानिक विवरण (spatial detail) खो जाते हैं। क्योंकि दूसरे रोबोट के पास उसी स्तर का विस्तृत "मानचित्र" नहीं है, इसलिए वह उसी प्रकार की "ब्लाइंड स्पॉट" या "ओवर-फोकस" त्रुटियों से पीड़ित नहीं होता है। यह सुझाव देता है कि कुछ त्रुटियाँ तभी होती हैं जब रोबोट के पास खो जाने के लिए एक उच्च-रिज़ॉल्यूशन वाला मानचित्र होता है।
निष्कर्ष
शोध पत्र यह निष्कर्ष निकालता है कि हम अब विज़न-लैंग्वेज मॉडल्स को एक एकल, ब्लैक बॉक्स के रूप में नहीं देख सकते कि वे काम करते हैं या नहीं। वे अलग-अलग कामों के लिए अलग-अलग असेंबली लाइनों वाली जटिल मशीनें हैं। जब वे विफल होते हैं, तो वे विशिष्ट, अनुमानित तरीकों से विफल होते हैं: कभी वे देख नहीं पाते, कभी वे सोच नहीं पाते, और कभी वे बस अनुमान लगा लेते हैं। प्रत्येक प्रकार के प्रश्न के लिए सटीक रूप से यह पहचानकर कि कौन सा "तार" टूटा हुआ है, लेखक बेहतर, अधिक विश्वसनीय रोबोट बनाने के लिए एक रोडमैप प्रदान करते हैं जो बोलने से पहले वास्तव में चित्र को देखते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।