Seeing Is Not Sharing: Some Vision-Language Models Overestimate Common Ground in Asymmetric Dialogue
यह शोध पत्र प्रकट करता है कि विज़न-लैंग्वेज मॉडल सहयोगात्मक संवाद में आपसी समझ को बढ़ा-चढ़ाकर आंकते हैं क्योंकि वे साझा कार्य-प्रासंगिक सामग्री की मात्र उपस्थिति को स्थापित 'कॉमन ग्राउंड' (साझा आधार) के साथ मिला देते हैं, जो कि गतिशील संवाद इतिहास के बजाय स्थिर संदर्भ संकेतों द्वारा संचालित एक पूर्वाग्रह है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
यहाँ इस शोध पत्र का सरल भाषा और रोज़मर्रा के उदाहरणों के साथ विवरण दिया गया है।
मुख्य विचार: "देखना" और "साझा करना" एक समान नहीं हैं
कल्पना कीजिए कि आप और आपका एक मित्र दो अलग-अलग मानचित्रों (maps) पर एक रास्ता बनाने की कोशिश कर रहे हैं। आप दोनों के पास एक नक्शा है, लेकिन वे बिल्कुल एक जैसे नहीं हैं। हो सकता है कि आपके नक्शे में सबसे ऊपर एक "पार्क की हुई वैन" हो, जबकि आपके मित्र के नक्शे में वह सबसे नीचे हो।
जब आप कहते हैं, "पार्क की हुई वैन के पास जाओ," तो आप उस वैन के बारे में सोच रहे होते हैं जो ऊपर है। आपका मित्र उस वैन के बारे में सोच रहा होता है जो नीचे है। आपने अभी तक वास्तव में यह तय नहीं किया है कि आप किस वैन की बात कर रहे हैं, भले ही आपने एक ही शब्दों का उपयोग किया हो।
मानवीय बातचीत में, हम इसे आपस में बात करके ठीक करते हैं: "रुको, क्या तुम्हारा मतलब पार्क के पास वाली वैन से है?" "ओह, नहीं, मेरा मतलब बेकरी के पास वाली वैन से है।" जाँच करने और पुष्टि करने की इस प्रक्रिया को ग्राउंडिंग (grounding) कहा जाता है।
समस्या:
शोधकर्ताओं ने पूछा: क्या आधुनिक AI मॉडल (विज़न-लैंग्वेज मॉडल्स) यह अंतर बता सकते हैं कि "हम क्या साझा कर सकते हैं" और "हमने क्या साझा किया है"?
उन्होंने एक "तीसरे पक्ष के पर्यवेक्षक" (ओवरहीयरर/overhearer) के रूप में कार्य करके इसका परीक्षण किया। AI नक्शों को देख सकता था और बातचीत सुन सकता था, लेकिन वह सवाल नहीं पूछ सकता था या स्पष्टीकरण के लिए बीच में नहीं टोक सकता था।
मुख्य खोज: AI बहुत अधिक आशावादी है
शोधकर्ताओं ने पाया कि जब उन्होंने AI को वास्तविक नक्शे दिए, तो वह कुल मिलाकर उत्तर का अनुमान लगाने में बेहतर हो गया, लेकिन वह खतरनाक रूप से अति-आत्मविश्वासी भी हो गया।
उपमा: "को-प्रेजेंस" (सह-उपस्थिति) का जाल
कल्पना कीजिए कि आप बालकनी से एक नाटक देख रहे हैं। आप दो अभिनेताओं को एक लाल कुर्सी के पास खड़े देखते हैं।
- अभिनेता A सोचता है कि वह कुर्सी विलेन के लिए है।
- अभिनेता B सोचता है कि वह कुर्सी हीरो के लिए है।
- उन्होंने अभी तक कुर्सी के बारे में बात नहीं की है।
क्योंकि आप (पर्यवेक्षक) देख सकते हैं कि कुर्सी दोनों के लिए वहीं मौजूद है, आपका मस्तिष्क मान लेता है कि वे निश्चित रूप से एक ही चीज़ के बारे में बात कर रहे होंगे। आप सोचते हैं, "ओह, वे निश्चित रूप से एक ही बात पर सहमत हैं!"
AI बिल्कुल यही करता है। जब वह एक लैंडमार्क (जैसे "पार्क की हुई वैन") को दोनों नक्शों पर देखता है, तो वह मान लेता है कि वक्ता पहले ही उस पर सहमत हो चुके हैं। वह संभावना (वस्तु दोनों नक्शों पर मौजूद है) को वास्तविकता (वक्ताओं ने वास्तव में पुष्टि कर ली है कि उनका मतलब एक ही है) के साथ भ्रमित कर देता है।
प्रयोग: किस चीज़ ने AI का मन बदला?
शोधकर्ताओं ने यह देखने के लिए कि इस "अति-आशावाद" का कारण क्या है, AI का विभिन्न स्थितियों में परीक्षण किया।
1. दृश्य जाल (नक्शे बनाम टेक्स्ट)
- वास्तविक नक्शे: जब AI ने वास्तविक नक्शों की तस्वीरें देखीं, तो उसने बहुत बार गलत तरीके से कहा "हाँ, वे सहमत हैं!"
- टेक्स्ट विवरण: जब उन्होंने तस्वीरों को एक साधारण टेक्स्ट सूची से बदल दिया जिसमें लिखा था "मैप A में एक वैन है; मैप B में एक वैन है," तब भी AI ने बहुत बार "हाँ, वे सहमत हैं!" कहा।
- खाली/बदले हुए नक्शे: जब उन्होंने AI को खाली ग्रे वर्ग या बिना किसी उपयोगी जानकारी वाले बिखरे हुए नक्शे के टुकड़े दिखाए, तो AI बहुत सतर्क हो गया। उसने "हाँ" का अनुमान लगाना बंद कर दिया और "नहीं" का अनुमान लगाने लगा।
सबक: समस्या यह नहीं है कि AI तस्वीरें देखने में बुरा है। समस्या यह है कि वह जानकारी की व्याख्या करने में बुरा है। चाहे जानकारी चित्र के रूप में आए या टेक्स्ट सूची के रूप में, यदि AI देखता है कि कोई वस्तु साझा की जा सकती है, तो वह मान लेता है कि वह साझा की गई है।
2. "ओवरहीयरर" प्रभाव
AI संरचनात्मक रूप से एक "ओवरहीयरर" है। वह हर शब्द सुनता है लेकिन भाग नहीं ले सकता।
- इंसान जानते हैं कि सिर्फ इसलिए कि दो लोग एक ही वस्तु को देख रहे हैं, इसका मतलब यह नहीं है कि वे उसके बारे में मिलकर बात कर रहे हैं।
- AI सोचता है: "मैं दोनों नक्शों पर वस्तु देख सकता हूँ, इसलिए वे निश्चित रूप से इसके बारे में एक साथ बात कर रहे होंगे।"
वह साझा वस्तु के अस्तित्व को आपसी समझ के प्रमाण के रूप में मानता है।
परिणाम: एक समझौता (Trade-off)
AI के व्यवहार ने एक विशिष्ट पैटर्न बनाया:
- जब वक्ता वास्तव में सहमत थे: AI इसे पहचानने में बहुत अच्छा था (विशेषकर नक्शों के साथ)।
- जब वक्ता भ्रमित थे या अभी तक सहमत नहीं हुए थे: AI इसमें बहुत बुरा था। उसने आत्मविश्वास के साथ कहा "वे सहमत हैं!" भले ही वे वास्तव में एक-दूसरे को समझे बिना अपनी अलग-अलग बातें कर रहे थे।
यह उस छात्र की तरह है जो उन सवालों के जवाब देने में बहुत अच्छा है जिन्हें वह पहले से जानता है, लेकिन जब वह भ्रमित होता है, तो वह आत्मविश्वास के साथ गलत उत्तर देता है क्योंकि उसे लगता है कि प्रश्न बहुत स्पष्ट है।
कौन से AI मॉडल्स ने ऐसा किया?
शोधकर्ताओं ने कई मॉडलों का परीक्षण किया।
- Qwen3-VL-8B: इस मॉडल ने इस पूर्वाग्रह को सबसे स्पष्ट रूप से दिखाया। नक्शों के शामिल होने पर यह गलत उत्तरों में बहुत आत्मविश्वासी था।
- Gemma3 मॉडल्स: इनका व्यवहार अलग था। कुछ मॉडल जटिल नक्शों के चित्रण से इतने भ्रमित थे कि उन्होंने उत्तर देने की कोशिश भी बहुत कम की।
- आकार मायने नहीं रखता: मॉडल को बड़ा बनाने से समस्या ठीक नहीं हुई। वास्तव में, बड़े मॉडल अक्सर उनके गलत उत्तरों में अधिक आत्मविश्वासी थे।
निष्कर्ष
पेपर यह निष्कर्ष निकालता है कि वर्तमान AI मॉडल स्थैतिक विश्लेषण (एक नक्शा देखना और यह देखना कि क्या साझा किया जा सकता है) में उत्कृष्ट हैं लेकिन गतिशील ट्रैकिंग (यह देखना कि क्या साझा किया गया है) में कमजोर हैं।
वे सहमति की संभावना को वास्तविक सहमति मान लेते हैं। वे नक्शे पर "साझा आधार" (common ground) देखते हैं और मान लेते हैं कि वक्ताओं ने पहले ही उस पर एक पुल बना लिया है, भले ही वक्ताओं ने अभी तक एक शब्द भी न कहा हो।
संक्षेप में: AI नक्शा देखता है, मान लेता है कि सभी एक ही पृष्ठ पर हैं, और इस तथ्य को आत्मविश्वास से अनदेखा कर देता है कि वक्ता पूरी तरह से अलग अध्याय पढ़ रहे हो सकते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।