Diagnosing Vision Language Models' Perception by Leveraging Human Methods for Color Vision Deficiencies
यह शोध पत्र इशिहारा टेस्ट का उपयोग करके लार्ज-स्केल विजन-लैंग्वेज मॉडल्स (LVLMs) का मूल्यांकन करता है और पाता है कि, रंग दृष्टि दोषों के बारे में तथ्यात्मक ज्ञान रखने के बावजूद, ये मॉडल प्रभावित व्यक्तियों के परिवर्तित संवेदी अनुभवों का अनुकरण करने में विफल रहते हैं, बल्कि सामान्य रंग धारणा पर ही निर्भर रहते हैं, जो समावेशी सुलभता का समर्थन करने की उनकी क्षमता में एक महत्वपूर्ण अंतर को रेखांकित करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास एक बहुत ही बुद्धिमान, विद्वान रोबोट सहायक है। आपने उसे मानव आँख, कलर ब्लाइंडनेस (वर्णांधता), और विभिन्न प्रकार की दृष्टि वाले लोगों दुनिया को कैसे देखते हैं, इसके बारे में सब कुछ सिखाया है। वह इस बारे में एक बेहतरीन निबंध लिख सकता है कि कलर ब्लाइंड होना कैसा होता है।
लेकिन फिर, आप उसे एक तस्वीर दिखाते हैं और पूछते हैं, "यदि आप कलरब्लाइंड होते, तो इस तस्वीर में आपको कौन सा नंबर दिखाई देता?"
कलरब्लाइंड व्यक्ति की आँखों से दुनिया को देखने के बजाय, रोबोट केवल अपनी "परफेक्ट" आँखों से तस्वीर को देखता है और आपको वह उत्तर देता है जो एक सामान्य दृष्टि वाला व्यक्ति देखता। वह कलर ब्लाइंडनेस के बारे में तथ्य जानता है, लेकिन वह उस अनुभव को महसूस या सिमुलेट नहीं कर सकता।
यही इस शोध पत्र (paper) की मुख्य खोज है।
"इशिहारा" टेस्ट: रोबोट की आँखों की जाँच
इसका परीक्षण करने के लिए, शोधकर्ताओं ने एक प्रसिद्ध उपकरण का उपयोग किया जिसे इशिहारा टेस्ट कहा जाता है। आपने शायद इन्हें पहले भी देखा होगा: ये रंगीन बिंदुओं वाले घेरे होते हैं।
- सामान्य दृष्टि वाले व्यक्ति के लिए: बिंदु एक स्पष्ट नंबर बनाते हैं, जैसे "12" या "8"।
- लाल-हरे कलरब्लाइंड व्यक्ति के लिए: रंग आपस में मिल जाते हैं, और उन्हें पूरी तरह से अलग नंबर (जैसे "3") दिखाई दे सकता है या कुछ भी नहीं।
शोधकर्ताओं ने इन तस्वीरों को रोबोटों के लिए एक नैदानिक उपकरण (diagnostic tool) के रूप में इस्तेमाल किया। उन्होंने विभिन्न बड़े AI मॉडलों (यानी "रोबोटों") से इन तस्वीरों को देखने और अलग-अलग प्रकार के कलरब्लाइंड लोगों होने का नाटक करने के लिए कहा।
तीन तरीके जिनसे उन्होंने रोबोटों की जाँच की
शोधकर्ताओं ने केवल यह नहीं पूछा, "आपको क्या नंबर दिख रहा है?" बल्कि उन्होंने एक डॉक्टर की तरह तीन अलग-अलग तरीकों से रोबोटों की जाँच की:
"आप क्या कहते हैं" की जाँच (Generation):
उन्होंने रोबोट से बस वह नंबर बताने को कहा जो उसे दिखाई दे रहा था।- परिणाम: भले ही उसे कहा गया था, "आप रेड-ग्रीन कलरब्लाइंड हैं," रोबोट लगभग हमेशा वही उत्तर देता जो एक पूर्ण दृष्टि वाला व्यक्ति देता। वह उस गलत नंबर की कल्पना (hallucinate) नहीं कर सका जो एक कलरब्लाइंड व्यक्ति को वास्तव में दिखाई देता। वह "नॉर्मल विजन मोड" में फँसा हुआ था।
"आप कितने निश्चित हैं?" की जाँच (Confidence):
उन्होंने रोबोट के उत्तर के प्रति उसके आत्मविश्वास को मापा।- परिणाम: रोबोट "नॉर्मल विजन" के लिए उत्तर देते समय बहुत आश्वस्त था। लेकिन जब उसे कलरब्लाइंड व्यक्ति के रूप में उत्तर देने के लिए कहा गया, तो वह बहुत भ्रमित और अनिश्चित हो गया। उसने केवल गलत नंबर का अनुमान नहीं लगाया; वह यह भी नहीं समझ पाया कि सही तरीके से अनिश्चित कैसे होना है। यह उस छात्र की तरह था जो गणित के सवाल का जवाब जानता है, लेकिन जब उसे उल्टा हल करने के लिए कहा जाता है, तो वह खो जाता है।
"दिमाग के अंदर" की जाँच (Internal Representation):
उन्होंने रोबोट के "दिमाग" (उसके आंतरिक डेटा लेयर्स) के भीतर गहराई से देखा कि क्या वह निर्देशों के आधार पर छवि को अलग तरह से प्रोसेस कर रहा है।- परिणाम: गहराई में भी, रोबोट अपना दृष्टिकोण नहीं बदल रहा था। वह छवि को ऐसे प्रोसेस कर रहा था जैसे कि उसके पास पूर्ण दृष्टि हो, चाहे उसे कुछ भी बताया जाए। यह एक ऐसे व्यक्ति की तरह था जिसने आँखों पर पट्टी बांधी हो, लेकिन फिर भी वह कमरे का वर्णन ऐसे कर रहा हो जैसे कि वह देख सकता है।
"डॉक्टर" और "पैटर्न सीखने वाला"
शोधकर्ताओं ने सोचा: "शायद रोबोटों को अधिक मेडिकल ट्रेनिंग की आवश्यकता है?" या "शायद वे केवल डॉट्स के पैटर्न को याद कर रहे हैं?"
- उन्होंने विशेष रूप से मेडिकल डेटा पर प्रशिक्षित एक रोबोट का परीक्षण किया। परिणाम: वह अभी भी कलर ब्लाइंडनेस को सिमुलेट करने में विफल रहा।
- उन्होंने हजारों नकली डॉट पैटर्न पर एक रोबोट को प्रशिक्षित किया ताकि यह देखा जा सके कि क्या वह केवल आकृतियों को याद कर रहा है। परिणाम: पूर्ण दृष्टि के साथ नंबर देखने में वह बेहतर हुआ, लेकिन कलरब्लाइंड होने का नाटक करने में वह और भी खराब हो गया।
मुख्य निष्कर्ष
शोध पत्र यह निष्कर्ष निकालता है कि जबकि ये AI मॉडल कलर ब्लाइंडनेस के बारे में बात करने में माहिर हैं, वे इसे अनुभव करने में बहुत खराब हैं।
इसे इस तरह सोचिए: आप पानी के नीचे होने के अनुभव के बारे में एक किताब पढ़ सकते हैं, लेकिन किताब पढ़ने का मतलब यह नहीं है कि आप पाँच मिनट तक अपनी सांस रोक सकते हैं। इन AI मॉडलों ने कलर ब्लाइंडनेस के बारे में "किताब" पढ़ ली है, लेकिन वे वास्तव में कलरब्लाइंड व्यक्ति की आँखों से दुनिया को "देख" नहीं सकते।
यह महत्वपूर्ण है क्योंकि जैसे-जैसे हम इन रोबोटों का उपयोग दुनिया में नेविगेट करने, मानचित्र पढ़ने या चार्ट समझने में मदद करने के लिए करने लगे हैं, हमें यह सुनिश्चित करना होगा कि वे गलती से ऐसे निर्देश न दें जो केवल पूर्ण दृष्टि वाले लोगों के लिए काम करते हों, जिससे अन्य लोग पीछे छूट जाएं। यह शोध पत्र दिखाता है कि वर्तमान में, ये रोबोट अपने मूल रूप में "विज़न-नॉर्मल" हैं, भले ही वे नाटक करने की कोशिश करें।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।