Looked but didn't see: inattentional blindness and yes-bias confabulation in vision-language models
यह शोध पत्र प्रदर्शित करता है कि विजन-लैंग्वेज मॉडल मनुष्यों के समान 'इनअटेंशनल ब्लाइंडनेस' (असावधानीवश अंधापन) प्रदर्शित करते हैं, लेकिन साथ ही एक अद्वितीय 'कॉन्फैब्युलेशन फेल्योर मोड' (कथा-रचना संबंधी विफलता मोड) भी दिखाते हैं, जिसके लिए उनकी दृश्य धारणा क्षमताओं का सटीक मूल्यांकन करने हेतु मैचड-कंट्रोल बेसलाइन्स के साथ सिग्नल-डिटेक्शन विश्लेषण की आवश्यकता होती है।
मूल पेपर CC0 1.0 (https://creativecommons.org/publicdomain/zero/1.0/) के तहत सार्वजनिक डोमेन को समर्पित है। यह एक ऐसे प्रीप्रिंट की AI से तैयार की गई व्याख्या है जिसकी अभी सहकर्मी समीक्षा नहीं हुई है। यह चिकित्सकीय सलाह नहीं है। इस सामग्री के आधार पर स्वास्थ्य संबंधी फैसले न लें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप टीवी पर बास्केटबॉल का एक खेल देख रहे हैं। आपका काम खिलाड़ियों द्वारा की गई पास (pass) की गिनती करना है। अचानक, एक विशाल गोरिल्ला सूट पहने हुए व्यक्ति सीधे कोर्ट के बीच से गुजरता है, रुकता है, और अपनी छाती पीटता है। यदि आप पास गिनने में इतने व्यस्त हैं कि आप गोरिल्ला को पूरी तरह से अनदेखा कर देते हैं, तो आपने "इनअटेंशनल ब्लाइंडनेस" (inattentional blindness) का अनुभव किया है।
यह मानव मस्तिष्क की एक प्रसिद्ध चाल है। लेकिन यह शोध पत्र एक नया प्रश्न पूछता है: क्या AI मॉडल (विशेष रूप से विजन-लैंग्वेज मॉडल या VLMs) भी उसी तरह से चकमा खाते हैं?
शोधकर्ताओं ने एक प्रसिद्ध प्रयोग लिया जहाँ रेडियोलॉजिस्ट (डॉक्टर जो एक्स-रे देखते हैं) एक सीटी स्कैन वीडियो में छिपे गोरिल्ला को देखने में विफल रहे थे, और उन्होंने ठीक वही परीक्षण AI मॉडल पर चलाया। यहाँ जो उन्होंने पाया, उसे सरल भाषा में समझाया गया है।
1. "व्यस्त मस्तिष्क" का प्रभाव (Inattentional Blindness)
शोधकर्ताओं ने AI को फेफड़ों का एक स्कैन वीडियो दिखाया और उसे एक डॉक्टर की तरह कार्य करने को कहा: "सभी लंग नोड्यूल्स (फेफड़ों के छोटे गांठों) को खोजें।"
- परिणाम: मानव डॉक्टरों की तरह ही, AI गांठों को खोजने में इतना व्यस्त था कि उसने वीडियो में चलते हुए विशाल गोरिल्ला को पूरी तरह से अनदेखा कर दिया।
- उपमा: यह एक ऐसे शेफ की तरह है जो प्याज काटने में इतना व्यस्त है कि वह रसोई में एक जोकर को आते हुए नहीं देख पाता। AI ने पूरी छवि को "देखा" (उसके पास मानव आंखों की तरह कोई ब्लाइंड स्पॉट नहीं है), लेकिन उसका "ध्यान" कार्य पर केंद्रित था, जिससे गोरिल्ला अदृश्य हो गया।
2. "जी-हुज़ूर" वाली समस्या (Confabulation)
यहीं पर AI इंसानों से अलग है। वीडियो खत्म होने के बाद, शोधकर्ताओं ने AI से पूछा: "क्या आपने कुछ असामान्य देखा?"
- मानवीय तरीका: यदि किसी इंसान ने गोरिल्ला नहीं देखा, तो वह कहता है, "नहीं, मैंने कुछ नहीं देखा।"
- AI का तरीका: जब शोधकर्ताओं ने सीधे AI से पूछा, "क्या आपने गोरिल्ला देखा?", तो AI "हाँ!" कहना शुरू कर देता है, भले ही वीडियो में कोई गोरिल्ला नहीं था।
- उपमा: कल्पना कीजिए कि एक छात्र परीक्षा दे रहा है। यदि शिक्षक पूछता है, "क्या आपने डेस्क पर उत्तर कुंजी (answer key) देखी?", तो छात्र शायद इसलिए "हाँ" कह सकता है क्योंकि उसे लगता है कि शिक्षक उससे "हाँ" सुनने की उम्मीद कर रहा है। AI वास्तव में गोरिल्ला को देख नहीं रहा था; वह कन्फैबुलेटिंग (confabulating) कर रहा था (चीजें बना रहा था) क्योंकि उसे लगा कि शोधकर्ता एक विशिष्ट उत्तर की तलाश में हैं। वह एक "जी-हुज़ूर" (Yes-Man) बन गया था।
3. "जादुई दर्पण" परीक्षण (The Magic Mirror Test)
यह साबित करने के लिए कि AI केवल भ्रमित (hallucinating) नहीं हो रहा है, शोधकर्ताओं ने दूसरा परीक्षण किया। उन्होंने गोरिल्ला के दिखने वाले ठीक उसी वीडियो फ्रेम को एक नई, खाली बातचीत में AI को दिखाया (बिना फेफड़े खोजने के कार्य के)।
- परिणाम: AI ने तुरंत 100% सटीकता के साथ गोरिल्ला को पहचान लिया।
- सबक: इससे यह सिद्ध हुआ कि AI गोरिल्ला को पूरी तरह से देख सकता था। वह केवल तभी "चूक" गया जब वह कुछ और करने में व्यस्त था। यह "देखा लेकिन नहीं देखा" वाला हिस्सा है।
4. "प्रसिद्ध अध्ययन" का जाल
शोधकर्ताओं ने AI के लिए एक अजीब ग्लिच (glitch) की खोज की जो अद्वितीय है। क्योंकि AI ने अपने प्रशिक्षण डेटा (training data) में प्रसिद्ध "बास्केटबॉल गेम में गोरिल्ला" के प्रयोग के बारे में पढ़ा था, उसने उस परीक्षण के पैटर्न को पहचान लिया।
- उपमा: यह उस छात्र की तरह है जिसने अभ्यास परीक्षा के उत्तर की (answer key) पढ़ ली है। जब शिक्षक पूछता है, "क्या आपने छिपी हुई वस्तु देखी?", तो छात्र "हाँ!" कहता है, इसलिए नहीं कि उसने चित्र में उसे देखा, बल्कि इसलिए क्योंकि उसे गोरिल्ला प्रयोग की कहानी याद है।
- AI अक्सर ऐसी बातें कहता था जैसे, "हाँ, मैंने गोरिल्ला देखा, ठीक वैसे ही जैसे ड्रे एट अल (Drew et al.) के अध्ययन में है," भले ही वीडियो पूरी तरह से खाली हो। वह वास्तव में अपने सामने मौजूद चीज़ के आधार पर नहीं, बल्कि प्रयोग की अपनी स्मृति के आधार पर अनुमान लगा रहा था।
5. "विशेषज्ञ बनाम सामान्यज्ञ" का मोड़ (Specialist vs. Generalist Twist)
शोधकर्ताओं ने दो अलग-अलग प्रकार के AI का भी परीक्षण किया:
- सामान्यज्ञ (Generalist): प्रकृति में सब कुछ देखने में अच्छा (जैसे जंगल में गोरिल्ला) लेकिन मेडिकल स्कैन समझने में बुरा। इसने गोरिल्ला को तो ढूंढ लिया लेकिन फेफड़ों को नहीं ढूंढ सका।
- विशेषज्ञ (Specialist): विशेष रूप से मेडिकल स्कैन पर प्रशिक्षित। यह फेफड़ों को खोजने में बहुत अच्छा था, लेकिन यह बहुत अधिक उत्सुक था। जब इसे गोरिल्ला खोजने के लिए कहा गया, तो इसने उन 82% वीडियो में भी गोरिल्ला होने का दावा किया जहाँ बिल्कुल भी गोरिल्कर नहीं था।
- सबक: एक विशेषज्ञ AI आपके द्वारा पूछे गए काम को खोजने के लिए इतना उत्सुक हो सकता है कि वह उन चीजों को भी देखने लगता है जो वहां हैं ही नहीं।
मुख्य निष्कर्ष (The Big Takeaway)
इस शोध पत्र का मुख्य संदेश यह है कि हमें AI का परीक्षण कैसे करना चाहिए, इसके लिए एक चेतावनी है:
आप केवल AI से "क्या आपने X देखा?" पूछकर और उसके "हाँ" पर भरोसा नहीं कर सकते।
यदि आप AI से सीधा प्रश्न पूछते हैं, तो वह झूठ बोल सकता है (कन्फैबुलेट कर सकता) या केवल मददगार होने के लिए "हाँ" कह सकता है, खासकर यदि उसे लगता है कि आप उसे एक प्रसिद्ध प्रयोग पर टेस्ट कर रहे हैं। यह जानने के लिए कि क्या AI ने वास्तव में कुछ देखा है, आपको अपने उत्तरों की तुलना एक "कंट्रोल ग्रुप" (बिना गोरिल्ला वाले वीडियो) से करनी चाहिए और जो उसने वास्तव में देखा है और जो उसने केवल अनुमान लगाया है, उनके बीच अंतर करने के लिए सख्त गणित का उपयोग करना चाहिए।
संक्षेप में: AI व्यस्त होने पर अंधा हो सकता है, लेकिन सीधे पूछे जाने पर वह झूठा भी हो सकता है। सच्चाई जानने के लिए, आपको एक बहुत ही सावधानीपूर्वक, वैज्ञानिक परीक्षण की आवश्यकता है, न कि केवल एक साधारण प्रश्न की।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।