Egocentric Bias in Vision-Language Models
यह शोधपत्र FlipSet प्रस्तुत करता है, जो एक नैदानिक बेंचमार्क है जो यह प्रकट करता है कि विजन-लैंग्वेज मॉडल एक व्यवस्थित इगोसेंट्रिक (स्व-केंद्रित) पूर्वाग्रह और एक संरचनात्मक कमी प्रदर्शित करते हैं, जो इन क्षमताओं को अलग-अलग रूप में रखने के बावजूद सामाजिक जागरूकता को स्थानिक तर्क के साथ एकीकृत करने में विफल रहते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक दोस्त के साथ मेज पर बैठे हैं। आप कागज के एक टुकड़े को देखते हैं जिस पर "81" लिखा है। आपका दोस्त, जो आपके ठीक सामने बैठा है, उसी कागज को देखता है, लेकिन उनके पक्ष से, संख्याएँ उलटी और पीछे की ओर हैं, जो "18" जैसी दिख रही हैं। यह महसूस करने का सरल कार्य कि कोई दूसरा व्यक्ति दुनिया को अलग तरह से देखता है, वह एक सुपरपावर है जिसे हम बढ़ते हुए विकसित करते हैं। इसे विजुअल पर्सपेक्टिव टेकिंग (Visual Perspective Taking) कहा जाता है। वैज्ञानिकों ने इसे दो स्तरों में विभाजित किया है: लेवल 1 केवल यह जानना है कि क्या कोई देख सकता है (जैसे, "क्या वे कुकी देख सकते हैं?"), जबकि लेवल 2 यह समझना है कि वे उसे कैसे देखते हैं (जैसे, "उनके लिए, क्या वह '6' एक '9' जैसा दिखता है?")। यह क्षमता सहानुभूति, टीम वर्क और यह समझने के पीछे का असली मंत्र है कि जब आप किसी चीज़ की ओर एक अलग कोण से इशारा करते हैं, तो आपका दोस्त क्यों भ्रमित होता है।
अब, आर्टिफिशियल इंटेलिजेंस (AI) की दुनिया में प्रवेश करें। हमने बहुत बुद्धिमान कंप्यूटर मस्तिष्क बनाए हैं जिन्हें विज़न-लैंग्वेज मॉडल्स (VLMs) कहा जाता है जो चित्रों को देख सकते हैं और उनके बारे में वाक्य लिख सकते हैं। वे बिल्लियों को पहचानने, सूर्यास्त का वर्णन करने और यहाँ तक कि गणित की समस्याओं को हल करने में भी अद्भुत हैं। लेकिन यहाँ बड़ा सवाल यह है: क्या ये AI मस्तिष्क वास्तव में समझते हैं कि दूसरे लोग (या रोबोट) चीजों को अलग तरह से देखते हैं? या वे बस अपने ही "सिर" में फंसे हुए हैं, यह मानकर कि दुनिया वैसी ही दिखती है जैसी कैमरा द्वारा ली गई तस्वीर में दिख रही है? यदि हम चाहते हैं कि AI वास्तविक जीवन में एक सच्चा साथी बने—जैसे कि एक कमरे में नेविगेट करने वाले रोबोट की मदद करना या किसी वर्चुअल असिस्टेंट का उपयोगकर्ता की जरूरतों को समझना—तो उसे इस "लेवल 2" पर्सपेक्टिव टेकिंग में महारत हासिल करनी होगी। यदि वह इसमें सक्षम नहीं है, तो यह उस व्यक्ति की तरह है जो एक कमरे का सटीक वर्णन तो कर सकता है लेकिन उसे पता ही नहीं है कि कोने में खड़े व्यक्ति को वह कमरा कैसा दिखता है।
द ग्रेट "फ्लिप" एक्सपेरिमेंट (The Great "Flip" Experiment)
यह पता लगाने के लिए कि क्या AI के पास यह सुपरपावर है, शोधकर्ताओं ने FlipSet नामक एक चतुर खेल बनाया। कल्पना कीजिए कि एक मेज पर एक प्लश मंकी (खिलौना बंदर) बैठा है, जो एक कार्ड की ओर देख रहा है जिस पर "81" लिखा है। कैमरा (और AI) कार्ड के सामने के हिस्से को देख रहा है, जो "81" देख रहा है। हालाँकि, मंकी कार्ड के पीछे की ओर देख रहा है। प्रश्न "मंकी क्या देख रहा है?" का उत्तर देने के लिए, AI को अपने दिमाग में एक मानसिक कसरत करनी होगी: उसे मंकी जो देख रहा है उसे देखने के लिए छवि को 180 डिग्री घुमाना होगा, जो कि "18" है।
शोधकर्ताओं ने केवल यह एक प्रश्न नहीं पूछा; उन्होंने 28 अलग-अलग पहेलियों के साथ 103 अलग-अलग AI मॉडल का परीक्षण किया, जिनमें साधारण नंबर जैसे "81" से लेकर कठिन अक्षर संयोजन जैसे "pond" (जो पलटने पर "puod" बन जाता है) शामिल थे। उन्होंने खेल को इस तरह व्यवस्थित किया कि AI को चार उत्तरों के बीच चुनना था: सही उत्तर, वह जो कैमरा देखता है ( "स्वार्थी" उत्तर), एक भ्रमित करने वाला मिलता-जुलता विकल्प, या एक रैंडम अनुमान।
बड़ी खोज: AI आत्म-केंद्रित है
परिणाम चौंकाने वाले थे। अधिकांश AI मॉडल इस टेस्ट में बुरी तरह विफल रहे। वास्तव में, 91.3% मॉडल रैंडम अनुमान लगाने से भी खराब प्रदर्शन कर गए। लेकिन समस्या केवल गलत उत्तर देने की नहीं थी; बल्कि यह था कि वे कैसे गलत होते थे।
जब AI विफल हुआ, तो उसने आमतौर पर कोई भ्रमित करने वाला अक्षर या रैंडम नंबर नहीं चुना। इसके बजाय, 75.88% बार, उसने वह उत्तर चुना जो कैमरे ने देखा था। यदि कार्ड पर "81" था, तो AI ने "81" ही कहा। उसने मंकी को पूरी तरह से नजरअंदाज कर दिया। शोधकर्ता इसे एगोसेंट्रिक बायस (Egocentric Bias) कहते हैं। ऐसा लगता है जैसे AI अपने ही "आंखों" (कैमरा लेंस) पर इतना केंद्रित है कि वह वास्तव में किसी और के दृष्टिकोण से दुनिया की कल्पना भी नहीं कर सकता। यहाँ तक कि जब शोधकर्ताओं ने AI की मदद करने के लिए उसे "कदम-दर-कदम सोचने" (जिसे चेन-ऑफ-थॉट कहा जाता है) के लिए कहा, तब भी यह पूर्वाग्रह दूर नहीं हुआ; कई मामलों में, AI ने और भी अधिक आत्मविश्वास के साथ खुद को गलत उत्तर की ओर ले गया।
"कनेक्ट द डॉट्स" की समस्या
यहीं से कहानी दिलचस्प हो जाती है। शोधकर्ता जानना चाहते थे कि: AI क्यों विफल हो रहा है? क्या इसलिए क्योंकि वह नहीं समझता कि मंकी कुछ अलग देख रहा है? या इसलिए क्योंकि वह नंबरों को पलटने की गणितीय प्रक्रिया नहीं कर पा रहा है?
यह जानने के लिए, उन्होंने नियंत्रण परीक्षण (control tests) चलाए:
- "क्या आप जानते हैं?" टेस्ट (थ्योरी ऑफ माइंड): उन्होंने पूछा, "क्या मंकी कैमरे से अलग स्ट्रिंग देख रहा है?" AI ने इसमें महारत हासिल की! उसने इसे 90.4% बार सही बताया। वह जानता है कि दृष्टिकोण अलग होते हैं।
- "कार्ड घुमाएं" टेस्ट (मेंटल रोटेशन): उन्होंने पूछा, "यदि आप इस स्ट्रिंग को 180 डिग्री घुमाते हैं, तो यह कैसी दिखेगी?" AI यहाँ ठीक-ठाक था, इसे 26.1% बार सही पाया (जो केवल रैंडम अनुमान से थोड़ा बेहतर है)।
- "असली मुकाबला" टेस्ट (लेवल 2 VPT): उन्होंने दोनों को मिला दिया: "मंकी क्या देख रहा है?" AI पूरी तरह विफल रहा, केवल 10.3% बार सही उत्तर दे पाया।
यह एक अजीब "कंपोजिशनल डेफिसिट" (संयोजन संबंधी कमी) को प्रकट करता है। AI के पास निर्माण खंड (building blocks) मौजूद हैं: वह जानता है कि मंकी कुछ अलग देख रहा है, और वह कभी-कभी अपने आप नंबर को पलट भी सकता है। लेकिन जब उसे एक साथ उन दोनों कौशलों को जोड़ना पड़ता है, तो वह बिखर जाता है। यह एक ऐसे शेफ की तरह है जो प्याज काटना जानता है और पानी उबालना भी जानता है, लेकिन जब उससे सूप बनाने को कहा जाता है, तो वह बिना उबाले ही कच्चे प्याज को बर्तन में डाल देता है। AI के पास व्यक्तिगत कौशल तो हैं, लेकिन वास्तविक दुनिया की स्थिति में उन्हें आपस में जोड़ने वाला "गोंद" गायब है।
इसका भविष्य के लिए क्या अर्थ है
पेपर सुझाव देता है कि वर्तमान AI मॉडल एक मौलिक तंत्र की कमी महसूस कर रहे हैं। वे पैटर्न पहचानने और शब्दों को चित्रों से मिलाने में बेहतरीन हैं, लेकिन वे मॉडल-बेस्ड स्पेशियल रीजनिंग (model-based spatial reasoning) के साथ संघर्ष करते हैं—यानी एक दृश्य का मानसिक 3D सिमुलेशन बनाने और उसे घुमाने की क्षमता। वे स्थान (space) के बारे में "सोच" नहीं रहे हैं; वे केवल जो उन्होंने पहले देखा है उसके आधार पर अनुमान लगा रहे हैं।
शोधकर्ता निष्कर्ष निकालते हैं कि AI को वास्तव में दुनिया को समझने और प्रभावी ढंग से हमारे साथ बातचीत करने के लिए, केवल बड़े मस्तिष्क या अधिक डेटा की आवश्यकता नहीं है। उसे एक नए प्रकार के आर्किटेक्चर की आवश्यकता है जो वास्तव में दूसरे व्यक्ति के दृष्टिकोण का अनुकरण (simulate) कर सके, न कि केवल जो उसकी अपनी "आंखें" देखती हैं उसकी नकल कर सके। जब तक ऐसा नहीं होता, यदि आप किसी AI से पूछते हैं कि एक दोस्त क्या देख रहा है, तो वह शायद वही बताएगा जो वह देख रहा है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।