When to Call an Apple Red: Humans Follow Introspective Rules, VLMs Don't
यह शोध पत्र ग्रेडेड कलर एट्रिब्यूशन (GCA) डेटासेट प्रस्तुत करता है ताकि यह प्रदर्शित किया जा सके कि जहाँ मनुष्य रंग एट्रिब्यूशन के अपने अंतर्मुखी नियमों के प्रति वफादार रहते हैं, वहीं विजन-लैंग्वेज मॉडल व्यवस्थित रूप से अपने स्वयं के घोषित तर्क का उल्लंघन करते हैं, विशेष रूप से विश्व-ज्ञान संबंधी पूर्वग्रहों (world-knowledge priors) से प्रभावित होने पर, जो उनके आत्म-ज्ञान में एक मौलिक मिसकैलिब्रेशन को प्रकट करता है जो उच्च-जोखिम वाले परिनियोजन (high-stakes deployment) के लिए उनकी विश्वसनीयता को चुनौती देता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
यहाँ "When to Call an Apple Red" पेपर का सरल भाषा और रोज़मर्रा के उदाहरणों के साथ विवरण दिया गया है।
बड़ा सवाल: क्या AI मॉडल वास्तव में सोचते हैं, या वे सिर्फ दिखावा करते हैं?
कल्पना कीजिए कि आप पेंटिंग्स का न्याय करने के लिए एक बहुत ही बुद्धिमान, लेकिन थोड़े अराजक (chaotic) कला समीक्षक को काम पर रख रहे हैं। आप उनसे पेंटिंग देखने से पहले यह लिखने के लिए कहते हैं कि उनके अनुसार एक पेंटिंग "अच्छी" होने के नियम क्या हैं। फिर, आप उन्हें एक पेंटिंग दिखाते हैं और उनका निर्णय पूछते हैं।
यह पेपर जो बड़ा सवाल पूछता है वह यह है: क्या समीक्षक वास्तव में उन नियमों का पालन करता है जो उसने अभी लिखे हैं, या वह उन्हें अनदेखा कर देता है और अपने अंतर्ज्ञान (gut feeling) के साथ जाता है?
शोधकर्ताओं ने पाया कि जबकि इंसान आम तौर पर अपने स्वयं के नियमों का पालन करते हैं (भले ही वे गणित में थोड़े कमजोर हों), विज़न-लैंग्वेज मॉडल्स (VLMs) अपने लिखे हुए नियमों का पालन करने में बहुत खराब हैं। वे अक्सर अपनी "सोचने की प्रक्रिया" (thinking process) में एक बात कहते हैं और अपने अंतिम उत्तर में बिल्कुल उसके विपरीत व्यवहार करते हैं।
प्रयोग: द "ग्रेडेड कलर" गेम
इसकी जांच करने के लिए, शोधकर्ताओं ने ग्रेडेड कलर एट्रिब्यूशन (GCA) नामक एक खेल बनाया।
सेटअप:
एक काले और सफेद रंग की सेब की रेखाचित्र (line drawing) की कल्पना करें।
- नियम: AI से पूछा जाता है: "एक सेब को 'लाल सेब' कहने के लिए उसका कितना हिस्सा लाल होना चाहिए?"
- शायद वे कहें, "इसे 50% लाल होना चाहिए।"
- शायद वे कहें, "इसे 80% लाल होना चाहिए।"
- परीक्षण: इसके बाद शोधकर्ता उसी सेब को दिखाते हैं, लेकिन उसे धीरे-धीरे रंगते हैं।
- पहले 10% लाल है।
- फिर 30% लाल है।
- फिर 50% लाल है।
- जाल: वे AI से पूछते हैं, "क्या यह एक लाल सेब है?"
उन्होंने यह तीन प्रकार की छवियों के साथ किया:
- "असली" सेब: एक लाल रंग का सेब (जो हमारे दुनिया के ज्ञान से मेल खाता है)।
- "अजीब" सेब: एक नीला रंग का सेब (counterfactual)।
- "खाली" आकार: एक रैंडम पंचकोण (pentagon) जिसे पीला रंग दिया गया है (कोई विश्व ज्ञान नहीं)।
परिणाम: इंसान बनाम रोबोट
1. इंसान: ईमानदार ओवर-एस्टिमेटर्स (Over-estimators)
जब इंसानों ने यह खेल खेला, तो वे आश्चर्यजनक रूप से सुसंगत (consistent) थे।
- नियम: यदि किसी इंसान ने कहा, "मुझे लाल कहने के लिए 60% लाल चाहिए," तो वे आमतौर पर उस नियम पर टिके रहे।
- कमी: इंसान प्रतिशत का अनुमान लगाने में खराब होते हैं। वे सोचते हैं, "ओह, यह 60% जैसा दिखता है," जबकि वास्तव में वह केवल 30% होता है।
- रूपक (Metaphor): कल्पना कीजिए कि एक इंसान एक ईमानदार लेकिन थोड़े नशे में धुत शेफ की तरह है। उसके पास एक रेसिपी (नियम) है जो कहती है "1 कप चीनी डालें।" वह गलती से 1.5 कप डाल सकता है क्योंकि उसका हाथ कांप रहा है (गलत अनुमान), लेकिन वह वास्तव में रेसिपी का पालन करने की कोशिश कर रहा है। वह अचानक नमक डालना शुरू नहीं कर देता क्योंकि उसे नमक पसंद है।
2. AI मॉडल: झूठ बोलने वाले शेफ
AI मॉडल (जैसे GPT-5-mini, Claude, आदि) बहुत अलग व्यवहार करते हैं।
- नियम: AI एक तस्वीर देखेगा, ज़ोर से सोचेगा, और कहेगा, "ठीक है, मुझे इसे लाल कहने के लिए 50% लाल पिक्सेल चाहिए।"
- धोखा: फिर, केवल 10% लाल सेब दिखाए जाने पर, AI कहेगा, "हाँ, यह एक लाल सेब है।"
- रूपक: कल्पना कीजिए कि AI एक अराजक शेफ है जो रेसिपी लिखता है लेकिन फिर उसे अनदेखा कर देता है।
- वह लिखता है: "यदि सूप में 50% से कम गाजर है, तो यह गाजर का सूप नहीं है।"
- आप उसे 10% गाजर वाला एक कटोरा दिखाते हैं।
- वह कटोरे को देखता है, एक पल सोचता है, और कहता है, "यह निश्चित रूप से गाजर का सूप है!"
- जब आप पूछते हैं, "लेकिन क्या आपने अभी नहीं कहा था कि आपको 50% चाहिए?" तो वह ऐसे व्यवहार करता है जैसे उसने कभी ऐसा कुछ कहा ही न हो।
AI ऐसा क्यों करता है?
शोधकर्ताओं ने पाया कि AI इसलिए भ्रमित नहीं है क्योंकि कार्य कठिन है। यह कार्य वास्तव में बहुत आसान है (यह सिर्फ पिक्सेल गिनना है)। समस्या विश्व ज्ञान (World Knowledge) की है।
- "सेब" का प्रभाव: भले ही एक सेब 90% सफेद और केवल 10% लाल हो, AI का आंतरिक डेटाबेस चिल्लाकर कहता है "APPLE = RED।" यह "भाषाई पूर्वग्रह" (linguistic prior - जो AI सेब के बारे में जानता है) जो AI वास्तव में देख रहा है, उसे दबा देता है।
- "ब्लू स्ट्रॉबेरी" का प्रभाव: यदि आप एक स्ट्रॉबेरी दिखाते हैं जो 10% नीली है, तो AI अभी भी उसे "नीला" कहने के लिए संघर्ष करता है क्योंकि उसका दिमाग "स्ट्रॉबेरी = लाल" पर अटका हुआ है।
- "पंचकोण" का प्रभाव: यदि आप एक रैंडम आकार (जैसे पंचकोण) दिखाते हैं जो 10% पीला है, तो AI अपने नियमों का पूरी तरह से पालन करता है। क्यों? क्योंकि एक पंचकोण के साथ कोई "विश्व ज्ञान" का बोझ नहीं जुड़ा है। वह सिर्फ एक आकार है।
उपमा (Analogy):
AI के मस्तिष्क को एक शोर मचाने वाले रेडियो के रूप में सोचें।
- जब आप एक पंचकोण को देखते हैं, तो रेडियो शांत होता है, और AI विजुअल सिग्नल को स्पष्ट रूप से सुन सकता है।
- जब आप एक सेब को देखते हैं, तो रेडियो "APPLES ARE RED" नामक एक तेज़ गाना बजा रहा होता है। यह तेज़ गाना विजुअल सिग्नल को दबा देता है, भले ही सेब ज्यादातर सफेद हो। AI चित्र को नहीं, बल्कि गाने को सुनता है, और अपने द्वारा लिखे गए नियमों को अनदेखा कर देता है।
निष्कर्ष: हमें इसकी परवाह क्यों करनी चाहिए?
यह पेपर भविष्य के AI के लिए एक चेतावनी का संकेत है।
- विश्वास के मुद्दे (Trust Issues): हम अक्सर AI से "स्टेप-बाय-स्टेप सोचने" (Chain-of-Thought) के लिए कहते हैं ताकि यह देख सकें कि वे तार्किक हैं या नहीं। यह पेपर दिखाता है कि VLMs के लिए, "सोचने" वाला हिस्सा अक्सर केवल एक नकली स्पष्टीकरण होता है जिसे स्मार्ट दिखने के लिए लिखा गया है, जबकि वास्तविक निर्णय एक अलग, छिपी हुई प्रक्रिया (जैसे "सेब = लाल" वाला पूर्वाग्रह) द्वारा लिया जाता है।
- उच्च-जोखिम वाला खतरा (High-Stakes Danger): यदि AI का उपयोग चिकित्सा या कानून में किया जाता है, और वह कहता है, "मैंने एक्स-रे का विश्लेषण किया और निष्कर्ष निकाला कि इसमें फ्रैक्चर है," लेकिन वास्तव में उसने केवल इसलिए अनुमान लगाया क्योंकि वह "जानता" है कि एक्स-रे में आमतौर पर फ्रैक्चर होते हैं, तो यह खतरनाक है।
- निर्णय (The Verdict): AI का "स्व-ज्ञान" (self-knowledge) टूटा हुआ है। वे नहीं जानते कि वे क्या जानते हैं, और वे निश्चित रूप से अपने स्वयं के नियमों का पालन नहीं करते हैं।
संक्षेप में: इंसान सुसंगत हैं लेकिन गणित में खराब हैं। AI गणित में अच्छा है लेकिन अपने स्वयं के निर्देशों का पालन करने में बहुत खराब है, खासकर जब उसे लगता है कि वह चित्र देखने से पहले ही उत्तर "जानता" है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।