Quantifying task-relevant representational similarity using decision variable correlation
यह शोध पत्र कार्य-प्रासंगिक प्रतिनिधित्व समानता (टास्क-रेलेवेंट रिप्रेजेंटेशनल सिमिलैरिटी) को मापने के लिए डिसीजन वेरिएबल कोरिलेशन (DVC) प्रस्तुत करता है, जो यह प्रकट करता है कि इमेज क्लासिफिकेशन पर प्रशिक्षित डीप न्यूरल नेटवर्क, अन्य मॉडलों की तुलना में मंकी V4/IT गतिविधि के साथ कम संरेखण प्रदर्शित करते हैं, और मॉडल प्रदर्शन को बढ़ाना या एडवरसेरियल ट्रेनिंग का उपयोग करना भी कार्य-प्रासंगिक आयामों में इस अंतर को पाटने में विफल रहता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। यह एक ऐसे प्रीप्रिंट की AI से तैयार की गई व्याख्या है जिसकी अभी सहकर्मी समीक्षा नहीं हुई है। यह चिकित्सकीय सलाह नहीं है। इस सामग्री के आधार पर स्वास्थ्य संबंधी फैसले न लें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप यह पता लगाने की कोशिश कर रहे हैं कि एक सुपर-स्मार्ट रोबोट और एक इंसान (या एक बंदर) एक तस्वीर को देखते समय एक ही तरह से "सोच" रहे हैं या नहीं।
वर्षों से, वैज्ञानिक एआई (AI) मॉडल्स की तुलना मस्तिष्क से करते आ रहे हैं। सामान्य धारणा यह थी: "AI तस्वीरों को पहचानने में जितना बेहतर होगा, उसका मस्तिष्क मानव मस्तिष्क के समान उतना ही अधिक होना चाहिए।"
लेकिन यह नया पेपर कहता है: "वास्तव में, इसके विपरीत भी हो सकता है।"
यहाँ बताया गया है कि उन्होंने यह कैसे पता लगाया, इसे सरल भाषा में समझाया गया है।
1. पुराना तरीका: गलतियों को गिनना (द "स्कोरकार्ड" मेथड)
पहले, वैज्ञानिक AI और मस्तिष्क की तुलना उनके अंतिम उत्तरों को देखकर करते थे।
- उपमा: कल्पना कीजिए कि दो छात्र गणित की परीक्षा दे रहे हैं।
- छात्र A (AI): 99% सही उत्तर देता है।
- छात्र B (मस्तिष्क): 95% सही उत्तर देता है।
- पुराना तरीका: वे उत्तर पुस्तिकाएं देखते थे। यदि दोनों ने प्रश्न 5 का गलत उत्तर दिया, तो वे इसे एक "मैच" मानते थे। यदि उन्होंने सही उत्तर दिया, तो वह भी एक मैच था।
- समस्या: यह तरीका पेचीदा है। यदि छात्र A एक जीनियस है जो कठिन सवालों पर रैंडमली अंदाज़ा लगाता है, और छात्र B एक सामान्य छात्र है जो रैंडमली अंदाज़ा लगाता है, तो वे गलती से एक ही गलत उत्तर दे सकते हैं। या, यदि छात्र A बहुत अधिक परफेक्ट है, तो वह कभी भी मानव की तरह विशिष्ट गलतियाँ नहीं करेगा, जिससे वे दिखने में कम समान लगेंगे, भले ही वे समान रूप से सोच रहे हों।
2. नया तरीका: "डिसीजन वेरिएबल कोरिलेशन" (DVC)
लेखकों ने DVC नामक एक नया टूल बनाया। केवल अंतिम उत्तर (सही/गलत) देखने के बजाय, वे यह देखने के लिए "सोचने की प्रक्रिया" के अंदर झाँकते हैं कि निर्णय कैसे लिया गया था।
- उपमा: कल्पना कीजिए कि दो जासूस एक अपराध स्थल की फोटो देख रहे हैं।
- पुराना तरीका: क्या दोनों ने एक ही संदिग्ध को गिरफ्तार किया? (हाँ/नहीं)।
- नया तरीका (DVC): हम हर एक फोटो के लिए उनके आंतरिक "अंतर्ज्ञान" (gut feeling) के स्कोर को देखते हैं।
- जासूस A बिल्ली की एक फोटो देखता है और 90% निश्चितता महसूस करता है कि यह बिल्ली है।
- जासूस B उसी फोटो को देखता है और 92% निश्चितता महसूस करता है कि यह बिल्ली है।
- उच्च समानता: यदि उनके "अंतर्ज्ञान" के स्कोर हर तस्वीर के लिए एक साथ ऊपर और नीचे जाते हैं, तो वे एक ही रणनीति का उपयोग कर रहे हैं।
- कम समानता: यदि जासूस A बिल्लियों के बारे में निश्चित है लेकिन कुत्तों के बारे में अनिश्चित है, जबकि जासूस B बिल्लियों के बारे में अनिश्चित है लेकिन कुत्तों के बारे में निश्चित है, तो उनके "अंतर्ज्ञान" तालमेल में नहीं हैं, भले ही अंत में उन्होंने सही उत्तर ही क्यों न दिया हो।
यह बेहतर क्यों है? यह इस बात की परवाह नहीं करता कि उन्होंने उत्तर सही दिया या गलत। यह केवल इस बात की परवाह करता है कि क्या वे एक ही दिशा में सोच रहे हैं।
3. बड़ा आश्चर्य: "सबसे स्मार्ट" AI सबसे अधिक एलियन है
शोधकर्ताओं ने इस नए तरीके का परीक्षण किया:
- बंदरों पर: जानवरों, कारों और चेहरों की तस्वीरें देखते हुए।
- AI मॉडल्स पर: ImageNet नामक एक विशाल डेटाबेस पर प्रशिक्षित सैकड़ों अलग-अलग कंप्यूटर विज़न मॉडल्स।
परिणाम:
- बंदर बनाम बंदर: जब दो बंदरों ने एक ही तस्वीर देखी, तो उनके आंतरिक "अंतर्ज्ञान" बहुत समान थे। वे एक ही तरंग (wavelength) पर थे।
- AI बनाम AI: अलग-अलग AI एक-दूसरे के प्रति कुछ हद तक समान थे, लेकिन पूरी तरह से नहीं।
- AI बनाम बंदर: यह चौंकाने वाला था। AI कार्य में जितना अधिक सटीक था, उसका सोचना बंदर से उतना ही कम मिलता-जुलता था।
रूपक (Metaphor):
एक वीडियो गेम की कल्पना करें।
- बंदर मानवीय अंतर्ज्ञान का उपयोग करके गेम खेलता है। वह एक कार देखता है और सोचता है, "यह एक कार है क्योंकि इसमें पहिए और आकार है।"
- AI एलियन तर्क का उपयोग करके गेम खेलता है। वह एक कार देखता है और सोचता है, "यह एक कार है क्योंकि बैकग्राउंड में पिक्सेल का एक विशिष्ट पैटर्न है।"
- ट्विस्ट: जैसे-जैसे AI गेम जीतने (उच्च स्कोर प्राप्त करने) में बेहतर होता जाता है, वह "मानवीय" तर्क का उपयोग करना छोड़ देता है और और भी अधिक "एलियन" तर्क का उपयोग करने लगता है। वह ऐसे शॉर्टकट ढूंढ लेता है जो कंप्यूटर के लिए तो एकदम सही काम करते हैं, लेकिन एक जैविक मस्तिष्क के लिए जिनका कोई अर्थ नहीं होता।
4. क्या "कड़ी ट्रेनिंग" ने मदद की?
वैज्ञानिकों ने इस अंतर को ठीक करने के लिए प्रयास किया:
- एडवर्सरियल ट्रेनिंग (Adversarial Training): AI को ट्रिक्स (जैसे कि उसे धोखा देना कठिन बनाना) के खिलाफ मजबूत बनाने के लिए सिखाना।
- बड़े डेटासेट्स: AI को अधिक तस्वीरें खिलाना (जैसे ImageNet-1k के बजाय ImageNet-21k)।
परिणाम: इससे कोई मदद नहीं मिली। वास्तव में, AI को "स्मार्टर" या "अधिक मजबूत" बनाने से वह बंदर से कम समान हो गया। AI और मस्तिष्क, एक ही समस्या को हल करने के लिए दो पूरी तरह से अलग रास्तों पर चलते दिखते हैं।
5. यह क्यों मायने रखता है?
यह पेपर सुझाव देता है कि हम शायद AI और मस्तिष्क को गलत तरीके से देख रहे थे।
- पुरानी उम्मीद: "यदि हम बस AI को बड़ा और स्मार्ट बना दें, तो यह अंततः मानव मस्तिष्क जैसा बन जाएगा।"
- नई वास्तविकता: "AI को बड़ा और स्मार्ट बनाना इसे और अधिक 'एलियन' बना सकता है।"
निष्कर्ष:
मानव (या बंदर) की तरह दुनिया को समझने वाले AI को बनाने के लिए, हमें केवल टेस्ट में हाई स्कोर हासिल करने के पीछे भागना बंद करना होगा। इसके बजाय, हमें ऐसा AI डिजाइन करने की आवश्यकता है जो उसी "नॉइज़ी" (noisy), अपूर्ण और जैविक नियमों का उपयोग करके सीखे, जिनका उपयोग हमारा मस्तिष्क करता है। हमें केवल "परफेक्ट" मशीनें बनाना बंद करना होगा और "जैविक-समान" मशीनें बनाना शुरू करना होगा।
संक्षेप में: यह पेपर केवल "टेस्ट स्कोर" के बजाय "सोचने की शैली" को मापने का एक नया तरीका पेश करता है, और यह प्रकट करता है कि जैसे-जैसे हमारे कंप्यूटर स्मार्ट होते जाते हैं, वे हम जैसे दिखने के बजाय एलियंस की तरह सोचने लगते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।