Stimulus symmetries can confound representational similarity analyses
यह शोधपत्र प्रदर्शित करता है कि उद्दीपन समरूपताएं (stimulus symmetries) प्रतिनिधित्व समानता विश्लेषण (representational similarity analyses) को भ्रमित कर सकती हैं, क्योंकि वे कार्यात्मक रूप से समान तंत्रिका निरूपणों (neural representations) को विशिष्ट प्रतिनिधित्व समानता मैट्रिक्स (representational similarity matrices) उत्पन्न करने के लिए प्रेरित करती हैं, जिससे गैर-रेखीय तंत्रिका कोड (nonlinear neural codes) की तुलना जटिल हो जाती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। यह एक ऐसे प्रीप्रिंट की AI से तैयार की गई व्याख्या है जिसकी अभी सहकर्मी समीक्षा नहीं हुई है। यह चिकित्सकीय सलाह नहीं है। इस सामग्री के आधार पर स्वास्थ्य संबंधी फैसले न लें। पूरा डिस्क्लेमर पढ़ें
यहाँ एक सरल भाषा और रोज़मर्रा के उदाहरणों का उपयोग करके पेपर की व्याख्या दी गई है।
मुख्य विचार: "मानचित्र" (Map) की समस्या
कल्पना कीजिए कि आप यह समझने की कोशिश कर रहे हैं कि एक शहर की बनावट कैसी है। आपके पास एक नक्शा है, लेकिन आप महसूस करते हैं कि उस नक्शे को घुमाया जा सकता है। यदि आप नक्शे को 90 डिग्री घुमा देते हैं, तो उत्तर अब पूर्व की ओर इशारा करने लगता है। शहर नहीं बदला है, और पुस्तकालय और पार्क के बीच की दूरी बिल्कुल उतनी ही है। हालाँकि, यदि आप नक्शे के निर्देशांकों (coordinates) को देखें, तो संख्याएँ पूरी तरह से बदल गई हैं।
आर्टिफिशियल इंटेलिजेंस और न्यूरोसाइंस की दुनिया में, वैज्ञानिक यह तुलना करने के लिए कि विभिन्न मस्तिष्क या कंप्यूटर नेटवर्क दुनिया को कैसे "देखते" हैं, एक उपकरण का उपयोग करते हैं जिसे रिप्रेजेंटेशनल सिमिलैरिटी मैट्रिक्स (RSM) कहा जाता है। RSM को एक स्कोरकार्ड के रूप में समझें जो कहता है, "बिल्ली के प्रति मस्तिष्क की प्रतिक्रिया, कुत्ते के प्रति उसकी प्रतिक्रिया से कितनी समान है?"
यह पेपर तर्क देता है कि RSM को समरूपता (symmetry) द्वारा चकमा दिया जा सकता है। ठीक वैसे ही जैसे घुमाया गया नक्शा, दो नेटवर्क (या मस्तिष्क) कार्यात्मक रूप से बिल्कुल एक ही काम कर सकते हैं, लेकिन यदि वे अपनी आंतरिक गणितीय गणना में अलग तरह से "घूमे" हुए हैं, तो RSM स्कोरकार्ड कहेगा कि वे पूरी तरह से अलग हैं।
मुख्य समस्या: "गेज" (Gauge) वेरिएबल
लेखक एक अवधारणा पेश करते हैं जिसे वे "गेज" (gauge) कहते हैं।
उपमा: फर्श पर टाइल लगाना
कल्पना कीजिए कि आप एक गोलाकार फर्श पर वर्गाकार टाइलें लगा रहे हैं।
- समरूपता (Symmetry): क्योंकि फर्श एक आदर्श वृत्त है, इसलिए इससे कोई फर्क नहीं पड़ता कि आप पहली टाइल कहाँ से रखना शुरू करते हैं। आप "ऊपर" (12 बजे) से शुरू कर सकते हैं, या आप "दाएं" (3 बजे) से शुरू कर सकते हैं।
- कार्य (Function): चाहे आप कहीं से भी शुरू करें, फर्श पूरी तरह से ढक जाता है। काम पूरा हो गया है।
- गेज (Gauge): आपने जो विशिष्ट शुरुआती कोण चुना है, वह "गेज" है। यह एक ऐसा चुनाव है जो परिणाम (ढका हुआ फर्श) को नहीं बदलता, लेकिन टाइल्स की व्यवस्था को बदल देता है।
पेपर दिखाता है कि जब न्यूरल नेटवर्क किसी "वृत्ताकार" अवधारणा (जैसे किसी वस्तु का ओरिएंटेशन/झुकाव) को कवर करना सीखते हैं, तो वे स्वाभाविक रूप से एक शुरुआती कोण (गेज) चुन लेते हैं। क्योंकि इन नेटवर्कों का गणित गैर-रेखीय (non-linear) है (यह एक साधारण सीधी रेखा नहीं है), उस शुरुआती कोण को बदलने से केवल पूरा चित्र सुचारू रूप से नहीं घूमता। इसके बजाय, यह टाइल्स के बीच के संबंधों को विकृत (warp) कर देता है।
परिणाम: दो नेटवर्क जो कार्यात्मक रूप से समान हैं (दोनों फर्श को पूरी तरह से ढकते हैं), उनके RSM स्कोरकार्ड पूरी तरह से अलग हो सकते हैं क्योंकि एक ने 12 बजे से टाइल लगाना शुरू किया और दूसरे ने 3 बजे से।
यह क्यों महत्वपूर्ण है: "ड्रिफ्टिंग" कोड
यह पेपर यह भी पता लगाता है कि जब इन नेटवर्क्स को समय के साथ प्रशिक्षित किया जाता है, जैसे कि एक छात्र विषय सीख रहा हो, तो क्या होता है।
उपमा: भटकता हुआ दिशा-सूचक (The Drifting Compass)
कल्पना कीजिए कि खोजकर्ताओं का एक समूह एक गुफा का मानचित्र बनाने की कोशिश कर रहा है। वे सभी गुफा के आकार पर सहमत हैं (फंक्शन)। हालाँकि, जैसे-जैसे वे गहराई में जाते हैं, उनके दिशा-सूचक (compass) धीरे-धीरे भटकने लगते हैं।
- अतीत में, वैज्ञानिकों ने सोचा था कि यदि "मानचित्र" (RSM) बदलता है, तो इसका मतलब है कि खोजकर्ताओं ने गुफा के बारे में अपनी समझ बदल ली है।
- यह पेपर दिखाता है कि खोजकर्ता अभी भी गुफा को अच्छी तरह से जानते होंगे, लेकिन उनके दिशा-सूचक (गेज) बस बेतरतीब ढंग से भटक रहे हैं।
लेखकों ने पाया कि मानक प्रशिक्षण विधियाँ (जैसे स्टोकेस्टिक ग्रेडिएंट डिसेंट) और यहाँ तक कि "ऊर्जा-बचत" नियम (नेटवर्क को कम सक्रिय न्यूरॉन्स का उपयोग करने के लिए मजबूर करना) भी इस भटकाव को नहीं रोकते हैं। नेटवर्क फर्श को ढकने के नए, वैध तरीके खोजता रहता है, लेकिन प्रत्येक नया तरीका RSM स्कोरकार्ड पर अलग दिखता है।
वास्तविक दुनिया का परीक्षण: घूमी हुई छवियां
यह साबित करने के लिए कि यह केवल गणित का खिलौना नहीं है, लेखकों ने वास्तविक छवियों (जापानी हस्तलेखन डेटासेट से अंक) पर इसका परीक्षण किया।
- उन्होंने नेटवर्क्स को अंक को पहचानने के लिए प्रशिक्षित किया, चाहे उसे किसी भी कोण पर घुमाया गया हो।
- उन्होंने पाया कि भले ही नेटवर्क अंक को पूरी तरह से पहचान सकते थे, लेकिन जैसे-जैसे नेटवर्क सीखता गया, उसका "आंतरिक मानचित्र" (RSM) बदलता रहा।
- महत्वपूर्ण रूप से, उन्होंने दिखाया कि यदि आप दो ऐसे नेटवर्क्स को लें जिन्होंने एक ही चीज़ सीखी है, लेकिन एक का "शुरुआती कोण" (गेज) थोड़ा अलग है, तो RSM कहेगा कि वे बहुत अलग हैं, भले ही वे कार्यात्मक रूप से समान हों।
निष्कर्ष (The Takeaway)
पेपर निष्कर्ष निकालता है कि हम RSM पर भरोसा नहीं कर सकते कि दो न्यूरल कोड समान हैं या भिन्न, यदि डेटा में समरूपता (जैसे रोटेशन) मौजूद है।
यदि आप दो मस्तिष्क या दो AI मॉडल की तुलना RSM का उपयोग करके करते हैं, और वे अलग स्कोर देते हैं, तो इसका मतलब यह नहीं है कि वे अलग तरह से सोच रहे हैं। यह केवल यह हो सकता है कि वे एक ही समस्या को हल करने के लिए एक अलग "गेज" या शुरुआती बिंदु का उपयोग कर रहे हैं। पेपर शोधकर्ताओं को चेतावनी देता है कि उन्हें सावधान रहने की आवश्यकता है कि वे इन हानिरहित गणितीय बदलावों को मस्तिष्क या मशीन के काम करने के तरीके में सार्थक अंतर के रूप में न समझ लें।
संक्षेप में: सिर्फ इसलिए कि दो मानचित्र कागज पर अलग दिखते हैं, इसका मतलब यह नहीं है कि वे अलग शहरों का वर्णन करते हैं। वे बस अलग तरह से घूमे हुए हो सकते हैं, और न्यूरल नेटवर्क्स की जटिल, गैर-रेखीय दुनिया में, वह रोटेशन स्कोरकार्ड पर लिखे नंबरों को भ्रमित करने वाले तरीकों से बदल देता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।