Reassessing Number-Detector Units in Convolutional Neural Networks
क्लासिकल रिप्रेजेंटेशनल सिमिलैरिटी एनालिसिस (Representational Similarity Analysis) की सीमाओं को दूर करने के लिए CORnet पर प्रूनिंग (pruning) लागू करते हुए, यह अध्ययन प्रदर्शित करता है कि संख्या-डिटेक्टर यूनिट्स (number-detector units) संख्यात्मकता (numerosity) के जनसंख्या-स्तर के निरूपणों के लिए महत्वपूर्ण नहीं हैं, जिससे इस परिकल्पना को चुनौती मिलती है कि कनवल्शनल न्यूरल नेटवर्क में संख्यात्मकता भेदभाव के लिए ऐसी यूनिट्स आवश्यक हैं।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। यह एक ऐसे प्रीप्रिंट की AI से तैयार की गई व्याख्या है जिसकी अभी सहकर्मी समीक्षा नहीं हुई है। यह चिकित्सकीय सलाह नहीं है। इस सामग्री के आधार पर स्वास्थ्य संबंधी फैसले न लें। पूरा डिस्क्लेमर पढ़ें
यहाँ सरल भाषा और रचनात्मक उपमाओं का उपयोग करके शोध पत्र का विवरण दिया गया है।
बड़ा सवाल: क्या AI भी हमारी तरह "गिनती" करता है?
कल्पना कीजिए कि आप फलों के एक कटोरे को देख रहे हैं। यह जानने के लिए कि वहाँ "लगभग पाँच" फल हैं, आपको हर सेब को एक-एक करके गिनने की ज़रूरत नहीं है। आपका मस्तिष्क बस संख्या को देख लेता है। वैज्ञानिक इसे न्यूमेरोसिटी (numerosity) (या "संख्या बोध") कहते हैं।
लंबे समय से, शोधकर्ता ऐसी आर्टिफिशियल इंटेलिजेंस (AI) बनाने की कोशिश कर रहे हैं जो मानव मस्तिष्क की तरह सोच सके। वे कन्वोल्यूशनल न्यूरल नेटवर्क (CNNs) नामक मॉडल का उपयोग करते हैं। ये डिजिटल मस्तिष्क की तरह होते हैं जो छोटे-छोटे प्रोसेसिंग यूनिट्स (न्यूरॉन्स) की परतों से बने होते हैं।
बड़ी बहस:
कुछ वैज्ञानिकों का मानना था कि इन डिजिटल मस्तिष्कों में विशेष "संख्या डिटेक्टर" (number detectors) होने चाहिए—यानी कुछ विशेष न्यूरॉन्स जो केवल गिनती करने के लिए समर्पित हों, ठीक वैसे ही जैसे कुछ जानवरों के वास्तविक मस्तिष्क में होते हैं। उनका मानना था कि यदि वे इन विशेष न्यूरॉन्स को AI में पा लेते हैं, तो इसका अर्थ है कि AI सफलतापूर्वक गिनती करना सीख रहा है।
नया अध्ययन:
यह शोध पत्र पूछता है: क्या ये "संख्या डिटेक्टर" न्यूरॉन्स वास्तव में इस कहानी के नायक हैं, या वे केवल गौण पात्र (side characters) हैं?
प्रयोग: "कोरस" बनाम "सोलोइस्ट" (The "Choir" vs. The "Soloists")
यह पता लगाने के लिए, शोधकर्ताओं ने CORnet नामक एक विशेष AI मॉडल का उपयोग किया, जिसे एक प्राइमेट (वानर) के विजुअल सिस्टम की तरह दिखने और कार्य करने के लिए डिज़ाइन किया गया है। उन्होंने इन AI को तीन अलग-अलग तरीकों से प्रशिक्षित किया:
- कोरा पन्ना (The Blank Slate): एक AI जिसमें रैंडम सेटिंग्स थीं (जिसने कभी कुछ सीखा नहीं)।
- वस्तु सीखने वाला (The Object Learner): एक AI जिसे बिल्लियों, कुत्तों और कारों को पहचानने के लिए प्रशिक्षित किया गया था (जैसे कि एक मानक फोटो ऐप)।
- गिनती करने वाला (The Counter): एक AI जिसे विशेष रूप से बिंदुओं के समूहों (जैसे, "क्या यह 6 बिंदु हैं या 10 बिंदु?") के बीच अंतर बताने के लिए प्रशिक्षित किया गया था।
इसके बाद उन्होंने AI के "मस्तिष्क" को देखा कि वह विभिन्न संख्याओं के बिंदुओं के प्रति कैसी प्रतिक्रिया देता है।
जाँच करने का पुराना तरीका ("समान वोट" की समस्या)
पहले, वैज्ञानिक रिप्रजेंटेशनल सिमिलैरिटी एनालिसिस (RSA) नामक विधि का उपयोग करते थे। कल्पना कीजिए कि आप एक कोरस (गायक समूह) को सुनकर एक गाना पहचानने की कोशिश कर रहे हैं।
- पुराना तरीका: आप यह मान लेते हैं कि कोरस का प्रत्येक गायक अंतिम ध्वनि में बिल्कुल समान योगदान देता है। यदि कोरस उस गाने जैसा सुनाई देता है, तो आप कहते हैं, "बहुत बढ़िया, सबने मिलकर काम किया!"
- समस्या: एक वास्तविक कोरस में, कुछ गायक मुख्य धुन (melody) गा सकते हैं (जो बहुत महत्वपूर्ण है), जबकि अन्य पृष्ठभूमि का शोर (background noise) गुनगुना सकते हैं (जो महत्वपूर्ण नहीं है)। यदि आप सभी के साथ समान व्यवहार करते हैं, तो आप इस तथ्य को मिस कर सकते हैं कि धुन गाने वाले गायक ही सारा काम कर रहे हैं, या आप यह सोच सकते हैं कि बैकग्राउंड शोर महत्वपूर्ण है जबकि वह नहीं है।
नया तरीका जाँच करने का ("प्रूनिंग" विधि)
शोधकर्ताओं ने प्रूनिंग (Pruning) नामक तकनीक का उपयोग किया।
- उपमा: कल्पना कीजिए कि आपके पास 10,000 गायकों का एक विशाल कोरस है। आप जानना चाहते हैं कि एक विशिष्ट गाना फिर से बनाने के लिए वास्तव में किन गायकों की आवश्यकता है।
- प्रक्रिया: आप एक-एक करके गायकों को चुप कराते जाते हैं।
- यदि किसी गायक को चुप कराने से गाना बहुत खराब हो जाता है, तो वह गायक अनिवार्य (essential) है।
- यदि किसी गायक को चुप कराने से कोई अंतर नहीं पड़ता (या शोर हटाने से गाना और भी बेहतर हो जाता है), तो वह गायक अनावश्यक (redundant) है।
- परिणाम: अंत में, आपके पास "रिटेंड सिंगर्स" (बचे हुए गायकों) का एक छोटा, सुपर-कुशल समूह होता है जो संख्याओं को देखने के मानवीय अनुभव से मेल खाने के लिए एकमात्र आवश्यक होते हैं।
चौंकाने वाले निष्कर्ष
जब शोधकर्ताओं ने इस "प्रूनिंग" विधि को लागू किया, तो उन्हें कुछ चौंकाने वाला पता चला:
"संख्या डिटेक्टर" ज्यादातर बेकार थे।
वे विशिष्ट न्यूरॉन्स जो "गिनती" करते हुए दिखाई देते थे (संख्या-डिटेक्टर यूनिट्स), अक्सर वे ही थे जिन्हें प्रूनिंग के दौरान हटा दिया गया था। वे बैकग्राउंड के गायकों की तरह थे जो बेसुरा गुनगुना रहे थे। भले ही वे मौजूद थे, लेकिन AI को "कितने" की अवधारणा समझने के लिए उनकी आवश्यकता नहीं थी।"पूरी भीड़" विशेषज्ञों से अधिक महत्वपूर्ण है।
AI संख्याओं को तब सबसे अच्छी तरह समझता है जब वह कई अलग-अलग न्यूरॉन्स के एक व्यापक मिश्रण का उपयोग करता है जो मिलकर काम करते हैं, न कि कुछ "विशेषज्ञ" न्यूरॉन्स पर निर्भर रहता है। यह समझने जैसा है कि एक गाना पूरे कोरस के सामंजस्य (harmony) से बनता है, न कि केवल एक सोलोइस्ट से।अनप्रशिक्षित AI में भी "डिटेक्टर्स" थे।
दिलचस्प बात यह है कि यहाँ तक कि वह AI भी, जिसे कभी कुछ सिखाया नहीं गया था ("कोरा पन्ना"), उसमें भी ये "संख्या डिटेक्टर" न्यूरॉन्स मौजूद थे। इससे पता चलता है कि वे शायद केवल एक बायप्रोडक्ट (सह-उत्पाद) हैं कि AI कैसे बनाया गया है, न कि इस बात का संकेत कि AI ने वास्तव में गिनती करना सीख लिया है।
मुख्य निष्कर्ष (The Takeaway)
"विशेषज्ञ" का मिथक:
हमें पहले लगता था कि संख्याओं को समझने के लिए, एक AI (या मस्तिष्क) को एक विशिष्ट "संख्या न्यूरॉन" की आवश्यकता होती है जो मुख्य काम करे। यह शोध पत्र सुझाव देता है कि ऐसा नहीं है।
"टीम वर्क" की वास्तविकता:
संख्याओं को समझना एक टीम स्पोर्ट्स है। यह हजारों अलग-अलग न्यूरॉन्स के सामूहिक गतिविधि से उभरता है जो एक साथ काम करते हैं। "विशेषज्ञ" न्यूरॉन्स जो गिनती करते हुए प्रतीत होते हैं, वे अक्सर केवल शोर या साइड इफेक्ट होते हैं।
यह क्यों मायने रखता है:
यदि हम ऐसी AI बनाना चाहते हैं जो वास्तव में मनुष्यों की तरह दुनिया को समझे, तो हमें केवल "विशेषज्ञ" न्यूरॉन्स को नहीं खोजना चाहिए। हमें यह देखना चाहिए कि पूरा नेटवर्क एक साथ कैसे काम करता है। यह कमरे में मौजूद एक जीनियस को खोजने के बारे में नहीं है; यह समझने के बारे में है कि पूरी टीम मिलकर समस्या को कैसे हल करती है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।