Supervised Training Rapidly Degrades Early Visual Cortex Alignment Across Biologically Plausible Learning Rules
यह अध्ययन प्रदर्शित करता है कि पर्यवेक्षित प्रशिक्षण (supervised training) कृत्रिम तंत्रिका नेटवर्क और मानव प्रारंभिक दृश्य वल्कुट (early visual cortex) के बीच संरेखण को तेजी से कम कर देता है, जिसमें बैकप्रोपैगेशन (backpropagation) जैसे वैश्विक त्रुटि-आधारित शिक्षण नियम, प्रेडिक्टिव कोडिंग (predictive coding) और एसटीडीपी (STDP) जैसे जैविक रूप से प्रशंसनीय स्थानीय नियमों की तुलना में काफी अधिक व्यवधान उत्पन्न करते हैं, जो यह सुझाव देता है कि अप्रशिक्षित आर्किटेक्चर स्वाभाविक रूप से इंडक्टिव बायस (inductive biases) के माध्यम से निम्न-स्तरीय दृश्य सांख्यिकी को कैप्चर करते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। यह एक ऐसे प्रीप्रिंट की AI से तैयार की गई व्याख्या है जिसकी अभी सहकर्मी समीक्षा नहीं हुई है। यह चिकित्सकीय सलाह नहीं है। इस सामग्री के आधार पर स्वास्थ्य संबंधी फैसले न लें। पूरा डिस्क्लेमर पढ़ें
एक बड़ी हैरानी: "खाली स्लेट" (Blank Slates) "प्रशिक्षित" (Trained) दिमागों की तुलना में अधिक मानव मस्तिष्क जैसे दिखते हैं
कल्पना कीजिए कि आपके पास एक बिल्कुल नया, अप्रशिक्षित कंप्यूटर दिमाग (एक न्यूरल नेटवर्क) है। यह बस यादृच्छिक (random) कनेक्शनों का एक ढेर है, जैसे उलझे हुए हेडफ़ोन का एक डिब्बा। आश्चर्यजनक रूप से, जब आप इसे तस्वीरें दिखाते हैं, तो इसके "विचार" (आंतरिक पैटर्न) काफी हद तक वैसे ही होते हैं जैसे एक मानव मस्तिष्क (विशेष रूप से वह हिस्सा जो सरल आकृतियों और रेखाओं को देखता है, जिसे V1 कहा जाता है) उन्हीं तस्वीरों पर प्रतिक्रिया देता है।
अब, कल्पना कीजिए कि आप इस कंप्यूटर दिमाग को वस्तुओं (जैसे बिल्ली, कार या कुर्सी) को पहचानने के लिए प्रशिक्षित (train) करना शुरू करते हैं। आप उम्मीद करेंगे कि जैसे-जैसे यह अपने काम में स्मार्ट होता जाएगा, यह एक इंसान की तरह सोचना शुरू कर देगा।
इस शोध पत्र की चौंकाने वाली खोज इसके विपरीत है: जैसे ही आप इस कंप्यूटर को प्रशिक्षित करना शुरू करते हैं, यह मानव मस्तिष्क की तरह सोचना बंद कर देता है। वास्तव में, आप इसे जितना अधिक प्रशिक्षित करते हैं, यह मानव दृश्य प्रणाली (visual system) के शुरुआती हिस्से से उतना ही कम मिलता-जुलता रहता है।
प्रयोग: सीखने के चार अलग-अलग तरीके
शोधकर्ता, निल्स ल्यूटनेगर (Nils Leutenegger), यह जानना चाहते थे कि ऐसा क्यों होता है। उन्होंने चार अलग-अलग "लर्निंग रूल्स" (वह तरीके जिनसे कंप्यूटर अपना दिमाग अपडेट करता है) का परीक्षण किया। इन्हें आप चार अलग-अलग शिक्षण शैलियों के रूप में समझ सकते हैं:
- बैकप्रोपैगेशन (Backpropagation - BP): यह मानक, सुपर-कुशल तरीका है जिसका उपयोग आज अधिकांश AI में किया जाता है। यह एक सख्त शिक्षक की तरह है जो जानता है कि हर छात्र के लिए सही उत्तर क्या है और पूरी क्लास के शुरू तक एक सटीक सुधार संदेश भेजता है।
- फीडबैक एलाइनमेंट (Feedback Alignment - FA): एक थोड़ा अधिक "जैविक" (biological) तरीका जहाँ सुधार संदेश थोड़े अस्त-व्यस्त और यादृच्छिक होते हैं, जैसे एक शिक्षक जो बिना यह जाने कि कौन सुन रहा है, गलियारे में चिल्लाकर सुधार बताता है।
- प्रेडिक्टिव कोडिंग (Predictive Coding - PC): एक ऐसा तरीका जहाँ मस्तिष्क यह अनुमान लगाने की कोशिश करता है कि आगे क्या आने वाला है और केवल अपनी गलतियों से सीखता है। यह एक ऐसे छात्र की तरह है जो केवल तभी ध्यान देता है जब उसका अनुमान गलत होता है।
- STDP: यह समय (timing) पर आधारित एक तरीका है, जहाँ कनेक्शन केवल तभी मजबूत होते हैं जब दो न्यूरॉन्स बिल्कुल एक ही क्षण में सक्रिय होते हैं। यह एक स्थानीय पड़ोस के नियम की तरह है: "यदि तुम और तुम्हारा पड़ोसी एक ही समय में एक ही काम करते हो, तो हम दोस्त बन जाते हैं।"
क्या हुआ? "एक सेकंड" का क्रैश
शोधकर्ता ने इन कंप्यूटरों को 40 राउंड (epochs) के प्रशिक्षण के दौरान देखा। यहाँ उन्होंने क्या पाया:
1. "सख्त शिक्षक" (Backpropagation) सबसे अधिक विनाशकारी है
जब कंप्यूटर ने मानक बैकप्रोपैगेशन विधि का उपयोग किया, तो मानव मस्तिष्क के प्रारंभिक विजन सेंटर (V1) के साथ इसकी समानता केवल एक एकल प्रशिक्षण दौर में 90% तक गिर गई।
- उपमा (Analogy): कल्पना कीजिए कि एक मूर्तिकार (AI) संगमरमर के एक ऐसे ब्लॉक से शुरुआत करता है जो पहले से ही धुंधला सा मानव चेहरे जैसा दिखता है (रैंडम वेट्स)। "सख्त शिक्षक" मूर्तिकार को कहता है, "तुम्हें इस ब्लॉक को एक विशिष्ट बिल्ली जैसा बनाना है, न कि मानव चेहरे जैसा।" मूर्तिकार तुरंत मानव जैसे फीचर्स को तराश कर हटा देता है ताकि पूरी तरह से बिल्ली पर ध्यान केंद्रित किया जा सके। परिणाम एक शानदार बिल्ली की मूर्ति है, लेकिन यह अब मानव चेहरे जैसा बिल्कुल नहीं दिखता।
2. "लोकल लर्नर्स" (Predictive Coding और STDP) थामे रखते हैं
जिन कंप्यूटरों ने अधिक जैविक, स्थानीय लर्निंग नियमों (PC और STDP) का उपयोग किया, उनमें मानव मस्तिष्क के प्रति कुछ समानता कम हुई, लेकिन वे बहुत कम कम हुई (केवल लगभग 25-30%)।
- उपमा: ये मूर्तिकार बनाने के निर्देश तो पाते हैं कि उन्हें बिल्ली बनानी है, लेकिन उन्हें केवल अपने सामने दिख रही चीज़ों के आधार पर छोटे, स्थानीय बदलाव करने की अनुमति होती है। वे बिल्ली तो बना लेते हैं, लेकिन वे अनजाने में मूल "मानव चेहरे" की कुछ विशेषताओं को बरकरार रखते हैं।
3. ट्रेड-ऑफ: प्रारंभिक दृष्टि बनाम वस्तु पहचान (Early Vision vs. Object Recognition)
मस्तिष्क के उच्च हिस्सों (वह क्षेत्र जो जटिल वस्तुओं को पहचानता है, जिसे LOC कहा जाता है) में एक मोड़ आया।
- "सख्त शिक्षक" (Backpropagation) ने प्रारंभिक दृष्टि की समानता को नष्ट कर दिया लेकिन वस्तु पहचान वाले क्षेत्र में समानता में वास्तव में सुधार किया।
- "लोकल लर्नर्स" ने प्रारंभिक दृष्टि की समानता को बनाए रखा लेकिन मजबूत वस्तु-पहचान कौशल बनाने में विफल रहे।
- निष्कर्ष: ऐसा लगता है कि यह एक ट्रेड-ऑफ है। किसी विशिष्ट वस्तु (जैसे बिल्ली) को पहचानने में बहुत अच्छा बनने के लिए, AI को सरल रेखाओं और आकृतियों को देखने के सामान्य, मानव-समान तरीके का त्याग करना पड़ता है। "सख्त शिक्षक" इस ट्रेड-ऑफ को आक्रामक रूप से लागू करता है; "लोकल लर्नर्स" इस बदलाव के लिए बहुत कोमल हैं।
यह क्यों मायने रखता है?
यह शोध पत्र सुझाव देता है कि बेतरतीब (random), अप्रशिक्षित कंप्यूटर मानव मस्तिष्क की तरह क्यों दिखते हैं, इसका कारण यह नहीं है कि वे ऐसा करने के लिए "सीख" रहे हैं। बल्कि, यह इसलिए है क्योंकि उनकी बुनियादी संरचना (जिस तरह से वे बने हैं) दृश्य दुनिया के सांख्यिकी (statistics) को स्वाभाविक रूप से पकड़ लेती है, ठीक वैसे ही जैसे हमारा V1 करता है।
जब हम उन्हें एक विशिष्ट कार्य करने के लिए प्रशिक्षित करते हैं, तो हम उन्हें उस प्राकृतिक संरचना को बदलने के लिए मजबूर करते हैं। हम जितना अधिक "ग्लोबल" और सटीक लर्निंग नियम (जैसे बैकप्रोपैगेशन) का उपयोग करते हैं, यह उतना ही आक्रामक रूप से उस "ब्रेन-लाइक" संरचना को मिटा देता है ताकि कार्य-विशिष्ट कौशल के लिए जगह बनाई जा सके।
संक्षेप में (Summary in a Nutshell)
- प्रशिक्षण से पहले: रैंडम AI दिमाग आश्चर्यजनक रूप से मानव मस्तिष्क जैसे दिखते हैं।
- प्रशिक्षण के बाद: वे मानव मस्तिष्क जैसे दिखना बंद कर देते हैं।
- मुख्य कारण: हमारे द्वारा प्रशिक्षित करने का मानक तरीका (Backpropagation) इस "ब्रेन-लाइक" गुण को नष्ट करने में सबसे तेज़ है।
- सबक: प्रकृति शायद "सख्त शिक्षक" (Backpropagation) पद्धति का उपयोग नहीं करती क्योंकि यह मस्तिष्क की प्राकृतिक संरचना को बहुत जल्दी नष्ट कर देती है। इसके बजाय, मस्तिष्क शायद "लोकल लर्नर्स" (जैसे प्रेडिक्टिव कोडिंग) का उपयोग करता है जो सीखने की कोशिश करते हुए भी मस्तिष्क के प्राकृतिक आकार को सुरक्षित रखते हैं।
महत्वपूर्ण नोट: यह शोध पत्र यह दावा नहीं करता कि इसका मतलब यह है कि AI बेकार है, और न ही यह सुझाव देता है कि हमें AI को प्रशिक्षित करना बंद कर देना चाहिए। यह केवल इस बात की ओर इशारा करता है कि हमारे मस्तिष्क के सीखने के तरीके और वर्तमान AI के सीखने के तरीके के बीच एक मौलिक अंतर है, विशेष रूप से इस संबंध में कि वे दृष्टि के शुरुआती चरणों को कैसे संभालते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।