🤖 AI

NeuMoSync: End-to-End Neuromodulatory Control for Plasticity and Adaptability in Continual Learning

यह शोध पत्र NeuMoSync को प्रस्तुत करता है, जो मस्तिष्क में वैश्विक न्यूरोमॉड्यूलेटरी तंत्र से प्रेरित एक नवीन निरंतर शिक्षण (continual learning) आर्किटेक्चर है, जो विविध अनुक्रमिक शिक्षण बेंचमार्क में प्लास्टिसिटी, अनुकूलन क्षमता और ज्ञान प्रतिधारण को प्रभावी ढंग से बढ़ाने के लिए गतिशील, न्यूरॉन-विशिष्ट मॉड्यूलेशन और सिंक्रोनाइज़ेशन को एकीकृत करता है।

मूल लेखक: Seyed Roozbeh Razavi Rohani, Khashayar Khajavi, Wesley Chung, Mandana Samiei, Mo Chen

प्रकाशित 2026-08-06

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Seyed Roozbeh Razavi Rohani, Khashayar Khajavi, Wesley Chung, Mandana Samiei, Mo Chen

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक रोबोट को एक के बाद एक सौ अलग-अलग वीडियो गेम खेलना सिखाने की कोशिश कर रहे हैं। पहला गेम सरल है: गिरते हुए सेबों को पकड़ना। दूसरा कठिन है: उड़ते हुए लेजर से बचना। तीसरा एक पहेली है जहाँ आपको रंगों के एक यादृच्छिक (random) क्रम को याद रखना होता है। आर्टिफिशियल इंटेलिजेंस की दुनिया में, इसे "कंटीन्यूअल लर्निंग" (continual learning) कहा जाता है। लक्ष्य यह है कि AI पिछले खेलों को खेलने का तरीका भूले बिना प्रत्येक नए खेल में बेहतर हो सके।

हालाँकि, एक बड़ी समस्या है। अधिकांश आधुनिक AI मस्तिष्क, जिन्हें 'डीप न्यूरल नेटवर्क' कहा जाता है, उन छात्रों की तरह हैं जो एक परीक्षा के लिए इतनी कड़ी मेहनत से पढ़ाई करते हैं कि वे पिछली कक्षा में सीखी गई हर चीज़ भूल जाते हैं। जैसे-जैसे वे नए कार्यों को सीखते हैं, वे अपनी "प्लास्टिसिटी" (plasticity)—नई जानकारी के अनुकूल ढलने की अपनी क्षमता—खो देते हैं। वे पुरानी आदतों में फंस जाते हैं, और तेज़ी से अनुकूल होने में असमर्थ हो जाते हैं। ऐसा इसलिए होता है क्योंकि ये नेटवर्क आमतौर पर बहुत ही कठोर, स्थानीय (local) तरीके से सीखते हैं, जहाँ वे बिना किसी "कंडक्टर" (संचालक) के अपने आंतरिक नॉब्स को एडजस्ट करते हैं, जो पूरे ऑर्केस्ट्रा को एक साथ कैसे बजाना है, यह बता सके। हालाँकि, प्रकृति में, जानवरों को यह समस्या नहीं होती है। हमारे मस्तिष्क विशेष रासायनिक संदेशवाहकों का उपयोग करते हैं, जिन्हें 'न्यूरोमोड्यूलेटर्स' (neuromodulators) कहा जाता है, जो मस्तिष्क में एक वैश्विक प्रसारण (global broadcast) की तरह फैलते हैं, और विभिन्न न्यूरॉन्स को बताते हैं कि कब लचीला होना है, कब मजबूती से पकड़ बनाए रखनी है, और वर्तमान स्थिति में कैसे प्रतिक्रिया देनी है। यह शोध पत्र पूछता है: क्या हम एक ऐसा AI बना सकते हैं जो इसी तरह के "ग्लोबल कंडक्टर" का उपयोग करके लचीला बना रहे और हमेशा सीखता रहे?

इस शोध पत्र के पीछे के शोधकर्ताओं ने, जो साइमन फ्रेजर यूनिवर्सिटी और मैकगिल यूनिवर्सिटी से हैं, कहा है कि हाँ। उन्होंने एक नई प्रणाली पेश की है जिसे NeuMoSync (न्यूरोमोड्यूलेशन और सिंक्रोनाइज़ेशन का संक्षिप्त रूप) कहा जाता है। NeuMoSync को एक कंप्यूटर मस्तिष्क के प्रत्येक न्यूरॉन को उसके अपने छोटे, व्यक्तिगत रिमोट कंट्रोल देने के रूप में समझें, लेकिन एक ट्विस्ट के साथ: इन सभी रिमोट्स को एक एकल, स्मार्ट "कंडक्टर" मॉड्यूल द्वारा नियंत्रित किया जाता है।

वास्तविक दुनिया में यह कैसे काम करता है, यहाँ देखें। कल्पना कीजिए कि AI के पास ज्ञान के दो मुख्य पुस्तकालय (libraries) हैं। पहला है MainNetwork, जो "तेज़ सीखने वाला" है। यह जानकारी को तेज़ी से पकड़ता है, जैसे कोई छात्र लेक्चर के दौरान हड़बड़ी में नोट्स लेता है। दूसरा है ConsolidatedNetwork, जो "धीमा सीखने वाला" है। यह किताबों के पुस्तकालय की तरह है जो बहुत धीरे-धीरे अपडेट होता है, ताकि सबसे महत्वपूर्ण और स्थिर तथ्यों को सुरक्षित रखा जा सके ताकि वे अगले लेक्चर द्वारा मिटा न दिए जाएँ।

जादू NeuroSync मॉड्यूल के साथ होता है। यह कंडक्टर है। यह वर्तमान समस्या (नया वीडियो गेम) और AI द्वारा किए गए पिछले कार्यों के इतिहास को देखता है। फिर, यह प्रत्येक न्यूरॉन को ठीक यह बताने के लिए चार विशिष्ट संकेत भेजता है कि उसे वास्तव में कैसे व्यवहार करना चाहिए:

तेज़ नोट्स बनाम धीमे टेक्स्टबुक्स पर कितना भरोसा करना है: यह तय करता है कि एक न्यूरॉन को अपने वर्तमान, ताज़ा ज्ञान पर निर्भर रहना चाहिए या अपनी स्थिर, दीर्घकालिक स्मृति पर।
न्यूरॉन कितना लचीला होना चाहिए: यह न्यूरॉन के "एक्टिवेशन फंक्शन" (activation function) को एडजस्ट करता है, जो मूल रूप से यह तय करता है कि न्यूरॉन कैसे सक्रिय होगा। यह न्यूरॉन को कार्य की आवश्यकता के अनुसार अधिक संवेदनशील या अधिक कठोर बना सकता है।
एक छोटा सा धक्का (nudge): यह न्यूरॉन के आउटपुट में एक छोटा सा ऑफसेट जोड़ता है, जिससे उसकी प्रतिक्रिया को सूक्ष्म रूप से ठीक करने में मदद मिलती है।
एक वैश्विक संदर्भ (global context): यह सुनिश्चित करता है कि न्यूरॉन को पता हो कि बाकी मस्तिष्क क्या कर रहा है, ताकि सब कुछ तालमेल (sync) में काम करे।

शोधकर्ताओं ने इस प्रणाली का परीक्षण विभिन्न कठिन चुनौतियों पर किया। कुछ कार्य यादृच्छिक चीजें याद रखने जैसे थे (जैसे यादृच्छिक चित्रों को यादृच्छिक नंबरों से मिलाना), जबकि अन्य में वस्तुओं की नई श्रेणियों को सीखना या बदलते नियमों के साथ तालमेल बिठाना शामिल था। परिणाम प्रभावशाली थे। NeuMoSync ने न केवल भूलने से परहेज किया; बल्कि यह वास्तव में समय के साथ नई चीजों को सीखने में बेहतर होता गया। वास्तव में, कठिन "मेमोरी" कार्यों पर, इसने अन्य सभी तरीकों को बड़े अंतर से पीछे छोड़ दिया।

सबसे आश्चर्यजनक निष्कर्षों में से एक यह था कि क्यों यह इतना अच्छा काम कर रहा था। शोधकर्ता उम्मीद कर रहे थे कि AI अपने आप तेजी से सीख जाएगा। इसके बजाय, उन्होंने पाया कि NeuMoSync की असली शक्ति नॉलेज ट्रांसफर (ज्ञान हस्तांतरण) थी। इसने सीखने का एक सामान्य तरीका सीख लिया। इसने यह समझ लिया कि कैसे अपने पिछले कार्यों से सीखी गई बातों को नए कार्यों पर लागू किया जाए, भले ही वे कार्य पूरी तरह से अलग क्यों न लग रहे हों। यह एक ऐसे छात्र की तरह है जिसने पियानो बजाना सीखने के बाद, गिटार को शून्य से सीखने के बजाय संगीत सिद्धांत (music theory) की अपनी समझ का उपयोग करके गिटार को अविश्वसनीय रूप से तेज़ी से पकड़ लेता है।

शोध पत्र ने कुछ विचारों को भी खारिज कर दिया। उन्होंने दिखाया कि केवल एक शक्तिशाली AI आर्किटेक्चर (जैसे एक मानक "ट्रांसफॉर्मर" मॉडल) होना ही पर्याप्त नहीं था; इस विशेष कंडक्टर के बिना, AI अभी भी नई चीजें सीखने की अपनी क्षमता खो देता था। उन्होंने यह भी साबित किया कि रहस्य केवल कंडक्टर की जटिलता में नहीं था, बल्कि इस बात में था कि वह अपने "नियमों" को सभी न्यूरॉन्स में साझा करता था, जिससे पूरा मस्तिष्क एक टीम के रूप में समन्वय कर सका।

संक्षेप में, NeuMoSync सुझाव देता है कि यदि हम चाहते हैं कि AI अपने जीवन भर सीखते रहे और कुछ भी भूले नहीं, तो हमें केवल मस्तिष्क को बड़ा बनाने की ज़रूरत नहीं है। हमें इसे अपने आप से वैश्विक स्तर पर बात करने का एक तरीका देना चाहिए, जिसमें एक स्मार्ट सिस्टम हो जो जानता हो कि कब लचीला होना है और कब जो वह जानता है उसे थामे रखना है। इस नई प्रणाली का कोड अब किसी के भी उपयोग के लिए खुला है, जो ऐसी मशीनों की ओर एक आशाजनक कदम है जो वास्तव में जीवित चीजों की तरह अनुकूलित और विकसित हो सकती हैं।

तकनीकी सारांश: NeuMoSync: निरंतर शिक्षण (Continual Learning) में प्लास्टिसिटी और अनुकूलन क्षमता के लिए एंड-टू-एंड न्यूरोमॉड्यूलेटरी नियंत्रण

समस्या विवरण

निरंतर शिक्षण (Continual Learning - CL) के लिए गहरे तंत्रिका नेटवर्क (Deep Neural Networks) को पिछली जानकारी को बनाए रखते हुए क्रमिक रूप से ज्ञान प्राप्त करने की आवश्यकता होती है। हालाँकि, मानक गहरे नेटवर्क अक्सर समय के साथ प्लास्टिसिटी के नुकसान (Loss of Plasticity) से ग्रस्त होते हैं, जहाँ नए कार्यों को सीखने की उनकी क्षमता कम हो जाती है, और वे खराब ज्ञान हस्तांतरण (Poor Knowledge Transfer) प्रदर्शित करते हैं, जो दीर्घकालिक अनुकूलन क्षमता में बाधा डालता है। जबकि जैविक एजेंट स्थानीय प्लास्टिसिटी और वैश्विक न्यूरोमॉड्यूलेटरी प्रणालियों के माध्यम से स्मृति प्रतिधारण (Memory Retention) और तीव्र अनुकूलन के बीच संतुलन बनाने में उत्कृष्ट होते हैं, कृत्रिम तंत्रिका नेटवर्क (ANNs) आमतौर पर स्थानीय, फीडफॉरवर्ड कंप्यूटेशन और ग्रेडिएंट-आधारित अपडेट पर निर्भर करते हैं, जिनमें जैविक मस्तिष्क में पाए जाने वाले संदर्भ-निर्भर, सिस्टम-स्तरीय फीडबैक की कमी होती है। मौजूदा दृष्टिकोण अक्सर महंगे मेटा-लर्निंग या विशिष्ट नियमितीकरण तकनीकों पर निर्भर करते हैं जो शायद मजबूत निरंतर शिक्षण के लिए आवश्यक गतिशील समन्वय को पूरी तरह से संबोधित न कर सकें।

कार्यप्रणाली: NeuMoSync आर्किटेक्चर

लेखक NeuMoSync पेश करते हैं, जो एक आर्किटेक्चर है जो गहरे तंत्रिका नेटवर्क में गतिशील, न्यूरॉन-विशिष्ट मॉड्यूलेशन को एकीकृत करता है, जो मस्तिष्क में वैश्विक न्यूरोमॉड्यूलेटरी तंत्र से प्रेरित है। यह प्रणाली तीन प्राथमिक घटकों से बनी है:

MainNetwork ( $\theta$ ): एक मानक तंत्रिका नेटवर्क जो वर्तमान डेटा स्ट्रीम के प्रति तेजी से अनुकूलित होता है, और कार्य-विशिष्ट ज्ञान प्राप्त करता है।
ConsolidatedNetwork ( $\phi$ ): MainNetwork का एक स्लो-मूविंग एवरेज (Slow-moving average), जिसे एक एक्सपोनेंशियल मूविंग एवरेज (EMA) के माध्यम से $\beta$ समेकन दर (Consolidation rate) के साथ अपडेट किया जाता है। यह एक दीर्घकालिक स्मृति के रूप में कार्य करता है, जो कार्यों के माध्यम से समेकित सामान्य ज्ञान को संरक्षित करता है।
NeuroSync Module: एक केंद्रीकृत वैश्विक नियंत्रक (जिसे एनकोडर-ओनली ट्रांसफार्मर या 1D CNN के रूप में लागू किया गया है) जो निम्नलिखित के आधार पर न्यूरॉन-विशिष्ट मॉड्यूलेशन सिग्नल उत्पन्न करता है:
- वर्तमान इनपुट नमूना (Input sample)।
- MainNetwork में प्रत्येक न्यूरॉन के लिए फीचर वेक्टर्स का एक सेट (जिसमें सीखे जाने योग्य गुण, पोजीशनल जानकारी, और पिछले सक्रियण सांख्यिकी का EMA शामिल है)।

NeuroSync मॉड्यूल प्रत्येक न्यूरॉन $i$ के लिए चार सीखे जाने योग्य गुणांक ( $\alpha$ ) आउटपुट करता है, जो InferenceNetwork (भविष्यवाणी के लिए उपयोग किया जाने वाला प्रभावी नेटवर्क) को गतिशील रूप से नियंत्रित करते हैं:

Synaptic Weight Modulation ( $\alpha_{SM}$ ) और Weight Consolidation ( $\alpha_{WC}$ ): ये गुणांक MainNetwork ( $\theta_i$ ) और ConsolidatedNetwork ( $\phi_i$ ) के भारों को गतिशील रूप से संयोजित करते हैं ताकि InferenceNetwork के प्रभावी सिनैप्टिक भार ( $w_i$ ) बनाए जा सकें:
$w_i = \alpha_{SM}^i \theta_i + \alpha_{WC}^i \phi_i$
यह नेटवर्क को संदर्भ के आधार पर फास्ट लर्नर (Fast Learner) या स्लो मेमोरी (Slow Memory) के योगदान को बढ़ाने या दबाने की अनुमति देता है।
Adaptive Linearity ( $\alpha_{AL}$ ): यह गुणांक प्रत्येक न्यूरॉन के लिए एक पैरामीट्रिक ReLU (PReLU) सक्रियण फ़ंक्शन के नेगेटिव स्लोप को गतिशील रूप से सेट करता है, जिससे सक्रियण की रैखिकता (Linearity) नियंत्रित होती है और ग्रेडिएंट फ्लो में सुधार होता है।
Additive Regulation Modulation ( $\alpha_{ARM}$ ): यह न्यूरॉन के सक्रियण आउटपुट के लिए एक सीधा योगात्मक ऑफसेट (Additive offset) प्रदान करता है, जिससे संदर्भ-निर्भर बायस शिफ्ट संभव होता है।

पूरी प्रणाली, जिसमें MainNetwork, ConsolidatedNetwork और NeuroSync मॉड्यूल शामिल हैं, को बिना किसी स्पष्ट मेटा-लर्निंग ऑब्जेक्टिव या टास्क बाउंड्री के, मानक ग्रेडिएंट डिसेंट का उपयोग करके एंड-टू-एंड प्रशिक्षित किया जाता है।

मुख्य योगदान

नया आर्किटेक्चर: NeuMoSync का परिचय, जो मानक नेटवर्क को एक वैश्विक नियंत्रक के साथ संवर्धित करता है जो इनपुट और आंतरिक नेटवर्क अवस्था दोनों के आधार पर व्यक्तिगत न्यूरॉन स्तर पर भार (Weights), सक्रियण कार्यों (Activation functions) और बायस (Biases) को मॉड्यूलेट करता है।
दोहरी स्मृति तंत्र (Dual-Memory Mechanism): एक फास्ट-लर्निंग MainNetwork और एक स्लो-लर्निंग ConsolidatedNetwork का एकीकरण, जिन्हें प्लास्टिसिटी और स्थिरता के बीच संतुलन बनाने के लिए सीखे गए मॉड्यूलेशन गुणांकों के माध्यम से गतिशील रूप से फ्यूज किया जाता है।
एंड-टू-एंड प्रशिक्षण: कई मेटा-लर्निंग दृष्टिकोणों के विपरीत, NeuMoSync मॉड्यूलेशन के लिए ट्रांसफर करने योग्य इंडक्टिव बायस (Inductive biases) को सीधे मानक बैकप्रोपैगेशन के माध्यम से सीखता है, जिससे मेटा-ट्रेनिंग का कम्प्यूटेशनल ओवरहेड बच जाता है।
स्केलेबिलिटी (Scalability): लेखक नियंत्रक का एक स्पार्स, एनकोडर-डिकोडर वेरिएंट प्रस्तावित करते हैं जो न्यूरॉन्स के एक छोटे उपसमुच्चय (Subset) को सैंपल करता है, जिससे न्यूनतम पैरामीटर ओवरहेड के साथ बड़े आर्किटेक्चर (जैसे ResNets, Transformers) तक इस पद्धति को स्केल करना संभव होता है।

प्रयोगात्मक परिणाम

लेखकों ने विविध बेंचमार्क पर NeuMoSync का मूल्यांकन किया, जिसमें शामिल हैं:

मेमोराइजेशन (Memorization): रैंडम लेबल CIFAR-10, रैंडम लेबल MNIST।
कॉन्सेप्ट ड्रिफ्ट (Concept Drift): Shuffle CIFAR-10, Shuffle Mini-ImageNet।
क्लास-इन्क्रीमेंटल (Class-Incremental): Class Split T-ImageNet, Class Split CIFAR-100।
डोमेन-इन्क्रीमेंटल (Domain-Incremental): Permuted MNIST।

मुख्य निष्कर्ष:

प्लास्टिसिटी संरक्षण: NeuMoSync ने बेसलाइन्स (जैसे CBP, ReDo, EWC, CReLU) की तुलना में प्लास्टिसिटी के प्रति बेहतर प्रतिधारण (Retention) प्रदर्शित किया, विशेष रूप से मेमोराइजेशन कार्यों पर जहाँ इसने काफी उच्च पूर्ण प्रदर्शन प्राप्त किया।
तीव्र अनुकूलन: यह विधि फॉरवर्ड एडेप्टेशन (नए कार्यों को सीखना) और बैकवर्ड एडेप्टेशन (पुराने कार्यों को पुन: सीखना) दोनों में उत्कृष्ट रही। अनुकूलन की गति के अपघटन (Decomposition) से पता चला कि Neu-MoSync का लाभ मुख्य रूप से बेहतर ज्ञान हस्तांतरण से आता है, न कि स्वाभाविक रूप से तेज़ आंतरिक सीखने की गति से।
एब्लेशन अध्ययन (Ablation Studies): वैश्विक नियंत्रक या विशिष्ट मॉड्यूलेशन तंत्र (विशेष रूप से सिनैप्टिक मॉड्यूलेशन $\alpha_{SM}$ ) को हटाने से प्रदर्शन में महत्वपूर्ण गिरावट आई, जो समन्वित, संदर्भ-जागरूक संकेतों की आवश्यकता की पुष्टि करता है।
इंडक्टिव बायस: प्रयोगों ने दिखाया कि नियंत्रक में पैरामीटर शेयरिंग (जैसे साझा ट्रांसफार्मर या 1D CNN का उपयोग करना) प्रभावी वैश्विक मॉड्यूलेशन के लिए महत्वपूर्ण इंडक्टिव बायस है, न कि विशिष्ट आर्किटेक्चर (जैसे अटेंशन बनाम कन्वल्यूशन)।
स्केलेबिलिटी: स्पार्स कंट्रोलर वेरिएंट सफलतापूर्वक ResNet-18 और ResNet-50 बैकबोन तक स्केल हुआ, जिसने नगण्य पैरामीटर ओवरहेड (जैसे ~0.002% कुल पैरामीटर) के साथ बेसलाइन्स को पछाड़ दिया।
स्थिरता: जब एक्सपीरियंस रिप्ले (ER) के साथ जोड़ा गया, तो NeuMoSync ने स्थिरता के लिए डिज़ाइन किए गए तरीकों (जैसे A-GEM, EWC) की तुलना में प्रतिस्पर्धी या बेहतर फॉरगेटिंग प्रदर्शन प्राप्त किया, जबकि उच्च प्लास्टिसिटी बनाए रखी।

महत्व और दावे

यह पेपर दावा करता है कि NeuMoSync गहरे शिक्षण प्रणालियों में मजबूत, अनुकूलन योग्य निरंतर शिक्षण को आगे बढ़ाने के लिए वैश्विक समन्वय तंत्र (Global Coordination Mechanisms) को एकीकृत करने की क्षमता को रेखांकित करता है। यह पुनर्पुष्टि करते हुए कि:

मॉडल बिना स्पष्ट मेटा-लर्निंग के प्लास्टिसिटी और गतिविधि को नियंत्रित करने के लिए ट्रांसफर करने योग्य इंडक्टिव बायस प्राप्त कर सकते हैं।
सीखे गए मॉड्यूलेशन सिग्नल्स में उभरते व्यवहार (जैसे स्थिरता बनाम प्लास्टिसिटी के लिए न्यूरॉन्स के बीच श्रम विभाजन) न्यूरोमॉड्यूलेशन और मेमोरी कंसोलिडेशन के जैविक सिद्धांतों को दर्शाते हैं।
यह दृष्टिकोण गैर-स्थिर वातावरण में गहरे तंत्रिका नेटवर्क की अनुकूलन क्षमता और मजबूती दोनों को बढ़ाने का एक व्यवस्थित तरीका प्रदान करता है।

लेखक अपने कार्य को जैविक रूप से प्रेरित निरंतर शिक्षण प्रणालियों की ओर एक कदम के रूप में प्रस्तुत करते हैं, यह नोट करते हुए कि हालांकि डिजाइन न्यूरोसाइंस से ढीला प्रेरित है, यह जैविक संभाव्यता के बजाय कार्यात्मक प्रदर्शन पर केंद्रित एक इंजीनियरिंग समाधान है। कोड सार्वजनिक रूप से उपलब्ध है।

समस्या विवरण

कार्यप्रणाली: NeuMoSync आर्किटेक्चर

मुख्य योगदान

प्रयोगात्मक परिणाम

महत्व और दावे

इसी तरह के और पेपर