तकनीकी सारांश: निरंतर शिक्षण के लिए शापली न्यूरॉन मान (Shapley Neuron Values)

1. समस्या विवरण

निरंतर शिक्षण (Continual Learning - CL) का लक्ष्य न्यूरल नेटवर्क को पिछले ज्ञान को भूलने के बिना क्रमिक कार्यों (sequential tasks) को सीखने में सक्षम बनाना है। हालाँकि, मानक न्यूरल नेटवर्क कैटैस्ट्रोफिक फॉरगेटिंग (catastrophic forgetting) से ग्रस्त होते हैं, जहाँ नए कार्यों को सीखने से पहले के कार्यों का प्रदर्शन गिर जाता है। मौजूदा समाधान महत्वपूर्ण सीमाओं का सामना करते हैं:

• मेमोरी-आधारित विधियाँ (जैसे iCaRL, DER++) पिछले उदाहरणों को संग्रहीत और पुनरावृत्त (replay) करती हैं, जो उन सख्त CL सेटिंग्स का उल्लंघन करती है जहाँ पिछला डेटा अप्राप्य होता है और गोपनीयता संबंधी चिंताएँ (जैसे GDPR) उत्पन्न करता है।
• डायनेमिक आर्किटेक्चर विधियाँ (जैसे PNN, DyTox) समय के साथ मॉडल के आकार का विस्तार करती हैं, जिससे अनियंत्रित पैरामीटर वृद्धि और गणनात्मक अव्यवहारिकता होती है।
• रेगुलराइजेशन-आधारित विधियाँ (जैसे EWC, SI) अक्सर अत्यधिक विषम (heterogeneous) कार्यों के साथ संघर्ष करती हैं और उन्हें सहायक मॉड्यूल या कार्य-विशिष्ट बाधाओं की आवश्यकता हो सकती है।

मुख्य चुनौती एक निश्चित-क्षमता वाले बैकबोन नेटवर्क (fixed-capacity backbone network) के भीतर, बिना पिछले डेटा को दोबारा देखे और बिना आर्किटेक्चर का विस्तार किए, भूल-प्रतिरोधी निरंतर शिक्षण (forget-resistant continual learning) प्राप्त करना है।

2. कार्यप्रणाली: शापली न्यूरॉन मान (Shapley Neuron Values - SNV)

लेखक शापली न्यूरॉन मान (SNV) का प्रस्ताव करते हैं, जो एक बफ़र-मुक्त ढांचा है और आधुनिक न्यूरल नेटवर्क की अंतर्निहित ओवर-पैरामीट्राइजेशन का लाभ उठाता है। यह विधि सहयोगात्मक गेम थ्योरी (cooperative game theory) के सिद्धांतों का उपयोग करके प्रत्येक कार्य के लिए "विशेषज्ञ उप-नेटवर्कों" (expert subnetworks) की पहचान करती है और उन्हें सुरक्षित करती है।

मुख्य तंत्र

1. न्यूरॉन की परिभाषा: कनवल्शनल नेटवर्क में, एक "न्यूरॉन" को एक कनवल्शनल फ़िल्टर (कर्नेल) के रूप में परिभाषित किया गया है।
2. शापली मूल्यांकन (Shapley Valuation): प्रत्येक न्यूरॉन के महत्व को शापली मानों (Shapley Values) का उपयोग करके मापा जाता है, जो नेटवर्क के विभिन्न उपसमुच्चयों (subsets) में उनके सीमांत योगदान (marginal contributions) के आधार पर मॉडल के प्रदर्शन मीट्रिक $V(M)$ को निष्पक्ष रूप से वितरित करता है।
   • यह मूल्यांकन चार अभिधारणाओं (axioms) का पालन करता है: दक्षता (Efficiency), शून्य योगदान (Null Contribution), समरूपता (Symmetry), और रैखिकता (Linearity)।
   • न्यूरॉन $i$ के लिए शापली मान $\phi_i$ की गणना इस प्रकार की जाती है:
     $$\phi_i = \sum_{S \subseteq M \setminus \{i\}} \frac{|S|!(|M| - |S| - 1)!}{|M|!} [V(S \cup \{i\}) - V(S)]$$
   • यहाँ, $V(S)$ जब $M \setminus S$ के न्यूरॉन्स को उनके औसत सक्रियण (mean activations) द्वारा प्रतिस्थापित किया जाता है (मास्किंग), तब मॉडल का प्रदर्शन दर्शाता है, जो रिट्रेनिंग के बिना सिग्नल सांख्यिकी को सुरक्षित रखता है।
3. अनुमान रणनीति (Approximation Strategy): चूंकि सटीक शापली गणना घातांकीय (exponential) होती है, SNV तीन अनुमानों का उपयोग करता है:
   • मोंटे कार्लो अनुमान (Monte Carlo Estimation): न्यूरॉन्स के क्रमपरिवर्तन (permutations) का नमूना लेना ताकि सीमांत योगदान का अनुमान लगाया जा सके।
   • ट्रंकेशन (Truncation): उन छोटे उपसमुच्चयों के लिए सीमांत गणनाओं को छोड़ देना जहाँ प्रदर्शन एक दहलीज (threshold) से नीचे गिर जाता है (यह मानते हुए कि मॉडल गैर-कार्यात्मक है)।
   • मल्टी-आर्म्ड बैंडिट (MAB): उन न्यूरॉन्स पर नमूनाकरण प्रयासों को केंद्रित करना जिनके कॉन्फिडेंस इंटरवल शीर्ष-$k$ अनुमानित मानों के साथ ओवरलैप होते हैं, ताकि सबसे महत्वपूर्ण न्यूरॉन्स को कुशलतापूर्वक पहचाना जा सके।
4. फ्रीजिंग और प्लास्टिसिटी (Freezing and Plasticity):
   • प्रत्येक कार्य $t$ के लिए, उच्चतम शापली मानों वाले शीर्ष $c \cdot N$ न्यूरॉन (जहाँ $c$ एक स्पर्सिटी अनुपात है और $N$ कुल न्यूरॉन है) का चयन किया जाता है।
   • एक संचयी बाइनरी मास्क (cumulative binary mask) $B_t$ बनाए रखा जाता है, जो कार्यों $1$से$t$ के लिए चयनित सभी न्यूरॉन्स को चिह्नित करता है।
   • कार्य $t+1$ के लिए प्रशिक्षण के दौरान, $B_t$ में सभी न्यूरॉन्स के लिए ग्रेडिएंट्स को ब्लॉक (फ्रीज) कर दिया जाता है, जबकि शेष "प्लास्टिक" न्यूरॉन्स को अपडेट किया जाता है। यह पिछले कार्यों के लिए स्थिर ज्ञान प्रतिधारण सुनिश्चित करता है जबकि नए कार्यों के लिए लचीलापन प्रदान करता है।

3. प्रमुख योगदान

• सिद्धांतिक न्यूरॉन चयन: विशिष्ट कार्यों के लिए सबसे महत्वपूर्ण न्यूरॉन्स की पहचान करने के लिए एक गेम-थ्योरेटिक ढांचे (शापली मान) को पेश करता है, जो ह्यूरिस्टिक या बाइनरी महत्व स्कोर से आगे बढ़ता है।
• बफ़र-मुक्त और निश्चित-क्षमता: यह प्रदर्शित करता है कि एक निश्चित-क्षमता वाला नेटवर्क चुनिंदा रूप से महत्वपूर्ण न्यूरॉन्स को फ्रीज करके अनिश्चित काल तक क्रमिक कार्यों को सीख सकता है, जिससे रीप्ले बफ़र या आर्किटेक्चर विस्तार की आवश्यकता समाप्त हो जाती है।
• स्थिरता-प्लास्टिसिटी ट्रेड-ऑफ (Stability-Plasticity Trade-off): यह ज्ञान प्रतिधारण (फ्रीज किए गए स्थिर न्यूरॉन्स के माध्यम से) को नए कार्य सीखने (प्लास्टिक न्यूरॉन्स के माध्यम से) से स्पष्ट रूप से अलग करता है, जिससे क्रॉस-टास्क इंटरफेरेंस कम होता है।
• कुशल अनुमान: शापली मान अनुमान को कम्प्यूटेशनल रूप से व्यवहार्य बनाने के लिए एक व्यावहारिक पाइपलाइन (मोंटे कार्लो + ट्रंकेशन + MAB) का प्रस्ताव करता है।

4. प्रयोगात्मक परिणाम

प्रयोग ResNet-18 का उपयोग करके CIFAR-100, Tiny-ImageNet, और ImageNet-1k पर क्लास-इन्क्रीमेंटल लर्निंग (CIL) और टास्क-इन्क्रीमेंटल लर्निंग (TIL) परिदृश्यों को कवर करते हुए किए गए।

प्रदर्शन हाइलाइट्स

• ImageNet-1k (CIL): SNV ने 10 कार्यों पर 41.30% सटीकता, 20 कार्यों पर 34.20% और 50 कार्यों पर 25.60% सटीकता प्राप्त की। इसने लगातार सभी बफ़र-मुक्त बेसलाइन्स (जैसे NFL+, DCNet) को पछाड़ा और यहाँ तक कि 10-कार्य परिदृश्य में 20,000 उदाहरणों को संग्रहीत करने वाले मेमोरी-आधारित विधि DyTox को भी पीछे छोड़ दिया।
• ImageNet-1k (TIL): SNV ने 57.82% सटीकता प्राप्त की जिसमें 0.0 बैकवर्ड ट्रांसफर (BWT) था, जिसने सभी बफ़र-मुक्त विधियों को पछाड़ दिया और बिना कोई डेटा संग्रहीत किए मेमोरी-आधारित विधियों के बराबर या उनसे बेहतर प्रदर्शन किया।
• बेसलाइन्स के साथ तुलना:
  • CIL में, SNV ने 10 कार्यों पर दूसरे सर्वश्रेष्ठ बफ़र-मुक्त तरीके (NFL+) पर +2.88% सुधार किया, और 50 कार्यों पर यह अंतर बढ़कर +3.20% हो गया।
  • TIL में, SNV ने CIFAR-100 पर ($c=0.5$ पर) WSN (Winning SubNetwork) से 15.76% बेहतर प्रदर्शन किया, जो दर्शाता है कि सिद्धांत आधारित शापली चयन बाइनरी ह्यूरिस्टिक चयन से बेहतर है।
• पैरामीटर दक्षता: प्रूनिंग विश्लेषण ने दिखाया कि SNV, PEC या EWC जैसी विधियों की तुलना में मापदंडों का अधिक कुशलता से उपयोग करता है। SNV ढहने (collapse) से पहले गहरे प्रूनिंग के तहत भी उच्च सटीकता बनाए रखता है, जो कम रेडंडेंसी और अधिक महत्वपूर्ण पैरामीटर उपयोग को दर्शाता है।
• कम्प्यूटेशनल लागत: हालांकि SNV के लिए हल्के रेगुलराइज़र (जैसे EWC) की तुलना में अधिक FLOPs की आवश्यकता होती है, लेकिन ओवरहेड मामूली (~NFL+ का 1.24x) है। यह DyTox जैसे मेमोरी-आधारित तरीकों की तुलना में काफी अधिक कुशल है, जिन्हें ~2.8x FLOPs और 2.1x GPU मेमोरी की आवश्यकता होती है।

5. महत्व और दावे

पेपर का दावा है कि SNV एक सिद्धांतिक, बफ़र-मुक्त समाधान प्रदान करता है जो कैटास्ट्रोफिक फॉरगेटिंग के लिए उपयुक्त है और संसाधन-बाधित एवं गोपनीयता-संवेदनशील वातावरण के लिए अनुकूल है।

• गोपनीयता: पिछले डेटा को संग्रहीत करने की आवश्यकता को समाप्त करके, SNV डेटा प्रतिधारण नियमों (जैसे GDPR) से जुड़ी गोपनीयता जोखिमों से बचता है।
• स्केलेबिलिटी: यह डायनेमिक आर्किटेक्चर विधियों की अनियंत्रित मेमोरी वृद्धि से बचता है।
• प्रभावशीलता: लेखक तर्क देते हैं कि केवल नमूनों को संग्रहीत करना और पुनरावृत्त करना इष्टतम रणनीति नहीं हो सकती है; इसके बजाय, एक निश्चित नेटवर्क के भीतर "सही" न्यूरॉन्स की पहचान करना और उन्हें संरक्षित करना एक अधिक मजबूत दृष्टिकोण है।
• सीमाएँ: लेखक स्वीकार करते हैं कि पोस्ट-टास्क शापली अनुमान चरण कम्प्यूटेशनल लागत जोड़ता है, जो बहुत बड़े मॉडलों के लिए बाधा बन सकता है। भविष्य के कार्य इन मानों को ऑनलाइन अनुमानित करने का लक्ष्य रखते हैं ताकि अलग अनुमान चरण को समाप्त किया जा सके।

यह कार्य SNV को मेमोरी-आधारित दृष्टिकोणों के एक मजबूत विकल्प के रूप में स्थापित करता है, यह प्रदर्शित करते हुए कि सख्त निरंतर शिक्षण के लिए डेटा एक्सेस प्रतिबंधों का उल्लंघन किए बिना उच्च प्रदर्शन प्राप्त किया जा सकता है।