तकनीकी सारांश: विस्मृति-प्रतिधारण द्वंद्व (The Forgetting-Retention Dilemma): निरंतर शिक्षण में प्रमाणित विस्मरण सिद्धांत

समस्या का निरूपण

यह शोध पत्र मशीन अनलर्निंग (Machine Unlearning) और निरंतर शिक्षण (Continual Learning - CL) के मिलन बिंदु को संबोधित करता है। जहाँ मशीन अनलर्निंग का लक्ष्य गोपनीयता नियमों (जैसे, "भूल जाने के अधिकार") को पूरा करने के लिए विशिष्ट डेटा के प्रभाव को हटाना है, और CL का लक्ष्य कैटास्ट्रोफिक फॉरगेटिंग (catastrophic forgetting) के बिना क्रमिक कार्यों को सीखना है, इन दोनों को मिलाना एक मौलिक सैद्धांतिक और व्यावहारिक चुनौती पेश करता है।

मौजूदा प्रमाणित अनलर्निंग एल्गोरिदम (जैसे, हेसियन-आधारित या ग्रेडिएंट-आधारित विधियाँ) स्थिर सेटिंग्स के लिए डिज़ाइन किए गए हैं। वे CL संदर्भों में विफल रहते हैं क्योंकि:

1. जटिल मॉडल विकास: CL मॉडल गैर-i.i.d. कार्यों पर गतिशील रूप से विकसित होते हैं, जो पिछले सूचनाओं को जटिल तरीकों से संहिताबद्ध करते हैं जिन्हें वर्तमान प्रमाणित एल्गोरिदम प्रभावी ढंग से उलट नहीं सकते।
2. विरोधाभासी उद्देश्य: CL का लक्ष्य विस्मृति को रोकना (ऐतिहासिक ज्ञान को संरक्षित करना) है, जबकि अनलर्निंग के लिए लक्षित विस्मरण की आवश्यकता होती है।
3. भंडारण और पहुंच संबंधी बाधाएं: कई प्रमाणित अनलर्निंग विधियों के लिए पूर्ण डेटा प्रतिधारण की आवश्यकता होती है या वे गतिशील वातावरणों में सामान्य, एसिंक्रोनस (asynchronous) अनलर्निंग अनुरोध अनुक्रमों को संभालने में विफल रहती हैं।

लेखक निरंतर शिक्षण-अनलर्निंग (CLU) समस्या को एक क्रमिक दो-चरणीय प्रक्रिया के रूप में औपचारिक रूप देते हैं:

1. शिक्षण चरण (Learning Stage): मॉडल भूलने की प्रक्रिया को कम करने के लिए एक $\ell_2$-रेगुलराइज्ड योजना का उपयोग करके एक नए कार्य $D_t$ पर अपडेट होता है।
2. अनलर्निंग चरण (Unlearning Stage): पिछले कार्यों के एक सेट $S_t$ को हटाने के अनुरोध पर प्राप्त होने पर, सिस्टम को एक ऐसा मॉडल तैयार करना चाहिए जो शेष डेटा पर पुन: प्रशिक्षित (retrained) मॉडल के समान हो, और $(\epsilon, \delta)$-प्रमाणित अनलर्निंग गारंटी को संतुष्ट करता हो।

प्राथमिक प्रदर्शन मीट्रिक पोस्ट-अनलर्निंग अतिरिक्त जोखिम (Post-Unlearning Excess Risk - $E_{LU}$) है, जो दो प्रतिस्पर्धी पदों में विभाजित है:

• अनलर्निंग लॉस ($E_U$): पुन: प्रशिक्षित मॉडल के सन्निकटन (approximation) से उत्पन्न त्रुटि (इसे "भूलने" की लागत कहा जाता है)।
• CL अतिरिक्त जोखिम ($E_L$): रिटेन किए गए कार्यों पर CL एल्गोरिदम द्वारा होने वाली त्रुटि (इसे "प्रतिधारण" की लागत कहा जाता है)।

कार्यप्रणाली (Methodology)

शोध पत्र CLU के लिए एक सैद्धांतिक आधार स्थापित करता है और तीन एल्गोरिदम दृष्टिकोण प्रस्तावित करता है:

1. सैद्धांतिक आधार

लेखक $\ell_2$-रेगुलराइजेशन के तहत गैर-कॉन्वेक्स (non-convex) मॉडलों के लिए CL अतिरिक्त जोखिम ($E_L$) के लिए एक ऊपरी सीमा (upper bound) व्युत्पन्न करते हैं। वे सिद्ध करते हैं कि CL अतिरिक्त जोखिम को न्यूनतम करने के लिए इष्टतम रेगुलराइजेशन पैरामीटर $\lambda$, अनलर्निंग लॉस को न्यूनतम करने के लिए आवश्यक पैरामीटर से काफी भिन्न हो सकता है, जो अंतर्निहित ट्रेड-ऑफ को उजागर करता है।

2. ग्रेडिएंट-आधारित CLU (प्राकृतिक विस्मरण - Natural Forgetting)

यह दृष्टिकोण CL में अंतर्निहित "प्राकृतिक विस्मरण" घटना का लाभ उठाता है, जहाँ क्रमिक अपडेट के कारण दूर के पिछले कार्यों का प्रभाव समय के साथ कम हो जाता है।

• तंत्र: स्पष्ट अनलर्निंग चरणों के बजाय, यह विधि मॉडल मापदंडों में गॉसियन शोर (Gaussian noise) जोड़ती है। शोर का पैमाना सन्निकटन त्रुटि के सैद्धांतिक ऊपरी बाउंड ($\gamma_t$) के आधार पर कैलिब्रेट किया जाता है, जो हटाए गए कार्यों के अवशिष्ट प्रभाव (residual influence) को मापता है।
• लाभ: इसके लिए वर्तमान मॉडल अवस्था के अलावा शून्य स्टोरेज ओवरहेड की आवश्यकता होती है।
• सीमा: यह हाल के कार्यों के लिए कम प्रभावी है जहाँ प्राकृतिक विस्मरण अभी तक नहीं हुआ है, जिससे उच्च अनलर्निंग लॉस होता है।

3. हेसियन-आधारित CLU

यह दृष्टिकोण सटीक, लक्षित विस्मरण प्राप्त करने के लिए CL सेटिंग में द्वितीय-क्रम (second-order) प्रमाणित अनलर्निंग विधियों को अनुकूलित करता है।

• तंत्र: यह संग्रहीत हेसियन जानकारी (या गौस-न्यूटन या डायगोनल हेसियन जैसे सन्निकटन) और मॉडल अपडेट ($\Delta_t$) का उपयोग करके एक सुधार पद ($\bar{\Delta}_t$) की गणना करता है। यह पद एक ही चरण में पुन: प्रशिक्षित मॉडल का अनुमान लगाता है, यहाँ तक कि मनमाने, एसिंक्रोनस अनलर्निंग अनुक्रमों के लिए भी।
• चुनौती: एसिंक्रोनस अनुरोधों को संभालना "टेम्पोरल डिसऑर्डर" (temporal disorder) पैदा करता है, जहाँ पिछले विलोपन का प्रभाव आगामी अपडेट में प्रसारित होता है। लेखक इस टेम्पोरल डिसऑर्डर को ध्यान में रखने के लिए एक रिकर्सिव (recursive) सुधार पद व्युत्पन्न करते हैं।
• लागत: इसमें अनलर्निंग घटनाओं की संख्या और हेसियन सन्निकटन के आयाम के अनुपात में स्टोरेज ओवरहेड होता है।

4. हाइब्रिड रणनीति (Forgetting-Enhanced Hessian)

स्टोरेज लागत और सटीकता के बीच संतुलन बनाने के लिए, लेखक एक हाइब्रिड रणनीति प्रस्तावित करते हैं।

• तंत्र: यह हाल के अनलर्निंग अनुरोधों (जहाँ प्राकृतिक विस्मरण कमजोर है) के लिए हेसियन-आधारित विधि का उपयोग करता है और दूर के पिछले कार्यों के लिए प्राकृतिक विस्मरण पर निर्भर रहता है।
• कार्यान्वयन: एल्गोरिदम एक विशिष्ट टेम्पोरल थ्रेशोल्ड (जो अनलर्निंग घटनाओं के बीच के अंतर द्वारा निर्धारित होता है) से पुराने कार्यों के लिए संग्रहीत हेसियन जानकारी को हटा देता है।
• लाभ: यह स्टोरेज जटिलता को $O(t \cdot d)$ से घटाकर $O(\max(t_i - t_{i-1}) \cdot d)$ कर देता है (जहाँ $t_i$ अनलर्निंग के समय हैं), जबकि कम अनलर्निंग त्रुटि बनाए रखता है।

मुख्य परिणाम

MNIST, CIFAR-10, और CIFAR-100 पर ResNet-18 और CNN बैकबोन के साथ गैर-i.i.d. टास्क सीक्वेंस का उपयोग करके प्रयोग किए गए।

1. क्रम संवेदनशीलता (Order Sensitivity): सैद्धांतिक सीमाएँ और प्रयोग पुष्टि करते हैं कि फॉरवर्ड-सिंक्रोनस (forward-synchronous) अनलर्निंग अनुक्रम (जहाँ हटाए गए कार्य पिछले अनलर्निंग इवेंट से नए हैं) एसिंक्रोनस अनुक्रमों की तुलना में कम सन्निकटन त्रुटि प्रदान करते हैं। एसिंक्रोनस अनुरोध टेम्पोरल डिसऑर्डर के कारण अतिरिक्त त्रुटि पदों को संचित करते हैं।
2. सटीकता बनाम स्टोरेज ट्रेड-ऑफ:
   • प्राकृतिक विस्मरण (ग्रेडिएंट-आधारित): सबसे कम स्टोरेज (लगभग शून्य) प्राप्त करता है लेकिन विशेष रूप से हाल के कार्यों के लिए उच्चतम सन्निकटन त्रुटि से ग्रस्त होता है।
   • शुद्ध हेसियन-आधारित (Pure Hessian-based): पूर्ण पुन: प्रशिक्षण के करीब सन्निकटन त्रुटि (जैसे, CIFAR-100 पर ~0.009) प्राप्त करता है लेकिन इसे महत्वपूर्ण मेमोरी की आवश्यकता होती है (गौस-न्यूटन वेरिएंट में नेचुरल फॉरगेटिंग से 5 गुना अधिक)।
   • हाइब्रिड (Forgetting-Enhanced): केवल मामूली वृद्धि के साथ (~0.045) मेमोरी उपयोग को काफी कम कर देता है (डायगोनल हेसियन के तुल्य), जो एक व्यावहारिक मध्य मार्ग प्रदान करता है।
3. प्रमाणित गारंटी: सैद्धांतिक ऊपरी सीमा ($\gamma_T$) को अनुभवजन्य त्रुटियों के विरुद्ध सत्यापित किया गया। सीमाएँ ग्रेडिएंट और हेसियन दोनों विधियों के लिए मान्य हैं, जो $(\epsilon, \delta)$-प्रमाणित अनलर्निंग सुनिश्चित करती हैं।
4. रिटेंशन-फॉरगेटिंग ट्रेड-ऑफ: रेगुलराइजेशन स्ट्रेंथ $\lambda$ को बढ़ाने से अनलर्निंग त्रुटि कम हो जाती है (पैरामीटर ड्रिफ्ट को सीमित करके) लेकिन शुद्ध CL टेस्ट सटीकता कम हो जाती है, जो रिटेंशन और फॉरगेटिंग के बीच सैद्धांतिक तनाव को अनुभवजन्य रूप से मान्य करती है।

महत्व और दावे

शोध पत्र का दावा है कि यह प्रमाणित अनलर्निंग और निरंतर शिक्षण को जोड़ने वाला पहला सैद्धांतिक आधार प्रदान करता है। इसका महत्व निम्नलिखित में निहित है:

• ट्रेड-ऑफ को औपचारिक रूप देना: यह "भूलने-प्रतिधारण द्वंद्व" को परिभाषित करता है, जो पोस्ट-अनलर्निंग जोखिम को CL अतिरिक्त जोखिम और अनलर्निंग लॉस में विभाजित करता है, और यह सिद्ध करता है कि एक को न्यूनतम करना अक्सर दूसरे को खराब करता है।
• सैद्धांतिक सीमाएँ: यह गैर-कॉन्वेक्स सेटिंग्स में $\ell_2$-रेगुलराइज्ड CL के लिए पहले अतिरिक्त-जोखिम सीमाओं को स्थापित करता है और गतिशील, क्रमिक अनुरोध पैटर्न के लिए प्रमाणित अनलर्निंग सिद्धांत को विस्तारित करता है।
• व्यावहारिक एल्गोरिदम: यह एक हाइब्रिड रणनीति पेश करता है जो प्रमाणित अनलर्निंग की सैद्धांतिक गारंटी से समझौता किए बिना सेकंड-ऑर्डर अनलर्निंग विधियों की स्टोरेज बाधा को हल करती है।
• बेंचमार्किंग: यह एक कठोर बेसलाइन (Natural Forgetting) प्रदान करता है और प्रदर्शित करता है कि हालांकि यह सरल है, फिर भी यह हाल के कार्यों के लिए अपर्याप्त है, जिससे प्रस्तावित हेसियन-आधारित संवर्द्धन की आवश्यकता सिद्ध होती है।

लेखक निष्कर्ष निकालते हैं कि हालांकि उनका कार्य $\ell_2$-रेगुलराइज्ड CL एल्गोरिदम पर केंद्रित है, यह मेमोरी-आधारित दृष्टिकोण या एलास्टिक वेट कंसोलिडेशन (EWC) जैसे अधिक परिष्कृत CL विधियों के लिए प्रमाणित अनलर्निंग सिद्धांत को विस्तारित करने का मार्ग प्रशस्त करता है।