Towards Certified Unlearning for Deep Neural Networks

यह बिनची झांग और अन्य द्वारा लिखित शोध पत्र "Towards Certified Unlearning for Deep Neural Networks" का विस्तृत तकनीकी सारांश है।

1. समस्या विवरण (Problem Statement)

मशीन अनलर्निंग (Machine Unlearning) से तात्पर्य प्रशिक्षित मॉडल से विशिष्ट प्रशिक्षण डेटा (unlearned set $D_u$) के प्रभाव को हटाने की प्रक्रिया से है, बिना उसे शुरुआत से पुन: प्रशिक्षित (retraining) किए। जबकि सर्टिफाइड अनलर्निंग (Certified Unlearning) को मजबूत सैद्धांतिक गारंटियों के साथ उत्तल मॉडलों (जैसे कि लीनियर मॉडल, SVM) के लिए सफलतापूर्वक लागू किया गया है, डीप न्यूरल नेटवर्क्स (DNNs) के लिए इसका अनुप्रयोग चुनौतीपूर्ण बना हुआ है क्योंकि:

• गैर-उत्तलता (Non-convexity): DNNs में अत्यधिक गैर-उत्तल लॉस लैंडस्केप होते हैं, जिससे मानक न्यूटन-आधारित सन्निकटन विधियाँ (जो उत्तलता धारणाओं पर निर्भर करती हैं) सैद्धांतिक रूप से अमान्य हो जाती हैं।
• गणना लागत (Computational Cost): बड़े पैमाने के DNNs के लिए पूर्ण पुन: प्रशिक्षण (retraining) के माध्यम से सटीक अनलर्निंग अत्यधिक महंगी है।
• वास्तविक दुनिया की जटिलता: मौजूदा विधियाँ अक्सर गैर-अभिसरण प्रशिक्षण (जैसे, अर्ली स्टॉपिंग) या क्रमिक अनलर्निंग अनुरोधों (समय के साथ कई उपयोगकर्ताओं द्वारा डेटा हटाने के अनुरोध) को ध्यान में रखने में विफल रहती हैं।

मुख्य समस्या एक ऐसी विधि विकसित करना है जो DNNs के लिए सैद्धांतिक प्रमाणन (theoretical certification) प्रदान कर सके (यह गारंटी देते हुए कि अनलर्न किया गया मॉडल पुन: प्रशिक्षित मॉडल के सांख्यिकीय रूप से अविभेद्य है) और साथ ही गणना दक्षता (computational efficiency) को भी बनाए रखे।

2. कार्यप्रणाली (Methodology)

लेखक एक ऐसा ढांचा प्रस्तावित करते हैं जो तीन मुख्य तकनीकी स्तंभों के माध्यम से गैर-उत्तल उद्देश्यों (non-convex objectives) के लिए सर्टिफाइड अनलर्निंग का विस्तार करता है:

A. सैद्धांतिक आधार: सन्निकटन त्रुटि को बांधना (Bounding Approximation Error)

यह विधि थ्योरम 2.3 पर आधारित है, जो कहती है कि यदि पुन: प्रशिक्षित मॉडल $\tilde{w}^*$ का एक सन्निकटन $\tilde{w}$ एक सीमित त्रुटि $\Delta = \|\tilde{w} - \tilde{w}^*\|_2$ रखता है, तो गाऊसी शोर (Gaussian noise) $Y \sim \mathcal{N}(0, \sigma^2 I)$ जोड़ना, जहाँ $\sigma \ge \frac{\Delta}{\epsilon}\sqrt{2\ln(1.25/\delta)}$, एक $\epsilon-\delta$ प्रमाणित अनलर्निंग प्रक्रिया प्रदान करता है।

DNNs के लिए इसे प्राप्त करने हेतु, लेखक मानक सिंगल-स्टेप न्यूटन अपडेट को संशोधित करते हैं:

1. स्थानीय उत्तल सन्निकटन (Local Convex Approximation): गैर-उत्तलता को संभालने के लिए, वे हेसियन गणना (Hessian computation) के दौरान ऑब्जेक्टिव फंक्शन में एक $\ell_2$ रेगुलराइजेशन टर्म ($\lambda$) जोड़ते हैं। यह सुनिश्चित करता है कि हेसियन मैट्रिक्स $(H_{w^*} + \lambda I)$ धनात्मक निश्चित (positive definite) है, जिससे एक सीमित व्युत्क्रम (inverse) संभव हो पाता है।
2. पैरामीटर नॉर्म बाधाएं (Parameter Norm Constraints): वे मॉडल मापदंडों पर $\|w\|_2 \le C$ का प्रतिबंध लगाते हैं। यह मूल मॉडल $w^*$ और पुन: प्रशिक्षित मॉडल $\tilde{w}^*$ के बीच की दूरी को सीमित करता है, जिससे सन्निकटन त्रुटि को बढ़ने से रोका जा सके।
3. त्रुटि सीमा व्युत्पत्ति (Error Bound Derivation): इन बाधाओं के तहत, वे सन्निकटन त्रुटि के लिए एक सुलभ ऊपरी स्तर (upper bound) व्युत्पन्न करते हैं (समीकरण 7 और 11), जो वैश्विक उत्तलता धारणाओं पर निर्भर नहीं करता है।

B. गणना दक्षता: इनवर्स हेसियन सन्निकटन (Inverse Hessian Approximation)

DNNs के लिए सटीक इनवर्स हेसियन की गणना करना $O(p^3)$ है (जहाँ $p$ मापदंडों की संख्या है), जो अव्यवहारिक है। लेखक निम्नलिखित का उपयोग करते हैं:

• LiSSA (Linear-time Stochastic Second-order Algorithm): इनवर्स हेसियन-वेक्टर उत्पाद को अनुमानित करने के लिए एक पुनरावृत्ति अनुमानक (iterative estimator), जिसकी जटिलता $O(sp^2)$ है, जहाँ $s$ पुनरावृत्तियों की संख्या है।
• ग्रेडिएंट अपघटन (Gradient Decomposition): रिटेंड सेट $D_r$ (जो बड़ा है) पर ग्रेडिएंट की गणना करने के बजाय, वे $\nabla L(w^*, D) = 0$ के गुण का उपयोग करके $\nabla L(w^*, D_r)$ को छोटे अनलर्न किए गए सेट $D_u$ के ग्रेडिएंट के रूप में व्यक्त करते हैं। यह जटिलता को $O(np)$से घटाकर$O(n_u p)$ कर देता है।

C. वास्तविक दुनिया के परिदृश्यों को संभालना

• गैर-अभिसरण (Non-Convergence): इस विधि को उन मामलों के लिए अनुकूलित किया गया है जहाँ प्रशिक्षण जल्दी रुक जाता है (गैर-इष्टतम $w^*$)। त्रुटि सीमा को अवशिष्ट ग्रेडिएंट नॉर्म ($G$) को शामिल करने के लिए समायोजित किया गया है, जिससे यह सुनिश्चित होता है कि प्रमाणन तब भी मान्य रहे जब मॉडल पूरी तरह से अभिसरित न हुआ हो।
• क्रमिक अनलर्निंग (Sequential Unlearning): यह ढांचा कई क्रमिक विलोपन अनुरोधों का समर्थन करता है। लेखक सिद्ध करते हैं कि जब तक मॉडल मापदंड सीमित रहते हैं, तब तक सन्निकटन त्रुटि सीमा स्थिर रहती है (और संभावित रूप से घटती है) क्योंकि रिटेंड सेट छोटा होता जाता है।

3. प्रमुख योगदान (Key Contributions)

1. गैर-उत्तलता तक विस्तार: बिना किसी अवास्तविक उत्तलता धारणा पर निर्भर हुए, स्थानीय उत्तल सन्निकटन और पैरामीटर बाधाओं का उपयोग करके DNNs के लिए सर्टिफाइड अनलर्निंग का पहला कठोर विस्तार।
2. कुशल एल्गोरिदम: LiSSA और ग्रेडिएंट अपघटन का उपयोग करके एक गणनात्मक रूप से कुशल एल्गोरिदम (एल्गोरिदम 1) का विकास, जो सटीक पुन: प्रशिक्षण की तुलना में समय जटिलता को काफी कम करता है।
3. जटिल सेटिंग्स के लिए सैद्धांतिक गारंटी: यह प्रमाण कि प्रमाणन गैर-अभिसरण प्रशिक्षण और क्रमिक अनलर्निंग परिदृश्यों के तहत भी मान्य रहता है, जो व्यावहारिक कार्यान्वयन के अंतर को पाटता है।
4. त्रुटि सीमा विश्लेषण: एक विस्तृत विश्लेषण जो दिखाता है कि हाइपरपैरामीटर्स (रेगुलराइजेशन $\lambda$, नॉर्म बाउंड $C$) सन्निकटन त्रुटि सीमा और परिणामी शोर स्तर को कैसे प्रभावित करते हैं।

4. प्रयोगात्मक परिणाम (Experimental Results)

लेखकों ने MLP, All-CNN, और ResNet-18 आर्किटेक्चर का उपयोग करके MNIST, CIFAR-10, और SVHN पर अपने तरीके का मूल्यांकन किया।

• अनलर्निंग प्रभावकारिता (गोपनीयता):
  • मेंबरशिप इन्फरेंस अटैक (MIA): सर्टिफाइड विधि ने बेसलाइन (Fine-tuning, Negative Gradient, Fisher Forgetting, L-CODEC) की तुलना में सबसे कम अटैक सक्सेस रेट (Accuracy और AUC) प्राप्त की, जो अनलर्न किए गए नमूनों के संबंध में सूचना को हटाने की बेहतर क्षमता को दर्शाता है।
  • रीलर्न टाइम (Relearn Time): एक विशिष्ट लॉस थ्रेशोल्ड तक अनलर्न किए गए मॉडल को पुन: प्रशिक्षित करने में लगने वाला समय कम था, जो पुष्टि करता है कि मॉडल ने डेटा को प्रभावी ढंग से "भूल" दिया है।
• मॉडल उपयोगिता (Model Utility):
  • अनलर्न किए गए मॉडल ने रिटेंड सेट और टेस्ट सेट पर उच्च F1-स्कोर बनाए रखा, जो शून्य से पुन: प्रशिक्षित बेसलाइन के समान है।
  • अनलर्न किए गए सेट पर प्रदर्शन काफी गिर गया (जैसा कि वांछित है), जो उन बेसलाइन्स से बेहतर प्रदर्शन करता है जिन्होंने बहुत अधिक जानकारी बरकरार रखी थी।
• दक्षता (Efficiency):
  • सर्टिफाइड अनलर्निंग विधि शुरुआत से पुन: प्रशिक्षण की तुलना में >10x तेज़ थी।
  • इनवर्स हेसियन सन्निकटन (LiSSA) का उपयोग करने से सटीक इनवर्स हेसियन की गणना (MLP/MNIST पर परीक्षण किया गया) की तुलना में 470x की गति वृद्धि हुई।
• एब्लेशन अध्ययन (Ablation Studies):
  • स्थानीय उत्तल सन्निकटन ($\lambda=0$) या नॉर्म बाधा ($C$) को हटाने से सन्निकटन त्रुटि सीमा काफी बढ़ गई, जो इन तकनीकों की आवश्यकता को प्रमाणित करती है।
  • $\lambda$ को बढ़ाने से त्रुटि सीमा कम हो गई लेकिन मॉडल उपयोगिता को खराब होने से बचाने के लिए सावधानीपूर्वक ट्यूनिंग की आवश्यकता पड़ी।

5. महत्व (Significance)

यह शोध पत्र सैद्धांतिक मशीन अनलर्निंग और व्यावहारिक डीप लर्निंग अनुप्रयोगों के बीच एक महत्वपूर्ण अंतर को पाटता है।

• सैद्धांतिक कठोरता: यह सर्टिफाइड अनलर्निंग को केवल उत्तल मॉडलों से आगे ले जाता है, जो DNNs के लिए पहला सैद्धांतिक आश्वासन प्रदान करता है जो गैर-उत्तलता और गैर-अभिसरण को ध्यान में रखता है।
• व्यावहारिक व्यवहार्यता: क्रमिक और गैर-अभिसरण सेटिंग्स में दक्षता और मजबूती का प्रदर्शन करके, यह कार्य सर्टिफाइड अनलर्निंग को GDPR और CCPA जैसे नियमों का अनुपालन करने वाले वास्तविक दुनिया के सिस्टम के लिए एक व्यवहार्य समाधान बनाता है।
• गोपनीयता आश्वासन: यह गणितीय रूप से सिद्ध तरीका प्रदान करता है कि DNNs से उपयोगकर्ता डेटा को हटाया जा सके, जो अनुभवजन्य अनुमानों (empirical approximations) की तुलना में मजबूत गारंटी के साथ "भूलने के अधिकार" (right to be forgotten) को संबोधित करता है।

संक्षेप में, प्रस्तावित विधि कठोरता (मजबूत सैद्धांतिक प्रमाणन), दक्षता (तेज़ गणना), और उपयोगिता (मॉडल प्रदर्शन को बनाए रखना) के बीच संतुलन स्थापित करती है, जो डीप लर्निंग में अनलर्निंग के लिए एक नया मानक स्थापित करती है।