तकनीकी सारांश: विश्वसनीय ऑडिटिंग के लिए सांख्यिकीय सदस्यता अनुमान (SMI)

1. समस्या विवरण (Problem Statement)

मशीन अनलर्निंग (MU) एक महत्वपूर्ण तंत्र है जो "विस्मरण के अधिकार" (right to be forgotten) को लागू करने में सक्षम बनाता है, जिससे मॉडल को शून्य से पुन: प्रशिक्षित किए बिना विशिष्ट प्रशिक्षण डेटा को हटाने की अनुमति मिलती है। इस क्षेत्र में एक केंद्रीय चुनौती ऑडिटिंग (Auditing) है: इस बात का विश्वसनीय सत्यापन करना कि क्या मॉडल ने निर्दिष्ट डेटा को वास्तव में भुला दिया है।

वर्तमान ऑडिटिंग मानक मुख्य रूप से सदस्यता अनुमान हमलों (Membership Inference Attacks - MIA) पर निर्भर करते हैं। प्रचलित धारणा यह है कि यदि कोई MIA किसी नमूने को सदस्य के रूप में पहचानने में विफल रहता है, तो मॉडल ने उसे सफलतापूर्वक भुला दिया है। लेखक तर्क देते हैं कि यह धारणा दो मुख्य कारणों से मौलिक रूप से त्रुटिपूर्ण है:

1. संरेखण पूर्वाग्रह (Alignment Bias): विस्मृत नमूने ($F_u$) एक ऐसा फीचर स्पेस (feature space) घेरते हैं जो मूल सदस्य नमूनों ($F_m$) और वास्तविक गैर-सदस्य नमूनों ($F_n$) दोनों से भिन्न होता है। जबकि $F_m$ सकारात्मक ग्रेडिएंट्स (gradients) में योगदान देता है, $F_n$ कोई ग्रेडिएंट नहीं देता है, और $F_u$ नकारात्मक ग्रेडिएंट्स उत्पन्न करता है। पारंपरिक MIA यह मानकर चलते हैं कि $F_u$, $F_n$ के साथ संरेखित है; हालाँकि, एक विफल अनुमान प्रयास अक्सर इस मिसअलाइनमेंट (misalignment) के कारण होता है न कि वास्तविक विस्मरण के कारण, जिससे "भ्रामक विस्मरण" (illusory forgetting) की स्थिति उत्पन्न होती है।
2. गणना संबंधी लागत (Computational Costs): अत्याधुनिक MIA ऑडिटिंग विधियाँ (जैसे LiRA, RMIA) बेसलाइन स्थापित करने के लिए कई "शैडो मॉडल्स" (shadow models) को प्रशिक्षित करने की आवश्यकता रखती हैं, जिससे अत्यधिक गणनात्मक लागत आती है जो लक्ष्य मॉडल को स्वयं पुन: प्रशिक्षित करने के बराबर होती है।

2. कार्यप्रणाली: सांख्यिकीय सदस्यता अनुमान (Statistical Membership Inference - SMI)

संरेखण पूर्वाग्रह और गणनात्मक अक्षमता को संबोधित करने के लिए, लेखक सांख्यिकीय सदस्यता अनुमान (SMI) प्रस्तावित करते हैं, जो एक प्रशिक्षण-मुक्त (training-free) ऑडिटिंग फ्रेमवर्क है।

सैद्धांतिक आधार (Theoretical Foundation)

यह शोधपत्र ऑडिटिंग समस्या को इष्टतम परिवहन सिद्धांत (Optimal Transport Theory) का उपयोग करके पुनर्गठित करता है। विस्मरण को बाइनरी वर्गीकरण कार्य (सदस्य बनाम गैर-सदस्य) के रूप में मानने के बजाय, SMI विस्मृत फीचर्स $F_u$ के वितरण को सदस्य वितरण $F_m$ और गैर-सदस्य वितरण $F_n$ के एक कॉनवेक्स मिश्रण (convex mixture) के रूप में मॉडल करता है:
$$F_u \approx (1 - \rho)F_m + \rho F_n$$
यहाँ, $\rho$ मिश्रण अनुपात (mixing proportion) या विस्मरण दर (forgetting rate) को दर्शाता है। ऑडिटिंग का उद्देश्य अब एक क्लासिफायर को प्रशिक्षित करने के बजाय $\rho$ का अनुमान लगाना है। लेखक PAC-Bayes थ्योरी ( $\chi^2$-divergence का उपयोग करते हुए) का उपयोग करके सिद्ध करते हैं कि MIA-आधारित ऑडिटिंग में एक अपरिहार्य संरेखण त्रुटि (alignment error) होती है, जो हमलावर के प्रशिक्षण डेटा और वास्तविक विस्मृत डेटा के बीच वितरण संबंधी बदलाव (distributional shift) द्वारा नियंत्रित होती है।

एल्गोरिदम वेरिएंट्स (Algorithmic Variants)

SMI सहायक मॉडल्स को प्रशिक्षित किए बिना सांख्यिकीय मोमेंट्स (statistical moments) को मैच करके $\rho$ का अनुमान लगाता है:

1. SMI (लो-ऑर्डर मोमेंट्स):

   • यह मानता है कि मिश्रण मॉडल पहले दो मोमेंट्स (माध्य $\mu$ और कोवेरिएंस $\Sigma$) के लिए मान्य है।
   • यह विस्मृत डेटा के एम्पिरिकल कोवेरिएंस (empirical covariance) और मिश्रण मॉडल द्वारा अनुमानित कोवेरिएंस के बीच फ्रोबेनियस नॉर्म (Frobenius norm) विचलन को कम करके एक क्लोज्ड-फॉर्म समाधान प्राप्त करता है।
   • $\rho$ खोजने के लिए एक चर में क्यूबिक समीकरण को हल करता है।

2. SMI-M (मैक्सिमम मीन डिसक्रीपेंसी - Maximum Mean Discrepancy):

   • यह उच्च-आयामी स्थानों (high-dimensional spaces) और गैर-गाऊसी वितरणों के तहत कोवेरिएंस अनुमान की अस्थिरता को संबोधित करता है।
   • यह कर्नेल मीन एम्बेडिंग्स (kernel mean embeddings) का उपयोग करके फीचर वितरणों को रिप्रोड्यूसिंग कर्नेल हिल्बर्ट स्पेस (RKHS) में एम्बेड करता है।
   • यह अनुमान को एक कॉनवेक्स क्वाड्रेटिक प्रोग्रामिंग समस्या के रूप में स्वरूपित करता है ताकि विस्मृत वितरण और सदस्य एवं गैर-सदस्य वितरण के कॉनवेक्स संयोजन के बीच MMD को न्यूनतम किया जा सके।

अनिश्चितता परिमाणीकरण (Uncertainty Quantification)

कॉन्फिडेंस इंटरवल के लिए शैडो मॉडल्स पर निर्भर रहने वाले MIA तरीकों के विपरीत, SMI ऑडिटिंग फीचर सेट पर बूटस्ट्रैपिंग (bootstrapping) का उपयोग करता है। विस्मृत डेटा को पुन: नमूनाकरण (resampling) करके और $\rho$ का पुन: अनुमान लगाकर, SMI ऑडिटिंग परिणाम की विश्वसनीयता को मापने के लिए संदर्भ रेंज (जैसे, 5वीं से 95वीं पर्सेंटाइल) प्रदान करता है।

3. प्रमुख योगदान (Key Contributions)

• सैद्धांतिक अंतर्दृष्टि: यह शोधपत्र सिद्ध करता है कि विस्मरण के कारण एक असफल सदस्यता अनुमान प्रयास वास्तविक विस्मरण को नहीं दर्शाता है, क्योंकि इसमें हमलावर के डेटा और गैर-सदस्यों के बीच एक अंतर्निहित "संरेखण पूर्वाग्रह" होता है। यह स्थापित करता है कि ऑडिटिंग को बाइनरी वर्गीकरण की सफलता के बजाय वितरणों के मिश्रण अनुपात को मापना चाहिए।
• प्रशिक्षण-मुक्त फ्रेमवर्क: SMI शैडो मॉडल्स और MIA क्लासिफायर्स को प्रशिक्षित करने की आवश्यकता को समाप्त करता है, जिससे गणनात्मक ओवरहेड काफी कम हो जाता है।
• विश्वसनीयता मेट्रिक्स: फ्रेमवर्क बूटस्ट्रैपिंग-आधारित संदर्भ रेंज प्रदान करता है, जो ऑडिटिंग निर्णयों में आत्मविश्वास का आकलन करने के लिए एक ठोस तरीका प्रदान करता है।
• अनुभवजन्य श्रेष्ठता (Empirical Superiority): व्यापक प्रयोग दर्शाते हैं कि SMI (विशेष रूप से SMI-M) विभिन्न डेटासेट्स (CIFAR-10/100, CINIC-10) और मॉडल आर्किटेक्चर (ResNet, ViT) में अनुमान सटीकता के मामले में मौजूदा MIA-आधारित बेसलाइन्स (LiRA, RMIA, IAM, और RULI सहित) से लगातार बेहतर प्रदर्शन करता है।

4. प्रयोगात्मक परिणाम (Experimental Results)

लेखकों ने व्हाइट-बॉक्स स्थितियों के तहत सात MIA-आधारित बेसलाइन्स के विरुद्ध SMI का मूल्यांकन किया:

• सटीकता (Accuracy): SMI-M ने सभी डेटासेट्स में उच्चतम अनुमान सटीकता ($\rho^*$) प्राप्त की, जो पूर्ण विस्मरण (retraining targets) वाले परिदृश्यों में अक्सर 90% से अधिक सटीकता तक पहुँच गई, जबकि MIA विधियों में महत्वपूर्ण विचलन और कम सटीकता देखी गई।
• दक्षता (Efficiency): SMI वेरिएंट्स को केवल एक सिंगल इन्फरेंस पास (बूटस्ट्रैपिंग के साथ) की आवश्यकता होती है और इसमें कोई भी शैडो मॉडल प्रशिक्षित करने की आवश्यकता नहीं होती है। इसके विपरीत, MIA बेसलाइन्स को 8-64 शैडो मॉडल्स को प्रशिक्षित करने की आवश्यकता होती है, जिसके परिणामस्वरूप गणनात्मक लागत SMI की तुलना में कई गुना अधिक होती है।
• मजबूती (Robustness): SMI-M कर्नेल चयन और बैंडविड्थ के बदलावों के तहत स्थिर रहा। विधि ने प्रति क्लास केवल 20 नमूनों के साथ भी विश्वसनीय प्रदर्शन दिखाया, हालांकि बड़े ऑडिट सेट्स के साथ प्रदर्शन में सुधार हुआ।
• व्यावहारिक परिदृश्य: जब अनुमानित विस्मरण विधियों (FineTune, Fisher, Scrub) पर लागू किया गया, तो SMI ने विस्मरण के विभिन्न स्तरों के बीच सफलतापूर्वक अंतर किया और परीक्षण किए गए अनुमानित तरीकों में Scrub को सबसे प्रभावी विधि के रूप में पहचाना।

5. महत्व और दावे (Significance and Claims)

यह शोधपत्र SMI को MIA-आधारित ऑडिटिंग के एक सिद्धांतिक और कुशल विकल्प के रूप में प्रस्तुत करता है। इसका महत्व निम्नलिखित में निहित है:

1. एक मौलिक दोष को सुधारना: यह विस्मरण को सत्यापित करने के लिए MIA पर समुदाय के भरोसे को चुनौती देता है और यह प्रदर्शित करता है कि "विफल हमला = विस्मरण" का अनुमान संरचनात्मक रूप से अस्थिर है।
2. स्केलेबिलिटी (Scalability): शैडो मॉडल्स पर निर्भरता को समाप्त करके, SMI बड़े मॉडल्स के लिए विश्वसनीय ऑडिटिंग को संभव बनाता है जहाँ शैडो मॉडल्स को प्रशिक्षित करना गणनात्मक रूप से निषेध योग्य है।
3. सैद्धांतिक गारंटी: विधि PAC-Bayes बाउंड्स और ऑप्टिमल ट्रांसपोर्ट थ्योरी पर आधारित है, जो विस्मरण प्रदर्शन के ऑडिटिंग के लिए एक कठोर गणितीय आधार प्रदान करती है।

लेखक निष्कर्ष निकालते हैं कि SMI विस्मृत मॉडल्स के ऑडिटिंग के लिए एक नया मानक स्थापित करता है, जो पिछले दृष्टिकोणों के गणनात्मक बोझ के बिना दोनों सैद्धांतिक गारंटी और मजबूत अनुभवजन्य प्रदर्शन प्रदान करता है।