💻 computer science

Towards Explainable Privacy Preservation in Federated Learning via Shapley Value-Guided Noise Injection

यह शोध पत्र FedSVA प्रस्तुत करता है, जो फेडरेटेड लर्निंग के लिए एक व्याख्यात्मक डिफरेंशियल प्राइवेसी तंत्र है जो विशेषता योगदानों के आधार पर शोर इंजेक्शन (noise injection) को गतिशील रूप से कैलिब्रेट करने के लिए शापली वैल्यूज (Shapley Values) का लाभ उठाता है, जिससे कठोर अभिसरण और सुरक्षा गारंटी प्रदान करते हुए अत्याधुनिक गोपनीयता-उपयोगिता व्यापार-बंद (privacy-utility trade-offs) प्राप्त किया जाता है।

मूल लेखक: Yunbo Li, Jiaping Gui, Yue Wu

प्रकाशित 2026-04-02

📖 4 मिनट में पढ़ें☕ कॉफ़ी ब्रेक में पढ़ें

CC BY 4.0

मूल लेखक: Yunbo Li, Jiaping Gui, Yue Wu

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप और आपके दोस्तों का एक समूह एक बहुत ही स्मार्ट AI बनाना चाहते हैं जो बिल्लियों और कुत्तों को पहचान सके। लेकिन एक पेंच है: कोई भी अपनी व्यक्तिगत तस्वीरें किसी और को नहीं दिखाना चाहता। उन्हें डर है कि अगर वे अपनी तस्वीरें साझा करते हैं, तो कोई उन्हें चुरा सकता है या यह पता लगा सकता है कि वे कौन हैं।

यहीं पर फेडरेटेड लर्निंग (Federated Learning) काम आती है। सभी फोटो एक केंद्रीय कंप्यूटर पर भेजने के बजाय, हर कोई अपनी तस्वीरों को अपने स्वयं के फोन पर रखता है। वे बस उन "सबक" (math updates) को भेजते हैं जो उन्होंने सीखे हैं, जिन्हें एक केंद्रीय शिक्षक जोड़कर AI को और स्मार्ट बनाता है।

लेकिन यह एक समस्या है: केवल "सबक" भेजना भी जोखिम भरा हो सकता है। एक चालाक हैकर (या एक जिज्ञासु दोस्त) उन सबकों को देख सकता है और उन्हें रिवर्स-इंजीनियर करके यह अनुमान लगा सकता है कि आपकी तस्वीरें कैसी दिखती थीं।

इसे रोकने के लिए, हम आमतौर पर सबक में नॉइज़ (noise/static) जोड़ देते हैं, जैसे किसी फोटो पर धुंधला फिल्टर लगाना। यह विवरणों को छिपा देता है। लेकिन हमारे द्वारा किए जाने वाले तरीके में एक बड़ी खामी है: हम अनुमान लगाते हैं कि कितना कोहरा (fog) जोड़ना है।

यदि हम बहुत अधिक कोहरा जोड़ते हैं, तो AI भ्रमित हो जाता है और कुछ भी उपयोगी नहीं सीख पाता है।
यदि हम बहुत कम कोहरा जोड़ते हैं, तो हैकर अभी भी आपकी तस्वीरें देख सकता है।

फेडएसवीए (FedSVA) से मिलिए: "फेयरनेस डिटेक्टिव" (निष्पक्षता का जासूस)

यह शोध पत्र FedSVA नामक एक नई विधि पेश करता है। इसे एक स्मार्ट, निष्पक्ष प्रणाली के रूप में सोचें जो यह तय करती है कि ठीक कितना कोहरा जोड़ना है, इस आधार पर कि आपका विशिष्ट डेटा अंतिम परिणाम में वास्तव में कितना महत्वपूर्ण है।

यह कैसे काम करता है, इसके लिए एक सरल उपमा (analogy) का उपयोग करते हैं:

1. शापली वैल्यू (The Shapley Value): "टीम स्कोर"

कल्पना कीजिए कि आप एक स्पोर्ट्स टीम में हैं। कुछ खिलाड़ी सुपरस्टार हैं जो अधिकांश गोल करते हैं; अन्य केवल पास देने के लिए वहां हैं।

पुराना तरीका: हम सावधानी के तौर पर हर किसी के आंकड़ों पर एक विशाल धुंधला फिल्टर लगा देते हैं। इससे पूरी टीम धुंधली और समझने में कठिन हो जाती है।
FedSVA का तरीका: यह शापली वैल्यू (Shapley Values) नामक एक गणितीय उपकरण का उपयोग करता है (जिसका नाम एक गेम थियरीस्ट के नाम पर रखा गया है) जो एक रेफरी की तरह काम करता है। रेफरी हर खिलाड़ी को देखता है और पूछता है: "इस विशिष्ट खिलाड़ी ने टीम की जीत में वास्तव में कितना योगदान दिया है?"

AI की दुनिया में, "खिलाड़ी" आपके डेटा के विभिन्न हिस्से हैं (जैसे "निजी तस्वीरें" बनाम "सार्वजनिक तस्वीरें")।

यदि आपका निजी डेटा AI की सीखने की प्रक्रिया के लिए महत्वपूर्ण है (जैसे एक सुपरस्टार खिलाड़ी), तो सिस्टम कहता है, "ठीक है, यह उच्च जोखिम है। हमें भारी कोहरे (heavy fog) की आवश्यकता है।"
यदि आपका निजी डेटा AI के लिए ज्यादा महत्वपूर्ण नहीं है (जैसे एक बेंच वॉरमर), तो सिस्टम कहता है, "यह कम जोखिम है। हमें केवल हल्के कोहरे (light fog) की आवश्यकता है।"

2. परिणाम: स्पष्ट दृष्टि, मजबूत सुरक्षा

चूंकि FedSVA केवल वहीं भारी कोहरा जोड़ता है जहाँ इसकी वास्तव में आवश्यकता होती है, इसलिए AI पहले की तुलना में बहुत अधिक सटीक रहता है और तेजी से सीखता है।

ट्रेड-ऑफ (Trade-off): आमतौर पर, आपको "सुपर सुरक्षित लेकिन मंद AI" या "स्मार्ट AI लेकिन असुरक्षित" के बीच चयन करना होता है। FedSVA आपको दोनों दुनियाओं का सर्वश्रेष्ठ देता है: उच्च सुरक्षा + उच्च बुद्धिमत्ता।

3. प्रमाण

शोधकर्ताओं ने प्रसिद्ध इमेज डेटासेट्स (जैसे कारों या हस्तलिखित अक्षरों को पहचानना) पर इसका परीक्षण किया।

परीक्षण: उन्होंने हैकर्स को नेटवर्क पर भेजे गए "सबकों" से मूल फोटो को फिर से बनाने की कोशिश करने दी।
परिणाम: FedSVA के साथ, हैकर बुरी तरह विफल रहे। पुनर्गठित चित्र केवल धुंधले, अपरिचित धब्बे थे। इस बीच, AI ने बहुत उच्च सटीकता के साथ वस्तुओं को पहचानना सीख लिया, और अन्य सभी वर्तमान तरीकों को पीछे छोड़ दिया।

संक्षेप में

FedSVA को एक स्मार्ट सुरक्षा गार्ड के रूप में सोचें जो केवल इमारत के हर दरवाजे को एक विशाल स्टील तिजोरी से लॉक नहीं करता है। इसके बजाय, गार्ड यह जांचता है कि प्रत्येक कमरे में कौन है:

यदि कोई हीरा (उच्च-जोखिम वाला निजी डेटा) पकड़े हुए है, तो उन्हें एक सुपर-स्ट्रॉन्ग तिजोरी मिलती है।
यदि कोई रबर की गेंद (कम-जोखिम वाला डेटा) पकड़े हुए है, तो उन्हें एक साधारण ताला मिलता है।

इस तरह, इमारत सुरक्षित रहती है, लेकिन लोग स्वतंत्र रूप से घूम सकते हैं और अपना काम कुशलतापूर्वक कर सकते हैं। यह फेडरेटेड लर्निंग को सुरक्षित, स्मार्ट और सभी को समझाने में आसान बनाता है।

यहाँ शोध पत्र "Towards Explainable Privacy Preservation in Federated Learning via Shapley Value-Guided Noise Injection" का विस्तृत तकनीकी सारांश दिया गया है।

1. समस्या विवरण (Problem Statement)

फेडरेटेड लर्निंग (FL) कच्चे डेटा को साझा किए बिना सहयोगात्मक मॉडल प्रशिक्षण की अनुमति देता है, फिर भी यह मॉडल इनवर्जन और मेंबरशिप इन्फरेंस जैसे परिष्कृत गोपनीयता हमलों के प्रति संवेदनशील बना रहता है। जबकि डिफरेंशियल प्राइवेसी (DP) मॉडल अपडेट में शोर (noise) इंजेक्ट करके इन जोखिमों को कम करने के लिए एक मानक गणितीय ढांचा है, मौजूदा FL-DP विधियाँ दो महत्वपूर्ण सीमाओं से ग्रस्त हैं:

व्याख्यात्मकता का अभाव (Lack of Explainability): वर्तमान विधियाँ शोर के स्तर (noise scales) को वास्तविक डेटा विशेषताओं द्वारा उत्पन्न गोपनीयता जोखिम के बजाय अनुमानी कारकों (जैसे, प्रशिक्षण प्रगति, समय-परिवर्तनीय शेड्यूल्स) का उपयोग करके निर्धारित करती हैं। यह इंजेक्ट किए गए शोर और संरक्षित किए जा रहे डेटा के बीच एक "अपारदर्शी" संबंध बनाता है।
उप-इष्टतम ट्रेड-ऑफ (Suboptimal Trade-offs): अनुमानी दृष्टिकोण अक्सर या तो अत्यधिक शोर (जो मॉडल उपयोगिता को कम करता है) या अपर्याप्त शोर (जो संवेदनशील डेटा की सुरक्षा करने में विफल रहता है) की ओर ले जाते हैं, जिसके परिणामस्वरूप एक खराब गोपनीयता-उपयोगिता संतुलन बनता है।

मूल समस्या एक सिद्धांत-आधारित, व्याख्यात्मक शोर शेड्यूलिंग तंत्र (principled, explainable noise scheduling mechanism) की आवश्यकता है जो मॉडल के प्रशिक्षण में निजी विशेषताओं के मात्रात्मक योगदान के आधार पर शोर इंजेक्शन को गतिशील रूप से समायोजित कर सके।

2. कार्यप्रणाली: FedSVA

लेखक FedSVA का प्रस्ताव करते हैं, जो एक नवीन FL तंत्र है जो शापली वैल्यूज (Shapley Values) (सहकारी गेम थ्योरी से) को डिफरेंशियल प्राइवेसी के साथ एकीकृत करता है। यह प्रणाली क्लाइंट साइड पर दो प्राथमिक मॉड्यूल के साथ कार्य करती है:

A. प्राइवेसी एस्टीमेशन (PE) मॉड्यूल

यह मॉड्यूल विशिष्ट डेटा विशेषताओं के "गोपनीयता योगदान" को शापली वैल्यूज का उपयोग करके मात्रात्मक रूप से मापता है।

एट्रिब्यूट पार्टीशनिंग (Attribute Partitioning): क्लाइंट अपने स्थानीय डेटासेट $D_i$ को विशेषताओं के आधार पर उपसमूहों में विभाजित करते हैं (जैसे, निजी विशेषताएँ $D^p_i$ बनाम गैर-निजी विशेषताएँ $D^a_i$ )।
शापली गणना (Shapley Calculation): एक दिए गए प्रशिक्षण दौर के लिए, क्लाइंट सहायक मॉडल को प्रशिक्षित करने के लिए विशेषताओं के उपसमूहों की गणना करते हैं। यह प्रत्येक विशेषता के लिए शापली वैल्यू ( $\psi$ ) की गणना करता है, जो मॉडल की उपयोगिता (स्थानीय सत्यापन सटीकता) में इसके सीमांत योगदान (marginal contribution) का प्रतिनिधित्व करता है।
कंट्रीब्यूशन रेट ( $R^p_i$ ): सिस्टम सभी विशेषताओं के कुल शापली वैल्यू के मुकाबले निजी विशेषताओं के शापली वैल्यू के अनुपात की गणना करता है। उच्च $R^p_i$ यह दर्शाता है कि निजी डेटा मॉडल के प्रदर्शन को संचालित कर रहा है, जिससे अधिक मजबूत गोपनीयता संरक्षण की आवश्यकता होती है।

B. नॉइज़ इंजेक्शन (NI) मॉड्यूल

यह मॉड्यूल कंट्रीब्यूशन रेट को एक गतिशील शोर स्केल में परिवर्तित करता है।

रिस्क टॉलरेंस (Risk Tolerance): कंट्रीब्यूशन रेट को एक रिस्क टॉलरेंस थ्रेशोल्ड $T^p_i$ में मैप किया जाता है।
डायनेमिक नॉइज़ स्केल: गाऊसी शोर (Gaussian noise) के लिए मानक विचलन ( $\sigma_i$ $σ_{i}$ ) को $R^p_i$ $R_{i}^{p}$ के आधार पर कैलिब्रेट किया जाता है।
- यदि $R^p_i$ उच्च है (उच्च गोपनीयता जोखिम), तो सख्त DP गारंटी प्रदान करने के लिए $\sigma_i$ बढ़ जाता है।
- यदि $R^p_i$ कम है, तो मॉडल उपयोगिता को बनाए रखने के लिए $\sigma_i$ कम हो जाता है।
औपचारिक गारंटी (Formal Guarantees): यह तंत्र प्रति दौर $(\epsilon, \delta)$ -DP गारंटी सुनिश्चित करता है, जहाँ $\delta'$ को कंट्रीब्यूशन रेट के आधार पर गतिशील रूप से समायोजित किया जाता है।

C. सैद्धांतिक विश्लेषण (Theoretical Analysis)

गोपनीयता (Privacy): FedSVA प्रति दौर $(\epsilon, \delta')$ -DP गारंटी और $T$ दौरों के लिए $(T\epsilon, T\delta')$ गारंटी प्रदान करता है।
अभिसरण (Convergence): शोध पत्र सिद्ध करता है कि FedS्लो (FedSVA) मानक धारणाओं (L-smoothness, bounded gradients) के तहत अभिसरित होता है। अभिसरण सीमा (convergence bound) में शोर विचरण (noise variance) पर निर्भर एक पद शामिल है, जो यह प्रदर्शित करता है कि इंजेक्ट किए गए शोर के बावजूद एल्गोरिदम अभिसरित होता है, जिसमें त्रुटि चयनित क्लाइंटों की संख्या के वर्ग के रूप में स्केल होती है।

3. मुख्य योगदान

प्रथम व्याख्यात्मक DP तंत्र: FedSVA पहला FL गोपनीयता तंत्र है जो DP के साथ शापली वैल्यूज को एकीकृत करता है, जो स्पष्ट रूप से शोर के स्तर को निजी विशेषताओं के मात्रात्मक योगदान से जोड़ता है।
गतिशील और सटीक अंशांकन (Dynamic & Precise Calibration): स्थिर या अनुमानी विधियों के विपरीत, FedSVA डेटा के वास्तविक "गोपनीयता मूल्य" के आधार पर राउंड-दर-राउंड शोर इंजेक्शन को गतिशील रूप से समायोजित करता है, जिससे अनावश्यक शोर कम होता है।
कठोर सिद्धांत: यह कार्य प्रस्तावित शोर शेड्यूल के तहत गोपनीयता गारंटी और फेडरेटेड ऑप्टिमाइज़ेशन प्रक्रिया के अभिसरण दोनों के लिए औपचारिक प्रमाण प्रदान करता है।
सर्वश्रेष्ठ प्रदर्शन: व्यापक प्रयोगों से पता चलता है कि FedSVA अत्याधुनिक (SOTA) गोपनीयता-उपयोगिता ट्रेड-ऑफ और पुनर्निर्माण हमलों (reconstruction attacks) के खिलाफ मजबूत रक्षा प्राप्त करता है।

4. प्रायोगिक परिणाम

लेखकों ने चार SOTA बेसलाइनों (NbAFL, Time-Varying DP, Sensitivity Re-estimation DP, और Dynamic Privacy Allocation DP) के विरुद्ध CIFAR-10 (ResNet-18 का उपयोग करके) और FEMNIST (CNN का उपयोग करके) पर FedSVA का मूल्यांकन किया।

गोपनीयता-उपयोगिता ट्रेड-ऑफ (Privacy-Utility Trade-off):
- सख्त गोपनीयता बजट ( $\epsilon = 0.2$ ) के साथ CIFAR-10 पर, FedSVA ने 75.98% की Final-5 सटीकता प्राप्त की, जो DPA DP (65.21%) और NbAFL (48.67%) से काफी बेहतर है।
- FedSVA ने सभी परीक्षण किए गए $\epsilon$ मानों (0.2 से 0.5) में सभी बेसलाइनों की तुलना में लगातार उच्च सटीकता बनाए रखी।
शोर दक्षता (Noise Efficiency):
- FedSVA ने स्थिर विधियों (NbAFL) और डायनेमिक बेसलाइनों की तुलना में काफी कम शोर इंजेक्ट किया।
- इसने प्रशिक्षण प्रक्रिया के दौरान एक छोटा संचयी गोपनीयता बजट खर्च किया, जो गोपनीयता भत्ते के अधिक कुशल उपयोग को दर्शाता है।
हमलों के विरुद्ध रक्षा (Defense Against Attacks):
- ACGAN-आधारित पुनर्निर्माण हमलों के खिलाफ, FedSVA ने गैर-निजी FedAvg बेसलाइन की तुलना में 149% की वृद्धि में फ्रेट चेत इनसेप्शन डिस्टेंस (FID) प्राप्त किया, जो संवेदनशील डेटा को प्रभावी ढंग से अस्पष्ट करते हुए उच्च उपयोगिता बनाए रखता है।
दक्षता और सूक्ष्मता (Efficiency & Granularity):
- एट्रिब्यूट पार्टीशन ग्रैनुलैरिटी ( $N$ ) पर प्रयोगों ने दिखाया कि एक बाइनरी पार्टीशन ( $N=2$ : निजी बनाम गैर-निजी) सर्वोत्तम संतुलन प्रदान करता है, जो प्रबंधनीय कम्प्यूटेशनल ओवरहेड के साथ लगभग इष्टतम सटीकता प्राप्त करता है। सूक्ष्म विभाजन ( $N>2$ ) ने नगण्य सटीकता लाभ (<0.22%) दिया लेकिन घातीय शापली गणना लागत के कारण रनटाइम को 4 गुना से अधिक बढ़ा दिया।

5. महत्व

यह शोध पत्र फेडरेटेड लर्निंग में एक महत्वपूर्ण अंतर को संबोधित करता है, जो गोपनीयता संरक्षण को एक "ब्लैक बॉक्स" अनुमानी दृष्टिकोण से एक पारदर्शी, डेटा-संचालित रणनीति की ओर ले जाता है।

व्याख्यात्मकता (Interpretability): यह चिकित्सकों को यह समझने की अनुमति देता है कि क्यों एक निश्चित मात्रा में शोर इंजेक्ट किया गया है (डेटा के योगदान के आधार पर), जिससे FL सिस्टम में विश्वास बढ़ता है।
दक्षता (Efficiency): "एक ही आकार सबके लिए उपयुक्त" (one-size-fits-all) शोर इंजेक्शन से बचकर, FedSVA सुरक्षा से समझौता किए बिना मॉडल उपयोगिता को अधिकतम करता है, जिससे DP वास्तविक दुनिया के परिनियोजन के लिए अधिक व्यवहार्य हो जाता है।
स्केलेबिलिटी (Scalability): प्रस्तावित विधि शून्य संचार ओवरहेड जोड़ती है, जिसकी लागत केवल स्थानीय गणना तक सीमित है, जो इसे संसाधन-बाधित एज डिवाइसों के लिए उपयुक्त बनाती है।

लेखकों द्वारा सुझाया गया भविष्य का कार्य शापली वैल्यू गणना के लिए सन्निकटन (approximation) विधियों को विकसित करना है ताकि जटिलता को और कम किया जा सके और बड़े पैमाने पर तैनाती में सूक्ष्म-स्तरीय गोपनीयता विश्लेषण को सक्षम बनाया जा सके।