🤖 AI

Privacy Preserving Machine Learning Workflow: from Anonymization to Personalized Differential Privacy Budgets in Federated Learning

यह शोधपत्र संवेदनशील सारणीबद्ध डेटा (tabular data) के लिए एक व्यापक गोपनीयता-संरक्षण फेडरेटेड लर्निंग वर्कफ़्लो प्रस्तावित करता है जो अज्ञातकरण (anonymization), विषाक्तता न्यूनीकरण (poisoning mitigation) के लिए क्लाइंट ड्रिफ्ट डिटेक्शन, और पुन: पहचान जोखिम के आधार पर व्यक्तिगत डिफरेंशियल प्राइवेसी बजट आवंटित करने की एक नवीन कार्यप्रणाली को एकीकृत करता है, जो मेडिकल रिकॉर्ड्स पर फिक्स्ड-बजट दृष्टिकोणों की तुलना में बेहतर मॉडल प्रदर्शन प्रदर्शित करता है।

मूल लेखक: Judith Sáinz-Pardo Díaz, Álvaro López García

प्रकाशित 2026-05-06

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Judith Sáinz-Pardo Díaz, Álvaro López García

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि अस्पतालों का एक समूह है, जिनमें से प्रत्येक एक अलग देश में स्थित है, जो एक सुपर-स्मार्ट AI डॉक्टर बनाना चाहते हैं ताकि यह भविष्यवाणी की जा सके कि किसी मरीज के कैंसर की गंभीरता कितनी हो सकती है। उनके पास मरीजों का बहुमूल्य डेटा है, लेकिन उनमें से कोई भी अपने वास्तविक मरीज रिकॉर्ड एक-दूसरे के साथ या किसी केंद्रीय सर्वर के साथ साझा नहीं कर सकता है। क्यों? क्योंकि सख्त गोपनीयता कानून (जैसे GDPR) और संवेदनशील चिकित्सा रहस्यों के चोरी होने का डर है।

यह शोध पत्र फेडरेटेड लर्निंग (Federated Learning) नामक एक प्रणाली का उपयोग करके, जिसे कुछ परतों वाली "प्राइवेसी मैजिक" के साथ जोड़ा गया है, इस समस्या को हल करने का एक चतुर तरीका प्रस्तावित करता है। यहाँ कार्यप्रवाह (workflow) को सरल शब्दों में समझाया गया है:

1. सेटअप: "गुप्त रेसिपी" प्रतियोगिता

केंद्रीय सर्वर को एक प्रतियोगिता के जज के रूप में और अस्पतालों को शेफ (रसोइयों) के रूप में समझें।

लक्ष्य: जज एक बेहतर रेसिपी (AI मॉडल) बनाने का लक्ष्य रखता है जो कैंसर की गंभीरता की भविष्यवाणी कर सके।
नियम: शेफ जज को अपनी गुप्त सामग्री की सूची (मरीज का डेटा) नहीं भेज सकते। इसके बजाय, वे स्थानीय रूप से रेसिपी में थोड़ा बदलाव करते हैं, केवल रेसिपी में किए गए बदलाव (मॉडल अपडेट) वापस भेजते हैं, और जज उन्हें एक बेहतर वैश्विक रेसिपी बनाने के लिए आपस में मिला देता है।

2. पहला कदम: पहचान छिपाना (अनामकरण/Anonymization)

शेफ खाना बनाना शुरू करने से पहले, उन्हें यह सुनिश्चित करने की आवश्यकता है कि उनकी सामग्री को किसी विशिष्ट व्यक्ति से जोड़ा न जा सके।

उपमा: कल्पना करें कि एक शेफ के पास ग्राहकों के नाम, उम्र और पसंदीदा भोजन की सूची है। उन्हें सुरक्षित रखने के लिए, शेफ नाम हटा देते हैं और उम्र को समूहों (जैसे, "34" के बजाय "30-39 वर्ष") में बांट देते हैं।
शोध पत्र की विधि: अस्पताल अपने डेटा को सामान्य बनाने के लिए एक टूल का उपयोग करते हैं ताकि किसी भी व्यक्ति की पहचान न की जा सके। महत्वपूर्ण रूप से, यह शोध पत्र सुनिश्चित करता है कि सभी अस्पताल अपने डेटा को बिल्कुल एक ही तरह से सामान्य करें (उदाहरण के लिए, सभी 10-वर्षीय आयु समूह का उपयोग करते हैं) ताकि रेसिपी की तुलना निष्पक्ष रूप से की जा सके।

3. दूसरा कदम: "नशे में धुत शेफ" की जांच करना (क्लाइंट ड्रिफ्ट डिटेक्शन)

कभी-कभी, एक शेफ गलती से गलत सामग्री का उपयोग कर सकता है, या कोई दुर्भावनापूर्ण शेफ जानबूझकर रेसिपी को बिगाड़ने की कोशिश कर सकता है।

समस्या: यदि एक अस्पताल का डेटा दूसरों से बिल्कुल अलग है (शायद वे अलग उपकरण या अलग रोगी आबादी का उपयोग करते हैं), तो उनकी रेसिपी के बदलाव अजीब दिखेंगे। इसे "क्लाइंट ड्रिफ्ट" (Client Drift) कहा जाता है।
शोध पत्र का समाधान: जज रेसिपी को मिलाने से पहले उसमें बदलावों को देखता है। यदि किसी शेफ के बदलाव दूसरों के मुकाबले बहुत अलग हैं (जैसे कि एक शेफ सूप की रेसिपी में "चॉकलेट" डालने की कोशिश कर रहा हो), तो जज उन्हें चिह्नित कर देता है। यह वास्तविक सामग्री को देखे बिना ही गलतियों या दुर्भावनापूर्ण हमलों को पकड़ने में मदद करता है।

4. तीसरा कदम: "प्राइवेसी बजट" (डिफरेंशियल प्राइवेसी)

भले ही शेफ रेसिपी में बदलाव भेजते हैं, लेकिन एक चतुर हैकर उन बदलावों से मूल सामग्री का पता लगाने की कोशिश कर सकता है। इसे रोकने के लिए, यह शोध पत्र रेसिपी में "शोर" (noise/static) जोड़ता है।

पुराना तरीका (ग्लोबल बजट): कल्पना करें कि जज हर रेसिपी परिवर्तन में बिल्कुल समान मात्रा में 'स्टैटिक' जोड़ता है, चाहे वह किसी का भी हो। यह एक "एक ही नियम सबके लिए" वाला दृष्टिकोण है।
शोध पत्र का नया तरीका (पर्सनलाइज्ड बजट): यह शोध पत्र एक स्मार्ट दृष्टिकोण का सुझाव देता है। यह पूछता है: इस विशिष्ट शेफ के डेटा को उजागर करना कितना जोखिम भरा है?
- यदि किसी अस्पताल के पास मरीजों का बहुत छोटा और विशिष्ट समूह है, तो उनके डेटा का अनुमान लगाना आसान है। उन्हें अधिक स्टैटिक (अधिक गोपनीयता सुरक्षा) दी जाती है।
- यदि किसी अस्पताल के पास मरीजों का एक बड़ा और विविध समूह है, तो उनके डेटा का अनुमान लगाना कठिन है। उन्हें कम स्टैटिक (कम गोपनीयता सुरक्षा, जिसका अर्थ है कि रेसिपी अधिक सटीक रहती है) दी जाती है।
मेट्रिक: वे प्रत्येक अस्पताल के लिए एक "री-आइडेंटिफिकेशन रिस्क स्कोर" (ARIREC) की गणना करते हैं। जोखिम जितना अधिक होगा, उनके योगदान में उतना ही अधिक शोर जोड़ा जाएगा।

5. परिणाम: क्या यह काम करता है?

लेखकों ने 50,000 कैंसर रोगी रिकॉर्डों के एक नकली डेटासेट का उपयोग करके, जिसे 10 अलग-अलग "देशों" (अस्पतालों) में विभाजित किया गया था, इस प्रणाली का परीक्षण किया। उन्होंने तीन परिदृश्यों की तुलना की:

मानक फेडरेटेड लर्निंग: कोई अतिरिक्त गोपनीयता कदम नहीं।
ग्लोबल प्राइवेसी: सभी के लिए समान मात्रा में स्टैटिक जोड़ना।
पर्सनलाइज्ड प्राइवेसी: जोखिम के आधार पर कस्टम मात्रा में स्टैटिक जोड़ना।

निष्कर्ष:
"पर्सनलाइज्ड प्राइवेसी" वाला दृष्टिकोण "ग्लोबल प्राइवेसी" दृष्टिकोण की तुलना में बेहतर काम कर गया। प्रत्येक अस्पताल के जोखिम के आधार पर स्टैटिक की मात्रा को अनुकूलित करके, अंतिम AI मॉडल अधिक सटीक था (कम त्रुटि दर) और साथ ही इसने सभी के डेटा को सुरक्षित रखा।

सारांश

यह शोध पत्र एक पूर्ण कार्यप्रवाह प्रस्तुत करता है जो डेटा को स्वयं स्थानांतरित किए बिना संवेदनशील चिकित्सा डेटा पर AI को प्रशिक्षित करता है। यह निम्नलिखित को जोड़ता है:

अनामकरण (Anonymization): पहचान छिपाने के लिए।
ड्रिफ्ट डिटेक्शन (Drift Detection): बुरे तत्वों या अजीब डेटा का पता लगाने के लिए।
पर्सनलाइज्ड प्राइवेसी (Personalized Privacy): प्रत्येक अस्पताल की संवेदनशीलता के आधार पर सही मात्रा में "स्टैटिक" जोड़ने के लिए।

परिणामस्वरूप, यह एक ऐसी प्रणाली है जो AI मॉडल को स्मार्ट और सटीक बनाए रखते हुए गोपनीयता को प्रभावी ढंग से सुरक्षित करती है।

तकनीकी सारांश: गोपनीयता-संरक्षण मशीन लर्निंग वर्कफ़्लो

समस्या विवरण
आर्टिफिशियल इंटेलिजेंस का तीव्र विकास, विशेष रूप से स्वास्थ्य सेवा जैसे संवेदनशील क्षेत्रों में, सख्त गोपनीयता नियमों जैसे कि जनरल डेटा प्रोटेक्शन रेगुलेशन (GDPR) का पालन करते हुए बड़े डेटासेट पर मॉडल प्रशिक्षण की आवश्यकता को जन्म देता है। जबकि फेडेरेटेड लर्निंग (FL) केंद्रीकृत डेटा प्रशिक्षण के बजाय एक विकेंद्रीकृत विकल्प प्रदान करता है, यह विशिष्ट कमजोरियाँ भी पेश करता है। डेटा के केंद्रीकरण के बिना भी, FL आर्किटेक्चर गोपनीयता उल्लंघन (जैसे कि रिकंस्ट्रक्शन, मॉडल इन्फरेंस, और मेंबरशिप इन्फरेंस हमले) और अखंडता खतरों (जैसे कि पॉइजनिंग हमले और क्लाइंट ड्रिफ्ट) के प्रति संवेदनशील रहता है। इसके अलावा, मौजूदा दृष्टिकोण अक्सर सभी क्लाइंट्स के लिए समान गोपनीयता उपाय (जैसे कि एक निश्चित वैश्विक डिफरेंशियल प्राइवेसी बजट) लागू करते हैं, जो विभिन्न स्थानीय डेटासेट्स में निहित अलग-अलग पुन: पहचान (re-identification) जोखिमों को ध्यान में रखने में विफल रहते हैं।

कार्यप्रणाली (मेथोडोलॉजी)
यह शोध पत्र संवेदनशील सारणीबद्ध डेटा (tabular data) पर गोपनीयता-संरक्षण मशीन लर्निंग के लिए एक व्यापक वर्कफ़्लो प्रस्तावित करता है, जो चार प्रमुख चरणों को एकीकृत करता है:

डेटा अनामिकीकरण (Data Anonymization): फेडेरेटेड प्रशिक्षण से पहले, क्लाइंट अपने सारणीबद्ध डेटा पर स्थानीय रूप से अनामिकीकरण तकनीकों (जैसे $k$ -anonymity, $\ell$ -diversity) को लागू करते हैं। यह सुनिश्चित करने के लिए कि मॉडल प्रशिक्षण के लिए अनुकूलता बनी रहे, एक सर्वर एक सामंजस्य प्रक्रिया (harmonization process) का समन्वय करता है जहाँ क्लाइंट अपने लागू किए गए ट्रांसफॉर्मेशन पदानुक्रमों (transformation hierarchies) का आदान-प्रदान करते हैं। सर्वर सभी क्लाइंट्स के गोपनीयता प्रतिबंधों को संतुष्ट करने के लिए आवश्यक अधिकतम पदानुक्रम स्तर का निर्धारण करता है, जिससे यह सुनिश्चित होता है कि सभी डेटासेट्स एक लेटेंट स्पेस (latent space) के भीतर एक ही स्तर तक सामान्यीकृत (generalized) हों।
क्लाइंट ड्रिफ्ट डिटेक्शन (Client Drift Detection): पॉइजनिंग हमलों (जानबूझकर या अनजाने में) को कम करने के लिए, लेखक "क्लाइंट ड्रिफ्ट" को सिस्टम के सापेक्ष एक क्लाइंट के डेटा के वितरण में महत्वपूर्ण बदलाव के रूप में औपचारिक रूप से परिभाषित करते हैं। कच्चे डेटा तक पहुँचने के बजाय, सर्वर फ्रोबेनियस नॉर्म (Frobenius norm) (समीकरण 2) पर आधारित एक सममित मीट्रिक का उपयोग करके मॉडल वेट्स (weights) के बीच विचलन का विश्लेषण करके ड्रिफ्ट का पता लगाता है। महत्वपूर्ण विचलन प्रदर्शित करने वाले क्लाइंट्स को एकत्रीकरण (aggregation) प्रक्रिया से बाहर किया जा सकता है।
पर्सनलाइज्ड बजट के साथ डिफरेंशियल प्राइवेसी (DP): मुख्य योगदान व्यक्तिगत गोपनीयता बजट आवंटित करने की कार्यप्रणाली है।
- जोखिम मीट्रिक: लेखक प्रत्येक क्लाइंट के लिए उनके अनामिकृत डेटा के आधार पर 'एवरेज री-आइडेंटिफिकेशन रिस्क ऑफ इक्वीवैलेंस क्लासेस' (ARIREC) को परिभाषित करते हैं।
- बजट आवंटन: एक वैश्विक नॉइज़ मल्टीप्लायर ( $n_\epsilon$ ) स्थापित किया जाता है। प्रत्येक क्लाइंट $i$ के लिए, क्लाइंट के सामान्यीकृत ARIREC मीट्रिक ( $\tilde{A}_i$ ) के अनुसार वैश्विक मल्टीप्लायर को स्केल करके एक व्यक्तिगत नॉइज़ मल्टीप्लायर ( $n_{\epsilon,i}$ ) की गणना की जाती है।
- कार्यान्वयन: एकत्रीकरण से पहले प्रत्येक क्लाइंट के स्थानीय मॉडल वेट्स में गॉसियन नॉइज़ (Gaussian noise) जोड़ा जाता है, जिसमें नॉइज़ का परिमाण क्लाइंट के विशिष्ट पुन: पहचान जोखिम के आनुपातिक होता है। यह ग्लोबल डीपी (GDP) के विपरीत है, जहाँ एकत्रित वेट्स में नॉइज़ जोड़ा जाता है।
फेडेरेटेड एकत्रीकरण (Federated Aggregation): वर्कफ़्लो शोर युक्त (noisy) वेट्स को एकत्रित करने और ग्लोबल मॉडल को अपडेट करने के लिए एक विश्वसनीय सर्वर का उपयोग करता है (FedAvg का उपयोग करके)।

प्रमुख योगदान

क्लाइंट ड्रिफ्ट की औपचारिक परिभाषा: यह शोध पत्र FL में क्लाइंट ड्रिफ्ट की एक औपचारिक परिभाषा प्रदान करता है और वेट विचलन पर आधारित एक गोपनीयता-संरक्षण पहचान तंत्र प्रस्तावित करता है, जो कच्चे डेटा तक पहुँच की आवश्यकता को समाप्त करता है।
व्यक्तिगत गोपनीयता बजट: यह एक गणना किए गए पुन: पहचान जोखिम मीट्रिक (ARIREC) के आधार पर व्यक्तिगत डिफरेंशियल प्राइवेसी बजट असाइन करने की कार्यप्रणाली पेश करता है, जो अनुकूलित नॉइज़ इंजेक्शन की अनुमति देता है जो प्रत्येक क्लाइंट के डेटासेट की विशिष्ट भेद्यता को दर्शाता है।
एकीकृत वर्कफ़्लो: यह शोध पत्र एक पूर्ण, पुनरुत्पादक (reproducible) पाइपलाइन का विवरण देता है जो एफएल (FL) आर्किटेक्चर के भीतर अनामिकीकरण, ड्रिफ्ट डिटेक्शन और व्यक्तिगत डीपी को जोड़ता है।

प्रायोगिक परिणाम
इस कार्यप्रणाली का मूल्यांकन कैंसर गंभीरता भविष्यवाणी के लिए 50,000 मेडिकल रिकॉर्ड्स के एक सिंथेटिक डेटासेट का उपयोग करके किया गया, जिसे 10 अलग-अलग देशों का प्रतिनिधित्व करने वाले 10 क्लाइंट्स में सिम्युलेट किया गया था। अध्ययन ने तीन परिदृश्यों की तुलना की:

वैनिला FL (कोई गोपनीयता नहीं)।
ग्लोबल DP के साथ FL (एकत्रित वेट्स में जोड़ा गया निश्चित बजट)।
पर्सनलाइज्ड DP के साथ FL (कस्टम बजट स्थानीय वेट्स में जोड़े गए)।

परिणामों ने संकेत दिया कि पर्सनलाइज्ड DP दृष्टिकोण ने ग्लोबल DP दृष्टिकोण की तुलना में बेहतर मॉडल प्रदर्शन प्राप्त किया। विशेष रूप रूप से, पर्सनलाइज्ड DP परिदृश्य ने ग्लोबल DP (MAE: 0.847 बनाम 0.836 और MRE: 0.182 बनाम 0.177) की तुलना में कम मीन एब्सोल्यूट एरर (MAE) और मीन रिलेटिव एरर (MRE) दिया, जबकि गोपनीयता सुरक्षा बनाए रखी। लेखक नोट करते हैं कि हालांकि दोनों DP विधियाँ वैनिला FL की तुलना में प्रदर्शन को कम करती हैं, लेकिन व्यक्तिगत दृष्टिकोण जोखिम स्तरों के अनुसार शोर को अनुकूलित करके इस गिरावट को न्यूनतम करता है।

महत्व और दावे
लेखक इस कार्य को सभी वास्तविक दुनिया के परिदृश्यों के लिए एक निर्णायक समाधान के बजाय एक पद्धतिगत ढांचे (methodological framework) के रूप में प्रस्तुत करते हैं। उनका दावा है कि प्राथमिक महत्व इस बात को प्रदर्शित करने में है कि व्यक्तिगत गोपनीयता बजट, जो पुन: पहचान जोखिम मीट्रिक से प्राप्त होते हैं, एक फेडेरेटेड सेटिंग में निश्चित वैश्विक बजट की तुलना में मॉडल उपयोगिता (utility) में सुधार कर सकते हैं।

यह शोध पत्र स्पष्ट रूप से कहता है कि यह अध्ययन एक सिंथेटिक, पुनरुत्पादक उपयोग के मामले का एक "प्रारंभिक" प्रूफ ऑफ कॉन्सेप्ट है। यह सीमाओं को स्वीकार करते हुए नोट करता है कि वर्तमान कार्यान्वयन एक विश्वसनीय सर्वर मानकर चलता है और अभी तक राउंड्स के माध्यम से प्राइवेसी लॉस के संयोजन के लिए कठोर $\epsilon$ और $\delta$ अकाउंटिंग प्रदान नहीं करता है। लेखक सुझाव देते हैं कि भविष्य का कार्य इस वर्कफ़्लो को अनट्रस्टेड सर्वर परिदृश्यों (संभावित रूप से होमोमोर्फिक एन्क्रिप्शन का उपयोग करके) और नॉन-IID क्लाइंट वितरणों तक विस्तारित करने पर केंद्रित होगा।