← नवीनतम पेपर
💻 computer science

FinP: Fairness-in-Privacy in Federated Learning by Addressing Disparities in Privacy Risk

यह शोध पत्र FinP प्रस्तुत करता है, जो एक नवीन फेडरेटेड लर्निंग फ्रेमवर्क है जो सर्वर-साइड एडेप्टिव एग्रीगेशन और क्लाइंट-साइड रेगुलराइजेशन को संयोजित करके 'फेयरनेस-इन-प्राइवेसी' (fairness-in-privacy) को लागू करता है ताकि ग्लोबल मॉडल की उपयोगिता को बनाए रखते हुए सोर्स इन्फरेंस अटैक्स (Source Inference Attacks) के विरुद्ध प्राइवेसी जोखिम में असमानताओं को महत्वपूर्ण रूप से कम किया जा सके।

मूल लेखक: Tianyu Zhao, Mahmoud Srewa, Salma Elmalaki

प्रकाशित 2026-06-19
📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

मूल लेखक: Tianyu Zhao, Mahmoud Srewa, Salma Elmalaki

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि पड़ोसियों का एक समूह अपने स्वयं के पिछवाड़े से जानकारी के छोटे टुकड़ों को साझा करके अपने पड़ोस का एक एकल, सुपर-स्मार्ट मानचित्र बनाने की कोशिश कर रहा है। यह फेडरेटेड लर्निंग (FL) है। सभी को अपना डेटा एक केंद्रीय कार्यालय में लाने के बजाय (जो जोखिम भरा है), वे अपना डेटा घर पर ही रखते हैं और केवल अपडेट एक "सामुदायिक नेता" (सर्वर) को भेजते हैं जो उन्हें जोड़ता है।

समस्या क्या है? हर किसी का पिछवाड़ा एक जैसा नहीं है। कुछ पड़ोसियों के पास बहुत ही अनूठे बगीचे (आउटलेयर्स/विजातीय) हैं, जबकि अधिकांश के पास मानक लॉन हैं। वर्तमान प्रणाली में, सामुदायिक नेता अनजाने में उन अनूठे बगीचों को बहुत अधिक महत्व दे देता है। इससे उन अनूठे बगीचों के मालिकों को जासूसों के लिए आसान लक्ष्य बना देता है जो यह पता लगाना चाहते हैं कि वे वास्तव में कौन हैं और वे क्या उगा रहे हैं। यह अनुचित गोपनीयता (unfair privacy) है: जिनके पास सबसे अनूठा डेटा है, उन्हें सबसे अधिक जोखिम उठाना पड़ता है, जबकि बाकी सभी अपेक्षाकृत सुरक्षित हैं।

यह शोध पत्र FinP (फेयरनेस-इन-प्राइवेसी) पेश करता है, जो एक नई प्रणाली है जिसे यह सुनिश्चित करने के लिए डिज़ाइन किया गया है कि कोई भी अकेला पड़ोसी गोपनीयता के जोखिम का भार न उठाए।

यहाँ बताया गया है कि सरल उपमाओं का उपयोग करके FinP कैसे कार्य करता है:

समस्या: "अनूठा बगीचा" प्रभाव (The "Unique Garden" Effect)

एक सामान्य पड़ोस में, यदि किसी व्यक्ति के पास एक दुर्लभ, विदेशी फूल है जो किसी और के पास नहीं है, और वह उसकी फोटो साझा करता है, तो हर कोई अनुमान लगा सकता है, "ओह, यह निश्चित रूप से श्रीमती स्मिथ का बगीचा होगा!"
फेडरेटेड लर्निंग में, यदि किसी उपयोगकर्ता के पास अनूठा डेटा है (जैसे कि एक दुर्लभ चिकित्सा स्थिति या चलने का एक बहुत ही विशिष्ट तरीका रखने वाला व्यक्ति), तो AI मॉडल उस अनूठे पैटर्न को "याद" (memorize) कर लेता है। एक जासूस (सर्वर) मॉडल को देखकर कह सकता है, "यह हिस्सा निश्चित रूप से उस विशिष्ट व्यक्ति से आया है।" इसे सोर्स इन्फरेंस अटैक (Source Inference Attack) कहा जाता है।

समाधान: FinP की दो-तरफा सुरक्षा

FinP एक स्मार्ट सामुदायिक प्रबंधक की तरह कार्य करता है जो मानचित्र को खराब किए बिना अनूठे बगीचे के मालिकों की रक्षा करने के लिए दो रणनीतियों का उपयोग करता है।

1. क्लाइंट-साइड फिक्स: "पड़ोसियों को घुलने-मिलने के लिए सिखाना"

  • समस्या: अनूठे बगीचे वाले मालिक अपने विशिष्ट फूलों को दिखाने की बहुत अधिक कोशिश कर रहे हैं। AI के संदर्भ में, उनके स्थानीय मॉडल "ओवरफिटिंग" (विवरणों को बहुत बारीकी से याद करना) कर रहे हैं।
  • समाधान: FinP इन अनूठे मालिकों को एक कोमल सुझाव देता है। यह उन्हें कहता है, "अपने विशिष्ट, दुर्लभ फूल पर इतना ध्यान न दें; इसके बजाय एक सामान्य फूल के आकार को सीखने का प्रयास करें।"
  • यह कैसे काम करता है: सिस्टम मापता है कि एक पड़ोसी का डेटा कितना "अनूठा" है (एक गणितीय उपकरण का उपयोग करके जिसे हेसियन (Hessian) कहा जाता है, जो उनके सीखने के पथ के कितने तीव्र और तीखे होने का मानचित्र है)। यदि कोई पड़ोसी बहुत अधिक तीखा और अनूठा है, तो सिस्टम एक "रेगुलराइजेशन" पेनल्टी जोड़ता है। यह उन्हें अपने सीखने को सुचारू (smooth) बनाने के लिए मजबूर करता है, जिससे उनका डेटा औसत जैसा दिखने लगता है। यह एक अनूठे माली को अपनी बाड़ का एक मानक रंग पेंट करने के लिए कहने जैसा है ताकि वह बहुत अधिक अलग न दिखे।

2. सर्वर-साइड फिक्स: "भारित वोट" (The Weighted Vote)

  • समस्या: भले ही अनूठे माली घुलने-मिलने की कोशिश करें, सामुदायिक नेता अंतिम मानचित्र बनाने के लिए उनके अनूठे अपडेट को बहुत अधिक महत्व दे सकता है।
  • समाधान: सामुदायिक नेता वोटों की गिनती करने का तरीका बदल देता है।
  • यह कैसे काम करता है: नेता आने वाले अपडेट्स को देखता है। यदि कोई अपडेट बहुत अधिक अनूठा या जोखिम भरा दिखता है (जैसे कि एक विशाल, विदेशी फूल), तो नेता कहता है, "ठीक है, हम आपकी बात सुनेंगे, लेकिन हम आपकी आवाज़ को दूसरों की तुलना में उतनी तेज़ नहीं होने देंगे।" वे सबसे संवेदनशील क्लाइंट्स का भार (weight) गतिशील रूप से कम कर देते हैं। यह सुनिश्चित करता है कि अंतिम मानचित्र अनूठे आउटलेयर्स की ओर बहुत अधिक झुका हुआ न हो, जिससे उनकी पहचान होने का खतरा कम हो जाता है।

परिणाम: एक निष्पक्ष पड़ोस

शोध पत्र ने वास्तविक दुनिया के परिदृश्यों, जैसे कि लोगों की गतिविधियों को ट्रैक करना (Human Activity Recognition) और छवियों को पहचानना (CIFAR-10 और FEMNIST), पर इस प्रणाली का परीक्षण किया।

  • निष्पक्षता (Fairness): FinP ने "सबसे संवेदनशील" और "सबसे कम संवेदनशील" लोगों के बीच के अंतर को सफलतापूर्वक कम किया। इसने गोपनीयता जोखिम के वितरण को बहुत अधिक समान बना दिया। शोध पत्र का दावा है कि इसने इन असमानताओं को 57% तक कम कर दिया।
  • उपयोगिता (Utility): आमतौर पर, जब आप गोपनीयता सुरक्षा जोड़ते हैं, तो मानचित्र थोड़ा धुंधला या कम सटीक हो जाता है। FinP ने मानचित्र को मूल की तरह लगभग उतना ही स्पष्ट बनाए रखने में सफलता प्राप्त की। सटीकता में बहुत मामूली, लगभग न के बराबर गिरावट (लगभग 1.75%) आई।
  • तुलना: शोध पत्र ने "डिफरेंशियल प्राइवेसी" (एक सामान्य विधि जो रैंडम नॉइज़ या शोर जोड़ती है, जैसे रेडियो पर स्टैटिक) का भी परीक्षण किया। उन्होंने पाया कि जबकि शोर गोपनीयता जोड़ता है, यह अक्सर मानचित्र को बहुत खराब कर देता है और वास्तव में निष्पक्षता को ठीक नहीं करता है; यह बस सभी के डेटा को समान रूप से शोरयुक्त बना देता है। इसके विपरीत, FinP मूल कारण (अनूठा याद करना) को ठीक करता है, न कि केवल शोर जोड़ता है।

संक्षेप में

FinP एक ऐसी प्रणाली है जो यह सुनिश्चित करती है कि एक सामूहिक शिक्षण परियोजना में, जिनके पास सबसे अनूठा डेटा है, उन्हें अलग न किया जाए और उजागर न किया जाए। यह उन्हें अपने सीखने को सामान्य बनाने के लिए शिक्षित करके और यह सुनिश्चित करके कि समूह का नेता उनके अनूठे डेटा को बहुत अधिक शक्ति न दे, ऐसा करता है। परिणाम एक ऐसी प्रणाली है जहाँ गोपनीयता निष्पक्ष रूप से साझा की जाती है, और अंतिम उत्पाद अत्यधिक उपयोगी बना रहता है।

अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?

आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।

Digest आज़माएँ →