Toward Individual Fairness Without Centralized Data: Selective Counterfactual Consistency for Vertical Federated Learning
यह शोध पत्र SCC-VFL का प्रस्ताव करता है, जो वर्टिकल फेडरेटेड लर्निंग के लिए एक सर्वर-केंद्रित ढांचा है जो प्रेडिक्टिव सटीकता और गोपनीयता बनाए रखते हुए निर्णय परिवर्तन दरों (decision flip rates) को महत्वपूर्ण रूप से कम करने के लिए डिफरेंशियल प्राइवेट फीचर रोल डिस्कवरी, मास्क्ड काउंटरफैक्टुअल जनरेशन और एक कंसिस्टेंसी लॉस को जोड़कर व्यक्तिगत-स्तर की काउंटरफैक्टुअल निष्पक्षता को लागू करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप ऋण (loan) के लिए आवेदन कर रहे हैं। आपका वित्तीय जीवन एक पहेली की तरह है, लेकिन इसके टुकड़े अलग-अलग इमारतों में बिखरे हुए हैं। बैंक A के पास आपके खाते का इतिहास है, आपके नियोक्ता (employer) के पास आपकी पे स्टब्स (pay stubs) हैं, और एक क्रेडिट ब्यूरो के पास आपके ऋण का रिकॉर्ड है। गोपनीयता कानूनों के कारण उनमें से कोई भी अपनी निजी फाइलें किसी केंद्रीय बॉस को नहीं देना चाहता। इसलिए, वे वर्टिकल फेडरेटेड लर्निंग (VFL) नामक एक प्रणाली का उपयोग करते हैं। इसे अलग-अलग रसोई में काम करने वाले शेफ के एक समूह की तरह समझें जिनके पास अलग-अलग सामग्रियां हैं। वे मुख्य शेफ (सर्वर) को अपने व्यंजनों के केवल छोटे, पके हुए नमूने भेजते हैं जो अंतिम भोजन का स्वाद मिलाने के लिए उन्हें मिलाता है, बिना कभी दूसरी रसोई की कच्ची सामग्रियों को देखे।
समस्या यह है: क्या अंतिम निर्णय निष्पक्ष है?
यदि आपकी आयु 25 वर्ष है, तो क्या आपको ऋण मिलेगा? यदि आप 26 वर्ष के होते, तो क्या आपको मिलता? यदि उत्तर केवल आपकी आयु (एक संरक्षित विशेषता) के कारण बदल जाता है, तो यह अनुचित है। लेकिन यह यहाँ और भी जटिल है क्योंकि पहेली का "आयु" वाला हिस्सा एक रसोई में हो सकता है, जबकि "नौकरी की स्थिरता" का हिस्सा दूसरी रसोई में। सिस्टम अनजाने में आपकी आयु का उपयोग आपकी नौकरी की स्थिरता का अनुमान लगाने के लिए कर सकता है और फिर ऋण देने से मना करने के लिए इसका उपयोग कर सकता है, भले ही आयु मायने नहीं रखनी चाहिए।
इस शोध पत्र के लेखक, SCC-VFL प्रस्तावित करते हैं। वे इसे सेलेक्टिव काउंटरफैक्चुअल कंसिस्टेंसी (Selective Counterfactual Consistency) कहते हैं। यह कैसे काम करता है, इसके सरल उदाहरण यहाँ दिए गए हैं:
1. "क्या होता अगर" परीक्षण (Counterfactuals)
कल्पना कीजिए कि आप एक समय यात्री (time traveler) हैं। आप वापस जाते हैं और अपने बारे में एक चीज़ बदलते हैं: आपकी आयु। आप पूछते हैं, "यदि मैं 25 के बजाय 26 का होता, लेकिन मेरे जीवन के बारे में बाकी सब कुछ बिल्कुल वैसा ही रहता, तो क्या मुझे अभी भी ऋण मिलता?"
- निष्पक्ष (Fair): यदि उत्तर है "हाँ, मुझे ऋण मिलता है," तो सिस्टम स्थिर है।
- अनुचित (Unfair): यदि उत्तर है "नहीं, मुझे अस्वीकार कर दिया जाता है," तो सिस्टम अस्थिर और संभावित रूप से पक्षपाती है।
लक्ष्य यह सुनिश्चित करना है कि आपकी आयु बदलने पर भी उत्तर समान रहे।
2. "अंधेरे" सुधारों के साथ समस्या
इसे ठीक करने के पिछले प्रयास पूरी तस्वीर को धुंधला करके फोटो एडिट करने की कोशिश करने जैसे थे। वे डेटा से आयु के सभी निशान हटाने की कोशिश करते थे। लेकिन यह बहुत कठोर है। कभी-कभी, आयु कानूनी या तार्किक रूप से मायने रखती है (जैसे, एक 21 वर्षीय कार किराए पर नहीं ले सकता, लेकिन एक 25 वर्षीय ले सकता है)। हमें इस बारे में स्मार्ट होना होगा कि हम क्या बदलते हैं।
3. SCC-VFL समाधान: द "स्मार्ट एडिटर"
लेखकों ने एक ऐसा सिस्टम बनाया है जो तीन विशिष्ट उपकरणों के साथ एक स्मार्ट एडिटर की तरह कार्य करता है:
टूल A: "प्राइवेसी मास्क" (भूमिकाओं को खोजना)
एडिट करने से पहले, सिस्टम को जानना होगा कि कौन सी विशेषताएं क्या हैं।
- नॉन-डिसेंडेंट्स (The "Fixed" Anchors - स्थिर आधार): ये वे चीजें हैं जो आपकी आयु बदलने के कारण नहीं बदल सकतीं। उदाहरण के लिए, आपकी ऋण राशि या आपने अपने घर में कितने समय से रहा है। "क्या होता अगर" वाले परिदृश्य में ये बिल्कुल समान रहनी चाहिए।
- मीडिएटर्स (The "Allowed" Movers - अनुमत परिवर्तन): ये वे चीजें हैं जो आयु के साथ स्वाभाविक रूप से बदल सकती हैं। उदाहरण के लिए, आपकी नौकरी की अवधि या क्रेडिट इतिहास एक 26 वर्षीय के लिए 25 वर्षीय की तुलना में अलग दिख सकता है। सिस्टम को नई आयु के अनुरूप इन्हें अपडेट करने की अनुमति है।
- प्रॉक्सिस (The "Forbidden" Leaks - वर्जित लीक): ये वे चालाक विशेषताएं हैं जो बिना बताए गुप्त रूप से सिस्टम को आपकी आयु बता देती हैं (जैसे कि एक विशिष्ट ज़िप कोड या जनसांख्यिकीय कोड)। सिस्टम को इन्हें निर्णय को प्रभावित करने से रोकना चाहिए।
वे कच्चा डेटा देखे बिना इन्हें कैसे खोजते हैं? वे एक प्राइवेसी स्केच (Privacy Sketch) का उपयोग करते हैं। कल्पना करें कि सर्वर आयु डेटा रखने वाले पक्ष से आयु सूची का एक "धुंधला" संस्करण (जैसे कि एक धुंधली फोटो) भेजने के लिए कहता है जो व्यक्तिगत गोपनीयता की रक्षा करता है लेकिन सामान्य पैटर्न दिखाता है। इस धुंधली फोटो का उपयोग करके, सिस्टम यह पता लगाता है कि कौन सी विशेषताएं "एंकर," "मूवर," या "लीक" हैं, बिना वास्तविक नाम या आयु देखे।
टूल B: "मास्क्ड जनरेटर" (सुरक्षित संपादन)
एक बार भूमिकाएं असाइन हो जाने के बाद, सिस्टम आपके आवेदन का एक "क्या होता अगर" संस्करण बनाता है।
- यह एंकर्स (नॉन-डिसेंडेंट्स) को लॉक कर देता है ताकि वे हिलें नहीं।
- यह मूवर्स (मीडिएटर्स) को नई आयु के लिए वास्तविक दिखने के लिए अपडेट करता है (जैसे, थोड़ी लंबी नौकरी की अवधि)।
- यह लीक्स (प्रॉक्सिस) की रक्षा करता है ताकि वे गलती से निर्णय लेने वाले को पुराना आयु फुसफुसा न दें।
यह एक दर्जी की तरह है जिसे नए आकार में फिट होने के लिए सूट की आस्तीन (मीडिएटर्स) को समायोजित करने की अनुमति है, लेकिन मूल मालिक (एंकर्स) के कपड़े के पैटर्न को बदलने या मूल मालिक को प्रकट करने वाला एक छिपा हुआ टैग जोड़ने के लिए सख्त मना किया गया है (प्रॉक्सिस)।
टूल C: "स्टेबिलिटी चेक" (सर्वर-साइड प्रवर्तन)
अंत में, सर्वर मूल निर्णय और "क्या होता अगर" वाले निर्णय को देखता है।
- यदि निर्णय बदल जाता है (उदाहरण के लिए, "स्वीकृत" से "अस्वीकृत" हो जाता है) केवल अनुमत परिवर्तनों के कारण, तो सिस्टम को जुर्माना (penalty) मिलता है।
- यह मॉडल को एक ऐसा तरीका सीखने के लिए मजबूर करता है जो स्थिर (stable) है। यह मॉडल को सिखाता है: "यदि केवल वे चीजें बदली हैं जिन्हें बदलने की हमें अनुमति दी गई थी, तो परिणाम वही रहना चाहिए।"
परिणाम: एक अधिक निष्पक्ष, सुरक्षित प्रणाली
लेखकों ने तीन वास्तविक दुनिया के परिदृश्यों पर इसका परीक्षण किया: क्रेडिट (ऋण), हेल्थकेयर (हृदय रोग का जोखिम), और क्रिमिनल जस्टिस (पुनरावृत्ति का जोखिम)।
- परिणाम: उनका सिस्टम (SCC-VFL) निर्णयों को स्थिर रखने में बहुत बेहतर था। कुछ मामलों में, इसने "निर्णय परिवर्तन" (जहाँ एक व्यक्ति को केवल एक संरक्षित विशेषता के कारण अलग उत्तर मिलता है) को अन्य तरीकों की तुलना में 98% तक कम कर दिया।
- कोई समझौता नहीं (No Trade-Off): आमतौर पर, किसी सिस्टम को निष्पक्ष बनाने से उसकी सटीकता कम हो जाती है (जैसे एक सुरक्षा गार्ड जो सुरक्षित रहने के लिए सबको रोकता है)। लेकिन SCC-VFL ने सटीकता को उच्च बनाए रखते हुए निर्णयों को अधिक निष्पक्ष बनाया।
- गोपनीयता: इसने यह भी कठिन बना दिया कि हैकर्स आपके निजी गुणों (जैसे आयु या जाति) का अनुमान लगाने के लिए सिस्टम द्वारा साझा किए गए डेटा को देख सकें।
सारांश
SCC-VFL को गुप्त शेफ की एक टीम के लिए फेयरनेस फिल्टर (Fairness Filter) के रूप में समझें। यह सुनिश्चित करता है कि जब वे अंतिम स्वाद बनाने के लिए अपनी गुप्त सामग्रियों को मिलाते हैं, तो अंतिम स्वाद केवल इसलिए मनमाने ढंग से नहीं बदलता क्योंकि एक गुप्त सामग्री (जैसे आपकी आयु) थोड़ी अलग है। यह इसे निम्न प्रकार से करता है:
- गोपनीयता की रक्षा के लिए संवेदनशील जानकारी को धुंधला (Blurring) करना।
- विशेषताओं को "फिक्स्ड," "अनुमत परिवर्तन," और "वर्जित" में वर्गीकृत (Sorting) करना।
- "अनुमत" भागों को यथार्थवादी तरीके से संपादित (Editing) करना।
- यदि अंतिम निर्णय अनुचित रूप से बदलता है, तो सिस्टम को दंडित (Punishing) करना।
परिणामस्वरूप, एक ऐसा सिस्टम मिलता है जो गोपनीयता का सम्मान करता है, डेटा को वितरित रखता है, और यह सुनिश्चित करता है कि आपका ऋण या चिकित्सा निर्णय आपकी वास्तविक योग्यताओं पर निर्भर करता है, न कि आपकी आयु, जाति या लिंग के खिलाफ किसी छिपे हुए पूर्वाग्रह पर।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।