💻 computer science

Variational Latent Entropy Estimation Disentanglement: Controlled Attribute Leakage for Face Recognition

यह शोध पत्र VLEED का प्रस्ताव करता है, जो एक पोस्ट-हॉक वेरिएशनल ऑटोएन्कोडर विधि है जो सत्यापन उपयोगिता को बनाए रखते हुए और जनसांख्यिकीय पूर्वाग्रह को कम करते हुए गोपनीयता और निष्पक्षता बढ़ाने के लिए चेहरे की पहचान वाले एम्बेडिंग से लिंग और जातीयता जैसे संवेदनशील गुणों को अलग करती है।

मूल लेखक: Ünsal Öztürk (Idiap Research Institute, Martigny, Switzerland), Vedrana Krivokuća Hahn (Idiap Research Institute, Martigny, Switzerland), Sushil Bhattacharjee (Idiap Research Institute, Martigny, Swit

प्रकाशित 2026-04-15

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Ünsal Öztürk (Idiap Research Institute, Martigny, Switzerland), Vedrana Krivokuća Hahn (Idiap Research Institute, Martigny, Switzerland), Sushil Bhattacharjee (Idiap Research Institute, Martigny, Switzerland), Sébastien Marcel (Idiap Research Institute, Martigny, Switzerland, UNIL, Lausanne, Switzerland)

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आपके पास एक डिजिटल आईडी कार्ड (एक फेस एम्बेडिंग) है जो यह साबित करता है कि आप कौन हैं। यह कार्ड यह कहने में अविश्वसनीय रूप से सक्षम है कि, "हाँ, यह एलिस है," लेकिन यह अनजाने में वे रहस्य भी फुसफुसा देता है जो आप कभी साझा नहीं करना चाहते थे, जैसे "एलिस महिला है" या "एलिस एशियाई मूल की है।"

चेहरे की पहचान (facial recognition) की दुनिया में, यह एक समस्या है। यदि कोई कंपनी आपके फोन को अनलॉक करने के लिए आपके आईडी कार्ड का उपयोग करती है, तो उन्हें आपके लिंग या जातीयता को जानने की आवश्यकता नहीं होनी चाहिए। लेकिन क्योंकि वर्तमान आईडी कार्ड "अव्यवस्थित" (वे पहचान को जनसांख्यिकी के साथ मिला देते हैं) हैं, इसलिए एक चतुर हैकर या पक्षपाती एल्गोरिदम उन रहस्यों का अनुमान लगाने के लिए केवल उस कार्ड को देखकर सक्षम हो सकता है।

यह पेपर एक नया टूल पेश करता है जिसे VLEED (Variational Latent Entropy Estimation Disentanglement) कहा जाता है। VLEED को एक स्मार्ट प्राइवेसी फिल्टर या एक डिजिटल जूसर के रूप में समझें जिसे आप अपने मौजूदा आईडी कार्डों पर उन्हें बनाने के बाद लागू कर सकते हैं।

यह कैसे काम करता है, इसे सरल अवधारणाओं में यहाँ दिया गया है:

1. समस्या: "स्मूदी" बनाम "सलाद"

वर्तमान में, चेहरे की पहचान करने वाली प्रणालियाँ एक "स्मूदी" बनाती हैं। वे आपके चेहरे, आपके लिंग, आपकी आयु और आपकी जातीयता को लेते हैं, और उन सभी को एक एकल डिजिटल वेक्टर (संख्याओं की एक सूची) में मिला देते हैं।

अच्छी बात: यह आपको पहचानने में बहुत अच्छा है।
बुरी बात: यदि आप यह स्मूदी किसी को देते हैं, तो वे "लिंग" या "जातीयता" के अवयवों (ingredients) का स्वाद भी ले सकते हैं, भले ही उन्हें ऐसा करने की अनुमति न हो।

2. समाधान: "सलाद स्पिनर" (VLEED)

VLEED उस अव्यवस्थित स्मूदी को लेता है और उसे एक विशेष मशीन के माध्यम से चलाता है जो अवयवों को वापस अलग कर देता है, लेकिन एक ट्विस्ट के साथ। यह दो अलग-अलग कटोरे बनाता है:

कटोरा A (पहचान का कटोरा): इसमें केवल वह जानकारी होती है जो यह साबित करने के लिए आवश्यक है कि आप कौन हैं (आपकी विशिष्ट चेहरे की संरचना)।
कटोरा B (जनसांख्यिकीय कटोरा): इसमें केवल संवेदनशील जानकारी होती है (लिंग, जातीयता)।

जादुई ट्रिक: VLEED कटोरा B को फेंक देता है और कटोरा A को रखता है। अब, आपके पास एक नया आईडी कार्ड है जो यह साबित करता है कि आप एलिस हैं, लेकिन यदि कोई इसके माध्यम से आपके लिंग का अनुमान लगाने की कोशिश करता है, तो वे केवल अंदाज़ा लगा रहे होते हैं (जैसे सिक्का उछालना)।

3. इसे कैसे पता चलता है कि क्या फेंकना है?

आप पूछ सकते हैं, "कंप्यूटर को कैसे पता चलता है कि कौन सी संख्याएँ 'एलिस' की हैं और कौन सी 'महिला' की हैं?"

VLEED लुका-छिपी के खेल का उपयोग करता है जिसमें तीन पात्र शामिल हैं:

ट्रांसफॉर्मर (VLEED): कटोरा B में लिंग/जातीयता की जानकारी को छिपाने की कोशिश करता है ताकि कटोरा A साफ रहे।
डिटेक्टिव (एक क्लासिफायर): कटोरा A को देखने और लिंग का अनुमान लगाने की कोशिश करता है।
कोच: ट्रांसफॉर्मर पर चिल्लाता है, "तुम बुरा काम कर रहे हो! डिटेक्टिव अभी भी सही अनुमान लगा रहा है! इसे बेहतर तरीके से छिपाओ!"

ट्रांसफॉर्मर कटोरा A को तब तक एडजस्ट करता रहता है जब तक कि डिटेक्टिव पूरी तरह से भ्रमित न हो जाए। जब डिटेक्टिव 50/50 अनुमान लगा रहा होता है (जैसे सिक्का उछालना), तो ट्रांसफॉर्मर को पता चल जाता है कि उसने संवेदनशील जानकारी को सफलतापूर्वक हटा दिया है।

4. "वॉल्यूम नॉब" (नियंत्रण)

VLEED की एक सबसे कूल विशेषता एक वॉल्यूम नॉब (जिसे $\lambda_{dis}$ कहा जाता है) है।

इसे कम करें: आप लगभग सारी जानकारी रखते हैं। आईडी कार्ड आपको पहचानने में बहुत सटीक है, लेकिन यह अभी भी थोड़ा सा लिंग/जातीयता लीक करता है।
इसे बढ़ाएं: आप संवेदनशील जानकारी को आक्रामक रूप से साफ करते हैं। आईडी कार्ड बहुत निजी हो जाता है, लेकिन यह पहचानना थोड़ा कठिन हो सकता है (जैसे धुंध में अपने दोस्त को पहचानना)।

यह संगठनों को अपना स्वयं का संतुलन चुनने की अनुमति देता है: "हम 90% गोपनीयता और 95% सटीकता चाहते हैं," या "हम 99% गोपनीयता और 80% सटीकता चाहते हैं।"

5. यह पुराने तरीकों से बेहतर क्यों है?

पिछले तरीके एक सलेजहैमर (भारी हथौड़ा) का उपयोग करने जैसे थे।

पुराना तरीका: "आइए आईडी कार्ड की पहली 100 संख्याओं को काट दें।" यह कुछ रहस्यों को हटा देता है, लेकिन यह आपकी पहचान के हिस्सों को भी काट देता है, जिससे आईडी कार्ड बेकार हो जाता है।
VLEED: यह एक स्केल्पल (सर्जिकल चाकू) का उपयोग करने जैसा है। यह आपकी पहचान के पैटर्न को नष्ट किए बिना विशेष रूप से "जनसांख्यिकीय" पैटर्न को निकाल देता है।

वास्तविक दुनिया का प्रभाव

शोधकर्ताओं ने लाखों चेहरों पर इसका परीक्षण किया। उन्होंने पाया कि:

गोपनीयता (Privacy): आप हैकर्स द्वारा आपके लिंग या जातीयता का अनुमान लगाने की क्षमता को 90% सटीकता से घटाकर रैंडम चांस (50%) तक कम कर सकते हैं।
निष्पक्षता (Fairness): क्योंकि सिस्टम अब आपकी लिंग या जातीयता को "देखता" नहीं है, इसलिए यह पक्षपाती गलतियाँ करना बंद कर देता है। उदाहरण के लिए, यह महिलाओं या कुछ जातीयताओं के लोगों को पहचानने में खराब होना बंद कर देता है।
उपयोगिता (Utility): आप अभी भी दरवाजे खोलने, भुगतान करने या अपने दोस्तों को खोजने के लिए आईडी कार्ड का उपयोग कर सकते हैं, ठीक पहले की तरह।

संक्षेप में

VLEED एक प्राइवेसी टूल है जो एक फेस आईडी कार्ड लेता है, "मैं कौन हूँ?" वाले हिस्से को "मैं क्या हूँ?" वाले हिस्से से अलग करता है, और "मैं क्या हूँ?" वाले हिस्से को फेंक देता है। यह आपको अपनी पहचान खोए बिना अपनी गोपनीयता और निष्पक्षता बनाए रखने में मदद करता है। यह एक मास्क पहनने जैसा है जो आपके जनसांख्यिकीय गुणों को छिपाता है लेकिन आपके चेहरे को इतना स्पष्ट छोड़ देता है कि आपके दोस्त कह सकें, "हे, यह तुम हो!"

यहाँ पेपर "Variational Latent Entropy Estimation Disentanglement: Controlled Attribute Leakage for Face Recognition" (VLEED) का विस्तृत तकनीकी सारांश दिया गया है।

1. समस्या विवरण (Problem Statement)

डीप फेस रिकग्निशन (FR) मॉडल ऐसे एम्बेडिंग्स (embeddings) उत्पन्न करते हैं जो पहचान (identity) के लिए अत्यधिक भेदभावपूर्ण (discriminative) होते हैं, लेकिन अनजाने में संवेदनशील सॉफ्ट-बायोमेट्रिक गुणों जैसे लिंग (gender) और जातीयता (ethnicity) को एनकोड कर देते हैं। यह दो गंभीर मुद्दे पैदा करता है:

सूचना रिसाव (Information Leakage): जब एम्बेडिंग्स को संग्रहीत या साझा किया जाता है, तो तीसरे पक्ष उच्च सटीकता के साथ संवेदनशील गुणों का अनुमान लगा सकते हैं, जो उपयोगकर्ता की गोपनीयता का उल्लंघन करता है।
एल्गोरिदम संबंधी पूर्वाग्रह (Algorithmic Bias): डाउनस्ट्रीम सिस्टम इन जनसांख्यिकीय संकेतों पर निर्भर हो सकते हैं, जिससे संरक्षित समूहों के बीच असमान व्यवहार (जैसे, विशिष्ट जातीय समूहों के लिए उच्च फॉल्स मैच रेट) हो सकता है।

मौजूदा समाधानों की सीमाएँ हैं:

एंड-टू-एंड विधियाँ (जैसे, एडवरसेरियल ट्रेनिंग) पूरे रिकग्निशन पाइपलाइन को फिर से प्रशिक्षित करने की मांग करती हैं, जो तैनात (deployed) प्रणालियों के लिए अव्यवहारिक है।
पोस्ट-हॉक लीनियर विधियाँ (जैसे, INLP, IVE) एम्बेडिंग्स को नुलस्पेस (nullspaces) में प्रोजेक्ट करती हैं या आयामों को हटा देती हैं, लेकिन जटिल, गैर-रेखीय निर्भरताओं को पकड़ने में विफल रहती हैं, जिससे अवशेष रिसाव (residual leakage) बना रहता है।
मौजूदा गैर-रेखीय पोस्ट-हॉक विधियाँ (जैसे, PFRNet) अक्सर मोमेंट-मैचिंग बाधाओं (moment-matching constraints) पर निर्भर करती हैं जो पूर्ण सांख्यिकीय स्वतंत्रता की गारंटी नहीं देती हैं और प्राइवेसी-यूटिलिटी ट्रेडऑफ पर सीमित नियंत्रण प्रदान करती हैं।

2. कार्यप्रणाली: VLEED (Methodology: VLEED)

लेखक VLEED का प्रस्ताव करते हैं, जो एक पोस्ट-हॉक ट्रांसफॉर्मेशन फ्रेमवर्क है जो पूर्व-प्रशिक्षित फेस एम्बेडिंग्स को लेता है और उन्हें मूल FR मॉडल को पुन: प्रशिक्षित किए बिना गोपनीयता-संरक्षित प्रतिनिधित्व में बदल देता है।

मुख्य आर्किटेक्चर (Core Architecture)

VLEED एक स्प्लिट-वैरिएशनल ऑटोएनकोडर (Split-Variational Autoencoder - Split-VAE) आर्किटेक्चर का उपयोग करता है:

एनकोडर (Encoder): एक इनपुट एम्बेडिंग $x$ $x$ को दो अलग-अलग लेटेंट वेरिएबल्स में मैप करता है:
- रेसिड्यूअल लेटेंट ( $Z_r$ ): इसका उद्देश्य पहचान-प्रासंगिक जानकारी ले जाना है, जबकि यह संवेदनशील विशेषता $C$ से सांख्यिकीय रूप से स्वतंत्र रहे।
- क्लास लेटेंट ( $Z_c$ ): इसका उद्देश्य संवेदनशील विशेषता को एनकोड करना है। यह एक क्लास-कंडीशनल गॉसियन प्रायर (class-conditional Gaussian prior) के माध्यम से क्लास लेबल $c$ पर आधारित होता है।
डिकोडर (Decoder): $[Z_r; Z_c]$ के संयोजन से मूल एम्बेडिंग $\hat{x}$ को पुनर्गठित (reconstruct) करता है।
ऑक्सिलरी क्लासिफायर (Auxiliary Classifier): एक अलग नेटवर्क जिसे रेसिड्यूअल लेटेंट $Z_r$ से संवेदनशील विशेषता $C$ की भविष्यवाणी करने के लिए प्रशिक्षित किया जाता है।

ऑब्जेक्टिव फंक्शन (Objective Function)

प्रशिक्षण का लक्ष्य चार पदों का भारित योग (weighted sum) है (Eq. 3):
$\mathcal{L} = \lambda_{rec}\mathcal{L}_{rec} + \beta_r \mathcal{L}^{KL}_r + \beta_c \mathcal{L}^{KL}_c + \lambda_{dis}\mathcal{L}_{dis}$

रिकंस्ट्रक्शन लॉस ( $\mathcal{L}_{rec}$ ): पहचान ज्यामिति (identity geometry) को बनाए रखने के लिए इनपुट और आउटपुट के बीच कोसाइन दूरी।
KL डाइवर्जेंस ( $\mathcal{L}^{KL}$ ): $Z_r$ को एक मानक आइसोट्रोपिक गॉसियन की ओर और $Z_c$ को एक क्लास-कंडीशनल गॉसियन की ओर नियमित (regularize) करता है।
डिसेंटैंगलमेंट लॉस ( $\mathcal{L}_{dis}$ ): यह नवीन योगदान है। सीधे म्यूचुअल इंफॉर्मेशन (MI) को कम करने के बजाय, VLEED कंडीशनल एंट्रॉपी $H(C|Z_r)$ $H (C ∣ Z_{r})$ को अधिकतम करता है।
- एक ऑक्सिलरी क्लासिफायर $q_\phi(c|Z_r)$ को $Z_r$ से $C$ की भविष्यवाणी करने के लिए प्रशिक्षित किया जाता है।
- VAE को इस क्लासिफायर के क्रॉस-एंट्रॉपी को कम करने के लिए प्रशिक्षित किया जाता है (जो प्रभावी रूप से इसकी अनिश्चितता को अधिकतम करता है)।
- गणितीय रूप से, $H(C|Z_r)$ को अधिकतम करना म्यूचुअल इंफॉर्मेशन $I(C; Z_r)$ को न्यूनतम करने के समान है।

प्रशिक्षण प्रक्रिया (Training Procedure)

प्रशिक्षण प्रत्येक मिनी-बैच के भीतर दो चरणों के बीच बारी-बारी से चलता है:

क्लासिफायर अपडेट: VAE एनकोडर/डिकोडर को फ्रीज करें; $Z_r$ पर प्रेडिक्शन लॉस को कम करने के लिए ऑक्सिलरी क्लासिफायर को अपडेट करें।
VAE अपडेट: क्लासिफायर को फ्रीज करें; कुल लॉस (एंट्रॉपी-आधारित डिसेंटैंगलमेंट टर्म सहित) को कम करने के लिए VAE पैरामीटर्स को अपडेट करें।

3. मुख्य योगदान (Key Contributions)

VLEED फ्रेमवर्क: एक स्प्लिट-लेटेंट वैरिएशनल मॉडल जो क्लास-कंडीशनल प्रायर का उपयोग करके पहचान और संवेदनशील विशेषताओं को अलग करता है, जिससे फ्रोजन एम्बेडिंग्स का पोस्ट-हॉक प्रोसेसिंग संभव होता है।
एंट्रॉपी-आधारित ऑब्जेक्टिव: म्यूचुअल इंफॉर्मेशन को कम करने के लिए एक व्यावहारिक, सरोगेट ऑब्जेक्टिव, जो ऑक्सिलरी क्लासिफायर की अनिश्चितता को अधिकतम करके डायरेक्ट MI एस्टीमेशन की अस्थिरता से बचता है।
सूक्ष्म नियंत्रण (Fine-Grained Control): एक एकल हाइपरपैरामीटर ( $\lambda_{dis}$ ) प्राइवेसी-यूटिलिटी ट्रेडऑफ को सुचारू, निरंतर ट्यूनिंग करने की अनुमति देता है, जिससे ऑपरेटर विशिष्ट ऑपरेटिंग पॉइंट्स चुन सकते हैं।
गैर-रेखीय डिसेंटैंगलमेंट (Nonlinear Disentanglement): लीनियर प्रोजेक्शन विधियों के विपरीत, VLEED उस जानकारी को प्रभावी ढंग से दबा देता है जिसे डीप नॉन-लीनियर क्लासिफायर्स द्वारा रिकवर किया जा सकता है।

4. प्रयोगात्मक परिणाम (Experimental Results)

इसका मूल्यांकन जेंडर और एथ्निसिटी डिसेंटैंगलमेंट के लिए IJB-C, RFW, और VGGFace2 पर किया गया, जिसमें INLP, IVE, और PFRNet/ASPECD के विरुद्ध तुलना की गई।

प्राइवेसी-यूटिलिटी ट्रेडऑफ (Privacy-Utility Tradeoff):
- VLEED एक सुचारू, मोनोटोनिक ट्रेडऑफ कर्व प्रदर्शित करता है। जैसे-जैसे $\lambda_{dis}$ बढ़ता है, एट्रिब्यूट लीकेज कम होता है जबकि वेरिफिकेशन एक्यूरेसी (True Match Rate) धीरे-धीरे घटती है।
- जेंडर (Gender): लीनियर क्लासिफायर्स (लॉजिस्टिक्स रिग्रेशन) जल्दी दब जाते हैं। नॉन-लीनियर क्लासिफायर्स (Deep MLP) को दबाने के लिए उच्च $\lambda_{dis}$ की आवश्यकता होती है, लेकिन VLEED वेरिफिकेशन के विफल होने से पहले काफी कम लीकेज प्राप्त करता है।
- एथ्निसिटी (Ethnicity): जेंडर की तुलना में एथ्निसिटी के लिए डिसेंटैंगलमेंट आमतौर पर आसान है। VLEED वेरिफिकेशन प्रदर्शन को बनाए रखते हुए डीप क्लासिफायर एक्यूरेसी को मेजरिटी क्लास बेसलाइन तक कम कर सकता है।
बेसलाइन्स के साथ तुलना (Comparison with Baselines):
- vs. INLP/IVE: ये लीनियर विधियाँ वेरिफिकेशन को अच्छी तरह से बनाए रखती हैं लेकिन नॉन-लीनियर लीकेज को रोकने में विफल रहती हैं। VLEED डीप MLP एक्यूरेसी को दबाने में इनसे काफी बेहतर है।
  // vs. PFRNet: PFRNet (मोमेंट मैचिंग) एक "सिंगल-पॉइंट" व्यवहार दिखाता है जहाँ डिसेंटैंगलमेंट वेट बढ़ाने से लीकेज या यूटिलिटी में बहुत कम बदलाव आता है। VLEED अधिक विस्तृत रेंज ऑफ ऑपरेटिंग पॉइंट्स और अधिक स्थिर ट्रेनिंग प्रदान करता है।
फेयरनेस (Fairness/Bias Mitigation):
- एट्रिब्यूट लीकेज को कम करने का संबंध आमतौर पर कम ग्रुप डिस्पैरिटी (फॉल्स मैच रेट के गिनी गुणांक द्वारा मापा गया) से होता है।
- मजबूत डिसेंटैंगलमेंट (उच्च $\lambda_{dis}$ ) से जनसांख्यिकीय समूहों के बीच एरर रेट अधिक समान हो जाता है, हालांकि यह समग्र सिस्टम यूटिलिटी की कीमत पर होता है।
लेटेंट स्पेस विश्लेषण (Latent Space Analysis):
- t-SNE विज़ुअलाइज़ेशन दिखाते हैं कि जैसे-जैसे $\lambda_{dis}$ बढ़ता है, रेसिड्यूअल लेटेंट स्पेस $Z_r$ एक होमोजेनियस क्लाउड बन जाता है जहाँ जनसांख्यिकीय समूह मिल जाते हैं, जबकि मध्यम सेटिंग्स पर पहचान संरचना स्पष्ट रहती है। चरम सेटिंग्स पर, स्पेस कोलैप्स हो जाता है, जिससे वेरिफिकेशन फेल हो जाता है।

5. महत्व (Significance)

डिप्लॉयबिलिटी (Deployability): VLEED एक पोस्ट-हॉक मॉड्यूल के रूप में कार्य करता है, जिससे यह मूल ट्रेनिंग डेटा या बैकबोन को पुन: प्रशिक्षित किए बिना मौजूदा, तैनात फेस रिकग्निशन सिस्टम के लिए तुरंत लागू करने योग्य बन जाता है।
सैद्धांतिक कठोरता (Theoretical Rigor): एंट्रॉपी मैक्सिमाइजेशन के माध्यम से म्यूचुअल इंफॉर्मेशन मिनिमाइजेशन के रूप में डिसेंटैंगलमेंट को फ्रेम करके, यह ह्यूरिस्टिक मोमेंट-मैचिंग या एडवरसेरियल ह्यूरिस्टिक्स की तुलना में स्वतंत्रता की अधिक मजबूत सैद्धांतिक गारंटी प्रदान करता है।
व्यावहारिक नियंत्रण (Practical Control): प्राइवेसी-यूटिलिटी ट्रेडऑफ को निरंतर ट्यून करने की क्षमता सिस्टम प्रशासकों को स्वीकार्य सिस्टम प्रदर्शन बनाए रखते हुए विशिष्ट नियामक या नैतिक आवश्यकताओं (जैसे, GDPR अनुपालन) को पूरा करने में सक्षम बनाती है।
पूर्वाग्रह में कमी (Bias Reduction): यह विधि दर्शाती है कि एम्बेडिंग्स से संवेदनशील गुणों को हटाने से एक ही फ्रेमवर्क में प्राइवेसी और एल्गोरिदम संबंधी पूर्वाग्रह दोनों को संबोधित करते हुए फेयरनेस मेट्रिक्स में सुधार हो सकता है।

निष्कर्षतः, VLEED बायोमेट्रिक प्राइवेसी में एक महत्वपूर्ण प्रगति का प्रतिनिधित्व करता है, जो फेस रिकग्निशन एम्बेडिंग्स से पहचान को संवेदनशील जनसांख्यिकीय गुणों से अलग करने के लिए एक मजबूत, ट्यूनेबल और प्रभावी समाधान प्रदान करता है।