💻 computer science

REAEDP: Entropy-Calibrated Differentially Private Data Release with Formal Guarantees and Attack-Based Evaluation

यह शोध पत्र REAEDP का प्रस्ताव करता है, जो एक डिफरेंशियल प्राइवेसी फ्रेमवर्क है जो इन्फरेंस खतरों के विरुद्ध गोपनीयता संरक्षण और डेटा उपयोगिता को प्रभावी ढंग से संतुलित करने के लिए एंट्रॉपी-कैलिब्रेटेड हिस्टोग्राम रिलीज और एक सिंथेटिक-डेटा तंत्र को औपचारिक गारंटी और अटैक-आधारित मूल्यांकन के साथ जोड़ता है।

मूल लेखक: Bo Ma, Jinsong Wu, Wei Qi Yan

प्रकाशित 2026-03-17

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Bo Ma, Jinsong Wu, Wei Qi Yan

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक विशाल, गुप्त पुस्तकालय के लाइब्रेरियन हैं जिसमें हजारों लोगों की व्यक्तिगत कहानियाँ संकलित हैं। आप जनता के साथ कुछ दिलचस्प आँकड़े साझा करना चाहते हैं—जैसे "कितने लोग रहस्यमयी उपन्यास पढ़ते हैं" या "हमारे पाठकों की औसत आयु क्या है।"

हालाँकि, आपके सामने एक समस्या है: डेटा का "फुसफुसाहट वाला खेल" (The Whispering Game of Data)।

यदि आप बस नंबरों की एक सूची थमा देते हैं, तो एक चतुर जासूस (एक हमलावर) यह पता लगाने में सक्षम हो सकता है कि पुस्तकालय में वास्तव में कौन है, वे क्या पढ़ते हैं, या क्या वे बीमार हैं। वे आपकी सूची को अन्य सार्वजनिक डेटा (जैसे फोन बुक या सोशल मीडिया) के साथ क्रॉस-रेफरेंस करके ऐसा कर सकते हैं। इसे प्राइवेसी लीक (Privacy Leak) कहा जाता है।

इसे रोकने के लिए, आप अपने नंबरों में थोड़ा सा "स्टैटिक" या "शोर" (Noise) जोड़ने का निर्णय लेते हैं। यह डिफरेंशियल प्राइवेसी (Differential Privacy) के विचार के पीछे का आधार है। यह एक धुंधले मास्क पहनने जैसा है; भीड़ आपकी सामान्य आकृति (सांख्यिकी) देख सकती है, लेकिन वे आपका विशिष्ट चेहरा (आपकी पहचान) नहीं पहचान सकतीं।

लेकिन पेचीदा हिस्सा यह है: आप कितना कोहरा जोड़ते हैं?

बहुत कम कोहरा? जासूस अभी भी आपका चेहरा देख सकता है।
बहुत अधिक कोहरा? भीड़ आपकी आकृति भी नहीं देख पाएगी, और सांख्यिकी बेकार हो जाएगी।

यह शोध पत्र एक नई प्रणाली पेश करता है जिसे REAEDP (उच्चारण "रीड-पी") कहा जाता है। इसे एक स्मार्ट फॉग मशीन (Smart Fog Machine) के रूप में सोचें जो तीन बड़ी समस्याओं को हल करती है:

1. "सरप्राइज मीटर" (एंट्रॉपी कैलिब्रेशन - Entropy Calibration)

आमतौर पर, लाइब्रेरियन अनुमान लगाते हैं कि कितना कोहरा जोड़ना है। यह शोध पत्र उन्हें एक गणितीय पैमाने के रूप में "एंट्रॉपी सेंसिटिविटी" देता है।

उपमा: कल्पना कीजिए कि आप ताश की एक गड्डी के "सरप्राइज" (आश्चर्य के स्तर) को माप रहे हैं। यदि गड्डी में सभी इक्के (Aces) हैं, तो शून्य आश्चर्य है। यदि यह सभी कार्डों का एक आदर्श मिश्रण है, तो अधिकतम आश्चर्य है।
समस्या: जब आप गड्डी में केवल एक कार्ड बदलते हैं (एक व्यक्ति का डेटा), तो उस "सरप्राइज लेवल" में कितना बदलाव आता है?
समाधान: लेखकों ने एक सख्त ऊपरी सीमा (एक "स्पीड लिमिट") की गणना की कि वह आश्चर्य कितना बदल सकता है। यह उन्हें पूरे डेक को धुंधला किए बिना, व्यक्तिगत कार्ड को छिपाने के लिए ठीक उतना ही कोहरा जोड़ने की अनुमति देता है। वे इसे एंट्रॉपी-कैलिब्रेटेड रिलीज (Entropy-Calibrated Release) कहते हैं।

2. "घोस्ट राइटर" (सिंथेटिक डेटा - Synthetic Data)

कभी-कभी, केवल नंबर साझा करने के बजाय, आप ऐसी नकली कहानियाँ साझा करना चाहते हैं जो असली दिखती हैं लेकिन असली नहीं होती हैं। इसे सिंथेटिक डेटा कहा जाता है।

उपमा: कल्पना कीजिए कि एक "घोस्ट राइटर" आपकी गुप्त लाइब्रेरी को पढ़ता है और कहानियों की एक नई किताब लिखता है। इन कहानियों में वास्तविक कहानियों जैसा ही अहसास और पैटर्न होता है, लेकिन पात्र काल्पनिक होते हैं।
समस्या: आप यह कैसे जानेंगे कि घोस्ट राइटर ने गलती से किसी वास्तविक व्यक्ति की कहानी कॉपी नहीं कर दी है?
समाधान: शोध पत्र एक प्राइवेसी टेस्ट (एक सुरक्षा चेकपॉइंट) पेश करता है। घोस्ट राइटर द्वारा कहानी प्रकाशित करने से पहले, वह एक परीक्षण चलाता है। वह पूछता है: "यदि मैं पुस्तकालय से एक वास्तविक व्यक्ति को हटा दूँ, तो क्या यह कहानी अभी भी वैसी ही दिखेगी?" यदि उत्तर "हाँ" है, तो कहानी सुरक्षित रूप से प्रकाशित करने योग्य है। यदि उत्तर "नहीं" है, तो उसे खारिज कर दिया जाता है। यह सुनिश्चित करता है कि "घोस्ट राइटर" वास्तव में नया और सुरक्षित डेटा बना रहा है।

3. "डिटेक्टिव ड्रिल" (हमले-आधारित मूल्यांकन - Attack-Based Evaluation)

कई शोध पत्र केवल यह कहते हैं, "हम पर भरोसा करें, हमारा गणित कहता है कि यह सुरक्षित है।" यह शोध पत्र कहता है, "आइए हम डिटेक्टिव्स की एक टीम को इसे तोड़ने की कोशिश करने के लिए काम पर रखें।"

उपमा: दरवाजा बंद करके यह उम्मीद करने के बजाय कि कोई ताला नहीं तोड़ पाएगा, आप एक पेशेवर चोर को अंदर घुसने की कोशिश करने के लिए काम पर रखते हैं।
परिणाम: उन्होंने अपने सिस्टम का परीक्षण दो सामान्य प्रकार के हमलों के विरुद्ध किया:
1. मेंबरशिप इन्फरेंस (Membership Inference): "क्या यह विशिष्ट व्यक्ति पुस्तकालय में है?"
2. रिकॉर्ड लिंकेज (Record Linkage): "क्या मैं इस व्यक्ति के डेटा को उसकी वास्तविक पहचान से मिला सकता हूँ?"
निष्कर्ष: जैसे-जैसे उन्होंने "कोहरा" (प्राइवेसी प्रोटेक्शन) बढ़ाया, जासूसों के लिए अनुमान लगाना कठिन होता गया। अंततः, उनकी सफलता दर रैंडम गेसिंग (जैसे सिक्का उछालना) के स्तर तक गिर गई। यह साबित करता है कि यह प्रणाली वास्तव में वास्तविक दुनिया में काम करती है, न कि केवल कागजों पर।

मुख्य चित्र: यह क्यों मायने रखता है

REAEDP को डेटा साझा करने के लिए एक गोल्ड स्टैंडर्ड टूलकिट के रूप में देखें।

पहले: डेटा संरक्षक (Data custodians) अंधे होकर उड़ रहे थे, अनुमान लगा रहे थे कि कितना शोर जोड़ना है, जिससे डेटा अक्सर या तो बहुत जोखिम भरा या बहुत बेकार हो जाता था।
अब: उनके पास जोखिम को मापने के लिए एक कैलिब्रेटेड रूलर (एंट्रॉपी बाउंड), नकली डेटा के लिए एक सुरक्षा चेकपॉइंट (प्राइवेसी टेस्ट), और एक सिद्ध ट्रैक रिकॉर्ड (डिटेक्टिव ड्रिल्स) है जो दिखाता है कि सिस्टम वास्तव में लोगों की रक्षा करता है।

संक्षेप में: यह शोध पत्र हमें अपने डेटा के "सामग्री" (Ingredients) को प्रकट किए बिना उसका "स्वाद" (Flavor) साझा करने का एक तरीका देता है। यह डेटा गोपनीयता की डरावनी दुनिया को एक प्रबंधनीय, मापने योग्य और सुरक्षित प्रक्रिया में बदल देता है।

यहाँ शोध पत्र "REAEDP: Entropy-Calibrated Differentially Private Data Release with Formal Guarantees and Attack-Based Evaluation" का विस्तृत तकनीकी सारांश दिया गया है।

1. समस्या विवरण (Problem Statement)

संवेदनशील डेटा (जैसे स्वास्थ्य रिकॉर्ड, प्रक्षेपवक्र/ट्रैजेक्टरीज़, अनुशंसा लॉग) के प्रकाशन में महत्वपूर्ण गोपनीयता संबंधी खतरे शामिल हैं, जिनमें मेंबरशिप इन्फरेंस (membership inference), एट्रीब्यूट इन्फरेंस (attribute inference), और रिकॉर्ड लिंकेज (record linkage) प्रमुख हैं। जबकि डिफरेंशियल प्राइवेसी (DP) सूचना रिसाव को सीमित करने के लिए एक औपचारिक ढांचा प्रदान करती है, मौजूदा दृष्टिकोण अक्सर तीन सीमाओं से ग्रस्त होते हैं:

एंट्रॉपी अंशांकन (Entropy Calibration) का अभाव: हिस्टोग्राम-आधारित रिलीज के लिए, मानक DP तंत्रों (जैसे लाप्लास या गॉसियन) को ज्ञात संवेदनशीलता (sensitivity) की आवश्यकता होती है। हालाँकि, शैनन एंट्रॉपी (जो हिस्टोग्राम के लिए एक प्राकृतिक उपयोगिता माप है) की संवेदनशीलता को अंशांकन के अनुकूल रूप में पहले कभी सीमित नहीं किया गया था।
खंडित ढांचे (Fragmented Frameworks): एंट्रॉपी-आधारित अंशांकन, सिंथेटिक डेटा जनरेशन, और औपचारिक DP विश्लेषण को अक्सर एक एकीकृत पाइपलाइन के बजाय अलग-अलग अध्ययन किया जाता है।
अपर्याप्त मूल्यांकन: कई अध्ययन केवल उपयोगिता मेट्रिक्स या सैद्धांतिक सीमाओं पर निर्भर करते हैं, जिनमें यह सत्यापित करने के लिए प्रत्यक्ष अनुभवजन्य मूल्यांकन (empirical evaluation) की कमी होती है कि क्या सुरक्षा वास्तव में काम करती है (जैसे मेंबरशिप इन्फरेंस के विरुद्ध)।

2. कार्यप्रणाली: REAEDP ढांचा (Methodology: The REAEDP Framework)

लेखक REAEDP प्रस्तावित करते हैं, जो एक एकीकृत ढांचा है जो एंट्रॉपी-कैलिब्रेटेड हिस्टोग्राम रिलीज, एक सिंथेटिक-डेटा तंत्र और कठोर हमला-आधारित मूल्यांकन को जोड़ता है।

A. सैद्धांतिक आधार (Theoretical Foundations)

एंट्रॉपी संवेदनशीलता सीमाएं (Theorem 3): शोध पत्र एक रिप्लेसमेंट एडजेसेंसी मॉडल (जहाँ $n$ आकार के दो डेटासेट ठीक एक रिकॉर्ड से भिन्न होते हैं) के तहत शैनन एंट्रॉपी ( $\Delta H$ ) की संवेदनशीलता के लिए एक स्पष्ट ऊपरी सीमा व्युत्पन्न करता है।
- यह सीमा इस प्रकार है: $\Delta H \leq \frac{1}{n} \left( 2 + \frac{1}{\ln 2} + 2 \log_2 n \right)$ ।
- इस सीमा को रेनी एंट्रॉपी ( $H_\alpha$ ) तक विस्तारित किया गया है, जो यह दर्शाता है कि किसी भी क्रम $\alpha$ के लिए संवेदनशीलता $O(1/n)$ के रूप में स्केल करती है।
- महत्व: यह चिकित्सकों को डेटासेट के आकार $n$ के आधार पर हिस्टोग्राम रिलीज के लिए शोर (noise) के स्तर को कैलिब्रेट करने की अनुमति देता है, जिससे यह सुनिश्चित होता है कि जारी की गई एंट्रॉपी एक अनुमानित त्रुटि मार्जिन के भीतर रहे।
सिंथेटिक डेटा तंत्र $F$ (Theorem 4): लेखक एक सिंथेटिक-डेटा जनरेशन तंत्र $F$ पेश करते हैं जो वीनर-कर्नेल (Wiener-kernel/RKHS) सेटिंग में कार्य करता है।
- तंत्र: यह कैंडिडेट सिंथेटिक रिकॉर्ड उत्पन्न करने के लिए एक सीड-डिपेंडेंट प्रोपोज़ल डिस्ट्रीब्यूशन का उपयोग करता है।
- गोपनीयता परीक्षण: एक कैंडिडेट तभी स्वीकार किया जाता है जब वह डेटासेट के विभाजन और एक रैंडम वेरिएबल $L$ पर आधारित एक संभाव्य "प्राइवेसी टेस्ट" पास करता है।
- गारंटी: विशिष्ट पैरामीटर स्थितियों ( $k, t, \gamma, \epsilon_0$ ) के तहत, यह तंत्र $(\epsilon, \delta)$ -डिफरेंशियल प्राइवेसी को संतुष्ट करता है। गोपनीयता पैरामीटर $\epsilon = \epsilon_0 + \ln(1 + \gamma/t)$ और $\delta = e^{-\epsilon_0(k-t)}$ के रूप में परिभाषित हैं।

B. एल्गोरिदम कार्यान्वयन (Algorithmic Implementation)

यह ढांचा दो मोड में कार्य करता है:

हिस्टोग्राम रिलीज: यह एम्पिरिकल काउंट्स की गणना करता है, व्युत्पन्न $\Delta H$ सीमा के आधार पर कैलिब्रेटेड लाप्लास शोर जोड़ता है, और शोर युक्त हिस्टोग्राम जारी करता है।
सिंथेटिक रिलीज: यह सीड्स और कैंडिडेट्स को पुनरावृत्त रूप से सैंपल करता है, और एक वैध सिंथेटिक रिकॉर्ड उत्पन्न होने तक प्राइवेसी टेस्ट लागू करता है।

3. मुख्य योगदान (Key Contributions)

स्पष्ट संवेदनशीलता सीमाएं: रिप्लेसमेंट एडजेसेंसी के तहत शैनन और रेनी एंट्रॉपी के लिए पहले स्पष्ट संवेदनशीलता सीमा का व्युत्पन्न, जो एंट्रॉपी-प्रिजर्विंग रिलीज के लिए कैलिब्रेटेड शोर जोड़ने में सक्षम बनाता है।
एकीकृत ढांचा: एंट्रॉपी अंशांकन, एक औपचारिक रूप से सिद्ध सिंथेटिक-डेटा तंत्र ( $F$ ), और अनुभवजन्य सत्यापन को एक एकल पाइपलाइन में एकीकृत करना।
सिंथेटिक डेटा के लिए औपचारिक गारंटी: गैर-इंटरैक्टिव सिंथेटिक डेटा रिलीज की कमी को दूर करते हुए, वीनर-कर्नेल सेटिंग के तहत तंत्र $F$ के लिए $(\epsilon, \delta)$ -DP गारंटी स्थापित करना।
व्यापक मूल्यांकन: एक बहु-आयामी मूल्यांकन रणनीति जिसमें शामिल हैं:
- सैद्धांतिक सीमा सत्यापन।
- बेसलाइन तुलना (लाप्लास बनाम गॉसियन)।
- हमला-आधारित मूल्यांकन: मेंबरशिप इन्फरेंस अटैक (MIA) और लिंकेज-शैली के हमलों के विरुद्ध प्रत्यक्ष परीक्षण।

4. प्रयोगात्मक परिणाम (Experimental Results)

ढांचे का मूल्यांकन कई सार्वजनिक टेबुलर डेटासेट्स (जैसे Amazon/Google Reviews, House Prices, Home Credit) और सिंथेटिक डेटा पर किया गया।

एंट्रॉपी अंशांकन:
- विभिन्न डेटासेट आकारों ( $n=50$ से $5000 $) में एम्पिरिकल एंट्रॉपी परिवर्तन ($ \hat{\Delta H}$) लगातार थ्योरम 3 में व्युत्पन्न सैद्धांतिक सीमा से नीचे रहे।
- सीमा $O(1/n)$ के रूप में घटती है, जो बड़े डेटासेट्स में अंशांकन के लिए इसकी उपयोगिता की पुष्टि करती है।
उपयोगिता बनाम गोपनीयता ट्रेडऑफ़ (Utility vs. Privacy Tradeoff):
- सिंथेटिक डेटा: वीनर-कर्नेल सेटिंग में, पेनल्टी पैरामीटर $\rho$ को बढ़ाने से शोर कम हुआ, जिससे प्राइवेट मीन (mean) मूल मीन के करीब आ गया, जो एक नियंत्रणीय ट्रेडऑफ़ को प्रदर्शित करता है।
- बेसलाइन्स: मानक लाप्लास और गॉसियन तंत्र प्रस्तावित एंट्रॉपी-कैलिब्रेटेड दृष्टिकोण के समान उपयोगिता रुझान दिखाते हैं।
हमला प्रतिरोध (Attack Resistance):
- मेंबरशिप इन्फरेंस (MIA): जैसे-जैसे गोपनीयता पैरामीटर $\epsilon$ कम होता है, MIA सटीकता और AUC स्कोर गिरकर रैंडम-गेस लेवल (0.5) की ओर आ जाते हैं, जो मेंबरशिप इन्फरेंस के विरुद्ध मजबूत सुरक्षा का संकेत देते है।
- लिंकेज हमले: इसी तरह, जैसे-जैसे गोपनीयता बढ़ती है, लिंकेज-शैली के हमले का प्रदर्शन गिर जाता है, जो रिकॉर्ड लिंकेज के विरुद्ध तंत्र की मजबूती की पुष्टि करता है।
पास रेट्स: तंत्र $F$ के लिए प्राइवेसी टेस्ट सख्त गोपनीयता सेटिंग्स (बड़े $k$ ) के तहत भी गैर-नगण्य पास रेट बनाए रखता है, जो यह सिद्ध करता है कि यह तंत्र सिंथेटिक डेटा उत्पन्न करने के लिए व्यावहारिक रूप से उपयोगी है।

5. महत्व और निष्कर्ष (Significance and Conclusion)

REAEDP ढांचा सैद्धांतिक गारंटी और व्यावहारिक उपयोगिता के बीच के अंतर को पाटकर संवेदनशील डेटा रिलीज में एक महत्वपूर्ण कमी को संबोधित करता है।

व्यावहारिक उपयोगिता: एंट्रॉपी के लिए एक स्पष्ट संवेदनशीलता सीमा प्रदान करके, यह डेटा क्यूरेटर्स को मापने योग्य त्रुटि मार्जिन के साथ सांख्यिकी जारी करने की अनुमति देता है, जो "ब्लैक बॉक्स" शोर जोड़ने से आगे जाता है।
मजबूती: हमला-आधारित मूल्यांकन का समावेश यह प्रदर्शित करता है कि सैद्धांतिक गारंटी वास्तविक दुनिया के इन्फरेंस हमलों के विरुद्ध प्रतिरोध में बदल जाती है।
स्केलेबिलिटी: ढांचे को विविध वास्तविक दुनिया के टेबुलर डेटासेट्स पर मान्य किया गया है, जो सिंथेटिक बेंचमार्क से परे इसकी प्रयोज्यता को दर्शाता है।

सीमाएं और भविष्य का कार्य:
लेखक नोट करते हैं कि हिस्टोग्राम दृष्टिकोण विविक्तीकरण (discretization/binning) पर निर्भर करता है, जो उच्च-आयामी स्थानों (high-dimensional spaces) में संवेदनशील हो सकता है। इसके अतिरिक्त, जबकि वीनर-कर्नेल घटक एक फंक्शनल-स्पेस परिप्रेक्ष्य प्रदान करता है, यह परिमित-आयामी सन्निकटन (finite-dimensional approximations) पर निर्भर करता है। भविष्य के कार्य में फ्रेमवर्क को एट्रीब्यूट इन्फरेंस बेंचमार्क, मजबूत एडवर्सरियल मॉडल, और मल्टीमॉडल/फेडरेटेड डेटा सेटिंग्स तक विस्तारित करने का लक्ष्य है।

संक्षेप में, REAEDP एक व्यावहारिक रूप से उपयोग करने योग्य, सैद्धांतिक रूप से सुदृढ़ पाइपलाइन प्रदान करता है जो औपचारिक गोपनीयता गारंटी के साथ मापने योग्य उपयोगिता संरक्षण को संतुलित करता है।