Dobrushin Coefficients of Private Mechanisms Beyond Local Differential Privacy

तकनीकी सारांश: स्थानीय विभेदक गोपनीयता (Local Differential Privacy) से परे निजी तंत्रों के डोब्रुशिन गुणांक (Dobrushin Coefficients)

समस्या विवरण
यह शोध पत्र विविक्त मार्कोव कर्नेल (privacy mechanisms) में गोपनीयता को मापने के लिए केवल स्थानीय विभेदक गोपनीयता (LDP) का उपयोग करने की सीमाओं को संबोधित करता है। जबकि LDP व्यापक रूप से अपनाया जाता है, लेखक दो प्राथमिक समस्याओं को नोट करते हैं:

1. अत्यधिक प्रतिबंधात्मकता: सांख्यिकीय अनुप्रयोगों जैसे कि पैरामीटर अनुमान (parameter estimation) में, कड़े LDP गारंटी (छोटा $\epsilon$) प्राप्त करने से अनुमान प्रदर्शन (उच्च मिनिमैक्स जोखिम) में अत्यधिक गिरावट आ सकती है।
2. शून्य संभावनाओं के साथ विरोधाभासी व्यवहार: मानक LDP परिभाषा एक अनंत गोपनीयता लागत देती है यदि कोई तंत्र किसी दिए गए इनपुट के लिए किसी आउटपुट को शून्य प्रायिकता प्रदान करता है ($K_{Y|X=x}(y) = 0$)। यह उन तंत्रों को, जिनमें महत्वपूर्ण रैंडमाइजेशन है (जैसे कि पेपर के उदाहरण में $K_1$), पहचान मैपिंग या तुच्छ तंत्रों (जैसे कि $K_2$) के समान मानती है यदि दोनों में शून्य प्रविष्टियाँ हैं, जिससे गोपनीयता रिसाव के संदर्भ में "शोरयुक्त" (noisy) और "निश्चित" (deterministic) व्यवहारों के बीच अंतर करने में विफल रहती है।

इन मुद्दों को संबोधित करने के लिए, लेखक डोब्रुशिन गुणांकों (Total Variation दूरी के संकुचन गुणांक) की जांच करते हैं जो पॉइंटवाइज मैक्सिमल लीकेज (PML) का पालन करते हैं न कि सख्त LDP का। PML, मैक्सिमल लीकेज का एक पॉइंटवाइज अनुकूलन है जो डेटा वितरण $P_X$ पर निर्भर करता है। लेखक विशेष रूप से उन तंत्रों का विश्लेषण करते हैं जहाँ इनपुट वितरण $P_X$ का न्यूनतम प्रायिकता द्रव्यमान एक स्थिरांक $c > 0$ द्वारा शून्य से दूर सीमित है (अर्थात, $\min_x P_X(x) \geq c$)। यह ढांचा उन तंत्रों के विश्लेषण की अनुमति देता है जिनमें शून्य-प्रायिकता असाइनमेंट हैं जिन्हें LDP के तहत अनंत रूप से निजी (या अनंत रूप से रिसाव वाला) माना जाता।

कार्यप्रणाली
यह शोध पत्र गोपनीयता तंत्रों के माध्यम से $f$-डाइवर्जेंस के संकुचन के लिए सीमाएँ (bounds) प्राप्त करने हेतु सूचना-सैद्धांतिक उपकरणों का उपयोग करता है।

• परिभाषाएँ: लेखक $(\epsilon, c)$-PML को एक बाधा के रूप में परिभाषित करते हैं जहाँ PML को $Q_X(c) = \{P_X : \min_x P_X(x) \geq c\}$ में सभी इनपुट वितरणों के लिए $\epsilon$ द्वारा सीमित किया गया है। यह LDP का सामान्यीकरण है, क्योंकि LDP $c \to 0$ के रूप में संगत है।
• संकुचन गुणांक (Contraction Coefficients): अध्ययन का मुख्य विषय डोब्रुशिन गुणांक $\eta_{TV}(\epsilon, c)$ है, जिसे $(\epsilon, c)$-PML का पालन करने वाले सभी कर्नेल पर Total Variation (TV) दूरी के संकुचन के सुप्रीमम (supremum) के रूप में परिभाषित किया गया है।
• बाइनरी आउटपुट में न्यूनीकरण: लेखक सिद्ध करते हैं कि अधिकतम डोब्रुशिन गुणांक खोजने के लिए, बाइनरी आउटपुट स्पेस ($|Y|=2$) वाले तंत्रों पर विचार करना पर्याप्त है। यह अनुकूलन समस्या को काफी सरल बना देता है।
• असमानताएं: व्युत्पत्ति सामान्य $f$-डाइवर्जेंस (जैसे कि रिलेटिव एंट्रॉपी और हेलिंगर डाइवर्जेंस) तक TV सीमाओं को विस्तारित करने के लिए बिनेट की असमानता (रिवर्स पिंस्कर असमानता का एक सामान्यीकरण) का उपयोग करती है।

मुख्य योगदान और परिणाम

1. डोब्रुशिन गुणांकों पर प्राप्त सीमाएँ:
   शोध पत्र किसी भी कर्नेल के लिए, जो $(\epsilon, c)$-PML का पालन करता है, $\eta_{TV}(\epsilon, c)$ पर एक टाइट ऊपरी सीमा प्राप्त करता है। यह सीमा इस प्रकार है:
   $$\eta_{TV}(\epsilon, c) \leq \min\left( \frac{e^\epsilon - 1}{e^\epsilon(1 - Nc) + 1}, 1 \right)$$
   जहाँ $N$ इनपुट वर्णमाला (alphabet) का आकार है।

• रिजीम विश्लेषण (Regime Analysis): लेखक दिखाते हैं कि यदि $\epsilon \geq \log(2/Nc)$ है, तो संकुचन गुणांक 1 है (कोई संकुचन नहीं होता है)। यदि $\epsilon < \log(2/Nc)$ है, तो गुणांक 1 से कम है, जो गोपनीयता-प्रेरित संकुचन को दर्शाता है।
• LDP की प्राप्ति: जैसे-जैसे $c \to 0$ होता है, सीमा ज्ञात $\epsilon$-LDP के परिणाम को पुनः प्राप्त करती है: $\eta_{TV} \leq \frac{e^\epsilon - 1}{e^\epsilon + 1}$।
• तंत्र निर्माण: शोध पत्र इन सीमाओं को प्राप्त करने वाले स्पष्ट तंत्रों (विशेष रूप से बाइनरी-आउटपुट तंत्रों) के निर्माण प्रदान करता है, जो यह प्रदर्शित करता है कि सीमाएँ प्राप्त करने योग्य हैं।

2. सामान्य $f$-डाइवर्जेंस में विस्तार:
   बिनेट की असमानता का उपयोग करते हुए, लेखक TV सीमाओं को सामान्य $f$-डाइवर्जेंस तक विस्तारित करते हैं। वे $(\epsilon, c)$-PML बाधाओं के तहत रिलेटिव एंट्रॉपी और हेलिंगर डाइवर्जेंस के लिए मजबूत डेटा प्रोसेसिंग असमानताओं (SDPIs) को प्राप्त करते हैं। ये सीमाएँ TV संकुचन कारक और आउटपुट वितरणों के चरम अनुपातों (extremal ratios) पर निर्भर करती हैं।

3. मिनिमैक्स जोखिम (Minimax Risk) पर अनुप्रयोग:
   व्युत्पन्न सीमाओं को निजी मिनिमैक्स अनुमान जोखिम पर लागू किया जाता है। ले कैम के टू-पॉइंट मेथड (Le Cam's two-point method) और $f$-डाइवर्जेंस के टेंसराइजेशन गुण का उपयोग करके, लेखक दिखाते हैं कि एक निश्चित जोखिम स्तर प्राप्त करने के लिए आवश्यक सैंपल कॉम्प्लेक्सिटी (sample complexity) निजी डोब्रुशिन गुणांक के व्युत्क्रम के आनुपातिक कारक से बढ़ जाती है। विशेष रूप से, यदि गुणांक 1 है, तो सैंपल कॉम्प्लेक्सिटी गैर-निजी सेटिंग के समान होती है; यदि यह 1 से कम है, तो प्रभावी सैंपल साइज कम हो जाता है।

महत्व और दावे
शोध पत्र दावा करता है कि यह LDP अकेले की तुलना में गोपनीयता तंत्रों का विश्लेषण करने के लिए एक अधिक सूक्ष्म ढांचा प्रदान करता है। $c$ पैरामीटर पेश करके, लेखक उन तंत्रों के लिए गोपनीयता रिसाव को मात्रात्मक रूप से माप सकते हैं जिनमें शून्य-प्रायिकता प्रविष्टियाँ शामिल हैं, जिन्हें मानक LDP के तहत बाहर रखा जाता या दोषपूर्ण माना जाता है।

• टाइट बाउंड्स: LDP का पालन करने वाले तंत्रों के लिए, प्रस्तावित सीमाएँ पिछले परिणामों की तुलना में अधिक सटीक या अनुकूलनीय हैं जब इनपुट वितरण का न्यूनतम द्रव्यमान $c$ ज्ञात हो।
• LDP से परे: यह ढांचा संकुचन गुणांकों के विश्लेषण को संपूर्ण विविक्त कर्नेल वर्ग तक विस्तारित करता है, जिसमें वे भी शामिल हैं जो किसी भी परिमित LDP गारंटी का पालन नहीं करते हैं।
• परिचालन व्याख्या (Operational Interpretation): परिणाम सैद्धांतिक संकुचन गुणांकों को सांख्यिकीय अनुमान प्रदर्शन के क्षरण से सीधे जोड़ते हैं, जिससे बढ़े हुए जोखिम या सैंपल कॉम्प्लेक्सिटी के रूप में "गोपनीयता की लागत" को मापने के लिए एक उपकरण मिलता है।

लेखक इस बात पर जोर देते हैं कि उनका कार्य मौजूदा LDP परिणामों को एक विशेष मामले के रूप में पुनः प्राप्त करता है और यूनिफॉर्म डिस्ट्रीब्यूशन बाधाओं और पूर्ण LDP रिजीम के बीच एक निरंतर इंटरपोलेशन (interpolation) प्रदान करता है, जिससे विशिष्ट सांख्यिकीय संदर्भों में LDP की "अत्यधिक प्रतिबंधात्मक" प्रकृति को संबोधित किया जा सके।