Differentially Private Nonparametric Confidence Intervals Under Minimal Distributional Assumptions

तकनीकी सारांश: न्यूनतम वितरण संबंधी धारणाओं के तहत विभेदक रूप से निजी गैर-पैरामीट्रिक विश्वास अंतराल (Confidence Intervals)

समस्या विवरण
यह शोध पत्र किसी भी मनमाने सांख्यिकीय परिमाणों के लिए विभेदक रूप से निजी (Differentially Private - DP) गैर-पैरामीट्रिक विश्वास अंतराल (CIs) के निर्माण की चुनौती को संबोधित करता है। CIs सांख्यिकीय अनुमान में अनिश्चितता को मापने के लिए मौलिक हैं, फिर भी मौजूदा DP विधियाँ महत्वपूर्ण सीमाओं का सामना करती हैं। वर्तमान दृष्टिकोण अक्सर मजबूत धारणाओं पर निर्भर करते हैं, जैसे कि सांख्यिकी की स्पर्शोन्मुख सामान्यता (Asymptotic Normality), या वे विशिष्ट गोपनीयता तंत्रों (जैसे कि गॉसियन शोर जोड़ना) से बंधे होते हैं। बूटस्ट्रैपिंग या बैग-ऑफ-लिटिल-बूटस्ट्रैप (BLB) पर आधारित विधियाँ अक्सर सीमित-नमूना शासन (Finite-sample regimes) में अव्यावहारिक हो सकती हैं, जिसके परिणामस्वरूप ऐसे अंतराल प्राप्त होते हैं जो या तो अमान्य (कम कवरेज वाले) होते हैं या अत्यधिक रूढ़िवादी (अत्यधिक चौड़े) होते हैं। लेखक एक ऐसा सामान्य ढांचा विकसित करने का लक्ष्य रखते हैं जो किसी भी DP एस्टिमेटर को बिना किसी विशिष्ट सीमा वितरण या लक्षित फलन (Functional) की सुगमता संबंधी धारणाओं के, एक वैध गैर-पैरामीट्रिक CI में परिवर्तित कर सके।

कार्यप्रणाली: PrivSub (निजी उप-नमूनाकरण/Private Subsampling)
प्रस्तावित समाधान, PrivSub, बूटस्ट्रैपिंग के बजाय उप-नमूनाकरण (Subsampling) की सांख्यिकीय तकनीक का लाभ उठाता है। यह एल्गोरिदम इस प्रकार कार्य करता है:

1. पूर्ण अनुमान (Full Estimation): पूरे डेटासेट पर लक्षित परिमाण का एक विभेदक रूप से निजी अनुमान $M_{full}$ तंत्र का उपयोग करके निकालें।
2. उप-नमूनाकरण (Subsampling): डेटासेट से बिना प्रतिस्थापन (Without replacement) के आकार $m$ के $T$ उप-समुच्चय खींचें।
3. निजी उप-अनुमान (Private Sub-Estimation): प्रत्येक $T$ उप-समुच्चय पर एक विभेदक रूप से निजी एस्टिमेटर $M_{sub}$ लागू करें।
4. पश्च-प्रसंस्करण (Post-Processing): केंद्रित और पुनर्गठित (Rescaled) निजी सांख्यिकी के अनुभवजन्य संचयी वितरण फलन (Empirical CDF) का निर्माण करें। विशेष रूप से, यह विधि उप-समुच्चय अनुमानों को पूर्ण-डेटासेट अनुमान के इर्द-गिर्द केंद्रित करती है और उन्हें अभिसरण दर (Convergence rate) के अनुपात $\tau_m / \tau_n$ द्वारा पुनर्गठित करती है (जहाँ $\tau_n$ सांख्यिकी की अभिसरण दर है)।
5. अंतराल निर्माण (Interval Construction): अंतिम CI इस अनुभवजन्य CDF के $\alpha/2$ और $1-\alpha/2$ क्वांटाइल्स (Quantiles) को लेकर प्राप्त किया जाता है।

यह ढांचा "ब्लैक-बॉक्स" है, जिसका अर्थ है कि इसे विशिष्ट सीमा वितरण के ज्ञान की आवश्यकता नहीं है, केवल इसके अस्तित्व और एक ज्ञात अभिसरण दर की आवश्यकता है। गोपनीयता गारंटी प्राप्त करने के लिए, उप-समुच्चय गणनाओं पर मानक DP तंत्र लागू किए जाते हैं और उप-नमूनाकरण द्वारा गोपनीयता प्रवर्धन (Privacy amplification) का उपयोग किया जाता है, जिसके बाद $T$ पुनरावृत्तियों पर संयोजन (Composition) किया जाता है।

प्रमुख योगदान

• सामान्य ढांचा: लेखक एक ऐसी विधि प्रस्तावित करते हैं जो न्यूनतम वितरण संबंधी धारणाओं के तहत किसी भी DP एस्टिमेटर को एक गैर-पैरामीट्रिक CI में बदल देती है। इसके लिए सांख्यिकी का स्पर्शोन्मुख सामान्य होना या फलन का सुचारू होना आवश्यक नहीं है।
• सैद्धांतिक गारंटी: शोध पत्र सिद्ध करता है कि PrivSub द्वारा प्रेरित अनुभवजन्य CDF, निजी सांख्यिकी के वास्तविक नमूना वितरण (Sampling distribution) की ओर अभिसरित होता है (प्रमेय 3.3)। फलस्वरूप, यह सिद्ध होता है कि परिणामी CI स्पर्शोन्मुख रूप से वैध और सटीक (Tight) है (उपप्रमेय 3.4), बशर्ते कि गोपनीयता तंत्र $\tau_n$-सुसंगत (Consistent) हो (अर्थात, गोपनीयता-प्रेरित त्रुटि सांख्यिकीय त्रुटि की तुलना में निम्न क्रम की हो)।
• गोपनीयता विश्लेषण: लेखक उप-नमूनाकरण प्रवर्धन और उन्नत संयोजन प्रमेयों का उपयोग करते हुए, शुद्ध DP ($\delta=0$) और अनुमानित DP ($\delta > 0$) दोनों के लिए एल्गोरिदम के लिए कठोर गोपनीयता सीमाएं प्रदान करते हैं।
• अनुमानी मार्गदर्शन (Heuristic Guidance):: हालांकि न्यूनतम धारणाओं के तहत इष्टतम सीमित-नमूना हाइपरपैरामीटर ($m$ और $T$) प्राप्त नहीं किए जा सकते, फिर भी यह शोध पत्र अनुमानी मार्गदर्शन प्रदान करता है। यह डेटा उपयोग और गोपनीयता लागत के बीच संतुलन बनाने के लिए $m \cdot T \gtrsim n$ का सुझाव देता है, और व्यावहारिक स्थिरता के लिए $m \propto n^{2/3}$ और $T=60$ की सिफारिश करता है।

अनुभवजन्य परिणाम
लेखक तीन कार्यों में मौजूदा सामान्य गैर-पैरामीट्रिक DP CI विधियों, विशेष रूप से BLBquant (BLB पर आधारित) और PrivBoot (निजी बूटस्ट्रैप पर आधारित) के विरुद्ध PrivSub का मूल्यांकन करते हैं:

1. माध्यिका अनुमान (Median Estimation): एक ट्रंकेटेड नॉर्मल वितरण के तहत।
2. लॉजिस्टिक्स रिग्रेशन स्लोप अनुमान: एक पैरामीट्रिक सेटिंग जिसमें नॉर्मल लिमिटिंग डिस्ट्रीब्यूशन है।
3. कोलमोगोरोव-स्मिरनोव (KS) सांख्यिकी: एक गैर-सुचारू फलन जिसमें नॉन-नॉर्मल लिमिटिंग डिस्ट्रीब्यूशन है।

निष्कर्ष:

• वैधता और सटीकता: PrivSub लगातार नाममात्र स्तर (जैसे 90%) के करीब कवरेज के साथ CIs उत्पन्न करता है। इसके विपरीत, BLBquant अक्सर सीमित नमूनों में कम कवरेज (अमान्य) प्रदर्शित करता है, जबकि PrivBoot लगातार अत्यधिक रूढ़िवादी रहता है, जिससे काफी चौड़े अंतराल प्राप्त होते हैं।
• मजबूती (Robustness): PrivSub सुचारू (माध्यिका, रिग्रेशन) और गैर-सुचारू (KS) दोनों प्रकार के फलनों के लिए अच्छा प्रदर्शन करता है। यह KS प्रयोग में प्रतिस्पर्धियों से बेहतर प्रदर्शन करता है, जहाँ नॉन-नॉर्मल लिमिटिंग डिस्ट्रीब्यूशन अन्य विधियों को चुनौती देते हैं।
• सीमित-नमूना प्रदर्शन: यह विधि संबंधित गैर-निजी बेसलाइन के साथ प्रतिस्पर्धी और अक्सर उनसे कम चौड़ाई वाले CIs प्राप्त करती है, जबकि प्रतिस्पर्धी निजी विधियां अक्सर गोपनीयता संयोजन लागतों के कारण अत्यधिक चौड़ाई या अमान्यता से ग्रस्त होती हैं।

महत्व और दावे
शोध पत्र का दावा है कि PrivSub निजी सांख्यिकीय अनुमान के लिए एक मॉड्यूलर और सामान्य दृष्टिकोण प्रदान करता है। इसका प्राथमिक महत्व वैध DP CIs के लिए आवश्यक धारणाओं को शिथिल करने में निहित है। अन्य कार्यों के विपरीत जिन्हें स्पर्शोन्मुख सामान्यता या विशिष्ट शोर तंत्रों की आवश्यकता होती है, PrivSub केवल एक सीमा वितरण के अस्तित्व और एक ज्ञात अभिसरण दर पर निर्भर करता है। यह इस ढांचे को सांख्यिकीय समस्याओं के एक व्यापक वर्ग के लिए लागू करने योग्य बनाता है, विशेष रूप से उन मामलों में जिनमें गैर-सुचारू फलन या जटिल वितरण शामिल हैं जहाँ पारंपरिक बूटस्ट्रैप या नॉर्मल-अनुमान विधियां विफल हो जाती हैं। लेखक इस बात पर जोर देते हैं कि उनके सैद्धांतिक प्रमाण व्यावहारिक प्रदर्शन में अनुवादित होते हैं, जो गोपनीयता-संवेदनशील डेटा विश्लेषण के लिए अनिश्चितता मात्रा निर्धारण (Uncertainty quantification) हेतु एक मजबूत विकल्प प्रदान करते हैं।