General Frameworks for Conditional Two-Sample Testing

तकनीकी सारांश: सशर्त दो-नमूना परीक्षण (Conditional Two-Sample Testing) के लिए सामान्य रूपरेखाएँ

समस्या सेटअप
यह शोध पत्र सशर्त दो-नमूना परीक्षण (conditional two-sample testing) की समस्या को संबोधित करता है, जो यह निर्धारित करने का प्रयास करता है कि क्या दो जनसंख्याएँ एक संभावित कन्फाउंडिंग कारक (confounding factor) को ध्यान में रखते हुए, एक रिस्पॉन्स वेरिएबल $Y$ के लिए एक ही सशर्त वितरण (conditional distribution) साझा करती हैं। औपचारिक रूप से, दिए गए दो स्वतंत्र नमूनों $\{(X^{(1)}_i, Y^{(1)}_i)\}_{i=1}^{n_1} \sim P^{(1)}_{XY}$ और $\{(X^{(2)}_i, Y^{(2)}_i)\}_{i=1}^{n_2} \sim P^{(2)}_{XY}$ के लिए, लक्ष्य शून्य परिकल्पना (null hypothesis) का परीक्षण करना है:
$$H_0: P^{(1)}_{Y|X}(\cdot | X) = P^{(2)}_{Y|X}(\cdot | X) \quad \text{लगभग सर्वत्र (almost surely)}$$
बनाम यह कि वे धनात्मक प्रायिकता के साथ भिन्न हैं। यह समस्या डोमेन अनुकूलन (domain adaptation - कोवेरिएट शिफ्ट मान्यताओं को सत्यापित करना) और एल्गोरिद्मिक निष्पक्षता (algorithmic fairness - जनसांख्यिकीय गुणों के आधार पर पूर्वाग्रह का पता लगाना) जैसे महत्वपूर्ण अनुप्रयोगों में उत्पन्न होती है।

कठिनाई परिणाम (Hardness Result)
लेखक पहले इस समस्या के लिए एक मौलिक कठिनाई परिणाम स्थापित करते हैं। वे प्रदर्शित करते हैं कि अतिरिक्त धारणाओं के बिना, कोई भी वैध सशर्त दो-नमूना परीक्षण किसी भी एकल विकल्प (single alternative) के विरुद्ध गैर-तुच्छ शक्ति (non-trivial power) नहीं रख सकता जब कंडीशनिंग वेरिएबल $X$ निरंतर (continuous) हो। यह निष्कर्ष शाह और पीटर्स (2020) द्वारा स्थापित सशर्त स्वतंत्रता परीक्षण के नकारात्मक परिणाम के समानांतर है। उनके प्रमाण में एक प्रमुख तकनीकी अंतर यह है कि मानक सशर्त स्वतंत्रता सेटिंग्स के विपरीत, जहाँ समूह संकेतक यादृच्छिक होते हैं, दो-नमूना समस्या में नमूना आकार $n_1$ और $n_2$ नियतात्मक (deterministic) होते हैं। लेखक इस अंतर को ब्रिज करने के लिए एकाग्रता तर्कों (concentration arguments) का उपयोग करते हैं ताकि यह दिखाया जा सके कि समस्या स्वाभाविक रूप से कठिन बनी हुई है, जिससे इसे व्यवहार्य बनाने के लिए संरचनात्मक धारणाओं (जैसे घनत्व अनुपात की सुगमता या सीमाबद्धता) की आवश्यकता होती है।

कार्यप्रणाली रूपरेखाएँ (Methodological Frameworks)
इन कठिनाइयों को दूर करने के लिए, यह शोध पत्र दो सामान्य रूपरेखाएँ प्रस्तुत करता है जो वैध परीक्षण को सक्षम करने के लिए उचित धारणाओं को अंतर्निहित या स्पष्ट रूप से शामिल करती हैं।

1. सशर्त स्वतंत्रता परीक्षण (CIT) के माध्यम से रूपरेखा
पहली रूपरेखा सशर्त स्वतंत्रता परीक्षण और सशर्त दो-नमूना परीक्षण के बीच समानता का लाभ उठाती है। एक बाइनरी समूह संकेतक $Z$ पेश करके, समस्या $P^{(1)}_{Y|X} = P^{(2)}_{Y|X}$ को $Y \perp\!\!\!\perp Z \mid X$ के परीक्षण के रूप में देखा जा सकता है।

• एल्गोरिदम 1: लेखक एक जेनेरिक "ब्लैक-बॉक्स" रूपांतरण विधि प्रस्तावित करते हैं जो किसी भी मौजूदा सशर्त स्वतंत्रता परीक्षण को सशर्त दो-नमूना परीक्षण में बदल देती है। यह एल्गोरिदम मूल निश्चित-आकार के समूहों से एक द्विपद वितरण (Binomial distribution) के आधार पर सबसैंपलिंग करके i.i.d. ट्रिपल $(X, Y, Z)$ का एक डेटासेट बनाता है। यदि सबसैंपल किए गए आकार मूल समूह आकारों से अधिक होते हैं, तो शून्य परिकल्पना को स्वीकार किया जाता है; अन्यथा, क्रमबद्ध (permuted) डेटा पर एक मानक सशर्त स्वतंत्रता परीक्षण लागू किया जाता है।
• सैद्धांतिक गारंटी: प्रमेय 2 सिद्ध करता है कि यह रूपांतरण अंतर्निहित सशर्त स्वतंत्रता परीक्षण की स्पर्शोन्मुखी वैधता (Type I error नियंत्रण) और निरंतरता (consistency/power) को बनाए रखता है, बशर्ते कि टेस्ट स्टैटिस्टिक "कपलिंग-स्थिर" (coupling-stable) हो या सबसैंपलिंग का नुकसान स्पर्शोन्मुखी रूप से नगण्य हो।

2. घनत्व अनुपात अनुमान (DRT) के माध्यम से रूपरेखा
दूसरी रूपरेखा घनत्व अनुपात अनुमान (density ratio estimation) का उपयोग करके सशर्त तुलना को मार्जिनल तुलना में बदल देती है।

• सिद्धांत: शून्य परिकल्पना तब सत्य होती है जब संयुक्त घनत्व $f^{(1)}_{XY}$ एक पुन: भारित (re-weighted) $f^{(2)}_{XY}$ के बराबर होता है, विशेष रूप से $f^{(1)}_{XY}(x,y) = r_X(x) f^{(2)}_{XY}(x,y)$, जहाँ $r_X(x) = f^{(1)}_X(x)/f^{(2)}_X(x)$ मार्जिनल घनत्व अनुपात है।
• कार्यान्वयन: समस्या को $f^{(1)}_{XY}$ और पुन: भारित $f^{(2)}_{XY}$ के बीच एक मार्जिनल दो-नमूना परीक्षण के रूप में पुनर्गठित किया गया है। लेखक इसे दो ठोस दृष्टिकोणों के माध्यम से प्रदर्शित करते हैं:
  • वर्गीकरण-आधारित दृष्टिकोण (Classifier-based approach): दोनों समूहों के बीच अंतर करने के लिए एक क्लासिफायर को प्रशिक्षित करना, जहाँ दूसरे समूह के लिए लॉस फंक्शन को अनुमानित घनत्व अनुपात $r_X$ द्वारा भारित किया जाता है।
  • कर्नेल-आधारित दृष्टिकोण (MMD): महत्व भारण (importance weighting) के साथ मैक्सिमम मीन डिस्क्रिपेंसी (Maximum Mean Discrepancy) का उपयोग करना। लेखक एक एकीकृत ब्लॉक-वाइज़ MMD स्टैटिस्टिक प्रस्तावित करते हैं जो पैरामीटर $\gamma \in [0, 1]$ द्वारा नियंत्रित होता है।
    • रेजीम I ($0 \le \gamma < 1$): स्पर्शोन्मुखी सामान्यता (asymptotic normality) प्राप्त करने के लिए ब्लॉक-वाइज़ U-सांख्यिकी का उपयोग करता है।
    • रेजीम II ($\gamma = 1$): मानक द्विघात-समय (quadratic-time) MMD को पुनः प्राप्त करता है, जिसे गैर-गाऊसी सीमांत वितरण को संभालने के लिए मल्टीप्लायर बूटस्ट्रैप के माध्यम से कैलिब्रेट किया जाता है।
• नमूना विभाजन (Sample Splitting): प्लग-इन पूर्वाग्रह (plug-in bias) से बचने के लिए, लेखक $r_X$ के अनुमान को टेस्ट स्टैटिस्टिक के मूल्यांकन से अलग करने के लिए सैंपल स्प्लिटिंग (या क्रॉस-फिटिंग) का उपयोग करते हैं।

प्रमुख योगदान

1. कठिनाई लक्षण वर्णन (Hardness Characterization): यह कठोर प्रमाण कि निरंतर कंडीशनिंग के तहत सशर्त दो-नमूना परीक्षण, सशर्त स्वतंत्रता परीक्षण जितना ही कठिन है, जो धारणाओं की आवश्यकता को रेखांकित करता है।
2. जेनेरिक रूपांतरण एल्गोरिदम: एक अभिनव एल्गोरिदम (एल्गोरिदम 1) जो अभ्यासकर्ताओं को सैद्धांतिक गारंटी बनाए रखते हुए दो-नमूना समस्याओं के लिए किसी भी मौजूदा सशर्त स्वतंत्रता परीक्षण को लागू करने की अनुमति देता है।
3. घनत्व अनुपात रूपरेखा (DRT Framework): एक लचीली रूपरेखा जो घनत्व अनुपातों के माध्यम से सशर्त परीक्षण को मार्जिनल परीक्षण में बदल देती है, जिसे वर्गीकरण बनाम कर्नेल के माध्यम से विधि चयन की लचीलापन प्रदान करती है।
4. एकीकृत MMD सिद्धांत: एक एकीकृत MMD रूपरेखा का सैद्धांतिक विकास जो रैखिक-समय (ब्लॉक-वाइज़) और द्विघात-समय दोनों व्यवस्थाओं को कवर करता है, जिसमें दूसरे के लिए बूटस्ट्रैप कैलिब्रेशन शामिल है।

परिणाम और अनुभवजन्य निष्कर्ष
लेखक सिंथेटिक डेटा (रैखिक, उच्च-विचरण, और पोस्ट-नॉनलीन मॉडल को कवर करते हुए) और वास्तविक दुनिया के डेटासेट (Diamonds और Superconductivity) पर प्रस्तावित विधियों का मूल्यांकन करते हैं।

• सिंथेटिक डेटा:
  • DRT विधियाँ (घनत्व अनुपातों पर निर्भर) तब बेहतर शक्ति (power) दिखाती हैं जब मार्जिनल घनत्व अनुपात सीमाबद्ध (bounded) और आसानी से अनुमान लगाने योग्य होता है।
  • CIT विधियाँ (एल्गोरिदम 1 के माध्यम से) और सशर्त कर्नेल विधियाँ (CMMD, CGED) अनबाउंडेड घनत्व अनुपातों के प्रति अधिक मजबूत हैं लेकिन विशिष्ट उच्च-विचरण परिदृश्यों में प्रभावित हो सकती हैं।
  • कोई भी एक विधि समान रूप से प्रभावी नहीं है; प्रदर्शन काफी हद तक डेटा-जनरेटिंग तंत्र और घनत्व अनुपात के अनुमान की कठिनाई पर निर्भर करता है।
• वास्तविक डेटा:
  • उच्च-आयामी सेटिंग्स (Superconductivity डेटासेट) में, घनत्व अनुपात अनुमानक का चुनाव महत्वपूर्ण है। लीनियर लॉजिस्टिक रिग्रेशन (LLR) टाइप I एरर को नियंत्रित करने में विफल रहा, जबकि कर्नेल लॉजिस्टिक रिग्रेशन (KLR) ने वैधता को बहाल किया, हालांकि इसमें कम्प्यूटेशनल लागत अधिक थी।
  • सशर्त कर्नेल विधियों (CMMD, CGED) ने प्रतिस्पर्धी शक्ति प्राप्त की लेकिन अन्य विधियों की तुलना में काफी अधिक कम्प्यूटेशनल लागत (क्रमों का अंतर) उठाई।

महत्व और दावे
यह शोध पत्र दावा करता है कि यह सशर्त दो-नमूना परीक्षण के लिए एक व्यवस्थित आधार प्रदान करता है, जो एक ऐसी समस्या है जो पहले नॉनपैरामीट्रिक सांख्यिकी में कम खोजी गई थी। इसकी अंतर्निहित कठिनाई को स्थापित करके और दो अलग-अलग, सैद्धांतिक रूप से स्थापित रूपरेखाएँ प्रदान करके, यह कार्य उपलब्ध टूलकिट का विस्तार करता है।

• CIT रूपरेखा दो-नमूना समस्याओं के लिए सशर्त स्वतंत्रता परीक्षण के विस्तृत साहित्य का लाभ उठाने का एक व्यावहारिक मार्ग प्रदान करती है।
• DRT रूपरेखा सशर्त परीक्षण को महत्व भारण (importance weighting) और मार्जिनल परीक्षण के सुस्थापित क्षेत्र से जोड़ती है, जो विधि चयन (वर्गीकरण बनाम कर्नेल) के लिए लचीलापन प्रदान करती है।
• लेखक इस बात पर जोर देते हैं कि इन विधियों की वैधता विशिष्ट धारणाओं (जैसे घनत्व अनुपातों की सीमाबद्धता या अनुमान क्षमता) पर निर्भर करती है, और वे विभिन्न डेटा व्यवस्थाओं में कम्प्यूटेशनल लागत, शक्ति और टाइप I एरर नियंत्रण के बीच के ट्रेड-ऑफ के लिए अनुभवजन्य मार्गदर्शन प्रदान करते हैं।

यह कार्य भविष्य की दिशाओं की पहचान करके समाप्त होता है, जैसे कि रूपरेखाओं को सशर्त $K$-नमूना परीक्षण ($K \ge 2$) तक विस्तारित करना और सैंपलिंग इम्पोर्टेंस रिसैंपलिंग (SIR) जैसे री-सैंपलिंग आधारित दृष्टिकोणों की खोज करना।