Kernel Tests of Equivalence

यहाँ ज़िंग लियू और एक्सल गैंडी के शोध पत्र "Kernel Tests of Equivalence" का विस्तृत तकनीकी सारांश दिया गया है।

1. समस्या विवरण (Problem Statement)

पारंपरिक गुडनेस-ऑफ-फिट (GOF) परीक्षण का लक्ष्य एक शून्य परिकल्पना ($H_0^*: Q = P$) को तब खारिज करना होता है जब इस बात के महत्वपूर्ण साक्ष्य मिलते हैं कि एक अज्ञात वितरण $Q$, एक नामित वितरण $P$ से भिन्न है। हालाँकि, $H_0^*$ को खारिज करने में विफल होना समानता (equivalence) को सिद्ध नहीं करता है; यह केवल कम सांख्यिकीय शक्ति (Type-II error) का परिणाम हो सकता है। इसके अलावा, जैसे-जैसे नमूना आकार (sample sizes) बढ़ता है, मानक GOF परीक्षण लगभग हमेशा $H_0^*$ को खारिज कर देंगे क्योंकि "सभी मॉडल गलत होते हैं" (अर्थात, कोई भी मॉडल वास्तविकता के साथ पूर्णतः फिट नहीं बैठता), जिससे यह निष्कर्ष निकालना असंभव हो जाता है कि एक मॉडल व्यावहारिक रूप से उपयोगी है।

समानता परीक्षण (Equivalence Testing - ET) इसे उलटकर संबोधित करता है। इसका लक्ष्य एक शून्य परिकल्पना को खारिज करना है जो यह कहती है कि वितरण एक पूर्व-निर्धारित मार्जिन $\theta$ द्वारा पर्याप्त रूप से भिन्न हैं।

• शून्य परिकल्पना ($H_0$): $D(Q, P) \ge \theta$ (वितरण $\theta$ मार्जिन से कम से कम इतने भिन्न हैं)।
• वैकल्पिक परिकल्पना ($H_1$): $D(Q, P) < \theta$ (वितरण $\theta$ मार्जिन के भीतर समान हैं)।

मौजूदा विधियों की सीमाएँ:

• अधिकांश मौजूदा ET विधियाँ पैरामीट्रिक मॉडलों या विशिष्ट क्षणों (जैसे माध्य, प्रसरण) तक सीमित हैं।
• हाल के गैर-पैरामीट्रिक दृष्टिकोण (जैसे, चेन एट अल., 2023) मैक्सिमम मीन डिसक्रीपेंसी (MMD) का उपयोग करते हैं लेकिन एसिम्प्टोटिक नॉर्मल एप्रोक्सिमेशन (asymptotic normal approximations) पर निर्भर करते हैं। लेखक दिखाते हैं कि ये अनुमान तब विफल हो जाते हैं जब समानता मार्जिन $\theta$ छोटा होता है या जब वास्तविक विसंगति (discrepancy) शून्य के करीब होती है, जिससे अनियंत्रित टाइप-I त्रुटि दर (false positives) उत्पन्न होती है।

2. कार्यप्रणाली (Methodology)

यह शोध पत्र कर्नेल विधियों पर आधारित दो परिवारों के गैर-पैरामीट्रिक समानता परीक्षण प्रस्तावित करता है, जो एक-नमूना (जहाँ $P$ एक स्कोर फंक्शन के माध्यम से ज्ञात है) और दो-नमूना (जहाँ $P$ से नमूने उपलब्ध हैं) दोनों सेटिंग्स के लिए उपयुक्त हैं।

A. सांख्यिकीय विसंगतियाँ (Statistical Discrepancies)

परीक्षण दूरी $D(Q, P)$ को मापने के लिए दो कर्नेल-आधारित विसंगतियों का उपयोग करते हैं:

1. कर्नेल स्टीन डिसक्रीपेंसी (KSD): एक-नमूना परीक्षण के लिए उपयोग किया जाता है। इसके लिए नामित वितरण $P$ के स्कोर फंक्शन $\nabla \log p(x)$ की आवश्यकता होती है, लेकिन इसके लिए $P$ से नमूना लेने या इसके नॉर्मलाइजिंग कांस्टेंट को जानने की आवश्यकता नहीं होती है।
2. मैक्सिमम मीन डिसक्रीपेंसी (MMD): दो-नमूना परीक्षण के लिए उपयोग किया जाता है। इसके लिए $Q$ और $P$ दोनों से नमूनों की आवश्यकता होती है, लेकिन घनत्व (density) मूल्यांकन या स्कोर फंक्शन की आवश्यकता नहीं होती है।

B. परीक्षण दृष्टिकोण (Testing Approaches)

KSD और MMD दोनों के लिए, लेखक दो वेरिएंट प्रस्तावित करते हैं:

1. नॉर्मल एप्रोक्सिमेशन टेस्ट (E-KSD-Normal / E-MMD-Normal):

   • तंत्र: सेंट्रल लिमिट थ्योरम (CLT) पर निर्भर करता है। टेस्ट स्टैटिस्टिक को एक अनुमानित विचरण (जैकनीफ एस्टिमेटर्स के माध्यम से) का उपयोग करके मानकीकृत (standardized) किया जाता है।
   • निर्णय नियम: यदि मानकीकृत स्टैटिस्टिक मानक सामान्य वितरण ($z_\alpha$) से प्राप्त क्रिटिकल वैल्यू से नीचे गिरता है, तो $H_0$ को खारिज कर दें।
   • सीमा: CLT अनुमान तब मान्य होता है जब $D(Q, P) > 0$ हो। हालाँकि, जब $D(Q, P) \approx 0$ (शून्य सेट की सीमा के पास) होता है, तो एस्टिमेटर का वितरण विकृत (degenerate) हो जाता है (गाऊसी के बजाय ची-स्क्वायर के भारित योग में परिवर्तित हो जाता है)। यह टाइप-I त्रुटि दरों को बढ़ा देता है, विशेष रूप से छोटे $\theta$ के लिए।

2. बूटस्ट्रैप्ड टेस्ट (E-KSD-Boot / E-MMD-Boot):

   • तंत्र: एसिम्प्टोटिक नॉर्मलिटी पर निर्भर रहने के बजाय, यह टेस्ट स्टैटिस्टिक के वितरण को अनुमानित करने के लिए वेटेड बूटस्ट्रैप (मल्टीनोमियल रीसैंपलिंग) का उपयोग करता है।
   • मुख्य नवाचार: सीधे रॉ डिसक्रीपेंसी को बूटस्ट्रैप करने के बजाय, लेखक विसंगतियों के त्रिभुज असमानता (triangle inequality) का लाभ उठाते हैं (जैसे, $KSD(Q, P) \le KSD(Q, Q_n) + KSD(Q_n, P)$)। वे एक टेस्ट स्टैटिस्टिक $T = \theta - D(Q_n, P)$ का निर्माण करते हैं और "त्रुटि" पद $D(Q_n, Q)$ के वितरण के आधार पर क्रिटिकल वैल्यू का अनुमान लगाने के लिए बूटस्ट्रैप नमूनों का उपयोग करते हैं।
   • लाभ: यह दृष्टिकोण तब भी मान्य रहता है जब $D(Q, P) = 0$ हो या $\theta$ छोटा हो, जो परिमित नमूनों (finite samples) में कठोर टाइप-I त्रुटि नियंत्रण प्रदान करता है।

C. डेटा-संचालित मार्जिन चयन (Data-Driven Margin Selection)

यह शोध पत्र वांछित सांख्यिकीय शक्ति ($1-\beta$) के आधार पर समानता मार्जिन $\theta$ चुनने के लिए एक विधि पेश करता है।

• अवधारणा: $\theta$ ऐसा चुनें कि परीक्षण एक विशिष्ट वैकल्पिक (जैसे, $D(Q, P) \le \theta'$) को $1-\beta$ की प्रायिकता के साथ पहचान सके।
• सूत्र: $\theta = \theta' + \gamma_{1-\alpha} + \gamma_{1-\beta}$, जहाँ $\gamma$ डिसक्रीपेंसी एरर के बूटस्ट्रैप वितरण के क्वांटाइल्स (quantiles) को दर्शाता है। यह सुनिश्चित करता है कि परीक्षण न तो बहुत रूढ़िवादी (conservative) हो और न ही बहुत उदार (liberal)।

3. मुख्य योगदान (Key Contributions)

1. नवीन समानता परीक्षण: चार नए परीक्षण (E-KSD-Normal, E-KSD-Boot, E-MMD-Normal, E-MMD-Boot) पेश किए, जो पूरी तरह से गैर-पैरामीट्रिक हैं और पूर्ण वितरण समानता के लिए लागू होते हैं।
2. नॉर्मल एप्रोक्सिमेशन का सैद्धांतिक विश्लेषण: सैद्धांतिक और अनुभवजन्य रूप से प्रदर्शित किया कि नॉर्मल-एप्रोक्सिमेशन-आधारित समानता परीक्षणों में टाइप-I त्रुटि अनियंत्रित हो जाती है जब मार्जिन छोटा होता है या वास्तविक विसंगति शून्य के करीब होती है।
3. मजबूत बूटस्ट्रैप फ्रेमवर्क: एक बूटस्ट्रैपिंग फ्रेमवर्क विकसित किया जो समानता परिकल्पनाओं के लिए वैध क्रिटिकल वैल्यू बनाने के लिए कर्नेल विसंगतियों की त्रिभुज असमानता का उपयोग करता है, जो नमूना आकार या मार्जिन के आकार की परवाह किए बिना टाइप-I त्रुटि नियंत्रण सुनिश्चित करता है।
4. दो-नमूना सेटिंग्स में सामान्यीकरण: असमान नमूना आकार ($n \neq m$) के साथ दो-नमूना मामले (MMD) में समानता परीक्षण का विस्तार किया, जो समान नमूना आकार मानने वाले पिछले कार्यों का सामान्यीकरण करता है।
5. व्यावहारिक मार्जिन चयन: पूर्व-निर्दिष्ट शक्ति आवश्यकताओं के आधार पर $\theta$ चुनने के लिए एक डेटा-संचालित "न्यूनतम प्रभाव आकार" (minimal effect size) दृष्टिकोण प्रस्तावित किया, जो सांख्यिकीय कठोरता और व्यावहारिक अनुप्रयोग के बीच की खाई को पाटता है।

4. प्रयोगात्मक परिणाम (Experimental Results)

लेखकों ने गॉसियन मीन-शिफ्ट मॉडल, गॉसियन-बर्नौली रिस्ट्रिक्टेड बोल्ट्ज़मैन मशीन (GB-RBM), और MNIST डिजिट क्लासिफिकेशन पर परीक्षणों का मूल्यांकन किया।

• टाइप-I त्रुटि नियंत्रण:
  • नॉर्मल टेस्ट: जब $\theta$ छोटा था या जब $Q$, $P$ के करीब था (सीमा/boundary), तब टाइप-I त्रुटि को नियंत्रित करने में विफल रहे, भले ही नमूना आकार मध्यम ($n=200$ से $2000$) था।
  • बूटस्ट्रैप्ड टेस्ट: सभी परिदृश्यों में, जिसमें छोटा $\theta$ और उच्च-आयामी डेटा (MNIST) शामिल है, अच्छी तरह से कैलिब्रेटेड टाइप-I त्रुटि दर बनाए रखी।
• शक्ति (Power):
  • नॉर्मल टेस्ट: जब वे मान्य थे (बड़ा $\theta$), तो आमतौर पर उच्च शक्ति प्रदर्शित करते थे, लेकिन यह उनकी अमान्यता की कीमत पर आया।
  • बूटस्ट्रैप्ड टेस्ट: कुछ क्षेत्रों में थोड़ी कम शक्ति दिखाई, लेकिन प्रस्तावित डेटा-संचालित विधि का उपयोग करके चुने गए $\theta$ के साथ गारंटीकृत शक्ति स्तर प्रदान किया।
• उच्च-आयामी प्रदर्शन: MNIST प्रयोग (784 आयाम) में, E-MMD-Boot टेस्ट अच्छी तरह से कैलिब्रेटेड रहा, जबकि नॉर्मल एप्रोक्सिमेशन विफल रहा, जो उच्च-आयामी स्थानों में बूटस्ट्रैप दृष्टिकोण की मजबूती को उजागर करता है।

5. महत्व (Significance)

यह कार्य सांख्यिकीय परिकल्पना परीक्षण में एक महत्वपूर्ण अंतर को संबोधित करता है: दो वितरणों के समान होने का कठोरता से निष्कर्ष निकालने में असमर्थता, न कि केवल यह कहना कि वे "महत्वपूर्ण रूप से भिन्न नहीं" हैं।

• व्यावहारिक प्रभाव: प्रस्तावित विधियाँ बायो-इक्विवेलेंस ट्रायल्स, ड्रग स्टेबिलिटी असेसमेंट, जेनेरेटिव मॉडल वैलिडेशन (जैसे, GANs), और कॉज़ल इन्फरेंस जैसे क्षेत्रों के लिए आवश्यक हैं, जहाँ किसी मॉडल या उपचार का मानक के पर्याप्त समान होना प्राथमिक लक्ष्य होता है।
• पद्धतिगत उन्नति: नाजुक एसिम्प्टोटिक नॉर्मल एप्रोक्सिमेशन से हटकर मजबूत बूटस्ट्रैपिंग तकनीकों की ओर बढ़कर, यह शोध पत्र गैर-पैरामीट्रिक समानता परीक्षण के लिए एक विश्वसनीय टूलकिट प्रदान करता है।
• लचीलापन: यह ढांचा दोनों परिदृश्यों को संभालता है जहाँ नामित वितरण स्कोर फंक्शन (KSD) के माध्यम से ज्ञात है और जहाँ केवल नमूने उपलब्ध हैं (MMD), जो इसे आधुनिक मशीन लर्निंग और सांख्यिकीय समस्याओं की एक विस्तृत श्रृंखला के लिए लागू बनाता है।

संक्षेप में, यह शोध पत्र कर्नेल विधियों का उपयोग करके समानता परीक्षण के लिए एक सैद्धांतिक रूप से सुदृढ़ और अनुभवजन्य रूप से प्रमाणित ढांचा प्रदान करता है, जो मौजूदा नॉर्मल-एप्रोक्सिमेशन विधियों की टाइप-I त्रुटि वृद्धि की गंभीर समस्या को हल करता है।