तकनीकी सारांश: ट्रिमिंग (Trimming) कॉन्फॉर्मल प्रेडिक्शन में कब मदद करती है?

समस्या विवरण (Problem Statement)

कॉन्फॉर्मल प्रेडिक्शन (Conformal prediction) कवरेज गारंटी प्रदान करने के लिए कैलिब्रेशन और टेस्ट स्कोर्स की विनिमयशीलता (exchangeability) पर निर्भर करता है। हालांकि, यह विनिमयशीलता कैलिब्रेशन संदूषण (calibration contamination) के तहत विफल हो जाती है, जहाँ कैलिब्रेशन सैंपल एक मिश्रण वितरण $P^\star = (1-\epsilon)P + \epsilon Q$ से लिया जाता है (जहाँ $P$ स्वच्छ लक्ष्य कानून है और $Q$ एक अज्ञात संदूषित कानून है), जबकि टेस्ट पॉइंट $P$ से लिया जाता है।

एक सामान्य व्यावहारिक प्रतिक्रिया उच्च विसंगति स्कोर (anomaly scores) वाले कैलिब्रेशन पॉइंट्स को ट्रिम (trim) करना है, ताकि कॉन्फॉर्मल क्वांटाइल की गणना करने से पहले उन्हें हटाया जा सके। हालांकि यह सहज लगता है, पेपर का तर्क है कि यह प्रक्रिया डेटा को केवल "शुद्ध" (purify) नहीं करती है। इसके बजाय, यह कैलिब्रेशन कानून को एक रिटेंड लॉ (retained law) $R$ में बदल देती है। स्वच्छ लक्ष्य $P$ के लिए परिणामी प्रेडिक्शन सेट की वैधता $R$ से वापस $P$ तक एक ट्रांसफर समस्या बन जाती है। केंद्रीय प्रश्न यह है: किन परिस्थितियों में ट्रिमिंग वास्तव में स्वच्छ-लक्ष्य कवरेज में सुधार करती है, और कब यह प्रदर्शन को खराब या कम कर देती है?

कार्यप्रणाली (Methodology)

रिटेंड-लॉ फ्रेमवर्क (The Retained-Law Framework)

लेखक फिक्स्ड-थ्रेशोल्ड ट्रिमिंग को डेटा शुद्धिकरण के रूप में नहीं, बल्कि कंडीशनिंग (conditioning) के रूप में पुनर्गठित करते हैं। यदि विसंगति स्कोर $S$ और थ्रेशोल्ड $t^\star$ दिया गया है, तो कैलिब्रेशन पॉइंट्स को तब रखा जाता है जब $S(Z) \le t^\star$ हो। परिणामी रिटेंड कैलिब्रेशन सेट रिटेंड लॉ (retained law) से i.i.d. होता है:
$$R = P^\star(\cdot \mid S \le t^\star)$$
यह कानून आमतौर पर मूल संदूषित कानून $P^\star$ न तो है और न ही स्वच्छ कानून $P$ है।

सैद्धांतिक निदान (Theoretical Diagnostics)

पेपर मार्जिनल क्लीन कवरेज के लिए एक सटीक परिमित-नमूना पहचान (exact finite-sample identity) व्युत्पन्न करता है, जो रिटेंड काउंट के वितरण और रिटेंड लॉ $R$ तथा स्वच्छ कानून $P$ के बीच संबंध पर निर्भर करता है।

इसे सुलभ बनाने के लिए, लेखक एक स्केलर ट्रांसफर गैप (scalar transfer gap) $d_{R \to P, +} = \sup_t (F^A_R(t) - F^A_P(t))_+$ पेश करते हैं, जहाँ $F^A$ नॉन-कन्फॉर्मिटी स्कोर $A$ का संचयी वितरण फलन (CDF) है। कवरेज गारंटी को इस प्रकार सीमित किया जाता है:
$$\text{Coverage} \ge [1 - \alpha - d_{R \to P, +}]_+$$

$R$ के मिश्रण अपघटन (mixture decomposition) का उपयोग करते हुए, लेखक इस गैप पर एक घटकवार ऊपरी सीमा (componentwise upper bound) व्युत्पन्न करते हैं:
$$d_{R \to P, +} \le (1 - \tilde{\epsilon}^\star) \Delta^A_{\text{trim}, +} + \tilde{\epsilon}^\star D_{Q, +}$$
जहाँ:

1. $\Delta^A_{\text{trim}, +}$ (क्लीन-साइड कॉस्ट): रिटेंशन के आधार पर कंडीशनिंग के कारण स्वच्छ नॉन-कन्फॉर्मिटी स्कोर वितरण में आया विरूपण। पेपर सिद्ध करता है कि यह स्वच्छ कानून $P$ के तहत रिटेंशन इंडिकेटर और नॉन-कन्फॉर्मिटी स्कोर के बीच एक एक-तरफा सहप्रसरण (one-sided covariance) है।
2. $\tilde{\epsilon}^\star$ (रिटेंड मिश्रण गुणांक): रिटेंड सेट में प्रभावी संदूषण स्तर, जो $\tilde{\epsilon}^\star = \frac{\epsilon p_c}{\text{(1-\epsilon)}p_c + \epsilon p_d}$ (यहाँ $p_c$ और $p_d$ क्रमशः स्वच्छ और गंदे पॉइंट्स के लिए रिटेंशन प्रोबेबिलिटी हैं) द्वारा दिया गया है।
3. $D_{Q, +}$ (रिटेंड डर्टी विसंगति): रिटेंड गंदे घटक और स्वच्छ लक्ष्य के बीच का अंतर।

मुख्य सैद्धांतिक अंतर्दृष्टि (Key Theoretical Insights)

• सहप्रसरण पहचान (Covariance Identity): स्वच्छ डेटा को ट्रिम करने की लागत $P$ के तहत विसंगति स्कोर $S$ और नॉन-कन्फॉर्मिटी स्कोर $A$ के बीच निर्भरता से संचालित होती है। यदि $S$ और $A$ $P$ के तहत स्वतंत्र हैं (जैसे होमोसेडास्टिक रिग्रेशन में कोवेरिएट-ओनली स्कोर), तो क्लीन-साइड कॉस्ट शून्य है।
• गुणांक-स्तर पृथक्करण द्विशाख (Coefficient-Level Separation Dichotomy): ट्रिमिंग केवल तभी संदूषण को कम करती है जब विसंगति स्कोर स्वच्छ और गंदे बिंदुओं को अलग करता है ($p_d \ll p_c$)। यदि $p_d \approx p_c$, तो $\tilde{\epsilon}^\star \approx \epsilon$, और ट्रिमिंग मिश्रण गुणांक को कम नहीं कर सकती। इस "नो-सेपरेशन" शासन में, ट्रिमिंग बिना संदूषण कम किए स्वच्छ-साइड विरूपण पेश करके कवरेज को वास्तव में खराब कर सकती है।
• परिमित-नमूना तीक्ष्णता (Finite-Sample Sharpness): दिखाया गया है कि स्केलर लोअर बाउंड केवल स्केलर विसंगति बाधा द्वारा परिभाषित समस्याओं के वर्ग के भीतर मिनिमैक्स ऑप्टिमल (minimax optimal) है। केवल स्केलर गैप का उपयोग करने वाला कोई भी यूनिफॉर्म लोअर बाउंड इस मान से अधिक नहीं हो सकता।

सर्टिफिकेट टेम्पलेट्स (Certificate Templates)

चूंकि जनसंख्या मात्राएं व्यवहार में अज्ञात होती हैं, इसलिए पेपर संख्यात्मक गारंटी के लिए सर्टिफिकेट टेम्पलेट्स प्रदान करता है:

1. घटकवार ऑडिट (Componentwise Audit): स्वतंत्र जानकारी (जैसे स्वच्छ ऑडिट सैंपल या डोमेन ज्ञान) का उपयोग करके घटकों ($p_c, p_d, \Delta^A_{\text{trim}, +}, D_{Q, +}$) को बांधना।
2. प्रत्यक्ष ऑडिट (Direct Audit): सटीक द्विपद व्युत्क्रमण (binomial inversion) या कोलमोगोरोव-स्मिरनोव बाउंड्स के माध्यम से एक स्वतंत्र स्वच्छ ऑडिट सैंपल का उपयोग करके अंतिम चयनित सेट को प्रमाणित करना।
3. सेम-सैंपल सिलेक्शन (Same-Sample Selection): एक परिमित-ग्रिड एम्पिरिकल-CDF बाउंड प्रदान किया गया है उन मामलों के लिए जहाँ थ्रेशोल्ड को उसी कैलिब्रेशन सैंपल से चुना जाता है, जिसमें $\sqrt{\log K / N}$ का दंड (penalty) लगता है।

प्रयोगात्मक परिणाम (Experimental Results)

लेखक कोवेरिएट-जियोमेट्रिक संदूषण वाले हेटेरोसेडास्टिक रिग्रेशन कार्य पर सिद्धांत का मूल्यांकन करते हैं।

• स्कोर-विज़िबल शासन (Score-Visible Regime): जब विसंगति स्कोर (स्टीन स्कोर-नॉर्म) स्वच्छ और गंदे डेटा के कोवेरिएट वितरण को प्रभावी ढंग से अलग करता है, तो ट्रिमिंग कवरेज में काफी सुधार करती है। यह सुधार रिटेंड मिश्रण गुणांक $\tilde{\epsilon}^\star$ में कमी (जो शून्य के करीब गिर जाता है) और एक प्रबंधनीय क्लीन-साइड कॉस्ट द्वारा संचालित होता है।
• नो-सेपरेशन शासन (No-Separation Regime): जब स्वच्छ और गंदे बिंदुओं की रिटेंशन प्रोबेबिलिटी समान होती है, तो ट्रिमिंग $\tilde{\epsilon}^\star$ को कम करने में विफल रहती है। कवरेज कम रहता है, जो पुष्टि करता है कि बिना सेपरेशन के ट्रिमिंग मदद नहीं कर सकती।
• लेबल-ओनली संदूषण (Label-Only Contamination): जब केवल रिस्पॉन्स $Y$ दूषित होता है (और $X$ स्वच्छ है), तो कोवेरिएट-आधारित ट्रिमिंग का कोई लाभ नहीं होता है। विधि सही ढंग से पहचानती है कि इस सेटिंग में ट्रिमिंग कवरेज में सुधार नहीं कर सकती।
• बड़ा नमूना आकार (Large Sample Size): कैलिब्रेशन साइज $m$ को बढ़ाने से परिमित-नमूना ढील (slack) कम हो जाती है लेकिन रिटेंड-लॉ ट्रांसफर गैप के कारण होने वाले जनसंख्या-स्तर के कवरेज घाटे को समाप्त नहीं करती है। सीमित कवरेज जनसंख्या डायग्नोस्टिक्स द्वारा नियंत्रित होता है, न कि नमूना आकार द्वारा।

महत्व और दावे (Significance and Claims)

यह पेपर एक जनसंख्या-स्तर का डायग्नोस्टिक प्रदान करने का दावा करता है जो यह समझाता है कि ट्रिमिंग कब और क्यों मदद करती है, जो इस धारणा से आगे जाता है कि "आउटलेयर्स को हटाना हमेशा मदद करता है।"

1. ट्रिमिंग का पुनर्गठन: यह स्थापित करता है कि ट्रिमिंग कैलिब्रेशन कानून का एक रूपांतरण है, न कि मूल कानून की बहाली। वैधता केवल रिटेंड लॉ के लिए सटीक है, जिसके लिए स्वच्छ लक्ष्य तक स्थानांतरण (transfer) की आवश्यकता होती है।

• डिज़ाइन सिद्धांत: यह औपचारिक बनाता है कि ट्रिमिंग के लिए एक अच्छा विसंगति स्कोर स्वच्छ जनसंख्या पर स्कोर-न्यूट्रल (नॉन-कन्फॉर्मिटी स्कोर के साथ सहप्रसरण को न्यूनतम करना) होना चाहिए, जबकि स्वच्छ और गंदी जनसंख्याओं के बीच सेपरेटिव (separative) होना चाहिए।

3. सीमाएँ: यह दर्शाता है कि यदि स्कोर रिटेंशन प्रोबेबिलिटी को अलग करने में विफल रहता है, तो ट्रिमिंग मिश्रण गुणांक के माध्यम से संदूषण को कम नहीं कर सकती है। ऐसे मामलों में, ट्रिमिंग प्रदर्शन को स्पष्ट रूप से खराब कर सकती है।
4. परिचालन सुरक्षा (Operational Safety): पेपर जनसंख्या डायग्नोस्टिक्स (ज्ञात सिमुलेशन कानूनों का उपयोग करके यांत्रिक स्पष्टीकरण) और संख्यात्मक प्रमाणों (numerical certificates) (स्वतंत्र ऑडिट डेटा की आवश्यकता वाले प्रमाण) के बीच अंतर करता है, जिससे यह सुनिश्चित होता है कि व्यवहारकर्ता उचित ऑडिट के बिना सैद्धांतिक सीमाओं को डेटा-संचालित प्रमाण न समझ लें।

कार्य यह निष्कर्ष निकालता है कि ट्रिमिंग संदूषण के लिए एक सार्वभौमिक समाधान नहीं है; इसकी प्रभावकारिता विसंगति स्कोर की स्वच्छता (neutrality) और संदूषण को अलग करने की क्षमता के बीच परस्पर क्रिया द्वारा कड़ाई से शासित होती है।