📊 statistics

Infer-and-widen, or not?

यह शोध पत्र प्रदर्शित करता है कि विभिन्न चयनात्मक अनुमान (selective inference) परिदृश्यों में, व्यापक रूप से उपयोग किया जाने वाला "इन्फर-एंड-वाइडन" (infer-and-widen) ढांचा ऐसे विश्वास अंतराल (confidence intervals) उत्पन्न करता है जो वैकल्पिक दृष्टिकोणों की तुलना में अनावश्यक रूप से अधिक विस्तृत होते हैं, यहाँ तक कि सैद्धांतिक रूप से सबसे संकीर्ण संभव "इन्फर-एंड-वाइडन" अंतराल के विरुद्ध तुलना करने पर भी।

मूल लेखक: Ronan Perry, Zichun Xu, Olivia McGough, Daniela Witten

प्रकाशित 2026-02-26

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Ronan Perry, Zichun Xu, Olivia McGough, Daniela Witten

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक जासूस हैं जो 1,000 संदिग्धों वाले शहर में एक रहस्य सुलझाने की कोशिश कर रहे हैं। आपके पास एक संदेह है, लेकिन आपको नहीं पता कि अपराधी कौन है। इसलिए, आप सभी सबूत देखते हैं और उस एक संदिग्ध को चुनते हैं जो सबसे अधिक दोषी दिखता है। चलिए उसे "मिस्टर विनर" (Mr. Winner) मान लेते हैं।

अब, आप मिस्टर विनर के खिलाफ मामला बनाना चाहते हैं। आप कहना चाहते हैं, "मुझे 95% यकीन है कि मिस्टर विनर ही अपराधी है, और यहाँ सबूतों की वह सीमा (range) दी गई है जो इसे साबित करती है।"

यही चयनात्मक अनुमान (Selective Inference) की मूल समस्या है। पेचीदा बात यह है कि आपने मिस्टर विinner को यादृच्छिक (randomly) रूप से नहीं चुना; आपने उन्हें इसलिए चुना क्योंकि डेटा ने उन्हें दोषी दिखाया। यदि आप मानक सांख्यिकीय नियमों का उपयोग करते हैं (जो यह मानते हैं कि आपने सबूत देखने से पहले संदिग्ध को चुना था), तो आप संभवतः गलत होंगे। इसे "विनर का अभिशाप" (Winner's Curse) कहा जाता है। आपने विजेता को इसलिए चुना क्योंकि वे भाग्यशाली थे, न कि इसलिए कि वे वास्तव में सर्वश्रेष्ठ हैं।

पुराना तरीका: "अनुमान लगाओ और विस्तृत करो" (Infer-and-Widen)

लंबे समय से, सांख्यिकीविद् एक ऐसी रणनीति का उपयोग करते हैं जिसे लेखक "अनुमान लगाओ और विस्तृत करो" कहते हैं।

इसे इस तरह सोचें: आप जानते हैं कि "सबसे दोषी" संदिग्ध को चुनना एक बड़ा पूर्वाग्रह (bias) पैदा करता है (आप किसी निर्दोष व्यक्ति को केवल इसलिए चुन सकते हैं क्योंकि वह भाग्यशाली रहा)। इसलिए, पुरानी रणनीति कहती है:

"ठीक है, हम जानते हैं कि हमारा अनुमान पक्षपाती है। चलिए हम अपनी 'सबूत की सीमा' (confidence interval) को विशाल बना देते हैं ताकि हमारी गलतियों को कवर किया जा सके। हम जाल को इतना चौड़ा कर देंगे कि वह निश्चित रूप से सच्चाई को पकड़ ले, भले ही हमारा अनुमान गलत हो।"

लेखक इसकी तुलना एक ऐसे मछुआरे से करते हैं जिसे पता है कि उसके जाल में छेद हैं। जाल को ठीक करने के बजाय, वह बस जाल को इतना बड़ा बना देता है कि वह अंततः एक मछली पकड़ने के लिए आश्वस्त हो सके।

समस्या: यह "अनुमान लगाओ और विस्तृत करो" वाला दृष्टिकोण ऐसे अंतराल (intervals) बनाता है जो अत्यंत व्यापक होते हैं। वे इतने चौड़े होते हैं कि उपयोगी नहीं रह जाते। यह ऐसा है जैसे कहना, "अपराधी उत्तरी ध्रुव और दक्षिणी ध्रुव के बीच कहीं है।" तकनीकी रूप से, आप सही हो सकते हैं, लेकिन आपने कोई उपयोगी जानकारी प्राप्त नहीं की है।

नया विचार: "केंद्र को ठीक करें, केवल विस्तृत न करें"

लेखक तर्क देते हैं: "हम केवल अपना जाल बड़ा क्यों कर रहे हैं? क्यों न हम खुद जाल को ठीक करें?"

वे वैकल्पिक तरीके प्रस्तावित करते हैं (जैसे डेटा विखंडन/Data Fission या यादृच्छिक सशर्त अनुमान/Randomized Conditional Inference) जो केवल अंतराल को चौड़ा नहीं करते हैं। इसके बजाय, वे:

पूर्वाग्रह को स्वीकार करते हैं: वे समझते हैं कि उनके अनुमान का "केंद्र" झुका हुआ है।
केंद्र को स्थानांतरित करते हैं: वे गणित को इस तरह समायोजित करते हैं कि अनुमान वास्तव में सत्य (truth) पर केंद्रित हो।
जाल को सघन रखते हैं: क्योंकि अब अनुमान सटीक है, उन्हें एक विशाल जाल की आवश्यकता नहीं है। वे एक छोटा, सटीक जाल उपयोग कर सकते हैं।

तीन "विग्नेट्स" (केस स्टडीज)

लेखकों ने यह देखने के लिए कि क्या "अनुमान लगाओ और विस्तृत करो" वास्तव में सबसे अच्छा विकल्प है, तीन अलग-अलग परिदृश्यों में अपने विचार का परीक्षण किया।

1. विनर का अभिशाप (लॉटरी)

परिदृश्य: आपके पास 100 लॉटरी टिकट हैं। आप उच्चतम संख्या वाला टिकट चुनते हैं। क्या वह संख्या "वास्तविक" औसत का एक अच्छा अनुमान है? नहीं, यह बढ़ी हुई (inflated) है।
परीक्षण: उन्होंने "अनुमान लगाओ और विस्तृत करो" विधि (अंतराल को विशाल बनाना) की तुलना एक नए तरीके से की जो पूर्वाग्रह को ठीक करने के लिए डेटा को विभाजित करता है।
परिणाम: नए तरीके ने बहुत अधिक संकीर्ण, अधिक उपयोगी अंतराल प्रदान किया। यहाँ तक कि एक सैद्धांतिक "पूर्ण" अनुमान लगाओ और विस्तृत करो वाला अंतराल (जो उत्तर जानता है लेकिन फिर भी पुराने तरीके का उपयोग करता है) भी नए तरीके की तुलना में अधिक चौड़ा था।

2. अधिकतम कंट्रास्ट (सर्वश्रेष्ठ एथलीट)

परिदृश्य: आपके पास 100 एथलीट हैं। आप उस व्यक्ति को चुनते हैं जिसने उस विशिष्ट दिन पर सबसे तेज़ दौड़ लगाई। आप उनकी वास्तविक गति का अनुमान लगाना चाहते हैं।
परीक्षण: फिर से, "अनुमान लगाओ और विस्तृत करो" पद्धति ने अंतराल को बहुत चौड़ा कर दिया। नए तरीके ने, जिसने इस तथ्य को ध्यान में रखा कि आपने दौड़ देखने के बाद सबसे तेज़ धावक को चुना, एक बहुत ही सटीक रेंज दी।

3. लासो (Lasso - द फ़िल्टर)

परिदृश्य: आपके पास किसी बीमारी के संभावित कारणों की एक विशाल सूची (1,000 चर/variables) है। आप शीर्ष 5 तक सीमित करने के लिए एक कंप्यूटर एल्गोरिदम (Lasso) का उपयोग करते हैं। फिर आप जानना चाहते हैं कि वे 5 कितने मजबूत हैं।
परीक्षण: यह आधुनिक डेटा विज्ञान की एक बहुत ही सामान्य समस्या है। "अनुमान लगाओ और विस्तृत करो" वाली विधियाँ (जैसे प्रसिद्ध बोनफेरोनी सुधार/Bonferroni correction) बहुत रूढ़िवादी हैं और विशाल अंतराल उत्पन्न करती हैं। नए तरीकों (जैसे हाइब्रिड या कंडीशनल इन्फरेंस) ने ऐसे अंतराल दिए जो बहुत अधिक सटीक थे।

मुख्य निष्कर्ष

इस शोध पत्र का मुख्य संदेश सांख्यिकीविदों और डेटा वैज्ञानिकों के लिए एक चेतावनी है:

"केवल जाल को चौड़ा करना बंद करें!"

"अनुमान लगाओ और विस्तृत करो" ढांचा एक अखरोट तोड़ने के लिए हथौड़े का उपयोग करने जैसा है। यह काम करता है (आपको सही उत्तर मिल जाता है), लेकिन यह अनाड़ी और अक्षम है। लेखक दिखाते हैं कि अधिक स्मार्ट, अधिक सूक्ष्म तरीकों का उपयोग करके जो यह सुधारते हैं कि डेटा को कैसे चुना गया था, हम सटीकता से समझौता किए बिना संकीर्ण, अधिक सटीक और अधिक उपयोगी उत्तर प्राप्त कर सकते हैं।

संक्षेप में: केवल अपने सुरक्षा जाल को बड़ा न करें; बीच के छेद को ठीक करें ताकि आपको इतने बड़े जाल की आवश्यकता ही न पड़े।

यहाँ पेरी, ज़ु, मैकगफ और विटन के शोध पत्र "Infer-and-widen, or not?" का विस्तृत तकनीकी सारांश दिया गया है।

1. समस्या विवरण (Problem Statement)

यह शोध पत्र चयनात्मक अनुमान (selective inference या post-selection inference) की चुनौती को संबोधित करता है, जहाँ अनुमान का लक्ष्य (जैसे कि एक पैरामीटर $\theta_i$ ) पूर्व-निर्धारित नहीं होता, बल्कि एक चयन नियम $S(Y)$ का उपयोग करके डेटा से चुना जाता है।

मुख्य मुद्दा: शास्त्रीय विश्वास अंतराल (Confidence Intervals - CIs) एक निश्चित लक्ष्य की धारणा पर आधारित होते हैं। जब लक्ष्य डेटा-संचालित होता है, तो मानक CIs वांछित कवरेज प्राप्त करने में विफल रहते हैं क्योंकि चयन प्रक्रिया पूर्वाग्रह (bias) उत्पन्न करती है (जैसे कि "विजेता का अभिशाप" या winner's curse)।
प्रचलित प्रतिमान (Dominant Paradigm): लेखक प्रचलित "इन्फर-एंड-वाइडन" (I&W) ढांचे की आलोचना करते हैं। इस दृष्टिकोण में:
1. डेटा से एक लक्ष्य का चयन किया जाता है।
2. उस लक्ष्य पर "शास्त्रीय" अनुमान लगाया जाता है, लेकिन चयन पूर्वाग्रह को समायोजित करने के लिए क्रिटिकल वैल्यूज (critical values) को सममित रूप से चौड़ा (widened) किया जाता है।
3. सीमा: चूंकि CI का मध्य बिंदु (midpoint) अभी भी वह पूर्वाग्रही बिंदु अनुमान (biased point estimate) ही रहता है, इसलिए अंतराल को अत्यधिक चौड़ा करना पड़ता है ताकि वास्तविक पैरामीटर को कैप्चर किया जा सके। लेखकों का तर्क है कि यह त्रुटि बजट (error budget) का एक अक्षम उपयोग है।

2. कार्यप्रणाली और ढांचा (Methodology and Framework)

यह शोध पत्र तीन विशिष्ट विनेट्स (vignettes) के माध्यम से I&W ढांचे का वैकल्पिक चयनात्मक अनुमान विधियों के विरुद्ध मूल्यांकन करता है।

इन्फर-एंड-वाइडन (I&W) ढांचा

सेक्शन 2 में औपचारिक रूपते हुए, I&W एक CI $CI_{S(Y)}(Y)$ का निर्माण करता है जो पूर्वाग्रही एस्टिमेटर $\hat{\theta}_{S(Y)}$ के केंद्र में होता है, लेकिन इसमें एक चौड़ा क्रिटिकल वैल्यू $H(\alpha, S, Y)$ होता है।

तंत्र (Mechanism): यह अनकंडीशनल कवरेज सुनिश्चित करने के लिए $\alpha' = H(\alpha, S, Y)$ के रूप में महत्व स्तर (significance level) $\alpha$ को समायोजित करता है: $P(\theta_{S(Y)} \notin CI) \leq \alpha$ ।
उदाहरण: बोनफेरोनी (Bonferroni), होल्म-बोनफेरोनी (Holm-Bonferroni), शेफ़े (Scheffé), और आधुनिक एल्गोरिथमिक स्थिरता दृष्टिकोण (जैसे कि Zrnic & Jordan, 2023)।
दोष: मध्य बिंदु पूर्वाग्रही बना रहता है, जिससे अंतराल को क्षतिपूर्ति के लिए चौड़ा करना अनिवार्य हो जाता है।

वैकल्पिक दृष्टिकोण

लेखक उन विधियों की तुलना I&W से करते हैं जो सममित चौड़ीकरण (symmetric widening) पर निर्भर नहीं करती हैं:

डेटा फिशन / डेटा थिनिंग (Data Fission / Data Thinning): डेटा (या एक एकल अवलोकन) को स्वतंत्र प्रशिक्षण (training) और परीक्षण (test) सेटों में विभाजित करना। प्रशिक्षण सेट लक्ष्य का चयन करता है; परीक्षण सेट एक निश्चित लक्ष्य पर अनुमान लगाता है, जिससे अनुमान चरण में चयन पूर्वाग्रह से बचा जा सकता है।
रैंडमाइज्ड कंडीशनल इन्फरेंस (Randomized Conditional Inference): चयन घटना और सहायक रैंडमाइजेशन (जैसे चयन नियम में जोड़ा गया शोर/noise) पर शर्त (condition) लगाकर पैरामीटर के लिए सटीक कंडीशनल वितरण (अक्सर ट्रंकेटेड नॉर्मल्स) प्राप्त करना।
हाइब्रिड विधियाँ (Hybrid Methods): कंडीशनल इन्फरेंस (मजबूत संकेतों के लिए) को अनकंडीशनल विधियों के साथ जोड़ना।

"ओरेकल" बेंचमार्क (The "Oracle" Benchmark)

यह निर्धारित करने के लिए कि क्या I&W ढांचा सैद्धांतिक रूप से संकीर्ण अंतराल बनाने में सक्षम है, लेखक एक "ओरेकल I&W" अंतराल को परिभाषित करते हैं। यह वह सबसे संकीर्ण संभव अंतराल है जो पूर्वाग्रही एस्टिमेटर के केंद्र में स्थित है और आवश्यक कवरेज प्राप्त करता है। यदि ओरेकल I&W भी वैकल्पिक विधियों की तुलना में अधिक चौड़ा है, तो इसका अर्थ है कि I&W ढांचा मौलिक रूप से सीमित है।

3. मुख्य योगदान और विनेट्स (Key Contributions and Vignettes)

लेखक तीन विनेट्स में अनुभवजन्य और सैद्धांतिक मूल्यांकन करते हैं:

विनेट 1: विजेता का अभिशाप (The Winner's Curse)

सेटअप: $n$ गॉसियन वेरिएबल्स के अधिकतम ( $\arg\max Y_i$ ) के इंडेक्स का चयन करना।
तुलना: I&W (लैपलेस नॉइज़ के साथ एल्गोरिथमिक स्थिरता पर आधारित) बनाम डेटा फिशन (उसी चयन घटना का उपयोग करते हुए)।
परिणाम: डेटा फिशन अंतराल, I&W अंतराल की तुलना में काफी संकीर्ण है।
ओरेकल निष्कर्ष: यहाँ तक कि ओरेकल I&W (सबसे संकीर्ण केंद्रित अंतराल) भी डेटा फिशन अंतराल से अधिक चौड़ा है। यह सुझाव देता है कि इस सेटिंग में, कोई भी I&W विधि विकल्प से बेहतर प्रदर्शन नहीं कर सकती।

विनेट 2: मैक्सिमल कॉन्ट्रास्ट्स (Maximal Contrasts)

सेटअप: उस फीचर $j$ का चयन करना जो $|X_j^\top Y|$ को अधिकतम करता है।
तुलना: I&W (एल्गोरिथमिक स्थिरता) बनाम रैंडमाइज्ड कंडीशनल सिलेक्टिव इन्फरेंस (RCSI)।
परिणाम: RCSI अंतराल आम तौर पर I&W अंतरालों की तुलना में संकीर्ण होते हैं।
ओरेकल निष्कर्ष: यहाँ, ओरेकल I&W सैद्धांतिक रूप से RCSI से संकीर्ण है। हालांकि, लेखक नोट करते हैं कि वर्तमान में इस ओरेकल अंतराल को बनाने के लिए कोई व्यावहारिक विधि मौजूद नहीं है। अतः, जबकि I&W सैद्धांतिक रूप से जीत सकता है, वर्तमान व्यावहारिक I&W हार जाता है।

विनेट 3: लासो के बाद अनुमान (Inference After the Lasso)

सेटअप: एक लीनियर मॉडल में लासो द्वारा चयनित गुणांकों (coefficients) पर अनुमान।
तुलना: विभिन्न मौजूदा विधियाँ (LSI, हाइब्रिड, कंडीशनल) बनाम ओरेकल I&W।
परिणाम: हाइब्रिड विधि (जो मजबूत संकेतों के लिए कंडीशनल इन्फरेंस का उपयोग करती है) मौजूदा व्यावहारिक I&W विधियों (जैसे LSI) की तुलना में बेहतर प्रदर्शन करती है।
ओरेकल निष्कर्ष: ओरेकल I&W सबसे संकीर्ण अंतराल है। हालांकि, व्यावहारिक I&W विधियाँ बहुत चौड़ी हैं। हाइब्रिड विधि सभी व्यावहारिक I&W विधियों से बेहतर प्रदर्शन करती है।

4. पूर्वाग्रह का सैद्धांतिक विश्लेषण (Theoretical Analysis of Bias)

सेक्शन 6 में, लेखक I&W मिडपॉइंट के पूर्वाग्रह पर एक सैद्धांतिक सीमा प्रदान करते हैं।

प्रपोजिशन 5: गॉसियन नॉइज़ का उपयोग करने वाले चयन नियम के लिए, I&W मिडपॉइंट का पूर्वाग्रह ( $E[\hat{Y}_{S(Y)} - \mu_{S(Y)}]$ ) $\sqrt{\log n}$ के क्रम में बढ़ता है।
निहितार्थ: जैसे-जैसे सैंपल साइज बढ़ता है, I&W अंतराल के केंद्र का पूर्वाग्रह बढ़ता है, जिससे कवरेज बनाए रखने के लिए अंतराल को चौड़ा करना आवश्यक हो जाता है। इसके विपरीत, वैकल्पिक विधियाँ (जैसे डेटा थिनिंग) निष्पक्ष (unbiased) मिडपॉइंट्स बना सकती हैं।

5. मुख्य परिणाम और निष्कर्ष (Key Results and Findings)

I&W की अक्षमता: तीनों विनेट्स में, व्यावहारिक I&W विधियाँ ऐसे विश्वास अंतराल उत्पन्न करती हैं जो गैर-I&W विकल्पों (डेटा फिशन, RCSI, हाइब्रिड) की तुलना में अधिक चौड़े होते हैं।
सैद्धांतिक सीमाएँ:
- "विजेता के अभिशाप" वाली सेटिंग में, I&W ढांचा मौलिक रूप से त्रुटिपूर्ण है; यहाँ तक कि सबसे अच्छा सैद्धांतिक I&W अंतराल भी विकल्प से अधिक चौड़ा है।
- "मैक्सिमल कॉन्ट्रास्ट्स" और "लासो" में, I&W ढांचा सैद्धांतिक रूप से श्रेष्ठ हो सकता है (ओरेकल के माध्यम से), लेकिन वर्तमान में ऐसी कोई गणना योग्य विधि नहीं है जो इसे प्राप्त कर सके। व्यावहारिक I&W विधियाँ अभी भी निम्न स्तर की हैं।
पूर्वाग्रह ही असली कारण है: I&W अंतराल के चौड़े होने का प्राथमिक कारण यह है कि वे पूर्वाग्रही केंद्र के चारों ओर अंतराल को चौड़ा करके चयन पूर्वाग्रह को ठीक करने का प्रयास करते हैं, न कि स्वयं केंद्र को ठीक करके।

6. महत्व और निष्कर्ष (Significance and Conclusion)

प्रतिमान परिवर्तन (Paradigm Shift): यह शोध पत्र इस धारणा को चुनौती देता है कि "इन्फर-एंड-वाइडन" इष्टतम या एकमात्र मार्ग है। यह तर्क देता है कि वे विधियाँ जो डेटा स्प्लिटिंग, थिनिंग या कंडीशनिंग के माध्यम से बिंदु अनुमान (point estimate) के पूर्वाग्रह से बचती हैं, अक्सर बेहतर होती हैं।
व्यावहारिक मार्गदर्शन: शोधकर्ताओं को मानक I&W दृष्टिकोणों के बजाय उन विधियों को प्राथमिकता देनी चाहिए जो संकीर्ण अंतराल प्रदान करती हैं (जैसे डेटा फिशन या हाइब्रिड दृष्टिकोण), भले ही बाद वाले अवधारणात्मक रूप से सरल हों।
भावी दिशाएँ: शोध पत्र सुझाव देता है कि "विजेता के अभसाप" वाली सेटिंग में I&W विधियों का और अधिक विकास महत्वपूर्ण लाभ लाने की संभावना कम है, और ध्यान उन विधियों की ओर स्थानांतरित किया जाना चाहिए जो केवल अंतराल को चौड़ा करने के बजाय बिंदु अनुमान को ठीक करती हैं।

निष्कर्ष: लेखक निष्कर्ष निकालते हैं कि हालांकि I&W ढांचा अपनी सरलता के कारण अवधारणात्मक रूप से आकर्षक है, लेकिन यह अक्सर उप-इष्टतम (अत्यधिक चौड़े) विश्वास अंतराल की ओर ले जाता है। कई सेटिंग्स में, वैकल्पिक रणनीतियाँ जो चयन को अनुमान से अलग करती हैं या पूर्वाग्रह को सीधे ठीक करती हैं, सांख्यिकीय रूप से अधिक कुशल होती हैं।