📊 statistics

Tighter Confidence Intervals under Without Replacement Sampling via Empirical Rate Functions

यह शोधपत्र लार्ज डेविएशन रेट फंक्शन्स का उपयोग करके बिना-प्रतिस्थापन सैंपलिंग (without-replacement sampling) के तहत जनसंख्या माध्य के विश्वास अंतराल की चौड़ाई पर मौलिक निचली सीमाएं व्युत्पन्न करता है, और परिमित एवं सामान्य वर्णमालाओं (alphabets) दोनों के लिए नए, लगभग इष्टतम विश्वास अंतराल निर्माण प्रस्तावित करता है जो इन सीमाओं और नवीन कपलिंग तकनीकों का लाभ उठाते हैं।

मूल लेखक: Shubhanshu Shekhar, Aaditya Ramdas

प्रकाशित 2026-03-17

📖 7 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Shubhanshu Shekhar, Aaditya Ramdas

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक जासूस हैं जो एक विशाल शहर (जनसंख्या/Population) के हर व्यक्ति की औसत ऊंचाई का अनुमान लगाने की कोशिश कर रहे हैं। आप हर किसी को माप नहीं सकते; इसमें बहुत समय लगेगा। इसके बजाय, आप लोगों के एक छोटे समूह (नमूना/Sample) को चुनकर उनकी माप लेते हैं।

सांख्यिकी (Statistics) की अधिकांश कक्षाओं में, आप यह सीखते हैं कि औसत का अनुमान कैसे लगाया जाए यदि आप लोगों को यादृच्छिक रूप से (randomly) चुनते हैं और उन्हें मापने के बाद वापस भीड़ में डाल देते हैं (जैसे टोकरी से नाम निकालकर वापस डाल देना)। इसे प्रतिस्थापन के साथ नमूनाकरण (Sampling With Replacement) कहा जाता है।

लेकिन वास्तविक दुनिया में, आप आमतौर पर लोगों को वापस नहीं डालते। एक बार जब आप किसी व्यक्ति को माप लेते हैं, तो आप अगले व्यक्ति पर बढ़ जाते हैं। यह प्रतिस्थापन के बिना नमूनाकरण (Sampling Without Replacement - WoR) है। शेखर और रामदास का शोध पत्र एक विशिष्ट समस्या पर काम करता है: जब हम प्रतिस्थापन के बिना नमूनाकरण कर रहे हों, तो हम अपने "अनुमानित दायरे" (Confidence Interval) को कितना सटीक और संकीर्ण (tight) बना सकते हैं?

यहाँ उनके क्रांतिकारी शोध का विवरण दिया गया है, जिसे सरल उपमाओं के माध्यम से समझाया गया है।

1. समस्या: "ढीला जाल" (The "Loose Net")

जब आप शहर की औसत ऊंचाई का अनुमान लगाने की कोशिश करते हैं, तो आप एक सीमा देते हैं: "मुझे 95% विश्वास है कि औसत 5'6" और 6'0" के बीच है।"

पुराने तरीके: मौजूदा उपकरण (जैसे होफडिंग या बर्नस्टीन असमानताएँ) एक बहुत ढीले जाल के साथ मछली पकड़ने के समान हैं। वे गारंटी देते हैं कि आप मछली (वास्तविक औसत) को पकड़ लेंगे, लेकिन जाल इतना चौड़ा है कि इसमें स्पष्ट रूप से बहुत छोटी या बहुत बड़ी मछलियाँ भी शामिल हो सकती हैं। वे यह नहीं समझते कि जैसे-जैसे आप अधिक मछलियाँ पकड़ते हैं, शेष बची हुई मछलियों की संख्या कम होती जाती है, जिससे आपका काम आसान हो जाता है।
लक्ष्य: लेखक उस जाल को सिकोड़ना चाहते थे। वे उस सबसे सटीक जाल को चाहते थे जो अभी भी वास्तविक औसत को पकड़ने की गारंटी देता हो।

2. गुप्त हथियार: "बर्नौली कपलिंग" (The "Bernoulli Coupling")

लेखक एक चतुर गणितीय युक्ति का उपयोग करते हैं जिसे बर्नौली कपलिंग (Bernoulli Coupling) कहा जाता है।

उपमा: कल्पना कीजिए कि आपके पास कंचों (marbles) का एक बैग है।
- परिदृश्य A (वास्तविक जीवन): आप एक-एक करके कंचे निकालते हैं और उन्हें वापस नहीं डालते।
- परिदृश्य B (ट्रिक): कल्पना कीजिए कि आपके पास एक जादुई मशीन है जो सिक्के उछालने के आधार पर तय करती है कि बैग के हर कंचे को "रखना है" या "निकाल देना है"। यदि सिक्का कहता है "रखो", तो आप उसे रख लेते हैं।
जादू: लेखकों ने सिद्ध किया कि यदि वे इस जादुई मशीन को ठीक उतने ही कंचे रखने के लिए नियंत्रित करें जितने आपने परिदृश्य A में निकाले थे, तो दोनों परिदृश्य सांख्यिकीय रूप से समान हो जाते हैं।
यह क्यों मदद करता है: परिदृश्य B (सिक्के उछालना) गणितीय रूप से विश्लेषण करने में बहुत आसान है क्योंकि निर्णय स्वतंत्र होते हैं। "प्रतिस्थापन के बिना" वाली कठिन समस्या को आसान "सिक्का उछालने" वाली समस्या में बदलकर, वे कठिन समस्या को हल करने के लिए शक्तिशाली मौजूदा गणितीय उपकरणों का उपयोग कर सके।

3. सीमित वर्णमाला: "टाइप" का खेल (The "Type" Game)

सबसे पहले, उन्होंने एक ऐसी दुनिया को देखा जहाँ डेटा सीमित है (उदाहरण के लिए, लोगों की ऊँचाई केवल पूर्ण इंच में मापी जाती है: 58, 59, 60...)।

"टाइप" की अवधारणा: वे इस बात की परवाह नहीं करते कि आपने लोगों से किस क्रम में मुलाकात की (एलिस फिर बॉब बनाम बॉब फिर एलिस), वे केवल गिनती (3 लोग 58" के हैं, 5 लोग 59" के हैं, आदि) की परवाह करते हैं। गणित में, इसे "टाइप" (Type) कहा जाता है।
रेट फंक्शन (The Rate Function): उन्होंने खोजा कि आपके जाल की "सटीकता" एक विशिष्ट गणितीय वक्र पर निर्भर करती है जिसे रेट फंक्शन कहा जाता है। इसे एक "कठिनाई मीटर" के रूप में सोचें।
- यदि आपका नमूना पूरे शहर से बहुत अलग दिखता है, तो "कठिनाई मीटर" बढ़ जाता है, और आपका जाल चौड़ा हो जाता है।
- यदि आपका नमूना शहर के समान दिखता है, तो मीटर नीचे चला जाता है, और आपका जाल सिकुड़ जाता है।
परिणाम: उन्होंने एक लोअर बाउंड (Lower Bound) निकाला। यह एक सैद्धांतिक "फर्श" है। उन्होंने सिद्ध किया कि आप कितने भी बुद्धिमान क्यों न हों, आप गलत अनुमान लगाने के जोखिम के बिना अपने जाल को इस फर्श से अधिक संकीर्ण नहीं बना सकते। फिर, उन्होंने एक नया तरीका बनाया जो लगभग पूरी तरह से इस फर्श तक पहुँचता है।

4. निरंतर दुनिया: "स्मूथ बानाच स्पेस" (The "Smooth Banach Space")

वास्तविक जीवन केवल पूर्ण इंच तक सीमित नहीं है; ऊँचाई निरंतर (continuous) होती है (जैसे 5'6.432")। यहाँ गणित जटिल हो जाता है।

स्मूथ बानाच स्पेस (The Smooth Banach Space): यह एक फैंसी गणितीय शब्द है जो एक ऐसे स्थान के लिए है जहाँ चीजें "सुचारू" (smooth) और अनुमानित होती हैं (एक ऊबड़-खाबड़ पहाड़ के बजाय एक घुमावदार सतह की तरह)।
अनुप्रयोग: उन्होंने इस जटिल दुनिया में अपनी "सिक्का उछालने" वाली ट्रिक लागू की। उन्होंने इन सुचारू स्थानों के लिए एक नया नियम बनाया जो विशेषज्ञों (जैसे श्नाइडर, 2016) द्वारा उपयोग किए जाने वाले पिछले सर्वोत्तम नियमों की तुलना में अधिक सटीक (तंग) है।
वास्तविक दुनिया परीक्षण: उन्होंने इसका परीक्षण MNIST (हाथ से लिखे गए अंकों का एक प्रसिद्ध डेटासेट) पर किया। उन्होंने छवियों को एक जटिल स्थान के बिंदुओं के रूप में माना और "औसत छवि" का अनुमान लगाने की कोशिश की। उनके नए तरीके ने पुराने तरीकों की तुलना में बहुत अधिक सटीक और संकीक रेंज प्रदान की।

5. "लगभग निश्चित" आत्मविश्वास (The "Almost Sure" Confidence)

अंत में, उन्होंने एक दार्शनिक प्रश्न का समाधान किया: "क्या होगा यदि हम अनंत काल तक बड़े और बड़े नमूने लेते रहें?"

पुराना तरीका: कुछ तरीके गारंटी देते हैं कि आप ज्यादातर समय सही होंगे (जैसे 95% समय), लेकिन डेटा बढ़ने पर भी वे कभी-कभी गलत हो सकते हैं।
नया तरीका: उन्होंने एक "लगस्त निश्चित" (Almost Sure) अंतराल बनाया।
- उपमा: एक सुरक्षा हार्नेस (safety harness) की कल्पना करें। पुराना हार्नेस कभी-कभार फिसल सकता है। नया हार्नेस इस तरह से डिज़ाइन किया गया है कि यदि आप चढ़ना जारी रखते हैं, तो इसके फिसलने की संभावना शून्य हो जाती है। अंततः, यह पूरी तरह से लॉक हो जाता है।

सारांश: आपको इसकी परवाह क्यों करनी चाहिए?

यह शोध पत्र आपकी कार में जीपीएस (GPS) को अपग्रेड करने जैसा है।

पहले: जीपीएस कहता था, "आप इस बड़े पड़ोस में कहीं हैं।"
बाद में: लेखकों ने एक चतुर गणितीय शॉर्टकट (सिक्का उछालने की ट्रिक) का उपयोग करके एक बहुत अधिक सटीक मार्ग की गणना की। अब जीपीएस कहता है, "आप ठीक इसी सड़क पर हैं।"

उन्होंने केवल अनुमान नहीं लगाया; उन्होंने सिद्ध किया कि उनका नया तरीका कुछ स्थितियों के लिए सर्वश्रेष्ठ संभव (गणितीय रूप से अनुकूलतम) है और इसे गणना करने का एक व्यावहारिक तरीका भी प्रदान किया है। यह जोखिम ऑडिटिंग (बैंक ईमानदार है या नहीं इसकी जाँच करना), सर्वेक्षण नमूनाकरण (मतदाताओं का सर्वेक्षण करना), और AI (यह सुनिश्चित करना कि मशीन लर्निंग मॉडल सटीक हैं, बिना हर एक डेटा बिंदु की जाँच किए) जैसे क्षेत्रों के लिए बहुत महत्वपूर्ण है।

यहाँ शुभंशु शेखर और आदित्य रामदास के शोध पत्र "Tighter Confidence Intervals under Without Replacement Sampling via Empirical Rate Functions" का विस्तृत तकनीकी सारांश दिया गया है।

1. समस्या विवरण (Problem Statement)

यह शोध पत्र एक परिमित जनसंख्या (finite population) $X_N = \{x_1, \dots, x_N\} \subset \Sigma$ के जनसंख्या माध्य $\mu_N$ के लिए कॉन्फिडेंस इंटरवल (CI) के निर्माण की समस्या को संबोधित करता है, जो बिना प्रतिस्थापन के (without replacement - WoR) समान रूप से लिए गए नमूने $X_n = (X_1, \dots, X_n)$ पर आधारित है।

संदर्भ: i.i.d. (स्वतंत्र और समान रूप से वितरित) सैंपलिंग के विपरीत, WoR सैंपलिंग एक अनूठी विशेषता प्रदर्शित करती है: जैसे-जैसे नमूना आकार $n$ , जनसंख्या आकार $N$ के करीब पहुँचता है (अर्थात, जब सैंपलिंग अंश $\beta = n/N \to 1$ ), अनिश्चितता समाप्त हो जाती है।
मौजूदा विधियों की सीमाएँ:
- Hoeffding-Serfling: शास्त्रीय सीमाएँ (जैसे Hoeffding 1963, Serfling 1974) अक्सर $n \to N$ होने पर लुप्त होती अनिश्चितता को पकड़ने में विफल रहती हैं या अत्यधिक रूढ़िवादी (overly conservative) होती हैं।
- वेरिएंस-एडेप्टिव विधियाँ: हालांकि बर्नस्टीन-सरफिंग (Bernstein-Serfing) जैसी विधियाँ मौजूद हैं, वे अक्सर विचरण (variance) के पूर्व ज्ञान पर निर्भर करती हैं या सैद्धांतिक रूप से आवश्यक से अधिक चौड़े अंतराल प्रदान करती हैं।
- अंतराल (Gap): WoR सैंपलिंग के लिए प्राप्त होने वाली 'इष्टतम चौड़ाई' (optimal width) के बारे में कोई मौलिक समझ नहीं थी, न ही ऐसी कोई विधि थी जो सामान्य अल्फाबेट (alphabets) के लिए इस सीमा को प्राप्त करते हुए भी गणनात्मक रूप से व्यवहार्य (computationally feasible) हो।

2. मुख्य कार्यप्रणाली (Core Methodology)

लेखक नए बाउंड्स और निर्माण के लिए लार्ज डेविएशन थ्योरी (LDT) और एक बर्नौली कपलिंग आइडेंटिटी (Bernoulli Coupling Identity) के संयोजन का उपयोग करते हैं।

A. बर्नौली कपलिंग आइडेंटिटी (Fact 2.1)

WoR सैंपलिंग और i.i.d. बर्नौली सैंपलिंग के बीच एक कपलिंग केंद्रीय तकनीकी उपकरण है।

मान लीजिए $J_1, \dots, J_N$ i.i.d. $\text{Bernoulli}(\beta)$ वेरिएबल्स हैं जहाँ $\beta = n/N$ है।
WoR नमूने का एम्पिरिकल डिस्ट्रीब्यूशन, $\hat{P}_n$ , बर्नौली नमूने $\hat{P}_{N,J}$ के वितरण के समान है, बशर्ते कि बर्नौली वेरिएबल्स का योग ठीक $n$ ( $S_{N,J} = n$ ) हो।
उपयोगिता: यह लेखकों को स्वतंत्र डेटा के लिए मानक कंसन्ट्रेशन इनइक्वेलिटीज (concentration inequalities) का लाभ उठाने की अनुमति देता है (जो अक्सर अधिक सटीक या विश्लेषण में आसान होते हैं) और WoR प्रायिकता को लगभग $1/\sqrt{n}$ के कारक द्वारा बांधता है (Stirling's approximation के माध्यम से)।

B. लार्ज डेविएशन रेट फंक्शन्स (Large Deviation Rate Functions)

परिमित अल्फाबेट के लिए, लेखक एक सामान्यीकृत कुलबैक-लीब्लर (KL) डाइवर्जेंस टर्म $I(P, \beta, Q)$ पर आधारित विशिष्ट WoR रेट फंक्शन्स ( $J_+$ और $J_-$ ) को परिभाषित करते हैं:
$I(P, \beta, Q) = D_{KL}(P \| Q) + \frac{1-\beta}{\beta} D_{KL}\left(\frac{Q-\beta P}{1-\beta} \bigg\| Q\right)$
यह टर्म $I$ , WoR सैंपलिंग के लिए रिलेटिव एंट्रॉपी की भूमिका निभाता है। रेट फंक्शन्स $J_\pm$ , वितरण $Q$ के माध्य को जनसंख्या माध्य $P$ से दूर ले जाने के लिए न्यूनतम "लागत" (I के संदर्भ में) का प्रतिनिधित्व करते हैं, जबकि WoR बाधाओं को संतुष्ट करते हैं।

3. मुख्य योगदान और परिणाम (Key Contributions and Results)

A. मौलिक निचला बाउंड (Fundamental Lower Bound - Finite Alphabet)

Theorem 3.4: लेखक "मॉडरेट एक्यूरेसी" शासन (regime) में (जहाँ $\log(1/\alpha)$ , अल्फाबेट के आकार से तेज़ी से बढ़ता है) किसी भी स्तर- $(1-\alpha)$ CI की चौड़ाई पर एक मौलिक सूचना-सैद्धांतिक निचला बाउंड (lower bound) प्राप्त करते हैं।
परिणाम: किसी भी वैध CI की चौड़ाई WoR रेट फंक्शन्स के व्युत्क्रम (inverse) द्वारा निम्नवत सीमित है:
$\text{Width} \gtrsim \frac{1}{2} \left( g_+^{-1}\left(\frac{\log(1/\alpha)}{n}\right) - g_-^{-1}\left(\frac{\log(1/\alpha)}{n}\right) \right)$
जहाँ $g_\pm$ जनसंख्या व्युत्क्रम दर फलन (population inverse rate functions) हैं। यह स्थापित करता है कि व्युत्क्रम दर फलन इष्टतम CI चौड़ाई के लिए सही जटिलता माप (complexity measure) है।

B. प्रस्तावित निकट-इष्टतम CI (Proposed Near-Optimal CI - Finite Alphabet)

Definition 3.6 & Theorem 3.7: वे एक नया CI प्रस्तावित करते हैं जो रेट फंक्शन्स में अज्ञात जनसंख्या वितरण को एम्पिरिकल डिस्ट्रीब्यूशन $\hat{P}_n$ से बदलकर निर्मित किया गया है।
निकट-इष्टतमता (Near-Optimality - Theorem 3.9): वे सिद्ध करते हैं कि प्रस्तावित CI की चौड़ाई मॉडरेट एक्यूरेसी शासन में स्थिरांक कारकों (constant factors) तक निचले बाउंड से मेल खाती है।
गणना दक्षता (Computational Efficiency - Theorem 3.11): रेट फंक्शन्स की सीधी गणना करने में उच्च-आयामी प्रायिकता सिम्प्लेक्स (probability simplex) पर अनुकूलन (optimization) शामिल है (जिसकी जटिलता अल्फाबेट के आकार $k$ के साथ बढ़ती है)। लेखक एक ड्यूल फॉर्मुलेशन (dual formulation) निकालते हैं जो इसे एक 2-आयामी कॉनवेक्स ऑप्टिमाइज़ेशन समस्या में बदल देता है, जिससे यह विधि अल्फाबेट के आकार की परवाह किए बिना गणनात्मक रूप से व्यवहार्य हो जाती है।

C. सामान्य अल्फाबेट के लिए विस्तार (Extensions to General Alphabets)

यह पहचानते हुए कि परिमित अल्फाबेट धारणा व्यावहारिक उपयोगिता को सीमित करती है, लेखक निरंतर डोमेन (continuous domains) के लिए परिणामों का विस्तार करने हेतु बर्नौली कपलिंग का उपयोग करते हैं:

$\Sigma = [0, 1]$ के लिए लगभग निश्चित (Almost Sure) CI (Section 3.3.1):
- एक "लगभग निश्चित" CI (Naaman, 2016) का निर्माण करता है जो गारंटी देता है कि जनसंख्या माध्य प्रायिकता 1 के साथ पर्याप्त बड़े $N$ के लिए कवर किया जाएगा।
- लाभ: यह गैर-एसिम्प्टोटिक बाउंड्स (जैसे Serfling-Hoeffding) और एसिम्प्टोटिक CLT बाउंड्स के बीच स्थित है। इसके लिए $[0,1]$ की पूर्व जानकारी की आवश्यकता नहीं है और यह CLT-आधारित अंतरालों की तुलना में मजबूत कवरेज गारंटी प्रदान करता है (जो अनंत बार विफल हो सकते हैं)।
स्मूथ बानाच स्पेस (Smooth Banach Spaces) के लिए CI (Section 3.3.2):
- $(2, D)$ -स्मूथ बानाच स्पेस (जैसे Hilbert spaces, RKHS) के लिए दृष्टिकोण का विस्तार करता है।
- तुलना: वे एक CI प्राप्त करते हैं जो Schneider (2016) की मौजूदा अत्याधुनिक (state-of-the-art) विधि से काफी अधिक सटीक (strictly tighter) है।
- अनुप्रयोग: MNIST डेटा का उपयोग करके कर्नेल मीन एम्बेडिंग्स (Kernel Mean Embeddings) पर प्रदर्शित किया गया, जो डेविएशन बाउंड्स में Schneider की विधि की तुलना में महत्वपूर्ण सुधार दिखाता है।

4. महत्व और प्रभाव (Significance and Impact)

सैद्धांतिक सफलता: यह शोध पत्र WoR CI चौड़ाई के लिए पहला मौलिक निचला बाउंड स्थापित करता है, यह सिद्ध करते हुए कि मौजूदा विधियाँ (जैसे Hoeffding-Serfing) उप-इष्टतम (suboptimal) हैं और प्रस्तावित रेट-फंक्शन-आधारित दृष्टिकोण लगभग इष्टतम है।
गणना सुलभता (Computational Tractability): ड्यूल फॉर्मुलेशन प्रदान करके, लेखक लार्ज डेविएशन रेट फंक्शन्स के मूल्यांकन की गणना संबंधी बाधा को हल करते हैं, जिससे उनका सैद्धांतिक रूप से इष्टतम CI उच्च-आयामी डेटा के लिए व्यावहारिक बन जाता है।
व्यावहारिक उपयोगिता: बानाच स्पेस और $[0,1]$ $[0, 1]$ के लिए "लगभग निश्चित" CI के लिए विस्तार आधुनिक अनुप्रयोगों के लिए तत्काल उपकरण प्रदान करते हैं, जैसे:
- रिस्क-लिमिटिंग ऑडिट (Risk-Limiting Audits): जहाँ परिमित जनसंख्या सुधार (finite population correction) महत्वपूर्ण है।
- स्केलेबल बेयसियन इन्फरेंस (Scalable Bayesian Inference): सब-सैम्प्ड MCMC विधियाँ।
- कर्नेल मेथड्स (Kernel Methods): मशीन लर्निंग में कर्नेल मीन एम्बेडिंग्स के लिए अधिक सटीक बाउंड्स।
एकीकृत ढांचा (Unifying Framework): यह शोध पत्र WoR सैंपलिंग के तहत अनुमान को लार्ज डेविएशन थ्योरी के साथ एकीकृत करता है, यह प्रदर्शित करते हुए कि बर्नौली कपलिंग स्वतंत्र सेटिंग्स से आश्रित (dependent - WoR) सेटिंग्स में परिणाम स्थानांतरित करने के लिए एक शक्तिशाली उपकरण है।

5. निष्कर्ष (Conclusion)

शेखर और रामदास ने बिना प्रतिस्थापन (without-replacement) सैंपलिंग में कॉन्फिडेंस इंटरवल के लिए सैद्धांतिक सीमाओं और व्यावहारिक निर्माण के बीच के अंतर को सफलतापूर्वक पाट दिया है। वे सिद्ध करते हैं कि WoR रेट फंक्शन का व्युत्क्रम इष्टतम चौड़ाई को अभिलक्षित (characterize) करता है, एक गणनात्मक रूप से कुशल अनुमानक (estimator) प्रस्तावित करते हैं जो इसे प्राप्त करता है, और निरंतर एवं बानाच स्पेस सेटिंग्स में ढांचे का सामान्यीकरण करते हैं, जो मौजूदा बेंचमार्क से बेहतर प्रदर्शन करता है।