High Dimensional Bootstrap and Asymptotic Expansion for the $k$-th Largest Coordinate

यहाँ लॉन्ग फेंग (Long Feng) के शोध पत्र "High Dimensional Bootstrap and Asymptotic Expansion for the k-th Largest Coordinate" का विस्तृत तकनीकी सारांश दिया गया है।

1. समस्या विवरण (Problem Statement)

यह शोध पत्र स्वतंत्र यादृच्छिक वेक्टर्स (independent random vectors) के एक सामान्यीकृत योग (normalized sum) के $k$-वें सबसे बड़े निर्देशांक (k-th largest coordinate) के संबंध में उच्च-आयामी सांख्यिकीय अनुमान (high-dimensional statistical inference) में मौजूद एक अंतराल को संबोधित करता है।

• संदर्भ: जबकि अधिकतम ($k=1$) के लिए उच्च-आयामी गॉसियन सन्निकटन (Gaussian approximation) और बूटस्ट्रैप सिद्धांत (जैसे चेर्नोज़ुकोव एट अल., कोइके) सुस्थापित हैं, सामान्य क्रम सांख्यिकी (order statistics, $k > 1$) के लिए सिद्धांत अभी भी विरल है।
• चुनौती: मैक्सिमा के लिए मौजूदा द्वितीय-क्रम एसिम्प्टोटिक विस्तार (second-order asymptotic expansions) इस तथ्य पर निर्भर करते हैं कि घटना $\{T_n \le t\}$ एक आयत (rectangle) या हाइपररेक्टेंगल (hyperrectangle) होती है। हालाँकि, $k$-वें क्रम सांख्यिकी के लिए, घटना $\{T_{n,[k]} \le t\}$ अतिरेक गणना (exceedance count) $N_n(t) \le k-1$ के समतुल्य है। यह घटना आयत नहीं है; इसकी स्थानीय संरचना एक एकल सीमा के बजाय एक थ्रेशोल्ड (threshold) से अधिक होने वाले निर्देशांकों की गणना द्वारा नियंत्रित होती है।
• लक्ष्य: उच्च आयामों में, जहाँ आयाम $d$, नमूना आकार $n$ के साथ बढ़ सकता है, $k$-वें सबसे बड़े निर्देशांक के लिए एक द्वितीय-क्रम सटीक (second-order accurate) बूटस्ट्रैप सिद्धांत (विशेष रूप से कवरेज प्रायिकता और क्रिटिकल वैल्यूज के लिए) विकसित करना।

2. कार्यप्रणाली (Methodology)

लेखक एक अभिनव दृष्टिकोण प्रस्तावित करते हैं जो क्रम सांख्यिकी (order statistics) और मैक्सिमा के लिए मौजूदा एडगवर्थ एक्सपेंशन (Edgeworth expansion) मशीनरी के बीच के अंतर को पाटता है।

A. कॉम्बिनेटोरियल प्रतिनिधित्व (Inclusion-Exclusion)

मुख्य नवाचार फैक्टोरियल मोमेंट्स (factorial moments) और वेटेड इनक्लूजन-एक्सक्लूजन (weighted inclusion-exclusion) का उपयोग है।

• घटना $\{T_{n,[k]} \le t\}$ को अतिरेक गणना $N_n(t) = \sum_{j=1}^d \mathbb{1}\{S_{n,j} > t\}$ के माध्यम से दर्शाया गया है।
• एक परिमित इनक्लूजन-एक्सक्लूजन पहचान (लेम्मा A.1) का उपयोग करके, प्रायिकता $P(N_n(t) \ge k)$ को ऑर्थेंट्स (orthants) के प्रतिच्छेदन (intersections) की प्रायिकताओं के योग में विस्तारित किया जाता है (जहाँ विशिष्ट निर्देशांक $t$ से अधिक होते हैं)।
• यह समस्या को $s$-आयामी (जहाँ $s$, $k$ से लेकर ट्रंकेशन पॉइंट $k_0 \approx A \log n$ तक है) दुर्लभ-ऑर्थेंट प्रायिकताओं (rare-orthant probabilities) के संग्रह के विश्लेषण में बदल देता है।

B. स्थानीय एडगवर्थ विस्तार (Local Edgeworth Expansions)

यह शोध पत्र मैक्सिमा के लिए कोइके (2026) द्वारा विकसित द्वितीय-क्रम विस्तार मशीनरी को इन निम्न-आयामी प्रोजेक्शन पर स्थानांतरित करता है:

• स्टीन कर्नेल (Stein Kernels): विधि गैर-स्मूथनेस (non-smoothness) और उच्च-आयामीता को संभालने के लिए यादृच्छिक वेक्टर्स के लिए स्टीन कर्नेल के अस्तित्व पर निर्भर करती है, जिससे शास्त्रीय क्रैमर स्थितियों (Cramér conditions) की आवश्यकता के बिना काम किया जा सके।
• प्रोजेक्टेड डेंसिटीज (Projected Densities): निर्देशांकों के प्रत्येक उपसमुच्चय $I \subset [d]$ के लिए, शोध पत्र प्रोजेक्टेड सम $S_{n,I}$ के लिए एडगवर्थ विस्तार व्युत्पन्न करता है।
• वेटेड एग्रीगेशन (Weighted Aggregation): व्यक्तिगत ऑर्थेंट्स के विस्तारों को $k$-वें क्रम सांख्यिकी के लिए एक वैश्विक विस्तार बनाने के लिए इनक्लूजन-एक्सक्लूजन वेट्स का उपयोग करके एकत्रित किया जाता है।

C. बूटस्ट्रैप वेरिएंट्स (Bootstrap Variants)

सिद्धांत को दो बूटस्ट्रैप योजनाओं पर लागू किया गया है:

1. सिंगल वाइल्ड बूटस्ट्रैप (Single Wild Bootstrap): यह मल्टीप्लायर्स $w_i$ का उपयोग करता है। शोध पत्र कवरेज एरर एक्सपेंशन को व्युत्पन्न करता है, यह दिखाते हुए कि तीसरे मोमेंट ($\gamma = E[w^3] = 1$) को मिलाने से अग्रणी रैखिक त्रुटि पद (leading linear error term) समाप्त हो जाता है।
2. प्रीपिवोटेड डबल वाइल्ड बूटस्ट्रैप (Prepivoted Double Wild Bootstrap): यह एक दो-चरणीय प्रक्रिया है जहाँ पहला बूटस्ट्रैप एक $p$-वैल्यू उत्पन्न करता है, जिसका उपयोग फिर दूसरे बूटस्ट्रैप के इनपुट के रूप में किया जाता है। यह तीसरे-मोमेंट मिलान के बिना भी द्वितीय-क्रम सटीकता प्राप्त करता है।

D. डिपेंडेंस स्ट्रक्चर (Dependence Structures)

शोध पत्र दो निर्भरता व्यवस्थाओं (dependence regimes) को संबोधित करता है:

1. मैक्सिमल कोरिलेशन (Maximal Correlation): मानक धारणा जहाँ $\rho_d \log d \to 0$ (कमजोर निर्भरता)।
2. स्टेशनरी गॉसियन एक्सपोनेंशियल मिक्सिंग (Stationary Gaussian Exponential Mixing): एक संरचनात्मक विकल्प जहाँ निर्देशांक एक स्टेशनरी अनुक्रम बनाते हैं जिसमें घातीय रूप से घटने वाले स्ट्रॉन्ग-मिक्सिंग गुणांक होते हैं। यह उच्च सहसंबंध के स्थानीय क्लस्टरिंग की अनुमति देता है। इसकी लागत एक स्पष्ट शेष पद (remainder term) $r_d$ है जो स्थानीय अतिरेक क्लस्टरिंग के प्रभाव को दर्शाता है।

3. प्रमुख योगदान (Key Contributions)

A. सैद्धांतिक प्रगति

• क्रम सांख्यिकी के लिए द्वितीय-क्रम विस्तार: शोध पत्र सिद्ध करता है कि $k$-वाँ सबसे बड़ा निर्देशांक एक कोइके-टाइप द्वितीय-क्रम बूटस्ट्रैप विस्तार रखता है। यह मैक्सिमा से सामान्य क्रम सांख्यिकी तक एडगवर्थ और कॉर्निश-फिशर विस्तारों की वैधता को विस्तृत करता है।
• कवरेज एरर दरें:
  • सिंगल वाइल्ड बूटस्ट्रैप के लिए, यदि तीसरे मोमेंट को मिलाया जाता है ($\gamma=1$), तो कवरेज एरर $O(\varepsilon_n^2)$ है, जहाँ $\varepsilon_n \approx \sqrt{\frac{\log^3(dn)}{n}}$। यह मानक प्रथम-क्रम दर $O(\varepsilon_n)$ की तुलना में एक महत्वपूर्ण सुधार है।
  • डबल वाइल्ड बूटस्ट्रैप बिना तीसरे-मोमेंट मिलान की आवश्यकता के समान $O(\varepsilon_n^2)$ दर प्राप्त करता है।
• स्पष्ट शेष पद (Explicit Remainder Terms): स्टेशनरी मिक्सिंग सेटिंग में, शोध पत्र एक स्पष्ट $r_d$ प्रदान करता है जो स्थानीय सहसंबंध क्लस्टर्स के प्रभाव को अलग करता है। यह दिखाता है कि यदि $d$, $n$ के सापेक्ष पर्याप्त तेजी से बढ़ता है (विशेष रूप से $d \gtrsim n \log n$), तो यह शेष पद भी $O(n^{-1})$ के क्रम का होता है।

B. तकनीकी नवाचार

• फैक्टोरियल मोमेंट रिडक्शन: जटिल क्रम सांख्यिकी को निम्न-आयामी ऑर्थेंट प्रायिकताओं के योग में सफलतापूर्वक बदलना।
• गैर-आयताकार घटनाओं को संभालना: कॉम्बिनेटोरियल पहचान और स्थानीय स्मूथिंग असमानताओं का उपयोग करके $\{T_{n,[k]} \le t\}$ की गैर-आयताकार प्रकृति को संभालने के लिए एक कठोर ढांचा प्रदान करना।
• निर्भरता के प्रति मजबूती: यह प्रदर्शित करना कि द्वितीय-क्रम सटीकता स्टेशनरी एक्सपोनेंशियल मिक्सिंग के तहत भी बनी रहती है, बशर्ते कि आयाम स्थानीय क्लस्टरिंग प्रभावों को कम करने के लिए पर्याप्त बड़ा हो।

4. मुख्य परिणाम (Key Results)

• थ्योरम 2.1 (सिंगल वाइल्ड बूटस्ट्रैप): कवरेज विस्तार स्थापित करता है:
  $$P(T_{n,[k]} \ge \hat{c}_{1-\alpha, k}) = \alpha - (1-\gamma)Q_{n,k}(c^G_{1-\alpha, k}) - E\{R_{n,k}(\alpha)\} + O(\varepsilon_n^2)$$
  जहाँ $Q_{n,k}$ एक नियतात्मक रैखिक पद है और $R_{n,k}$ एक द्विघाती कॉर्निश-फिशर सुधार है।
• कोरोलरी 2.1: यदि $\gamma=1$ (तीसरे-मोमेंट मिलान), तो रैखिक विरूपण (linear distortion) लुप्त हो जाता है, जिससे द्वितीय-क्रम सटीकता $O(\varepsilon_n^2)$ प्राप्त होती है।
• थ्योरम 2.2 (डबल वाइल्ड बूटस्ट्रैप): प्रीपिवोटेड डबल बूटस्ट्रैप समान $O(\varepsilon_n^2)$ कवरेज एरर प्राप्त करता है, जिससे मोमेंट मिलान की आवश्यकता समाप्त हो जाती है।
• थ्योरम 2.3 (स्टेशनरी मिक्सिंग): मैक्सिमल कोरिलेशन को एक्सपोनेंशियल मिक्सिंग से बदलता है। एरर बाउंड्स में एक स्पष्ट शेष पद $r_d$ शामिल है, जो $n$ के सापेक्ष पर्याप्त बड़े $d$ के लिए $O(n^{-1})$ है।
• सिमुलेशन परिणाम:
  • एम्पिरिकल बूटस्ट्रैप (EB), गॉसियन वाइल्ड (GB), माममेन (MB), रेडमेकर (RB), बीटा (BB), और डबल (DB) बूटस्ट्रैप्स की तुलना करने के लिए प्रायोगिक अध्ययन ($d=400, n \in \{200, 400\}$) किए गए।
  • निष्कर्ष: EB समान रूप से रूढ़िवादी (conservative) है। GB विषमता (asymmetry) के प्रति संवेदनशील (liberal) है। माममेन (MB) और बीटा (BB) वाइल्ड बूटस्ट्रैप्स (जो तीसरे मोमेंट को मिलाते हैं) विषम और निर्भर डिजाइनों के तहत सबसे मजबूत और स्थिर हैं। डबल बूटस्ट्रैप (DB) अक्सर विषमता के मामलों में नाममात्र स्तर (nominal level) के सबसे करीब होता है लेकिन थोड़ा उदार पक्षपात (liberal bias) प्रदर्शित करता है।

5. महत्व (Significance)

• सिद्धांत और व्यवहार को जोड़ना: यह कार्य उच्च-आयामी अनुमान को मैक्सिमम सांख्यिकीय से आगे ले जाता है, जिससे टेल व्यवहार (tail behavior) और चरम मानों (extreme values) का अधिक सूक्ष्म विश्लेषण संभव होता है (जैसे वित्त में पोर्टफोलियो जोखिम, जीनोमिक्स में जीन अभिव्यक्ति और सिग्नल प्रोसेसिंग में), जो अत्यंत महत्वपूर्ण हैं।
• बेहतर सटीकता: द्वितीय-क्रम सटीकता प्राप्त करके, प्रस्तावित विधियाँ मानक प्रथम-क्रम गॉसियन सन्निकटन की तुलना में परिमित नमूनों (finite samples) में कवरेज त्रुटियों को काफी कम करती हैं, विशेष रूप से उच्च-आयामी सेटिंग्स में जहाँ $d \gg n$ है।
• पद्धतिगत ढांचा: फैक्टोरियल मोमेंट्स, इनक्लूजन-एक्सक्लूजन और स्थानीय एडगवर्थ विस्तार का संयोजन उच्च-आयामी योगों के अन्य गैर-आयताकार फलनों (non-rectangular functionals) के विश्लेषण के लिए एक शक्तिशाली टेम्पलेट प्रदान करता है।
• व्यावहारिक मार्गदर्शन: सिमुलेशन परिणाम ठोस मार्गदर्शन प्रदान करते हैं कि विभिन्न निर्भरता और वितरण संबंधी मान्यताओं के तहत मजबूत अनुमान सुनिश्चित करने के लिए किन बूटस्ट्रैप मल्टीप्लायर्स का उपयोग किया जाए (माममेन या बीटा वितरणों को प्राथमिकता देते हुए)।

संक्षेप में, लॉन्ग फेंग का शोध पत्र मैक्सिमा से $k$-वें क्रम सांख्यिकी तक अत्याधुनिक द्वितीय-क्रम बूटस्ट्रैप सिद्धांत का सफलतापूर्वक सामान्यीकरण करता है, जो उच्च-आयामी अनुमान के लिए कठोर सैद्धांतिक गारंटी और व्यावहारिक एल्गोरिदम प्रदान करता है।