Sharp Concentration Bounds for Bundle-Valued Statistics on Manifolds

तकनीकी सारांश: मैनिफोल्ड्स पर बंडल-मूल्य वाले सांख्यिकी के लिए तीक्ष्ण एकाग्रता सीमाएँ (Sharp Concentration Bounds)

1. समस्या विवरण (Problem Statement)

कई ज्यामितीय मशीन लर्निंग और सांख्यिकीय पाइपलाइन ऐसे डेटा पर कार्य करती हैं जो एक साझा वेक्टर स्पेस के बजाय स्वाभाविक रूप से वेक्टर बंडलों (vector bundles) में निवास करते हैं। उदाहरणों में स्पर्शज्या सदिश (tangent vectors), स्थानीय फ्रेम (local frames), और गेज फील्ड्स (gauge fields) शामिल हैं, जहाँ प्रत्येक अवलोकन $s(X_i)$ एक विशिष्ट बिंदु $X_i$ से जुड़े एक फाइबर $E_{X_i}$ में होता है।

ऐसे डेटा के अनुभवजन्य औसत (empirical averages/means) की गणना करने के लिए, हमें समानांतर परिवहन (parallel transport) के माध्यम से अवलोकनों को उनके संबंधित फाइबर से एक सामान्य संदर्भ फाइबर $E_{x_0}$ में ले जाना पड़ता है और फिर उनका औसत निकालना पड़ता है। हालाँकि, यह प्रक्रिया दो विशिष्ट चुनौतियों को जन्म देती है जो शास्त्रीय यूक्लिडियन सांख्यिकी में अनुपस्थित होती हैं:

1. पथ निर्भरता (Path Dependence): यदि नमूना बिंदु $X_i$ और संदर्भ बिंदु $x_0$ के बीच का लघुतम पथ (न्यूनतम जियोडेसिक) अद्वितीय नहीं है, तो परिवहन पथ का चयन एक नियत (deterministic) अस्पष्टता उत्पन्न करता है।
2. होलोनॉमी पूर्वाग्रह (Holonomy Bias): मैनिफोल्ड की वक्रता (curvature) और बंडल कनेक्शन के कारण, एक बंद लूप (जो दो अलग-अलग पथों से बनता है) के चारों ओर समानांतर परिवहन एक गैर-तुच्छ रोटेशन (holonomy) का परिणाम देता है। यह परिवहन किए गए माध्य में एक नियत पूर्वाग्रह (deterministic bias) पैदा करता है जो अतिरिक्त डेटा के साथ समाप्त नहीं होता है, जैसा कि स्टोकेस्टिक सैंपलिंग त्रुटि के मामले में होता है।

मौजूदा एकाग्रता सिद्धांत (जैसे, होफडिंग, बर्नस्टीन) रैखिक स्थानों (linear spaces) पर लागू होते हैं, जबकि मौजूदा मैनिफोल्ड सांख्यिकी साहित्य (जैसे, फ्रेट माध्य/Fréchet means) अक्सर स्पर्शोन्मुख (asymptotic) परिणामों या आधार मैनिफोल्ड पर डेटा बिंदुओं पर ध्यान केंद्रित करता है, और समानांतर परिवहन के तहत बंडल-मूल्य वाले सेक्शन के गैर-स्पर्शोन्मुख एकाग्रता (non-asymptotic concentration) को संबोधित करने में विफल रहता है।

2. कार्यप्रणाली (Methodology)

यह शोध पत्र परिवहित अनुभवजन्य माध्य (transported empirical means) के लिए एक गैर-स्पर्शोन्मुख एकाग्रता सिद्धांत विकसित करता है। मुख्य कार्यप्रणालीगत चरण निम्नलिखित हैं:

• ज्यामितीय न्यूनीकरण (Geometric Reduction): लेखक एक मापने योग्य परिवहन नियम (जैसे, एक नॉर्मल बॉल या कार्टन-हाडामार्ड मैनिफोल्ड में एक अद्वितीय न्यूनतम जियोडेसिक का चयन करना) मानते हैं जो बंडल-मूल्य वाले अवलोकनों $s(X_i) \in E_{X_i}$ को एक निश्चित संदर्भ हिल्बर्ट स्पेस $E_{x_0}$ में मैप करता है। यह समस्या को एक निश्चित हिल्बर्ट स्पेस में i.i.d. यादृच्छिक वेक्टर्स के औसत निकालने में बदल देता है।
• तीक्ष्ण असमानताएँ (Sharp Inequalities): पिनेलिस [31] और बुचोरोन आदि [13] के कार्य का लाभ उठाते हुए, यह पत्र परिवर्तित अनुभवजन्य माध्य $\bar{Y}_n$ के लिए डायमेंशन-फ्री होफडिंग और बर्नस्टीन असमानताओं को लागू करता है। महत्वपूर्ण रूप से, वेरिएंस प्रॉक्सी (variance proxy) को कोवेरिएंस मैट्रिक्स के ऑपरेटर नॉर्म के माध्यम से परिभाषित किया गया है, जिससे यह सुनिश्चित होता है कि सीमाएँ फाइबर आयाम $k$ से स्वतंत्र रहें।
• बायस-वेरिएंस अपघटन (Bias-Variance Decomposition): कुल त्रुटि को दो भागों में विभाजित किया गया है:
  1. स्टोकेस्टिक टर्म (Stochastic Term): जो शास्त्रीय $O(n^{-1/2})$ दर से घटता है।
  2. ज्यामितीय पूर्वाग्रह पद ($\Delta_{hol}$): परिवहन अस्पष्टता (होलोनॉमी) के कारण होने वाला एक नियत ऑफसेट, जो बंडल वक्रता और डेटा सपोर्ट की ज्यामिति द्वारा नियंत्रित होता है।
• होलोनॉमी का परिमाणीकरण (Holonomy Quantification): शोध पत्र होलोनॉमी पूर्वाग्रह के लिए स्पष्ट, तीक्ष्ण सूत्र व्युत्पन्न करता है। राउंड स्फीयर $S^2_r$ के स्पर्शज्या बंडल के लिए, यह वैकल्पिक परिवहन पथों द्वारा बनाए गए लूप के क्षेत्रफल पर निर्भर एक क्लोज्ड-फॉर्म बाउंड प्रदान करता है।
• मजबूती और स्पर्शोन्मुखता (Robustness and Asymptotics): इस ढांचे को भारी पूंछ वाले वितरणों (heavy-tailed distributions) के लिए एक मीडियन-ऑफ-मीन्स (MoM) एस्टिमेटर का उपयोग करके विस्तारित किया गया है, और यह स्थापित किया गया है कि संदर्भ फाइबर में एक सेंट्रल लिमिट थ्योरम (CLT) मौजूद है, बशर्ते कि होलोनॉमी पूर्वाग्रह, सैंपलिंग शोर की तुलना में नगण्य हो जाए।

3. प्रमुख योगदान (Key Contributions)

यह शोध पत्र निम्नलिखित विशिष्ट योगदान देता है:

• गैर-स्पर्शोन्मुख एकाग्रता सीमाएँ (Non-Asymptotic Concentration Bounds): यह परिवहित बंडल-मूल्य वाले माध्यओं के लिए परिमित-नमूना (finite-sample), डायमेंशन-फ्री होफडिंग और बर्नस्टीन-प्रकार की सीमाएँ स्थापित करता है। ये सीमाएँ स्टोकेस्टिक उतार-चढ़ाव को नियत ज्यामितीय पूर्वाग्रह से स्पष्ट रूप से अलग करती हैं।
• होलोनॉमी पूर्वाग्रह का परिमाणीकरण: लेखक गैर-अद्वितीय जियोडेसिक द्वारा उत्पन्न नियत त्रुटि फ्लोर (error floor) को अलग करते हैं। वे स्फीयर पर इस पूर्वाग्रह के लिए तीक्ष्ण, क्लोज्ड-फॉर्म सूत्र (प्रपोजिशन 1) और किसी भी बंडल के लिए सामान्य वक्रता-आधारित सीमाएँ (थ्योरम 3) प्रदान करते हैं।
• मिनिमैक्स लोअर बाउंड्स (Minimax Lower Bounds): शोध पत्र सिद्ध करता है कि परिवहन-आधारित एस्टिमेटर्स के वर्ग के भीतर $O(n^{-1/2})$ स्टोकेस्टिक दर और वक्रता-संचालित होलोनॉमी फ्लोर दोनों ही अपरिहार्य हैं (थ्योरम 4)। यह पुष्टि करता है कि कोई भी संरेखण-आधारित एल्गोरिदम एस्टिमेटर की मौलिक संरचना को बदले बिना (जैसे, बाह्य विधियों/extrinsic methods पर स्विच किए बिना) ज्यामितीय पूर्वाग्रह को समाप्त नहीं कर सकता है।
• मजबूत अनुमान (Robust Estimation): एक मजबूत मीडियन-ऑफ-मीन्स एस्टिमेटर स्थापित किया गया है जो भारी-पूंछ वाले वितरणों के तहत भी इष्टतम $\sigma/\sqrt{n}$ दर प्राप्त करता है, और पूर्वाग्रह-विचरण संरचना को सुरक्षित रखता है।
• सेंट्रल लिमिट थ्योरम (CLT): संदर्भ फाइबर में एक CLT सिद्ध किया गया है, जो तब मान्य होता है जब होलोनॉमी पूर्वाग्रह स्पर्शोन्मुख रूप से नगण्य ($o(n^{-1/2})$) हो जाता है।

4. परिणाम (Results)

• त्रुटि अपघटन (Error Decomposition): जनसंख्या माध्य $m^\star$ से $\bar{Y}_n$ का विचलन इस प्रकार सीमित है:
  $$\|\bar{Y}_n - m^\star\| \lesssim \frac{B}{\sqrt{n}} + \Delta_{hol}$$
  जहाँ $B$ सेक्शन पर यूनिफॉर्म बाउंड है, और $\Delta_{hol}$ होलोनॉमी पूर्वाग्रह है।
• क्रॉसओवर सैंपल साइज (Crossover Sample Size): शोध पत्र एक महत्वपूर्ण नमूना आकार $n_\times$ की पहचान करता है जिसके बाद नमूना आकार $n$ बढ़ाने से कुल त्रुटि में कोई और कमी नहीं आती क्योंकि ज्यामितीय पूर्वाग्रह $\Delta_{hol}$ हावी हो जाता है। त्रिज्या $r$ वाले स्फीयर के लिए, जिसमें डेटा त्रिज्या $\rho$ के बॉल में समर्थित है, यह क्रॉसओवर लगभग $n \sim (r/\rho)^4$ के समय होता है।
• स्फीयर सत्यापन (Sphere Validation): स्फीयर $S^2$ पर नियंत्रित प्रयोगों ने सैद्धांतिक भविष्यवाणियों की पुष्टि की है। स्टोकेस्टिक त्रुटि $n^{-1/2}$ के रूप में घटती है, जबकि वैकल्पिक परिवहन नियमों के तहत त्रुटि एक स्थिर मान पर स्थिर हो जाती है जो सैद्धांतिक होलोनॉमी बाउंड के भीतर 3.7% के भीतर मेल खाती है।
• अनुप्रयोग (Applications): इस सिद्धांत को मैनिफोल्ड रिग्रेशन रेसिडुअल्स, गेज-इक्विवेरिएंट ग्राफ न्यूरल नेटवर्क (GNNs), डिफ्यूजन टेंसर इमेजिंग, और वॉसरस्टीन टेंगेंट स्पेस पर लागू किया गया है, जो यह दर्शाता है कि कैसे बायस-वेरिएंस अपघटन इन विशिष्ट पाइपलाइनों पर लागू होता है।

5. महत्व और दावे (Significance and Claims)

शोध पत्र का दावा है कि यह उन ज्यामितीय डीप लर्निंग और मैनिफोल्ड लर्निंग पाइपलाइनों के लिए एक कठोर सांख्यिकीय आधार प्रदान करता है जो बंडल कनेक्शन के माध्यम से फीचर्स को एकत्रित करते हैं। इसका महत्व निम्नलिखित में निहित है:

• एकीकृत ढांचा (Unifying Framework): यह स्पष्ट परिमित-नमूना गारंटियों के साथ एक एकल संभाव्यता संरचना के तहत यूक्लिडियन एकाग्रता सिद्धांत, मैनिफोल्ड सांख्यिकी और बंडल ज्यामिति को एकीकृत करता है।
• मौलिक सीमाओं की पहचान: यह प्रदर्शित करता है कि वक्रता वाले ज्यामितीय सेटिंग्स में, सांख्यिकीय सटीकता केवल डेटा की कमी से नहीं, बल्कि स्थान की ज्यामिति (वक्रता/होलोनॉमी) द्वारा आंतरिक रूप से सीमित होती है। यह इस धारणा को चुनौती देता है कि ज्यामितीय सेटिंग्स में अधिक डेटा हमेशा बेहतर अनुमान की ओर ले जाता है।
• व्यावहारिक मार्गदर्शन: इसके परिणाम चिकित्सकों को यह निर्धारित करने के लिए ठोस मानदंड प्रदान करते हैं कि कब वक्रता प्रभाव नगण्य (स्थानीय शासन) हैं और कब वे हावी (बड़े कैप्स) होते हैं, जो छोटे नॉर्मल बॉल्स तक डेटा सपोर्ट को सीमित करने या होलोनॉमी सुधार लागू करने जैसे समाधान सुझाते हैं।
• सीमित दायरा: लेखक स्पष्ट रूप से नोट करते हैं कि उनके परिणाम परिवहन-आधारित एस्टिमेटर्स पर लागू होते हैं। वे स्वीकार करते हैं कि बाह्य एस्टिमेटर्स (जो फाइबर संरचना को अनदेखा करते हैं) होलोनॉमी फ्लोर से बच सकते हैं लेकिन ज्यामितीय व्याख्यात्मकता की कीमत पर। यह शोध पत्र सभी ज्यामितीय शिक्षण समस्याओं को हल करने का दावा नहीं करता है, बल्कि विशेष रूप से वेक्टर बंडलों में सेक्शन के औसत निकालने के सांख्यिकीय व्यवहार को संबोधित करता है।

संक्षेप में, यह शोध पत्र स्थापित करता है कि जबकि शास्त्रीय एकाग्रता दरें ($n^{-1/2}$) बंडल-मूल्य वाली सांख्यिकी के स्टोकेस्टिक घटक के लिए बनी रहती हैं, एक वक्रता-संचालित त्रुटि फ्लोर (curvature-driven error floor) मौजूद है जिसे केवल डेटा से समाप्त नहीं किया जा सकता है, जो ज्यामितीय लर्निंग एल्गोरिदम के अभिसरण व्यवहार को मौलिक रूप से बदल देता है।