तकनीकी सारांश: विश्वास की लागत ज्यामिति (The Cost Geometry of Belief)

1. समस्या विवरण (Problem Statement)

यह शोध पत्र एक परिमित एजेंट (finite agent) द्वारा एक निश्चित, शोरयुक्त (noisy) विश्व के अनुमान के दौरान रखे गए विश्वासों (beliefs) के ज्यामितीय ढांचे को संबोधित करता है। एक "विश्वास" को विश्व की अवस्था $x$ पर एक बायेसियन पोस्टीरियर प्रोबेबिलिटी डेंसिटी $p(x|y)$ के रूप में परिभाषित किया गया है, जो परिमित, शोरयुक्त अवलोकनों $y$ से प्राप्त होता है।

केंद्रीय समस्या विश्वासों के इस स्थान की ज्यामिति को लक्षणबद्ध करना है, विशेष रूप से:

• दूरी (Distances): एक विश्वास से दूसरे विश्वास में बदलने की लागत (मन बदलना)।
• सीमा (Boundary): "निश्चितता" (एक डिराक डेल्टा वितरण) की प्रकृति और क्या यह सुलभ है।
• वक्रता (Curvature): विश्वास स्थान की अंतर्निहित वक्रता।

यह ढांचा यह तर्क देता है कि किसी भी परिमित प्रणाली के लिए निश्चितता को दो बार अस्वीकार किया जाता है:

1. अवलोकन संबंधी परिमितता (Observational Finiteness): पूर्ण परिशुद्धता के लिए अनंत सूचना की आवश्यकता होती है, जो क्रैमरर-राओ (Cramér–Rao) असमानता (परिमित फिशर सूचना) द्वारा बाधित है।
2. भौतिक परिमितता (Physical Finiteness): निश्चितता तक पहुँचने के लिए सूचना को मिटाना अनंत ऊर्जा का अपव्यय करता है, जो लैंडावर सिद्धांत (Landauer principle) द्वारा बाधित है।

इन दोनों बाधाओं को फिशर सूचना ($J$) के माध्यम से पढ़ा जा सकता है, जो निश्चितता के करीब पहुँचते ही अपसारी (diverge) हो जाती है। लक्ष्य एक ऐसा मीट्रिक (metric) बनाना है जहाँ यह अपसरण एक अनकही सीमा (uncrossable boundary) के रूप में प्रकट हो।

2. कार्यप्रणाली और ढांचा (Methodology and Framework)

लेखक संभाव्यता मापों (probability measures) $\mathcal{P}_2(\mathbb{R}^n)$ (परिमित द्वितीय क्षणों वाले वासरस्टीन स्पेस) पर एक लागत ज्यामिति (cost geometry) का निर्माण करते हैं। इस कार्यप्रणाली के तीन मुख्य आधार हैं:

1. अरिना (The Arena - Optimal Transport): आधार ज्यामिति वासरस्टीन स्पेस $(\mathcal{P}_2, W_2)$ है, जहाँ दूरी संभाव्यता द्रव्यमान (probability mass) को स्थानांतरित करने की लागत को मापती है। यह सूचना ज्यामिति (Information Geometry) के विपरीत है, जो फिशर-राओ (Fisher–Rao) मीट्रिक (विभेद्यता) का उपयोग करती है।
2. लागत (The Cost - Conformal Deformation): विश्वास बदलने की लागत को केवल कच्चे वासरस्टीन अंतर द्वारा नहीं, बल्कि एक कॉन्फॉर्मलली रीवेटेड (conformally reweighted) मीट्रिक द्वारा मॉडल किया गया है:
   $$\tilde{g}_{e,U} = 2(e + U) g_{W_2}$$
   यहाँ, $U$ एक "रिलीफ" (relief) फलन है जो एक विश्वास अवस्था की असंतुलितता या लागत को दर्शाता है, और $e \ge 0$ एक स्तर पैरामीटर है। वक्र $\gamma$ की लागत लंबाई $\ell_e(\gamma) = \int \sqrt{2(e + U(\gamma_t))} |\dot{\gamma}| dt$ है।
3. सेतु (The Bridge - Otto Identity): यह ढांचा ऑटो पहचान (Otto identity) का उपयोग करता है, जो वासरस्टीन स्पेस पर शैनन एंट्रॉपी $H$ के ढाल (slope) को फिशर सूचना से जोड़ता है: $\|\nabla_{W_2} H\|^2 = J$। यह फिशर सूचना को एक मीट्रिक टेंसर के बजाय एंट्रॉपी के "ढाल" के रूप में कार्य करने की अनुमति देता है।

विश्लेषण मीट्रिक के कॉन्फॉर्मल क्लास (conformal class) और मुख्य रूप से लोकेशन-स्केल परिवारों (जैसे गासियन) पर केंद्रित है।

3. मुख्य योगदान और परिणाम (Key Contributions and Results)

यह शोध पत्र लागत की इकाई में परिवर्तन के तहत अपरिवर्तित रहने वाले तीन मुख्य लागत ज्यामिति चरित्रण स्थापित करता है।

A. दीवार (The Wall - Well-Posedness of Inference)

परिणाम: अनुमान के सुव्यवस्थित होने के लिए (एक आंतरिक मिनिमाइज़र को स्वीकार करना जो निश्चितता की ओर नहीं गिरता), निश्चितताओं की सीमा ($\partial_\infty$, जहाँ $J \to \infty$) अनंत दूरी पर होनी चाहिए।

• शर्त: यह "दीवार" तब स्थापित होती है जब रिलीफ $U$, सीमा पर फिशर सूचना $J$ पर हावी होता है।
• पर्याप्तता: यदि $U \ge \varepsilon J$ वैश्विक स्तर पर सत्य है (किसी $\varepsilon > 0$ के लिए), तो निश्चितता तक की दूरी अनंत है।
• आवश्यकता: पावर-लॉ परिवार $U = cJ^\alpha$ पर, दीवार तभी मौजूद होती है जब $\alpha \ge 1$ हो।
• निहितार्थ: एक परिमित एजेंट सीमित लागत पर निश्चितता तक नहीं पहुँच सकता; जैसे-जैसे लक्षित विचरण (variance) शून्य की ओर बढ़ता है, दी गई परिशुद्धता तक पहुँचने की लागत अपसरित (diverge) होती जाती है।

B. ईमानदारी (Honesty - The Eikonal Condition)

परिणाम: यह आवश्यकता कि ज्ञान की "कीमत" हर जगह समान हो (एक ईकोनल लागत, जहाँ सूचना के प्रत्येक "नैट" (nat) की ज्यामितीय लंबाई समान होती है), अनन्य रूप से फिशर परिवार के रिलीफ को चुनती है।

• शर्त: $U = cJ$किसी स्थिरांक$c > 0$ के लिए।
• व्याख्या: यह ऑटो पहचान के माध्यम से लैंडावर सिद्धांत (प्रति नैट निरंतर ऊर्जा लागत) के साथ संरेखित होता है। "ईमानदार" ज्यामिति फिशर सूचना के समानुपाती है।

C. कठोरता (Rigidity - Hyperbolicity and the Stam Bound)

परिणाम: लोकेशन-स्केल परिवारों पर, ईमानदार ज्यामिति ($U=cJ$) हाइपरबोलिक (सख्त नकारात्मक वक्रता) है।

• वक्रता: गौस वक्रता $K = -1/(2cJ_0)$ है, जहाँ $J_0$ मानकीकृत बेस डेंसिटी की फिशर सूचना है।
• स्टैम एक्सट्रेमलिटी (Stam Extremality): स्टैम बाउंड ($J_0 \ge 1$ यूनिट वेरियंस के लिए) द्वारा, वक्रता सीमित है: $K \in [-1/(2c), 0)$।
• गासियन (The Gaussian): गासियन वितरण ($J_0=1$) चरम वक्रता $K = -1/(2c)$ प्राप्त करता है। एक विशिष्ट इकाई चयन ($c=2$) के तहत, यह मान $-1/4$ है। गासियन इस प्रकार "सबसे अधिक हाइपरबोलिक" विश्वास है।

D. गेज इनवेरियंस (Gauge Invariance)

परिणाम: लागत की इकाई बदलने ( $e$ और $U$ को $\lambda$ द्वारा स्केल करना) से ज्यामिति पर एक होमोटेटी (homothety) होता है। यह दूरियों को $\sqrt{\lambda}$ से और वक्रता को $1/\lambda$ से स्केल करता है, लेकिन निम्नलिखित को सुरक्षित रखता है:

• दीवार का अस्तित्व (निश्चितता तक अनंत दूरी)।
• वक्रताओं का क्रम।
• गासियन की एक्सट्रेमलिटी।
• ईकोनल अनुपातिकता $U \propto J$।

4. महत्व और दावे (Significance and Claims)

यह शोध पत्र परिमित अनुमान (finite inference) के लिए एक ज्यामितीय ढांचा प्रदान करने का दावा करता है जो मौजूदा औपचारिकताओं से भिन्न है:

• फिशर-राओ से भिन्नता: सूचना ज्यामिति (जो विभेद्यता के लिए फिशर-राओ को मीट्रिक टेंसर के रूप में उपयोग करती है) के विपरीत, यह ढांचा फिशर सूचना को परिवहन मीट्रिक पर एक कॉन्फॉर्मल वेट के रूप में मानता है। इसके परिणामस्वरूप एक अलग वक्रता हस्ताक्षर मिलता है (जैसे यहाँ गासियनों के लिए $-1/4$ बनाम फिशर-राओ में $-1/2$)।
• ऊष्मागतिकी से भिन्नता: हालांकि यह ज्यामितीय ऊष्मागतिकी से संबंधित है, यह कार्य केवल एक निश्चित ज्यामिति पर होने वाले अपव्यय को नहीं मापता है; यह विश्वास स्थान को पुनः मीट्रिसाइज (re-metrizes) करता है ताकि एक अनकही सीमा (दीवार) शामिल की जा सके और स्थिति सूचना द्वारा संचालित नकारात्मक वक्रता प्राप्त की जा सके।
• एल्गोरिद्मिक पठन (Algorithmic Reading): यह ढांचा मौजूदा एल्गोरिदम की एक ज्यामितीय व्याख्या प्रदान करता है:
  • कलमन फिल्टर (Kalman Filters): इस ज्यामिति में आंतरिक बिंदुओं के रूप में कार्य करते हैं, जो परिमित लागत पर विश्वासों को संशोधित करते हैं।
  • पॉइंट प्रेडिक्टर्स/ओवरकॉन्फिडेंट नेटवर्क: इस सीमा (दीवार) पर स्थित होते हैं और उन्हें पुन: प्रशिक्षित (retraining) करने की आवश्यकता होती है (अनंत लागत), क्योंकि उन्हें आंतरिक विश्वासों से निरंतर रूप से नहीं पहुँचा जा सकता।
  • इलास्टिक वेट कंसोलिडेशन (EWC): यह निश्चितता (फिशर) के अनुपात में गति को दंडित करने के सिद्धांत को साझा करता है, हालांकि EWC भार (फिशर-राओ) के बजाय भारों (weights) पर लागू होता है।

5. सीमाएँ और अनुमान (Limitations and Conjectures)

लेखक अपने प्रमाणों के दायरे के बारे में विनम्र हैं:

• आवश्यकता: दीवार की शर्त ($U \ge \varepsilon J$) की आवश्यकता पावर-लॉ के लिए सिद्ध है लेकिन सामान्य रिलीफ के लिए एक अनुमान (conjecture) बनी हुई है।
• विशिष्टता (Uniqueness): यह ढांचा अनुमान के मिनिमाइज़र के अस्तित्व को स्थापित करता है, लेकिन सामान्य मामले में विशिष्टता को सिद्ध नहीं करता है (इंटरैक्शन टर्म्स की गैर-उत्तलता/non-convexity अभी भी खुला विषय है)।
• वक्रता का दायरा: नकारात्मक वक्रता और स्टैम रिजिडिटी 1D लोकेशन-स्केल परिवारों के लिए कठोरता से सिद्ध हैं। उच्च आयामों या गैर-लोकेशन-स्केल परिवारों में उनका विस्तार एक अनुमान है लेकिन सिद्ध नहीं हुआ है।
• भौतिक प्रेरणा: ऊष्मागतिकी (लैंडावर) ढांचे को प्रेरित करती है और लागत इकाई को निर्धारित करती है, लेकिन ज्यामितीय प्रमाण भौतिक नियमों से स्वतंत्र हैं, जो केवल मीट्रिक ज्यामिति पर निर्भर करते हैं।

संक्षेप में, यह शोध पत्र एक "विश्वास की लागत ज्यामिति" का निर्माण करता है जहाँ एजेंटों और सेंसरों की परिमित प्रकृति एक हाइपरबोलिक स्थान के रूप में प्रकट होती है जिसमें निश्चितता पर एक अनंत दीवार होती है, जो फिशर सूचना और ऑटो पहचान द्वारा नियंत्रित होती है।