तकनीकी सारांश: ऑब्जर्वेबल वासरस्टीन डिस्टेंस (The Observable Wasserstein Distance)

समस्या विवरण

इस शोध पत्र में संबोधित प्राथमिक चुनौती बड़े पैमाने के, गैर-यूक्लिडियन डेटासेट पर प्रायिकता मापों (probability measures) के बीच सटीक वासरस्टीन दूरी (Wasserstein distance) की गणना करने में निहित कम्प्यूटेशनल जटिलता है। जबकि ऑप्टिमल ट्रांसपोर्ट (OT) सिद्धांत वितरणों की तुलना करने के लिए एक कठोर ढांचा प्रदान करता है, सटीक गणना आमतौर पर डेटा बिंदुओं की संख्या के साथ क्यूबिक या क्वाड्रेटिक रूप से बढ़ती है, जो इसे विशाल डेटासेट के लिए अव्यवहारिक बना देती है।

मौजूदा सन्निकटन (approximations), जैसे कि स्लाइसड वासरस्टीन डिस्टेंस (Sliced Wasserstein distance), एक-आयामी उपस्थानों (subspaces) पर मापों को प्रोजेक्ट करके कम्प्यूटेशनल दक्षता प्रदान करते हैं। हालाँकि, ये विधियाँ $\mathbb{R}^d$ के रैखिक ढांचे पर निर्भर करती हैं, जो प्रोजेक्शन दिशाओं को परिभाषित करने के लिए आंतरिक गुणन (inner products) और नॉर्म्स (norms) का उपयोग करती हैं। कई दिलचस्प डेटासेट—जैसे कि 3D आकार, ग्राफ, प्रोटीन संरचनाएं और कार्यात्मक सतहें—सामान्य मीट्रिक स्पेस में स्थित होते हैं जहाँ रैखिकता और आंतरिक गुणन अनुपस्थित होते हैं। फलस्वरूप, मानक स्लाइसड वासरस्टीन दृष्टिकोणों को सीधे लागू नहीं किया जा सकता है, और सामान्य पोलिश मीट्रिक स्पेस में वासरस्टीन दूरी पर निचली सीमा (lower bounds) प्रदान करने वाले एक कम्प्यूटेशनल रूप से सुलभ विकल्प की आवश्यकता है।

कार्यप्रणाली (Methodology)

ऑब्जर्वेबल वासरस्टीन ढांचा (The Observable Wasserstein Framework)

लेखक ऑब्जर्वेबल वासरस्टीन डिस्टेंस पेश करते हैं, जो एक ढांचा है जो किसी भी मीट्रिक स्पेस $(X, d)$ के लिए स्लाइसिंग अवधारणा का सामान्यीकरण करता है। रैखिक उपस्थानों पर प्रोजेक्ट करने के बजाय, यह विधि मीट्रिक ऑब्जर्वबल्स (metric observables) का उपयोग करके प्रायिकता मापों को वास्तविक रेखा पर प्रोजेक्ट करती है।

1. मीट्रिक ऑब्जर्वबल्स: एक ऑब्जर्वेबल को एक 1-लिप्सचिट्ज (1-Lipschitz) फलन $f: X \to \mathbb{R}$ के रूप में परिभाषित किया जाता है, जो संतुष्ट करता है $|f(x) - f(y)| \leq d(x, y)$। ऐसे सभी फलनों को $\Lambda(X)$ द्वारा दर्शाया जाता है।
2. पुशफॉरवर्ड मेजर्स (Pushforward Measures): एक मेजर $\mu \in \mathcal{P}(X)$ और एक ऑब्जर्वेबल $f$ के लिए, वास्तविक रेखा पर पुशफॉरवर्ड मेजर $f_\sharp \mu$ को परिभाषित किया गया है।
3. दूरी की परिभाषा: ऑब्जर्वेबल वासरस्टीन $p$-दूरी, $\theta_p(\mu, \nu)$, सभी संभावित ऑब्जर्वबल्स पर पुशफॉरवर्ड मेजर्स के बीच वासरस्टीन दूरियों के सुप्रीमम (supremum) के रूप में परिभाषित की जाती है:
   $$\theta_p(\mu, \nu) := \sup_{f \in \Lambda(X)} w_p(f_\sharp \mu, f_\sharp \nu)$$
   चूंकि ऑब्जर्वबल्स 1-लिप्सचिट्ज हैं, इसलिए यह निष्कर्ष निकलता है कि $\theta_p(\mu, \nu) \leq w_p(\mu, \nu)$, जो इसे एक निचली सीमा (lower bound) के रूप में स्थापित करता है।

पदानुक्रमित सन्निकटन और पहचान क्षमता (Hierarchical Approximation and Identifiability)

$\Lambda(X)$ के अनंत-आयामी स्थान पर अनुकूलन (optimization) की कम्प्यूटेशनल लागत को प्रबंधित करने के लिए, लेखक $\Lambda(X) \subseteq \Lambda(X)$ के उपस्थानों का एक पदानुक्रम (hierarchy) निर्मित करते हैं।

• बुनियादी ऑब्जर्वबल्स (Basic Observables): निर्माण की शुरुआत बिंदु-से-दूरी वाले फलनों $f_a(x) = d(x, a)$ से होती है।
• वेज प्रोडक्ट्स (Wedge Products): उच्च-क्रम के ऑब्जर्वबल्स इन बुनियादी फलनों के भारित वेज प्रोडक्ट्स (न्यूनतम/minimums) द्वारा बनाए जाते हैं: $f_{\mathbf{a}}^\alpha = \alpha_0 f_{a_0} \wedge \dots \wedge \alpha_n f_{a_n}$।
• पदानुक्रम: $\Lambda_n(X)$ में अधिकतम $n+1$ बुनियादी फलनों के वेज प्रोडक्ट्स से बने ऑब्जर्वबल्स शामिल हैं। यह $\theta_{p,n}(\mu, \nu)$ की एक अनुक्रमिक छद्म-मेट्रिक (pseudo-metrics) श्रृंखला को प्रेरित करता है।

सैद्धांतिक योगदान: स्तरित इंजेक्शन (Stratified Injectivity)

एक केंद्रीय सैद्धांतिक परिणाम क्रैमर-वोल्ड डिवाइस (Cramér-Wold Device) का मीट्रिक-स्पेस एनालॉग है। यह शोध पत्र स्थापित करता है कि यदि किसी मेजर $\mu$ के सपोर्ट का मीट्रिक कवरिंग डायमेंशन (metric covering dimension) $\leq n$ है, तो $\Lambda_n(X)$ में ऑब्जर्वबल्स के माध्यम से प्राप्त पुशफॉरवर्ड मेजर्स का संग्रह $\mu$ को विशिष्ट रूप से निर्धारित करता है।

• मीट्रिक कवरिंग डायमेंशन ($\xi_X$): ओपन कवर्स को ओपन बॉल्स में परिष्कृत (refinement) करने से परिभाषित एक आयाम की अवधारणा।
• स्ट्रैटिफाइड इंजेक्शन थ्योरम: यदि $\mu$ का सपोर्ट मीट्रिक कवरिंग डायमेंशन $\leq n$ रखता है, तो $\mu$ अपने प्रोजेक्शन $f_\sharp \mu$ द्वारा, सभी $f \in \Lambda_n(X)$ के लिए, विशिष्ट रूप से निर्धारित होता है।
• निहितार्थ: कम मीट्रिक कवरिंग डायमेंशन वाले स्थानों (जैसे कि परिमित सेट, ग्राफ, या निम्न-आयामी मैनिफोल्ड) पर समर्थित मेजर्स के लिए, ऑब्जर्वेबल स्पेस को $\Lambda_n(X)$ तक सीमित करना एक वास्तविक मीट्रिक (केवल छद्म-मेट्रिक नहीं) प्रदान करता है, जो वास्तविक वासरस्टीन दूरी से सख्ती से नीचे की सीमा है।

असतत कम्प्यूटेशनल मॉडल (Discrete Computational Model)

व्यावहारिक कार्यान्वयन के लिए, लेखक एक असतत मॉडल प्रस्तावित करते हैं जहाँ मीट्रिक स्पेस को एक परिमित $\delta$-कवर (एक ग्रिड) द्वारा अनुमानित किया जाता है। ऑब्जर्वबल्स को इस परिमित सेट के भीतर बिंदुओं पर एंकर (anchor) किए गए फलनों तक सीमित किया जाता है। सैद्धांतिक सीमाएँ यह दर्शाती हैं कि ग्रिड रिज़ॉल्यूशन बढ़ने के साथ असतत ऑब्जर्वेबल दूरी, निरंतर संस्करण के अभिसरण (convergence) की ओर बढ़ती है, जिसमें त्रुटि ग्रिड स्पेसिंग $\delta$ के समानुपाती होती है।

मुख्य परिणाम

सैद्धांतिक निष्कर्ष

• मेट्रिक गुण: $\theta_p$ सभी प्रायिकता मापों के स्थान पर एक मीट्रिक है। प्रतिबंधित संस्करण $\theta_{p,n}$, $\leq n$ आयाम वाले सपोर्ट वाले मेजर्स के उपस्थान पर एक मीट्रिक है।
• $p=1$ के लिए तुल्यता: $p=1$ के लिए, ऑब्जर्वेबल वासरस्टीन दूरी सटीक रूप से मानक वासरस्टीन दूरी के बराबर होती है ($\theta_1 = w_1$), जो कि कांतोरोविच-रुबिनस्टीन द्वैतता (Kantorovich-Rubinstein duality) से प्राप्त परिणाम है।
• मोनोटोनिसिटी (Monotonicity): पदानुक्रम इस प्रकार संतुष्ट करता है: $\theta_{p,n} \leq \theta_{p,m} \leq \theta_p \leq w_p$ जहाँ $n \leq m$, जो कम्प्यूटेशनल दक्षता और बाउंड की शार्पनेस के बीच एक ट्यूनेबल ट्रेड-ऑफ (tunable trade-off) प्रदान करता है।

संख्यात्मक प्रयोग

शोध पत्र में 'स्लाइस्ड वासरस्टीन' (SW), 'मानक वासरस्टीन' और 'चैफर डिस्टेंस' (Chamfer distance) के विरुद्ध 'ऑब्जर्वेबल वासरस्टीन' (OW) दूरियों की तुलना करते हुए कई प्रूफ-ऑफ-कॉन्सेप्ट प्रयोग प्रस्तुत किए गए हैं:

1. गौसियन वर्गीकरण (Gaussian Classification): उच्च-आयामी यूक्लिडियन स्पेस में, OW और SW गौसियन क्लासेज को अलग करने में तुलनीय प्रदर्शन करते हैं। हालाँकि, जैसे-जैसे आयाम बढ़ता है, OW सापेक्ष प्रदर्शन लाभ दिखाता है, जो संभवतः SW में 1D प्रोजेक्शन को प्रभावित करने वाली 'कंसन्ट्रेशन ऑफ मेजर' घटना के कारण है।
2. ग्राफ डिस्ट्रीब्यूशन: गैर-यूक्लिडियन ग्राफ स्पेस पर, OW वर्गीकरण कार्यों में मानक वासरस्टीन दूरी की तुलना में काफी बेहतर प्रदर्शन करता है और साथ ही उत्कृष्ट कम्प्यूटेशनल स्केलेबिलिटी बनाए रखता है। OW उस शोर (noise) के प्रति मजबूती प्रदर्शित करता है जो शास्त्रीय वासरस्टीन में नहीं होती।
3. स्फीयर डिस्ट्रीब्यूशन: स्फीयर पर प्रयोग, ऑब्जर्वबल्स/फलनों की संख्या और कम्प्यूटेशनल लागत के बीच ट्रेड-ऑफ को दर्शाते हैं। ऑब्जर्वबल्स की जटिलता (उच्च $n$) बढ़ाने से सापेक्ष त्रुटि कम हो जाती है लेकिन कॉम्बिनेटोरियल लागत बढ़ जाती है।
4. पॉइंट क्लाउड वर्गीकरण (ModelNet10): वास्तविक दुनिया के 3D ऑब्जेक्ट डेटा पर, OW दूरियाँ स्केलेबल मेट्रिक्स में सर्वश्रेष्ठ वर्गीकरण स्कोर प्राप्त करती हैं, विशेष रूप से शोर वाले शासन (noisy regimes) में, जो SW और चैफर डिस्टेंस दोनों से बेहतर है।
5. डीप लर्निंग अनुप्रयोग: लेखकों ने पॉइंट क्लाउड ऑटोएनकोडर लॉस फंक्शन में OW को एकीकृत किया है। OW (विशेष रूप से डिफरेंशिएबिलिटी के लिए $L_2$-शैली के वेरिएंट) का उपयोग करने से चैफर डिस्टेंस की तुलना में उच्च लेटेंट-स्पेस वर्गीकरण सटीकता और पुनर्निर्माणों में अधिक समान पॉइंट डेंसिटी प्राप्त हुई, जबकि चैफर डिस्टेंस ने शार्प लेकिन असमान रूप से घने आउटपुट दिए।

महत्व और दावे

यह शोध पत्र दावा करता है कि यह सामान्य मीट्रिक स्पेस में वासरस्टीन दूरी के लिए निचली सीमा प्राप्त करने हेतु एक कम्प्यूटेशनल रूप से सुलभ ढांचा प्रदान करता है, जो स्लाइस्ड वासरस्टीन जैसे यूक्लिडियन-विशिष्ट तरीकों की सीमाओं को दरकिनार करता है।

• सैद्धांतिक नवीनता: यह कार्य मीचर के सपोर्ट के मीट्रिक कवरिंग डायमेंशन और आवश्यक ऑब्जर्वबल्स के क्रम के बीच एक कठोर संबंध स्थापित करता है। यह गैर-यूक्लिडियन OT में पहचान क्षमता (identifiability) को समझने के लिए एक मौलिक सैद्धांतिक उपकरण के रूप में कार्य करता है।
• व्यावहारिक उपयोगिता: यह ढांचा एक "ट्यूनेबल" दृष्टिकोण प्रदान करता है जहाँ अभ्यासकर्ता कम्प्यूटेशनल लागत और बाउंड की शार्पनेस के बीच संतुलन बनाने के लिए ऑब्जर्वबल्स के क्रम ($n$) को समायोजित कर सकते हैं।
• स्केलेबिलिटी: असतत मॉडल बड़े डेटासेट पर कुशल कार्यान्वयन की अनुमति देता है, जिसमें प्रमाणिक साक्ष्य बताते हैं कि प्रोजेक्शन/एंकर की संख्या में रैखिक स्केलिंग होती है, जिससे यह उन विशाल डेटासेट के लिए उपयुक्त हो जाता है जहाँ सटीक OT अव्यवहारिक है।
• मजबूती (Robustness): प्रयोगों से पता चलता है कि OW दूरियाँ शास्त्रीय वासरस्टीन दूरियों की तुलना में शोर के प्रति बेहतर मजबूती प्रदान कर सकती हैं, जो उन्हें वास्तविक दुनिया के डेटा अनुप्रयोगों के लिए उपयुक्त बनाती है।

लेखक इस कार्य को एक आधारभूत कदम के रूप में प्रस्तुत करते हैं, यह नोट करते हुए कि हालांकि वर्तमान संख्यात्मक प्रयोग प्रूफ-ऑफ-कॉन्सेप्ट हैं, यह ढांचा भविष्य के अनुसंधान जैसे कि सैंपलिंग कन्वर्जेंस, $p \neq 1$ के लिए बाय-लिप्सचिट्ज इक्विवेलेंस, और डीप लर्निंग पाइपलाइनों में सीखने योग्य (learnable) ऑब्जर्वबल्स के एकीकरण के नए मार्ग खोलता है।