🤖 AI

Geodesic Flow Matching for Denoising High-Dimensional Structured Representations

यह शोध पत्र स्थानिक सिमेंटिक पॉइंटर्स (Spatial Semantic Pointers) के टोरोइडल मैनिफोल्ड (toroidal manifold) पर रीमानियन ट्रांसपोर्ट डायनेमिक्स (Riemannian transport dynamics) को लागू करने के लिए जियोडेसिक फ्लो मैचिंग (Geodesic Flow Matching) प्रस्तुत करता है, जिससे उच्च-आयामी न्यूरोसिम्बोलिक SLAM प्रणालियों में डिनोइजिंग सटीकता और न्यूरल दक्षता को महत्वपूर्ण रूप से सुधारने के लिए यूक्लिडियन दृष्टिकोणों की ज्यामितीय सीमाओं को दूर किया जा सके।

मूल लेखक: Karim Habashy, Chris Eliasmith

प्रकाशित 2026-06-02

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Karim Habashy, Chris Eliasmith

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

एक बड़ी तस्वीर: एक बिखरे हुए नक्शे को साफ करना

कल्पना कीजिए कि आप एक जादुई, हाई-टेक नक्शे का उपयोग करके एक शहर में रास्ता खोजने की कोशिश कर रहे हैं। यह नक्शा कागज का उपयोग नहीं करता है; यह आपकी स्थिति को दर्शाने के लिए डेटा पॉइंट्स के एक विशाल, अदृश्य बादल का उपयोग करता है। "वेक्टर सिम्बोलिक अल्जेब्रा" (एक फैंसी तरीका यह कहने का कि "गणित जो कंप्यूटर को प्रतीकों की तरह सोचने देता है") की दुनिया में, इन डेटा पॉइंट्स को स्पेशियल सिमेंटिक पॉइंटर्स (SSPs) कहा जाता है।

एक SSP को एक पूरी तरह से ट्यून किए गए संगीत के सुर (musical note) के रूप में सोचें। यह जानने के लिए कि आप वास्तव में कहाँ हैं, उस सुर का एक विशिष्ट पिच (मैग्निट्यूड) और एक विशिष्ट टाइमिंग (फेज) होना चाहिए। यदि पिच डगमगाती है या टाइमिंग फिसलती है, तो कंप्यूटर नक्शे पर अपनी जगह खो देता है।

समस्या: "सीधी रेखा" का जाल

वास्तविक दुनिया में चीजें अस्त-व्यst हो जाती हैं। ठीक वैसे ही जैसे एक संगीतकार खाँस सकता है या एक ड्रम थोड़ा गलत ताल (beat) पर बज सकता है, ये डिजिटल नक्शे भी "शोर" (noisy) से भर जाते हैं। डेटा पॉइंट्स अपने सटीक स्थानों से दूर खिसक जाते हैं।

इसे ठीक करने के लिए, वैज्ञानिक आमतौर पर शोर को साफ करने के लिए बिखरे हुए डेटा से सही स्थान तक एक रेखा खींचने की कोशिश करते हैं।

पुराना तरीका (यूक्लिडियन फ्लो): कल्पना कीजिए कि आप एक पूरी तरह से गोल ग्लोब की सतह पर हैं। यदि आप बिंदु A से बिंदु B तक जाना चाहते हैं, तो पुराना तरीका पृथ्वी के केंद्र से होकर एक सीधी रेखा खींचता है।
यह क्यों विफल होता है: यदि आप पृथ्वी के केंद्र के माध्यम से चलते हैं, तो आप अब सतह पर नहीं चल रहे हैं! आप "सतह" के गुणों को खो देते हैं। हमारे संगीत वाले उदाहरण में, यह एक सुर को ठीक करने के लिए उसके वॉल्यूम को शून्य करने और फिर वापस बढ़ाने जैसा है। आप उस नाजुक टाइमिंग और पिच संरचना को नष्ट कर देते हैं जिसकी जरूरत कंप्यूटर को यह जानने के लिए होती है कि वह कहाँ है। पेपर दिखाता है कि इन उच्च-आयामी (high-dimensional) नक्शों के लिए, बीच से होकर सीधी रेखा खींचना डेटा को पूरी तरह से बर्बाद कर देता है।

समाधान: रस्सी पर चलना (जियोडेसिक फ्लो)

लेखक एक नई विधि प्रस्तावित करते हैं जिसे जियोडेसिक फ्लो मैचिंग कहा जाता है।

उपमा (Analogy): पृथ्वी के आर-पार छेद करने के बजाय, कल्पना करें कि आप एक रस्सी पर चलने वाले (tightrope walker) हैं। बिंदु A से बिंदु B तक जाने के लिए, आपको सख्ती से ग्लोब की वक्र सतह (curved surface) पर चलना होगा। इस पथ को जियोडेसिक कहा जाता है।
यह कैसे काम करता है: नई विधि यह सुनिश्चित करती है कि "सफाई" की प्रक्रिया डेटा स्फेयर (गोले) की सतह पर बनी रहे। यह बिखरे हुए डेटा को धीरे से उसके सही स्थान पर वापस लाती है, बिना उसे बीच के "शून्य" (void) में गिरने दिए। यह उस नाजुक टाइमिंग और पिच (फेज और मैग्निट्यूड) को सुरक्षित रखता है जिसकी कंप्यूटर को नक्शा सही ढंग से पढ़ने के लिए आवश्यकता होती है।

परीक्षण: एक स्पाइकिंग रोबोट नेविगेटर

यह साबित करने के लिए कि यह काम करता है, शोधकर्ताओं ने स्पाइकिंग न्यूरल नेटवर्क का उपयोग करके एक रोबोट मस्तिष्क बनाया।

यह क्या है? इसे एक ऐसे मस्तिष्क के रूप में सोचें जो छोटे, जैविक-शैली के न्यूरॉन्स से बना है जो बिजली की छोटी चिंगारियों की तरह फायर करते हैं। ये बहुत कुशल होते हैं लेकिन साथ ही बहुत "अस्थिर" और शोर वाले होते हैं, जैसे फुसफुसाते लोगों से भरा कमरा।
चुनौती: रोबोट को एक भूलभुलैया (Simultaneous Localization and Mapping, या SLAM) में नेविगेट करना था और अपनी स्थिति का पता लगाना था। क्योंकि न्यूरॉन्स अस्थिर थे, रोबमाट का आंतरिक नक्शा भटकने लगा, जैसे कोई दिशा-सूचक यंत्र (compass) पागलों की तरह घूम रहा हो।
परिणाम: जब उन्होंने पुराने "सीधी रेखा" वाले सफाई के तरीके का उपयोग किया, तो रोबोट रास्ता भटक गया। लेकिन जब उन्होंने नए "रस्सी पर चलने वाले" (Geodesic) सफाई के तरीके का उपयोग किया:
1. सटीकता: रोबोट की ट्रैकिंग त्रुटि (error) में 72% की कमी आई। यह पथ पर बहुत बेहतर तरीके से टिका रहा।
2. दक्षता: रोबोट 40% कम न्यूरॉन्स के साथ वही काम कर सका। यह एक साधारण कैलकुलेटर से सुपरकंप्यूटर जैसा प्रदर्शन प्राप्त करने जैसा था क्योंकि "सफाई" इतनी कुशल थी।

सारांश

यह पेपर तर्क देता है कि जब आप जटिल, उच्च-आयामी डेटा को साफ कर रहे होते हैं जो एक घुमावदार सतह (जैसे कि एक गोला) पर स्थित है, तो आप मानक "सीधी रेखा" वाले गणित का उपयोग नहीं कर सकते। आपको "वक्र पथ" (curved path) वाले गणित का उपयोग करना चाहिए। सफाई की प्रक्रिया को डेटा स्फेयर की सतह पर बनाए रखकर, कंप्यूटर जानकारी को नष्ट किए बिना त्रुटियों को ठीक कर सकता है, जिससे बहुत अधिक स्मार्ट और कुशल रोबोट नेविगेशन संभव होता है।

तकनीकी सारांश: उच्च-आयामी संरचित निरूपणों के डैनोइजिंग (Denoising) के लिए जियोडेसिक फ्लो मैचिंग (Geodesic Flow Matching)

1. समस्या विवरण (Problem Statement)

वेक्टर सिम्बोलिक अल्जेब्रा (VSAs) उच्च-आयामी वितरित वेक्टर्स (distributed vectors) में प्रतीकात्मक जानकारी को एनकोड करके सुदृढ़ न्यूरोसिम्बोलिक तर्क (neurosymbolic reasoning) को सक्षम करते हैं। इन प्रणालियों के लिए एक महत्वपूर्ण आवश्यकता "क्लीनअप" (cleanup) है—अर्थात शोर युक्त, मिश्रित या आंशिक इनपुट को वैध, स्वच्छ अवस्थाओं में वापस मैप करने की क्षमता। जबकि डिस्क्रीट प्रतीकों (discrete symbols) के लिए यह अच्छी तरह से खोजा गया है, निरंतर निरूपणों जैसे कि स्पेशियल सिमेंटिक पॉइंटर्स (SSPs) के लिए क्लीनअप एक खुला विषय बना हुआ है।

SSPs निरंतर स्थानिक चरों (spatial variables) को उच्च-आयामी वेक्टर्स ( $d > 1000$ ) में एनकोड करते हैं जो यूनिट हाइपरस्फीयर $S^{d-1}$ के भीतर अंतर्निहित एक अत्यधिक संरचित क्लिफोर्ड हाइपरटोरस (Clifford Hypertorus) पर स्थित होते हैं। शोध पत्र SSPs पर मानक कंडीशनल फ्लो मैचिंग (CFM) लागू करने में एक मौलिक ज्यामितीय विफलता की पहचान करता है:

यूक्लिडियन धारणा (Euclidean Assumption): मानक CFM एक सपाट यूक्लिडियन ज्यामिति मानता है, जो शोर के नमूने और डेटा के नमूने के बीच परिवहन पथों (transport paths) को लीनियर इंटरपोलेट्स (linear interpolants/chord) के रूप में परिभाषित करता है।
ज्यामितीय बेमेल (Geometric Mismatch): हाइपरस्फीयर पर सीमित डेटा के लिए, दो बिंदुओं को जोड़ने वाली एक सीधी रेखा गोले के आंतरिक भाग से होकर गुजरती है। इसके कारण परिवहन प्रक्रिया के दौरान वेक्टर का परिमाण (magnitude) गिर जाता है ( $||\phi_t|| < 1$ )।
परिणाम: यह परिमाण पतन उन सटीक फेज संबंधों ( $e^{i\theta_j x}$ ) को नष्ट कर देता है जो SSP में एनकोड किए गए स्थानिक अर्थों (spatial semantics) के लिए आवश्यक हैं। फलस्वरूप, यूक्लिडियन लीनियर इंटरपोलेट्स वैध SSP अवस्थाओं को बहाल करने में विफल रहते हैं, जिससे पाथ इंटीग्रेशन (path integration) जैसे डाउनस्ट्रीम कार्यों में विनाशकारी त्रुटियां होती हैं।

2. कार्यप्रणाली (Methodology)

लेखक Riemannian ट्रांसपोर्ट डायनेमिक्स को अनुकूलित करके और परिवहन को सख्ती से SSP टॉरोइडल मैनिफोल्ड तक सीमित करके, ज्यामितीय बेमेल को हल करने के लिए जियोडेसिक फ्लो मैचिंग (GFM) का प्रस्ताव करते हैं।

मुख्य तंत्र (Core Mechanism)

लीनियर इंटरपोलेशन के बजाय, GFM यूनिट हाइपरस्फीयर $S^{d-1}$ पर स्रोत (शोर) और लक्ष्य (स्वच्छ डेटा) के बीच ग्रेट-सर्कल आर्क (जियोडेसिक) के साथ प्रायिकता पथ (probability path) को परिभाषित करता है।

लॉगैरिद्मिक मैप ( $\text{Log}_{\phi_0}$ ): लक्ष्य अवस्था $\phi_1$ को स्रोत $\phi_0$ के स्पर्शरेखीय स्थान (tangent space) में प्रोजेक्ट करता है, जो प्रारंभिक वेग वेक्टर को परिभाषित करता है।
एक्सपोनेंशियल मैप ( $\text{Exp}_{\phi_0}$ ): एक स्पर्शरेखीय वेक्टर को वापस मैनिफोल्ड पर मैप करता है, जिससे अवस्था को जियोडेसिक के साथ आगे बढ़ाया जाता है।
ट्रांसपोर्ट डायनेमिक्स: पथ को $\phi_t = \text{Exp}_{\phi_0}(t \cdot \text{Log}_{\phi_0}(\phi_1))$ के रूप में परिभाषित किया गया है।
प्रशिक्षण उद्देश्य (Training Objective): एक न्यूरल नेटवर्क $v_\theta(\phi_t, t)$ को इस आर्क के साथ तात्कालिक स्पर्शरेखीय वेग (instantaneous tangent velocity) को रिग्रेस करने के लिए प्रशिक्षित किया जाता है। मॉडल एक कोसाइन फ्लो लॉस (cosine flow loss) को कम करता है ताकि अनुमानित वेग को वास्तविक जियोडेसिक वेग के साथ संरेखित किया जा सके, यह सुनिश्चित करते हुए कि अपडेट हाइपरस्फीयर के स्पर्शरेखीय बने रहें और डिज़ाइन द्वारा यूनिट-नॉर्म बाधा को बनाए रखें।

अनुप्रयोग संदर्भ: स्पाइकिंग न्यूरल SLAM

इस पद्धति को स्पाइकिंग न्यूरल नेटवर्क (SNN) के एक सिमेंटिक सिमल्टेनियस लोकलाइजेशन एंड मैपिंग (SLAM) कार्यान्वयन के भीतर मान्य किया गया है।

चुनौती: SNNs महत्वपूर्ण शोर (स्पाइकिंग परिवर्तनशीलता, रिकरेंट कनेक्शन में फेज ड्रिफ्ट) पेश करते हैं जो निरूपणों को वैध मैनिफोल्ड से दूर धकेल देते हैं।
GFM की भूमिका: GFM मॉडल एक ऑनलाइन स्टेबलाइज़र के रूप में कार्य करता है, जो ड्रिफ्टिंग पाथ इंटीग्रेशन (PI) आउटपुट को रोकता है और उन्हें लैंडमार्क बाइंडिंग से पहले मैनिफोल्ड पर वापस प्रोजेक्ट करता है। यह त्रुटियों के संचय को रोकता है जो अन्यथा प्रक्षेपवक्र विचलन (trajectory divergence) का कारण बन सकते हैं।

3. प्रमुख योगदान (Key Contributions)

ज्यामितीय विफलता की पहचान: शोध पत्र प्रदर्शित करता है कि मानक यूक्लिडियन फ्लो मैचिंग उच्च-आयामी संरचित निरूपणों (SSPs) के लिए क्यों विफल होता है, क्योंकि लीनियर इंटरपोलेट्स मैनिफोल्ड के आंतरिक भाग को "काटते" हैं, जिससे फेज और मैग्नीट्यूड संरचना नष्ट हो जाती है।
जियोडेसिक फ्लो मैचिंग फ्रेमवर्क: लेखक लॉगैरिद्मिक और एक्सपोनेंशियल मैप्स का उपयोग करके परिवहन को Riemannian मैनिफोल्ड पर सीमित करके उच्च-आयामी, टॉरोइडल न्यूरोसिम्बोलिक निरूपणों के लिए फ्लो मैचिंग को अनुकूलित करते हैं।
SNNs में अनुभवजन्य सत्यापन: इस दृष्टिकोण का परीक्षण एक चुनौतीपूर्ण, रीयल-टाइम न्यूरोसिम्बोलिक बेंचमार्क (सिमेंटिक SLAM) में स्पाइकिंग न्यूरॉन्स का उपयोग करके किया गया है, जो कि स्वाभाविक शोर के कारण एक कठिन टेस्टबेड है।
दक्षता लाभ: यह विधि ऐसी प्रणालियों में उच्च-क्षमता वाली एसोसिएटिव मेमोरी को सक्षम बनाती है जहाँ अर्थ (semantics) वेक्टर दिशा में एनकोड किए जाते हैं न कि परिमाण में, जो जेनेरेटिव ट्रांसपोर्ट और वैध न्यूरोसिम्बोलिक क्लीनअप के बीच के अंतर को पाटता है।

4. प्रयोगात्मक परिणाम (Experimental Results)

लेखक GFM की तुलना Euclidean Flow Matching (CFM), Feedforward Regression, Grid Lookup, और Optimization-आधारित बेसलाइन से करते हैं।

डैनोइजिंग बेंचमार्क:
- GFM, Euclidean CFM की तुलना में काफी बेहतर प्रदर्शन करता है, विशेष रूप से उच्च-शोर वाले शासन (high-noise regimes) में जहाँ लीनियर इंटरपोलेट्स ग्राउंड ट्रुथ को पुनः प्राप्त करने में विफल रहते हैं।
- उच्च-शोर स्थितियों (सिग्नल स्ट्रेंथ < 0.15) में, GFM गैर-न्यूरल बेसलाइनों (Grid/Optimization) से बेहतर प्रदर्शन करता है, जो सिग्नल शोर स्तर से नीचे गिरने पर सही प्रोटोटाइप तक "स्नैप" करने में विफल रहते हैं।
- गुणात्मक विश्लेषण दिखाता है कि GFM सही स्थानिक निर्देशांक पर तीक्ष्ण, यूनिमोडल पीक्स (unimodal peaks) को पुनर्गठित करता है, जबकि Euclidean मॉडल स्थानिक रूप से विस्थापित "ड्रिफ्ट" उत्पन्न करते हैं और फीडफॉरवर्ड मॉडल विसरित (diffuse), औसत निरूपण उत्पन्न करते हैं।
SLAM प्रदर्शन (स्पाइकिंग न्यूरल सिस्टम):
- त्रुटि में कमी: एक संसाधन-सीमित शासन ( $N=1500$ न्यूरॉन्स) में, GFM ने Grid बेसलाइन की तुलना में औसत पाथ ट्रैकिंग त्रुटि को 72% कम कर दिया (0.076m बनाम 0.249m)।
- न्यूरल दक्षता: 1,500 न्यूरॉन्स वाले एक सिस्टम, जिसे GFM द्वारा संवर्धित किया गया है, ने 2,500 न्यूरॉन्स वाले बेसलाइन सिस्टम के बराबर ट्रैकिंग सटीकता प्राप्त की। यह स्थिर पाथ इंटीग्रेशन के लिए 40% न्यूरल दक्षता में वृद्धि (या आवश्यक संसाधनों में 40% की कमी) का प्रतिनिधित्व करता है।
- स्थिरता: डिस्कंटीन्यूअस स्टेट जंप (जो प्रक्षेपवक्र विचलन का कारण बनते हैं) पेश करने वाले Grid बेसलाइनों के विपरीत, GFM एक निरंतर सुधार क्षेत्र (continuous correction field) प्रदान करता है जो स्थिर दीर्घकालिक एकीकरण को बनाए रखता है।

5. महत्व और दावे (Significance and Claims)

शोध पत्र का दावा है कि उच्च-आयामी निरूपणों की अंतर्निहित ज्यामिति मजबूत क्लीनअप के लिए महत्वपूर्ण है। एम्बेडेड डोमेन में डिस्क्रीट सर्च से सीधे एम्बेडिंग स्पेस में निरंतर जेनेरेटिव ट्रांसपोर्ट की ओर शिफ्ट होकर, लेखक हाइपरस्फेरिकल एम्बेडिंग्स के लिए एक मजबूत ढांचा प्रदान करते हैं।

इसका महत्व इस प्रकार है:

ज्यामितीय निरंतरता (Geometric Consistency): यह सुनिश्चित करना कि परिवहन मैनिफोल्ड के अनुरूप रहे, फेज सूचना के विनाश को रोकता है, जो VSAs में सटीक डिकोडिंग के लिए आवश्यक है।
न्यूरोमॉर्फिक दक्षता: यह विधि शोर युक्त स्पाइकिंग निरूपणों को स्थिर करके कुशल न्यूरोमॉर्फिक कंप्यूटिंग को सक्षम बनाती है, जिससे छोटे नेटवर्क उन कार्यों को करने में सक्षम होते हैं जिनके लिए पहले बड़े संसाधनों की आवश्यकता होती थी।
सामान्यीकरण (Generalizability): हालांकि यह SSPs पर केंद्रित है, यह दृष्टिकोण अन्य आर्किटेक्चर पर भी लागू होता है जो हाइपरस्फेरिकल एम्बेडिंग्स का उपयोग करते हैं, जैसे कि हाइपरस्फेरिकल प्रोटोटाइप नेटवर्क और हाइपरस्फेरिकल वेरिएशनल ऑटोएनकोडर, जहाँ वेक्टर दिशा अर्थ (semantics) को एनकोड करती है।

लेखक नोट करते हैं कि जबकि वर्तमान आर्किटेक्चर ज्यामितीय फॉर्मूलेशन को मान्य करने को प्राथमिकता देता है, यह ढांचा भौतिक न्यूरोमॉर्फिक हार्डवेयर पर तैनाती के लिए पूरी तरह से स्पाइकिंग नेटवर्क में परिवर्तनीय होने के लिए डिज़ाइन किया गया है।