🤖 machine learning

Steerable Neural ODEs on Homogeneous Spaces

यह शोध पत्र होमोजेनियस स्पेस (homogeneous spaces) पर स्टीयरेबल न्यूरल ऑर्डिनरी डिफरेंशियल इक्वेशंस (steerable neural ordinary differential equations) प्रस्तुत करता है, जो सामान्य वेक्टर-वैल्यूड फीचर्स के लिए $G$ -इक्विवेरिएंट (G-equivariant) निरंतर-समय गतिकी प्राप्त करने हेतु संबद्ध वेक्टर बंडल्स (associated vector bundles) में सेक्शन्स के पैरेलल ट्रांसपोर्ट (parallel transport) के रूप में फीचर इवोल्यूशन को मॉडल करता है।

मूल लेखक: Emma Andersdotter, Daniel Persson, Fredrik Ohlsson

प्रकाशित 2026-05-13

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Emma Andersdotter, Daniel Persson, Fredrik Ohlsson

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

मुख्य विचार: बिंदुओं को हिलाना और विशेषताओं को नियंत्रित करना (Steering)

कल्पना कीजिए कि आपके पास एक मशीन लर्निंग मॉडल है जो डेटा को इधर-उधर घुमाता है। एक मानक "न्यूरल ओडीई" (Neural ODE) में, मॉडल एक नदी की तरह कार्य करता है। यह पानी की एक बूंद (एक डेटा पॉइंट) लेता है और उसे शुरुआती स्थान से गंतव्य तक बहाता है। इसका मार्ग वर्तमान (एक सीखने योग्य वेक्टर फील्ड) द्वारा निर्धारित होता है।

समस्या:
कई वास्तविक दुनिया की समस्याओं में, डेटा केवल पानी की एक बूंद नहीं है; यह पानी की एक ऐसी बूंद है जो अपने साथ एक झंडा या एक कुतुबनुमा (compass) लेकर चलती है।

यदि आप पानी की एक बूंद को न्यूयॉर्क से लंदन ले जाते हैं, तो पानी पानी ही रहता है।
लेकिन यदि आप न्यूयॉर्क से लंदन तक एक कुतुबनुमा ले जाते हैं, तो सुई केवल बूंद के साथ नहीं चलती; वह घूमती (rotate) है क्योंकि जमीन के सापेक्ष "उत्तर" की दिशा बदल जाती है।

मानक मॉडल इस मामले में संघर्ष करते हैं। वे बिंदु को तो हिला सकते हैं, लेकिन वे यह नहीं जानते कि किसी घुमावदार सतह या जटिल आकार पर चलते समय उससे जुड़ी विशेषता (उस कुतुबनुमे) को स्वाभाविक रूप से कैसे "स्टीयर" या घुमाएं।

समाधान:
लेखक स्टीयरेबल न्यूरल ओडीई (Steerable Neural ODEs) पेश करते हैं। इसे एक ऐसी नदी के रूप में सोचें जो न केवल पानी की बूंद को ले जाती है, बल्कि इसमें एक अंतर्निहित तंत्र भी है जो स्वचालित रूप से उससे जुड़े कुतुबनुमे को घुमाता है, जिससे यह सुनिश्चित होता है कि वह हमेशा इलाके (terrain) के सापेक्ष सही दिशा में रहे।

परिवेश: एक "होमोजेनियस स्पेस" (Homogeneous Space)

यह समझने के लिए कि यह कहाँ होता है, एक पूरी तरह से चिकने, समान गोले (जैसे एक गोला/sphere) की कल्पना करें।

द बॉल (M): यह वह सतह है जहाँ आपका डेटा रहता है। यह एक "होमोजेनियस स्पेस" है, जिसका अर्थ है कि गोले का हर स्थान दूसरे स्थान के समान ही दिखता है। आप गोले को घुमा सकते हैं, और पैटर्न नहीं बदलता है।
द ग्रुप (G): यह गोले को घुमाने या रोल करने के सभी संभावित तरीकों का समूह है।
द स्टेबलाइजर (H): कल्पना कीजिए कि आपने गोले पर एक बिंदु को पिन कर दिया है। "स्टेबलाइजर" उन घुमावों का समूह है जो उस विशिष्ट पिन को अपनी जगह पर रखते हुए (जैसे पिन के चारों ओर गोले को घुमाना) किए जा सकते हैं।

यह पेपर इन समान आकारों (जैसे गोले या रोटेशन ग्रुप्स) पर रहने वाले डेटा से संबंधित है, जहाँ गति के नियम समरूपता (symmetry) द्वारा निर्धारित होते हैं।

तंत्र: पैरेलल ट्रांसपोर्ट (The "Steering" Wheel)

मॉडल को कैसे पता चलता है कि कुतुबनुमे को कैसे घुमाना है? यह ज्यामिति की एक अवधारणा का उपयोग करता है जिसे पैरेलल ट्रांसपोर्ट (Parallel Transport) कहा जाता है।

उपमा: ग्लोब पर एक चींटी
कल्पना कीजिए कि एक चींटी एक ग्लोब पर एक छड़ी पकड़े हुए चल रही है।

मार्ग (The Path): चींटी एक विशिष्ट वक्र (न्यूरल ओडीई का प्रवाह) के साथ चलती है।
नियम (The Rule): चींटी को निर्देश दिया जाता है कि चलते समय वह जमीन के सापेक्ष छड़ी को "समान दिशा" में रखे।
परिणाम (The Result): यदि चींटी उत्तरी ध्रुव के चारों ओर एक त्रिकोण में चलती है, तो जब वह वापस शुरुआती बिंदु पर आती है, तो उसकी छड़ी शुरू करने की तुलना में अलग दिशा में होगी। छड़ी को ग्लोब की वक्रता द्वारा "स्टीयर" किया गया है।

पेपर के मॉडल में:

वेक्टर फील्ड (Vector Field) वह मार्ग है जिस पर चींटी चलती है (प्रवाह)।
कनेक्शन (Connection) वह नियम पुस्तिका है जो चींटी को यह बताती है कि चलते समय अपनी छड़ी को कैसे "समानांतर" रखना है।
स्टीयरिंग (Steering): मॉडल इस नियम पुस्तिका (कनेक्शन) को सीखता है, ठीक वैसे ही जैसे वह पथ को सीखता है। यह समझता है कि फीचर वेक्टर को ठीक से कैसे घुमाना और मोड़ना है ताकि वह स्थान की ज्यामिति के साथ सुसंगत बना रहे।

"बंडल" की अवधारणा: सूटकेस और कपड़े

यह पेपर "एसोसिएटेड वेक्टर बंडल्स" (associated vector bundles) जैसे भारी गणितीय शब्दों का उपयोग करता है। इसे विज़ुअलाइज़ करने का एक सरल तरीका यहाँ दिया गया है:

कल्प आते हैं कि मानचित्र के प्रत्येक बिंदु (होमोजेनियस स्पेस) से एक सूटकेस जुड़ा हुआ है।

इसके अंदर एक फीचर वेक्टर (जैसे एक कुतुबनुमा या आणविक संरचना) है।
स्थानीय नियमों (ग्रुप $H$ ) के आधार पर सभी सूटकेस अलग-अलग आकार और प्रकार के होते हैं।
जब आप एक बिंदु से दूसरे बिंदु पर जाते हैं, तो आप केवल सूकेटस को ले नहीं जाते; आपको इसे अनपैक करना, स्थानीय नियमों के अनुसार इसके अंदर की सामग्री को घुमाना और फिर से पैक करना होता है ताकि यह नए स्थान के अनुरूप हो सके।

"स्टीयरेबल न्यूरल ओडीई" वह प्रणाली है जो सीखती है:

सूटकेस को कहाँ ले जाना है (मानचित्र पर प्रवाह)।
चलते समय सूटकेस के अंदर की सामग्री को कैसे घुमाना है (पैरेलल ट्रांसपोर्ट)।

यह "इक्विवेरिएंट" (Equivariant) क्यों है?

"इक्विवेरिएंट" एक फैंसी शब्द है जिसका अर्थ है "निरंतरता" या "संगति"।

यदि आप मॉडल को फीड करने से पहले पूरे विश्व (इनपुट डेटा) को घुमाते हैं, तो मॉडल को उसके आउटपुट को भी उसी मात्रा में घुमा देना चाहिए।
पेपर यह सिद्ध करता है कि यदि "पथ" (वेक्टर फील्ड) और "घुमाव के नियम" (कनेक्शन) सममित (symmetric) रूप से डिज़ाइन किए गए हैं, तो पूरा सिस्टम दुनिया की समरूपता का सम्मान करता है। यह एक डांस ट्रूप की तरह है: यदि पूरा समूह बाईं ओर मुड़ता है, तो व्यक्तिगत डांसरों के हाथ की हरकतें भी समन्वित तरीके से बाईं ओर मुड़नी चाहिए।

यह मॉडल वास्तव में क्या करता है?

यह मॉडल दो समीकरणों का एक युग्मित सिस्टम (coupled system) है जो एक साथ चलता है:

फ्लो इक्वेशन (The Flow Equation): डेटा पॉइंट को सतह पर ले जाता है (जैसे कार चलाना)।
स्टीयरिंग इक्वेशन (The Steering Equation): उस बिंदु से जुड़ी फीचर विशेषता को घुमाता है (जैसे सड़क पर कार को बनाए रखने के लिए स्टीयरिंग व्हील को मोड़ना)।

"ड्राइविंग" और "स्टीयरिंग" दोनों को कंप्यूटर द्वारा सीखा जाता है। कंप्यूटर सबसे अच्छा रास्ता और फीचर्स को घुमाने का सबसे अच्छा तरीका सीखता है ताकि समस्या को हल किया जा सके।

दावों का सारांश

पेपर का दावा है कि उन्होंने:

एक नया मॉडल बनाया जो घुमावदार, सममित आकारों पर बिंदुओं और उनसे जुड़ी विशेषताओं को एक साथ संचालित करता है।
सिद्ध किया कि यदि गति के नियम और घुमाव के नियम सममित हैं, तो पूरा मॉडल सममित (equivariant) रहता है।
दिखाया कि यह नया मॉडल पुराने मॉडलों (जैसे मानक न्यूरल ओडीई और कंटीन्यूअस नॉर्मलाइजिंग फ्लो) को विशेष मामलों के रूप में शामिल करता है जहाँ "स्टीयरिंग" वाला हिस्सा या तो नगण्य है या मौजूद नहीं है।
एक गणितीय रेसिपी प्रदान की (वांग के प्रमेय का उपयोग करके) ताकि इन मॉडलों को बनाया जा सके जो स्वचालित रूप से उस आकार की समरूपता का सम्मान करते हैं जिस पर वे काम कर रहे हैं।

संक्षेप में, यह पेपर हमें सिखाने का एक तरीका देता है कि AI को जटिल, घुमावदार दुनिया में ज्यामिति या समरूपता के नियमों को तोड़े बिना डेटा और उसके "एक्सेसरीज" (विशेषताओं) को कैसे संचालित किया जाए।

तकनीकी सारांश: होमोजेनियस स्पेस पर स्टीरेबल न्यूरल ODEs (Steerable Neural ODEs)

समस्या विवरण (Problem Statement)

न्यूरल ऑर्डिनरी डिफरेंशियल इक्वेशंस (NODEs) डेटा रूपांतरणों को सीखने योग्य वेक्टर फील्ड्स के माध्यम से मॉडल करने के लिए एक निरंतर-समय ढांचा प्रदान करते हैं, जो प्रतिवर्तीता (reversibility) और अनुकूलन योग्य गणना (adaptive computation) जैसे लाभ प्रदान करते हैं। जबकि मौजूदा शोध ने रिमानियन मैनिफोल्ड्स (Riemannian manifolds) पर NODEs का विस्तार किया है और समूह क्रियाओं (group actions) के तहत वैश्विक समरूपता (global equivariance) के लिए स्थितियाँ स्थापित की हैं, स्थानीय समरूपताओं (local symmetries) को संभालने में एक महत्वपूर्ण अंतराल बना हुआ है।

विशेष रूप से, कई आधुनिक मशीन लर्निंग समस्याओं में डेटा होमोजेनियस स्पेस $M = G/H$ पर परिभाषित होता है जहाँ फीचर्स केवल स्केलर मान नहीं होते, बल्कि स्थानीय समरूपता समूह $H$ (स्टेबलाइज़र सबग्रुप) के तहत रूपांतरित होने वाले वेक्टर- या टेंसर-मान वाले फील्ड्स होते हैं। मौजूदा मॉडल, जिनमें कंटीन्यूअस नॉर्मलाइज़िंग फ्लो (CNFs) और इक्विवेरिएंट NODEs शामिल हैं, मुख्य रूप से बिंदुओं या स्केलर डेंसिटी के परिवहन (transport) को संबोधित करते हैं। वे सामान्य फीचर फील्ड्स (feature fields) को ले जाने में सक्षम नहीं हैं जो $G$ की वैश्विक समरूपता और $H$ की स्थानीय समरूपता दोनों का सम्मान करते हुए $\rho$ के निरूपण (representations) के तहत रूपांतरित होते हैं।

कार्यप्रणाली (Methodology)

लेखक स्टीरेबल न्यूरल ODEs का प्रस्ताव करते हैं, जो होमोजेनियस स्पेस $M = G/H$ पर परिभाषित NODEs का एक ज्यामितीय विस्तार है। मुख्य कार्यप्रणाली डिफरेंशियल ज्योमेट्री, विशेष रूप से प्रिंसिपल और एसोसिएटेड वेक्टर बंडल्स के सिद्धांत पर आधारित है।

1. ज्यामितीय सूत्रीकरण (Geometric Formulation)

फीचर फील्ड्स को सेक्शन्स के रूप में देखना: फीचर्स को केवल फंक्शन $f: M \to V$ के रूप में मानने के बजाय, मॉडल उन्हें एक एसोसिएटेड वेक्टर बंडल $E = G \times_\rho V$ के सेक्शन्स के रूप में व्याख्यायित करता है, जहाँ $V$ एक वेक्टर स्पेस है जो स्टेबलाइज़र सबग्रुप $H$ के निरूपण $\rho$ को धारण करता है।
पैरेलल ट्रांसपोर्ट (Parallel Transport): एक बिंदु $p \in M$ के प्रक्षेपवक्र (trajectory) के साथ इन फीचर फील्ड्स का विकास प्रिंसिपल बंडल $G \to G/H$ पर एक प्रिंसिपल कनेक्शन $\omega$ के सापेक्ष पैरेलल ट्रांसपोर्ट द्वारा नियंत्रित होता है।
युग्मित प्रणाली (Coupled System): मॉडल दो साधारण अवकल समीकरणों (ODEs) की एक युग्मित प्रणाली के रूप में परिभाषित है:
1. बेस फ्लो (Base Flow): एक मानक मैनिफोल्ड NODE जो $M$ पर एक सीखने योग्य वेक्टर फील्ड $\phi: M \to TM$ द्वारा संचालित होता है।
  $\frac{d\Phi_p(t)}{dt} = \phi(\Phi_p(t)), \quad \Phi_p(0) = p$
2. स्टीयरिंग समीकरण (Steering Equation): एक ODE जो Lie समूह $H$ (या प्रिंसिपल बंडल) पर होता है और यह निर्धारित करता है कि फीचर वेक्टर का रोटेशन/स्टीयरिंग कैसे होगा। इसे कनेक्शन $\omega$ का उपयोग करके बेस फ्लो के हॉरिजॉन्टल लिफ्ट (horizontal lift) से प्राप्त किया जाता है।
  $\frac{dh_p(t)}{dt} = -(R_{h_p(t)})_* \omega(\sigma^* \phi(\Phi_p(t)))$
  जहाँ $h_p(t) \in H$ और $\sigma$ प्रिंसिपल बंडल का एक स्थानीय सेक्शन है।

अंतिम आउटपुट एक स्टीरेबल NODE का डिफियोमॉर्फिज्म (diffeomorphism) $\Psi: M \times V \to M \times V$ है, जो परिभाषित है:
$\Psi(p, v) = (\Phi_p(1), \rho(h_p(1))v)$
यहाँ, फीचर वेक्टर $v$ को फ्लो $\Phi_p$ के साथ ट्रांसपोर्ट किया जाता है और साथ ही $\rho(h_p(1))$ की क्रिया द्वारा "स्टीयर" (steer) किया जाता है।

2. सीखने योग्य घटक (Learnable Components)

दोनों वेक्टर फील्ड $\phi$ और प्रिंसिपल कनेक्शन $\omega$ को सीखने योग्य मात्राओं के रूप में माना जाता है। प्रशिक्षण के दौरान, मॉडल न केवल डेटा बिंदुओं के प्रक्षेपवक्र को सीखता है, बल्कि उस अंतर्निहित ज्यामितीय संरचना (कनेक्शन) को भी सीखता है जो फीचर वेक्टर्स के देखे गए रूपांतरणों को प्रेरित करने के लिए आवश्यक है।

मुख्य योगदान और परिणाम (Key Contributions and Results)

1. परिभाषा और निर्माण

यह शोध पत्र औपचारिक रूप से स्टीरेबल NODEs (परिभाषा 3.8) को गैर-रेखीय ODEs के एक सिस्टम के रूप में परिभाषित करता है जो होमोजेनियस स्पेस पर बिंदुओं और उनसे जुड़े फीचर वेक्टर्स को पैरेलल ट्रांसपोर्ट के माध्यम से एक साथ ट्रांसपोर्ट करता है। यह वेक्टर-मान वाले फीचर्स के निरंतर-समय इक्विवेरिएंट डायनेमिक्स के लिए एक कठोर ज्यामितीय आधार प्रदान करता है।

2. इक्विवेरिएंस स्थितियाँ (Equivariance Conditions)

लेखक सिद्ध करते हैं कि स्टीरेबल NODE $G$ -इक्विवेरिएंट (स्थान की वैश्विक समरूपता का सम्मान करने वाला) है यदि और केवल यदि:

जनरेटिंग वेक्टर फील्ड $\phi$ $G$ -इनवेरिएंट (invariant) है।
प्रिंसिपल कनेक्शन $\omega$ $G$ -इनवेरिएंट है।
यह थ्योरम 4.6 में स्थापित किया गया है। प्रमाण दर्शाता है कि कनेक्शन की इनवेरिएंस यह सुनिश्चित करती है कि पैरेलल ट्रांसपोर्ट फ्लो ग्लोबल ग्रुप एक्शन के साथ कम्यूट (commute) करता है।

3. वांग के प्रमेय (Wang's Theorem) के माध्यम से पैरामीट्राइजेशन

इन मॉडलों को व्यावहारिक बनाने के लिए, लेखक स्वीकार्य इनवेरिएंट कनेक्शन्स के स्थान को पैरामीटराइज़ करने की एक विधि प्रदान करते हैं। वांग के प्रमेय (थ्योरम 4.11) का उपयोग करते हुए, वे दिखाते हैं कि $G \to G/H$ पर $G$ -इनवेरिएंट कनेक्शन्स, विशिष्ट इक्विवेरिएंस और आइडेंटिटी स्थितियों को पूरा करने वाले रैखिक मानचित्रों $\Lambda: \mathfrak{g} \to \mathfrak{h}$ के साथ एक-से-एक पत्राचार (one-to-one correspondence) में हैं। यह विशिष्ट समूहों (जैसे $S^2$ पर कार्य करने वाला $SO(3)$) के लिए इनवेरिएंट कनेक्शन्स के स्पष्ट निर्माण की अनुमति देता है।

4. मौजूदा मॉडलों से संबंध

यह शोध पत्र स्टीरेबल NODEs को ज्यामितीय डीप लर्निंग के व्यापक परिदृश्य में स्थापित करता है:

CNFs का सामान्यीकरण: जब स्टेबलाइज़र सबग्रुप $H$ ट्रिवियल (trivial) होता है, तो स्टीरेबल NODE, Lie समूहों पर मानक कंटीन्यूअस नॉर्मलाइजिंग फ्लो (जैसा कि लैटिस गेज थ्योरीज में अध्ययन किया गया है) में बदल जाता है।
पुश-फॉरवर्ड का विस्तार: यह फ्रेमवर्क पिछले इक्विवेरिएंट NODE कार्यों में उपयोग किए जाने वाले स्पर्शरेखीय वेक्टर्स (tangent vectors) के पुश-फॉरवर्ड एक्शन को सामान्य वेक्टर बंडल्स तक विस्तारित करता है।
स्थानीय समरूपता का समावेश: डिस्क्रीट-टाइम इक्विवेरिएंट CNNs के विपरीत, जो एक डिस्क्रीट लेयर में इंड्यूस्ड रिप्रेजेंटेशन के माध्यम से स्थानीय समरूपता को संभालते हैं, स्टीरेबल NODEs कनेक्शन $\omega$ के माध्यम से बंडल की निरंतर ज्यामितीय संरचना का परीक्षण करते हैं।

महत्व और दावे (Significance and Claims)

शोध पत्र का दावा है कि यह सामान्य वेक्टर-मान वाले फीचर्स के होमोजेनियस स्पेस पर निरंतर-समय इक्विवेरिएंट डायनेमिक्स सीखने के लिए ज्यामितीय आधार प्रदान करता है।

नवीन दृष्टिकोण: यह निर्माण एक नया दृष्टिकोण पेश करता है जहाँ सीखना न केवल डेटा बिंदुओं के प्रवाह के बारे में है, बल्कि उन अंतर्निहित ज्यामितीय संरचनाओं (कनेक्शन्स) को सीखने के बारे में भी है जो यह निर्धारित करते हैं कि फीचर्स कैसे रूपांतरित होते हैं।
एकीकृत ढांचा: यह पॉइंट ट्रांसपोर्ट और फीचर ट्रांसपोर्ट के मॉडलिंग को एकीकृत करता है, जो स्केलर डेंसिटी इवोल्यूशन (CNFs) और वेक्टर-मान वाले फीचर डायनेमिक्स के बीच के अंतर को पाटता है।
सैद्धांतिक कठोरता: मॉडल को प्रिंसिपल बंडल्स और पैरेलल ट्रांसपोर्ट में स्थापित करके, लेखक यह सुनिश्चित करते हैं कि परिणामी डायनेमिक्स स्वाभाविक रूप से समस्या की समरूपताओं के अनुरूप हों, जिससे एड-हॉक (ad-hoc) निर्माणों से बचा जा सके।

लेखक नोट करते हैं कि जबकि वैश्विक निर्माण अच्छी तरह से परिभाषित है, इसका स्थानीय कार्यान्वयन एक सेक्शन (गेज) के चयन पर निर्भर करता है, और भविष्य का कार्य गेज-इक्विवेरिएंस और गैर-होमोजेनियस मैनिफोल्ड्स या ग्राफ जैसे डिस्क्रीट ज्यामितीय सेटिंग्स तक विस्तार करने की संभावना तलाश सकता है। यह शोध पत्र प्रायोगिक परिणामों को प्रस्तुत करने के बजाय सैद्धांतिक सूत्रीकरण और इक्विवेरिएंस की स्थितियों के व्युत्पत्ति पर ध्यान केंद्रित करता है।