🔢 mathematics

Invariant Manifolds of Discrete-time Dynamical Systems with Nonlinear Exosystems via Hybrid Physics-Informed Neural Networks

यह शोध पत्र एक हाइब्रिड फिजिक्स-इन्फॉर्म्ड मशीन लर्निंग फ्रेमवर्क प्रस्तावित करता है जो नॉनलीनर एक्सोसिस्टम द्वारा संचालित डिस्क्रीट-टाइम डायनेमिकल सिस्टम के इनवेरिएंट मैनिफोल्ड्स का सटीक अनुमान लगाने के लिए पॉलीनोमियल सीरीज़ और शैलो न्यूरल नेटवर्क को जोड़ता है, जो बेंचमार्क अनुप्रयोगों में स्टैंडअलोन विधियों की तुलना में बेहतर प्रदर्शन प्रदर्शित करता है।

मूल लेखक: Dimitrios G. Patsatzis, Nikolaos Kazantzis, Ioannis G. Kevrekidis, Lucia Russo, Constantinos Siettos

प्रकाशित 2026-05-08

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Dimitrios G. Patsatzis, Nikolaos Kazantzis, Ioannis G. Kevrekidis, Lucia Russo, Constantinos Siettos

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप मौसम की भविष्यवाणी करने की कोशिश कर रहे हैं। वायुमंडल अविश्वसनीय रूप से जटिल है, जिसमें अरबों वायु के अणु अराजक तरीकों से घूम रहे हैं। हर एक अणु को ट्रैक करना असंभव है। हालांकि, मौसम विज्ञानी जानते हैं कि मौसम केवल यादृच्छिक (random) चीजें नहीं करता है; यह कुछ पैटर्न का पालन करता है, जैसे कि एक धीरे-धीरे आगे बढ़ने वाला फ्रंट या एक घूमता हुआ तूफान। ये पैटर्न आकाश में "अदृश्य राजमार्गों" की तरह हैं जहाँ मुख्य हलचल होती है। गणित और भौतिकी में, हम इन राजमार्गों को इनवेरिएंट मैनिफोल्ड्स (Invariant Manifolds - IMs) कहते हैं। ये सिस्टम का "कंकाल" हैं, जो हमें अराजकता को अनदेखा करने और केवल आवश्यक व्यवहार पर ध्यान केंद्रित करने की अनुमति देते हैं।

यह शोध पत्र एक नया, स्मार्ट तरीका पेश करता है इन अदृश्य राजमार्गों को खोजने का, विशेष रूप से उन प्रणालियों में जो चरण-दर-चरण (discrete-time) बदलती हैं, खासकर जब उन्हें किसी बाहरी बल द्वारा संचालित किया जा रहा हो (जैसे कि एक झुंड का मार्गदर्शन करने वाला नेता पक्षी, या ट्रैफिक का नेतृत्व करने वाली पुलिस कार)।

यहाँ उनके समाधान का सरल विवरण दिया गया है:

समस्या: दो उपकरण, दो खामियां

लेखक इन राजमार्गों का मानचित्र बनाना चाहते थे। उनके पास दो मौजूदा उपकरण थे, लेकिन दोनों में बड़ी कमजोरियां थीं:

"पॉलीनोमियल" टूल (स्थानीय विशेषज्ञ):
- यह कैसे काम करता है: यह केंद्र (equilibrium) के ठीक बगल में राजमार्ग के आकार का अनुमान लगाने के लिए एक फैंसी फॉर्मूला (जैसे टेलर सीरीज़) का उपयोग करता है।
- खामी: यह केंद्र के ठीक पास अविश्वसनीय रूप से सटीक है, लेकिन जैसे-जैसे आप दूर जाते हैं, यह फॉर्मूला विफल हो जाता है। यह एक ऐसी टॉर्च की तरह है जो आपके पैरों के ठीक सामने तो चमकती है, लेकिन कुछ कदम आगे बढ़ते ही अंधेरा हो जाती है। साथ ही, यदि सिस्टम बहुत जटिल हो जाता है (बहुत अधिक वेरिएबल्स), तो फॉर्मूला इतना विशाल हो जाता है कि उसकी गणना करना असंभव हो जाता है।
"न्यूरल नेटवर्क" टूल (यूनिवर्सल लर्नर):
- यह कैसे काम करता है: यह एक कंप्यूटर मस्तिष्क (AI) है जो डेटा को देखकर सीखता है। यह केंद्र से दूर, कहीं भी राजमार्ग के आकार का अनुमान लगा सकता है।
- खामी: यह एक "ब्लैक बॉक्स" है। यह समझाना कठिन है कि उसे क्यों लगता है कि राजमार्ग वहां है, और यह केंद्र के ठीक पास थोड़ा ढीला या गलत हो सकता है जहाँ गणित को सटीक होना चाहिए। इसे प्रशिक्षित करने के लिए बहुत अधिक कंप्यूटिंग पावर की आवश्यकता होती है।

समाधान: "हाइब्रिड फिजिक्स-इन्फॉर्म्ड" टीम

लेखकों ने एक हाइब्रिड फिजिक्स-इन्फॉर्म्ड मशीन लर्निंग फ्रेमवर्क बनाया है। इसे एक रिले रेस की तरह समझें जहाँ स्थानीय विशेषज्ञ और यूनिवर्सल लर्नर के बीच दौड़ होती है, जिसे एक सख्त रेफरी (भौतिकी के नियम) द्वारा प्रबंधित किया जाता है।

रणनीति: उन्होंने सिस्टम के केंद्र के चारों ओर एक छोटा बॉक्स ("हाइपररेक्टेंगल") बनाया।
- बॉक्स के अंदर: वे पॉलीनोमियल टूल का उपयोग करते हैं। यह वहीं सटीक और समझने में आसान है जहाँ सिस्टम स्थिर होता है।
- बॉक्स के बाहर: वे न्यूरल नेटवर्क पर स्विच करते हैं। यह भारी काम संभाल लेता है, उस राजमार्ग का मानचित्र बनाता है जहाँ पॉलीनोमियल फॉर्मूला विफल हो जाता।
हैंडऑफ (काम सौंपना): सबसे महत्वपूर्ण हिस्सा वह सीमा है जहाँ वे स्विच करते हैं। लेखकों ने प्रशिक्षण में एक "कंटिन्यूटी पेनल्टी" (निरंतरता दंड) जोड़ी है। यह एक सख्त कोच की तरह है जो चिल्ला रहा है, "हे, पॉलीनोमियल लाइन का अंत न्यूरल नेटवर्क की शुरुआत से पूरी तरह मेल खाना चाहिए!" यह सुनिश्चित करता है कि मानचित्र में कोई अंतराल या उछाल न हो।
फिजिक्स रेफरी: पूरा सिस्टम केवल अनुमान नहीं लगा रहा है; इसे वास्तव में सिस्टम के नियमों (इनवेरिएंस इक्वेशन) का पालन करने के लिए मजबूर किया गया है। कंप्यूटर को बताया गया है: "आप किसी भी आकार का उपयोग कर सकते हैं, लेकिन इसे वास्तव में सिस्टम के चलने के नियमों के अनुरूप होना चाहिए।"

उन्होंने इसका परीक्षण कैसे किया

उन्होंने इस "रिले टीम" का परीक्षण दो वास्तविक दुनिया के परिदृश्यों पर किया:

एंजाइमेटिक बायो रिएक्टर: कल्पना करें कि एक टैंक है जहाँ एंजाइम भोजन को उत्पाद में बदलते हैं। "लीडर" एंजाइम सांद्रता है, और "फॉलोअर्स" रासायनिक स्तर हैं। उन्होंने पाया कि उनका हाइब्रिड मैप केवल पॉलीनोमियल या केवल न्यूरल नेटवर्क के उपयोग की तुलना में बहुत अधिक सटीक था।
कार-फॉलोइंग मॉडल: कल्पना करें कि एक पुलिस कार (लीडर) हाईवे पर चल रही है, और 20 अन्य कारें (फॉलोअर्स) पुलिस कार के आधार पर अपनी गति को समायोजित कर रही हैं। पुलिस कार की गति "एक्सोसिस्टम" है। हाइब्रिड पद्धति ने सफलतापूर्वक मानचित्रित किया कि लंबे समय में उन 20 कारों में से प्रत्येक कैसे व्यवहार करेगी, जिसने अन्य तरीकों को, विशेष रूप से शुरुआती बिंदु से दूर के कठिन क्षेत्रों में, पछाड़ दिया।

मुख्य निष्कर्ष

यह शोध पत्र दावा करता है कि केंद्र के पास गणितीय सूत्रों की सटीकता को केंद्र से दूर AI की लचीलेपन के साथ जोड़कर, और उन्हें सहजता से एक साथ काम करने के लिए मजबूर करके, वे एक ऐसा मानचित्र बनाते हैं जो:

अकेले किसी भी टूल की तुलना में अधिक सटीक है।
अधिक कुशल है (यह "कर्स ऑफ डायमेंशनैलिटी" में आसानी से नहीं फंसता है)।
भौतिक रूप से सुसंगत है (यह सिस्टम के वास्तविक नियमों का सम्मान करता है)।

संक्षेप में, उन्होंने एक बेहतर मानचित्र निर्माता बनाया है जो स्थानीय विशेषज्ञ को पड़ोस संभालने और ग्लोबल एक्सप्लोरर को जंगल संभालने की अनुमति देता है, जबकि यह सुनिश्चित करता है कि वे शहर की सीमाओं पर एक-दूसरे का हाथ मजबूती से थामे रहें।

तकनीकी सारांश: हाइब्रिड फिजिक्स-इन्फॉर्म्ड न्यूरल नेटवर्क्स के माध्यम से नॉनलीन एक्सोजेनस सिस्टम वाले डिस्क्रीट-टाइम डायनेमिकल सिस्टम्स के इनवेरिएंट मैनिफोल्ड्स

समस्या विवरण
यह शोध पत्र एक्सोजेनस ऑटोनॉमस डायनेमिक्स (एक्सोजेसिस्टम्स) द्वारा संचालित डिस्क्रीट-टाइम डायनेमिकल सिस्टम्स के इनवेरिएंट मैनिफोल्ड्स (IMs) के सन्निकटन (approximation) की चुनौती को संबोधित करता है। ऐसे पदानुक्रमित या युग्मित (coupled) सिस्टम्स नियंत्रण सिद्धांत (जैसे, नॉनलीन आउटपुट रेगुलेशन) और सामूहिक व्यवहार मॉडलिंग (जैसे, ट्रैफिक, पक्षियों के झुंड और मछलियों के स्कूल में लीडर-फॉलोअर डायनेमिक्स) में व्यापक रूप से प्रचलित हैं। जबकि IMs आयामी न्यूनीकरण (dimensionality reduction) और स्थिरता विश्लेषण के लिए एक कठोर ढांचा प्रदान करते हैं, डिस्क्रीट-टाइम सेटिंग्स में उनकी गणना करना कठिन बना हुआ है। पारंपरिक विधियाँ, जैसे कि स्थानीय पावर सीरीज़ एक्सपेंशन (PSE), गुणांकों के कॉम्बिनेटोरियल विकास के संबंध में "डायमेंशनलिटी का अभिशाप" (curse of dimensionality) से ग्रस्त होती हैं और अभिसरण त्रिज्या (radius of convergence) द्वारा सीमित होती हैं, जिससे वे संतुलन बिंदु (equilibrium point) से दूर जाने पर अक्सर विफल हो जाती हैं। इसके विपरीत, शुद्ध डेटा-संचालित या फिजिक्स-इन्फॉर्म्ड न्यूरल नेटवर्क (PINN) दृष्टिकोण, हालांकि स्केलेबल हैं, उनमें व्याख्यात्मकता (interpretability) और संतुलन के पास तीव्र स्थानीय अभिसरण गुणों की कमी हो सकती है।

कार्यप्रणाली
लेखक एक हाइब्रिड फिजिक्स-इन्फॉर्म्ड मशीन लर्निंग फ्रेमवर्क प्रस्तावित करते हैं जो इनवेरिएंट मैनिफोल्ड को परिभाषित करने वाले कार्यात्मक संबंध $x = \pi(y)$ के सन्निकटन के लिए मल्टीवेरिएट पॉलीनोमियल सीरीज़ और शैलो न्यूरल नेटवर्क्स (NNs) को सहक्रियात्मक रूप से जोड़ता है।

गणितीय सूत्रीकरण: समस्या को इनवेरियेंस स्थिति से प्राप्त नॉनलीन फंक्शनल इक्वेशंस (NFEs) को हल करने के रूप में प्रस्तुत किया गया है:
$\pi(Ay + g(y)) = B\pi(y) + Cy + f(\pi(y), y)$
जहाँ $y$ एक्सोजेसिस्टम की अवस्था और $x$ संचालित अवस्था को दर्शाता है।
हाइब्रिड आर्किटेक्चर: सन्निकटन $\tilde{\pi}_{HxS}(y)$ को एक पीसवाइज फंक्शन के रूप में निर्मित किया गया है:
- एक हाइपररेक्टेंगल $D$ के भीतर (संतुलन के केंद्र में): संतुलन के पास ज्यामितीय/घातांकीय अभिसरण गुणों का लाभ उठाने के लिए एक पॉलीनोमियल सीरीज़ (पावर, लेजेंड्रे, या चेबिशेव) का उपयोग किया जाता है।
- $D$ के बाहर: यूनिवर्सल एप्रोक्सिमेशन क्षमताओं का लाभ उठाने के लिए एक सिंगल-लेयर फीडफॉरवर्ड न्यूरल नेटवर्क (SLFNN) का उपयोग किया जाता है, जहाँ पॉलीनोमियल सीरीज़ विचलन (diverge) कर सकती हैं या जहाँ अभिसरण त्रिज्या समाप्त हो जाती है।
- निरंतरता (Continuity): एक हेविसाइड-आधारित स्विचिंग फंक्शन $\partial D$ पर $C^0$ निरंतरता सुनिश्चित करता है, जिसे लॉस फंक्शन में निरंतरता दंड (continuity penalty) के माध्यम से लागू किया जाता है।
अनुकूलन (Optimization): सीखने के कार्य को एक कंपोजिट लॉस फंक्शन को कम करने वाले फिजिक्स-इन्फॉर्म्ड ऑप्टिमाइज़ेशन समस्या के रूप में तैयार किया गया है, जिसमें शामिल हैं:
- NFE अवशेष (Residuals): कोलोकेशन पॉइंट्स पर इनवेरियंस समीकरण को लागू करना।
- संतुलन बाधा (Equilibrium Constraint): यह सुनिश्चित करना कि मैनिफोल्ड संतुलन बिंदु से होकर गुजरता है।
- निरंतरता बाधा (Continuity Constraint): सीमा पर पॉलीनोमियल और NN आउटपुट को मिलाना।
अनुकूलन को लेवनबर्ग–मार्क्वार्ट (LM) एल्गोरिदम का उपयोग करके हल किया जाता है। महत्वपूर्ण रूप से, लेखक पॉलीनोमियल गुणांकों और NN मापदंडों के सापेक्ष अवशेषों के सभी डेरिवेटिव्स के लिए विश्लेतिक अभिव्यक्तियों (analytical expressions) को व्युत्पन्न करते हैं, और तर्क देते हैं कि यह दृष्टिकोण फाइनाइट डिफरेंस या ऑटोमैटिक डिफरेंशिएशन की तुलना में बेहतर विश्वसनीयता और दक्षता प्रदान करता है, विशेष रूप से स्टिफ (stiff) सिस्टम्स के लिए।
सैद्धांतिक आधार: शोध पत्र विशिष्ट धारणाओं (मैनिफोल्ड की बैरॉन रेगुलरिटी, सिस्टम डायनेमिक्स की लिप्सचिट्ज़ निरंतरता, और एक्सोजेसिस्टम के सापेक्ष माप का सीमित संयोजन) के तहत स्टैंडअलोन NN घटक के लिए एक यूनिवर्सल एप्रोक्सिमेशन प्रमेय स्थापित करता है। यह प्रमेय गारंटी देता है कि नेटवर्क चौड़ाई $L$ के संबंध में $O(L^{-1/2})$ की $L^2$ अभिसरण दर प्राप्त होगी।

प्रमुख योगदान

हाइब्रिड स्कीम: डिस्क्रीट-टाइम IMs के लिए पॉलीनोमियल सीरीज़ की व्याख्यात्मकता और स्थानीय अभिसरण को न्यूरल नेटवर्क की वैश्विक सन्निकटन शक्ति के साथ एकीकृत करने वाला एक नवीन हाइब्रिड आर्किटेक्चर।
विश्लेतिक डेरिवेटिव्स: हाइब्रिड स्कीम के अवशेषों के लिए क्लोज्ड-फॉर्म एनालिटिकल डेरिवेटिव्स का व्युत्पन्न, जो मजबूत LM अनुकूलन की सुविधा प्रदान करता है।
सैद्धांतिक गारंटी: डिस्क्रीट-टाइम इनवेरियंस इक्वेशंस पर लागू होने वाले स्टैंडअलोन NN घटक के लिए एक यूनिवर्सल एप्रोक्सिमेशन थ्योरम और अभिसरण दरों की स्थापना।
बेंचमार्किंग: स्टैंडअलोन PINNs और पारंपरिक PSEs के विरुद्ध हाइब्रिड स्कीम का व्यापक संख्यात्मक मूल्यांकन।

परिणाम
फ्रेमवर्क का मूल्यांकन दो बेंचमार्क उदाहरणों पर किया गया:

एंजाइमेटिक बायो रिएक्टर (1D संचालित, 1D एक्सोजेसिस्टम): हाइब्रिड स्कीम (पावर, लेजेंड्रे, या चेबिशेव सीरीज़ का उपयोग करके) ने $10^{-5}$ के क्रम में मीन रिलेटिव $L^2$ एरर प्राप्त किया, जो स्टैंडअलोन PSE (एरर $\sim 10^{-3}$ ) से काफी बेहतर और स्टैंडअलोन PINN से थोड़ा बेहतर प्रदर्शन करता है। हाइब्रिड दृष्टिकोण ने संतुलन के पास उच्च सटीकता (पॉलीनोमियल घटक के कारण) प्रदर्शित की और उससे दूर जाने पर भी सटीकता बनाए रखी (NN घटक के कारण)।
कार-फॉलोइंग मॉडल (20D संचालित, 2D एक्सोजेसिस्टम): इस उच्च-आयामी मामले में, हाइब्रिड स्कीम ने फिर से PSE ( $\sim 10^{-2}$ एरर) को पीछे छोड़ दिया और स्टैंडअलोन PINN ( $\sim 10^{-3}$ एरर) की तुलना में बेहतर वैश्विक सटीकता दिखाई। हाइब्रिड स्कीम ने 20-आयामी मैनिफोल्ड में सफलतापूर्वक सामान्यीकरण किया, जिससे डोमेन में समान त्रुटि वितरण बना रहा।

एक ज्ञात एनालिटिक IM ( $x = \ln(1+y)$ ) के साथ एक अतिरिक्त सत्यापन ने पुष्टि की कि जबकि शुद्ध पॉलीनोमियल विस्तार अपनी अभिसरण त्रिज्या के बाहर विफल हो जाते हैं, हाइब्रिड स्कीम पूरे डोमेन में सटीकता बनाए रखती है, और पॉलीनोमियल डिग्री बढ़ने के साथ प्रदर्शन में सुधार होता है।

महत्व और दावे
शोध पत्र का दावा है कि प्रस्तावित हाइब्रिड फिजिक्स-इन्फॉर्म्ड स्कीम स्टैंडअलोन पॉलीनोमियल एक्सपेंशन और स्टैंडअलोन न्यूरल नेटवर्क की तुलना में एक तुलनात्मक लाभ प्रदान करती है। विशेष रूप से:

यह पॉलीनोमियल सीरीज़ की स्थानीयता की सीमा (locality limitation) को दूर करती है, जो अभिसरण त्रिज्या के बाहर विफल हो जाती हैं।
यह स्टैंडअलोन PINNs में सुधार करती है, जो संतुलन के पास तीव्र अभिसरण का लाभ उठाकर उस क्षेत्र में उच्च संख्यात्मक सटीकता प्राप्त करती है।
यह एक वन-स्टेप, प्लग-एंड-प्ले समाधान प्रदान करती है जो समस्या को लीनियर करने या बहु-चरणीय प्रक्रियाओं की जटिलता से बचता है।

लेखक विनम्रतापूर्वक नोट करते हैं कि हालांकि यह विधि कम-से-मध्यम आयामी मैनिफोल्ड्स के लिए अत्यधिक प्रभावी है (जहाँ पॉलीनोमियल जटिलता प्रबंधनीय रहती है), बहुत उच्च आयामों के लिए कॉम्बिनेटोरियल विकास एक बाधा बना रहता है। वे सुझाव देते हैं कि ऐसे मामलों के लिए, एक स्टैंडअलोन PINN सन्निकटन अधिक उपयुक्त हो सकता है। शोध पत्र निष्कर्ष निकालता है कि भविष्य के कार्य की दिशाओं में हाइब्रिड स्कीम के अभिसरण गुणों का कठोर विश्लेषण और पार्सिमोनियस टेंसर-प्रोडक्ट बेस का समावेश शामिल है।

समस्या: दो उपकरण, दो खामियां

समाधान: "हाइब्रिड फिजिक्स-इन्फॉर्म्ड" टीम

उन्होंने इसका परीक्षण कैसे किया

मुख्य निष्कर्ष

इसी तरह के और पेपर