तकनीकी सारांश: यूलर-लैग्रेंज अवशेष न्यूनीकरण (Euler–Lagrange Residual Minimization) के माध्यम से PDE के लिए सीखे गए लैग्रेंजियन मॉडल

समस्या विवरण

आंशिक अवकल समीकरणों (PDEs) द्वारा नियंत्रित प्रणालियों की दीर्घकालिक गतिशीलता का पूर्वानुमान लगाना मशीन लर्निंग के लिए एक अनूठी चुनौती पेश करता है। जबकि आधुनिक भौतिकी-सूचित (physics-informed) और संरचना-संरक्षण विधियों ने मॉडल संरचनाओं (जैसे हैमिल्टोनियन या लैग्रेंजियन) को डेटा से सीखने की क्षमता में सुधार किया है, वे अक्सर संख्यात्मक इंटीग्रेटर (numerical integrator) को एक माध्यमिक कार्यान्वयन विवरण के रूप में देखते हैं। यह उपेक्षा महत्वपूर्ण है क्योंकि पूर्वानुमान के लिए दीर्घकालिक स्थिरता और सीमित त्रुटि की आवश्यकता होती है, जबकि एक स्थानीय समाधान खोजना तात्कालिक सटीकता को प्राथमिकता देता है।

उन प्रणालियों में जो ऊर्जा संरक्षित करती हैं (जैसे तरंगें, कंपन), मानक विधियों में प्रति-चरण होने वाली छोटी एकीकरण त्रुटियां समय के साथ संचित होती हैं, जिससे संरक्षण नियमों का उल्लंघन होता है और प्रक्षेप पथ (trajectories) सीखे गए भौतिक शासन से विचलित हो जाते हैं। मौजूदा सीखे गए-भौतिकी विधियाँ अक्सर डायनेमिक्स को अपने इंटीग्रेटर के साथ जोड़ देती हैं या निश्चित स्थानिक विविक्तिकरण (spatial discretizations) पर निर्भर करती हैं। यह युग्मन (coupling) मॉडल त्रुटि (फेज एरर) को एकीकरण त्रुटि (संरक्षण त्रुटि) से अलग करने में रोकता है और बिना पुन: प्रशिक्षण के मनमाने सीमा स्थितियों (boundary conditions) या स्थानिक रूप से परिवर्तनशील डायनेमिक्स तक सामान्यीकरण को सीमित करता है। इसके अलावा, सीखे गए वेरिएशनल इंटीग्रेटर्स पर पिछला कार्य मुख्य रूप से परिमित-आयामी साधारण अवकल समीकरणों (ODEs) या कठोर ग्रिड संरचनाओं वाले विशिष्ट 1D PDEs तक ही सीमित रहा है।

कार्यप्रणाली: यूलर-लैग्रेंज न्यूनीकरण (ELM)

लेखक यूलर-लैग्रेंज न्यूनीकरण (ELM) का प्रस्ताव करते हैं, जो विशेष रूप से सीखे गए निरंतर लैग्रेंजियन PDE मॉडलों के लिए डिज़ाइन किया गया एक वेरिएशनल इंटीग्रेटर है। पारंपरिक दृष्टिकोणों के विपरीत जो क्रिया फलन (action functional) को प्रतीकात्मक रूप से विविक्त (discretize) करते हैं (जो सीखे गए ब्लैक-बॉक्स लैग्रेंजियनों के लिए असंभव है), ELM एक अनुकूलन-आधारित ढांचे का उपयोग करता है जो तीन स्तरों पर निर्मित है:

1. स्थानीय अवशेष (Local Residual): विधि एक स्थानीय, बिंदुवार वर्ग यूलर-लैग्रेंज अवशेष, $R^2$ को परिभाषित करती है, जो एक उम्मीदवार पथ के सीखे गए डायनेमिक्स से विचलन को मापता है। एक लैग्रेंजियन घनत्व $L$ के लिए, अवशेष है:
   $$R = \frac{\partial L}{\partial q} - \frac{d}{dt}\frac{\partial L}{\partial q_t} - \frac{d}{dx}\frac{\partial L}{\partial q_x}$$
   लक्ष्य $R^2$ को कम करना है न कि सीधे क्रिया (action) को।

2. पैच त्रुटि (Patch Error): डोमेन को स्थानीय स्पेस-टाइम पैच में विभाजित किया जाता है। प्रत्येक पैच के भीतर, ज्ञात नोड अवस्थाओं (मान और डेरिवेटिव) पर फिट किए गए आधार कार्यों (जैसे मोनॉमियल्स) का उपयोग करके एक हर्मिट इंटरपोलेशन $\hat{q}$ का निर्माण किया जाता है। पैच त्रुटि $J$ पैच पर वर्ग अवशेष का समाकलन है, जिसे क्वाड्रचर (quadrature) के माध्यम से अनुमानित किया जाता है:
   $$J \approx \sum_{i=1}^{n_\omega} \omega_i R^2[\hat{q} | (t_i, x_i)]$$

3. वैश्विक इंटीग्रेटर (Global Integrator): एक समय चरण द्वारा समाधान को आगे बढ़ाने के लिए, विधि ज्ञात अवस्थाओं को देखते हुए पैच त्रुटि को न्यूनतम करने वाले नए समय चरण पर नोड मानों की खोज करती है। इसे ओवरलैपिंग पैच के माध्यम से जैकोबी इटरेशन (Jacobi iteration) का उपयोग करके एक डैम्प्ड न्यूटन इटरेशन (damped Newton iteration) के माध्यम से हल किया जाता है। यह दृष्टिकोण एक युग्मित वैश्विक समाधान (coupled global solve) से बचता है, जिससे विधि को डोमेन आकार के साथ रैखिक रूप से स्केल करने की अनुमति मिलती है।

निकट-सिम्प्लेक्टिसिटी (Near-Symplecticity):
जब अवशेष $R$ को शून्य की ओर ले जाया जाता है, तो इंटीग्रेटर सिम्प्लेक्टिक (symplectic) हो जाता है, जिससे वह शास्त्रीय वेरिएशनल इंटीग्रेटर्स के दीर्घकालिक ऊर्जा संरक्षण गुणों को विरासत में प्राप्त करता है। व्यवहार में, लेखक क्वाड्रचर बिंदुओं का अति-नमूनाकरण (oversampling) करते हैं (सिम्प्लेक्टिसिटी के लिए आवश्यक बिंदुओं से अधिक बिंदु उपयोग करके) ताकि पैच सॉल्वर की स्थिरता और सीखे गए लैग्रेंजियन की खामियों के विरुद्ध मजबूती सुनिश्चित की जा सके। फलस्वरूप, ELM को निकट-सिम्प्लेक्टिक (near-symplectic) के रूप में वर्णित किया गया है, जो गैर-सिम्प्लेक्टिक विधियों की तुलना में ऊर्जा संरक्षण के क्रमों अधिक बेहतर बनाए रखता है और सटीक सिम्प्लेक्टिसिटी की सख्त बाधाओं से बचता है।

प्रमुख योगदान

• PDEs के लिए पहला सीखा गया निरंतर लैग्रिंगियन इंटीग्रेटर: ELM सीधे PDE डायनेमिक्स के पूर्वानुमान के लिए सीखे गए निरंतर लैग्रेंजियन का उपयोग करने वाला पहला तरीका है, जो वेरिएशनल इंटीग्रेशन को परिमित-आयामी ODEs से आगे बढ़ाता है।
• त्रुटियों का पृथक्करण (Decoupling of Errors): निश्चित टाइम-स्टेपिंग के बजाय अनुकूलन पर भरोसा करके, ELM मॉडल त्रुटि (फेज एरर) को एकीकरण त्रुटि (संरक्षण त्रुटि) से अलग करता है। यह सीखे गए लैग्रेंजियन को भौतिकी का प्रतिनिधित्व करने की अनुमति देता है जबकि इंटीग्रेटर स्थिरता सुनिश्चित करता है।
• मेष-मुक्त और सीमा-अज्ञेय (Mesh-Free and Boundary-Agnostic): यह विधि मेष-मुक्त है और इसके लिए स्थानिक पूर्व-विविक्तिकरण की आवश्यकता नहीं है। यह अनुकूलन चरों पर शुद्ध प्रतिबंधों के माध्यम से मनमाने सीमा स्थितियों (Dirichlet, Neumann, संचालित, अवशोषक) और स्थानिक रूप से परिवर्तनशील डायनेमिक्स को संभालती है, जिसके लिए मॉडल को पुन: प्रशिक्षित करने की आवश्यकता नहीं होती है।
• स्केलेबिलिटी (Scalability): वैश्विक समाधान के लिए जैकोबी इटरेशन का उपयोग यह सुनिश्चित करता है कि विधि डोमेन आकार के साथ रैखिक रूप से स्केल करे, जो उच्च-आयामी PDEs के लिए निहित वैश्विक युग्मित समाधानों की कम्प्यूटेशनल बाधाओं को दरकिनार करती है।

प्रयोगात्मक परिणाम

लेखक तीन बढ़ती जटिलता वाली प्रणालियों पर ELM को मान्य करते हैं:

1. अराजक डबल पेंडुलम (Chaotic Double Pendulum - ODE): ELM 100,000 सेकंड के ऊपर अत्याधुनिक सिम्प्लेक्टिक विधियों (विशेष रूप से 4th-order Gauss-Legendre Runge-Kutta) के तुलनीय ऊर्जा ड्रिफ्ट प्राप्त करता है, जो गैर-सिम्प्लेक्टिक इंटीग्रेटर्स (RK4, Dormand-Prince) से काफी बेहतर प्रदर्शन करता है जो निरंतर ऊर्जा संचय प्रदर्शित करते हैं।
2. 1D वेव इक्वेशन (1D Wave Equation): ELM सटीकता और ऊर्जा संरक्षण दोनों में लैग्रेंजियन न्यूरल नेटवर्क (LNN) से बेहतर प्रदर्शन करता है। LNN के विपरीत, जो निश्चित विविक्तिकरण त्रुटियों से ग्रस्त है जो छोटे टाइम स्टेप्स के साथ सटीकता सुधार को सीमित करती है, ELM की सटीकता रिज़ॉल्यूशन के साथ स्केल करती है। ELM स्पष्ट वेवफ्रंट और समरूपता बनाए रखता है जहाँ LNN विफल हो जाता है।
3. 2D वेव इक्वेशन (2D Wave Equation): ELM सीखे गए निरंतर लैग्रेंजियन घनत्व का उपयोग करके 2D PDE का पहला फॉरवर्ड सिमुलेशन प्रदान करता है। 1,000 सेकंड के ऊपर, ELM मामूली फेज ड्रिफ्ट के साथ विश्लेषणात्मक ग्राउंड ट्रुथ को ट्रैक करता है, जबकि फूरियर न्यूरल ऑपरेटर्स (FNO) 20 सेकंड के भीतर विचलित हो जाते हैं और PDE-Refiner गैर-भौतिक वैश्विक दोलनों को प्रदर्शित करता है। ELM यह PDE-Refiner की तुलना में 40,000 गुना कम पैरामीटरों के साथ प्राप्त करता है।

नए डोमेन में सामान्यीकरण (Generalization to New Domains):
एक महत्वपूर्ण निष्कर्ष मॉडल की बिना पुन: प्रशिक्षण के सामान्यीकरण करने की क्षमता है। जब एक सजातीय माध्यम (homogeneous media) पर प्रशिक्षित मॉडल को एक डोमेन जिसमें तीक्ष्ण प्रतिबाधा इंटरफेस (sharp impedance interface - 1D) या डबल-स्लिट बैरियर (2D) है, पर लागू किया जाता है, तो ELM सही ढंग से परावर्तन (reflection), संचरण (transmission) और हस्तक्षेप पैटर्न (interference patterns) की भविष्यवाणी करता है। यह केवल लैग्रेंजियन को स्थानिक रूप से बदलकर या डिग्री ऑफ फ्रीडम को प्रतिबंधित करके प्राप्त किया जाता है, जो दर्शाता है कि सीखा गया मॉडल एक "भौतिक मूल तत्व" (physics primitive) के रूप में कार्य करता है।

महत्व और दावे

यह शोध पत्र तर्क देता है कि लचीले भौतिकी-सीखने वाले सिस्टम प्राप्त करने के लिए इंटीग्रेटर को भी मॉडल की तरह ही डिजाइन देखभाल की आवश्यकता है। ELM का प्राथमिक महत्व भौतिक नियमों (लैग्रेंजियन घनत्व) को सीखने से उनके सिमुलेशन (इंटीग्रेटर) को अलग करने की क्षमता में निहित है।

लेखक दावा करते हैं कि ELM ऐसे सीखे गए मॉडलों के लिए एक शुरुआती बिंदु प्रदान करता है जिन्हें प्रत्येक नए परिदृश्य या सीमा स्थिति के लिए पुन: प्रशिक्षण के बजाय अनुमान के समय तैनात, बाधित और संयोजित किया जा सके। विविक्तिकरण को "बनाए जाने" (बेश में डालने) से बचकर, ELM जटिल सीमा प्रभावों और स्थानिक विविधताओं के लिए भौतिक रूप से सही हैंडलिंग की अनुमति देता है। हालांकि वर्तमान में ELM को मानक इंटीग्रेटर्स की तुलना में प्रति स्टेप अधिक कम्प्यूटेशनल लागत लगती है, लेखक तर्क देते हैं कि स्थिरता और सामान्यीकरण के लिए यह ट्रेड-ऑफ जटिल, संरक्षित प्रणालियों के दीर्घकालिक पूर्वानुमान के लिए आवश्यक है।

स्वीकृत सीमाएँ (Limitations Acknowledged):
पेपर विनम्रतापूर्वक नोट करता है कि ELM वर्तमान में मानक इंटीग्रेटर्स की तुलना में प्रति स्टेप अधिक कम्प्यूटेशनल रूप से महंगा है, विशेष रूप से ODEs के लिए जहाँ सिम्प्लेक्टिक विधियाँ पहले से उपलब्ध हैं। जैकोबी स्वीप उच्च आयामों में दृढ़ता से जुड़े (strongly coupled) सिस्टम में धीरे काम करता है। इसके अतिरिक्त, वर्तमान कार्यान्वयन केवल प्रथम डेरिवेटिव तक के लैग्रेंजियन घनत्व स्वीकार करता है, जो उच्च-क्रम फील्ड थ्योरीज़ जैसे बीम मैकेनिक्स को बाहर करता है। लेखक भविष्य की दिशाओं के रूप में विसरित प्रणालियों (dissipative systems) और अनुकूली मेष रिफाइनमेंट (adaptive mesh refinement) तक इस ढांचे के विस्तार का सुझाव देते हैं।