🤖 machine learning

Python library supporting Discrete Variational Formulations and training solutions with Collocation-based Robust Variational Physics Informed Neural Networks (DVF-CRVPINN)

यह शोध पत्र स्टोकस और लाप्लास समीकरणों जैसे आंशिक अवकल समीकरणों (Partial Differential Equations) को हल करने के लिए एक पायथन लाइब्रेरी और एक कठोर गणितीय ढांचा प्रस्तुत करता है, जो मजबूत त्रुटि नियंत्रण सुनिश्चित करने के लिए क्रोनेकर डेल्टा परीक्षण फलनों (Kronecker delta test functions) और विविक्त स्वचालित अवकलन (discrete automatic differentiation) का उपयोग करके विविक्त दुर्बल स्वरूपों (discrete weak formulations) पर तंत्रिका नेटवर्क (neural networks) को प्रशिक्षित करता है।

मूल लेखक: Tomasz Służalec, Marcin Łoś, Askold Vilkha, Maciej Paszyński

प्रकाशित 2026-04-20

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Tomasz Służalec, Marcin Łoś, Askold Vilkha, Maciej Paszyński

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक रोबोट को यह सिखाने की कोशिश कर रहे हैं कि पाइप के माध्यम से पानी कैसे बहता है या धातु की प्लेट में गर्मी कैसे फैलती है। भौतिक विज्ञान की दुनिया में, इन समस्याओं को पार्शियल डिफरेंशियल इक्वेशन्स (PDEs) नामक जटिल गणितीय नियमों द्वारा वर्णित किया जाता है।

दशकों से, वैज्ञानिक इन्हें हल करने के दो मुख्य तरीके इस्तेमाल करते आए हैं:

पुराना तरीका (ग्रिड्स): समस्या को बिंदुओं के एक छोटे ग्रिड में तोड़ना और हर एक बिंदु पर भारी गणित का उपयोग करना। यह सटीक है लेकिन धीमा और कठोर है।
नया तरीका (न्यूरल नेटवर्क): उत्तर का अनुमान लगाने के लिए एक "मस्तिष्क" (AI) का उपयोग करना। यह लचीला है लेकिन कभी-कभी अस्थिर हो सकता है या बिना यह जाने कि उसने गलती की है, बहुत गलत अनुमान लगा सकता है।

यह शोध पत्र एक हाइब्रिड सुपर-टूल पेश करता है जो दोनों दुनियाओं की सर्वश्रेष्ठ चीजों को जोड़ता है। यह एक नया पायथन सॉफ्टवेयर लाइब्रेरी है जिसे DVF-CRVPINN कहा जाता है।

यहाँ उन्होंने क्या किया, इसका विवरण सरल उपमाओं (analogies) का उपयोग करके दिया गया है:

1. समस्या: "अनुमान लगाने का खेल" अस्थिर है

कल्पना कीजिए कि आप किताबों का एक ढेर (समाधान) एक डगमगाती मेज (न्यूरल नेटवर्क) पर संतुलित करने की कोशिश कर रहे हैं।

मानक AI (PINNs): आप AI को कहते हैं, "किताबों को गिरने मत देना।" वह कोशिश करता है, लेकिन कभी-कभी वह इतना डगमगा जाता है कि किताबें गिर जाती हैं, और आपको तब तक पता नहीं चलता कि वह गिरने के कितने करीब था जब तक कि बहुत देर न हो जाए।
पुराना मजबूत तरीका (RVPINNS): आप किताबों के ढेर के नीचे एक भारी, महंगी सुरक्षा जाल (safety net) रखते हैं। यह बहुत सुरक्षित है, लेकिन जाल इतना भारी और जटिल है कि इसे सेट करने में बहुत समय लगता है और इसमें कंप्यूटर पावर का बहुत खर्च आता है।

2. समाधान: एक "स्मार्ट, हल्का सुरक्षा जाल"

लेखकों ने एक नया तरीका बनाया है जो एक स्मार्ट, हल्के सुरक्षा जाल की तरह काम करता है। वे इसे डिस्क्रीट वेरिएशनल फॉर्मुलेशन विद कोलोकेशन-बेस्ड रोबस्ट VPINNs कहते हैं।

यह कैसे काम करता है, यहाँ चरण-दर-चरण बताया गया है:

A. "डिस्क्रीट" ग्रिड (बिंदुओं का मानचित्र)

पूरी चिकनी सतह को एक साथ समझने के बजाय, वे समस्या को बिंदुओं के एक विशिष्ट मानचित्र (जैसे पिक्सेलेटेड इमेज) में तोड़ देते हैं।

उपमा: "कनेक्ट द डॉट्स" के खेल की कल्पना करें। AI को अभी चिकनी वक्र (smooth curve) जानने की आवश्यकता नहीं है; उसे बस बिंदुओं को सही स्थानों पर रखने की आवश्यकता है।

B. "वीक" फॉर्मुलेशन (एक सामूहिक आलिंगन/Group Hug)

गणित में, एक "स्ट्रॉन्ग" फॉर्मुलेशन मांग करता है कि उत्तर हर एक बिंदु पर एकदम सही हो। एक "वीक" फॉर्मुलेशन एक सामूहिक आलिंगन (group hug) की तरह है। यह पूछता है: "क्या उत्तर सामान्य रूप से सही है जब हम पूरे समूह के बिंदुओं को एक साथ देखते हैं?"

यह क्यों मदद करता है: इसमें AI के लिए बेईमानी करना बहुत कठिन हो जाता है। यदि वह एक भी बिंदु गलत करता है, तो "आलिंगन" (hug) अजीब महसूस होगा, और AI को पता चल जाएगा कि उसे इसे ठीक करने की आवश्यकता है।

C. "रोबस्ट" लॉस फंक्शन (सत्य का मीटर)

यही असली जादू है। आमतौर पर, एक AI का एक "लॉस फंक्शन" होता है (एक स्कोर जो बताता है कि उसका अनुमान कितना बुरा है)।

पुराना AI: "आपका स्कोर 5 है। शायद आप करीब हैं, शायद आप बहुत दूर हैं।"
यह नया AI: "आपका स्कोर 5 है। हमारे गणित के आधार पर, हम गारंटी दे सकते हैं कि आपकी वास्तविक त्रुटि (error) 4.9 और 5.1 के बीच है।"
रूपक (Metaphor): यह एक स्पीडोमीटर होने जैसा है जो न केवल आपकी गति दिखाता है, बल्कि यह भी बताता है कि, "आप निश्चित रूप से 55 और 57 mph के बीच गाड़ी चला रहे हैं।" यह वैज्ञानिकों को पूर्ण विश्वास देता है कि AI अपनी मर्जी से गलत बातें (hallucinating) नहीं बोल रहा है।

3. सॉफ्टवेयर लाइब्रेरी (लेगो किट)

लेखकों ने केवल एक गणितीय शोध पत्र नहीं लिखा; उन्होंने एक पायथन लाइब्रेरी बनाई है।

उपमा: इसे भौतिकविदों के लिए एक लेगो सेट (Lego set) के रूप में सोचें।
- पहले: आपको ईंटें अपने हाथ से बनानी पड़ती थी, उन्हें चिपकाना पड़ता था और उम्मीद करनी पड़ती थी कि टावर खड़ा रहेगा।
- अब: आपके पास पहले से बनी ईंटें (ग्रिड्स, फंक्शन्स, डेरिवेटिव्स) और एक स्पष्ट निर्देश पुस्तिका (जो FEniCS नामक एक प्रसिद्ध टूल से प्रेरित है) है। आप बस अपने विशिष्ट भौतिकी के प्रश्न को बनाने के लिए उन्हें आपस में जोड़ सकते हैं।

4. टेस्ट ड्राइव (स्टोक्स इक्वेशंस)

इसे सिद्ध करने के लिए, उन्होंने इसका परीक्षण स्टोक्स इक्वेशंस (Stokes Equations) पर किया, जो यह बताते हैं कि धीरे चलने वाले, चिपचिपे तरल पदार्थ (जैसे शहद या लावा) कैसे बहते हैं।

चुनौती: यह एक बहुत कठिन समस्या है जहाँ तरल की गति और दबाव आपस में मजबूती से जुड़े होते हैं। यदि आप एक भी गलत करते हैं, तो पूरी प्रक्रिया ध्वस्त हो जाती है।
परिणाम: उन्होंने बिंदुओं के एक ग्रिड पर AI को प्रशिक्षित किया। AI ने तरल के प्रवाह की भविष्यवाणी करना सीख लिया।
- दृश्य प्रमाण: उन्होंने चित्र दिखाए जहाँ AI की भविष्यवाणी बिल्कुल सटीक गणितीय समाधान के समान दिख रही थी।
- सुरक्षा जांच: प्रशिक्षण के दौरान, उन्होंने "सत्य के मीटर" (robust loss) पर नज़र रखी। इसने साबित किया कि जैसे-जैसे AI बेहतर हुआ, त्रुटि ठीक उसी तरह कम हुई जैसा कि गणित ने भविष्यवाणी की थी।

सारांश: आपको इसकी परवाह क्यों करनी चाहिए?

यह शोध पत्र वैज्ञानिकों को जटिल भौतिकी समस्याओं को हल करने के लिए एक नया, विश्वसनीय और उपयोग में आसान उपकरण देता है।

यह तेज़ है: इसे सुरक्षा जाल सेट करने के लिए सुपरकंप्यूटर की आवश्यकता नहीं है।
यह सुरक्षित है: यह गारंटी देता है कि AI का उत्तर एक ज्ञात त्रुटि सीमा के भीतर है।
यह आसान है: यह जटिल गणित को सरल कोड में बदल देता है जिसे कोई भी चला सकता है।

संक्षेप में, उन्होंने एक नाजुक, कठिन प्रशिक्षण वाले AI को एक गणितीय सीटबेल्ट दी है, जिससे यह हवाई जहाज के पंखों को बेहतर बनाने या मौसम के पैटर्न की भविष्यवाणी करने जैसे वास्तविक दुनिया के इंजीनियरिंग कार्यों के लिए सुरक्षित हो गया है।

यहाँ शोध पत्र "Python library supporting Discrete Variational Formulations and training solutions with Collocation-based Robust Variational Physics Informed Neural Networks (DVF-CRVPINN)" का विस्तृत तकनीकी सारांश दिया गया है।

1. समस्या विवरण (Problem Statement)

यह शोध पत्र आंशिक अवकल समीकरणों (PDEs) को हल करने में मौजूदा फिजिक्स-इन्फॉर्म्ड न्यूरल नेटवर्क्स (PINNs) और वेरिएशनल न्यूरल नेटवर्क्स (VPINNs) की सीमाओं को संबोधित करता है।

मानक PINNs: कोलोकेशन पॉइंट्स पर स्ट्रोंग-फॉर्म रेसिडुअल्स (strong-form residuals) को कम करते हैं। हालांकि ये लचीले हैं, लेकिन वे अक्सर स्थिरता संबंधी समस्याओं से जूझते हैं और उनमें कठोर त्रुटि सीमाओं (error bounds) का अभाव होता है।
मानक VPINNs: स्थिरता में सुधार के लिए वीक-फॉर्म (weak-form) फॉर्मुलेशन का उपयोग करते हैं। हालाँकि, मूल VPINN फॉर्मुलेशन में अक्सर डिस्क्रीट स्तर पर मजबूती (robustness) की कमी होती है।
रोबस्ट VPINNs (RVPINNs): ग्राम-मैट्रिक्स-वेटेड नॉर्म्स (रेज़ रिप्रेजेंटेटिव्स ऑफ रेसिडुअल्स) के माध्यम से स्थिरता सुनिश्चित करने के लिए पेश किए गए। जबकि ये सैद्धांतिक रूप से मजबूत (त्रुटि सीमाएँ प्रदान करते) हैं, पारंपरिक RVPINN कार्यान्वयन संख्यात्मक एकीकरण (numerical integration) और डेंस लीनियर अलजेब्रा पर निर्भर करते हैं, जिससे अत्यधिक कम्प्यूटेशनल लागत और मेमोरी की आवश्यकता उत्पन्न होती है।
अंतराल (The Gap): एक ऐसे फ्रेमवर्क की आवश्यकता है जो RVPINNs की मजबूती (यह गारंटी देते हुए कि लॉस फंक्शन वास्तविक त्रुटि को सीमित करता है) को कम्प्यूटेशनल दक्षता (महंगे संख्यात्मक एकीकरण से बचते हुए) और स्टोक समीकरणों (Stokes equations) जैसे जटिल PDEs के लिए एक उपयोगकर्ता-अनुकूल प्रोग्रामिंग वातावरण के साथ जोड़ सके।

2. कार्यप्रणाली (Methodology)

लेखक एक डिस्क्रीट वेरिएशनल फॉर्मुलेशन दृष्टिकोण को कोलोकेशन-आधारित रोबस्ट VPINNs (DVF-CRVPINN) के साथ प्रस्तावित करते हैं।

A. गणितीय ढांचा (Mathematical Framework)

डिस्क्रीट डोमेन: निरंतर डोमेन $\Omega$ को एक डिस्क्रीट सेट $\Omega_h$ (एक समान ग्रिड) द्वारा प्रतिस्थापित किया जाता है।
डिस्क्रीट ऑपरेटर्स: निरंतर डेरिवेटिव्स को फाइनाइट डिफरेंस ऑपरेटर्स ( $\nabla^+$ और $\nabla^-$ ) का उपयोग करके अनुमानित किया जाता है। लेखक इन ग्रिड पॉइंट्स पर सीधे डिस्क्रीट इनर प्रोडक्ट्स, नॉर्म्स और इंटीग्रेशन-बाय-पार्ट्स नियमों (डिस्क्रीट ग्रीन फॉर्मूला) को परिभाषित करते हैं।
क्रोनेकर डेल्टा टेस्ट फंक्शन्स: तत्वों (elements) पर एकीकरण करने के बजाय, यह विधि क्रोनेकर डेल्टा फंक्शनों को टेस्ट फंक्शन्स के रूप में उपयोग करती है। यह वीक फॉर्मुलेशन को विशुद्ध रूप से पॉइंट-वाइज इवैल्यूएशन द्वारा परिभाषित बीजगणितीय समीकरणों की एक प्रणाली में बदल देता है।
रोबस्ट लॉस फंक्शन: लॉस फंक्शन को डुअल स्पेस में रेसिड्यूल के स्क्वेर्ड नॉर्म के रूप में परिभाषित किया गया है:
$L(\theta) = \|Au_\theta - f\|_{V'}^2 = R_\theta^T G^{-1} R_\theta$
जहाँ $R_\theta$ $R_{θ}$ एक वीक रेसिड्यूल वेक्टर है और $G$ $G$ एक ग्राम मैट्रिक्स है।
- मुख्य गुण: यह रोबस्ट है, जिसका अर्थ है कि वास्तविक त्रुटि $\|u_\theta - u_{exact}\|$ लॉस के वर्गमूल (कंटीन्यूइटी और कोएर्सिविटी कांस्टेंट्स तक) द्वारा सीमित है। यह प्रशिक्षण के दौरान एक विश्वसनीय एरर एस्टीमेटर प्रदान करता है।
स्टोक्स इक्वेशंस फॉर्मुलेशन: लेखकों ने $L_2$ नॉर्म में स्थिरता सुनिश्चित करने के लिए स्टोक्स समीकरणों (वेग $u$ , स्ट्रेस $\sigma$ , दबाव $p$ ) के लिए एक फर्स्ट-ऑर्डर सिस्टम व्युत्पन्न किया है। उन्होंने विशिष्ट डिस्क्रीट स्पेस को परिभाषित किया है, और डिस्क्रीट बाबुस्का-अज़ीज़ इनइक्वलिटी और डिस्क्रीट पोइनकेरे इनइक्वलिटी के माध्यम से डिस्क्रीट सिस्टम की सुव्यवस्थितता (well-posedness) को सिद्ध किया है।

B. कम्प्यूटेशनल कार्यान्वयन (Computational Implementation)

पायथन लाइब्रेरी (DVF-CRVPINN): डिस्क्रीट वीक फॉर्मुलेशन को सुगम बनाने के लिए एक नई लाइब्रेरी विकसित की गई है।
- सिंटैक्स: FEniCS और यूनिफाइड फॉर्म लैंग्वेज (UFL) से प्रेरित, जो उपयोगकर्ताओं को सहजता से द्विपक्षीय (bilinear) और रैखिक (linear) फॉर्म्स (जैसे dot(grad(u), grad(v))) को परिभाषित करने की अनुमति देता है।
- फंक्शन स्पेस: स्केलर, वेक्टर और टेंसर फंक्शन स्पेस के साथ-साथ कंपोजिट स्पेस (जैसे स्ट्रेस, वेलोसिटी और प्रेशर स्पेस को संयोजित करना) का समर्थन करता है।
- डिफरेंशिएशन: न्यूरल नेटवर्क के ग्रेडिएंट की गणना करने के लिए ऑटोमैटिक डिफरेंशिएशन (PyTorch) के भीतर फाइनाइट-डिफरेंस डेरिवेटिव्स का उपयोग करता है।
प्रशिक्षण रणनीति (Training Strategy):
- ऑप्टिमाइजेशन: Adamax ऑप्टिमाइज़र का उपयोग करता है।
- दक्षता: हर स्टेप पर डेंस मैट्रिक्स इनवर्जन के बिना ग्राम मैट्रिक्स ( $G^{-1}$ ) को कुशलतापूर्वक संभालने के लिए, लेखक ग्राम मैट्रिक्स के LU फैक्टराइजेशन को प्री-कंप्यूट करते हैं।
- बैकप्रोपैगेशन: कुशल ग्रेडिएंट गणना के लिए scipy.linalg.lu_solve ऑपरेशन को रैप करने के लिए एक कस्टम torch.autograd.Function लागू किया गया है।

3. मुख्य योगदान (Key Contributions)

सैद्धांतिक कठोरता (Theoretical Rigor): स्टोक्स समीकरणों के लिए डिस्क्रीट वीक फॉर्मुलेशन की सुव्यवस्थितता (well-posedness) और मजबूती (robustness) का कठोर गणितीय प्रमाण प्रदान करता है। यह सिद्ध करता है कि डिस्क्रीट लॉस फंक्शन वास्तविक त्रुटि को सीमित करता है, जो कि मानक PINN दृष्टिकोणों में अक्सर गायब होता है।
कम्प्यूटेशनल दक्षता: महंगे संख्यात्मक एकीकरण को कोलोकेशन-आधारित डिस्क्रीट सम्स और फाइनाइट डिफरेंसेस से बदल देता है। यह शास्त्रीय RVPINNs की तुलना में मेमोरी उपयोग और कम्प्यूटेशनल लागत को काफी कम करता है, जबकि सैद्धांतिक मजबूती बनाए रखता है।
सॉफ्टवेयर फ्रेमवर्क: DVF-CRVPINN नामक एक पायथन लाइब्रेरी पेश करता है, जो जटिल वेरियशनल मैथमेटिक्स और डीप लर्निंग कार्यान्वयन के बीच के अंतर को पाटता है। यह शोधकर्ताओं को स्थापित FEM टूल्स के समान सिंटैक्स के साथ जटिल PDE फॉर्मुलेशन (जैसे स्टोक्स) को प्रोटोटाइप करने की अनुमति देता है।
चुनौतीपूर्ण समस्याओं पर सत्यापन: इसे 2D स्टोक्स समीकरणों पर सफलतापूर्वक लागू किया गया है, जो इनकम्प्रेसिबिलिटी बाधा और स्थिर वेलोसिटी-प्रेशर कपलिंग (inf-sup condition) की आवश्यकता के कारण जटिलता के लिए जाना जाता है।

4. संख्यात्मक परिणाम (Numerical Results)

लेखकों ने दो परीक्षण मामलों पर अपने फ्रेमवर्क को सत्यापित किया:

मैन्युफैक्चरड सॉल्यूशन (स्टोक्स समीकरण):
- सेटअप: एक ज्ञात विश्लेषणात्मक समाधान के साथ $20 \times 20$ और $40 \times 40$ ग्रिड पर हल किया गया।
- परिणाम: $40 \times 40$ ग्रिड के परिणाम विश्लेषणात्मक समाधान के बहुत करीब रहे।
- त्रुटि विश्लेषण: प्रशिक्षण इतिहास ने दिखाया कि वास्तविक त्रुटि (true error) रोबस्ट लॉस फंक्शन द्वारा अनुमानित सैद्धांतिक सीमाओं के भीतर रही। त्रुटि निचले स्तर के करीब देखी गई, जो इस पद्धति की दक्षता की पुष्टि करती है।
लिड-ड्रिवन कैविटी फ्लो (Lid-Driven Cavity Flow):
- सेटअप: गैर-सजातीय डिर्टिचलेट बाउंड्री कंडीशंस (मूविंग लिड) और जीरो बॉडी फोर्स वाला एक क्लासिक बेंचमार्क, जिसे $50 \times 50$ ग्रिड पर हल किया गया।
- परिणाम: 25,000 एपॉक्स के बाद PINN समाधान में कोई दृश्य अनियमितता नहीं दिखी और यह रेफरेंस सॉल्यूशंस से अच्छी तरह मेल खा गया।
- त्रुटि सीमाएं: विश्लेषणात्मक समाधान के बिना भी, रेफरेंस सॉल्यूशन के सापेक्ष त्रुटि रोबस्ट लॉस से प्राप्त सैद्धांतिक निचले और ऊपरी स्तरों का पालन करती है।

5. महत्व (Significance)

यह कार्य वैज्ञानिक मशीन लर्निंग (SciML) के क्षेत्र में एक महत्वपूर्ण कदम है:

सिद्धांत और व्यवहार को जोड़ना: यह प्रदर्शित करता है कि सैद्धांतिक रूप से बेहतर "रोबस्ट VPINN" दृष्टिकोण को जटिल फ्लूइड डायनेमिक्स समस्याओं के लिए कम्प्यूटेशनल रूप से व्यवहार्य बनाया जा सकता है।
विश्वसनीय त्रुटि अनुमान: यह सुनिश्चित करके कि लॉस फंक्शन वास्तविक त्रुटि का एक प्रॉक्सी है, यह विधि संख्यात्मक सटीकता पर एक स्तर की विश्वसनीयता और नियंत्रण प्रदान करती है जो मानक PINNs में अक्सर कमी होती है।
सुलभता (Accessibility): प्रदान की गई पायथन लाइब्रेरी उन शोधकर्ताओं के लिए प्रवेश बाधा को कम करती है जो PDEs के लिए वेरिएशनल फॉर्मुलेशन को लागू करना चाहते हैं, जिससे वे लो-लेवल कार्यान्वयन विवरणों से हटकर हाई-लेवल गणितीय परिभाषाओं की ओर बढ़ सकते हैं।
स्केलेबिलिटी: कोलोकेशन-आधारित दृष्टिकोण उच्च-आयामी संख्यात्मक एकीकरण से जुड़ी "डायमेंशनलिटी की अभिशाप" (curse of dimensionality) से बचता है, जिससे यह भविष्य में अधिक जटिल, उच्च-आयामी समस्याओं के लिए उपयुक्त बनता है।

निष्कर्षतः, यह शोध पत्र न्यूरल नेटवर्क का उपयोग करके PDEs को हल करने के लिए एक मजबूत, कुशल और उपयोगकर्ता के अनुकूल फ्रेमवर्क प्रस्तुत करता है, और सफलतापूर्वक सिद्ध करता है कि डिस्क्रीट वेरिएशनल फॉर्मुलेशन चुनौतीपूर्ण फ्लूइड डायनेमिक्स समस्याओं के लिए सटीक, स्थिर और सैद्धांतिक रूप से आधारित समाधान प्रदान कर सकते हैं।