🔢 mathematics

Data-integrated neural networks for solving partial differential equations

यह शोधपत्र DataInNet का प्रस्ताव करता है, जो एक नवीन आर्किटेक्चर है जो विविध डेटा स्रोतों और अवशिष्ट भौतिक शिक्षण (residual physical learning) को एक एकीकृत न्यूरल नेटवर्क फ्रेमवर्क में एकीकृत करता है ताकि भौतिक बाधाओं का सख्ती से पालन करते हुए उच्च सटीकता के साथ आंशिक विभेदक समीकरणों (partial differential equations) को कुशलतापूर्वक हल किया जा सके।

मूल लेखक: Jiachun Zheng, Yunqing Huang, Nianyu Yi, Yunlei Yang

प्रकाशित 2026-02-02

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Jiachun Zheng, Yunqing Huang, Nianyu Yi, Yunlei Yang

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक रोबोट को यह सिखाने की कोशिश कर रहे हैं कि एक जटिल पाइप सिस्टम के माध्यम से पानी कैसे बहता है। पारंपरिक रूप से, आप रोबोट को भौतिकी (physics) के नियम बताएंगे (जैसे "पानी गायब नहीं हो सकता") और उसे "पेनल्टी पॉइंट्स" की एक सूची देंगे जब भी वह किसी नियम को तोड़ता है। यह मौजूदा AI विधियों का तरीका है, जिन्हें फिजिक्स-इन्फॉर्म्ड न्यूरल नेटवर्क्स (PINNs) कहा जाता है। वे नियमों को प्रयास और त्रुटि (trial and error) के माध्यम से सीखते हैं, इस उम्मीद में कि अंततः वे पेनल्टी पॉइंट्स को शून्य तक ले आएंगे।

यह लेख एक नया, अधिक स्मार्ट तरीका पेश करता है जिसे DataInNet कहा जाता है। केवल रोबोट को नियम मानने के लिए कहने के बजाय, DataInNet उन नियमों को सीधे रोबोट के मस्तिष्क के भीतर ही बना देता है।

यहाँ बताया गया है कि यह कैसे काम करता है, रोजमर्रा के उपमाओं (analogies) का उपयोग करते हुए:

1. पुराने तरीके के साथ समस्या (PINNs)

पुराने तरीके को एक छात्र को गणित की समस्या हल करना सिखाने जैसा समझें, जिसमें उसे केवल अंत में उत्तर कुंजी (answer key) दिखाई जाती है। आप कहते हैं, "यह समीकरण है, और ये सीमा नियम (boundary rules) हैं। यदि आपका उत्तर गलत है, तो आपको कम अंक मिलेंगे।" छात्र को शुरुआत से ही पूरे समाधान का अनुमान लगाना पड़ता है, और लगातार नियमों की जांच करनी पड़ती है। यह धीमा है, और छात्र अक्सर कठिन हिस्सों (जैसे उच्च-आवृत्ति वाली तरंगों या तीखे कोनों) पर अटक जाता है।

2. नया समाधान: DataInNet

लेखक इस "छात्र" को दो विशेषज्ञ सहायकों में विभाजित करने का प्रस्ताव देते हैं जो मिलकर काम करते हैं:

सहायक A: डेटा इंटीग्रेटर (द "फैक्ट-चेकर")
यह एक विशेष नेटवर्क है जिसे विशेष रूप से सभी ज्ञात तथ्यों को रखने के लिए डिज़ाइन किया गया है: शुरुआती स्थितियाँ, सीमाएँ और समस्या का स्रोत।
- उपमा: कल्पना करें कि एक शेफ को एक पहले से बना हुआ सॉस (सीमा की स्थितियाँ/boundary conditions) और सामग्रियों की एक सूची (सोर्स टर्म्स) दी गई है। शेफ यह समझने की कोशिश करने के बजाय कि सॉस का स्वाद कैसा होना चाहिए, डेटा इंटीग्रेटर ही वह सॉस है। यह अनुमान नहीं लगाता; यह बस ज्ञात भौतिक डेटा को रखता है और सुनिश्चित करता है कि वह अंतिम व्यंजन में हमेशा मौजूद रहे।
- नवाचार: पुराने तरीके में, AI को यह सीखना पड़ता था कि "पाइप के किनारे पर, पानी रुक जाता है।" DataInNet में, AI ऐसा बनाया गया है कि यह भौतिक रूप से ऐसा परिणाम आउटपुट नहीं कर सकता जहाँ पाइप के किनारे से पानी बाहर निकल रहा हो। यह संरचनात्मक रूप से असंभव उत्तरों को बाहर कर देता है।
सहायक B: रेसिडुअल लर्नर (द "प्रॉब्लम सॉल्वर")
यह एक मानक न्यूरल नेटवर्क है। अब इसका काम बहुत आसान है। इसे बोरिंग, ज्ञात हिस्सों (जैसे सीमाओं) को सीखने की आवश्यकता नहीं है क्योंकि सहायक A पहले से ही उन्हें संभाल रहा है।
- उपमा: यदि सहायक A ने पहले से ही पिज्जा का क्रस्ट तैयार कर लिया है, तो सहायक B को केवल बीच में टॉपिंग्स लगाने पर ध्यान केंद्रित करने की आवश्यकता है। क्योंकि उसे क्रस्ट को फिर से सीखने में अपनी ऊर्जा बर्बाद करने की आवश्यकता नहीं है, इसलिए वह पूरी तरह से कठिन, अज्ञात हिस्सों पर ध्यान केंद्रित कर सकता है।

3. "ग्लोबल इनपुट" ट्रिक

लेख भी डेटा को AI को खिलाने का एक चतुर तरीका बताता है।

पुराना तरीका (लोकल इनपुट): AI को यह बताना कि, "शुरुआती तापमान को याद रखें, लेकिन केवल तभी जब आप ठीक उस क्षण को देख रहे हों जब समय शुरू होता है (t=0)।" यह एक छात्र को केवल एक किताब का पहला पन्ना दिखाने और फिर पूरी कहानी याद रखने की उम्मीद करने जैसा है।
नया तरीका (ग्लोबल इनपुट): नया तरीका AI को कहता है, "यहाँ हर स्थान और समय के लिए शुरुआती तापमान है, भले ही आप कहानी के बीच में देख रहे हों।" यह छात्र को एक मानचित्र देने जैसा है जो उसे हर जगह से शुरुआती बिंदु दिखाता है। यह AI को बहुत तेज़ी से और अधिक सटीकता से "बड़ी तस्वीर" समझने में मदद करता है।

4. उन्होंने क्या पाया?

लेखकों ने कई कठिन गणितीय समस्याओं (जैसे बहुत तेज़ कंपन करने वाली तरंगें या अजीब आकार के कमरों में गर्मी का फैलना) पर इस नए "दो-सहायक" सिस्टम का परीक्षण किया।

परिणाम: नया सिस्टम पुराने तरीकों की तुलना में बहुत अधिक सटीक और स्थिर था।
आंकड़े: उच्च-आवृत्ति वाली तरंगों (जो आमतौर पर AI के लिए पकड़ना कठिन होता है) से जुड़ी कुछ बहुत कठिन समस्याओं के लिए, नए तरीके ने त्रुटियों को अविश्वसनीय रूप से सूक्ष्म स्तरों (लगभग 10 लाख में से 1) तक कम कर दिया।

सारांश

संक्षेप में, DataInNet खेल को "AI, कृपया उत्तर का अनुमान लगाओ और नियमों को तोड़ने की कोशिश मत करो" से बदलकर "AI, यहाँ नियमों का ढांचा आपके स्ट्रक्चर के भीतर ही बना हुआ है; अब बस छूटे हुए हिस्सों को भर दो" में बदल देता है। ज्ञात तथ्यों (जैसे सीमाओं और शुरुआती बिंदुओं) को सीधे नेटवर्क के आर्किटेक्चर में हार्ड-वायर करके, AI का काम बहुत छोटा और आसान हो जाता है, जिससे तेज़ और अधिक सटीक समाधान प्राप्त होते हैं।

तकनीकी सारांश: आंशिक अवकल समीकरणों (PDEs) को हल करने के लिए डेटा-एकीकृत न्यूरल नेटवर्क

समस्या विवरण
डीप न्यूरल नेटवर्क (DNNs) आंशिक अवकल समीकरणों (PDEs) को हल करने के लिए एक प्रमुख उपकरण बन गए हैं, फिर भी वे निरंतर चुनौतियों का सामना करते हैं, विशेष रूप से "स्पेक्ट्रल बायस" (निम्न-आवृत्ति घटकों को उच्च-आवृत्ति घटकों से पहले सीखने की प्रवृत्ति) और प्रशिक्षण अस्थिरता। जबकि फिजिक्स-इन्फॉर्म्ड न्यूरल नेटवर्क (PINNs) इन समस्याओं को संबोधित करने का प्रयास करते हैं, जिसमें भौतिक नियमों को लॉस फंक्शन में सॉफ्ट कंस्ट्रेंट्स के रूप में एम्बेड किया जाता है, वे अक्सर कम संख्यात्मक सटीकता और ज्ञात भौतिक घटकों को शून्य से सीखने की कठिनाई के साथ संघर्ष करते हैं। विशेष रूप से, PINNs सोर्स टर्म्स, प्रारंभिक स्थितियों और सीमा स्थितियों को लॉस फंक्शन में केवल पेनल्टी टर्म्स के रूप में देखते हैं, जिससे नेटवर्क को अज्ञात समाधान के साथ-साथ इन ज्ञात भौतिक घटकों को भी सीखना पड़ता है।

कार्यप्रणाली: DataInNet आर्किटेक्चर
इन सीमाओं को दूर करने के लिए, लेखक डेटा-इंटीग्रेटेड न्यूरल नेटवर्क (DataInNet) का प्रस्ताव करते हैं। पारंपरिक PINNs के विपरीत, DataInNet समस्या को इस तरह से पुनर्गठित करता है कि ज्ञात भौतिक डेटा (सोर्स टर्म्स, प्रारंभिक स्थितियाँ, और सीमा स्थितियाँ) को केवल लॉस फंक्शन पेनल्टी पर निर्भर रहने के बजाय सीधे नेटवर्क आर्किटेक्चर में एकीकृत किया जाता है।

यह आर्किटेक्चर दो अलग-अलग सब-नेटवर्क्स से बना है:

डेटा इंटीग्रेशन न्यूरल नेटवर्क ( $u^d_{nn}$ ): यह नेटवर्क विशेष रूप से विभिन्न प्रकार के भौतिक डेटा को स्वीकार करने और फ्यूज करने के लिए डिज़ाइन किया गया है। यह एक मल्टी-ब्रांच पैरेलल स्ट्रक्चर का उपयोग करता है जहाँ विशिष्ट शाखाएँ ( $Q_{n,i}$ ) लर्नबल वेट्स और गेटिंग मैकेनिज्म के माध्यम से विशिष्ट डेटा प्रकारों (सोर्स टर्म $f$ , प्रारंभिक स्थिति $I$ , या सीमा स्थिति $B$ ) को शामिल करती हैं। ये शाखाएँ एक इंट्रिन्सिक फीचर लर्निंग ब्रांच ( $G_n$ ) के साथ एलिमेंट-वाइज मल्टीप्लिकेशन के माध्यम से परस्पर क्रिया करती हैं। यह नेटवर्क स्वाभाविक रूप से उन फंक्शन क्लासेस को बाहर कर देता है जो ज्ञात भौतिक बाधाओं का उल्लंघन करती हैं, जिससे समाधान खोज स्थान (solution search space) प्रभावी रूप से संकुचित हो जाता है। बड़े परिमाण वाले डेटा (जैसे, उच्च-आवृत्ति सोर्स टर्म) को संभालने के लिए, एक नॉर्मलाइजेशन रणनीति लागू की जाती है।
ऑक्सिलरी न्यूरल नेटवर्क ( $u_{nn}$ ): एक मानक फुली कनेक्टेड नेटवर्क जिसे डेटा इंटीग्रेशन नेटवर्क द्वारा कैप्चर नहीं किए गए शेष भौतिक सूचना को सीखने का कार्य सौंपा गया है।

अंतिम सन्निकटन (approximation) इन दो घटकों का योग है: $u^*_{nn} = u_{nn} + u^d_{nn}$ । मॉडल को एक लॉस फंक्शन को कम करके प्रशिक्षित किया जाता है जो इस संयुक्त आउटपुट के विरुद्ध PDE के रेसिड्यूल और बाउंड्री/इनिशियल कंडीशंस को मापता है।

संख्यात्मक प्रयोगों में हाइलाइट किया गया एक प्रमुख पद्धतिगत नवाचार ग्लोबल-इनपुट स्ट्रैटेजी है। प्रारंभिक स्थिति डेटा को केवल $t=0$ पर फीड करने (लोकल-इनपुट) के बजाय, DataInNet प्रारंभिक और सीमा स्थितियों को पूरे स्पैटियोटेम्पोरल डोमेन पर परिभाषित क्षेत्रों के रूप में मानता है। यह मॉडल को प्रशिक्षण के दौरान प्रत्येक आंतरिक बिंदु पर वैश्विक भौतिक बाधाओं को समझने की अनुमति देता है, जिससे अभिसरण (convergence) और सटीकता में काफी सुधार होता है।

प्रमुख योगदान
पेपर तीन प्राथमिक योगदानों को रेखांकित करता है:

डेटा इंटीग्रेशन आर्किटेक्चर: एक नवीन प्रतिमान (paradigm) जो भौतिक पूर्ववृत्तों (सोर्स टर्म्स, इनिशियल/बाउंड्री कंडीशंस) को लॉस फंक्शन में सॉफ्ट कंस्ट्रेंट्स के बजाय सीधे नेटवर्क संरचना में एम्बेड करके आगे बढ़ता है।
सॉल्यूशन स्पेस का न्यूनीकरण: ज्ञात बाधाओं को संरचनात्मक रूप से एम्बेड करके, यह विधि स्वाभाविक रूप से उन समाधानों को बाहर कर देती है जो भौतिक नियमों का उल्लंघन करते हैं। यह अनुकूलन प्रक्रिया को व्यवहार्य फंक्शन क्लासेस पर केंद्रित करता है, जिससे सटीकता, कम्प्यूटेशनल दक्षता और सामान्यीकरण (generalization) में वृद्धि होती है।
ड्यूल-ब्रांच स्ट्रक्चर: ज्ञात जानकारी (जिसे डेटा इंटीग्रेशन नेटवर्क द्वारा संभाला जाता है) और अज्ञात रेसिड्यूल जानकारी (जिसे ऑक्सिलरी नेटवर्क द्वारा संभाला जाता है) का स्पष्ट पृथक्करण ज्ञात भौतिकी और खोजे जाने वाले समाधान के बीच सहयोगात्मक शिक्षण की सुविधा प्रदान करता है।

संख्यात्मक परिणाम
लेखकों ने कई चुनौतीपूर्ण PDEs पर DataInNet का मूल्यांकन किया, जिसमें प्रदर्शन की तुलना मानक PINNs और विभिन्न नेटवर्क कॉन्फ़िगरेशन (मॉड्यूल्स की संख्या, ट्रेनिंग पॉइंट्स, और एक्टिवेशन फंक्शन्स) से की गई:

हीट इक्वेशन: यह प्रदर्शित किया कि ग्लोबल-इनपुट स्ट्रैटेजी, लोकल-इनपुट स्ट्रैटेजी की तुलना में काफी कम त्रुटि (सापेक्ष $L_2$ एरर $\approx 2.98 \times 10^{-4}$ ) देती है, जो डोमेन के इंटीरियर में बाधाओं को प्रसारित करने में विफल रही थी।
पॉइसन इक्वेशन (2D और 3D): इसने शार्प पीक्स और हाई-फ्रीक्वेंसी घटकों वाली समस्याओं को सफलतापूर्वक हल किया। शार्प पीक वाले 2D पॉइसन इक्वेशन पर, DataInNet ने अधिकतम एब्सोल्यूट एरर $1.77 \times 10^{-3}$ प्राप्त किया, जबकि PINNs वेरिएशन को कैप्चर करने में विफल रहे। 3D हाई-फ्रीक्वेंसी मामलों में, सापेक्ष $L_2$ एरर $1.93 \times 10^{-3}$ तक पहुँचा।
हेल्महोल्ट्ज़ इक्वेशन: इसने $3.23 \times 10^{-6}$ की सापेक्ष $L_2$ एरर प्राप्त की, जो हाई-फ्रीक्वेंसी रिजीम्स में PINNs की तुलना में बेहतर प्रदर्शन प्रदर्शित करती है।
वेव इक्वेशन: इसने हाई-फ्रीक्वेंसी घटकों ( $O(10^{-5})$ सापेक्ष $L_2$ एरर) वाले समाधानों को सफलतापूर्वक अनुमानित किया, जिसमें सिग्मॉइड एक्टिवेशन फंक्शन इस विशिष्ट मामले के लिए इष्टतम सिद्ध हुआ।

सभी प्रयोगों में, डेटा इंटीग्रेशन नेटवर्क में मॉड्यूल्स की संख्या और ट्रेनिंग पॉइंट्स की संख्या बढ़ाने से सटीकता में लगातार सुधार हुआ। एक्टिवेशन फंक्शन (जैसे, $\sin(x)$ , $\tanh(x)$ , $\sigma(x)$ ) का चयन समस्या-निर्भर पाया गया, जिसका कोई एक सार्वभौमिक रूप से इष्टतम फंक्शन नहीं था।

महत्व और दावे
पेपर का दावा है कि DataInNet भौतिक डेटा का लाभ उठाने के लिए एक "नवीन दृष्टिकोण" प्रदान करता है, जो पेनल्टी-आधारित प्रतिमान से आर्किटेक्चरल इंटीग्रेशन प्रतिमान की ओर स्थानांतरित होता है। लेखक दावा करते हैं कि यह विधि समाधान खोज स्थान को काफी हद तक संकुचित करती है, जिससे पारंपरिक PINs में सामान्य ऑप्टिमाइजेशन चुनौतियों को कम किया जा सकता है। परिणाम बताते हैं कि DataInNet कठिन समस्याओं, जिनमें हाई-फ्रीक्वेंसी सॉल्यूशंस और जटिल ज्योमेट्री (जैसे, L-शेप्ड डोमेन) शामिल हैं, पर बेहतर प्रदर्शन करता है। लेखक निष्कर्ष निकालते हैं कि हालांकि यह विधि प्रभावी है, भविष्य का कार्य अधिक कुशल डेटा इंटीग्रेशन विधियों को विकसित करने और और भी चुनौतीपूर्ण परिदृश्यों में इसकी प्रयोज्यता का आकलन करने पर केंद्रित होगा। वे विनम्रतापूर्वक नोट करते हैं कि जब सभी भौतिक डेटा (सोर्स, इनिशियल, बाउंड्री) स्थिर होते हैं, तो DataInNet का फुली कनेक्टेड न्यूरल नेटवर्क से कोई आवश्यक अंतर नहीं होता है।