🔢 mathematics

Random Neural Network Expressivity for Non-Linear Partial Differential Equations

यह शोध पत्र गैर-रेखीय आंशिक अंतर समीकरणों (non-linear partial differential equations) को हल करने के लिए रैंडम न्यूरल नेटवर्क्स (RaNNs) हेतु कठोर त्रुटि सीमाएं और आयाम-मुक्त सन्निकटन दरें स्थापित करता है, जो पोरस मीडियम (Porous Medium) और कंप्रेसिबल नेवियर-स्टोक्स (Compressible Navier-Stokes) समीकरणों जैसे जटिल प्रणालियों के लिए उनकी सैद्धांतिक और व्यावहारिक प्रभावकारिता को प्रदर्शित करता है।

मूल लेखक: Muhammed Ali Mehmood, Lukas Gonon

प्रकाशित 2026-05-26

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Muhammed Ali Mehmood, Lukas Gonon

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

एक बड़ी तस्वीर: प्रकृति की सबसे कठिन पहेलियों को सुलझाना

कल्पना कीजिए कि प्राकृतिक दुनिया जटिल पहेलियों से भरी है, जैसे कि यह अनुमान लगाना कि एक तूफान कैसे आगे बढ़ेगा, एक स्पंज के माध्यम से गैस कैसे बहेगी, या हवा में एक शॉकवेव (shockwave) कैसे यात्रा करेगी। वैज्ञानिक इन पहेलियों को समझाने के लिए पार्शियल डिफरेंशियल इक्वेशन्स (PDEs) का उपयोग करते हैं। ये गणितीय रेसिपी (recipes) हैं जो हमें बताती हैं कि समय और स्थान के साथ चीजें कैसे बदलती हैं।

सरल पहेलियों के लिए, हमारे पास उन्हें हल करने के लिए मानक उपकरण होते हैं। लेकिन जटिल, नॉन-लीनियर (non-linear) पहेलियों के लिए (जैसे अशांत हवा या बहती हुई गैस), ये पारंपरिक उपकरण अक्सर विफल हो जाते हैं या उन्हें गणना करने में बहुत अधिक समय लगता है।

हाल के वर्षों में, वैज्ञानिकों ने इन पहेलियों को हल करने के लिए आर्टिफिशियल न्यूरल नेटवर्क (एक प्रकार का AI) का उपयोग करना शुरू कर दिया है। एक न्यूरल नेटवर्क को एक विशाल, लचीली लेगो (Lego) संरचना के रूप में सोचें। लेगो के बीच के कनेक्शनों को समायोजित करके, यह संरचना लगभग किसी भी आकार या पैटर्न की नकल करने के लिए सीख सकती है।

समस्या: प्रशिक्षण कठिन और धीमा है

आमतौर पर, किसी न्यूरल नेटवर्क को एक विशिष्ट पहेली हल करने के लिए बनाने के लिए, आपको इसे "प्रशिक्षित" (train) करना पड़ता है। यह एक विशाल ऑर्केस्ट्रा के हर एक वाद्य यंत्र की पिच को एक-एक करके ठीक करने की कोशिश करने जैसा है। इसमें बहुत समय लगता है, बहुत अधिक कंप्यूटर पावर की आवश्यकता होती है, और कभी-कभी ऑर्केस्ट्रा सही धुन खोजने में भी विफल रहता है।

समाधान: "रैंडम" ऑर्केस्ट्रा (RaNNs)

यह शोध पत्र रैंडम न्यूरल नेटवर्क्स (RaNNs) नामक एक चतुर शॉर्टकट पर केंद्रित है।

कल्पना कीजिए कि आपके पास वही विशाल लेगो संरचना है, लेकिन हर कनेक्शन को सावधानी से ट्यून करने के बजाय, आप टुकड़ों को रैंडम तरीके से बिखेर देते हैं और उन्हें अपनी जगह पर लॉक कर देते हैं। केवल अंतिम "आउटपुट नॉब्स" (अंत में स्थित वेट्स/weights) ही वे चीज़ें हैं जिन्हें आप समायोजित करने की अनुमति दी जाती हैं।

उपमा (Analogy): एक पियानो के बारे में सोचें जहाँ तार और हथौड़े बेतरतीब ढंग से रखे गए हैं और स्थिर हैं। आप तारों को बदल नहीं सकते, लेकिन आप संगीत बनाने के लिए कुंजियों (आउटपुट वेट्स) को दबा सकते हैं। आश्चर्यजनक रूप से, यदि आपके पास पर्याप्त तार (नेटवर्क की पर्याप्त "चौड़ाई") हैं, तो आप लगभग कोई भी गाना बजा सकते हैं, भले ही आंतरिक यांत्रिकी रैंडम हो।

लेखकों ने जानना चाहा: क्या यह "रैंडम" दृष्टिकोण वास्तव में कठिन भौतिकी की पहेलियों (नॉन-लीनियर PDEs) को हल कर सकता है, और यह कितना अच्छा है?

मुख्य खोज: गति और सटीकता बिना "श्राप" के

शोधकर्ताओं ने दो मुख्य बातें सिद्ध कीं:

यह जटिल भौतिकी के लिए काम करता है: उन्होंने दिखाया कि ये रैंडम नेटवर्क बहुत कठिन समीकरणों को सटीक रूप से हल कर सकते हैं, विशेष रूप से पोरस मीडियम इक्वेशन (स्पंज के माध्यम से गैस का प्रवाह) और कंप्रेसिबल नेवियर-स्टोक्स इक्वेशन्स (हवा में शॉकवेव्स)।
"जादुई" दर: उन्होंने सिद्ध किया कि जैसे-जैसे आप अधिक रैंडम टुकड़े जोड़ते हैं (नेटवर्क की चौड़ाई $N$ $N$ बढ़ाते हैं), त्रुटि (error) एक स्थिर, अनुमानित दर $1/\sqrt{N}$ की दर से कम होती जाती है।
- उपमा: कल्पना कीजिए कि आप एक शहर के लोगों की औसत ऊंचाई का अनुमान लगाने की कोशिश कर रहे हैं। यदि आप 4 लोगों से पूछते हैं, तो आप काफी गलत हो सकते हैं। यदि आप 100 लोगों से पूछते हैं, तो आप बहुत करीब पहुँच जाते हैं। यदि आप 10,000 लोगों से पूछते हैं, तो आप बहुत करीब होते हैं। यह शोध पत्र सिद्ध करता है कि इन विशिष्ट भौतिकी समस्याओं के लिए, "रैंडम" विधि ठीक इसी गणितीय गति, $1/\sqrt{N}$ , से बेहतर होती है, चाहे समस्या में कितने भी आयाम (variables) क्यों न हों।
- आमतौर पर, अधिक वेरिएबल्स जोड़ने से (जैसे समय, 3D स्पेस, तापमान और दबाव जोड़ना) गणितीय समस्याएं अत्यधिक कठिन हो जाती हैं (जिसे "कर्स ऑफ डायमेंशनैलिटी" कहा जाता है)। यह शोध पत्र दावा करता है कि उनकी विधि इस जाल से बचती है।

उन्होंने इसे कैसे सिद्ध किया: "रिजलेट" (Ridgelet) लेंस

इसे गणितीय रूप से सिद्ध करने के लिए, लेखकों ने रिजलेट ट्रांसफॉर्म (Ridgelet Transform) नामक एक उपकरण का उपयोग किया।

उपमा: कल्पना कीजिए कि आपके पास कागज का एक जटिल, मुड़ा हुआ टुकड़ा है (भौतिकी समीकरण का समाधान)। इसे समझने के लिए, आप इसके माध्यम से एक विशेष प्रकाश डालते हैं (रिजलेट ट्रांसफॉर्म)। यह प्रकाश मुड़े हुए कागज को सरल, सीधी रेखाओं (ridges) में तोड़ देता है।
लेखकों ने दिखाया कि भले ही न्यूरल नेटवर्क के आंतरिक वेट्स रैंडम हों, वे इन "सीधी रेखाओं" की एक बाल्टी की तरह कार्य करते हैं। इन रैंडम रेखाओं को पर्याप्त मात्रा में मिलाकर, आप मुड़े हुए कागज को पूरी तरह से पुनर्गठित कर सकते। उन्होंने सिद्ध किया कि "मुड़ा हुआ कागज" (PDE का समाधान) इस तरह से पुनर्गठित करने के लिए पर्याप्त चिकना (smooth) है।

प्रयोग: क्या यह वास्तविक जीवन में काम करता है?

सिद्धांत महान है, लेकिन क्या यह कंप्यूटर पर काम करता है?

लेखकों ने ऊपर बताए गए दो कठिन समीकरणों पर सिमुलेशन चलाए।

परीक्षण: उन्होंने अलग-अलग आकार (छोटा, मध्यम, बड़ा) के रैंडम नेटवर्क्स का उपयोग करके समीकरणों को हल करने का प्रयास किया।
परिणाम: जैसे-जैसे उन्होंने नेटवर्क्स को बड़ा बनाया, त्रुटि बिल्कुल वैसी ही कम हुई जैसा उनके गणित ने भविष्यवाणी की थी ( $1/\sqrt{N}$ )।
आश्चर्य: उनके गणित के लिए रैंडम नंबरों का एक बहुत ही विशिष्ट, असामान्य वितरण (heavy-tailed) का पालन करना आवश्यक था। हालांकि, अपने कंप्यूटर प्रयोगों में, उन्होंने मानक गॉसियन (बेल कर्व) वितरण का उपयोग किया, जो बहुत अधिक सामान्य और उपयोग में आसान है। विधि फिर भी पूरी तरह से काम कर गई। यह सुझाव देता है कि सिद्धांत मजबूत और व्यावहारिक है।

सारांश

यह शोध पत्र एक "प्रूफ ऑफ कॉन्सेप्ट" है कि रैंडम न्यूरल नेटवर्क्स केवल एक भाग्यशाली अनुमान नहीं हैं। वे ब्रह्मांड के कुछ सबसे जटिल भौतिक समीकरणों को हल करने का एक गणितीय रूप से सुदृढ़ और कुशल तरीका हैं।

पुराना तरीका: मशीन के हर हिस्से को सावधानी से ट्यून करना (धीमा, महंगा)।
नया तरीका: अंदरूनी हिस्से को रैंडम बनाना, केवल बाहरी हिस्से को ट्यून करना (तेज़, सस्ता)।
गारंटी: आप जितने अधिक रैंडम हिस्से जोड़ेंगे, आप सही उत्तर के उतने ही करीब पहुँचेंगे, और यह बहुत उच्च-आयामी, जटिल समस्याओं के लिए भी सच है।

लेखक निष्कर्ष निकालते हैं कि यह विधि उन वैज्ञानिकों के लिए एक शक्तिशाली उपकरण है जिन्हें जटिल प्राकृतिक घटनाओं का अनुकरण करने की आवश्यकता है, बिना कंप्यूटर के गणना पूरी करने के लिए कई दिनों तक प्रतीक्षा किए।

तकनीकी सारांश: गैर-रैखिक आंशिक अवकल समीकरणों के लिए रैंडम न्यूरल नेटवर्क की अभिव्यक्तता (Expressivity)

समस्या विवरण
आंशिक अवकल समीकरण (PDEs), विशेष रूप से पोरस मीडियम इक्वेशन (PME) और कंप्रेसिबल नेवियर-स्टोक्स समीकरण जैसे गैर-रैखिक समीकरण, जटिल भौतिक घटनाओं का मॉडल तैयार करते हैं, लेकिन अक्सर वे ऐसी अव्यवस्थित व्यवहार प्रदर्शित करते हैं जो शास्त्रीय विश्लेषणात्मक और संख्यात्मक दृष्टिकोणों को अव्यवहार्य बना देते हैं। जबकि डीप लर्निंग विधियाँ, विशेष रूप से फिजिक्स-इन्फॉर्म्ड न्यूरल नेटवर्क्स (PINNs), PDEs को हल करने के लिए शक्तिशाली उपकरण के रूप में उभरी हैं, गैर-रैखिक समस्याओं के लिए लॉस लैंडस्केप्स (loss landscapes) अत्यंत जटिल हो सकते हैं। इस समस्या को कम करने के लिए, रैंडम न्यूरल नेटवर्क्स (RaNNs)—जिनमें केवल आउटपुट वेट्स (weights) ही प्रशिक्षित किए जाते हैं और हिडन वेट्स रैंडमली जनरेट किए जाते हैं—को या तो स्टैंडअलोन सॉल्वर या इनिशियलाइजेशन स्कीम के रूप में उपयोग किया जाता है। हालाँकि, इनके व्यावहारिक उपयोग के बावजूद, समय-निर्भर (time-dependent), गैर-रैखिक PDE समाधानों के लिए RaNNs के एप्रोक्सिमेशन गुणों की एक कठोर सैद्धांतिक समझ सीमित है। मौजूदा सैद्धांतिक सीमाएँ अक्सर सख्त धारणाओं (जैसे बैरॉन-रिजलेट नॉर्म्स में परिमितता) पर निर्भर करती हैं या केवल निश्चित समय बिंदुओं पर लागू होती हैं, जो विकासवादी PDEs (evolutionary PDEs) की विशिष्ट सामयिक (temporal) और स्थानिक (spatial) व्यवहारों को पकड़ने में विफल रहती हैं।

कार्यप्रणाली (Methodology)
लेखक समय-निर्भर सोबोलेव स्पेस (Sobolev spaces) के लिए कार्यों की अभिव्यक्तता का विश्लेषण करने हेतु एक सैद्धांतिक ढांचा विकसित करते हैं, जो कई महत्वपूर्ण गैर-रैखिक PDEs के समाधान स्थानों को समाहित करते हैं। मुख्य कार्यप्रणाली में शामिल है:

रिजलेट ट्रांसफॉर्म प्रतिनिधित्व (Ridgelet Transform Representation): पेपर रिजलेट ट्रांसफॉर्म ढांचे को समय-निर्भर सोबोलेव स्पेस में विस्तारित करता है। यह एक फंक्शन $u(t, x)$ को रिजलेट ट्रांसफॉर्म $R_\psi u$ और एक एक्टिवेशन फंक्शन $\sigma$ का उपयोग करके एक इंटीग्रल प्रतिनिधित्व के रूप में स्थापित करता है। यह प्रतिनिधित्व फंक्शन को पैरामीटर स्पेस $(\tau, a, b)$ पर एक इंटीग्रल के रूप में व्यक्त करने की अनुमति देता है।
अनबायस्ड एस्टिमेटर निर्माण (Unbiased Estimator Construction): पैरामीटर्स (जिसमें $\tau$ और $a$ के लिए हेवी-टेल्ड डिस्ट्रीब्यूशन शामिल है) पर एक विशिष्ट प्रोबेबिलिटी डिस्ट्रीब्यूशन $\pi$ को परिभाषित करके, लेखक $u_N$ के रूप में एक RaNN का निर्माण करते हैं जो इंटीग्रल प्रतिनिधित्व का एक अनबायस्ड मोंटे कार्लो एस्टिमेटर है।
प्लैन्चरेल-टाइप अनुमानों के माध्यम से त्रुटि विश्लेषण (Error Analysis via Plancherel-type Estimates): एक प्रमुख तकनीकी चरण एक उच्च-क्रम के प्लैन्चरेल-टाइप अनुमान (लेम्मा 3.3) को व्युत्पन्न करना है। यह लेम्मा कार्टेशियन स्पेस में लक्षित फंक्शन $u$ की सोबोलेव रेगुलैरिटी को पैरामीटर स्पेस में इसके रिजलेट ट्रांसफॉर्म की रेगुलैरिटी से जोड़ता है। यह संबंध एप्रोक्सिमेशन एरर को सीमित करने के लिए महत्वपूर्ण है।
PDE रेसिडुअल्स पर अनुप्रयोग (Application to PDE Residuals): व्युत्पन्न फंक्शन $u$ के एप्रोक्सिमेशन बाउंड्स को PDE रेसिड्यूल लॉस पर प्रसारित किया जाता है। लेखक विश्लेषण करते हैं कि मिश्रित सोबोलेव नॉर्म्स ( $H^p_t H^q_x$ ) में एप्रोक्सिमेशन एरर विशिष्ट गैर-रैखिक PDEs के लिए PINNs के ट्रेनिंग एरर में कैसे परिवर्तित होता है।

प्रमुख योगदान
यह पेपर निम्नलिखित विशिष्ट योगदान देता है:

डायमेंशन-इंडिपेंडेंट एप्रोक्सिमेशन रेट: लेखक पर्याप्त नियमित समय-निर्भर सोबोलेव फंक्शन्स के लिए RaNN एप्रोक्सिमेशन के एरर बाउंड्स व्युत्पन्न करते हैं। वे सिद्ध करते हैं कि एप्रोक्सिमेशन एरर नेटवर्क की चौड़ाई $N$ के सापेक्ष $O(N^{-1/2})$ की दर से घटता है, जो स्थानिक आयाम $d$ से स्वतंत्र है। यह $H^p_t H^q_x$ जैसे मिश्रित सोबोलेव स्पेस के फंक्शन्स के लिए सत्य है, जिसमें केवल न्यूनतम अतिरिक्त सामयिक और स्थानिक रेगुलैरिटी की आवश्यकता होती है।
गैर-रैखिक PDEs के लिए सैद्धांतिक गारंटी: परिणामों को दो महत्वपूर्ण गैर-रैखिक PDEs की श्रेणियों पर लागू किया गया है:
- पोरस मीडियम इक्वेशंस (PME): लेखक दिखाते हैं कि RaNNs, PME समाधानों को उच्च प्रायिकता के साथ एप्रोक्सिमेट कर सकते हैं, जो PINN ट्रेनिंग एरर पर मात्रात्मक सीमाएं प्रदान करते हैं।
- कंप्रेसिबल नेवियर-स्टोक्स इक्वेशंस: फ्रेमवर्क को कंप्रेसिबल नेवियर-स्टोक्स सिस्टम (विशेष रूप से आवर्ती बाउंड्री कंडीशंस के साथ 1D में) के लिए विस्तारित किया गया है, जो यह दर्शाता है कि RaNN-आधारित PINNs उच्च प्रायिकता के साथ ट्रेनिंग रेसिड्यूल को शून्य तक ले जा सकते हैं।
रिजलेट-आधारित प्रतिनिधित्व: कार्य $L^2$ फंक्शन्स के लिए एक विशिष्ट रिजलेट-आधारित प्रतिनिधित्व प्रदान करता है और सोबोलेव रेगुलैरिटी को रिजलेट ट्रांसफॉर्म से जोड़ने वाला एक नया असमानता (inequality) स्थापित करता है, जो RaNN-आधारित लर्निंग के लिए जनरलाइजेशन एरर विश्लेषण के लिए एक संभावित बिल्डिंग ब्लॉक के रूप में कार्य करता है।

परिणाम

सैद्धांतिक सीमाएं (Theoretical Bounds): थ्योरम 3.4 स्थापित करता है कि $u \in H^{p+s_1}(0, T; H^{q+s_2}(D))$ के लिए एक फंक्शन के लिए, एक ऐसा RaNN $u_N$ मौजूद है कि मिश्रित सोबोलेव नॉर्म में अपेक्षित स्क्वेर्ड एरर $C/N$ द्वारा सीमित है, जहाँ $C$ डोमेन, फंक्शन की रेगुलैरिटी और एक्टिवेशन फंक्शन पर निर्भर करता है, लेकिन दर $N^{-1/2}$ डायमेंशन-फ्री है।
संख्यात्मक सत्यापन (Numerical Validation): सैद्धांतिक निष्कर्षों का समर्थन PME (आयाम $d=1$ $d = 1$ से $5$) और 1D कंप्रेसिबल नेवियर-स्टोक्स इक्वेशंस पर संख्यात्मक प्रयोगों द्वारा किया गया है।
- प्रयोगों में फूरियर फीचर एम्बेडिंग्स और गॉसियन-डिस्ट्रीब्यूटेड वेट्स वाले RaNNs का उपयोग किया गया है (यह ध्यान रखते हुए कि सिद्धांत हेवी-टेल्ड डिस्ट्रीब्यूशन मानता है, लेकिन प्रयोग मजबूती का परीक्षण करते हैं)।
- देखे गए कन्वर्जेंस रेट्स संख्यात्मक प्रयोगों में सैद्धांतिक $O(N^{-1/2})$ दर के करीब हैं (उदाहरण के लिए, लॉग-लॉग प्लॉट्स में $-0.47 $से$ -0.58$ के ढलान), जो मानक गॉसियन द्वारा विशिष्ट सैद्धांतिक वेट डिस्ट्रीब्यूशन को बदलने पर भी ऊपरी सीमाओं को मान्य करते हैं।
- परिणाम बताते हैं कि कन्वर्जेंस रेट्स कम रेगुलैरिटी वाले समाधानों (जैसे कि सपोर्ट एड्ज पर नॉन-डिफरेंशिएबल बैरेनblatt प्रोफाइल) के लिए भी लागू हो सकते हैं।

महत्व और दावे
पेपर यह दावा करता है कि वह समय-निर्भर, गैर-रैखिक PDEs के लिए लागू होने वाले RaNNs के लिए पहले कठोर, डायमेंशन-इंडिपेंडेंट एप्रोक्सिमेशन गारंटियों को प्रदान करता है। फिक्स्ड-टाइम विश्लेषण से आगे बढ़कर और मिश्रित सोबोलेव स्पेस को संबोधित करके, यह कार्य RaNN-आधारित PINNs की अनुभवजन्य सफलता और उनके सैद्धांतिक औचित्य के बीच के अंतर को पाटता है। लेखक का तर्क है कि उनके परिणाम जटिल गैर-रैखिक PDEs को सीखने के लिए मात्रात्मक एप्रोक्सिमेशन गारंटी प्रदान करते हैं, जो यह सुझाव देते हैं कि RaNNs बिना एप्रोक्सिमेशन रेट में 'कर्स ऑफ डायमेंशनलिटी' (curse of dimensionality) से ग्रस्त हुए, इन समस्याओं के समाधान को कुशलतापूर्वक एप्रोक्सिमेट करने में सक्षम हैं। यह कार्य RaNNs को केवल एक ह्यूरिस्टिक टूल के रूप में नहीं, बल्कि विकासवादी PDEs के लिए प्रमाणित कन्वर्जेंस गुणों वाली विधियों के रूप में स्थापित करता है।