Modified Wavenumber Analysis Extended to Physics-Informed Neural Networks

तकनीकी सारांश: भौतिकी-सूचित तंत्रिका नेटवर्क (PINNs) तक विस्तारित संशोधित तरंग संख्या विश्लेषण

समस्या विवरण
फिजिक्स-इन्फॉर्म्ड न्यूरल नेटवर्क्स (PINNs) आंशिक अंतर समीकरणों (PDEs) को हल करने के लिए एक बहुमुखी उपकरण के रूप में उभरे हैं, जो प्रशिक्षण प्रक्रिया में भौतिक नियमों को समाहित करते हैं। हालाँकि, उच्च-आवृत्ति वाली तरंग समस्याओं और मल्टीस्केल व्यवस्थाओं में इनका अनुप्रयोग "स्पेक्ट्रल बायस" (spectral bias) से बाधित होता है, जो कम-आवृत्ति वाले घटकों को उच्च-आवृत्ति वाले घटकों की तुलना में अधिक आसानी से सीखने की प्रवृत्ति है। जबकि इन बाधाओं को कम करने के लिए विभिन्न वास्तुशिल्प संवर्द्धन (जैसे, फूरियर फीचर एनकोडिंग, विशिष्ट सक्रियण कार्य) प्रस्तावित किए गए हैं, PINN सटीकता को मापने के लिए एक कठोर, आवृत्ति-निर्भर मीट्रिक का अभाव है। शास्त्रीय संख्यात्मक विधियों (जैसे, परिमित अंतर योजनाएं/finite difference schemes) के विपरीत, जिनके पास फैलाव (dispersion) और क्षय (dissipation) त्रुटियों को वर्गीकृत करने के लिए संशोधित तरंग संख्या विश्लेषण जैसे स्थापित ढांचे मौजूद हैं, PINNs के पास एक समान नैदानिक उपकरण की कमी है। यह अंतराल PINN प्रदर्शन की पारंपरिक विधियों के विरुद्ध व्यवस्थित रूप से तुलना करना या विशिष्ट नेटवर्क घटकों के स्पेक्ट्रल रिज़ॉल्यूशन को समझना कठिन बना देता है।

कार्यप्रणाली
लेखक PINN के लिए स्पेक्ट्रल सटीकता का मूल्यांकन करने हेतु एक मात्रात्मक ढांचा बनाने के लिए शास्त्रीय संशोधित तरंग संख्या विश्लेषण (modified wavenumber analysis) को विस्तारित करते हैं। इस कार्यप्रणाली में तीन मुख्य घटक शामिल हैं:

1. सैद्धांतिक विस्तार: अध्ययन संशोधित तरंग संख्या ($k_{eff}$) की अवधारणा को अनुकूलित करता है, जिसका उपयोग पारंपरिक रूप से परिमित अंतर योजनाओं के विश्लेषण के लिए किया जाता है, ताकि न्यूरल नेटवर्क सन्निकटन (approximations) के लिए इसे लागू किया जा सके। एक आवधिक तरंग फलन (periodic wave function) के लिए, सटीक व्युत्पन्न (derivative) की तुलना PINN आउटपुट से की जाती है। प्रभावी तरंग संख्या को ऑर्थोगोनल प्रोजेक्शन के माध्यम से एक साइनुसोइडल आधार फलन (sinusoidal basis function) में फिट करके निकाला जाता है।
2. स्पेक्ट्रल अपघटन (Spectral Decomposition): गणना की गई $k_{eff}$ को निम्नानुसार विभाजित किया जाता है:
   • फैलाव (Dispersion - $\Re[k_{eff}]$): वास्तविक भाग, जो चरण वेग (phase velocity) त्रुटियों को नियंत्रित करता है।
   • क्षय (Dissipation - $\Im[k_{eff}]$): काल्पनिक भाग, जो आयाम क्षय (amplitude decay) या कृत्रिम डैम्पिंग को नियंत्रित करता है।
     इन मीट्रिक्स को विभिन्न रिज़ॉल्यूशन के बीच तुलना करने के लिए नायक्विस्ट आवृत्ति (Nyquist frequency, $k_{max} = \pi/\Delta x$) के विरुद्ध सामान्यीकृत (normalize) किया जाता है।
3. संख्यात्मक प्रयोग: इस ढांचे को पहले एक आवधिक डोमेन पर शास्त्रीय परिमित अंतर योजनाओं (सेंट्रल डिफरेंस C2, C4, C6 और अपविंड स्कीम्स U1, U2) के विरुद्ध मान्य किया गया है। इसके बाद, इसे निम्नलिखित के प्रभाव का आकलन करने के लिए PINNs पर लागू किया गया है:
   • वास्तुकला (Architecture): नेटवर्क गहराई (2 बनाम 4 परतें) और चौड़ाई (64 बनाम 128 न्यूरॉन्स) में परिवर्तन।
   • सक्रियण कार्य (Activation Functions): मानक हाइपरबोलिक टेंगेंट (tanh) बनाम साइनुसोइडल और टैन-गौसियन (TG) सक्रियणों की तुलना।
   • फूरियर फीचर्स (Fourier Features): इनपुट एनकोडिंग में विभिन्न आवृत्ति मोड ($F = 2, 4, 6$) की संख्या का परीक्षण।

प्रमुख परिणाम
अध्ययन PINNs के स्पेक्ट्रल व्यवहार के संबंध में कई विशिष्ट निष्कर्ष प्रस्तुत करता है:

• ढांचे का सत्यापन: संशोधित तरंग संख्या विश्लेषण ने शास्त्रीय परिमित अंतर योजनाओं (जैसे, शुद्ध रूप से विसरित सेंट्रल डिफरेंस और क्षयकारी अपविंड स्कीम्स) की ज्ञात स्पेक्ट्रल विशेषताओं को सफलतापूर्वक पुनरुत्पादित किया, जिससे एक "ब्लैक-बॉक्स" नैदानिक उपकरण के रूप में इस ढांचे की व्यवहार्यता की पुष्टि हुई।
• गहराई बनाम चौड़ाई: स्पेक्ट्रल रिज़ॉल्यूशन में सुधार के लिए नेटवर्क की चौड़ाई की तुलना में गहराई अधिक प्रभावी है। एक 4-परत वाला नेटवर्क जिसमें 64 न्यूरॉन्स ($4\times64$) थे, ने $k^* \approx 0.6$ के सामान्यीकृत तरंग संख्या तक फैलाव सटीकता बनाए रखी, जबकि एक 2-परत वाले नेटवर्क ($2\times64$) में $k^* \approx 0.45$ पर काफी गिरावट देखी गई।
• सक्रियण कार्य: साइनुसोइडल और टैन-गौसियन (TG) सक्रियणों ने मानक tanh की तुलना में बेहतर स्पेक्ट्रल निष्ठा (fidelity) प्रदर्शित की। जबकि सभी सक्रियण कम आवृत्तियों ($k^* < 0.6$) पर अच्छा प्रदर्शन करते थे, tanh ने उच्च आवृत्तियों पर महत्वपूर्ण विचलन और दोलनशील क्षय दिखाया, जबकि साइनुसोल और TG सक्रियणों ने $k^* \approx 0.6$ तक लगभग शून्य क्षय बनाए रखा।
• फूरियर फीचर संवेदनशीलता: फूरियर मोड ($F$) की संख्या, प्रशिक्षण हानि (training loss) से स्वतंत्र रूप से, सटीकता को महत्वपूर्ण रूप से प्रभावित करती है।
  • $F=4$ ने अधिकांश तरंग संख्याओं में लगभग सटीक समाधान प्रदान किया।
  • $F=2$ और $F=6$ कॉन्फ़िगरेशन उच्च तरंग संख्याओं पर पर्याप्त सटीकता गिरावट का शिकार हुए, बावजूद इसके कि उन्होंने कम प्रशिक्षण हानि प्राप्त की। यह इस बात को रेखांकित करता है कि कम प्रशिक्षण त्रुटि उच्च-आवृत्ति स्पेक्ट्रल सटीकता की गारंटी नहीं देती है।
• प्रशिक्षण दक्षता: फूरियर फीचर्स के समावेश ने प्रशिक्षण अभिसरण (convergence) को काफी तेज कर दिया (लगभग 50 के कारक से), हालांकि इष्टतम सटीकता के लिए मोड की संख्या का सावधानीपूर्वक ट्यूनिंग आवश्यक था।

महत्व और दावे
यह शोध दावा करता है कि यह न्यूरल नेटवर्क सन्निकटन और शास्त्रीय संख्यात्मक विश्लेषण के बीच के सैद्धांतिक अंतर को पाटता है। PINN के लिए एक नैदानिक उपकरण के रूप में संशोधित तरंग संख्या विश्लेषण को स्थापित करके, लेखक निम्नलिखित के लिए एक कठोर, मात्रात्मक ढांचा प्रदान करते हैं:

1. तुलनात्मक विश्लेषण: समकक्ष विश्लेषणात्मक आधारों पर PINN प्रदर्शन की परिमित अंतर और स्पेक्ट्रल विधियों के साथ व्यवस्थित तुलना सक्षम करना।
2. वास्तुशिल्प डिजाइन: तरंग-प्रधान अनुप्रयोगों के लिए नेटवर्क गहराई, सक्रियण कार्यों और फूरियर फीचर मापदंडों के चयन के मार्गदर्शन के लिए आवृत्ति-निर्भर मीट्रिक प्रदान करना।
3. सत्यापन: यह प्रदर्शित करना कि पारंपरिक हानि मीट्रिक (loss metrics) उच्च-आवृत्ति सटीकता की कमियों को छिपा सकते हैं, जिससे PINN वर्कफ़्लो में स्पेक्ट्रल सत्यापन की वकालत की जा सके।

लेखक इस कार्य को सभी समस्याओं के लिए "इष्टतम" PINN वास्तुकला के निश्चित मार्गदर्शक के रूप में नहीं, बल्कि भौतिकी-सूचित शिक्षण के स्पेक्ट्रल व्यवहार को समझने और लक्षणित करने के लिए एक नया विश्लेषणात्मक दृष्टिकोण पेश करने वाले पद्धतिगत योगदान के रूप में प्रस्तुत करते हैं।