MD-PNOP: Equation-Recast Neural Operators for Minimal-Data Extrapolation and PDE Solver Acceleration

तकनीकी सारांश: MD-PNOP – न्यूनतम-डेटा एक्सट्रपलेशन और PDE सॉल्वर त्वरण के लिए इक्वेशन-रिकैस्ट न्यूरल ऑपरेटर्स

समस्या विवरण
आंशिक अवकल समीकरणों (PDEs) के लिए पारंपरिक संख्यात्मक सॉल्वर, जैसे कि परिमित तत्व (finite element) या परिमित अंतर (finite difference) विधियाँ, बड़े पैमाने के पैरामीट्रिक अध्ययनों और डिज़ाइन अनुकूलन में महत्वपूर्ण कम्प्यूटेशनल बाधाओं का सामना करते हैं। जबकि फिजिक्स-इन्फॉर्म्ड न्यूरल नेटवर्क (PINNs) और न्यूरल ऑपरेटर्स (जैसे DeepONet, FNO) जैसे डेटा-संचालित दृष्टिकोण तेज़ इन्फरेंस (inference) प्रदान करते हैं, वे गंभीर सीमाओं से ग्रस्त हैं:

1. डेटा की कमी और लागत: मजबूत सरोगेट्स (surrogates) को प्रशिक्षित करने के लिए आमतौर पर पूरे पैरामीटर स्पेस को कवर करने वाले विस्तृत डेटासेट की आवश्यकता होती है, जो अक्सर अत्यधिक महंगा होता है।
2. एक्सट्रपलेशन विफलता (Extrapolation Failure): न्यूरल नेटवर्क आम तौर पर उन पैरामीटर व्यवस्थाओं (regimes) में सामान्यीकरण करने में संघर्ष करते हैं जो प्रशिक्षण के दौरान अनदेखी की गई थीं, जिससे सटीकता में गिरावट आती है।
3. भौतिक निरंतरता (Physical Consistency): विशुद्ध रूप से डेटा-संचालित मॉडल अक्सर शासी समीकरणों (governing equations) को सख्ती से लागू करने में विफल रहते हैं, जिससे सुरक्षा-महत्वपूर्ण अनुप्रयोगों (जैसे परमाणु रिएक्टर डिजाइन) में विश्वसनीयता और व्याख्यात्मकता संबंधी चिंताएं उत्पन्न होती हैं।
4. ब्लैक-बॉक्स प्रकृति: मानक प्रशिक्षण पाइपलाइनों में सख्त भौतिक बाधाओं की कमी, निर्णय लेने के लिए सरोगेट भविष्यवाणियों में विश्वास को सीमित करती है।

कार्यप्रणाली: MD-PNOP फ्रेमवर्क
लेखक मिनिमल-डेटा पैरामीट्रिक न्यूरल ऑपरेटर प्रीकंडीशनिंग (MD-PNOP) का प्रस्ताव करते हैं, जो एक हाइब्रिड फ्रेमवर्क है जो पारंपरिक मॉडल-आधारित पुनरावृत्ति सॉल्वरों (iterative solvers) में न्यूरल ऑपरेटर्स को एकीकृत करता है। मुख्य नवाचार एक इक्वेशन-रिकैस्ट रणनीति है जो विक्षोभ सिद्धांत (perturbation theory) से प्रेरित है, जो एक एकल पैरामीटर कॉन्फ़िगरेशन पर प्रशिक्षित न्यूरल ऑपरेटर को बिना पुनः प्रशिक्षण के किसी भी अनदेखे पैरामीटर सेट के साथ समस्याओं को हल करने में सक्षम बनाती है।

कार्यप्रणाली तीन चरणों में आगे बढ़ती है:

1. इक्वेशन रिकैस्ट (पैरामीटर सामान्यीकरण):
   न्यूरल ऑपरेटर को सीधे पैरामीटरों को समाधानों से मैप करने के लिए प्रशिक्षित करने के बजाय, एक नए पैरामीटर सेट $\mathbf{p}$ के लिए शासी समीकरण को एक नाममात्र (nominal) प्रशिक्षण पैरामीटर सेट $\mathbf{p}^*$ के सापेक्ष पुनर्गठित किया जाता है। पैरामीटर अंतर $\Delta\mathbf{p} = \mathbf{p} - \mathbf{p}^*$ को एक विक्षोभ (perturbation) के रूप में माना जाता है। मूल ऑपरेटर $\mathcal{L}(\mathbf{p})$ को प्रशिक्षित ऑपरेटर $\mathcal{L}(\mathbf{p}^*)$ और एक ऑपरेटर अंतर पद $\delta\mathcal{L}(\Delta\mathbf{p})$ में विभाजित किया जाता है।
   समीकरण को इस प्रकार पुनर्गठित किया जाता है:
   $$\mathcal{L}(\mathbf{p}^*)[u(\mathbf{x})] = S(\mathbf{x}) - \delta\mathcal{L}(\Delta\mathbf{p})[u(\mathbf{x})]$$
   यहाँ, पैरामीटर विचलन को दाईं ओर के एक संशोधित स्रोत पद (source term) में समाहित किया जाता है। यह नए पैरामीटर $\mathbf{p}$ के तहत $u(\mathbf{x})$ को पुनरावृत्ति से हल करने के लिए केवल $\mathbf{p}^*$ पर प्रशिक्षित मूल ऑपरेटर का उपयोग करने की अनुमति देता है, जहाँ ऑपरेटर अंतर को एक अतिरिक्त स्रोत के रूप में माना जाता है।

2. न्यूरल ऑपरेटर प्रीकंडीशनिंग (त्वरण):
   पुनर्गठित समीकरण को एक पूर्व-प्रशिक्षित न्यूरल ऑपरेटर $\mathcal{L}_{NO}^{-1}(\mathbf{p}^*)$ को एक तेज़ प्रेडिक्टर के रूप में उपयोग करके पुनरावृत्ति से हल किया जाता है:
   $$u^{(k+1)}(\mathbf{x}) = \mathcal{L}_{NO}^{-1}(\mathbf{p}^*) \left[ S(\mathbf{x}) - \delta\mathcal{L}(\Delta\mathbf{p})[u^{(k)}(\mathbf{x})] \right]$$
   यह पुनरावृत्ति प्रक्रिया एक उच्च-गुणवत्ता वाला प्रारंभिक अनुमान ($u_{NO}$) उत्पन्न करती है जो वास्तविक समाधान के करीब होता है।

3. हाइब्रिड सॉल्वर एकीकरण (सटीकता गारंटी):
   न्यूरल ऑपरेटर भविष्यवाणी $u_{NO}$ का उपयोग अंतिम समाधान के रूप में नहीं किया जाता है। इसके बजाय, यह एक पारंपरिक, उच्च-निष्ठा (high-fidelity) मॉडल-आधारित सॉल्वर (जैसे परिवहन समीकरणों के लिए $S_N$ विधि) के लिए प्रारंभिक अनुमान के रूप में कार्य करता है। मॉडल-आधारित सॉल्वर फिर मूल शासी समीकरणों को संतुष्ट करने वाले सटीक समाधान तक पहुँचने के लिए कुछ पुनरावृत्तियों को निष्पादित करता है।

• सिंपल प्रीकंडीशनिंग (SP): न्यूरल ऑपरेटर पुनरावृत्ति प्रक्रिया के लिए आंतरिक सॉल्वर को पूरी तरह से बदल देता है, जिसमें मॉडल-आधारित सॉल्वर द्वारा एक अंतिम सुधार किया जाता है।
• कंस्ट्रेंड प्रीकंडीशनिंग (CP): जटिल या विषम (heterogeneous) समस्याओं के लिए स्थिरता बढ़ाने के लिए, प्रत्येक आंतरिक पुनरावृत्ति चरण में न्यूरल ऑपरेटर की भविष्यवाणी को नियंत्रित करने के लिए मॉडल-आधारित सॉल्वर को बुलाया जाता है।

प्रमुख योगदान

• न्यूनतम-डेटा प्रशिक्षण: फ्रेमवर्क को केवल एक ही स्थिर पैरामीटर सेट के प्रशिक्षण डेटा की आवश्यकता होती है, जो मानक न्यूरल ऑपरेटर दृष्टिकोणों की तुलना में डेटा अधिग्रहण लागत को काफी कम कर देता है।
• व्यवस्थित एक्सट्रपलेशन: पैरामीटर विविधताओं को स्रोत पदों के रूप में पुनर्गठित करके, यह विधि बिना पुनः प्रशिक्षण के विषम, साइनसोइडल (sinusoidal) और विच्छिन्न (discontinuous) पैरामीटर वितरणों तक व्यवस्थित सामान्यीकरण प्राप्त करती है।
• भौतिक-संगत सटीकता: अंतिम समाधान सख्ती से मॉडल-आधारित सॉल्वर द्वारा उत्पन्न किया जाता है, जो पूर्ण-क्रम निष्ठा (full-order fidelity) और भौतिक नियमों के सख्त पालन को सुनिश्चित करता है, जिससे "ब्लैक-बॉक्स" संबंधी चिंताओं को समाप्त किया जा सके।
• आर्किटेक्चर तटस्थता (Architecture Agnosticism): इस फ्रेमवर्क को DeepONet और FNO दोनों के साथ प्रदर्शित किया गया है, जो यह सिद्ध करता है कि यह विशिष्ट न्यूरल ऑपरेटर आर्किटेक्चर से स्वतंत्र है।

परिणाम
फ्रेमवर्क का मूल्यांकन तीन समस्या प्रकारों में एक आयामी बोल्ट्ज़मैनन ट्रांसपोर्ट समीकरण (न्यूट्रॉन ट्रांसपोर्ट) पर किया गया:

1. फिक्स्ड सोर्स समस्याएं: स्थिर, विषम (साइनसोइडल), और विच्छिन्न क्रॉस-सेक्शन के साथ परीक्षण किया गया, जिसमें वे एनिसोट्रोपिक स्कैटरिंग पद भी शामिल थे जो प्रशिक्षण में मौजूद नहीं थे।
2. सिंगल-ग्रुप आइजनवैल्यू समस्याएं: स्थिर, साइनसोइडल और स्टेप-फंक्शन क्रॉस-सेक्शन प्रोफाइल के साथ परीक्षण किया गया, जिसमें उच्च-डोमिनेंस रेशियो सिस्टम शामिल थे।
3. मल्टीग्रुप कपल्ड आइजनवैल्यू समस्याएं: तीन-ग्रुप सिस्टम के साथ परीक्षण किया गया जिसमें टाइटली कपल्ड स्कैटरिंग और विखंडन (fission) पद थे।

प्रदर्शन मेट्रिक्स:

• सटीकता: सभी परीक्षण मामलों में, हाइब्रिड सॉल्वर (MD-PNOP) ने $10^{-4}$ के क्रम में $L_2$-नॉर्म त्रुटियां प्राप्त कीं, जो बेंचमार्क मॉडल-आधारित सॉल्वर के बराबर हैं। स्टैंडअलोन न्यूरल ऑपरेटर्स ने अनदेखे पैरामीटरों के लिए एक्सट्रपलेशन करते समय काफी अधिक त्रुटियां ($10^{-3}$ से $10^{-2}$) प्रदर्शित कीं।
• कम्प्यूटेशनल दक्षता: MD-PNOP ने स्टैंडअलोन मॉडल-आधारित सॉल्वर की तुलना में कुल कम्प्यूटेशनल समय को लगातार लगभग 50% (मामले के आधार पर ~35% से ~60% तक) कम किया।
  • सरल, होमोजेनियस समस्याओं के लिए, DeepONet-आधारित प्रीकंडीशनिंग ने उच्चतम स्पीडअप (आइजनवैल्यू मामलों के लिए समय में 97% तक की कमी) प्रदान किया।
  • जटिल, विषम समस्याओं के लिए, FNO-आधारित प्रीकंडीशनिंग ने बेहतर सामान्यीकरण और स्थिरता प्रदर्शित की, जो अक्सर सटीकता में DeepONet से बेहतर प्रदर्शन करता है और महत्वपूर्ण स्पीडअप बनाए रखता है।

महत्व और दावे
पेपर का दावा है कि MD-PNOP कम्प्यूटेशनल दक्षता और भौतिक सटीकता के बीच संतुलन बनाकर PDE सॉल्वरों को तेज करने के लिए एक मजबूत रणनीति स्थापित करता है। इसका महत्व इस प्रकार है:

• डेटा बाधा को दूर करना: यह न्यूरल ऑपरेटर्स का उपयोग उन परिदृश्यों में सक्षम बनाता है जहाँ बड़े प्रशिक्षण डेटासेट बनाना असंभव है।
• अंतर को पाटना: यह डेटा-संचालित इन्फरेंस की गति और मॉडल-आधारित सॉल्वरों की विश्वसनीयता के बीच के अंतर को प्रभावी ढंग से पाटता है।
• सामान्यीकरण क्षमता: पुनर्गठित समीकरण का स्वरूप ऑपरेटर स्तर पर परिभाषित है, जो इस फ्रेमवर्क को आर्किटेक्चर-विशिष्ट ट्यूनिंग के बिना व्यापक रेंज के PDEs और पैरामीटर विविधताओं के लिए लागू करने योग्य बनाता है।
• सुरक्षा और विश्वसनीयता: अंतिम समाधान को पारंपरिक सॉल्वर द्वारा प्राप्त करके, यह फ्रेमवर्क व्याख्यात्मकता और सुरक्षा संबंधी चिंताओं को संबोधित करता है, जिससे यह परमाणु रिएक्टर डिजाइन और अनुकूलन जैसे महत्वपूर्ण इंजीनियरिंग अनुप्रयोगों के लिए उपयुक्त बनता है।

लेखक इस बात पर जोर देते हैं कि हालांकि फ्रेमवर्क में ऑपरेटर अंतर (स्रोत पदों) का मूल्यांकन करने के लिए अतिरिक्त गणना शामिल है, लेकिन महंगे स्थानिक स्वीप्स (spatial sweeps) को तेज़ न्यूरल ऑपरेटर इन्फरेंस से बदलने के परिणामस्वरूप कुल 'वॉल-क्लॉक टाइम' में शुद्ध कमी आती है। यह दृष्टिकोण इसे उच्च-निष्ठा सॉल्वरों के विकल्प के रूप में नहीं, बल्कि उन्हें तेज करने के लिए एक शक्तिशाली प्रीकंडीशनिंग टूल के रूप में प्रस्तुत करता है।