🔬 physics

Walsh-Hadamard Neural Operators for Solving PDEs with Discontinuous Coefficients

यह शोध पत्र वॉल्श-हाडामार्ड न्यूरल ऑपरेटर (WHNO) को प्रस्तुत करता है, जो फूरियर-आधारित विधियों की सीमाओं को पार करके विच्छिन्न गुणांकों (discontinuous coefficients) वाले आंशिक अंतर समीकरणों को प्रभावी ढंग से हल करने के लिए वॉल्श-हाडामार्ड ट्रांसफॉर्म का उपयोग करने वाला एक नवीन आर्किटेक्चर है, और यह प्रदर्शित करता है कि WHNO को फूरियर न्यूरल ऑपरेटरों के साथ एक एन्सेम्बल में संयोजित करने से तीक्ष्ण इंटरफेस और सुचारू विशेषताओं, दोनों को पकड़ने में काफी बेहतर सटीकता प्राप्त होती है।

मूल लेखक: Giorgio M. Cavallazzi, Miguel Pérez Cuadrado, Alfredo Pinelli

प्रकाशित 2026-05-20

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Giorgio M. Cavallazzi, Miguel Pérez Cuadrado, Alfredo Pinelli

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक कंप्यूटर को यह सिखाने की कोशिश कर रहे हैं कि एक जटिल मशीन के माध्यम से गर्मी कैसे प्रवाहित होती है या पानी के माध्यम से एक शॉकवेव (shockwave) कैसे चलती है। ये वे समस्याएँ हैं जो आंशिक अवकल समीकरणों (Partial Differential Equations - PDEs) द्वारा नियंत्रित होती हैं। आमतौर पर, कंप्यूटर इन्हें हल करने के लिए समस्या को छोटे-छोटे टुकड़ों में तोड़ते हैं और चरण-दर-चरण उत्तर की गणना करते हैं, जो कि बहुत धीमा होता है।

न्यूरल ऑपरेटर्स (Neural Operators) एक प्रकार का नया AI है जिसे इन समीकरणों के "नियमों" को सीखने के लिए डिज़ाइन किया गया है ताकि वे तुरंत उत्तर की भविष्यवाणी कर सकें, जैसे कि एक सुपर-फास्ट शॉर्टकट।

हालाँकि, इसमें एक पेंच है। अधिकांश AI शॉर्टकट एक गणितीय उपकरण पर निर्भर करते हैं जिसे फूरियर ट्रांसफॉर्म (Fourier Transform) कहा जाता है। फूरियर ट्रांसफॉर्म को चिकनी, लहरदार साइन तरंगों (जैसे समुद्र की हल्की लहरें) के एक सेट के रूप में समझें। ये लहरें चिकनी, निरंतर चीजों के लिए बेहतरीन हैं, लेकिन वे तब संघर्ष करती हैं जब समस्या में तीव्र, अचानक बदलाव शामिल हों—जैसे कि नदी में अचानक बर्फ की दीवार का दिखाई देना, या किसी सामग्री का लकड़ी से धातु में तुरंत बदल जाना।

जब आप केवल चिकनी तरंगों का उपयोग करके एक तीखे वर्गाकार किनारे (square edge) को चित्रित करने की कोशिश करते हैं, तो लहरें भ्रमित हो जाती हैं। वे किनारे के पास बेतहाशा "रिंग" करने लगती हैं या कंपन करने लगती हैं, जिससे त्रुटियाँ पैदा होती हैं। गणित में, इसे गिब्स फेनोमेनन (Gibbs phenomenon) कहा जाता है। यह एक वर्गाकार आकृति बनाने के लिए केवल गोल ब्रश का उपयोग करने जैसा है; आपको हमेशा टेढ़े-मेढ़े और लहरदार कोने मिलेंगे।

नया समाधान: वॉल्श-हैडामार्ड न्यूरल ऑपरेटर (WHNO)

लेखकों ने एक नया AI मॉडल पेश किया जिसे WHNO कहा जाता है। चिकनी तरंगों के बजाय, उन्होंने ब्रश को बदलकर आयताकार ब्लॉकों (rectangular blocks) का एक सेट इस्तेमाल किया।

उपमा (Analogy): कल्पना कीजिए कि आप फर्श पर टाइल लगा रहे हैं।
- पुराना तरीका (Fourier) केवल घुमावदार, लहरदार टाइलों का उपयोग करके एक वर्गाकार कमरे को भरने की कोशिश करता है। एक सीधी दीवार बनाने के लिए, आपको हजारों छोटे, घुमावदार टुकड़ों को एक के ऊपर एक रखना पड़ता है, और वे कभी भी पूरी तरह से मेल नहीं खाते।
- नया तरीका (WHNO) वर्गाकार टाइलों का उपयोग करता है। यदि आपको एक सीधी दीवार या एक तीखा कोना चाहिए, तो आप बस वर्गाकार टाइलों को एक के बगल में एक रख देते हैं। यह पूरी तरह से फिट बैठता है, बिना किसी लहरदार किनारों के।

चूंकि कई वास्तविक दुनिया की समस्याओं में अचानक बदलाव शामिल होते हैं (जैसे जमीन में चट्टान की परत या तापमान का अचानक उछाल), इसलिए ये "आयताकार तरंग" वाली टाइलें बिना किसी भ्रमित करने वाले कंपन के सच्चाई को पकड़ने में बहुत बेहतर हैं।

"दोनों दुनियाओं का सर्वश्रेष्ठ" रणनीति (The "Best of Both Worlds" Strategy)

शोधकर्ताओं ने केवल नए तरीके पर ही नहीं रोका। वे समझ गए कि जबकि "वर्गाकार टाइलें" (WHNO) तीखे किनारों के लिए बेहतरीन हैं, "चिकनी तरंगें" (Fourier) अभी भी समस्या के बीच के चिकने, कोमल हिस्सों का वर्णन करने के लिए बहुत अच्छी हैं।

इसलिए, उन्होंने एक टीम-अप (Ensemble) बनाया।

उन्होंने दो अलग-अलग AI को प्रशिक्षित किया: एक वर्गाकार टाइलों वाला (WHNO) और एक चिकनी तरंगों वाला (FNO)।
फिर उन्होंने अपनी भविष्यवाणियों को आपस में मिलाया, जैसे दो रंगों के पेंट को मिलाया जाता है।
उन्होंने प्रत्येक विशिष्ट समस्या के लिए सही "मिश्रण अनुपात" खोजने के लिए एक स्मार्ट परीक्षण प्रक्रिया (cross-validation) का उपयोग किया।

परिणाम:
प्रत्येक परीक्षण में जो उन्होंने चलाया—चाहे वह अजीब आकार की सामग्रियों के माध्यम से गर्मी का संचार हो या तरल पदार्थ के माध्यम से शॉकवेव्स का घूमना हो—मिश्रित टीम ने अकेले काम करने वाले किसी भी AI की तुलना में बेहतर प्रदर्शन किया।

कभी-कभी मिश्रण 57% वर्गाकार टाइलें और 43% चिकनी तरंगें था।
अन्य समय में यह 65% वर्गाकार टाइलें और 35% चिकनी तरंगें था।

यहाँ तक कि उन मामलों में भी जहाँ "वर्गाकार टाइल" वाला AI स्पष्ट रूप से अकेला विजेता नहीं था, "चिकनी तरंग" वाले AI को थोड़ा सा जोड़ने से अंतिम उत्तर अधिक सटीक हो गया।

पेपर के मुख्य निष्कर्ष (Key Takeaways)

उपकरण मायने रखता है: गणितीय "ब्रश" को चिकनी तरंगों से बदलकर आयताकार ब्लॉकों में बदलने से तीखे उछाल वाली समस्याओं के लिए सटीकता में काफी सुधार हुआ, और इससे कंप्यूटर की गति धीमी नहीं हुई।
टीमवर्क जीतता है: दोनों अलग-अलग दृष्टिकोणों (नए आयताकार वाले और पुराने चिकने वाले) को मिलाने से हमेशा सबसे अच्छा परिणाम मिला। दोनों विधियाँ एक-दूसरे की कमजोरियों को दूर करती हैं।
कोई जादू नहीं, सिर्फ गणित: शोधकर्ताओं ने इसे विशिष्ट भौतिकी समस्याओं (ऊष्मा चालन और तरल शॉकवेव्स) पर परखा। उन्होंने यह दावा नहीं किया कि यह चिकित्सा निदान या अन्य असंबंधित क्षेत्रों के लिए काम करता है, बल्कि यह कि इस प्रकार की "तीखे उछाल" वाली भौतिकी समस्याओं के लिए, यह नया संयोजन अब तक का सबसे सटीक तरीका है।

संक्षेप में, पेपर कहता है: यदि आपके पास तीखे किनारों वाली समस्या है, तो केवल पुराने स्मूथ-वेव AI का उपयोग न करें। एक नए ब्लॉक-आधारित AI का उपयोग करें, या और भी बेहतर, ब्लॉक-आधारित AI और स्मूथ-वेव AI को एक टीम के रूप में मिलकर काम करने दें।

तकनीकी सारांश: विच्छिन्न गुणांकों (Discontinuous Coefficients) वाले PDEs को हल करने के लिए वॉल्श-हैडामार्ड न्यूरल ऑपरेटर्स

समस्या विवरण
न्यूरल ऑपरेटर्स पैरामीट्रिक आंशिक अंतर समीकरणों (PDEs) के समाधान ऑपरेटरों को सीखने के लिए शक्तिशाली उपकरण के रूप में उभरे हैं, जो विभिन्न रिज़ॉल्यूशन पर सामान्यीकरण करने वाले डिसक्रेटाइजेशन-इनवेरिएंट सरोगेट्स प्रदान करते हैं। हालाँकि, मानक स्पेक्ट्रल मेथड्स, विशेष रूप से फूरियर न्यूरल ऑपरेटर (FNO), विच्छिन्न गुणांकों या प्रारंभिक स्थितियों वाले PDEs को लागू करने में महत्वपूर्ण सीमाओं का सामना करते हैं। फूरियर आधार (Basis), जो स्मूथ ट्रिगोनोमेट्रिक फलनों से बना होता है, तीक्ष्ण इंटरफेस या स्टेप फंक्शन्स को दर्शाने में गिब्स घटना (Gibbs phenomenon) से ग्रस्त होता है। इसके परिणामस्वरूप दोलनशील आर्टिफैक्ट्स (Oscillatory artifacts), धीमी पॉइंट-वाइज कन्वर्जेंस और भौतिक सीमाओं के पास त्रुटि स्थानीयकरण (Error localization) होता है। ये मुद्दे पोरस मीडिया में सबसरफेस फ्लो (अचानक पारगम्यता परिवर्तन), कंपोजिट्स में थर्मल मैनेजमेंट (तीक्ष्ण चालकता जंप), और फ्लूइड डायनेमिक्स (शॉक वेव्स) जैसे अनुप्रयोगों में अत्यंत महत्वपूर्ण हैं।

कार्यप्रणाली
लेखक एक वॉल्श-हैडामार्ड न्यूरल ऑपरेटर (WHNO) पेश करते हैं, जो एक स्पेक्ट्रल न्यूरल ऑपरेटर आर्किटेक्चर है जो फूरियर ट्रांसफॉर्म के स्थान पर वॉल्श-हैडामार्ड ट्रांसफॉर्म (WHT) का उपयोग करता है।

स्पेक्ट्रल बेसिस (Spectral Basis): FNO के ग्लोबल ट्रिगोनोमेट्रिक बेसिस के विपरीत, WHT आयताकार तरंग फलनों (Rectangular wave functions) के एक ऑर्थोनॉर्मल बेसिस का उपयोग करता है। ये फलन पीसवाइज कांस्टेंट (Piecewise constant) होते हैं, जो उन्हें बिना किसी दोलनशील रिंगिंग के स्टेप डिस्कंटीन्यूइटी को दर्शाने के लिए स्वाभाविक रूप से उपयुक्त बनाता है। WHT पीसवाइज कांस्टेंट फील्ड्स के लिए संकेतों का सटीक अपघटन करता है और आक्रामक स्पेक्ट्रल कम्प्रेशन की अनुमति देता है।
आर्किटेक्चर: WHNO आर्किटेक्चर FNO की संरचना का अनुसरण करता है लेकिन वॉल्श-हैडामार्ड डोमेन में कार्य करता है।
- इनपुट एनकोडिंग: इनपुट फील्ड्स (जैसे चालकता या प्रारंभिक वेग) को एक कांस्टेंट चैनल के साथ संयोजित किया जाता है।
- स्पेक्ट्रल लेयर्स: नेटवर्क का मुख्य भाग स्पेक्ट्रल लेयर्स से बना है जो इनपुट को फास्ट वॉल्श-हैडामार्ड ट्रांसफॉर्म (FWHT) के माध्यम से ट्रांसफॉर्म करते हैं। सीखे जाने योग्य वेट्स (Learnable weights) लो-सीक्वेंसी कोएफिशिएंट्स (FNO में लो-फ्रीक्वेंसी मोड्स के समान) पर लागू किए जाते हैं ताकि ग्लोबल डिपेंडेंसी को कैप्चर किया जा सके। फिर ट्रांसफॉर्म को स्थानिक डोमेन (Spatial domain) में वापस इनवर्ट किया जाता है।
- स्पेशियल रिफाइनमेंट: एक डायलेटेड कनवोल्यूशनल डिकोडर स्पेक्ट्रल फीचर्स को प्रोसेस करता है ताकि डिस्कंटीन्यूइटी पर सूक्ष्म-स्तरीय फीचर्स को हल किया जा सके।
- जटिलता (Complexity): FWHT, FFT की तरह ही $O(n \log n)$ कम्प्यूटेशनल कॉम्प्लेक्सिटी साझा करता है, जिससे यह सुनिश्चित होता है कि WHNO, FNO की तरह ही प्रति-पास एफिशिएंसी बनाए रखता है।
एन्सेम्बल स्ट्रैटेजी (Ensemble Strategy): यह पहचानते हुए कि वॉल्श-हैडामार्ड बेसिस तीक्ष्ण इंटरफेस के लिए उत्कृष्ट है जबकि फूरियर बेसिस स्मूथ क्षेत्रों के लिए कुशल रहता है, लेखक WHNO और FNO के एक वेटेड एन्सेम्बल का प्रस्ताव करते हैं। एन्सेम्बल प्रेडिक्शन को $u_{ensemble} = w \cdot u_{WHNO} + (1-w) \cdot u_{FNO}$ के रूप में परिभाषित किया गया है, जहाँ वेट $w^* \in [0, 1]$ को वैलिडेशन सेट पर मीन स्क्वेर्ड एरर (MSE) को कम करने के लिए फाइव-फोल्ड क्रॉस-वैलिडेशन के माध्यम से निर्धारित किया जाता है।

प्रमुख योगदान

आर्किटेक्चर विकास: WHNO का निर्माण, जो लो-सीक्वेंसी कोएफिशिएंट्स पर कार्य करने वाले लर्नबल वेट्स के साथ वॉल्श-हैडामार्ड स्पेक्ट्रल प्रोसेसिंग को एकीकृत करता है।
विच्छिन्न PDEs पर सत्यापन: दो विशिष्ट समस्याओं पर कठोर परीक्षण:
- हीट कंडक्शन: विच्छिन्न थर्मल चालकता (आयताकार समावेशन) के साथ क्वासी-स्टेडी डिफ्यूजन।
- 2D बर्गर्स इक्वेशन: विच्छिन्न प्रारंभिक स्थितियों (स्क्वायर ब्लॉक्स) के साथ नॉनलीनर एडवेक्शन-डिफ्यूजन।
नियंत्रित तुलना: समान पैरामीटर काउंट (1,553,153 पैरामीटर्स) और समान ट्रेनिंग प्रोटोकॉल के साथ FNO बेसलाइन्स के विरुद्ध हेड-टू-हेड मूल्यांकन।
एन्सेम्बल फ्रेमवर्क: यह प्रदर्शन करना कि एक सरल, क्रॉस-वैलिडेटेड स्केलर वेट जो WHNO और FNO को जोड़ता है, सभी परीक्षणित कॉन्फ़िगरेशन में अकेले किसी भी मॉडल की तुलना में स्पष्ट रूप से बेहतर प्रदर्शन करता है।

परिणाम
अध्ययन ने सात कॉन्फ़िगरेशनों में प्रदर्शन का मूल्यांकन किया: चार हीट कंडक्शन ज्योमेट्री (एक्सिस-अलाइन्ड, रोटेटेड, डिस्क, वोरोनोई) और तीन बर्गर्स इनिशियल कंडीशन फैमिली (ब्लॉक, स्मूथ साइनुसोइडल, ऑब्लिक फ्रंट्स)।

सिंगल-मॉडल प्रदर्शन:
- हीट कंडक्शन समस्या पर, WHNO ने FNO की तुलना में कम MAE और कम $H^1$ (ग्रेडिएंट-MSE) एरर प्राप्त किया। विशेष रूप रूप से, WHNO ने MAE को FNO के $0.01663 \pm 0.00183$ के मुकाबले $0.0153 \pm 0.00097$ तक कम कर दिया।
- बर्गर्स इक्वेशन पर, WHNO ने इसी तरह MAE ($0.00642 $बनाम$ 0.00843 $) और$ H^1$ एरर में FNO को पछाड़ दिया।
- एरर विश्लेषण से पता चला कि FNO की त्रुटियां मटेरियल इंटरफेस (गिब्स घटना) पर केंद्रित थीं, जबकि WHNO की त्रुटियां अधिक समान रूप से वितरित थीं।
- उन कॉन्फ़िगरेशन में जहाँ डिस्कंटीन्यूइटी वॉल्श बेसिस के साथ संरेखित (Aligned) नहीं थी (जैसे रोटेटेड रेक्टेंगल, ऑब्लिक फ्रंट्स), वहाँ $H^1$ मेट्रिक्स में WHNO का सिंगल-मॉडल लाभ कम हो गया या बदल गया, हालांकि इसने अक्सर MAE में बढ़त बनाए रखी।
एन्सेम्बल प्रदर्शन:
- क्रॉस-वैलिडेटेड एन्सेम्बल ने दोनों सिंगल मॉडल्स को लगातार पछाड़ दिया।
- हीट कंडक्शन: अनुकूलतम वेट $w^* = 0.572 \pm 0.016$ था। एन्सेम्बल ने टेस्ट MSE $3.65 \times 10^{-4}$ प्राप्त किया, जो WHNO-ओनली ( $4.71 \times 10^{-4}$ ) और FNO-ओनली ( $5.66 \times 10^{-4}$ ) दोनों से कम है।
- बर्गर्स इक्वेशन: अनुकूलतम वेट $w^* = 0.648 \pm 0.020$ था। एन्सेम्बल MSE $6.6 \times 10^{-5}$ था, जो WHNO-ओनली ( $9.4 \times 10^{-5}$ ) और FNO-ओनली ( $1.59 \times 10^{-4}$ ) से बेहतर है।
- महत्वपूर्ण रूप से, एन्सेम्बल ने उन कॉन्फ़िगरेशन में भी दोनों बेसलाइन्स की तुलना में कम $H^1$ एरर प्राप्त किया जहाँ WHNO अकेले स्पष्ट रूप से FNO को नहीं हरा सका (जैसे डिस्क समावेशन के साथ हीट, ऑब्लिक फ्रंट्स के साथ बर्गर्स)।

महत्व और दावे
पेपर इन निष्कर्षों से दो प्राथमिक सिद्धांतों का दावा करता है:

स्पेक्ट्रल बेसिस मायने रखता है: समान पैरामीटर काउंट पर, विच्छिन्न संरचनाओं वाले PDEs के लिए फूरियर बेसिस को वॉल्श-हैडामार्ड बेसिस से बदलने से, प्रति फॉरवर्ड पास कम्प्यूटेशनल कॉस्ट बढ़ाए बिना, एरर मेट्रिक्स (MAE और $H^1$ ) कम हो जाते हैं।
बेसिस की पूरकता (Complementarity of Bases): वॉल्श-हैडामार्ड और फूरियर रिप्रेजेंटेशन, सॉल्यूशन फील्ड की आंशिक रूप से पूरक विशेषताओं (तीक्ष्ण इंटरफेस बनाम स्मूथ वेरिएशंस) को कैप्चर करते हैं। एक सिंगल क्रॉस-वैलिडेटेड स्केलर वेट के माध्यम से उन्हें संयोजित करने से एक मजबूत तरीका मिलता है जो सभी परीक्षणित समस्या वेरिएंट में फूरियर बेसलाइन में सुधार करता है।

लेखक WHNO+FNO एन्सेम्बल को उन अभ्याविकों (Practitioners) के लिए एक व्यावहारिक, लो-रिस्क रणनीति के रूप में देखते हैं जो पहले से ही विच्छिन्न गुणांकों या प्रारंभिक स्थितियों वाले समस्याओं के लिए फूरियर-आधारित बेसलाइन्स का उपयोग कर रहे हैं, बशर्ते कि वेट ट्यूनिंग के लिए एक वैलिडेशन सेट उपलब्ध हो। कार्य वॉल्श एडवांटेज की सीमाओं को स्वीकार करता है, जिसमें डायैडिक (पावर-ऑफ-टू) ग्रिड की आवश्यकता और डिस्कंटीन्यूइटी की ज्योमेट्री के साथ बेसिस के संरेखण (Alignment) के प्रति संवेदनशीलता शामिल है।

नया समाधान: वॉल्श-हैडामार्ड न्यूरल ऑपरेटर (WHNO)

"दोनों दुनियाओं का सर्वश्रेष्ठ" रणनीति (The "Best of Both Worlds" Strategy)

पेपर के मुख्य निष्कर्ष (Key Takeaways)

इसी तरह के और पेपर