🤖 machine learning

Feature Interaction Modeling for Physics-Informed Neural Networks and Neural Operators

यह शोध पत्र वेरिएबल कपलिंग्स (variable couplings) के मॉडलिंग को बढ़ाने के लिए फैक्टराइजेशन मशीनों के फीचर इंटरेक्शन मॉड्यूल्स को फिजिक्स-इन्फॉर्मड न्यूरल नेटवर्क्स और न्यूरल ऑपरेटर्स में एकीकृत करने का प्रस्ताव देता है, जो तीव्र क्रॉस-फील्ड डिपेंडेंसीज़ (cross-field dependencies), शार्प ग्रेडिएंट्स या विच्छेदों (discontinuities) वाले PDEs के लिए सटीकता में महत्वपूर्ण सुधार करता है, जबकि स्मूथ ऑपरेटर लर्निंग कार्यों के लिए सीमित लाभ प्रदान करता है।

मूल लेखक: Quan Gu, Hongxia Liu

प्रकाशित 2026-08-03

📖 7 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Quan Gu, Hongxia Liu

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक कंप्यूटर को यह सिखाने की कोशिश कर रहे हैं कि एक भौतिक प्रणाली (physical system) कैसे व्यवहार करती है, जैसे कि एक धातु की प्लेट में गर्मी कैसे फैलती है, हवा में एक शॉकवेव (shockwave) कैसे लहरें पैदा करती है, या राजमार्ग पर ट्रैफिक जाम कैसे बनता है। वास्तविक दुनिया में, ये चीजें जटिल गणितीय नियमों द्वारा संचालित होती हैं जिन्हें आंशिक अंतर समीकरण (Partial Differential Equations - PDEs) कहा जाता है। दशकों से, इन समीकरणों को हल करना एक ऐसी भूलभुलभुलैया में रास्ता खोजने जैसा रहा है जिसमें आप आंखों पर पट्टी बांधे हुए हैं; आपको एक विस्तृत मानचित्र (ग्रिड) और हर मोड़ के लिए बहुत विशिष्ट निर्देशों की आवश्यकता होती है। लेकिन क्या होगा यदि कंप्यूटर केवल गंतव्य को देखकर ही भूलभुलभुलैया के नियमों को सीख सके? यहीं से "स्मार्ट" न्यूरल नेटवर्क की एक नई पीढ़ी आती है। इन नेटवर्कों को, जिन्हें फिजिक्स-इन्फॉर्म्ड न्यूरल नेटवर्क्स (PINNs) और न्यूरल ऑपरेटर्स के रूप में जाना जाता है, सीधे भौतिकी की भाषा सीखने के लिए डिज़ाइन किया गया है, बिना किसी पहले से बने मानचित्र की आवश्यकता के। वे अविश्वसनीय रूप से शक्तिशाली हैं, लेकिन जब भौतिकी "मेसी" (messy) हो जाती है—जैसे कि जब चर (variables) जटिल तरीकों से आपस में क्रिया करते हैं या जब समाधान के किनारे तीखे और ऊबड़-खाबड़ होते हैं—तो वे कभी-कभी संघर्ष करते हैं।

बड़ा सवाल जो शोधकर्ता पूछ रहे हैं वह यह है: हम इन नेटवर्कों को यह समझने में बेहतर कैसे बना सकते हैं कि समस्या के विभिन्न हिस्से एक-दूसरे से कैसे बात करते हैं? इसे एक ग्रुप प्रोजेक्ट की तरह समझें। यदि आपके पास छात्रों की एक टीम है (चर जैसे समय, स्थान और तापमान), तो एक मानक दृष्टिकोण प्रत्येक छात्र को अपना हिस्सा स्वतंत्र रूप से लिखने के लिए कह सकता है और फिर कागजों को आपस में चिपका सकता है। लेकिन वास्तव में, छात्रों को सबसे अच्छा परिणाम प्राप्त करने के लिए एक-दूसरे के काम को प्रभावित करने और सहयोग करने की आवश्यकता होती है। यह शोध पत्र एक अलग क्षेत्र (रेकमेंडर सिस्टम) से उधार ली गई एक चतुर तकनीक का उपयोग करता है ताकि इन भौतिकी नेटवर्क्स को अधिक प्रभावी ढंग से "सहयोग" करने में मदद मिल सके। इन नेटवर्क्स को यह स्पष्ट रूप से मॉडल करने के लिए मजबूर करके कि कैसे उनके चर एक-दूसरे के साथ इंटरैक्ट करते हैं—जैसे कि समय में बदलाव कैसे स्थान में बदलाव के प्रभाव को बदल सकता है—लेखक एक स्मार्ट, अधिक सटीक भविष्यवक्ता बनाने की आशा करते हैं।

शोध पत्र का बड़ा विचार: नेटवर्क्स को उनके चरों के साथ "डेटिंग" करना सिखाना

इस शोध पत्र के लेखक, क्वान गु और होंगक्सिया लिउ ने इन भौतिकी-सीखने वाले नेटवर्क्स को एक डेटिंग ऐप देने का निर्णय लिया। खैर, एक वास्तविक ऐप नहीं, बल्कि एक गणितीय तंत्र जिसे फैक्टरिज़ेशन मशीन्स (Factorization Machines - FMs) कहा जाता है। डेटा साइंस की दुनिया में, FMs इस बात के लिए प्रसिद्ध हैं कि विभिन्न चीजें आपस में कैसे जुड़ती हैं। उदाहरण के लिए, यदि आप "Sci-Fi" फिल्में और "Action" फिल्में पसंद करते हैं, तो एक मानक सिस्टम केवल उनके स्कोर को जोड़ सकता है। लेकिन एक फैक्टरिज़ेशन मशीन पूछती है, "क्या आप वाकई केवल दोनों के योग की तुलना में Sci-Fi Action फिल्में अधिक पसंद करते हैं?" यह उस विशेष "स्पार्क" (spark) को खोजती है जो दो विशेषताओं के बीच होने वाली क्रिया से उत्पन्न होता है।

शोधकर्ताओं ने पूछा: क्या होगा यदि हम अपने भौतिकी नेटवर्क्स को इन चरों के बीच इस स्पार्क को खोजना सिखाएं? केवल संख्याओं की एक सूची (जैसे $x, y, z$ और $t$ ) खिलाने के बजाय, उन्होंने इन संख्याओं को अलग-अलग "फील्ड्स" में विभाजित किया और नेटवर्क को यह गणना करने के लिए मजबूर किया कि प्रत्येक जोड़ी कैसे एक-दूसरे के साथ इंटरैक्ट करती है, इससे पहले कि वह कोई भविष्यवाणी करे। उन्होंने इन नेटवर्क्स के तीन नए संस्करण बनाए:

FM-PINN: ग्रिड पर विशिष्ट भौतिकी समस्याओं को हल करने के लिए।
FM-Operator: एक नया प्रकार का नेटवर्क जो केवल एक विशिष्ट समाधान नहीं, बल्कि एक प्रणाली के सामान्य "नियमों" को सीखता है।
FM-DeepONet: एक मौजूदा लोकप्रिय नेटवर्क (DeepONet) में इस इंटरैक्शन की शक्ति जोड़ने के लिए किया गया एक बदलाव।

उन्होंने क्या पाया: "उच्च-आयामी" टकरावों का जादू

जब उन्होंने इन नए नेटवर्क्स का परीक्षण किया, तो परिणाम "वाह!" और "हम्म, इतना भी नहीं" का मिश्रण थे।

बड़ी जीत: जब चीजें जटिल होती हैं
नए नेटवर्क तब चमके जब समस्याएं उच्च-आयामी (high-dimensional) और सुचारू (smooth) थीं। कल्पना कीजिए कि आप 4D या 5D स्पेस में तापमान की भविष्यवाणी करने की कोशिश कर रहे हैं (जो असंभव लगता है, लेकिन गणित में, इसका मतलब कई चरों को एक साथ ट्रैक करना है)। इन परिदृश्यों में, चर लगातार एक-दूसरे से टकरा रहे होते हैं। लेखकों ने पाया कि इन इंटरैक्शन को स्पष्ट रूप से मॉडल करने से, FM-PINN ने एक 4D कन्वेक्शन-डिफ्यूजन समस्या पर 43.98% और एक 5D लीनियर एडवेक्शन समस्या पर 55.43% की भारी कमी की। यह ऐसा था जैसे नेटवर्क को चश्मे का एक जोड़ा दे दिया गया हो जो उसे चरों के बीच छिपे संबंधों को देखने में मदद करता है।

शॉक टेस्ट: "ऊबड़-खाबड़" चीजों को संभालना
भौतिकी हमेशा सुचारू नहीं होती; कभी-कभी इसमें तीखे शॉक होते हैं, जैसे कि सोनिक बूम या अचानक लगा ट्रैफिक जाम। लेखकों ने इन समीकरणों पर अपने नेटवर्क्स का परीक्षण किया जो ऐसे तीखे किनारों को बनाते हैं, जैसे कि बर्गर समीकरण (Burgers equation) और बकली-लेवरेट समीकरण (Buckley-Leverett equation) (जो तेल और पानी के मिश्रण को मॉडल करता है)। यहाँ, FM-Operator और FM-DeepONet पूर्ण विजेता थे।

एक पेचीदा "पैरामीट्रिक बर्गर" समस्या (जहाँ तरल का चिपचिपापन बदलता है) पर, नए FM-Operator ने 0.0328 की त्रुटि हासिल की, जबकि मानक DeepONet 0.0794 के साथ संघर्ष कर रहा था। यह 58.61% का सुधार था!
इससे भी अधिक प्रभावशाली बात यह है कि FM-Operator ने यह काम केवल 42,826 पैरामीटर्स (नेटवर्क के "मस्तिष्क कोशिकाएं") के साथ किया, जबकि मानक DeepONet को वही काम करने के लिए 108,161 पैरामीटर्स की आवश्यकता थी। यह एक छोटी, कुशल टीम के एक बड़ी, महंगी टीम से बेहतर प्रदर्शन करने जैसा था।

"इतना भी नहीं" वाला क्षेत्र: सरल और सुचारू
हालाँकि, शोध पत्र सावधानी से यह नोट करता है कि यह हर चीज़ के लिए जादुई समाधान नहीं है। जब समस्याएं सरल, कम-आयामी या बहुत सुचारू थीं (जैसे कि हेल्महोल्ट्ज़ समीकरण या 1D में बुनियादी हीट समीकरण), तो नए नेटवर्क हमेशा नहीं जीते। वास्तव में, कुछ सुचारू समस्याओं पर, मानक नेटवर्क वास्तव में बेहतर थे। लेखक सुझाव देते हैं कि यदि चरों को एक-दूसरे से "बात" करने की बहुत अधिक आवश्यकता नहीं है, तो उन्हें इंटरैक्ट करने के लिए मजबूर करना अनावश्यक शोर और भ्रम पैदा करता है। यह किसी ऐसे व्यक्ति के साथ गहरी बातचीत करने की कोशिश करने जैसा है जो केवल "नमस्ते" कहना चाहता है।

निष्कर्ष: एक विशिष्ट उपकरण, न कि एक सार्वभौमिक समाधान

शोध पत्र निष्कर्ष निकालता है कि ये फीचर इंटरैक्शन मॉड्यूल एक शक्तिशाली उपकरण हैं, लेकिन वे सबसे अधिक उपयोगी तब होते हैं जब भौतिकी की समस्या में अपने हिस्सों के बीच मजबूत, जटिल निर्भरताएं होती हैं। यदि आप उच्च-आयामी सुचारू समस्याओं या जटिल, शॉक-भरे समीकरणों के साथ काम कर रहे हैं, तो इस "इंटरैक्शन लेयर" को जोड़ने से नेटवर्क भौतिकी को बहुत बेहतर तरीके से समझ पाता है, और अक्सर कम पैरामीटर्स के साथ। लेकिन यदि समस्या सरल है या चर स्वतंत्र रूप से कार्य करते हैं, तो मानक दृष्टिकोण अभी भी सही हो सकता है।

लेखकों ने अपने कार्य की तुलना अन्य उन्नत तरीकों से भी की, जैसे कि Shift-DeepONet, जो शॉक्स का पीछा करने के लिए नेटवर्क के "बेसिस फंक्शन्स" को इधर-उधर ले जाने की कोशिश करता है। उन्होंने पाया कि उनका FM-Operator बर्गर समीकरण पर अभी भी अधिक सटीक और कुशल था, जिसने 70% कम पैरामीटर्स का उपयोग करते हुए त्रुटि को 28.0% तक कम कर दिया।

संक्षेप में, यह शोध पत्र सुझाव देता है कि न्यूरल नेटवर्क्स को यह सिखाना कि उनके इनपुट एक-दूसरे के साथ कैसे "डेट" करते हैं, कठिन भौतिकी समस्याओं को हल करने के लिए एक आशाजनक दिशा है, विशेष रूप से उन समस्याओं के लिए जिनमें तीव्र परिवर्तन या कई परस्पर क्रिया करने वाले चर शामिल हैं। यह एक "एक ही समाधान सबके लिए" (one-size-fits-all) वाला समाधान नहीं है, लेकिन सही प्रकार की जटिल भौतिकी के लिए, यह गेम-चेंजर है।

तकनीकी सारांश: फिजिक्स-इन्फॉर्म्ड न्यूरल नेटवर्क्स और न्यूरल ऑपरेटर्स के लिए फीचर इंटरैक्शन मॉडलिंग

समस्या विवरण

पैरामीटराइज्ड आंशिक अवकल समीकरणों (PDEs) को कुशलतापूर्वक और सटीक रूप से हल करना विज्ञान और इंजीनियरिंग में एक मौलिक चुनौती बनी हुई है। पारंपरिक संख्यात्मक विधियाँ पूर्व-निर्धारित मेश (mesh) और समस्या-विशिष्ट स्कीम्स पर निर्भर करती हैं। जबकि फिजिक्स-इन्फॉर्म्ड न्यूरल नेटवर्क्स (PINNs) और न्यूरल ऑपरेटर्स (जैसे, DeepONet, फूरियर न्यूरल ऑपरेटर्स) मेश-फ्री विकल्प प्रदान करते हैं, मौजूदा दृष्टिकोण मुख्य रूप से डोमेन अपघटन (domain decomposition), स्पेक्ट्रल फैक्टराइजेशन, या इनपुट एनकोडिंग (जैसे, फूरियर फीचर्स) पर केंद्रित हैं। एक महत्वपूर्ण अंतराल इनपुट फीचर्स के बीच स्वयं की अंतःक्रियाओं (interactions) को मॉडल करने में बना हुआ है। हालांकि टेंसर डिकंपोजिशन (CP, Tucker) क्रॉस-फीचर इंटरैक्शन के महत्व की ओर संकेत करते हैं, मानक आर्किटेक्चर अक्सर इनपुट को बिना स्पष्ट रूप से युग्मित किए (pairwise couplings) केवल एक कंकैटिनेटेड वेक्टर के रूप में देखते हैं। यह उच्च-आयामी PDEs और उन समस्याओं के लिए विशेष रूप से सीमित है जहाँ तीव्र ग्रेडिएंट या विच्छिन्नता (discontinuities) होती है जहाँ वेरिएबल कपलिंग मजबूत होती है।

कार्यप्रणाली

लेखक फैक्टरइजेशन मशीन्स (FMs) से व्युत्पन्न फीचर इंटरैक्शन मॉड्यूल को PINNs और न्यूरल ऑपरेटर्स में एम्बेड करने का प्रस्ताव देते हैं। मुख्य तंत्र बाय-इंटरैक्शन पूलिंग (bi-interaction pooling) लेयर है, जो इनपुट के सिमेंटिक फील्ड्स के बीच युग्व युग्मवार (pairwise) अंतःक्रियाओं को स्पष्ट रूप से मॉडल करती है।

सैद्धांतिक प्रेरणा

यह दृष्टिकोण बहुभिन्नीय फलनों (multivariate functions) के द्वितीय-क्रम टेलर विस्तार (second-order Taylor expansion) से प्रेरित है। एक लक्षित फलन $g(F)$ जो फील्ड ब्लॉक्स $F = (F_1, \dots, F_M)$ पर निर्भर है, उसमें क्रॉस-फील्ड हेसियन टर्म्स $\sum_{i<j} \delta F_i^\top H_{ij} \delta F_j$ शामिल होते हैं। प्रस्तावित बाय-इंटरैक्शन ब्लॉक, जिसे $z_{BI} = \sum_{i<j} e_i \odot e_j$ (जहाँ $e_i$ फील्ड एम्बेडिंग हैं और $\odot$ हैडामर्ड उत्पाद है) के रूप में परिभाषित किया गया है, स्पष्ट रूप से इन मिश्रित-ब्लॉक उत्पादों का निर्माण करता है। यह एक इंडक्टिव बायस (inductive bias) प्रदान करता है जो PDE समाधान मैनिफोल्ड की स्थानीय संरचना के साथ संरेखित होता है, विशेष रूप से जहाँ क्रॉस-कोऑर्डिनेट या सेंसर-क्वेरी निर्भरताएं महत्वपूर्ण होती हैं।

प्रस्तावित आर्किटेक्चर

पेपर तीन विशिष्ट आर्किटेक्चर पेश करता है:

FM-PINN:
- संरचना: प्रत्येक कोऑर्डिनेट घटक (जैसे, $x, t$ या $x_1, \dots, x_D$ ) को एक अलग सिमेंटिक फील्ड के रूप में मानता है।
- तंत्र: प्रत्येक फील्ड को एक साझा लेटेंट स्पेस में एम्बेड किया जाता है, और एमएलपी डिकोडर (MLP decoder) में पास किए जाने से पहले बाय-इंटरैक्शन पूलिंग के माध्यम से युग्व अंतःक्रियाओं को एकत्रित किया जाता है।
- लक्ष्य: स्पैटियो-टेम्पोरल वेरिएबल इंटरैक्शन को स्पष्ट रूप से कैप्चर करना, जिससे स्मूथ, हाई-ऑर्डर और हाई-डायमेंशनलal PDEs के लिए सन्निकटन (approximation) में सुधार होता है।
FM-Operator:

* **संरचना:** एक सीधा ऑपरेटर आर्किटेक्चर (नॉन-ब्रांच-ट्रंक) जो सेंसर इनपुट फंक्शन्स ( $s$ ), क्वेरी कोऑर्डिनेट्स ( $y$ ), समरी स्टैटिस्टिक्स ( $q(s)$ ), और फिजिकल पैरामीटर्स ( $\eta$ ) को अलग-अलग फील्ड्स के रूप में मानता है।
* **तंत्र:** यह इनपुट फंक्शन और क्वेरी लोकेशन के बीच क्रॉस-ग्रुप इंटरैक्शन को मॉडल करता है। भविष्यवाणी (prediction) एक एमएलपी पाथ (जो पूल्ड क्रॉस-फील्ड प्रोडक्ट्स पर संचालित होता है) और एक लीनियर पाथ (जो रॉ फर्स्ट-ऑर्डर इफेक्ट्स को बनाए रखता है) को जोड़ती है।
* **लक्ष्य:** सेंसर वैल्यूज और क्वेरी कोऑर्डिनेट्स कैसे संयुक्त रूप से समाधान को निर्धारित करते हैं, इसे मॉडल करके नॉनलीन कंजर्वेशन लॉ और शार्प ग्रेडिएंट या विच्छिन्नता वाली समस्याओं को संभालना।

FM-DeepONet:
- संरचना: मानक DeepONet फ्रेमवर्क में फीचर इंटरैक्शन ब्लॉक को इंजेक्ट करता है।
- तंत्र: यह ब्रांच फीचर्स ( $b$ ), ट्रंक फीचर्स ( $\phi$ ), सेंसर स्टैटिस्टिक्स और पैरामीटर्स से बना एक फील्ड सेट बनाता है। इंटरैक्शन ब्लॉक इन फीचर्स को रिफाइन करता है, जिससे सुधार टर्म्स ( $\Delta b, \Delta \phi$ ) उत्पन्न होते हैं जिन्हें अंतिम इनर-प्रोडक्ट प्रोजेक्शन से पहले मूल फीचर्स में वापस जोड़ा जाता है।
- लक्ष्य: ब्रांच फीचर्स, ट्रंक फीचर्स और सहायक इनपुट्स के बीच युग्व अंतःक्रियाओं को अनुमति देकर मानक ब्रांच-ट्रंक फैक्टराइजेशन को बेहतर बनाना।

प्रमुख योगदान

फैक्टरइजेशन मशीन्स का एकीकरण: यह कार्य रिकमेंडेशन सिस्टम्स (FMs/NFMs) से बाय-इंटरैक्शन तंत्र को निरंतर PDE इनपुट्स के लिए अनुकूलित करता है, जो PI-MFM जैसे हालिया सिम्बोलिक या एक्सप्रेशन-आधारित तरीकों से परे जाता है।
स्पष्ट अंतःक्रिया मॉडलिंग: मानक कंकैटिनेशन के विपरीत, प्रस्तावित आर्किटेक्चर स्थानिक निर्देशांकों, समय, सेंसर वैल्यूज और भौतिक मापदंडों के बीच युग्व संबंधों को स्पष्ट रूप से मॉडल करते हैं।
तीन नवीन आर्किटेक्चर: FM-PINN, FM-Operator, और FM-DeepONet का विकास, जो विभिन्न PDE सॉल्विंग प्रतिमानों में फीचर इंटरैक्शन के लिए एक एकीकृत रणनीति प्रदान करता है।
पैरामीटर दक्षता: FM-Operator, मानक DeepONet (लगभग 108K) और Shift-DeepONet (लगभग 141K) की तुलना में काफी कम पैरामीटर्स (लगभग 43K) के साथ बेहतर सटीकता प्राप्त करता है।

प्रयोगात्मक परिणाम

FM-PINN बनाम PINN

उच्च-आयामी स्मूथ समस्याएं: FM-PINN मल्टी-डायमेंशनल स्मूथ PDEs पर पर्याप्त सटीकता लाभ प्रदर्शित करता है। उदाहरण के लिए, इसने वैनिला PINN की तुलना में 2D कन्वेक्शन-डिफ्यूजन पर रिलेटिव $L_2$ एरर को 45.69%, 4D लीनियर एडवेक्शन पर 63.26%, और 5D लीनियर एडवेक्शन पर 55.43% कम कर दिया।
सीमाएं: यह विधि 1D समस्याओं (जहाँ कोई क्रॉस-कोऑर्डिनेट पेयर्स नहीं होते) और डार्सी (Darcy) एवं रिएक्शन-डिफ्यूजन जैसी विशिष्ट 2D समस्याओं पर असंगत या नकारात्मक लाभ दिखाती है। यह रेसिड्यूल-आधारित ट्रेनिंग के तहत शॉक-डोमिनेटेड 1D बर्गर्स समीकरणों से जुड़ी ऑप्टिमाइज़ेशन कठिनाइयों को स्वाभाविक रूप से हल नहीं करता है, हालांकि यह स्मूथ 4D बर्गर्स वेरिएंट्स पर अच्छा प्रदर्शन करता है।

न्यूरल ऑपरेटर्स (FM-Operator और FM-DeepONet)

शॉक और विच्छिन्नता हैंडलिंग: FM-Operator और FM-DeepONet शॉक वाली विशिष्ट नॉनलीन कंजर्वेशन लॉ (जैसे, Buckley-Leverett, Cubic Conservation, LWR, Parametric Burgers) पर उत्कृष्ट प्रदर्शन करते हैं। FM-Operator ने DeepONet की तुलना में पैरामेट्रिक बर्गर्स पर एरर को 54.37% और क्यूबिक कंजर्वेशन पर 38.06% कम किया। हालांकि, विधि सभी नॉनलीन मामलों में कोई सुसंगत लाभ नहीं देती है; विशेष रूप से, यह कुरामोटो-सिवाशिंस्की (Kuramoto–Sivashinsky) समीकरण पर मानक DeepONet से कम प्रदर्शन करती है, जहाँ DeepONet सबसे कम एरर प्राप्त करता है।
Shift-DeepONet के साथ तुलना: विस्कस बर्गर्स समीकरण ( $\nu=0.001$ ) पर, FM-Operator ने लगभग 70% कम पैरामीटर्स का उपयोग करते हुए Shift-DeepONet की तुलना में 28.0% कम मीन एरर प्राप्त किया।
स्मूथ बेंचमार्क: स्मूथ ऑपरेटर लर्निंग कार्यों (जैसे, Helmholtz, Heat, Poisson) पर लाभ कम सुसंगत है। DeepONet अक्सर लो-डायमेंशनल स्मूथ समस्याओं पर FM वेरिएंट्स से बेहतर प्रदर्शन करता है, जो बताता है कि इंटरैक्शन तंत्र तब सबसे अधिक मूल्यवान होता है जब मजबूत क्रॉस-फील्ड डिपेंडेंसी मौजूद होती है।
एब्लेशन स्टडीज (Ablation Studies):
- Split बनाम Non-Split: क्वेरी कोऑर्डिनेट्स को अलग-अलग फील्ड्स में विभाजित करने से न्यूनतम अंतर मिला, जो सुझाव देता है कि सेंसर-क्वेरी इंटरैक्शन, क्वेरी-क्वेरी इंटरैक्शन की तुलना में अधिक महत्वपूर्ण हैं।
- पैरामीटर काउंट: DeepONet की क्षमता को कम करने से FM-Operator के साथ सटीकता का अंतर कम नहीं हुआ, जो इंगित करता है कि लाभ केवल पैरामीटर काउंट से नहीं, बल्कि इंटरैक्शन स्ट्रक्चर से आता है।
- सांख्यिकी (Statistics): सेंसर स्टैटिस्टिक्स (मीन, स्टैंडर्ड डेविएशन, मैक्स) को मानक DeepONet में जोड़ने से FM मॉडल्स के प्रदर्शन लाभ को पुनरुत्पादित नहीं किया जा सका, जो पुष्टि करता है कि लाभ स्वयं इंटरैक्शन तंत्र से आता है।

महत्व और दावे

पेपर का दावा है कि फीचर इंटरैक्शन मॉडलिंग, उन परिदृश्यों में PDE लर्निंग को बेहतर बनाने का एक सरल और पैरामीटर-कुशल तरीका प्रदान करता है जहाँ इनपुट फंक्शन और क्वेरी लोकेशन के बीच मजबूत निर्भरता होती है।

उपयोगी स्थिति (Conditional Utility): लेखक इस बात पर जोर देते हैं कि यह विधि सार्वभौमिक सुधार नहीं है। यह उच्च-आयामी स्मूथ PDEs (जहाँ क्रॉस-कोऑर्डिनेट कपलिंग पर्याप्त है) और शॉक्स वाले विशिष्ट नॉनलीन कंजर्वेशन लॉ (जहाँ सेंसर वैल्यूज और क्वेरी लोकेशन्स को मूविंग फ्रंट्स को ट्रैक करने के लिए इंटरैक्ट करना चाहिए) के लिए विशेष रूप से प्रभावी है। हालांकि, यह स्मूथ ऑपरेटर लर्निंग बेंचमार्क्स पर कोई सुसंगत लाभ नहीं देती है और विशिष्ट नॉनलीन मामलों जैसे कुरामोटो-सिवाशिंस्की पर विफल हो सकती है।
इंडक्टिव बायस: यह कार्य बाय-इंटरैक्शन ब्लॉक को एक विशिष्ट इंडक्टिव बायस के रूप में स्थापित करता है जो PDE सॉल्यूशन मैनिफोल्ड्स की सेकंड-ऑर्डर संरचना के साथ संरेखित होता है, जो जेनेरिक डीप लर्निंग आर्किटेक्चर के लिए एक लक्षित विकल्प प्रदान करता है।
भविष्य की दिशाएं: पेपर नोट करता है कि वर्तमान परिणाम विशिष्ट बेंचमार्क्स पर आधारित हैं और भविष्य के शोध का सुझाव देता है कि एडेप्टिव फील्ड ग्रुपिंग का पता लगाया जाए ताकि केवल वहीं इंटरैक्शन टर्म्स जोड़े जा सकें जहाँ वे फायदेमंद हों, और यह भी जांचा जाए कि लक्ष्य समाधानों का न्यूमेरिकल रैंक (numerical rank) कब इस आर्किटेक्चर को सेपरेबल या स्टैंडर्ड ऑपरेटर मॉडल्स की तुलना में बेहतर प्रदर्शन करने में मदद करता है।