🤖 AI

A Neural Operator-Based Approach to Symbolic Discovery of PDEs

यह शोध पत्र NOMTO को प्रस्तुत करता है, जो एक नवीन ढांचा है जो गैर-स्थानीय ऑपरेटरों (nonlocal operators), सहायक क्षेत्र युग्मन (auxiliary field couplings) और टेम्पोरल मेमोरी प्रभावों वाले जटिल प्रणालियों के लिए संक्षिप्त गवर्निंग समीकरणों की खोज करने हेतु प्रीट्रेंड न्यूरल ऑपरेटर्स को सिम्बोलिक आर्किटेक्चर में एकीकृत करता है, जिससे स्थानीय डेरिवेटिव्स तक सीमित पारंपरिक विधियों की सीमाओं को दूर किया जा सके।

मूल लेखक: Sergei Garmaev, Olga Fink

प्रकाशित 2026-06-23

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Sergei Garmaev, Olga Fink

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक जासूस हैं जो यह पता लगाने की कोशिश कर रहे हैं कि एक जटिल प्रणाली (system) के व्यवहार को नियंत्रित करने वाली गुप्त नियम-पुस्तिका (rulebook) क्या है। भौतिकी (physics) में, यह "नियम-पुस्तिका" आमतौर पर एक गणितीय समीकरण होती है। लंबे समय से, वैज्ञानिक समीकरण खोजने के लिए डेटा-संचालित तरीकों का उपयोग करते आए हैं, लेकिन वे एक दीवार से टकरा गए: उनके उपकरण केवल स्थानीय (local) जानकारी पर आधारित नियमों को समझ सकते थे।

"स्थानीय" को ऐसे समझें जैसे स्क्रीन पर एक सिंगल पिक्सेल को देखना। आप देख सकते हैं कि वह पिक्सेल लाल है या नीला, और आप देख सकते हैं कि उसके बगल वाला पिक्सेल अलग है या नहीं। लेकिन आप पूरी तस्वीर नहीं देख सकते या यह नहीं समझ सकते कि स्क्रीन के एक कोने में होने वाला बदलाव दूसरे कोने को कैसे प्रभावित करता है। कई वास्तविक दुनिया की प्रणालियाँ (जैसे कि किसी पदार्थ में गर्मी कैसे फैलती है या भीड़ कैसे चलती है) गैर-स्थानीय (non-local) जानकारी पर निर्भर करती हैं—जहाँ एक बिंदु पर क्या होता है वह पूरे सिस्टम पर निर्भर करता है, न कि केवल उसके निकटतम पड़ोसियों पर।

यह शोध पत्र एक नए जासूसी उपकरण को पेश करता है जिसे NOMTO (Neural Operator-based symbolic Model approximaTion and discOvery) कहा जाता है। यह कैसे काम करता है, इसके लिए सरल उपमाओं (analogies) का उपयोग किया गया है:

समस्या: "केवल-स्थानीय" शब्दकोश

पारंपरिक तरीके समीकरण खोजने के लिए एक ऐसे लेखक की तरह हैं जो केवल "यहाँ" और "अब" के शब्दों वाले शब्दकोश का उपयोग करके कहानी लिखने की कोशिश कर रहा है। वे "गेंद दाईं ओर चलती है" या "पानी गर्म हो जाता है" जैसे वाक्य तो लिख सकते हैं, लेकिन वे "गेंद इसलिए चलती है क्योंकि तीन मील दूर हवा चल रही है" या "पानी का तापमान इस बात पर निर्भर करता है कि एक घंटे पहले क्या हुआ था" जैसे वाक्य लिखने में संघर्ष करते हैं।

यदि अंतर्निहित भौतिकी में गैर-स्थानीय (non-local) प्रभाव (जैसे लंबी दूरी के बल) या स्मृति (memory) (जहाँ अतीत वर्तमान को प्रभावित करता है) शामिल हैं, तो ये पुराने उपकरण विफल हो जाते हैं क्योंकि उनके पास इसे वर्णित करने के लिए "शब्द" नहीं होते।

समाधान: NOMTO के "स्मार्ट टूलबॉक्स"

NOMTO इसे हल करने के लिए एक जासूस को "प्री-ट्रेन्ड स्मार्ट टूलबॉक्स" का एक सेट प्रदान करके समाधान करता है।

प्रशिक्षण चरण (The Pre-Training Phase): विशिष्ट मामले को सुलझाने से पहले, जासूस विशेषज्ञों (Neural Operators) को कुछ कठिन कार्यों में महारत हासिल करने के लिए काम पर रखता है।
- एक विशेषज्ञ सीखता है कि "फ्रैक्शनल डिफ्यूजन" (गर्मी फैलने का एक जटिल तरीका) की गणना कैसे की जाए।
- दूसरा सीखता है कि "पॉइसन समीकरणों" (इलेक्ट्रिक या ग्रेविटेशनल फील्ड कैसे परस्पर क्रिया करते हैं) को कैसे हल किया जाए।
- तीसरा "वंशानुगत स्मृति" (hereditary memory) सीखता है (कि कैसे एक सामग्री अपने अतीत को याद रखती है)।
- एक बार जब ये विशेषज्ञ प्रशिक्षित हो जाते हैं, तो उन्हें फ्रीज (frozen) कर दिया जाता है। वे निश्चित, विश्वसनीय उपकरण बन जाते हैं जिन्हें जासूस उपयोग कर सकता है, लेकिन जासूस को यह सीखने की आवश्यकता नहीं है कि वे कैसे काम करते हैं।
खोज चरण (The Discovery Phase): अब, जासूस (NOMTO) एक "सिंबोलिक ग्राफ" बनाता है। इसे एक फ्लोचार्ट या रेसिपी की तरह समझें।
- जासूस के पास बुनियादी सामग्रियों (जैसे जोड़, गुणा और डेरिवेटिव लेना) की एक लाइब्रेरी है।
- महत्वपूर्ण रूप से, जासूस स्मार्ट टूलबॉक्स का उपयोग सामग्रियों के रूप में भी कर सकता है।
- जासूस विभिन्न संयोजनों को आजमाता है: "शायद उत्तर 2 गुना इनपुट है, प्लस 'फ्रैक्शनल डिफ्यूजन' टूलबॉक्स का आउटपुट?" या "शायद यह स्ट्रेन (strain) पर लागू 'मेमोरी' टूलबॉक्स है?"
- सिस्टम यह पता लगाने के लिए गणित का उपयोग करता है कि कौन सा संयोजन डेटा के साथ सबसे अच्छा फिट बैठता है और वास्तव में किन "सामग्रियों" की आवश्यकता है। यह अनावश्यक चीजों को हटा देता है, जिससे एक साफ, सरल समीकरण बचता है।

परिणाम: तीन कठिन मामलों को सुलझाना

लेखकों ने NOMTO का परीक्षण तीन प्रकार की "असंभव" पहेलियों पर किया जिन्हें पुराने उपकरण हल नहीं कर सके:

फ्रैक्शनल डिफ्यूजन (Fractional Diffusion): कल्पना कीजिए कि पानी में स्याही की एक बूंद फैल रही है, लेकिन सामान्य तरीके से नहीं—यह एक "धुंधले" (fuzzy), लंबी दूरी के पैटर्न में फैलती है। पुराने उपकरण इसे वर्णित नहीं कर सके। NOMTO ने सफलतापूर्वक पहचान लिया कि इस नियम में एक विशिष्ट "गैर-स्थानीय" ऑपरेटर शामिल था, और सटीक फॉर्मूला खोज निकाला।
यूलर-पॉइसन सिस्टम (The Euler-Poisson System): एक ऐसी भीड़ की कल्पना करें जहाँ प्रत्येक व्यक्ति की गति पूरी भीड़ के घनत्व (density) पर निर्भर करती है, न कि केवल उनके बगल वाले व्यक्ति पर। इसके लिए एक छिपे हुए "फील्ड" समीकरण को हल करने की आवश्यकता होती है। NOMTO ने पता लगाया कि गति के नियम में एक "पॉइसन-ग्रेडिएंट" टूल शामिल था, प्रभावी रूप से यह कहते हुए, "गति वैश्विक घनत्व क्षेत्र (global density field) पर निर्भर है।"
वंशानुगत विस्कोइलास्टिसिटी (Hereditary Viscoelasticity): कल्पना कीजिए कि च्युइंग गम का एक टुकड़ा है। वह कैसे वापस अपनी स्थिति में आता है, यह न केवल इस पर निर्भर करता है कि आप अभी उसे कितनी जोर से खींच रहे हैं, बल्कि इस पर भी कि आपने अतीत में उसे कैसे खींचा था। यह "टेम्पोरल मेमोरी" है। NOMTO ने उस नियम को खोजा जिसमें एक "मेमोरी इंटीग्रल" टूल शामिल था, और सही ढंग से पहचाना कि सामग्री का तनाव (stress) उसके पूरे इतिहास पर निर्भर करता है।

यह क्यों महत्वपूर्ण है

शोध पत्र का दावा है कि NOMTO ब्लैक-बॉक्स AI (जो भविष्यवाणी करने में बहुत अच्छा है लेकिन समझाने में बुरा है) और सिंबोलिक डिस्कवरी (जो समझाने में बहुत अच्छा है लेकिन दायरे में सीमित है) के बीच के अंतर को पाटता है।

जटिल, सीखे गए AI मॉडलों को फिक्स्ड, रियूजेबल बिल्डिंग ब्लॉक्स (जैसे पहले से बने लेगो ब्रिक्स) के रूप में उपयोग करके, NOMTO उन प्रणालियों के लिए शासी नियम (governing laws) खोज सकता है जो पहले पहुंच से बाहर थे। यह केवल यह भविष्यवाणी नहीं करता कि क्या होगा; यह वास्तविक गणितीय नियम लिखता है, भले ही उस नियम में पूरे सिस्टम को देखना या अतीत को याद रखना शामिल हो।

संक्षेप में: NOMTO एक ऐसी प्रणाली है जो प्री-ट्रेन्ड AI विशेषज्ञों को अपनी शब्दावली के रूप में उपयोग करके जटिल, लंबी दूरी और स्मृति-निर्भर प्रणालियों के लिए "भौतिकी के नियम" लिख सकती है।

तकनीकी सारांश: प्रतीकात्मक खोज (Symbolic Discovery) के लिए एक न्यूरल ऑपरेटर-आधारित दृष्टिकोण

समस्या विवरण
प्रतीकात्मक मॉडल खोज (symbolic model discovery) के मौजूदा तरीके, जैसे कि इक्वेशन लर्नर (EQL) और स्पार्स रिग्रेशन दृष्टिकोण (जैसे PDE-FIND), मौलिक रूप से स्थानीय विश्लेषणात्मक फलनों (local analytical functions) की पुस्तकालयों पर अपनी निर्भरता के कारण सीमित हैं। ये विधियाँ फील्ड मानों, स्थानीय डेरिवेटिव्स और बीजगणितीय संयोजनों सहित पॉइंट-वाइज मात्राओं का उपयोग करके संभावित समीकरणों का निर्माण करती हैं। हालांकि शास्त्रीय आंशिक अवकल समीकरणों (PDEs) के लिए ये प्रभावी हैं, लेकिन ये गैर-स्थानीय अंतःक्रियाओं (nonlocal interactions), इंटीग्रल ऑपरेटर्स, सहायक क्षेत्र समीकरणों (auxiliary field equations), या टेम्पोरल मेमोरी प्रभावों वाले शासी नियमों (governing laws) को खोजने में विफल रहते हैं। कई भौतिक प्रणालियाँ—जैसे कि फ्रैक्शनल डिफ्यूजन, युग्मित क्षेत्र प्रणालियों (coupled field systems), या हेरेडिटरी विस्कोइलास्टिसिटी द्वारा नियंत्रित प्रणालियाँ—ऐसी ऑपरेटरों पर निर्भर करती हैं जो संपूर्ण फंक्शन स्पेस पर कार्य करते हैं, न कि केवल स्थानीय बिंदुओं पर, जिससे वे वर्तमान प्रतीकात्मक खोज फ्रेमवर्क के लिए अप्राप्य हो जाती हैं।

कार्यप्रणाली: NOMTO
लेखक NOMTO (Neural Operator-based symbolic Model approximaTion and discOvery) प्रस्तावित करते हैं, जो एक ऐसा फ्रेमवर्क है जो प्रीट्रेन्ड न्यूरल ऑपरेटर्स को प्रतीकात्मक प्रिमिटिव्स (symbolic primitives) के रूप में शामिल करने के लिए EQL आर्किटेक्चर का विस्तार करता है।

आर्किटेक्चर: NOMTO संभावित समीकरणों को स्पार्स, डिफरेंशिएबल कम्प्यूटेशनल ग्राफ के रूप में दर्शाता है। मानक EQL के विपरीत, जहाँ नोड्स केवल पूर्व-निर्धारित बीजगणितीय या स्थानीय डिफरेंशियल ऑपरेशन्स लागू करते हैं, NOMTO चुनिले नोड्स को प्रीट्रेन्ड न्यूरल ऑपरेटर सरोगेट्स (surrogates) के रूप में कार्यान्वित करने की अनुमति देता है। ये सरोगेट्स डिस्क्रीटाइज्ड फलनों पर कार्य करते हैं और उसी ग्रिड पर डिस्क्रीटाइज्ड ऑपरेटर आउटपुट लौटाते हैं।
सीखने और खोज के बीच अलगाव (Separation of Learning and Discovery): एक मुख्य डिजाइन सिद्धांत ऑपरेटर लर्निंग और समीकरण खोज का पृथक्करण है।
1. प्रीट्रेनिंग (Pretraining): न्यूरल ऑपरेटर्स (विशेष रूप से फूरियर न्यूरल ऑपरेटर्स [FNO], कन्वेशनल न्यूरल ऑपरेटर्स [CNO], और फुली कनेक्टेड न्यूरल नेटवर्क्स [FNN]) को विशिष्ट भौतिक ऑपरेटरों (जैसे फ्रैक्शनल लैपलेसियन, पॉइसन-ग्रेड मैप, हेरेडिटरी मेमोरी इंटीग्रल्स) को अनुमानित करने के लिए स्वतंत्र रूप से प्रशिक्षित किया जाता है। इन सरोगेट्स को इसके बाद फ्रीज (freeze) कर दिया जाता है।
2. प्रतीकात्मक अनुकूलन (Symbolic Optimization): खोज चरण के दौरान, सरोगेट नोड्स स्थिर रहते हैं। अनुकूलन प्रक्रिया केवल कम्प्यूटेशनल ग्राफ में नोड्स को जोड़ने वाले ट्रेन करने योग्य स्केलर वेट्स (weights) को समायोजित करती है।
अनुकूलन रणनीति (Optimization Strategy): यह फ्रेमवर्क तीन चरणों वाले 'कोर्स-टू-स्पार्स' (coarse-to-sparse) प्रतिमान का उपयोग करता है:
1. डेंस ट्रेनिंग (Dense Training): पूरे ग्राफ को स्पर्सिटी बाधाओं के बिना लक्षित डायनेमिक्स को फिट करने के लिए प्रशिक्षित किया जाता है।
2. स्पर्सिफिकेशन (Sparsification): लॉस फंक्शन में $\ell_1$ पेनल्टी जोड़ी जाती है, और संरचना की पहचान करने के लिए एक निश्चित परिमाण से कम वाले वेट्स को हटा दिया जाता है।
3. रीफिटिंग (Refitting): सक्रिय पथों के गुणांकों को परिष्कृत करने के लिए हटाए गए ग्राफ को बिना स्पर्सिटी पेनल्टी के फिर से प्रशिक्षित किया जाता है।
अभिव्यक्ति निष्कर्षण (Expression Extraction): प्रशिक्षण के बाद, नगण्य वेट्स को हटा दिया जाता है, और शेष सक्रिय ग्राफ को एक स्पष्ट प्रतीकात्मक समीकरण में अनुवादित किया जाता है। परिणामी अभिव्यक्ति मानक बीजगणितीय पदों को प्रीट्रेन्ड न्यूरल ऑपरेटर सरोगेट्स के नोटेशन (जैसे $\hat{G}^a_m$ ) के साथ जोड़ती है।

प्रमुख परिणाम
NOMTO का मूल्यांकन तीन अलग-अलग भौतिक प्रणालियों पर किया गया जिनमें गैर-स्थानीय या इतिहास-निर्भर ऑपरेटरों की आवश्यकता थी:

फ्रैक्शनल डिफ्यूजन (Fractional Diffusion): इस प्रणाली में एक फ्रैक्शनल लैपलेसियन ऑपरेटर शामिल है, जो एक गैर-स्थानीय स्थानिक ऑपरेटर है। NOMTO ने सफलतापूर्वक शासी समीकरण $u_t \approx -\hat{\kappa} \hat{G}^a_{L_s}[u]$ को रिकवर किया। FNO-आधारित सरोगेट ने उच्चतम सटीकता (रिलेटिव MSE $9.47 \times 10^{-6}$ ) प्राप्त की और गुणांक $\hat{\kappa} = 1.00$ को सही ढंग से पहचाना।
यूलर-पॉइसन सिस्टम (Euler-Poisson System): यह प्रणाली स्थानीय ट्रांसपोर्ट समीकरणों को एक सहायक पॉइसन समीकरण से प्राप्त गैर-स्थानीय फोर्स टर्म के साथ जोड़ती है। NOMTO ने स्थानीय संवेक (convective) पदों और गैर-स्थानीय पॉइसन-ग्रेड कपलिंग दोनों को रिकवर किया। CNO सरोगेट ने सबसे कम मोमेंटम समीकरण त्रुटि (रिलेटिव MSE $3.245 \times 10^{-4}$ ) प्राप्त की, जबकि सभी आर्किटेक्चर ने प्रतीकात्मक संरचना और गुणांकों को सही ढंग से पहचाना।
हेरेडिटरी विस्कोइलास्टिसिटी (Hereditary Viscoelasticity): इस मामले में एक टेम्पोरल मेमोरी इंटीग्रल के साथ एक कंस्टिट्यूटिव लॉ शामिल है। NOMTO ने सफलतापूर्वक संरचना $\sigma(t) = E\varepsilon(t) + A\hat{G}^a_H[\varepsilon](t)$ की खोज की, जिसमें सभी सरोगेट प्रकारों में उच्च सटीकता के साथ इंस्टेंटेनियस इलास्टिक मॉड्यूलस और मेमोरी एम्प्लीट्यूड को रिकवर किया गया।

इन सभी मामलों में, NOMTO ने संरचनात्मक शुद्धता और गुणांक रिकवरी के मामले में मानक न्यूरल नेटवर्क सरोगेट्स (FNN) को पीछे छोड़ दिया या उनके बराबर प्रदर्शन किया, जो यह दर्शाता है कि प्रीट्रेन्ड ऑपरेटर्स जटिल भौतिक तंत्रों के लिए निष्ठावान प्रतीकात्मक प्रॉक्सी के रूप में कार्य कर सकते हैं।

महत्व और दावे
पेपर का दावा है कि NOMTO "फंक्शन की प्रतीकात्मक खोज" से "ऑपरेटर-वैल्यूड फिजिकल लॉज की प्रतीकात्मक खोज" की ओर एक बदलाव का प्रतिनिधित्व करता है। एक स्पार्स प्रतीकात्मक ग्राफ के भीतर सीखे गए ऑपरेटर्स को एम्बेडेड करके, यह फ्रेमवर्क:

खोज योग्य वर्ग का विस्तार करता है: यह प्रतीकात्मक खोज को स्थानीय डिफरेंशियल लाइब्रेरी से आगे बढ़ाकर गैर-स्थानीय स्थानिक ऑपरेटरों, सहायक-क्षेत्र मैपिंग, और टेम्पोरल मेमोरी प्रभावों वाले शासी नियमों को शामिल करने तक विस्तृत करता है।
व्याख्यात्मकता (Interpretability) बनाए रखता है: न्यूरल नेटवर्क का उपयोग करने के बावजूद, अंतिम आउटपुट एक व्याख्यात्मक प्रतीकात्मक समीकरण रहता है जहाँ गैर-स्थानीय तंत्रों की भूमिका स्पष्ट होती है।
मॉड्यूलरिटी सक्षम करता है: ऑपरेटर लर्निंग और समीकरण खोज का पृथक्करण ऑपरेटर लाइब्रेरी को विभिन्न खोज कार्यों के लिए पुन: उपयोग करने की अनुमति देता है और संभावित भौतिक तंत्रों के चयन के माध्यम से पूर्व भौतिक ज्ञान को शामिल करना सुगम बनाता है।

लेखक सीमाओं को स्वीकार करते हैं, यह नोट करते हुए कि रिकवर किए गए मॉडल की विश्वसनीयता सरोगेट ऑपरेटर्स की सटीकता पर निर्भर करती है और ऑपरेटर लाइब्रेरी का निर्माण अभी भी संभावित भौतिक तंत्रों के संबंध में कुछ डिग्री पूर्व ज्ञान की मांग करता है। हालाँकि, यह कार्य ऑपरेटर लर्निंग के साथ इंटरप्रिटेबल साइंटिफिक मशीन लर्निंग को एकीकृत करने के मार्ग को स्थापित करता है।

समस्या: "केवल-स्थानीय" शब्दकोश

समाधान: NOMTO के "स्मार्ट टूलबॉक्स"

परिणाम: तीन कठिन मामलों को सुलझाना

यह क्यों महत्वपूर्ण है

इसी तरह के और पेपर