🤖 machine learning

A Zeroth-Order Deep Learning Method for Fully Nonlinear Parabolic Partial Differential Equations with Unknown Coefficients

यह शोध पत्र एक पूर्णतः मॉडल-मुक्त, ज़ीरो-ऑर्डर डीप लर्निंग विधि प्रस्तुत करता है जो डेरिवेटिव्स का अनुमान लगाने के लिए विक्षुब्ध मोंटे कार्लो प्रक्षेप पथों (perturbed Monte Carlo trajectories) का उपयोग करके अज्ञात गुणांकों वाले उच्च-आयामी पूर्णतः गैर-रेखीय परवलयिक PDEs को हल करता है, जिससे ऑटोमैटिक डिफरेंशिएशन की अस्थिरता और स्पष्ट डायनेमिक्स ज्ञान की आवश्यकता से बचा जा सकता है और साथ ही कठोर गैर-एसिम्प्टोटिक त्रुटि सीमाएं (non-asymptotic error bounds) प्रदान की जा सकती हैं।

मूल लेखक: Yanwei Jia, Du Ouyang, Huyên Pham, Xun Yu Zhou

प्रकाशित 2026-06-25

📖 7 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Yanwei Jia, Du Ouyang, Huyên Pham, Xun Yu Zhou

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप मौसम की भविष्यवाणी करने, शेयर बाजार की हलचल को समझने या एक विशाल शहर में यातायात के प्रवाह का अनुमान लगाने की कोशिश कर रहे हैं। गणित की दुनिया में, इन समस्याओं को पार्शियल डिफरेंशियल इक्वेशंस (PDEs) नामक जटिल समीकरणों द्वारा वर्णित किया जाता है।

आमतौर पर, इन समीकरणों को हल करने के लिए, आपको "खेल के सटीक नियमों" (गुणांकों/coefficients) को जानना आवश्यक होता है और आपको यह भी गणना करनी होती है कि चीजें कितनी तेजी से बदल रही हैं (डेरिवेटिव्स)। लेकिन वास्तविक दुनिया में, अक्सर हमें नियम पता नहीं होते। हमारे पास केवल एक "ब्लैक बॉक्स" (Black Box) होता है: एक ऐसी मशीन जो एक इनपुट लेती है (जैसे "यहाँ से शुरू करें") और हमें एक आउटपुट देती है (जैसे "कार यहाँ समाप्त हुई"), लेकिन हमें यह पता नहीं होता कि वह वहाँ कैसे पहुँची।

यह शोध पत्र इन "ब्लैक बॉक्स" गणितीय समस्याओं को हल करने का एक नया तरीका पेश करता है जिसे आर्टिफिशियल इंटेलिजेंस (डीप लर्निंग) का उपयोग करके बनाया गया है, जो विशेष रूप से उच्च-आयामी जटिलता (एक साथ कई वेरिएबल्स) को संभालने के लिए डिज़ाइन किया गया है, बिना अंतर्निहित नियमों को जाने।

यहाँ उनके तरीके का सरल उपमाओं (analogies) का उपयोग करके विवरण दिया गया है:

1. समस्या: "अनुमान और जाँच" का जाल (The "Guess and Check" Trap)

इन समीकरणों को हल करने के लिए वर्तमान AI विधियाँ आमतौर पर इस तरह काम करती हैं:

AI समाधान का अनुमान लगाता है (मौसम का पैटर्न, शेयर की कीमत)।
इसके बाद, यह "ऑटोमैटिक डिफरेंशिएशन" नामक एक गणितीय उपकरण का उपयोग करके यह गणना करने की कोशिश करता है कि वह समाधान कितनी तेजी से बदल रहा है (डेरिवेटिव)।
दोष: यदि AI का अनुमान थोड़ा भी गलत है, तो "परिवर्तन" की गणना बेहद गलत हो जाती है। यह कार की गति मापने के लिए उसकी स्थिति की एक धुंधली फोटो देखने जैसा है; फोटो में मामूली धुंधलापन भी गति की गणना में भारी त्रुटि पैदा कर सकता है। उच्च आयामों (high dimensions) में, यह त्रुटि अनियंत्रित रूप से बढ़ जाती है, जिससे समाधान अस्थिर हो जाता है।

2. समाधान: "प्रतिनिधित्व-फिर-सीखना" (Representing-Then-Learning)

लेखक एक पूरी तरह से अलग रणनीति प्रस्तावित करते हैं जिसे "Representing-Then-Learning" कहा जाता है।

समाधान का अनुमान लगाने और फिर गति को समझने की कोशिश करने के बजाय, वे पहले यह पता लगाते हैं कि गति को कैसा दिखना चाहिए, इसके लिए एक चतुर ट्रिक का उपयोग करते हैं, और फिर AI को उससे मेल खाने के लिए प्रशिक्षित करते हैं।

उपमा: ब्लाइंड टेस्ट (The Blind Taste Test)
कल्पना कीजिए कि आप एक शेफ हैं जो सूप की एक आदर्श रेसिपी सीखने की कोशिश कर रहे हैं, लेकिन आप सामग्री या रेसिपी बुक को देख नहीं सकते (ब्लैक बॉक्स)।

पुराना तरीका: आप सूप का स्वाद लेते हैं, रेसिपी का अनुमान लगाते हैं, और फिर यह गणना करने की कोशिश करते हैं कि यदि आप रेसिपी बदलते तो आपने कितना नमक डाला होता। यह कठिन है और त्रुटियों की संभावना अधिक है।
नया तरीका (ZOD): आप सूप का एक चम्मच लेते हैं। फिर, आप नमक का एक बहुत छोटा चुटकी भर हिस्सा लेते हैं और उसे दूसरे चम्मच में मिलाते हैं। आप दोनों का स्वाद लेते हैं।
- यदि दूसरा चम्मच बहुत अधिक नमकीन लगता है, तो आप जानते हैं कि नमक के प्रति "संवेदनशीलता" (sensitivity) अधिक है।
- यदि यह एक जैसा ही लगता है, तो संवेदनशीलता कम है।
- आप ऐसा नमक की छोटी मात्रा (perturbations) डालकर और यह देखकर करते हैं कि स्वाद (आउटपुट) कैसे बदलता है। आपको नमक के रासायनिक सूत्र को जानने की आवश्यकता नहीं है; आपको बस स्वाद में होने वाले परिवर्तन को देखने की आवश्यकता है।

शोध पत्र में, इसे ज़ीरोथ-ऑर्डर डेरिवेटिव (ZOD) एस्टिमेटर्स कहा गया है। वे डेरिवेटिव की गणितीय गणना नहीं करते; वे इनपुट में थोड़ा सा बदलाव करके यह अनुमान लगाते हैं कि आउटपुट कैसे बदलता है।

3. दो प्रकार के "सिम्युलेटर" (The Two Types of "Simulators")

इसे काम करने के लिए, शोध पत्र ब्लैक बॉक्स के साथ बातचीत करने के दो तरीके परिभाषित करता है, जिन्हें वे सिम्युलेटर कहते हैं:

कमजोर सिम्युलेटर (The Weak Simulator - द रैंडम डाइस): हर बार जब आप सिम्युलेटर से कोई प्रश्न पूछते हैं, तो वह पासे (dice) का एक नया सेट फेंकता है। यदि आप पूछते हैं "क्या होगा यदि मैं बिंदु A से शुरू करूँ?" और फिर "क्या होगा यदि मैं बिंदु A + थोड़ा सा बदलाव से शुरू करूँ?", तो सिम्युलेटर प्रत्येक के लिए पूरी तरह से अलग यादृच्छिक (random) पथों का उपयोग करता है। यह दोनों परिणामों की तुलना करना कठिन बना देता है क्योंकि "शोर" (noise/dice rolls) अलग-अलग होता है।
मजबूत सिम्युलेटर (The Strong Simulator - द फिक्स्ड स्क्रिप्ट): यह "सुपरपावर" वाला संस्करण है। जब आप ऊपर दिए गए दो प्रश्न पूछते हैं, तो सिम्युलेटर दोनों के लिए ठीक उसी यादृच्छिक पथ (एक ही पासे का रोल) का उपयोग करता है, केवल शुरुआती बिंदु को थोड़ा बदलकर।
- यह क्यों महत्वपूर्ण है: क्योंकि यादृच्छिक शोर (random noise) समान है, जब आप दो परिणामों को घटाते हैं, तो शोर पूरी तरह से कट जाता है। आपके पास एक बहुत स्पष्ट तस्वीर बचती है कि शुरुआती बिंदु ने परिणाम को कैसे प्रभावित किया। शोध पत्र दिखाता है कि इस "स्ट्रॉन्ग सिम्युलेटर" का उपयोग करने से सीखना बहुत तेज़ और अधिक सटीक हो जाता है।

4. प्रशिक्षण प्रक्रिया: तीन मस्तिष्क, एक लक्ष्य (Three Brains, One Goal)

AI केवल उत्तर (Value) नहीं सीखता है। यह एक साथ तीन अलग-अलग न्यूरल नेटवर्क को प्रशिक्षित करता है:

वैल्यू नेटवर्क (The Value Network): मुख्य उत्तर सीखता है (जैसे, अंतिम शेयर की कीमत)।
ग्रेडिएंट नेटवर्क (The Gradient Network): पहले डेरिवेटिव को सीखता है (यह कितनी तेजी से बदल रहा है)।
हेसियन नेटवर्क (The Hessian Network): दूसरे डेरिवेटिव को सीखता है (बदलाव की गति कैसे बदल रही है)।

वैल्यू नेटवर्क से अन्य दो को "समझने" के लिए कहने के बजाय, सिस्टम ZOD ट्रिक (स्वाद परीक्षण वाली उपमा) का उपयोग करके ग्रेडिएंट और हेसियन नेटवर्क के लिए "लक्ष्य" (targets) उत्पन्न करता है। फिर इन नेटवर्कों को सीधे उन लक्ष्यों से मेल खाने के लिए प्रशिक्षित किया जाता है।

5. परिणाम

लेखकों ने इन कठिन गणितीय समस्याओं पर परीक्षण किया जिन्हें मानक तरीकों से हल करना आमतौर पर असंभव होता है क्योंकि वे बहुत जटिल (उच्च-आयामी) हैं या नियम अज्ञात हैं (ब्लैक बॉक्स)।

सटीकता (Accuracy): उनके तरीके ने पारंपरिक तरीकों की तुलना में "गति" (डेरिवेटिव्स) को बहुत बेहतर तरीके से सीखा। एक परीक्षण में, पारंपरिक तरीका उनके तरीके की तुलना में दूसरे डेरिवेटिव (Hessian) का अनुमान लगाने में 10 गुना बदतर था।
स्थिरता (Stability): क्योंकि उन्होंने एक अव्यवस्थित अनुमान से डेरिवेटिव की गणना करने पर निर्भर नहीं किया, इसलिए यह विधि क्रैश नहीं हुई या अस्थिर नहीं हुई।
दक्षता (Efficiency): उन्होंने पाया कि "स्ट्रॉन्ग सिम्युलेटर" (जहाँ यादृच्छिक शोर स्थिर रहता है) तक पहुँच होने से सीखने की प्रक्रिया काफी कुशल हो गई।

सारांश

इस शोध पत्र को एक धुंधले, अज्ञात शहर में कार चलाने के लिए रोबोट को सिखाने के एक नए तरीके के रूप में समझें।

पुराना तरीका: रोबोट सड़क का अनुमान लगाता है, फिर गणितीय रूप से स्टीयरिंग एंगल की गणना करने की कोशिश करता है, और अक्सर अत्यधिक संवेदनशील गणित के कारण दुर्घटनाग्रस्त हो जाता है।
नया तरीका: रोबोट धीरे से स्टीयरिंग व्हील को बाएँ और दाएँ घुमाता है, देखता है कि कार का रास्ता कैसे बदलता है, और उन छोटे बदलावों से सीधे स्टीयरिंग के नियमों को सीखता है। वह गति और त्वरण (acceleration) दोनों को एक साथ सीखता है।

यह शोध पत्र गणितीय रूप से सिद्ध करता है कि यह "नज और ऑब्जर्व" (हल्का सा धक्का दें और देखें) वाला दृष्टिकोण काम करता है, भले ही शहर बहुत बड़ा हो और नियम रहस्यमय हों, बशर्ते आप "फिक्स्ड स्क्रिप्ट" (स्ट्रॉन्ग सिम्युलेटर) के साथ सिमुलेशन चला सकें ताकि धुंध को हटाया जा सके।

तकनीकी सारांश: अज्ञात गुणांकों वाले पूर्णतः गैर-रेखीय परवलयिक PDEs के लिए ज़ीरोथ-ऑर्डर डीप लर्निंग

समस्या विवरण
यह शोध पत्र उच्च-आयामी, पूर्णतः गैर-रेखीय परवलयिक आंशिक अवकल समीकरणों (PDEs) को हल करने की चुनौती को संबोधित करता है जहाँ अंतर्निहित ऑपरेटर और गुणांक फलन अज्ञात ("ब्लैक-बॉक्स") होते हैं। ये समीकरण वैज्ञानिक मशीन लर्निंग, निरंतर-समय सुदृढ़ीकरण शिक्षण (विशेष रूप से अज्ञात मापदंडों वाले हैमिल्टन-जैकबी-बेलमैन समीकरणों) और तरल विक्षोभ (fluid turbulence) जैसे जटिल भौतिक प्रणालियों में उत्पन्न होते हैं।

मौजूदा डीप लर्निंग सॉल्वर इस संदर्भ में दो प्राथमिक सीमाओं का सामना करते हैं:

अवशेष-आधारित विधियाँ (जैसे, PINNs, Deep Galerkin): ये अवकल ऑपरेटरों का मूल्यांकन करने के लिए ऑटोमैटिक डिफरेंशिएशन (auto-diff) पर निर्भर करती हैं। उच्च आयामों में, यह अनुकूलन अस्थिरता और अवकल त्रुटियों के प्रवर्धन की ओर ले जाता है। इसके अलावा, वे आमतौर पर "लर्निंग-देन-डिफरेंशिएटिंग" प्रतिमान का पालन करते हैं, जहाँ डेरिवेटिव्स को सीखे गए वैल्यू फंक्शन से पोस्ट-हॉक (post-hoc) गणना किया जाता है, जो यह गारंटी नहीं देता कि डेरिवेटिव्स वास्तविक मानों की ओर अभिसरित (converge) होंगे।
प्रायिकता विधियाँ (जैसे, Deep BSDE, DBDP): ये स्टोकेस्टिक निरूपण (फैनमैन-काक सूत्र) का लाभ उठाती हैं लेकिन आम तौर पर PDE गुणांकों के स्पष्ट ज्ञान की आवश्यकता होती है ताकि अंतर्निहित स्टोकेस्टिक डिफरेंशियल इक्वेशंस (SDEs) को परिभाषित किया जा सके। ये अक्सर उन PDEs तक सीमित होती हैं जो हेसियन (Hessian) के संदर्भ में रेखीय हैं या ब्लैक-बॉक्स वातावरण के लिए विफल हो जाती हैं जहाँ गुणांक सुलभ नहीं होते हैं।

लेखक एक मॉडल-मुक्त, डेटा-संचालित दृष्टिकोण विकसित करने का लक्ष्य रखते हैं जो इन PDEs को हल करता है और साथ ही समाधान, उसके ग्रेडिएंट और उसके हेसियन को सीखता है, बिना ऑपरेटर के कार्यात्मक रूप या उसके डेरिवेटिव्स के ज्ञान के।

कार्यप्रणाली: रिप्रेजेंटिंग-देन-लर्निंग (Representing-Then-Learning)
प्रस्तावित विधि एक "रिप्रेजेंटिंग-देन-लर्निंग" प्रतिमान अपनाती है, जो पारंपरिक "लर्निंग-देन-डिफरेंशिएटिंग" दृष्टिकोण से भिन्न है। मुख्य घटक हैं:

सिमुलेटर फ्रेमवर्क: विधि एक "सिमुलेटर" तक पहुँच मानकर चलती है जो PDE के इन्फिनिटेसिमल जनरेटर के आधार पर स्टोकेस्टिक प्रक्षेपवक्र (trajectories) उत्पन्न करता है। दो सेटिंग्स परिभाषित की गई हैं:
- वीक सिमुलेटर (Weak Simulator): प्रत्येक क्वेरी के लिए स्वतंत्र प्रक्षेपवक्र लौटाता है (i.i.d. ब्राउनियन मोशन)।
- स्ट्रॉन्ग सिमुलेटर (Strong Simulator): प्रारंभिक अवस्थाओं के एक सेट (एक निश्चित "रैंडम सीड") के लिए एक ही अंतर्निहित ब्राउनियन मोशन द्वारा संचालित प्रक्षेपवक्रों का एक परिवार लौटाता है। यह सहसंबंध (correlation) के माध्यम से वेरिएंस रिडक्शन की अनुमति देता है।
अनुमानित वैल्यू इटरेशन (Approximate Value Iteration): गैर-रेखीय PDE को रैखिक PDEs के एक अनुक्रम के माध्यम से हल किया जाता है। प्रत्येक इटरेशन $n$ पर, गैर-रेखीय सोर्स टर्म $f$ का मूल्यांकन वर्तमान अनुमानित वैल्यू ( $V_n$ ), ग्रेडिएंट ( $G_n$ ), और हेसियन ( $H_n$ ) का उपयोग करके किया जाता है। यह समस्या को एक पॉलिसी इवैल्यूएशन कार्य में बदल देता है जिसे फैनमैन-काक सूत्र के माध्यम से हल किया जा सकता है।
ज़ीरोथ-ऑर्डर डेरिवेटिव (ZOD) एस्टिमेटर्स: ऑटो-डिफ का उपयोग करने के बजाय, विधि केवल विचलित बिंदुओं (perturbed points) पर फंक्शन इवैल्यूएशन का उपयोग करके ग्रेडिएंट और हेसियन के लिए स्टोकेस्टिक एस्टिमेटर्स का निर्माण करती है।
- वन-पॉइंट एस्टिमेटर्स: डेरिवेटिव्स का अनुमान लगाने के लिए $x + \epsilon Z$ पर फंक्शन वैल्यू का उपयोग करते हैं। ये बायस्ड (biased) होते हैं लेकिन वीक सिमुलेटर सेटिंग में $\epsilon \to 0$ होने पर अनबाउंडेड वेरिएंस रखते हैं।
- मल्टी-पॉइंट एस्टिमेटर्स: सिमेट्रिक डिफरेंसिंग (जैसे, $f(x+\epsilon Z) - f(x-\epsilon Z)$ ) का उपयोग करते हैं। स्ट्रॉन्ग सिमुलेटर सेटिंग में, ये एस्टिमेटर्स सहसंबद्ध शोर (correlated noise) के रद्द होने के कारण $\epsilon \to 0$ होने पर बाउंडेड वेरिएंस प्राप्त करते हैं, जबकि वे वीक सिमुलेटर सेटिंग में यह लाभ नहीं देते हैं।
कंपोजिट लॉस फंक्शन: एल्गोरिदम तीन न्यूरल नेटवर्क ( $V, G, H$ ) को एक कंपोजिट लॉस को कम करने के लिए संयुक्त रूप से प्रशिक्षित करता है:
- वैल्यू लॉस: नेटवर्क आउटपुट और स्टोकेस्टिक रिवॉर्ड (टर्मिनल कंडीशन + सोर्स टर्म का इंटीग्रल) के बीच मीन स्क्वेर्ड एरर को कम करता है।
- डेरिवेटिव लॉसेस: ग्रेडिएंट/हेसियन नेटवर्क और उनके संबंधित ZOD लक्ष्यों के बीच की दूरी को कम करता है जो विचलित प्रक्षेपवखों (perturbed trajectories) से प्राप्त होते हैं। महत्वपूर्ण रूप से, रिवॉर्ड में सोर्स टर्म $f$ का मूल्यांकन $G$ और $H$ के स्पष्ट आउटपुट का उपयोग करके किया जाता है, न कि उनके ऑटो-डिफरेंशिएटेड समकक्षों का।

मुख्य योगदान

ब्लैक-बॉक्स PDEs के लिए मॉडल-मुक्त फ्रेमवर्क: यह पेपर उन पूर्णतः गैर-रेखीय PDEs को हल करने के लिए एक कठोर फ्रेमवर्क पेश करता है जहाँ गुणांक अज्ञात होते हैं, जो पूरी तरह से सिमुलेटर से प्राप्त प्रक्षेपवक्र डेटा पर निर्भर करता है।
ZOD लर्निंग टारगेट्स के रूप में: यह प्रस्तावित करता है कि डेरिवेटिव नेटवर्क को प्रशिक्षित करने के लिए ZOD एस्टिमेटर्स का उपयोग सीधे लक्ष्यों के रूप में किया जाए। यह "रिप्रेजेंटिंग-देन-लर्निंग" दृष्टिकोण सीखे गए वैल्यू एप्रोक्सिमेशन के डिफरेंशिएशन से होने वाली त्रुटि के प्रसार से बचता है।
PDEs में ZOD का बायस-वेरिएंस विश्लेषण: लेखक PDE समाधान के संदर्भ में ZOD एस्टिमेटर्स के अद्वितीय बायस-वेरिएंस ट्रेडऑफ को स्पष्ट करते हैं। वे प्रदर्शित करते हैं कि जबकि मल्टी-पॉइंट ZODs अनुकूलन में वेरिएंस को कम करते हैं, उनकी प्रभावकारिता PDE समाधान के लिए पूरी तरह से एक स्ट्रॉन्ग सिमुलेटर की उपलब्धता पर निर्भर है ताकि प्रक्षेपवक्रों के बीच सहसंबंध प्रेरित किया जा सके।
सोबोलेव स्पेस (Sobolev Space) में सैद्धांतिक गारंटी: यह पेपर (वेटेड) सोबोलेव स्पेस में दूसरे क्रम के डेरिवेटिव तक मॉडल-मुक्त PDE लर्निंग के लिए पहला नॉन-एसिम्प्टोटिक एरर विश्लेषण प्रदान करता है। कुल त्रुटि को निम्नानुसार विभाजित किया गया है:
- डिस्क्रीटाइजेशन एरर ( $O(N^{-1})$ )।
- एप्रोक्सिमेशन एरर (न्यूरल नेटवर्क एक्सप्रेसिविटी)।
- सांख्यिकीय एरर (सैंपल कॉम्प्लेक्सिटी)।
- ZOD बायस ( $O(\epsilon^4)$ )।
  विश्लेषण सैंपल कॉम्प्लेक्सिटी बाउंड्स स्थापित करता है कि एक स्ट्रॉन्ग सिमुलेटर के तहत, त्रुटि $O((N^{-1} + P(d)B^{-1/2})^{1/2})$ के रूप में स्केल होती है, जबकि वीक सिमुलेटर के तहत, $\epsilon^{-4}$ वेरिएंस ब्लो-अप के कारण स्केलिंग बदतर होती है।

परिणाम
संख्यात्मक प्रयोग मध्यम से उच्च आयामों (बड़े से लेकर $d=20$ तक) में रैखिक, सेमीलीनियर और पूर्णतः गैर-रेखीय PDEs पर विधि को मान्य करते हैं:

रैखिक PDE (रिग्रेशन): एक मानक "लर्निंग-देन-डिफरेंशिएटिंग" दृष्टिकोण (NN-autodiff) की तुलना में, ZOD विधि ने ग्रेडिएंट और हेसियन एप्रोक्सिमेशन में काफी कम त्रुटियां हासिल कीं (कम से कम 3 गुना बेहतर प्रदर्शन), जबकि वैल्यू फंक्शन की सटीकता समान थी। ऑटो-डिफ दृष्टिकोण डेरिवेटिव्स में स्थानीय पीक्स और ट्रफ्स को पकड़ने में विफल रहा।
सेमीलीनियर और पूर्णतः गैर-रेखीय PDEs: ZOD विधि की तुलना डीप पिकाड इटरेशन (DPI) से की गई, जो एक स्टेट-ऑफ-द-आर्ट मॉडल-बेस्ड विधि है।
- ZOD तेजी से कन्वर्ज हुआ और वैल्यू तथा ग्रेडिएंट में कम त्रुटि प्राप्त की।
- सबसे महत्वपूर्ण बात यह है कि ZOD ने हेसियन सटीकता में DPI की तुलना में बहुत बेहतर प्रदर्शन किया (उदाहरण के लिए, पूर्णतः गैर-रेखीय मामले में हेसियन एरर को एक ऑर्डर ऑफ मैग्नीट्यूड कम कर दिया)। इसका श्रेय समर्पित हेसियन नेटवर्क और सेकंड-ऑर्डर ZOD ऑब्जेक्टिव को जाता है, जबकि DPI वैल्यू नेटवर्क के डबल ऑटो-डिफरेंशिएशन पर निर्भर करता है।
- विधि ने स्ट्रॉन्ग सिमुलेटर के साथ मजबूत प्रदर्शन दिखाया, जो वेरिएंस रिडक्शन के लिए सैद्धांतिक लाभ की पुष्टि करता है।

महत्व और दावे
यह पेपर एक पूर्णतः मॉडल-मुक्त एल्गोरिदम प्रदान करने का दावा करता है जो उन ब्लैक-बॉक्स वातावरणों में लागू किया जा सकता है जहाँ PDE गुणांक अज्ञात होते हैं। इसकी प्राथमिक महत्ता है:

सैद्धांतिक कठोरता: पूर्णतः गैर-रेखीय PDEs के लिए समाधान और उनके डेरिवेटिव्स को दूसरे क्रम तक सीखने के लिए कन्वर्जेंस और सैंपल कॉम्प्लेक्सिटी को स्थापित करना, जो मौजूदा साहित्य में एक अंतराल है।
व्यावहारिक स्थिरता: यह प्रदर्शित करना कि ऑटोमैटिक डिफरेंशिएशन का उपयोग करने के बजाय ZOD लक्ष्यों के माध्यम से डेरिवेटिव्स को स्पष्ट रूप से सीखना अधिक स्थिर और सटीक है, विशेष रूप से उच्च-क्रम के डेरिवेटिव्स के लिए।
सिमुलेटर जागरूकता: यह उजागर करना कि सिमुलेशन-आधारित लर्निंग की दक्षता मौलिक रूप से डेटा-जनरेटिंग मैकेनिज्म (वीक बनाम स्ट्रॉन्ग सिमुलेटर) की प्रकृति से जुड़ी हुई है, जो वैज्ञानिक मशीन लर्निंग के लिए एल्गोरिदम डिजाइन के प्रति एक नया दृष्टिकोण प्रदान करती है।

लेखक नोट करते हैं कि हालांकि यह विधि PDE गुणांकों के संबंध में मॉडल-मुक्त है, यह मानती है कि PDE संरचना (रैखिक सेकंड-ऑर्डर ऑपरेटर प्लस नॉनलीन सोर्स) ज्ञात है, और यह PDE ऑपरेटर को सीखने का प्रयास नहीं करती है (जो इसे ऑपरेटर लर्निंग दृष्टिकोणों से अलग करता है)।