🤖 machine learning

Leray-Schauder Mappings for Operator Learning

यह शोध पत्र कॉम्पैक्ट उप-स्थानों (compact subspaces) को अनुमानित करने के लिए लेरे-शौडर मैपिंग्स (Leray-Schauder mappings) का उपयोग करके, बानाच स्पेस (Banach spaces) के बीच ऑपरेटरों को सीखने के लिए एक यूनिवर्सल एप्रोक्सिमेटर (universal approximator) प्रस्तुत करता है, जो बेंचमार्क डेटासेट्स पर अत्याधुनिक मॉडलों के विरुद्ध इसकी दक्षता और प्रतिस्पर्धी प्रदर्शन को प्रदर्शित करता है।

मूल लेखक: Emanuele Zappala

प्रकाशित 2026-03-03

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Emanuele Zappala

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक रोबोट को एक जटिल प्रणाली के भविष्य की भविष्यवाणी करना सिखा रहे हैं, जैसे कि समुद्र में एक लहर कैसे चलती है या एक धातु की छड़ के माध्यम से ऊष्मा कैसे फैलती है। गणित और AI की दुनिया में, इन प्रणालियों को "ऑपरेटर्स" (operators) द्वारा वर्णित किया जाता है—वे नियम जो एक पूरे आकार (जैसे समय शून्य पर एक लहर) को लेती हैं और उसे दूसरे आकार (समय एक पर लहर) में बदल देती हैं।

समस्या यह है कि ये आकार अनंत (infinite) होते हैं। उनमें अनंत बिंदु, अनंत विवरण और अनंत संभावनाएँ होती हैं। लेकिन कंप्यूटर सीमित होते; वे केवल सीमित बिंदुओं (पिक्सेल, ग्रिड पॉइंट्स, या सैंपल्स) के साथ गिन और गणना कर सकते हैं।

अधिकांश AI मॉडल इसे इस तरह हल करने का प्रयास करते हैं कि वे लहर की एक तस्वीर लेते हैं, उसे बिंदुओं के एक ग्रिड में बदलते हैं, और उन बिंदुओं के लिए नियमों को सीखते हैं। लेकिन इसमें एक दोष है: यदि आप रोबोट को कम-रिज़ॉल्यूशन वाले ग्रिड (जैसे पिक्सेलेटेड इमेज) पर प्रशिक्षित करते हैं और फिर उससे एक उच्च-रिज़ॉल्यूशन वाली लहर (एक स्मूथ फोटो) की भविष्यवाणी करने के लिए कहते हैं, तो वह अक्सर विफल हो जाता है। वह भ्रमित हो जाता है क्योंकि उसने "पिक्सेल" सीखे हैं, "लहर" नहीं।

नया दृष्टिकोण: "मैजिक लेंस" (The Magic Lens)

यह पेपर एक नई विधि पेश करता है जिसे लेरे-शौडर न्यूरल ऑपरेटर (Leray-Schauder Neural Operator) कहा जाता है। इसे एक रोबोट को "मैजिक लेंस" देने के रूप में समझें जो उसे हर एक बिंदु को गिने बिना अनंत लहर को देखने की अनुमति देता है।

यह इस प्रकार काम करता है, एक सरल उपमा का उपयोग करते हुए:

1. समस्या: अनंत पुस्तकालय (The Infinite Library)

कल्पना कीजिए कि एक अनंत किताबों वाला पुस्तकालय है (अनंत-आयामी स्थान)। आप एक अस्पष्ट विवरण के आधार पर एक विशिष्ट पुस्तक खोजना चाहते हैं। एक सामान्य कंप्यूटर उस मिलान को खोजने के लिए पुस्तकालय की हर एक किताब को सूचीबद्ध करने का प्रयास करता है। यह असंभव है क्योंकि सूची बहुत लंबी है।

2. पुराना तरीका: पिक्सेलेटेड मैप (The Pixelated Map)

पिछले AI मॉडलों ने पुस्तकालय का एक "पिक्सेलेटेड मैप" लेने का प्रयास किया। उन्होंने केवल पुस्तकालय की ऊपरी शेल्फ, निचली शेल्फ और मध्य शेल्फ की किताबों को देखा। यदि आपने उनसे ऐसी शेल्फ पर किताब खोजने के लिए कहा जिसे उन्होंने कभी नहीं देखा था, तो वे गलत अनुमान लगाते। उन्होंने मैप सीखा, लाइब्रेरी नहीं।

3. नया तरीका: "लेरे-शौडर" लेंस (The "Leray-Schauder" Lens)

लेखक की विधि एक चतुर गणितीय ट्रिक का उपयोग करती है जिसे लेरे-शौडर मैपिंग (Leray-Schauder mapping) कहा जाता है। कल्पना कीजिए कि यह एक विशेष लेंस है जो अनंत पुस्तकालय को 10 प्रतिनिधि पुस्तकों के एक छोटे, प्रबंधनीय बॉक्स में संकुचित कर देता है।

संपीड़न (The Compression): पूरी अनंत लहर को देखने के बजाय, मॉडल लहर को देखता है और पूछता है: "यह लहर किन 10 'आधार आकारों' (base shapes) जैसी दिखती है?"
सीखना (The Learning): मॉडल केवल निश्चित आकारों (जैसे "साइन वेव" या "स्क्वायर वेव") का उपयोग नहीं करता है। यह सीखता है कि वे 10 आधार आकार क्या होने चाहिए। यह ऐसा है जैसे रोबोट अपने स्वयं के 10 "मास्टर कलर्स" का आविष्कार कर रहा है ताकि उन्हें मिलाया जा सके, बजाय इसके कि उसे एक पूर्व-निर्धारित पैलेट का उपयोग करने के लिए मजबूर किया जाए।
प्रोजेक्शन (The Projection): मॉडल अनंत लहर को इन 10 सीखे गए आकारों पर प्रोजेक्ट करता है। यह अनंत समस्या को केवल 10 नंबरों वाली एक सरल गणितीय समस्या में बदल देता है।
रूपांतरण (The Transformation): एक मानक न्यूरल नेटवर्क ("मस्तिष्क") इन 10 नंबरों को लेता है और पता लगाता है कि वे कैसे बदलते हैं।
पुनर्निर्माण (The Reconstruction): अंत में, मॉडल उन नए 10 नंबरों को लेता है और उन्हें वापस मिलाकर पूरी, स्मूथ, अनंत लहर का पुनर्निर्माण करता है।

यह एक बड़ी बात क्यों है?

1. यह "ग्रिड-स्वतंत्र" है (The Upsampling Superpower)
चूंकि मॉडल आकारों (आधार फलनों) को सीखता है न कि बिंदुओं (ग्रिड) को, इसलिए इसे इस बात की परवाह नहीं होती कि आप इसे कितने बिंदु देते हैं।

उपमा: कल्पना कीजिए कि आप एक वृत्त (circle) बनाना सीख रहे हैं। यदि आप पिक्सेल गिनकर सीखते हैं, तो आप केवल 10x10 ग्रिड पर वृत्त बना सकते हैं। यदि आप वृत्त की अवधारणा सीखते हैं, तो आप इसे 10x10 ग्रिड, 1000x1000 ग्रिड, या यहाँ तक कि अपने मन में भी बना सकते हैं।
परिणाम: लेखकों ने दिखाया कि वे एक लहर के "कम-रिज़ॉल्यूशन" वाले संस्करण पर मॉडल को प्रशिक्षित कर सकते हैं और फिर उससे उच्च-रिज़ॉल션 वाले संस्करण की भविष्यवाणी करने के लिए कह सकते हैं, और यह बिल्कुल सटीक होता है। मॉडल भ्रमित नहीं हुआ; उसने अंतर्निहित आकार को समझ लिया था।

2. यह एक यूनिवर्सल एप्रोक्सिमेटर (Universal Approximator) है
यह पेपर गणितीय रूप से सिद्ध करता है कि यह विधि किसी भी निरंतर नियम को सीख सकती है, चाहे वह कितनी भी जटिल क्यों न हो। यह कहने जैसा है कि, "चाहे आप इस लेंस के सामने कोई भी आकार फेंक दें, हम इसे हमारे 10 सीखे गए आकारों का उपयोग करके वर्णित करने का एक तरीका खोज सकते हैं।"

3. यह कुशल (Efficient) है
कंप्यूटर को लहर के प्रत्येक बिंदु पर भारी गणित करने की आवश्यकता नहीं होती है। यह केवल उन 10 "आधार आकारों" पर गणित करता है। यह इसे तेज़ और स्थिर बनाता है, भले ही ग्रिड का आकार बदल जाए।

वास्तविक दुनिया का परीक्षण

लेखक ने इस "मैजिक लेंस" का दो कठिन समस्याओं पर परीक्षण किया:

इंटीग्रल इक्वेशंस (द स्पाइरल): एक स्पाइरल के पथ की भविष्यवाणी करना। मॉडल पूर्ण पथ की भविष्यवाणी कर सका, भले ही प्रशिक्षण के दौरान इसे केवल आधे बिंदुओं को दिखाया गया था।
बर्गर्स इक्वेशन (द शॉकवेव): यह भविष्यवाणी करना कि एक शॉकवेव तरल पदार्थ के माध्यम से कैसे चलती है। मॉडल ने मौजूदा सर्वोत्तम मॉडलों के समान प्रदर्शन किया, लेकिन बिना किसी जटिल ट्रिक के, जो अलग-अलग ग्रिड आकार को संभालने के लिए आवश्यक होती हैं।

मुख्य निष्कर्ष (The Bottom Line)

यह पेपर AI को निरंतर, अनंत प्रणालियों के बारे में सिखाने का एक नया तरीका प्रस्तावित करता है। AI को पिक्सेल के ग्रिड को याद करने के लिए मजबूर करने के बजाय, यह AI को उन मौलिक आकारों को समझने की शिक्षा देता है जो सिस्टम को बनाते हैं। कुछ सीखे गए बिल्डिंग ब्लॉक्स पर जटिल लहरों को "प्रोजेक्ट" करना सीखकर, AI लचीला, सटीक और सक्षम हो जाता है, और डेटा कितना भी विस्तृत क्यों न हो, वह बड़ी तस्वीर को देख सकता है।

यहाँ एमानुएल ज़ापला (Emanuele Zappala) के शोध पत्र "Leray-Schauder Mappings for Operator Learning" का विस्तृत तकनीकी सारांश दिया गया है।

1. समस्या विवरण (Problem Statement)

यह शोध पत्र ऑपरेटर लर्निंग (operator learning) की चुनौती को संबोधित करता है, जिसमें अनंत-आयामी बानाच स्पेस (Banach spaces) के बीच निरंतर (संभावित रूप से गैर-रैखिक) ऑपरेटरों का अनुमान लगाना शामिल है (जैसे, प्रारंभिक स्थितियों को आंशिक अंतर समीकरणों [PDEs] के समाधानों में मैप करना)।

विविक्तीकरण की सीमा (The Discretification Limitation): अधिकांश मौजूदा डीप लर्निंग दृष्टिकोण इनपुट और आउटपुट डोमेन को विविक्तीकृत (discretize) करते हैं, जिससे समस्या प्रभावी रूप से उच्च-आयामी यूक्लिडियन स्पेस के बीच मैपिंग में बदल जाती है। यह अक्सर ऐसे मॉडल की ओर ले जाता है जो ग्रिड-निर्भर होते हैं, और विभिन्न रिज़ॉल्यूशन के लिए सामान्यीकरण करने या प्रशिक्षण के बिना प्रशिक्षण बिंदुओं के बीच इंटरपोलेशन करने में संघर्ष करते हैं।
लक्ष्य (The Goal): लेखक एक ऐसी विधि चाहते हैं जो मौलिक रूप से फंक्शनल स्तर (functional level) पर कार्य करे, जिससे यह सुनिश्चित हो सके कि मॉडल अनंत-आयामी स्थानों के बीच ऑपरेटरों का एक यूनिवर्सल एप्रोक्सिमेटर (universal approximator) है, जो प्रशिक्षण के दौरान उपयोग किए गए विशिष्ट विविक्तीकरण (grid size) से स्वतंत्र है।

2. कार्यप्रणाली (Methodology)

प्रस्तावित समाधान, जिसे लेरे-शौडर न्यूरल ऑपरेटर (Leray-Schauder Neural Operator) कहा जाता है, एक सैद्धांतिक ढांचे पर आधारित है जो कार्यात्मक विश्लेषण (functional analysis) को डीप लर्निंग के साथ जोड़ता है।

A. सैद्धांतिक आधार: लेरे-शौडर मैपिंग (Theoretical Foundation: Leray-Schauder Mappings)

मुख्य गणितीय उपकरण लेरे-शौडर मैपिंग है, जो बानाच स्पेस के कॉम्पैक्ट सबसेट्स (compact subsets) को परिमित-आयामी उप-स्थानों (finite-dimensional subspaces) का उपयोग करके अनुमानित करने की एक तकनीक है।

मानक दृष्टिकोण: पारंपरिक रूप से, एक बानाच स्पेस $X$ में एक कॉम्पैक्ट सेट $K$ को एक $\epsilon$ -नेट $\{x_1, \dots, x_n\}$ का उपयोग करके अनुमानित किया जाता है। एक प्रोजेक्शन मैप $P_n$ इन आधार तत्वों के भारित योगों (weighted sums) का उपयोग करके बनाया जाता है, जहाँ भार इनपुट $x$ की नेट बिंदुओं से दूरी द्वारा निर्धारित होते हैं।
नवाचार (The Innovation): पिछले कार्यों (जैसे चेबीशेव पॉलिनोमियल्स का उपयोग करने वाले गैलरकिन विधियों) के विपरीत, यह शोध पत्र आधार तत्वों ( $x_i$ $x_{i}$ ) और प्रोजेक्शन भारों को न्यूरल नेटवर्क के माध्यम से एक साथ सीखने का प्रस्ताव करता है।
- बेसिस नेटवर्क ( $g_i$ ): बेसिस नेटवर्कों का एक सेट $\{g_i\}$ , इनपुट कॉम्पैक्ट सेट का अनुमान लगाने वाले परिमित-आयामी उप-स्थान $E_n$ को स्पैन (span) करने के लिए सीखता है।
- प्रोजेक्शन नेटवर्क ( $\mu_i$ ): निश्चित दूरी सूत्रों के बजाय, यह शोध पत्र कन्वोल्यूशनल न्यूरल नेटवर्क (CNNs) का उपयोग करके भारण कार्यों $\mu_i(x)$ (जो प्रोजेक्शन को परिभाषित करते हैं) को सीखता है। ये नेटवर्क विविक्तीकृत इनपुट फंक्शन को लेते हैं और गैर-ऋणात्मक भार आउटपुट करते हैं।
- आउटपुट बेसिस ( $h_j$ ): दूसरा बेसिस नेटवर्क सेट $\{h_j\}$ आउटपुट उप-स्थान $E_m$ को स्पैन करता है।

B. एल्गोरिदम आर्किटेक्चर (The Algorithm Architecture)

मॉडल एक ऑपरेटर $T: X \to Y$ को निम्नलिखित पाइपलाइन के माध्यम से अनुमानित करता है:

इनपुट प्रोसेसिंग: इनपुट फंक्शन $y$ (जैसे, प्रारंभिक/सीमा स्थितियाँ) प्रदान की जाती है।
नॉनलीनर प्रोजेक्शन (Leray-Schauder): इनपुट को सीखे गए आधार $\{g_i\}$ पर सीखे गए भार $\mu_i(y)$ का उपयोग करके प्रोजेक्ट किया जाता है।
$\tilde{P}_n(y) = \sum_{i=1}^n \frac{\mu_i(y) g_i}{\sum_{j=1}^n \mu_j(y)}$
इसके परिणामस्वरूप गुणांकों का एक वेक्टर $q = (q_1, \dots, q_n) \in \mathbb{R}^n$ प्राप्त होता है।
परिमित-आयामी मैपिंग (Finite-Dimensional Mapping): एक मानक फीडफॉरवर्ड न्यूरल नेटवर्क $f_{n,m}$ गुणांक वेक्टर $q$ को एक नए गुणांक वेक्टर $b \in \mathbb{R}^m$ में मैप करता है।
पुनर्निर्माण (Reconstruction): आउटपुट फंक्शन को आउटपुट बेसिस नेटवर्क $\{h_j\}$ के रैखिक संयोजन के रूप में पुनर्गठित किया जाता है:
$\psi = \sum_{j=1}^m b_j h_j$

C. सैद्धांतिक गारंटी (Theoretical Guarantees)

यह पेपर थ्योरम 2.2 और थ्योरम 2.7 को स्थापित करते हुए यह सिद्ध करता है कि यह आर्किटेक्चर एक यूनिवर्सल एप्रोक्सिमेटर (Universal Approximator) है।

प्रमाण यह दर्शाता है कि आधार कार्यों और प्रोजेक्शन मैप्स (जो विश्लेषणात्मक लेरे-शौडर मैप्स का अनुमान लगाते हैं) को सीखकर, मॉडल किसी भी निरंतर ऑपरेटर को किसी भी सटीकता तक अनुमानित कर सकता है।
महत्वपूर्ण रूप से, प्रमाण यह दिखाता है कि प्रोजेक्शन मैप्स को न्यूरल नेटवर्क (विशेष रूप से भारों के लिए आवश्यक $L^p$ नॉर्म्स का अनुमान लगाने के लिए क्वाड्रचर रूल्स का उपयोग करके) द्वारा अनुमानित किया जा सकता है, जिससे यह सुनिश्चित होता है कि पूरा आर्किटेक्चर डिफरेंशिएबल (differentiable) और ट्रेन करने योग्य है।

3. मुख्य योगदान (Key Contributions)

सीखे गए प्रोजेक्शन के माध्यम से यूनिवर्सल एप्रोक्सिमेशन: यह पेपर यह प्रमाण देता है कि फिक्स्ड बेसिस (जैसे फूरियर या चेबीशेव) के बजाय डेटा-अनुकूलनीय (data-adaptive) बेसिस के माध्यम से प्रोजेक्शन मैप्स को सीखना, यूनिवर्सल एप्रोक्सिमेशन गुण को बनाए रखता है। यह पैराडाइम को फिक्स्ड बेसिस से हटाकर सीखे गए बेसिस की ओर ले जाता है।
ग्रिड स्वतंत्रता (Grid Independence): फंक्शनल स्तर पर कार्य करके (लेरे-शौडर प्रोजेक्शन के माध्यम से), मॉडल सैद्धांतिक और अनुभवजन्य रूप से इनपुट विविक्तीकरण ग्रिड से स्वतंत्र है। इसे मोटे ग्रिड (coarse grids) पर प्रशिक्षित किया जा सकता है और प्रदर्शन में गिरावट के बिना महीन ग्रिड (fine grids) पर टेस्ट किया जा सकता है।
डिफरेंशिएबल प्रोजेक्शन: पूरी तरह से न्यूरल नेटवर्क का उपयोग करके प्रोजेक्शन मैप $\tilde{P}_n$ का निर्माण (विश्लेषणात्मक दूरी गणनाओं को सीखे गए CNNs से बदलकर) एंड-टू-एंड ट्रेनिंग की अनुमति देता है, जिसमें मैन्युअल फीचर इंजीनियरिंग की आवश्यकता नहीं होती।
DeepONet के साथ तुलना: इसका आर्किटेक्चर DeepONet (ब्रांच/ट्रंक नेटवर्क) के समान है, लेकिन मौलिक रूप से भिन्न है। DeepONet में, "ब्रांच" ऐसे फंक्शनल्स सीखता है जो स्पष्ट रूप से परिभाषित नहीं होते हैं। यहाँ, प्रोजेक्शन को स्पष्ट रूप से एक ज्ञात गणितीय संरचना (लेरे-शौडर) के अनुमान के रूप में मॉडल किया गया है, जो इस आर्किटेक्चर के लिए अधिक स्पष्ट सैद्धांतिक औचित्य प्रदान करता है।

4. प्रयोगात्मक परिणाम (Experimental Results)

विधि का मूल्यांकन दो बेंचमार्क डेटासेट पर किया गया था:

IE Spirals (इंटीग्रल इक्वेशंस): नॉन-लोकल ऑपरेटरों से संबंधित एक डेटासेट।
- कार्य: इंटरपोलेशन (डाउनसैम्पल्ड डेटा पर प्रशिक्षण, पूर्ण रिज़ॉल्यूशन पर परीक्षण)।
- परिणाम: मॉडल ने स्टेट-ऑफ-द-आर्ट (SOTA) मॉडल्स (ANIE, Spectral NIE) के समान त्रुटि दर प्राप्त की और FNO1D से काफी बेहतर प्रदर्शन किया। महत्वपूर्ण रूप से, इसने प्रशिक्षण से परीक्षण के दौरान अपसैंपलिंग (upsampling) करते समय स्थिरता बनाए रखी, जो ग्रिड स्वतंत्रता को प्रदर्शित करता है।
Burgers' Equation (PDE): एक गैर-रैखिक PDE से संबंधित डेटासेट।
- कार्य: विभिन्न स्थानिक रिज़ॉल्यूशन ( $s=256$ और $s=512$ ) के लिए सॉल्यूशन ऑपरेटर को सीखना।
- परिणाम: मॉडल ने ANIE के समान त्रुटियां प्राप्त कीं। अन्य मॉडलों के विपरीत, जो ग्रिड आकार में परिवर्तन के प्रति संवेदनशील थे, लेरे-शौडर ऑपरेटर ने बिना मोंटे कार्लो सैंपलिंग या रेगुलराइजेशन तकनीकों की आवश्यकता के, विभिन्न ग्रिड रिज़ॉल्यूशन में काफी स्थिरता दिखाई।
- दक्षता (Efficiency): इनपुट रिज़ॉल्यूशन के बावजूद कम्प्यूटेशनल लागत स्थिर रही, क्योंकि लागत आधार नेटवर्क की संख्या पर निर्भर करती है, न कि इनपुट रिज़ॉल्यूशन पर।

5. महत्व (Significance)

यह कार्य शुद्ध डेटा-संचालित विविक्तीकरण से हटकर एक गणितीय रूप से सुदृढ़ दृष्टिकोण की ओर बढ़कर, ऑपरेटर लर्निंग में एक पैराडाइम शिफ्ट का प्रतिनिधित्व करता है जो समस्या की अनंत-आयामी प्रकृति का सम्मान करता है।

मजबूती (Robustness): यह "ग्रिड डिपेंडेंसी" की समस्या को हल करता है जो कई न्यूरल ऑपरेटर मॉडलों को प्रभावित करती है, जिससे यह वास्तविक दुनिया के अनुप्रयोगों के लिए अत्यधिक उपयुक्त हो जाता है जहाँ सिमुलेशन डेटा विभिन्न रिज़ॉल्यूशन पर उपलब्ध हो सकता है।
व्याख्यात्मकता (Interpretability): प्रोजेक्शन चरण को एक ज्ञात गणितीय ऑपरेटर के सीखे गए अनुमान के रूप में स्पष्ट रूप से मॉडल करके, यह विधि "ब्लैक-बॉक्स" न्यूरल ऑपरेटर आर्किटेक्चर की तुलना में अधिक सैद्धांतिक पारदर्शिता प्रदान करती है।
सामान्यीकरण (Generalizability): यह ढांचा बानाच स्पेस की एक विस्तृत श्रृंखला (जिसमें $L^p$ और हॉल्डर स्पेस शामिल हैं) के लिए लागू करने योग्य है और यह स्थानीय और नॉन-लोकल दोनों ऑपरेटरों को संभाल सकता है, जैसा कि इंटीग्रल इक्वेशन और PDE प्रयोगों में प्रदर्शित किया गया है।

संक्षेप में, ज़ापला का शोध पत्र कार्यात्मक विश्लेषण (लेरे-शौडर थ्योरी) और आधुनिक डीप लर्निंग के बीच के अंतर को सफलतापूर्वक पाटता है, जो एक सैद्धांतिक रूप से गारंटीकृत, ग्रिड-स्वतंत्र और अत्यधिक सटीक विधि प्रदान करता है।