🤖 machine learning

Radial Müntz-Szász Networks: Neural Architectures with Learnable Power Bases for Multidimensional Singularities

यह शोध पत्र रेडियल मुंट्ज़-साज़ नेटवर्क (RMN) को प्रस्तुत करता है, जो एक अत्यधिक पैरामीटर-कुशल न्यूरल आर्किटेक्चर है जो $1/r$ और $\log r$ जैसे बहुआयामी सिंगुलर क्षेत्रों को सटीक रूप से मॉडल करने के लिए सीखने योग्य रेडियल पावर बेसिस और एक लॉग-प्रिमिटिव का उपयोग करता है, जो बेंचमार्क कार्यों पर मानक MLPs और SIREN की तुलना में काफी कम त्रुटि दर प्राप्त करते हुए भौतिकी-प्रेरित शिक्षण (physics-informed learning) के लिए क्लोज्ड-फॉर्म ग्रेडिएंट प्रदान करता है।

मूल लेखक: Gnankan Landry Regis N'guessan, Bum Jun Kim

प्रकाशित 2026-03-10

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Gnankan Landry Regis N'guessan, Bum Jun Kim

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक रोबोट को ब्लैक होल (black hole) या कांच के टुकड़े में दरार (crack in a piece of glass) का चित्र बनाना सिखाने की कोशिश कर रहे हैं। इन चीजों में एक बहुत ही विशिष्ट, खतरनाक गुण होता है: ठीक केंद्र में, संख्याएँ अनंत (infinity) हो जाती हैं। गणित में, हम इन्हें "सिंगुलैरिटीज़" (singularities) कहते हैं।

लंबे समय तक, रोबोट को ये आकृतियाँ सिखाने का मानक तरीका (न्यूरल नेटवर्क का उपयोग करके) एक ग्रिड के वर्गाकार टाइल्स का उपयोग करके एक पूर्ण वृत्त बनाने की कोशिश करने जैसा था। आप करीब तो पहुँच सकते हैं, लेकिन अंत में आपको हमेशा टेढ़े-मेढ़े, हीरे के आकार के किनारे मिलेंगे, और इसे चिकना दिखाने के लिए लाखों टाइल्स की आवश्यकता होगी।

यह पेपर एक नए प्रकार के रोबोटिक मस्तिष्क को पेश करता है जिसे रेडियल मुंट्ज़-सास्ज़ नेटवर्क (Radial Müntz-Szász Networks - RMN) कहा जाता है। यहाँ इसका सरल विवरण दिया गया है कि उन्होंने क्या किया और यह क्यों महत्वपूर्ण है।

1. समस्या: गलत उपकरण, सही काम नहीं

मानक AI मॉडल (जिन्हें MLPs कहा जाता है) लेगो बिल्डर्स (Lego builders) की तरह हैं। वे छोटे, वर्गाकार ब्लॉकों (न्यूरॉन्स) को एक के ऊपर एक रखकर जटिल आकृतियाँ बनाते हैं।

समस्या: यदि आप केवल वर्गाकार लेगो का उपयोग करके एक पूर्ण वृत्त (या केंद्र की ओर खिंचाव वाला रेडियल सिंगुलैरिटी) बनाने की कोशिश करते हैं, तो आप ज्यामिति (geometry) के विरुद्ध लड़ रहे होते हैं। एक चिकनी वक्र (curve) प्राप्त करने के लिए आपको लाखों लेगो की आवश्यकता होगी, और फिर भी, यह थोड़ा ब्लॉक जैसा दिखेगा।
पेपर की खोज: लेखकों ने एक गणितीय नियम सिद्ध किया: आप केवल सीधी, ग्रिड-संरेखित लेगो लाइनों का उपयोग करके एक पूर्ण वृत्त नहीं बना सकते। बिना भारी संसाधनों के इसे सही करना भौतिक रूप से असंभव है।

2. समाधान: एक "जादुई दिशा-सूचक यंत्र" (Magic Compass)

लेखकों ने रोबोट को वर्गाकार लेगो देने के बजाय, एक जादुई दिशा-सूचक यंत्र दिया।

यह कैसे काम करता है: रोबोट "बाएं/दाएं" और "ऊपर/नीचे" के निर्देशांकों (coordinates) को देखना बंद कर देता है। इसके बजाय, यह केंद्र से दूरी को देखता है।
गुप्त नुस्खा (Secret Sauce): रोबोट "पावर लॉज़" (power laws) का एक विशेष सेट सीखता है। केवल रेखाएं खींचने के बजाय, यह $1/r$ (जो केंद्र के करीब आने पर बहुत बड़ा हो जाता है) या $\log(r)$ (जो धीरे-धीरे बढ़ता है) जैसी वक्र रेखाएं खींचना सीखता है।
"सीखने योग्य" हिस्सा: आमतौर पर, वैज्ञानिक फॉर्मूला का अनुमान लगाते हैं। यह रोबोट फॉर्मूला सीखता है। यह पूछता है, "क्या वक्र $1/r$ है? या यह $1/r^{0.5}$ है?" और यह अपने आंतरिक डायल को तब तक समायोजित करता है जब तक कि इसे सही उत्तर न मिल जाए।

3. उपमा: स्विस आर्मी नाइफ बनाम हथौड़ा

पुराना AI (MLP): कल्पना कीजिए कि आप एक बड़ी हथौड़ी से घड़ी ठीक करने की कोशिश कर रहे हैं। यह अंततः घड़ी को आपके इच्छित आकार में कुचल सकता है, लेकिन आपको एक विशाल हथौड़े की आवश्यकता होगी, इसमें बहुत अधिक बल लगेगा, और आप अन्य चीजों को नुकसान भी पहुँचा सकते हैं।
नया AI (RMN): यह एक स्विस आर्मी नाइफ है जिसमें एक छोटा, सटीक पेचकश (screwdriver) लगा है। यह विशेष रूप से काम के लिए डिज़ाइन किया गया है। इसे बड़ा या भारी होने की आवश्यकता नहीं है; इसे बस सही आकार की आवश्यकता है।

4. यह अद्भुत क्यों है (परिणाम)

लेखकों ने इस नए रोबोट का परीक्षण 10 कठिन भौतिक समस्याओं (जैसे गुरुत्वाकर्षण, धातु में दरारें और विद्युत क्षेत्र) पर पुराने मॉडलों के विरुद्ध किया।

सटीकता: नया रोबोट पुराने विशाल मॉडलों की तुलना में 1.5 से 51 गुना अधिक सटीक था।
दक्षता (Efficiency): असली चौंकाने वाली बात यह है।
- पुराने मॉडलों को 33,537 पैरामीटर्स (सोचिए कि ये रोबोट की "मस्तिष्क कोशिकाएं" या मेमोरी स्लॉट हैं) की आवश्यकता थी।
- नए RMN मॉडल ने वही काम केवल 27 पैरामीटर्स के साथ किया।
- उपमा: यह ऐसा है जैसे पुराने रोबोट को पहेली सुलझाने के लिए 33,000 किताबों की लाइब्रेरी की आवश्यकता थी, जबकि नए रोबोट ने इसे एक ही, पूरी तरह से लिखे गए इंडेक्स कार्ड के साथ हल कर लिया।

5. अब यह क्या कर सकता है?

क्योंकि रोबोट बहुत कुशल है और समस्या के "आकार" को समझता है, यह वे चीजें कर सकता है जिनमें पुराने मॉडल संघर्ष करते थे:

स्रोत का पता लगाना: यदि आप इसे एक अस्त-व्यस्त गुरुत्वाकर्षण क्षेत्र दिखाते हैं, तो यह बिल्कुल सटीक रूप से पता लगा सकता है कि ग्रह कहाँ छिपा है, भले ही वह शोर (noise) के बीच दबा हुआ हो।
भौतिकी को समझना: यह केवल संख्याओं का अनुमान नहीं लगाता; यह ब्रह्मांड के वास्तविक गणित (जैसे गुरुत्वाकर्षण कैसे काम करता है) को सीखता है। यदि आप उससे पूछते हैं, "इस सिंगुलैरिटी की पावर क्या है?" तो वह बता सकता है, "यह -1 है," जो वास्तविक दुनिया के भौतिकी के अनुरूप है।
दरारों को समझना: यह मॉडल कर सकता है कि धातु में दरारें कैसे आती हैं, जो सुरक्षित पुल और विमान बनाने के लिए अत्यंत महत्वपूर्ण है।

सारांश

लेखकों ने महसूस किया कि एक वर्गाकार-पेंच वाले AI को गोल-छेद वाली समस्या में फिट करने के लिए मजबूर करना समय की बर्बादी थी। उन्होंने एक ऐसा AI बनाया जो डिजाइन से ही गोल (round by design) है।

AI को केंद्र से दूरी और पावर लॉज़ (जैसे $1/r$ ) के संदर्भ में सोचने के लिए सिखाकर, उन्होंने एक ऐसा मॉडल बनाया जो है:

छोटा: कंप्यूटर मेमोरी का बहुत कम उपयोग करता है।
तेज़: जल्दी सीखता है।
सटीक: उन खतरनाक, अनंत बिंदुओं को पूरी तरह से पकड़ लेता है जिन्हें अन्य मॉडल मिस कर देते हैं।

यह "ब्रूट फोर्स" (समस्या पर अधिक डेटा फेंकना) से "स्मार्ट डिज़ाइन" (काम के लिए सही उपकरण बनाना) की ओर एक बदलाव है।

यहाँ शोध पत्र "Radial Müntz-Szász Networks: Neural Architectures with Learnable Power Bases for Multidimensional Singularities" का विस्तृत तकनीकी सारांश दिया गया है।

1. समस्या विवरण (Problem Statement)

कई भौतिक परिघटनाएँ (physical phenomena) कई स्थानिक आयामों (spatial dimensions) में रेडियल सिंगुलैरिटीज़ (radial singularities) प्रदर्शित करती हैं, जहाँ क्षेत्र (field) मुख्य रूप से स्रोत से दूरी $r = \|x\|$ पर निर्भर करता है। उदाहरण के लिए:

कूलम्ब और गुरुत्वाकर्षण विभव (Coulomb and Gravitational Potentials): 3D में $1/r$ (व्युत्क्रम) या 2D में $\log r$ के रूप में स्केलिंग।
फ्रैक्चर मैकेनिक्स (Fracture Mechanics): क्रैक टिप के पास स्ट्रेस फील्ड $r^{-1/2}$ के रूप में स्केलिंग।
फ्लुइड डायनेमिक्स (Fluid Dynamics): तीव्र भिन्नात्मक-शक्ति व्यवहार (fractional-power behavior) वाली बाउंड्री लेयर्स।

चुनौती: मानक न्यूरल नेटवर्क आर्किटेक्चर, जैसे कि मल्टीलेयर पर्सेप्ट्रॉन्स (MLPs) और यहाँ तक कि विशेषीकृत नेटवर्क जैसे SIREN (Sinusoidal Representation Networks), इन सिंगुलैरिटीज़ को कुशलतापूर्वक अनुमानित करने में संघर्ष करते हैं।

स्पेक्ट्रल बायस (Spectral Bias): स्मूथ एक्टिवेशन वाले MLPs प्राथमिकता से लो-फ्रीक्वेंसी घटकों को सीखते हैं, जिससे तीव्र ग्रेडिएंट या विचलन (divergences) को कैप्चर करने के लिए भारी पैरामीटर काउंट की आवश्यकता होती है।
संरचनात्मक बेमेल (Structural Mismatch): शोध पत्र एक मौलिक सैद्धांतिक बाधा की पहचान करता है: कोऑर्डिनेट-सेपरेबल आर्किटेक्चर (जो फलनों को यूनिवेरिएट फलनों के योग के रूप में मॉडल करते हैं, जैसे $f(x,y) = g(x) + h(y)$ ) गैर-द्विघाती रेडियल फलनों (non-quadratic radial functions) को प्रदर्शित नहीं कर सकते। यह कोऑर्डिनेट-वाइज मॉडलों को अक्ष-संरेखित आर्टिफ़ेक्ट्स (जैसे कि वृत्तों के बजाय डायमंड-शेप्ड लेवल सेट्स) पेश करने के लिए मजबूर करता है और क्षमता (capacity) के बावजूद वास्तविक भौतिकी को पकड़ने में विफल रहता है।

2. कार्यप्रणाली: रेडियल म्यूंट्ज़-साज़ नेटवर्क (RMN)

लेखक RMN का प्रस्ताव करते हैं, जो एक स्ट्रक्चर-मैच्ड आर्किटेक्चर है जो लक्षित फलन के रेडियल पावर-लॉ स्ट्रक्चर को स्पष्ट रूप से पैरामीटराइज़ करता है।

मुख्य आर्किटेक्चर (RMN-Direct)

फिक्स्ड एक्टिवेशन फंक्शन्स के लिए वेट्स सीखने के बजाय, RMN पावर-लॉ बेसिस के एक्सपोनेंट्स (exponents) को सीखता है। नेटवर्क आउटपुट को इस प्रकार परिभाषित किया जाता है:
$\phi_{RMN}(x) = \sum_{k=1}^{K} a_k r^{\mu_k} + c_0 \psi_{log}(r; \mu_{log}) + b_0$
जहाँ:

$r = \|x\|$ रेडियल दूरी है।
$\{ \mu_k \}$ सीखने योग्य एक्सपोनेंट्स (ऋणात्मक मानों सहित, जैसे $r^{-1}$ के लिए सिंगुलैरिटी) हैं।
$\{ a_k \}$ सीखने योग्य गुणांक (coefficients) हैं।
लॉग-प्रिमिटिव ( $\psi_{log}$ ): एक विशेष टर्म जो $\log r$ के माध्यम से लॉगरिदमिक सिंगुलैरिटीज़ को संभालता है, सीमा $\lim_{\mu \to 0} (r^\mu - 1)/\mu = \log r$ का उपयोग करके। यह संख्यात्मक स्थिरता (numerical stability) और सटीक लॉगरिदमिक व्यवहार सुनिश्चित करता है।
क्लोज्ड-फॉर्म डेरिवेटिव्स: आर्किटेक्चर ग्रेडिएंट्स ( $\nabla \phi$ ) और लैपलेसियन्स ( $\Delta \phi$ ) के विश्लेषणात्मक व्यंजक प्रदान करता है, जो ऑटोमैटिक डिफरेंशिएशन पर निर्भर रहने के बजाय फिजिक्स-इन्फॉर्म्ड न्यूरल नेटवर्क्स (PINNs) के लिए महत्वपूर्ण हैं।

सैद्धांतिक आधार

शोध पत्र एक सेपरेबिलिटी ऑब्स्ट्रक्शन थ्योरम (Separability Obstruction Theorem - Theorem 14) स्थापित करता है:

कोई भी $C^2$ फलन जो रेडियल और एडिटिवली सेपरेबल दोनों है, वह द्विघाती (quadratic) होना चाहिए ( $f(x) = c\|x\|^2 + b$ )।

यह सिद्ध करता है कि कोऑर्डिनेट-वाइज मॉडल (जैसे कि कोऑर्डिनेट-वाइज MSN या मानक MLPs) सिंगुलर रेडियल फलनों (जैसे $1/r$ या $\log r$ ) को अत्यधिक अक्षमता के बिना प्रदर्शित करने में मौलिक रूप से असमर्थ हैं।

विस्तार (Extensions)

RMN-Angular: कोणीय निर्भरता (angular dependence) को संभालने के लिए स्पहेरिकल हार्मोनिक्स ( $Y_\ell^m$ ) को शामिल करता है (जैसे $\cos(\theta/2)$ के साथ क्रैक-टिप फील्ड्स)।
RMN-MC (Multi-Center): कई सिंगुलैरिटी सेंटर्स $\{c_j\}$ को एक साथ सीखता है, जिससे नेटवर्क को स्रोतों के सुपरपोजिशन (जैसे मल्टी-चार्ज सिस्टम) को मॉडल करने और उच्च सटीकता के साथ सोर्स लोकेशंस को रिकवर करने की अनुमति मिलती है।

3. प्रमुख योगदान

सैद्धांतिक बाधा (Theoretical Obstruction): यह प्रमाण कि कोऑर्डिनेट-सेपरेबल आर्किटेक्चर रेडियल सिंगुलैरिटीज़ पर विफल होते हैं, जो यह समझाता है कि क्यों मानक मॉडल्स में क्षमता बढ़ाने से समस्या हल नहीं होती।
नया आर्किटेक्चर: RMN का परिचय, जो लर्न करने योग्य पावर बेसिस और एक लॉग-प्रिमिटिव का उपयोग करता है ताकि सिंगुलर फील्ड्स की गणितीय संरचना से सटीक रूप से मेल खा सके।
पैरामीटर दक्षता (Parameter Efficiency): RMN, MLPs और SIREN की तुलना में ऑर्डर्स ऑफ मैग्नीट्यूड कम पैरामीटर्स के साथ स्टेट-ऑफ-द-आर्ट सटीकता प्राप्त करता है।
व्याख्यात्मकता (Interpretability): सीखे गए एक्सपोनेंट्स $\mu_k$ सीधे भौतिक सिंगुलैरिटी ऑर्डर्स (जैसे $1/r$ के लिए $-1$ की ओर अभिसरण) के अनुरूप होते हैं, जो ब्लैक-बॉक्स मॉडल्स के विपरीत वैज्ञानिक अंतर्दृष्टि प्रदान करते हैं।
फिजिक्स-इन्फॉर्म्ड लर्निंग: क्लोज्ड-फॉर्म ग्रेडिएंट्स और लैपलेसियन्स का प्रावधान पंकचर्ड डोमेन (सिंगुलैरिटी पॉइंट को छोड़कर डोमेन) पर कुशल प्रशिक्षण को सक्षम बनाता है।

4. प्रयोगात्मक परिणाम

लेखकों ने दस 2D और 3D बेंचमार्क पर RMN का मूल्यांकन किया, जिसकी तुलना MLPs (33,537 पैरामीटर्स), SIREN (8,577 पैरामीटर्स) और कोऑर्डिनेट-वाइज MSN से की गई।

सटीकता (Accuracy):
- रेडियल सिंगुलैरिटीज़: RMN ने MLPs की तुलना में 1.5x से 51x कम RMSE और SIREN की तुलना में 10x से 100x कम RMSE प्राप्त किया।
- विशिष्ट उदाहरण: 3D कूलम्ब पोटेंशियल ( $1/r$ ) पर, RMN (27 पैरामीटर्स) MLP (33k पैरामीटर्स) की तुलना में 51x अधिक सटीक था।
- कोऑर्डिनेट-सेपरेबल विफलता: RMN ने कोऑर्डिनेट-वाइज MSN को 72x से 1,652x के कारकों से पीछे छोड़ दिया, जो सेपरेबिलिटी ऑब्स्ट्रक्शन थ्योरम को मान्य करता है।
पैरामीटर दक्षता (Parameter Efficiency):
- RMN (K=12 के लिए) केवल 27 पैरामीटर्स का उपयोग करता है, जबकि MLPs के लिए 33,537 और SIREN के लिए 8,577 पैरामीटर्स की आवश्यकता होती है।
- यह तुलनीय या बेहतर सटीकता के लिए 1,242x की कमी का प्रतिनिधित्व करता है।
सिंगुलैरिटी रिकवरी:
- RMN ने सही सिंगुलैरिटी ऑर्डर सफलतापूर्वक सीखा (जैसे $1/r$ टारगेट के लिए $\mu \approx -0.997$ )।
- RMN-MC ने त्रुटि $< 10^{-4}$ के साथ सोर्स सेंटर्स को रिकवर किया।
विफलता मोड (Failure Modes):
- RMN स्मूथ, नॉन-रेडियल, या अत्यधिक ऑसिलेटरी फलनों (जैसे $\sin(\pi x)\sin(\pi y)$ ) पर खराब प्रदर्शन करता है, जहाँ मानक MLPs बेहतर रहते हैं। यह आर्किटेक्चर के ऑपरेटिंग रिजीम को स्पष्ट करता है।
PINN प्रदर्शन: एक 3D पॉइसन समीकरण (पॉइंट चार्ज के साथ) में, RMN ने शुद्ध भौतिकी-आधारित प्रशिक्षण (बिना ग्राउंड ट्रुथ के) के तहत स्थिर प्रदर्शन बनाए रखा, जबकि MLP ग्रेडिएंट पैथोलॉजी और उच्च वेरिएंस से ग्रस्त हुआ।

5. महत्व और प्रभाव

वैज्ञानिक मशीन लर्निंग (SciML): RMN शास्त्रीय सन्निकटन सिद्धांत (Müntz-Szász प्रमेय) और डीप लर्निंग के बीच के अंतर को पाटता है, जो उन सिंगुलैरिटीज़ को संभालने के लिए एक सिद्धांत आधारित तरीका प्रदान करता है जो सामान्य न्यूरल नेटवर्क्स के लिए कठिन हैं।
दक्षता: अत्यधिक पैरामीटर दक्षता RMN को संसाधन-बाधित अनुप्रयोगों, रीयल-टाइम सिमुलेशन और उन परिदृश्यों के लिए आदर्श बनाती है जहाँ ग्राउंड ट्रुथ डेटा दुर्लभ है (भौतिकी बाधाओं पर निर्भर रहना)।
व्याख्यात्मकता: "ब्लैक बॉक्स" नेटवर्क के विपरीत, RMN आउटपुट भौतिक रूप से सार्थक पैरामीटर्स (सिंगुलैरिटी ऑर्डर्स) प्रदान करता है, जिससे शोधकर्ता सीधे मॉडल वेट्स से वैज्ञानिक अंतर्दृष्टि निकाल सकते हैं।
भविष्य की दिशाएं: यह कार्य स्ट्रक्चर-मैच्ड आर्किटेक्चर की ओर एक बदलाव का सुझाव देता है जहाँ नेटवर्क टोपोलॉजी को केवल क्षमता (capacity) के माध्यम से सार्वभौमिक सन्निकटन (universal approximation) पर निर्भर रहने के बजाय, ज्ञात भौतिक गुणों (जैसे रेडियल सिमेट्री, संरक्षण नियम) को प्रतिबिंबित करने के लिए डिज़ाइन किया जाता है।

निष्कर्षतः, यह शोध पत्र प्रदर्शित करता है कि रेडियल सिंगुलैरिटीज़ से डोमिनेटेड समस्याओं के लिए, आर्किटेक्चर को भौतिकी के अनुरूप बनाना जेनेरिक डीप लर्निंग दृष्टिकोणों की तुलना में नाटकीय सुधार (सटीकता, दक्षता और व्याख्यात्मकता में) प्रदान करता है।