⚛️ nuclear theory

Neural Operators as Efficient Function Interpolators

यह शोध पत्र एक सहायक बेस-स्पेस (auxiliary base-space) को पेश करके न्यूरल ऑपरेटर्स को कुशल फंक्शन इंटरपोलेटर्स के रूप में पुनर्गठित करता है, और विश्लेषणात्मक बेंचमार्क तथा एक न्यूक्लियर मास मॉडल अनुप्रयोग के माध्यम से यह प्रदर्शित करता है कि वे मानक न्यूरल नेटवर्क की तुलना में काफी कम मापदंडों और तेज़ प्रशिक्षण समय के साथ अत्याधुनिक सटीकता प्राप्त करते हैं।

मूल लेखक: Vasilis Niarchos, Angelos Sirbu, Sokratis Trifinopoulos

प्रकाशित 2026-05-11

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Vasilis Niarchos, Angelos Sirbu, Sokratis Trifinopoulos

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

मुख्य विचार: खेल बदलना

कल्पना कीजिए कि आप ज़मीन पर बिखरे हुए कुछ कंकड़ों के आधार पर एक छिपे हुए परिदृश्य (landscape) के आकार का अनुमान लगाने की कोशिश कर रहे हैं। वैज्ञानिक इसे "फंक्शन इंटरपोलेशन" (function interpolation) कहते हैं।

लंबे समय से, इस काम के लिए मानक उपकरण न्यूरल नेटवर्क (विशेष रूप से MLPs) रहे हैं। इन्हें एक ऐसे छात्र की तरह समझें जो परीक्षा दे रहा है: वे उन विशिष्ट उत्तरों को रट लेते हैं जिनका उन्होंने अभ्यास किया है। यदि आप उनसे थोड़ा अलग प्रश्न पूछते हैं, तो वे लड़खड़ा सकते हैं। वे बिंदु-दर-बिंदु (point-by-point) सीखते हैं।

इस शोध पत्र के लेखक न्यूरल ऑपरेटर्स (NOs) का उपयोग करके सोचने का एक नया तरीका प्रस्तावित करते हैं। व्यक्तिगत बिंदुओं को रटने के बजाय, NOs स्वयं परिदृश्य के नियमों को सीखते हैं। वे डेटा को उत्तरों की एक सूची के रूप में नहीं, बल्कि एक निरंतर मानचित्र (continuous map) के रूप में देखते हैं।

यह पेपर एक सरल प्रश्न पूछता है: क्या हम इन शक्तिशाली "मानचित्रकारों" (NOs) का उपयोग कर सकते हैं, जिन्हें मूल रूप से जटिल भौतिकी समीकरणों के लिए डिज़ाइन किया गया था, केवल एक मानक ग्राफ पर खाली स्थानों को भरने के लिए?

इसका उत्तर एक जोरदार हाँ है। वास्तव में, उन्होंने पाया कि NOs यह काम मानक उपकरणों की तुलना में बेहतर, तेज़ और कम "मस्तिष्क शक्ति" (पैरामीटर्स) के साथ कर सकते हैं।

गुप्त सूत्र: "सहायक आधार-स्थान" (The Auxiliary Base-Space)

वे एक "मानचित्रकार" को संख्याओं की एक साधारण सूची पर कैसे काम करने लायक बनाते हैं? वे सहायक आधार-स्थान (auxiliary base-space) नामक एक चतुर तकनीक का उपयोग करते हैं।

उपमा: छाया कठपुतली (The Shadow Puppet)
कल्पना कीजिए कि आपके पास एक जटिल 3D मूर्ति है (वह फंक्शन जिसे आप सीखना चाहते हैं)।

मानक विधि (MLP): आप मूर्ति की एक कोण से फोटो लेते हैं, फिर दूसरे से, फिर तीसरे से। आप हर एक फोटो को रटने की कोशिश करते हैं।
पेपर की विधि (NO): आप मूर्ति को एक घूमते हुए मंच (आधार-स्थान) पर रखते हैं। आप उस पर रोशनी डालते हैं और दीवार पर पड़ने वाली उसकी छाया को देखते हैं। भले ही छाया केवल एक 2D रेखा हो, लेकिन मंच को घुमाकर और यह देखकर कि छाया कैसे बदलती है, आप अपने दिमाग में पूरे 3D आकार का पुनर्निर्माण कर सकते हैं।

पेपर में, वे डेटा के एक साधारण समूह को लेते हैं और उन्हें एक "छाया" (एक आधार-स्थान पर फंक्शन) के रूप में व्यवस्थित करते हैं। वे न्यूरल ऑपरेटर को यह समझने के लिए प्रशिक्षित करते हैं कि छाया कैसे चलती है। एक बार जब वह गति के नियमों को समझ लेता है, तो वह छाया के उन हिस्सों के लिए भी सटीक भविष्यवाणी कर सकता है जिन्हें उसने पहले कभी नहीं देखा है।

परीक्षण: वे कैसे सफल रहे?

टीम ने इस नई विधि की तुलना पुराने दिग्गजों (MLPs) और एक नए दावेदार KANs (कोलमोगोरोव-आर्नोल्ड नेटवर्क) से करने के लिए इसे कई "जिम वर्कआउट" से गुजारा।

सुचारू वक्र (The Smooth Curves): उन्होंने लहरदार, गणितीय कार्यों पर परीक्षण किया।
- परिणाम: NOs अन्य की तरह ही सटीक थे लेकिन उन्होंने बहुत कम संसाधनों का उपयोग किया।
तीक्ष्ण किनारे (The Sharp Edges): उन्होंने अचानक उछाल (जैसे एक चट्टान) वाले कार्यों का परीक्षण किया।
- परिणाम: NOs ने तीक्ष्ण किनारों को आश्चर्यजनक रूप से अच्छी तरह से संभाला, जबकि मानक नेटवर्क अक्सर उछाल के आसपास "धुंधले" हो जाते हैं।
शोर (The Noise): उन्होंने शुद्ध यादृच्छिक स्टेटिक (शोर) का परीक्षण किया।
- परिणाम: यहीं पर NOs चमक उठे। जबकि मानक नेटवर्क शोर को "स्मूथ" करने की कोशिश करते हैं (जैसे एक सिकुड़ी हुई शर्ट को इस्त्री करना), NOs ने अराजक पैटर्न को कुशलतापूर्वक सीखा।
उच्च आयाम (The High Dimensions): उन्होंने जटिल, बहु-चर (multi-variable) कार्यों का परीक्षण किया।
- परिणाम: जैसे-जैसे डेटा अधिक जटिल होता गया, NOs स्थिर और सटीक रहे, जबकि अन्य संघर्ष करने लगे।

निष्कर्ष: NOs एक स्विस आर्मी नाइफ की तरह हैं जो एक विशिष्ट पेचकश (screwdriver) के समान ही अच्छे हैं, लेकिन वे हल्के हैं, तेज़ हैं और उन्हें कम ट्यूनिंग की आवश्यकता होती है।

वास्तविक दुनिया का परीक्षण: परमाणु चार्ट (The Nuclear Chart)

यह साबित करने के लिए कि यह केवल एक गणितीय ट्रिक नहीं थी, उन्होंने इसे एक वास्तविक दुनिया की समस्या पर लागू किया: परमाणु भौतिकी (Nuclear Physics)।

समस्या:
वैज्ञानिकों के पास सभी ज्ञात परमाणु नाभिकों (प्रोटॉन और न्यूट्रॉन की संख्या द्वारा परिभाषित) का एक विशाल चार्ट है। उनके पास यह भविष्यवाणी करने के लिए एक बहुत अच्छा फॉर्मूला (जिसे WS4 कहा जाता है) है कि ये नाभिक कितने भारी हैं। लेकिन फॉर्मूला पूर्ण नहीं है; इसमें छोटी त्रुटियां हैं।

कल्पना कीजिए कि WS4 फॉर्मूला एक पर्वत श्रृंखला का एक कच्चा स्केच है।
"त्रुटि" उस स्केच और वास्तविक पर्वत के बीच का अंतर है।
लक्ष्य केवल कुछ ज्ञात मापों का उपयोग करके वास्तविक पर्वत के लापता विवरणों को भरना है।

चुनौती:
इस क्षेत्र में, आप धोखाधड़ी नहीं कर सकते। आप कंप्यूटर को उत्तर देखने नहीं दे सकते। उसे केवल आसपास के परिदृश्य के आधार पर एक ऐसे नाभिक के भार की भविष्यवाणी करनी होगी जिसे उसने कभी नहीं देखा है।

परिणाम:
टीम ने परमाणु चार्ट के "त्रुटि मानचित्र" को सीखने के लिए उनके न्यूरल ऑपरेटर के 2D संस्करण (TFNO) का उपयोग किया।

पुराना तरीका (केवल WS4): इसकी त्रुटि लगभग 282 keV (ऊर्जा की एक इकाई) थी।
नया तरीका (WS4 + Neural Operator): इसने त्रुटि को घटाकर 198 keV कर दिया।

यह उन्हें हाल के शीर्ष विधियों के शीर्ष स्तर में रखता है। लेकिन सबसे बड़ी बात यह है कि, न्यूरल ऑपरेटर मॉडल छोटा था और एक सिंगल कंप्यूटर कार्ड पर मिनटों में प्रशिक्षित हुआ। क्षेत्र के अन्य शीर्ष प्रदर्शन करने वाले मॉडलों को प्रशिक्षण के लिए विशाल कंप्यूटर क्लस्टर और कई दिनों की आवश्यकता थी।

सारांश

यह पेपर दावा करता है कि न्यूरल ऑपरेटर्स में डेटा फीड करने के तरीके को बदलकर—डेटा की एक सूची को बिंदुओं की सूची के बजाय एक निरंतर "छाया" के रूप में मानकर—हमें एक ऐसा उपकरण मिलता है जो है:

अधिक सटीक: यह खाली स्थानों को बेहतर ढंग से भरता है।
अधिक कुशल: इसे कम मेमोरी और प्रशिक्षण समय की आवश्यकता होती है।
अधिक मजबूत: यह बिना किसी परेशानी के अव्यवस्थित, शोर वाले या जटिल डेटा को संभालता है।

उन्होंने सफलतापूर्वक अमूर्त गणितीय समस्याओं और एक महत्वपूर्ण वास्तविक दुनिया की भौतिकी समस्या (परमाणु नाभिक के द्रव्यमान की भविष्यवाणी करना) दोनों पर इसे प्रदर्शित किया, जिससे सिद्ध हुआ कि यह "मानचित्रकार" दृष्टिकोण अब उपयोग के लिए तैयार है।

तकनीकी सारांश: कुशल फलन इंटरपोलेटर के रूप में न्यूरल ऑपरेटर्स

समस्या विवरण

विरल मूल्यांकन (sparse evaluations) से अज्ञात फलनों (functions) का इंटरपोलेशन करना विज्ञान और इंजीनियरिंग में एक मौलिक चुनौती है। जबकि शास्त्रीय विधियाँ (रैखिक, बहुपद, स्प्लाइन) उच्च-आयामी या अत्यधिक दोलनशील लक्ष्यों के साथ संघर्ष करती हैं, मानक न्यूरल नेटवर्क (MLPs) अक्सर डेटा के विविक्तीकरण (discretization) पर संवेदनशील होते हैं और ओवरफिटिंग के प्रति प्रवृत्त होते हैं। वैकल्पिक आर्किटेक्चर जैसे कि कोलोमोगोरोव-आर्नोल्ड नेटवर्क (KANs) व्याख्यात्मकता (interpretability) तो प्रदान करते हैं, लेकिन वे गणनात्मक रूप से महंगे हो सकते हैं।

न्यूरल ऑपरेटर्स (NOs), जिन्हें मूल रूप से अनंत-आयामी फलन स्थानों (जैसे, पैरामीट्रिक PDEs को हल करने के लिए) के बीच मानचित्रों को सीखने के लिए डिज़ाइन किया गया था, में "विविक्तीकरण अपरिवर्तनीयता" (discretization invariance) होती है, जो उन्हें बिना पुन: प्रशिक्षण के मनमाने रिज़ॉल्यूशन पर मूल्यांकन करने की अनुमति देती है। हालाँकि, सरल, सर्वव्यापी परिमित-आयामी फलन सन्निकटन (function approximation)/इंटरपोलेशन के कार्य के लिए उनके अनुप्रयोग का अभी भी कम अन्वेषण किया गया है। यह शोध पत्र इस बात की जांच करता है कि क्या NOs को मानक बिंदु-वार (point-wise) शिक्षण दृष्टिकोणों की तुलना में अधिक कुशलता से परिमित-आयामी फलनों को सीखने के लिए पुन: उपयोग किया जा सकता है।

कार्यप्रणाली

लेखक एक सहायक आधार-स्थान ( $B$ ) पेश करके फलन सन्निकटन के एक नवीन पुनर्गठन का प्रस्ताव करते हैं।

सैद्धांतिक ढांचा

सीधे एक लक्ष्य फलन $f: D_{in} \to \mathbb{R}^{d_{out}}$ का सन्निकटन करने के बजाय, यह विधि एक ऑपरेटर $\mathcal{F}$ को परिभाषित करती है जो संरचना (composition) के माध्यम से $x: B \to D_{in}$ फलनों पर कार्य करता है:
$\mathcal{F}[x](s) = f(x(s))$
एक न्यूरल ऑपरेटर का उपयोग करके ऑपरेटर $\mathcal{F}$ को सीखकर, प्रणाली प्रभावी रूप से लक्ष्य फलन $f$ को सीख लेती है।

कार्यान्वयन रणनीति

डेटा निर्माण: प्रशिक्षण डेटा $\{(x_i, f(x_i))\}$ को आधार-स्थान $B$ के भीतर $r$ बिंदुओं के ग्रिड पर विविक्तीकृत इनपुट फलनों $x(s)$ में पुनर्व्यवस्थित किया जाता है।
शिक्षण रणनीति: NO इनपुट फलनों को आउटपुट फलनों में मैप करना सीखता है। यह मॉडल को बिंदु-वार के बजाय उच्च-आयामी उप-स्थानों में अधिक "गैर-स्थानीय" (non-locally) रूप से लक्ष्य फलन $f$ को सीखने की अनुमति देता है।
आर्किटेक्चरल वेरिएंट्स:
- 0D-NO: आधार-स्थान $B$ एक एकल बिंदु है। यह NO आर्किटेक्चर को एक मानक मल्टी-लेयर पर्सेप्ट्रॉन (MLP) में बदल देता है, लेकिन टेंसरयुक्त रैखिक परतों (Tensorized linear layers) के साथ (Tensorized MLP)।
- 1D-NO: आधार-स्थान एक-आयामी है, जो वक्रों (curves) के अनुदिश फलनों को सीखता है।
- 2D-NO: आधार-स्थान द्वि-आयामी है, जिसका उपयोग परमाणु भौतिकी के अनुप्रयोग के लिए किया जाता है।
अनुमान (Inference): भविष्यवाणियां प्रशिक्षित NO पर निर्मित इनपुट फलनों का मूल्यांकन करके की जाती हैं। आउटपुट एक फलन होता है जिसमें $r$ मूल्यांकन शामिल होते हैं, जो NO की ज़ीरो-शॉट सुपर-रिज़ॉल्यूशन क्षमताओं का लाभ उठाता है।

मुख्य योगदान

पुनर्गठन: एक सहायक आधार-स्थान के माध्यम से ऑपरेटर लर्निंग समस्या के रूप में फलन सन्निकटन को पुनर्गठित करने वाला एक वैचारिक बदलाव।
बेंचमार्किंग: विभिन्न जटिलताओं (पार्शियल-वेव एक्सपेंशन, हेविसाइड स्टेप्स, पीसवाइज गौसियन, शोर, और हाइपरज्यामितीय फलन) वाले विश्लेषणात्मक फलनों पर 0D-NOs, 1D-NOs, MLPs और KANs का व्यापक मूल्यांकन।
वास्तविक दुनिया का अनुप्रयोग: परमाणु भौतिकी में अनुप्रयोग, विशेष रूप से वीज़बैकर-स्काईर्म संस्करण-4 (WS4) परमाणु द्रव्यमान मॉडल में सुधारों को सीखने के लिए एक 2D टेंसरॉइड फूरियर न्यूरल ऑपरेटर (TFNO) का उपयोग।

परिणाम

विश्लेषणात्मक बेंचमार्क

प्रदर्शन: 1D-TFNO लगातार शीर्ष प्रदर्शन करने वालों में से एक रहा, जो अक्सर सटीकता (RMSE) में MLPs और KANs को पीछे छोड़ देता है या उनके बराबर होता है, जबकि इसे काफी कम मापदंडों और प्रशिक्षण समय की आवश्यकता होती है।
स्थिरता: 1D-TFNO ने विभिन्न टेस्ट सेट आकारों और रिज़ॉल्यूशन के बीच बेहतर स्थिरता प्रदर्शित की, जिसका श्रेय FNOs के ज़ीरो-शॉट सुपर-रिज़ॉल्यूशन गुणों को दिया जाता है।
जटिलता: 1D-TFNO ने उच्च-आवृत्ति वाली विशेषताओं और रैंडम नॉइज़ संरचनाओं को सफलतापूर्वक सीखा जहाँ MLPs संघर्ष कर रहे थे (स्पेक्ट्रल बायस के कारण) और जहाँ KANs कभी-कभी बड़े अवशेष (residuals) उत्पन्न करते थे।
0D-NO दक्षता: टेंसरयुक्त MLP (0D-NO) आम तौर पर मानक MLPs से बेहतर प्रदर्शन करता है, जिससे पता चलता है कि केवल टेंसरयुक्त परतें ही फलन सन्निकटन में दक्षता लाभ प्रदान करती हैं।

परमाणु बंधन ऊर्जा अनुप्रयोग

कार्य: मॉडल ने $(Z, N)$ परमाणु चार्ट पर अवशिष्ट क्षेत्र (residual field) $\Delta E_b = E_b^{exp} - E_b^{WS4}$ को सीखा, एक आंशिक रूप से प्रेक्षित 2D क्षेत्र को पूरा करने की समस्या के रूप में।
प्रोटोकॉल: डेटा लीकेज को रोकने के लिए मूल्यांकन सख्ती से आउट-ऑफ-सैंपल (पूल की गई फाइव-फोल्ड आउट-ऑफ-फोल्ड) था, जो परमाणु द्रव्यमान मॉडलिंग के लिए एक महत्वपूर्ण आवश्यकता है।
प्रदर्शन:
- एक एकल TFNO सदस्य ने 208.3 ± 2.7 keV का रूट-मीन-स्क्वायर (RMS) त्रुटि प्राप्त किया।
- एक 30-सदस्यीय एन्सेम्बल (ensemble) ने 198.2 keV तक पहुँच प्राप्त की, जो कच्चे WS4 बेसलाइन (282.5 keV) की तुलना में त्रुटि में 30% की कमी दर्शाता है।
दक्षता: एन्सेम्बल (4.4M कुल पैरामीटर) को प्रति सदस्य मिनटों में सिंगल GPU पर "एम्बैरेसिंगली इन पैरेलल" (embarrassingly in parallel) प्रशिक्षित किया गया था, जो अन्य हालिया न्यूरल नेटवर्क दृष्टिकोणों की तुलना में उच्च पैरामीटर दक्षता बनाए रखता है।
तुलना: TFNO+WS4 दृष्टिकोण ने साहित्य में मौजूद अधिकांश कोऑर्डिनेट-ओनली सिंगल-टास्क मॉडल्स को पछाड़ दिया, हालांकि यह मल्टी-टास्क या फिजिक्स-इंफॉर्म्ड मॉडल्स (जैसे, NuCLR, LightGBM वेरिएंट्स) से पीछे रह गया जो इंजीनियर फीचर्स या कई बेसलाइन्स का उपयोग करते हैं।

महत्व और दावे

यह शोध पत्र दावा करता है कि न्यूरल ऑपरेटर्स परिमित-आयामी फलन इंटरपोलेशन के लिए एक स्केलेबल फ्रेमवर्क प्रदान करते हैं। प्राथमिक महत्व यह प्रदर्शित करने में निहित है कि:

गैर-स्थानीय शिक्षण श्रेष्ठ है: सहायक आधार-स्थान (auxiliary base-space) के माध्यम से उच्च-आयामी उप-स्थानों में फलनों को सीखना, विरल और संरचित वैज्ञानिक डेटा के लिए बिंदु-वार शिक्षण की तुलना में अधिक प्रभावी है।
दक्षता: NOs मानक MLPs या KANs की तुलना में कम मापदंडों और कम प्रशिक्षण समय के साथ वैज्ञानिक इंटरपोलेशन कार्यों (जैसे, परमाणु द्रव्यमान सुधार) में अत्याधुनिक सटीकता प्राप्त कर सकते हैं।
मजबूती: यह दृष्टिकोण अत्यधिक हाइपरपैरामीटर ट्यूनिंग के बिना उच्च प्रदर्शन बनाए रखता है और उच्च-आवृत्ति संरचनाओं और शोर को प्रभावी ढंग से संभालता है।

लेखक इस कार्य को विशेष रूप से उच्च-आयामी सेटिंग्स में, जहाँ प्रशिक्षण डेटा अनिवार्य रूप से विरल होता है, फलन सन्नक (function approximators) के रूप में NOs के व्यवस्थित उपयोग के लिए एक प्रेरणा के रूप में प्रस्तुत करते हैं। वे यह दावा नहीं करते हैं कि उन्होंने परमाणु द्रव्यमान की समस्या को पूरी तरह से हल कर दिया है, बल्कि यह प्रदर्शित करते हैं कि NOs भौतिकी में संरचित अवशेषों (structured residuals) को सीखने के लिए एक प्रतिस्पर्धी और कुशल उपकरण हैं।