📊 statistics

Probabilistic Symbolic Regression for Equation Discovery via Operator-induced and Regularized Symbolic Forests

यह शोध पत्र एक संभाव्य प्रतीकात्मक प्रतिगमन (प्रोबेबिलिस्टिक सिम्बोलिक रिग्रेशन) ढांचे को प्रस्तुत करता है जो उच्च भविष्य कहनेवाला सटीकता, इष्टतम अभिव्यक्ति जटिलता और सुदृढ़ अनिश्चितता परिमाणीकरण को एक साथ प्राप्त करने के लिए ऑपरेटर-प्रेरित और नियमित प्रतीकात्मक वनों (ऑपरेटर-इंड्यूस्ड एंड रेगुलराइज्ड सिम्बोलिक फॉरेस्ट्स) का उपयोग करता है, जबकि सटीक और मिसस्पेसिफाइड प्रतीकात्मक स्थितियों के तहत पोस्टीरियर कंसन्ट्रेशन के लिए सैद्धांतिक गारंटी भी प्रदान करता है।

मूल लेखक: Somjit Roy, Pritam Dey, Bani K. Mallick, Debdeep Pati

प्रकाशित 2026-07-28

📖 3 मिनट में पढ़ें☕ कॉफ़ी ब्रेक में पढ़ें

CC BY 4.0

मूल लेखक: Somjit Roy, Pritam Dey, Bani K. Mallick, Debdeep Pati

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक जासूस हैं जो एक रहस्य को सुलझाने की कोशिश कर रहे हैं, लेकिन उंगलियों के निशान या पैरों के निशान खोजने के बजाय, आप उन छिपे हुए गणितीय नियमों की तलाश कर रहे हैं जो ब्रह्मांड को नियंत्रित करते हैं। यह वैज्ञानिक मशीन लर्निंग (scientific machine learning) की दुनिया है, जहाँ कंप्यूटर केवल भविष्यवाणियाँ करने के लिए (जैसे कल के मौसम का अनुमान लगाना) ही नहीं, बल्कि उन वास्तविक समीकरणों की खोज करने के लिए डेटा से सीखते हैं जो बताते हैं कि चीजें कैसे काम करती हैं। आमतौर पर, कंप्यूटर पैटर्न खोजने में माहिर होते हैं, लेकिन वे अक्सर हमें ऐसे उत्तर देते हैं जो ऊन के एक उलझे हुए गोले की तरह दिखते हैं—बेहद सटीक लेकिन इंसान के लिए पढ़ना या समझना असंभव। सिंबोलिक रिग्रेशन (Symbolic regression) वह विशेष उपकरण है जिसका उपयोग वैज्ञानिक इस उलझे हुए ऊन को सुलझाने के लिए करते हैं। यह सरल, स्पष्ट सूत्रों (जैसे $F=ma$) की खोज करता है जो डेटा के अनुकूल हों, न कि जटिल, 'ब्लैक-बॉक्स' कंप्यूटर मॉडल की। हालाँकि, बड़ी चुनौती यह है कि संभावित सूत्रों की संख्या इतनी अधिक है कि सही सूत्र को खोजना आकाशगंगा के आकार के ढेर में एक सुई खोजने जैसा है, और "शोर" (डेटा में यादृच्छिक त्रुटियां) के झांसे में आकर एक नकली सूत्र को असली समझने की गलती करना बहुत आसान है।

यहाँ BayeSymX का प्रवेश होता है, जो सोमजीत रॉय और उनकी टीम द्वारा पेश किया गया एक नया तरीका है जो इन गणितीय नियमों को खोजने के लिए एक अत्यंत बुद्धिमान, सतर्क जासूस की तरह कार्य करता है। केवल एक उत्तर का अनुमान लगाने और उसके सही होने की उम्मीद करने के बजाय, BayeSymX इस खोज को एक संभाव्यता आधारित खेल (probabilistic game) के रूप में देखता है। एक जंगल की कल्पना करें जहाँ हर पेड़ एक अलग संभावित समीकरण का प्रतिनिधित्व करता है। BayeSymX केवल सबसे ऊंचे पेड़ को नहीं चुनता; यह उम्मीदवार समीकरणों का एक पूरा जंगल उगाता है, डेटा के आधार पर इस बात का आकलन करता है कि प्रत्येक समीकरण के सत्य होने की कितनी संभावना है, और अत्यधिक जटिल समीकरणों को छाँटने के लिए एक विशेष "ऑकम्स रेजर" (Occam's Razor) नियम का उपयोग करता है। शोधकर्ताओं ने पाया कि यह दृष्टिकोण अविश्वसनीय रूप से प्रभावी है: यह न केवल अन्य शीर्ष विधियों की तुलना में डेटा की बेहतर भविष्यवाणी करता है, बल्कि प्रसिद्ध भौतिकी समीकरणों (जैसे फेनमैन के व्याख्यानों से) की सही, सरल संरचना को भी शोर वाले डेटा के बावजूद सफलतापूर्वक खोज निकालता है। स्वच्छ ऊर्जा उत्प्रेरकों (catalysts) के लिए नई सामग्रियों से संबंधित एक वास्तविक दुनिया के परीक्षण में, BayeSymX ने उन संक्षिप्त, वैज्ञानिक रूप से सार्थक "डिस्क्रिप्टर्स" (descriptors) की सफलतापूर्वक पहचान की जिन्हें अन्य विधियों ने या तो छोड़ दिया या अनावश्यक जटिलता की परतों के नीचे दबा दिया। टीम ने गणितीय रूप से सिद्ध किया कि उनका तरीका विश्वसनीय है, यह दिखाते हुए कि जैसे-जैसे अधिक डेटा आता है, सही समीकरण के प्रति विधि का आत्मविश्वास तेजी से बढ़ता है, जिससे सत्य तक पहुँचना प्रभावी रूप से आसान हो जाता है, भले ही सटीक सूत्र तुरंत स्पष्ट न हो।

तकनीकी सारांश: ऑपरेटर-प्रेरित और नियमितीकृत सिम्बोलिक फॉरेस्ट्स के माध्यम से समीकरण खोज के लिए संभाव्य सिम्बोलिक रिग्रेशन

1. समस्या विवरण

सिम्बोलिक रिग्रेशन (SR) का लक्ष्य उन व्याख्यात्मक विश्लेषणात्मक व्यंजकों (expressions) की खोज करना है जो डेटा से सीधे इनपुट-आउटपुट संबंधों को नियंत्रित करते हैं, जो वैज्ञानिक मशीन लर्निंग का एक केंद्रीय कार्य है। जबकि मौजूदा SR विधियाँ (जैसे जेनेटिक प्रोग्रामिंग, डीप सिम्बोलिक रिग्रेशन, और कंप्रेस्ड सेंसिंग दृष्टिकोण) आशाजनक परिणाम दिखा चुकी हैं, वे महत्वपूर्ण सांख्यिकीय और कम्प्यूटेशनल चुनौतियों का सामना करती हैं:

अनुमानी निर्भरता (Heuristic Reliance): कई विधियाँ स्टोकेस्टिक सर्च ह्यूरिस्टिक्स पर निर्भर करती हैं जो विशेष रूप से शोर वाले, छोटे-नमूने वाले वैज्ञानिक डेटासेट में, भविष्य कहने वाली सटीकता और व्यंजक जटिलता के बीच संतुलन बनाने में संघर्ष करती हैं।
अनिश्चितता लक्षण वर्णन (Uncertainty Characterization): वर्तमान दृष्टिकोण सीमित सिम्बोलिक अनिश्चितता लक्षण वर्णन प्रदान करते हैं, जो अक्सर केवल एक एकल "सर्वश्रेष्ठ" व्यंजक लौटाते हैं बिना वैकल्पिक संरचनात्मक स्पष्टीकरणों की संभाव्यता को मात्रात्मक रूप से व्यक्त किए बिना।
सैद्धांतिक अंतराल (Theoretical Gaps): मिसस्पेसिफिकेशन (misspecification) या नॉन-आइडेंटिफिएबिलिटी (non-identifiability) (जहाँ बीजगणितीय रूप से भिन्न व्यंजक समान भविष्यवाणियाँ देते हैं) की स्थितियों के तहत पोस्टीरियर कंसंट्रेशन रेट्स (posterior concentration rates) के संबंध में सैद्धांतिक उपचारों की कमी है।

यह शोध पत्र एक एकीकृत संभाव्य ढांचे (unified probabilistic framework) का प्रस्ताव करके इन अंतरालों को संबोधित करता है जो सिम्बोलिक व्यंजकों को पेड़ों के एन्सेम्बल (ensembles of trees) के रूप में मानता है, जिससे पूर्ण अनिश्चितता प्रसार और कठोर सैद्धांतिक गारंटी सक्षम होती है।

2. कार्यप्रणाली: BayeSymX फ्रेमवर्क

लेखक BayeSymX (बीयोसिमएक्स - एक्सप्रेशन डिस्कवरी के लिए बेयसियन सिम्बोलिक रिग्रेशन फॉरेस्ट्स) पेश करते हैं, जो एक संभाव्य ढांचा है जो अज्ञात रिग्रेशन सतह $f$ को सिम्बोलिक पेड़ों के एक एफीन संयोजन (affine combination) (एक "सिम्बोलिक फॉरेस्ट") के रूप में मॉडल करता है।

2.1 मॉडल संरचना

मॉडल यह मानता है कि अवलोकनों $y_i = f(x_i) + \epsilon_i$ के रूप में हैं, जहाँ:
$y_i = \beta_0 + \sum_{j=1}^K g(x_i; T_j)\beta_j + \epsilon_i$
यहाँ, $g(x; T_j)$ $j$ -वें सिम्बोलिक पेड़ $T_j$ के मूल्यांकन का प्रतिनिधित्व करता है, और $\beta$ बाहरी रिग्रेशन गुणांक (coefficients) हैं। पेड़ों का निर्माण प्राथमिक विशेषताओं (features) और गणितीय ऑपरेटरों (unary और binary) के एक पुस्तकालय से पुनरावर्ती रूप से किया जाता है।

2.2 प्रायर स्पेसिफिकेशन (Prior Specifications)

फ्रेमवर्क एक पदानुक्रमित बेयसियन स्पेसिफिकेशन का उपयोग करता है जिसे जटिलता को नियमित करने और डेटा-अनुकूल वरीयताओं को सीखने के लिए डिज़ाइन किया गया है:

ट्री टोपोलॉजी प्रायर (Tree Topology Prior): एक डेप्थ-डिपेंडेंट स्प्लिटिंग प्रोबेबिलिटी $p_m = \alpha_0(1+m)^{-\delta_0}$ गहराई वाले पेड़ों को दंडित करती है, जो 'ओकैम के रेज़र' (Occam's razor) के एक रूप को लागू करती है जो सरल निरूपणों को प्राथमिकता देती है।
ऑपरेटर और फीचर प्रायर: फिक्स्ड-वेट दृष्टिकोणों के विपरीत, BayeSymX पेड़ों के विशिष्ट ऑपरेटर और फीचर असाइनमेंट वेट्स पर डिरिचलेट प्रायर (Dirichlet priors) का उपयोग करता है। यह मॉडल को डेटा-अनुकूल तरीके से यह सीखने की अनुमति देता है कि विशिष्ट पेड़ों के लिए कौन से ऑपरेटर और फीचर्स प्रासंगिक हैं।
रिग्रेशन गुणांक: बाहरी गुणांकों $\beta$ और शोर विचरण (noise variance) $\sigma^2$ पर कंजुगेट नॉर्मल-इनवर्स-गामा (NIG) प्रायर रखे जाते हैं, जो सभी मॉडल मापदंडों में पूर्ण अनिश्चितता प्रसार सुनिश्चित करते हैं।

2.3 पोस्टीरियर इन्फरेंस (Posterior Inference)

मार््जनलाइजेशन (Marginalization): निरंतर मापदंडों $(\beta, \sigma^2)$ को NIG कंजुगेशन का उपयोग करके विश्लेषणात्मक रूप से मार््जनलाइज किया जाता है, जिससे सिम्बोलिक फॉरेस्ट्स के डिस्क्रीट स्पेस पर एक जॉइंट मार्जिनल पोस्टीरियर (JMP) प्राप्त होता है।
सैंपलिंग (Sampling): डिस्क्रीट स्पेस में नेविगेट करने के लिए सात स्थानीय ट्री मूव्स (grow, prune, subtree replacement, delete, insert, change feature, change operator) का उपयोग करते हुए एक 'मेट्रोपोलिस-विदिन-पार्शियली-कोलैप्स्ड गिब्स सैंपलर' का उपयोग किया जाता है।
मॉडल चयन (Occam's Window): एक एकल सर्वश्रेष्ठ पेड़ चुनने के बजाय, BayeSymX एक Occam's window दृष्टिकोण का उपयोग करता है। यह कई संभावित सिम्बोलिक मॉडलों में अनिश्चितता को कैप्चर करने के लिए उच्च-पोस्टीरियर-संभाव्यता वाले फॉरेस्ट्स ( $J_r$ ) के एक सेट को बनाए रखता है।
रिफाइनमेंट (Refinement): एक पोस्ट-MCMC रिफाइनमेंट स्टेप बेयसियन इंफॉर्मेशन क्राइटेरियन (BIC) का उपयोग करता है ताकि रेडंडेंट पेड़ों को छाँटा जा सके और अंतिम व्यंजकों को बीजगणितीय रूप से सरल बनाया जा सके।

3. मुख्य योगदान

3.1 सैद्धांतिक गारंटी

यह शोध पत्र सिम्बोलिक रिग्रेशन के लिए नवीन पोस्टीरियर कंसंट्रेशन परिणाम स्थापित करता है, जो एक ऐसा क्षेत्र है जिसमें पहले कठोर सैद्धांतिक उपचार की कमी थी:

अनुमानित रियलाइजेबिलिटी (Approximate Realizability): हल्के रेगुलैरिटी अनुमानों के तहत, लेखक सिद्ध करते हैं कि पोस्टीरियर $f_0$ के आसपास केंद्रित होता है, जिसकी दर एम्पिरिकल एप्रोक्सीमेशन एरर और एक नए प्राप्त सिम्बोलिक कॉम्प्लेक्सिटी स्केल ( $\mathfrak{C}_{K,S,n}$ ) के बीच के ट्रेड-ऑफ द्वारा निर्धारित होती है।
नियर-पैरामीट्रिक रेट्स (Near-Parametric Rates): सटीक परिमित सिम्बोलिक प्रतिनिधित्व के मामले में, फ्रेमवर्क $O(n^{-1/2}(\log n \log \log n)^{1/2})$ की नियर-पैरामीटरिक कंसंट्रेशन रेट प्राप्त करता है।
मिसस्पेसिफिकेशन और ऑरेकल असमानताएँ (Misspecification and Oracle Inequalities): सिम्बोलिक मिसस्पेसिफिकेशन (जहाँ $f_0$ , मॉडल क्लास में नहीं है) के तहत, पेपर एक शार्प ऑरेकल कंसंट्रेशन रिजल्ट स्थापित करता है। पोस्टीरियर इष्टतम जनसंख्या एप्रोक्सीमेशन एरर के आसपास केंद्रित होता है, जिसमें क्लासिकल मिसस्पेसिफिकेशन थ्योरी में आवश्यक विशेष टेस्टिंग कंडीशंस या सीमित KL-मिनिमाइजर्स की आवश्यकता नहीं होती है।
नॉन-आइडेंटिफिएबिलिटी हैंडलिंग: गारंटियाँ प्रेडिक्टिव फंक्शन्स के स्तर पर तैयार की गई हैं, जो इस बात को स्वीकार करती हैं कि कई अलग-अलग सिम्बोलिक संरचनाएं एक ही फंक्शन का प्रतिनिधित्व कर सकती हैं।

3.2 पद्धतिगत नवाचार (Methodological Innovations)

ऑपरेटर-इंड्यूस्ड फॉरेस्ट्स: सिंगल ट्री के बजाय फॉरेस्ट्स (एन्सेम्बल) का उपयोग करने से एडिटिव साइंटिफिक स्ट्रक्चर बनाए रखते हुए व्याख्यात्मकता बनी रहती है।
डेटा-अनुकूलित लर्निंग: ऑपरेटर/फीचर वेट्स पर डिरिचलेट प्रायर मॉडल को संरचनात्मक प्राथमिकताओं को अनुकूल रूप से सीखने में सक्षम बनाता है, जिससे पिछले बेयसियन SR (जैसे BSR) में पाए जाने वाले कठोर फिक्स्ड-वेट प्रायर के प्रतिबंधों से बचा जा सकता है।
अनिश्चितता-जागरूक सारांशीकरण (Uncertainty-Aware Summarization): Occam's window रणनीति एकल पॉइंट एस्टीमेट के बजाय कई प्रतिस्पर्धी वैज्ञानिक परिकल्पनाओं को रिपोर्ट करने के लिए एक सिद्धांतपूर्ण तरीका प्रदान करती है।

4. अनुभवजन्य परिणाम (Empirical Results)

लेखक दो अलग-अलग बेंचमार्क पर अत्याधुनिक प्रतिस्पर्धियों (gplearn, operon, PySR, DSR, QLattice, SISSO++, BMS, और BSR सहित) के विरुद्ध BayeSymX का मूल्यांकन करते हैं:

4.1 फेनमैन समीकरण (SRBench)

सेटअप: विभिन्न शोर स्तरों और संरचनात्मक जटिलताओं के तहत फेनमैन लेक्चर्स से 5 भौतिक नियमों की रिकवरी।
निष्कर्ष: BayeSymX ने लगातार भविष्य कहने वाली सटीकता (न्यूनतम टेस्ट RMSE), सिम्बोलिक पार्सिमनी (कॉम्पैक्ट व्यंजक), और सटीक संरचनात्मक रिकवरी के बीच एक बेहतर संतुलन हासिल किया। प्रतिस्पर्धी विधियाँ या तो सही संरचना प्राप्त करने में विफल रहीं या समान सटीकता प्राप्त करने के लिए अत्यधिक जटिल व्यंजक उत्पन्न किए। BayeSymX ने बढ़ते शोर स्तरों के प्रति मजबूती प्रदर्शित की जहाँ अन्य विधियाँ काफी खराब प्रदर्शन करती हैं।

4.2 ऑक्साइड पेरोव्स्काइट कैटलिस्ट डिस्कवरी

सेटअप: उत्प्रेरक संरचना (catalyst composition) को ऑक्सीजन इवोल्यूशन रिएक्शन (OER) गतिविधि से जोड़ने वाले "मटेरियल्स जींस" (डिस्क्रिप्टर्स) की खोज।
निष्कर्ष: BayeSymX ने कॉम्पैक्ट, वैज्ञानिक रूप से व्याख्यात्मक डिस्क्रिप्टर व्यंजक (26–40 नोड्स) की पहचान की जो ज्ञात संरचना-गतिविधि संबंधों (जैसे टॉलरेंस फैक्टर $\mu$ , इलेक्ट्रोनेगेटिविटी $\chi_A, \chi_B$ शामिल) को रिकवर करते हैं। इसके विपरीत, high-accuracy प्रतिस्पर्धी जैसे operon ने बोझिल व्यंजक (90–104 नोड्स) उत्पन्न किए, जबकि PySR जैसे कॉम्पैक्ट तरीकों ने कम प्रेडिक्टिव प्रदर्शन दिखाया। BayeSymX ने सटीकता-जटिलता ट्रेड-ऑफ के पारेटो फ्रंटियर (Pareto frontier) को प्राप्त किया।

5. महत्व और दावे

पेपर का दावा है कि BayeSymX निम्नलिखित द्वारा संभाव्य सिम्बोलिक रिग्रेशन में एक महत्वपूर्ण प्रगति का प्रतिनिधित्व करता है:

संरचना और अनिश्चितता का एकीकरण: एक ऐसा ढांचा प्रदान करना जो संयुक्त रूप से सिम्बोलिक संरचना सीखता है, रेगुलाइजेशन के माध्यम से जटिलता को नियंत्रित करता है, और कई संभावित मॉडलों में अनिश्चितता को मापता है।
सैद्धांतिक कठोरता: सटीक प्रतिनिधित्व और मिसस्पेसिफिकेशन दोनों को संभालने के लिए सिम्बोलिक रिग्रेशन के लिए पहले पोस्टीरियर कंसंट्रेशन गारंटी प्रदान करना, नियर-पैरामीट्रिक रेट्स और शार्प ऑरेकल असमानताओं को स्थापित करना।
वैज्ञानिक उपयोगिता: यह प्रदर्शित करना कि संभाव्य दृष्टिकोण भौतिक विज्ञान और सामग्री खोज (materials discovery) जैसे शोर वाले, छोटे-नमूने वाले शासन में व्याख्यात्मक वैज्ञानिक नियमों को रिकवर करने में हीयुरिस्टिक और डीप लर्निंग-आधारित विधियों से बेहतर प्रदर्शन कर सकते हैं।

लेखक निष्कर्ष निकालते हैं कि यह फ्रेमवर्क विशेष रूप से उन वैज्ञानिक खोज सेटिंग्स के लिए उपयुक्त है जहाँ डोमेन ज्ञान फीचर चयन को निर्देशित करता है, लेकिन अंतर्निहित कार्यात्मक रूप अज्ञात रहता है और जिसे संरचनात्मक अनिश्चितता को मजबूती से संभालने की आवश्यकता होती है।