Enhancing Symbolic Regression and Universal Physics-Informed Neural Networks with Dimensional Analysis

तकनीकी सारांश: आयामी विश्लेषण (Dimensional Analysis) के साथ सिम्बोलिक रिग्रेशन और UPINNs को उन्नत करना

समस्या विवरण
इंजीनियरिंग और अनुप्रयुक्त गणित में, नियंत्रण और अनुकूलन के लिए प्रयोगात्मक डेटा से सटीक, व्याख्या योग्य गणितीय मॉडल प्राप्त करना महत्वपूर्ण है। सिम्बोलिक रिग्रशन (SR) डेटा से सीधे क्लोज्ड-फॉर्म समीकरणों की खोज करने के लिए एक शक्तिशाली उपकरण के रूप में उभरा है। हालाँकि, SR महत्वपूर्ण चुनौतियों का सामना करता है: यह एक NP-hard समस्या है जो एक विस्तृत खोज स्थान (search space) द्वारा चिह्नित है, जिससे उच्च कम्प्यूटेशनल लागत, धीमी अभिसरण (convergence) दर और ओवरफिटिंग का उच्च जोखिम होता है, विशेष रूप से जब डेटा सीमित या शोर युक्त (noisy) हो। इसके अलावा, मानक SR एल्गोरिदम अक्सर खोजे गए समीकरणों में भौतिक निरंतरता (आयामी समरूपता) लागू करने में संघर्ष करते हैं। हालांकि पिछले कार्यों में SR के साथ आयामी विश्लेषण को एकीकृत किया गया है, वे काफी हद तक पूरी तरह से ज्ञात समीकरणों तक सीमित रहे हैं या उन्होंने "आंशिक ज्ञान" (partial knowledge) वाले परिदृश्यों में नॉन-डाइमेंशनल असाइनमेंट के लाभों को व्यवस्थित रूप से प्रदर्शित नहीं किया है, जहाँ डिफरेंशियल इक्वेशन के कुछ पद ज्ञात होते हैं और अन्य सीखने योग्य होते हैं।

कार्यप्रणाली
लेखक एक ढांचा प्रस्तावित करते हैं जो सिम्बोलिक रिग्रेशन और यूनिवर्सल फिजिक्स-इन्फॉर्म्ड न्यूरल नेटवर्क (UPINNs) के साथ आयामी विश्लेषण—विशेष रूप से बकिंगम $\Pi$ प्रमेय और इप्सन (Ipsen) विधि—को एकीकृत करता है। कार्यप्रणाली को दो प्राथमिक वर्कफ़्लो में विभाजित किया गया है:

1. बीजगणितीय समीकरणों की पूर्ण खोज:
   लेखक बकिंगम $\Pi$ प्रमेय को PySR सिम्बोलिक रिग्रशन एल्गोरिदम के साथ जोड़ते हैं। वे यह प्रदर्शित करते हैं कि रिग्रेशन से पहले कच्चे आयामी डेटा को आयामहीन $\pi$ पदों में बदलने से इनपुट चरों की संख्या कम हो जाती है। यह प्रक्रिया खोज स्थान को सरल बनाती है, यह सुनिश्चित करती है कि उम्मीदवार व्यंजक मूल चरों के बजाय आयामहीन समूहों से निर्मित हों, जिससे आयामहीन रूप से असंगत व्यक्तियों को स्वतः ही समाप्त किया जा सके।

2. डिफरेंशियल इक्वेशन में आंशिक ज्ञान की खोज (मुख्य योगदान):
   उन परिदृश्यों के लिए जहाँ एक डिफरेंशियल इक्वेशन आंशिक रूप से ज्ञात है (जैसे, $du/dt = P(u,t) + Q(u,t)$जहाँ$P$ज्ञात है और$Q$ अज्ञात है), लेखक एक नया पाइपलाइन पेश करते हैं:

• इप्सन विधि के माध्यम से नॉन-डाइमेंशनल असाइनमेंट: बकिंगम $\Pi$ प्रमेय के विपरीत, जो $\pi$ पदों की कुल संख्या को कम करता है, इप्सन विधि अज्ञात पद $Q$ में दिखाई देने वाले इनपुट चरों की संख्या को कम करने के लिए विशिष्ट आयामहीन स्थिरांकों के चयन की अनुमति देती है। यह अज्ञात घटक से आयामों को क्रमिक रूप से हटाकर प्राप्त किया जाता है।
• UPINN सन्निकटन (Approximation): एक यूनिवर्सल फिजिक्स-इन्फॉर्म्ड न्यूरल नेटवर्क को नॉन-डाइमेंशनल डेटा का उपयोग करके छिपे हुए पद $Q$ को रिकवर करने के लिए प्रशिक्षित किया जाता है। UPINN $Q$ को केवल प्रासंगिक आयामहीन समूहों के फलन (function) के रूप में सीखता है, जिससे फंक्शन एप्रोक्सिमेशन कार्य की जटिलता काफी कम हो जाती है।
• सिम्बोलिक रिग्रशन: UPINN के आउटपुट (अनुमानित छिपे हुए पद) को फिर एक क्लोज्ड-फॉर्म व्यंजक खोजने के लिए सिम्बोलिक रिग्रशन एल्गोरिदम (PySR) में फीड किया जाता है।
• रिकवरी: अंतिम आयामहीन समीकरण को मूल आयामी चरों में मैप करके मूल गवर्निंग इक्वेशन को पुनः प्राप्त किया जा सकता है।

इस ढांचे का परीक्षण तीन अलग-अलग मामलों पर किया गया था: एक विस्तारित लॉजिस्टिक ग्रोथ मॉडल (प्रथम-क्रम ODE), एक रोटेटिंग बीड मॉडल (द्वितीय-क्रम ODE), और एक विस्तारित लोटका-वोल्टेरा सिस्टम (कपल्ड ODE)। प्रयोग शोर रहित और शोर युक्त दोनों स्थितियों के तहत किए गए थे।

प्रमुख योगदान

• SR के साथ बकिंगम $\Pi$ का एकीकरण: यह शोध पत्र प्रदर्शित करता है कि PySR के साथ बकिंगम $\Pi$ प्रमेय को मिलाने से बीजगणितीय समीकरणों को रिकवर करने की सटीकता में काफी सुधार होता है, जो अक्सर सटीक रिकवरी प्राप्त करता है जहाँ मूल फॉर्मूलेशन विफल हो जाता है।
• नया आंशिक-ज्ञान पाइपलाइन: लेखक एक पाइपलाइन पेश करते हैं जो इप्सन विधि, UPINNs और SR को एकीकृत करती है। यह दृष्टिकोण सीखने से पहले अज्ञात घटक के इनपुट डाइमेंशनलिटी को कम करके डिफरेंशियल इक्वेशन में अज्ञात पदों को लक्षित करता है।
• व्यवस्थित सत्यापन: अध्ययन कई प्रकार के डिफरेंशियल इक्वेशन पर मूल बनाम नॉन-डाइमेंशनल डेटा पर SR प्रदर्शन का एक व्यवस्थित तुलना प्रदान करता है, जो त्रुटि मेट्रिक्स और समीकरण रिकवरी दरों में निरंतर सुधार दिखाता है।

परिणाम

• बीजगणितीय समीकरण: सात बीजगणितीय समीकरणों पर लागू होने पर, नॉन-डाइमेंशनल असाइनमेंट ने PySR को लगभग सभी मामलों में वास्तविक समीकरणों को सटीक रूप से (नगण्य MSE के साथ) रिकवर करने की अनुमति दी, जबकि मूल फॉर्मूलेशन अक्सर सामान्यीकरण करने में विफल रहा या गलत व्यंजक उत्पन्न करता था। उदाहरण के लिए, कूलम्ब के नियम के मामले में, नॉन-डाइमेंशनल असाइनमेंट ने समस्या को एक एकल $\pi$ पद तक कम कर दिया, जिससे सटीक रिकवरी संभव हुई।
• डिफरेंशियल इक्वेशन (लॉजिस्टिक ग्रोथ): विस्तारित लॉजिस्टिक ग्रोथ मॉडल के लिए, UPINN ने दोनों मूल और आयामहीन रूपों में छिपे हुए पद को सफलतापूर्वक रिकवर किया। हालाँकि, आयामहीन डेटा पर सिम्बोलिक रिग्रशन ने उच्च सटीकता के साथ वास्तविक व्यंजक ($\alpha^2/(\alpha^2+1)$) को रिकवर किया, जबकि मूल डेटा पर SR सही रूप खोजने में विफल रहा। यह लाभ शोर युक्त स्थितियों ($\epsilon=0.05$ और $\epsilon=0.1$) के तहत भी बना रहा, जहाँ नॉन-डाइमेंशनल दृष्टिकोण ने काफी कम MSE दिया।
• डिफरेंशियल इक्वेशन (रोटेटिंग बीड): रोटेटिंग बीड मॉडल के लिए भी समान परिणाम देखे गए। आयामहीन दृष्टिकोण ने Py-SR को वास्तविक समीकरण ($-\epsilon \sin \theta + \sin \theta \cos \theta$) को रिकवर करने में सक्षम बनाया, जबकि मूल फॉर्मूलेशन के परिणामस्वरूप उच्च MSE और गलत व्यंजक प्राप्त हुए।
• डिफरेंशियल इक्वेशन (लोटका-वोल्टेरा): विस्तारित लोटका-वोल्टेरा सिस्टम में, अज्ञात पद को दो आयामहीन चरों ($x, y$) के पैरामीटर-मुक्त फलन में बदल दिया गया। हालाँकि UPINN ने दोनों मामलों में छिपे हुए पद को सटीक रूप से सीखा, लेकिन PySR किसी भी फॉर्मूलेशन में सटीक रैशनल फंक्शन को रिकवर करने में संघर्ष करता रहा, हालांकि आयामहीन दृष्टिकोण अभी भी कम लॉस वैल्यू प्रदान करता था। लेखक नोट करते हैं कि डेटासेट में ग्राउंड ट्रुथ को समान व्यंजकों से अलग करने के लिए पर्याप्त जानकारी की कमी हो सकती है।

महत्व और दावे
यह शोध पत्र दावा करता है कि सिम्बोलिक रिग्रशन के साथ आयामी विश्लेषण को एकीकृत करना गवर्निंग इक्वेशंस की स्वचालित खोज के लिए एक मजबूत ढांचा प्रदान करता है, विशेष रूप से जब डेटा सीमित या शोर युक्त हो। इनपुट वेरिएबल्स को आयामहीन समूहों में बदलकर, यह विधि कम्प्यूटेशनल लागत को कम करती है, ओवरफिटिंग को कम करती है और भौतिक व्याख्यात्मकता सुनिश्चित करती है। लेखक जोर देते हैं कि सांख्यिकीय संपीड़न विधियों (जैसे PCA) के विपरीत, आयामी विश्लेषण मात्राओं के बीच अपरिवर्तनीय संबंधों को संरक्षित करता है।

लेखक इस कार्य को एक 'प्रूफ-ऑफ-कांसेप्ट' के रूप में प्रस्तुत करते हैं। वे स्वीकार करते हैं कि यह विधि कुछ धारणाओं पर निर्भर करती है जैसे कि पूरी तरह से ज्ञात इनपुट वेरिएबल्स और आयामी मैट्रिक्स, और वास्तविक दुनिया के अनुप्रयोगों के लिए छिपे हुए या अनऑब्जर्वड वेरिएबल्स को संभालने की आवश्यकता हो सकती है। वे यह भी नोट करते हैं कि जबकि यह पाइपलाइन प्रदर्शन में सुधार करती है, यह हर जटिल परिदृश्य में सही समीकरण की खोज की गारंटी नहीं देती है (जैसा कि लोटका-वोल्टेरा परिणामों में देखा गया है)। भविष्य के कार्य के रूप में इन धारणाओं को शिथिल करने, वास्तविक दुनिया के डेटा के साथ बेंचमार्क बनाने और एल्गोरिदम के प्रदर्शन पर विभिन्न नॉन-डाइमेंशनल असाइनमेंट रणनीतियों के विशिष्ट प्रभावों की जांच करने का सुझाव दिया गया है।