💻 computer science

Simultaneous model discovery and state estimation under high data corruption

यह शोध पत्र एक स्पार्स रिग्रेशन रणनीति प्रस्तावित करता है जो एक सांख्यिकीय रूप से प्रेरित लाइकलीहुड फंक्शन, पुनरावृत्ति मॉडल चयन और ऑटोमैटिक डिफरेंशिएशन के माध्यम से द्वितीय-क्रम अनुकूलन का लाभ उठाकर अपूर्ण, शोर वाले डेटा से साधारण अवकल समीकरणों की खोज और अवस्था चर (स्टेट वेरिएबल्स) का अनुमान एक साथ लगाता है।

मूल लेखक: Teddy Meissner, Karl Glasner

प्रकाशित 2026-02-18

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Teddy Meissner, Karl Glasner

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक जासूस हैं जो एक रहस्य सुलझाने की कोशिश कर रहे हैं, लेकिन अपराध स्थल बहुत अस्त-व्यस्त है। सुराग (डेटा) बिखरे हुए हैं, कुछ तो पूरी तरह से गायब हैं, और जो आपके पास हैं वे भी कीचड़ और लकीरों से ढके हुए हैं (शोर/नॉइज़)। आपका लक्ष्य क्या है? उन नियमों (भौतिकी के नियमों) का सटीक सेट पता लगाना है जो संदिग्धों की गतिविधियों को नियंत्रित करते हैं, भले ही आप उन्हें स्पष्ट रूप से नहीं देख पा रहे हों।

यह शोध पत्र एक नए, अत्यंत बुद्धिमान जासूसी उपकरण (डिटेक्टिव टूल) को पेश करता है जिसे ठीक इसी तरह की समस्या को हल करने के लिए डिज़ाइन किया गया है। यह कैसे काम करता है, यहाँ सरल अवधारणाओं में दिया गया है:

1. समस्या: "अस्त-व्यस्त अपराध स्थल"

विज्ञान में, हम अक्सर ऐसे समीकरण लिखने की कोशिश करते हैं जो समय के साथ चीजों में होने वाले बदलावों का वर्णन करते हैं (जैसे कि वायरस कैसे फैलता है या एक पेंडुलमम कैसे झूलता है)।

पुराना तरीका: पारंपरिक तरीके आमतौर पर यह मान लेते हैं कि डेटा एकदम सटीक है। यदि डेटा शोर (noisy) से भरा है या उसमें कुछ हिस्से गायब हैं, तो ये तरीके भ्रमित हो जाते हैं और हार मान लेते हैं। यह एक पहेली को सुलझाने जैसा है जब आधे टुकड़े गायब हों और बाकी टुकड़े आपस में चिपके हुए हों।
चुनौती: वास्तविक दुनिया का डेटा शायद ही कभी सटीक होता है। यह अक्सर अधूरा होता है (हम सब कुछ नहीं माप सके) और शोर से भरा होता है (हमारे सेंसर गलतियाँ करते हैं)।

2. समाधान: "दोहरी कार्यक्षमता वाला जासूस" (Dual-Task Detective)

लेखक एक ऐसा तरीका प्रस्तावित करते हैं जो एक ही समय में दो काम करता है, जैसे कि एक जासूस जो अपराध का पुनर्निर्माण भी कर रहा है और नियम पुस्तिका (rulebook) भी लिख रहा है।

कार्य A: अवस्था अनुमान (State Estimation - अपराध का पुनर्निर्माण): केवल कीचड़ भरे सुरागों को देखने के बजाय, यह विधि अनुमान लगाने की कोशिश करती है कि संदिग्ध का वास्तविक मार्ग वास्तव में क्या था। यह गायब हिस्सों को भर देती है और लकीरों को साफ कर देती है, जिससे जो हुआ उसकी एक साफ और सुव्यवस्थित कहानी बन जाती है।
कार्य B: मॉडल खोज (Model Discovery - नियम पुस्तिका लिखना): इस कहानी को साफ करते समय, यह उन गणितीय नियमों को खोजने की भी कोशिश करता है जिन्होंने उस कहानी को जन्म दिया। यह पूछता है, "कौन सा सरल समीकरण इस सुव्यवस्थित मार्ग को उत्पन्न कर सकता है?"

3. सफलता का मंत्र: "स्पैरसिटी" (Sparsity - ऑकम के रेज़र का सिद्धांत)

जब नियम पुस्तिका खोजने की बात आती है, तो अनंत संभावनाएँ होती हैं। आप एक 100 पन्नों का समीकरण लिख सकते हैं जो डेटा से पूरी तरह मेल खाता हो, लेकिन वह निरर्थक होगा।

उपमा: कल्पना कीजिए कि आप सूप के अवयवों (ingredients) का अनुमान लगाने की कोशिश कर रहे हैं। आप कह सकते हैं कि यह 50 अलग-अलग मसालों से बना है, लेकिन शेफ ने केवल नमक, काली मिर्च और लहसुन का उपयोग किया था।
विधि: यह टूल एक "स्पैरसिटी" रणनीति का उपयोग करता है। यह सबसे सरल स्पष्टीकरण की आक्रामक रूप से तलाश करता है। यह अनावश्यक अवयवों (समीकरण में पदों) को हटाने की कोशिश करता है जब तक कि केवल आवश्यक तत्व ही शेष न रह जाएं। यह यह तय करने के लिए एक सांख्यिकीय "स्कोरकार्ड" (जिसे BIC कहा जाता है) का उपयोग करता है: "क्या यह अतिरिक्त सामग्री वास्तव में मदद कर रही है, या यह केवल फालतू कचरा है?"

4. यह अव्यवस्था को कैसे संभालता है

यह शोध पत्र तीन विशिष्ट तरीकों पर प्रकाश डालता है जिनसे यह जासूस पुराने तरीकों से बेहतर है:

शोर (Noise): शोर को फ़िल्टर करने (जिससे कभी-कभी अच्छे सुराग भी हट सकते हैं) के बजाय, यह विधि सत्य का अनुमान (infer) लगाती है। यह समझ जाती है कि, "ठीक है, यह डेटा पॉइंट अजीब लग रहा है, लेकिन यदि मैं वास्तविक पथ के अपने अनुमान को थोड़ा समायोजित कर दूँ, तो सब कुछ समझ में आ जाएगा।"
लापता डेटा (Missing Data): यदि आपने 10 मिनट के लिए संदिग्ध की गति को नहीं मापा है, तो यह विधि घबराती नहीं है। यह उन भौतिक नियमों का उपयोग करती है जिन्हें यह खोज रही है ताकि तार्किक रूप से "खाली स्थानों को भरा" जा सके।
जटिलता (Complexity):ary: यह उन समीकरणों को भी संभाल सकता है जो केवल साधारण सीधी रेखाएं नहीं हैं। यह जटिल, घुमावदार संबंधों (जैसे घातांकीय वृद्धि/exponential growth) को भी खोज सकता है जिन्हें अन्य विधियाँ छोड़ देती हैं।

5. इंजन: "सुपर-ऑप्टिमाइज़र"

इस सारी गणित को करने के लिए, शोध पत्र ऑटोमैटिक डिफरेंशिएशन (Automatic Differentiation) को लेवेनबर्ग-मार्क्वार्ड्ट (Levenberg-Marquardt) एल्गोरिदम के साथ जोड़कर एक शक्तिशाली इंजन का उपयोग करता है।

उपमा: कल्पना कीजिए कि आप धुंधली घाटी के सबसे निचले बिंदु को खोजने की कोशिश कर रहे हैं।
- पुराने तरीके छोटे, अंधे कदमों (जैसे छड़ी से जमीन को महसूस करना) में चलते हैं।
- यह विधि के पास एक हेलीकॉप्टर है जो पूरी घाटी के आकार और जमीन के ढलान को तुरंत देख सकता है। इसे पता है कि सबसे अच्छा समाधान (निचला बिंदु) पाने के लिए कहाँ कूदना है।

6. परिणाम: एक विजेता जासूस

लेखकों ने इस विधि का परीक्षण प्रसिद्ध अराजक प्रणालियों (chaotic systems) पर किया (जैसे लोरेन्ज़ सिस्टम, जो मौसम का मॉडल है, और वैन डेर पोल ऑसिलेटर, जो विद्युत सर्किट का मॉडल है)।

परीक्षण: उन्होंने सटीक डेटा लिया, उसमें भारी मात्रा में शोर (50% तक की त्रुटि!) मिलाया, और टाइमलाइन के बड़े हिस्से हटा दिए।
परिणाम: उनकी विधि ने मूल समीकरणों और प्रणालियों के वास्तविक पथों को सफलतापूर्वक पुनर्गठित किया, भले ही डेटा बहुत खराब था। इसने लगभग हर परीक्षण में वर्तमान "स्वर्ण मानक" (एक विधि जिसे WSINDy कहा जाता है) को मात दी।

सारांश

इस शोध पत्र को वैज्ञानिकों के लिए एक नए, उच्च-तकनीकी टूलकिट के रूप में देखें। यह उन्हें एक अस्त-व्यस्त, टूटे हुए और अधूरे अवलोकन को देखने और यह कहने की अनुमति देता है, "मैं आपको बता सकता हूँ कि प्रकृति के अंतर्निहित नियम वास्तव में क्या हैं, और मैं आपको बता सकता हूँ कि क्या हुआ था, भले ही आपने मुझे बहुत खराब डेटा दिया हो।" यह एक अराजक अव्यवस्था के भीतर छिपे सरल, सुंदर सत्य को खोजने के बारे में है।

यहाँ टेडी मेस्नर और कार्ल ग्लेस्नर के शोध पत्र "Simultaneous model discovery and state estimation under high data corruption" का विस्तृत तकनीकी सारांश दिया गया है।

1. समस्या विवरण (Problem Statement)

यह शोध पत्र मॉडल डिस्कवरी (शासी साधारण अवकल समीकरणों या ODEs की पहचान करना) और स्टेट एस्टीमेशन (वास्तविक सिस्टम ट्राजेक्टरी का पुनर्निर्माण करना) की चुनौती को संबोधित करता है, जो एक साथ शोर (noise) और अपूर्ण (incomplete) डेटा से संचालित होते हैं।

संदर्भ: पारंपरिक तरीके अक्सर दूषित डेटा के साथ संघर्ष करते हैं।
- रेसिडुअल रिग्रेशन (जैसे, SINDy): शोर के प्रति अत्यधिक संवेदनशील है क्योंकि इसे रेसिडुअल्स की गणना करने के लिए शोर वाले डेटा के अवकलन (differentiation) की आवश्यकता होती है।
- पैरामीटर एस्टीमेशन (नॉनलीनियर लीस्ट स्क्वेयर्स): अक्सर मॉडल अनिश्चितता की अनदेखी करता है, जिससे गैर-कन्वेक्स ऑप्टिमाइज़ेशन समस्याएं उत्पन्न होती हैं जिन्हें हल करना कठिन होता है।
- अपूर्ण डेटा: कई वास्तविक परिदृश्यों में समय अंतराल (time steps) गायब होते हैं या अनमैपured स्टेट वेरिएबल्स होते हैं, जो सघन अवकलन (dense differentiation) पर निर्भर विधियों को बाधित करते हैं।
लक्ष्य: एक ऐसा मजबूत ढांचा विकसित करना जो स्पार्स (sparse) और शोर युक्त डेटा से स्पार्स ODE पैरामीटर्स ( $\theta$ ) और अंतर्निहित स्टेट वेरिएबल्स ( $u$ ) को एक साथ इन्फर (infer) कर सके।

2. कार्यप्रणाली (Methodology)

लेखक एक हाइब्रिड स्पार्स रिग्रेशन रणनीति प्रस्तावित करते हैं जो सांख्यिकीय संभावना (statistical likelihood) और सेकंड-ऑर्डर ऑप्टिमाइज़ेशन पर आधारित है।

A. सांख्यिकीय सूत्रीकरण (Likelihood Function)

डेटा के रेसिडुअल को सीधे कम करने के बजाय, यह विधि एक 'लाइक्लीहुड फंक्शन' को मैक्सिमाइज करती है जो डेटा और मॉडल दोनों में अनिश्चितता को ध्यान में रखता है।

ऑब्जेक्टिव फंक्शन $L_\lambda(\theta, u)$ $L_{λ} (θ, u)$ को इस प्रकार परिभाषित किया गया है:
$L_\lambda(\theta, u) = \|N(u; \theta)\|_2^2 + \lambda \| \hat{u} - u|_D \|_2^2$
जहाँ:
- $N(u; \theta) = 0$ विविक्त (discretized) ODE सिस्टम का प्रतिनिधित्व करता है।
- $\hat{u}$ शोर युक्त, अपूर्ण देखा गया डेटा है।
- $u|_D$ देखे गए डेटा बिंदुओं पर प्रतिबंधित मॉडल स्टेट है।
- $\lambda$ वेरिएंस का एक अनुपात है जो मॉडल फिडेलिटी बनाम डेटा फिडेलिटी को संतुलित करता है।
व्याख्या: यह सूत्रीकरण नॉनलीनियर लीस्ट स्क्वेयर्स (डेटा फिटिंग) और रेसिडुअल मिनिमाइजेशन (इक्वेशन फिटिंग) के बीच मध्यस्थता करता है। $\theta$ और $u$ दोनों पर अनुकूलन (optimization) करके, यह विधि एक सुचारू ट्राजेक्टरी खोजने के माध्यम से डेटा को "डी-नॉइज़" (denoise) करती है जो ODE बाधाओं को संतुष्ट करती है।

B. BIC के माध्यम से स्पार्सिटी प्रवर्तन (Sparsity Enforcement via BIC)

सही समीकरण संरचना (अर्थात, कौन से पद मौजूद हैं) की खोज के लिए, यह विधि हार्ड थ्रेशोल्ड या $L_1$ पेनल्टी (जो बायस पैदा कर सकती है) का उपयोग किए बिना स्पार्सिटी लागू करती है।

स्मूथ एप्रोक्सिमेशन: ग्रेडिएंट-आधारित अनुकूलन की अनुमति देने के लिए $L_0$ नॉर्म का एक स्मूथ एप्रोक्सिमेशन उपयोग किया जाता है।
सिलेक्शन एल्गोरिदम: लेखक एक एडेप्टिव प्रूनिंग (Adaptive Pruning) एल्गोरिदम का उपयोग करते हैं:
1. उम्मीदवार पदों (candidate terms) के एक पूर्ण लाइब्रेरी से शुरू करें।
2. बेयसियन इंफॉर्मेशन क्राइटेरिया (BIC) स्कोर के आधार पर पदों को पुनरावृत्ति (iteratively) से हटाएँ, जो गुडनेस-ऑफ-फिट और मॉडल जटिलता के बीच संतुलन बनाता है।
3. फॉरवर्ड/बैकवर्ड रिफाइनमेंट: एल्गोरिदम हटाए गए पदों की संख्या को अनुकूल रूप से समायोजित करता है। यदि कोई चरण अस्वीकार हो जाता है, तो यह "बैकवर्ड" मोड में स्विच करता है ताकि पदों को वापस जोड़ा जा सके, जिससे यह सुनिश्चित होता है कि खोज मॉडल स्पेस के लोकल मिनिमा में न फंसे।

C. ऑप्टिमाइज़ेशन रणनीति (Optimization Strategy)

ऑप्टिमाइज़ेशन समस्या उच्च-आयामी (high-dimensional) और गैर-कन्वेक्स है।

सेकंड-ऑर्डर मेथड: लेखक एक्सैक्ट हेसियन (exact Hessian) का उपयोग करते हुए एक लेवेनबर्ग-मार्क्वार्ट (Levenberg-Marquardt - LM) वेरिएंट का उपयोग करते हैं।
दक्षता: हेसियन की कम्प्यूटेशनल लागत को संभालने के लिए:
- ऑटोमैटिक डिफरेंशिएशन (AD): ग्रेडिएंट और हेसियन की गणना के लिए उपयोग किया जाता है।
- ग्राफ कलरिंग (Graph Coloring): हेसियन के स्पार्सिटी स्ट्रक्चर (जो टाइम-डिसक्रेटाइजेशन स्टेंसिल से प्राप्त होता है) का लाभ उठाकर हेसियन-वेक्टर प्रोडक्ट्स (HVPs) की संख्या को कम करता है।
परिणाम: यह दृष्टिकोण फर्स्ट-ऑर्डर विधियों (जैसे L-BFGS या Adam) और अन्य टेस्ट किए गए सेकंड-ऑर्डर विधियों की तुलना में काफी तेजी से (लगभग 10 गुना) अभिसरण (converge) करता है।

3. मुख्य योगदान (Key Contributions)

हाइब्रिड रिग्रेशन फ्रेमवर्क: एक एकीकृत लाइक्लीहुड-आधारित दृष्टिकोण जो पैरामीटर्स और स्टेट्स को एक साथ इन्फर करता है, जिससे यह उच्च शोर और लापता डेटा के प्रति मजबूत बनता है जहाँ रेसिडुअल-आधारित विधियाँ विफल हो जाती हैं।
BIC-संचालित स्पार्सिटी: एक नवीन चयन एल्गोरिदम जो फिक्स्ड थ्रेशोल्ड या $L_1$ रेगुलराइजेशन के बजाय BIC का उपयोग करता है, जिससे अधिक सांख्यिकीय रूप से कठोर मॉडल चयन प्रक्रिया संभव होती है।
AD के साथ सेकंड-ऑर्डर ऑप्टिमाइज़ेशन: ऑटोमैटिक डिफरेंशिएशन और ग्राफ कलरिंग का लाभ उठाकर हेसियन के कुशल उपयोग के माध्यम से सिस्टम आइडेंटिफिकेशन के लिए सटीक सेकंड-ऑर्डर डेरिवेटिव्स की व्यावहारिकता को सिद्ध करता है।
सामान्य प्रयोज्यता (General Applicability): यह फॉर्मूलेशन केवल पैरामीटर्स में लीनियर होने की शर्त तक सीमित नहीं है, जो नॉनलीनियर पैरामीटर डिपेंडेंसी (जैसे घातांक में अज्ञात पैरामीटर वाले एक्सपोनेंशियल टर्म्स) वाले मॉडलों की खोज की अनुमति देता है।

4. परिणाम (Results)

विधि का परीक्षण विभिन्न शोर स्तरों (50% तक शोर) और लापता डेटा (50% बिंदुओं को हटाया गया) के साथ कई बेंचमार्क सिस्टम पर किया गया।

वैन डेर पोल ऑसिलेटर (Van der Pol Oscillator):
- इसने सभी शोर स्तरों पर अत्याधुनिक WSINDy एल्गोरिदम को पछाड़ दिया।
- डेटा में 50% शोर और डेटा अंतराल होने के बावजूद सिस्टम संरचना और स्टेट को सफलतापूर्वक रिकवर किया।
लोरेंज सिस्टम (Lorenz System - Chaotic):
- महत्वपूर्ण शोर के बावजूद "ग्राउंड ट्रुथ" अराजक (chaotic) ट्राजेक्टरी को रिकवर करने की क्षमता प्रदर्शित की, एक ऐसा कार्य जहाँ मानक इंटीग्रेशन आमतौर पर प्रारंभिक स्थितियों के प्रति संवेदनशीलता के कारण विफल हो जाता है।
- मॉडल रिकवरी के लिए उच्च ट्रू पॉजिटिव रेट (TPR > 0.9) प्राप्त किया, भले ही शोर 40% था।
लोरेंज-96 (Lorenz-96 - High Dimensional):
- एक 5-वेरिएबल अराजक सिस्टम तक सफलतापूर्वक स्केल हुआ, पैरामीटर एस्टीमेशन और स्टेट रिकंस्ट्रक्शन में उच्च सटीकता बनाए रखी।
कोलिपट्स ऑसिलेटर (Colpitts Oscillator - Nonlinear Parameters):
- एक ऐसे सिस्टम की पहचान सफलतापूर्वक की जिसमें घातांक में एक अज्ञात पैरामीटर ( $e^{ax}$ ) वाला एक्सपोनेंशियल टर्म शामिल था, एक ऐसा परिदृश्य जहाँ लीनियर-इन-पैरामीटर विधियाँ (जैसे मानक SINDy) सीधे लागू नहीं हो सकती हैं।
तुलना: सभी मामलों में, प्रस्तावित विधि ने WSINDy की तुलना में कम पैरामीटर एरर ( $RE(\theta)$ ) और उच्च मॉडल रिकवरी दर दिखाई।

5. महत्व (Significance)

यह शोध पत्र डेटा-ड्रिवन साइंटिफिक डिस्कवरी में एक महत्वपूर्ण प्रगति का प्रतिनिधित्व करता है:

मजबूती (Robustness): यह "शोर संवेदनशीलता" की समस्या को हल करता है जिसने कई स्पार्स रिग्रेशन तकनीकों (जैसे SINDic) को प्रभावित किया है, क्योंकि यह स्टेट को एक फिक्स्ड इनपुट के बजाय एक लेटेंट वेरिएबल के रूप में मानता है।
अपूर्णता को संभालना: यह उन सिस्टमों के लिए एक व्यवहार्य समाधान प्रदान करता जहाँ सेंसर विफल हो जाते हैं या डेटा कम होता है, जो जैविक और भौतिक प्रयोगों में एक सामान्य समस्या है।
कम्प्यूटेशनल दक्षता: यह सिद्ध करके कि ऑटोमैटिक डिफरेंशिएशन के साथ सेकंड-ऑर्डर ऑप्टिमाइज़ेशन इस प्रकार की समस्याओं के लिए व्यवहार्य और श्रेष्ठ है, यह अधिक सटीक और तेज़ मॉडल डिस्कवरी के द्वार खोलता है।
व्यापकता: यह ढांचा केवल पैरामीटर्स में लीनियर होने की प्रतिबंधात्मक धारणा से आगे बढ़ता है, जिससे खोज योग्य भौतिक नियमों का दायरा बढ़ जाता है।

संक्षेप में, मेस्नर और ग्लेस्नर अपूर्ण वास्तविक दुनिया के डेटा से डिफरेंशियल इक्वेशंस खोजने के लिए एक सांख्यिकीय रूप से प्रेरित, कम्प्यूटेशनल रूप से कुशल और अत्यधिक मजबूत ढांचा प्रस्तुत करते हैं, जो शोर युक्त और विरल (sparse) शासन में मौजूदा बेंचमार्क से बेहतर प्रदर्शन करता है।