🤖 machine learning

SciML in the Wild: A Diagnostic Study of When Structural Priors Help and When They Hurt

मैक्रोइकोनॉमिक फोरकास्टिंग (समष्टि आर्थिक पूर्वानुमान) पर यह नैदानिक अध्ययन प्रदर्शित करता है कि साइंटिफिक मशीन लर्निंग में स्ट्रक्चरल प्रायर्स (संरचनात्मक पूर्ववृत्त) "मिसरेगुलराइज़र" के रूप में कार्य कर सकते हैं और प्रदर्शन को खराब कर सकते हैं जब वे अंतर्निहित डेटा-जनरेटिंग प्रक्रिया से मेल खाने में विफल रहते हैं, जो यह सुझाव देता है कि जटिल, लो-फ्रीक्वेंसी डोमेन में कम-प्रतिबंधित मॉडल अक्सर अत्यधिक प्रतिबंधित मॉडलों की तुलना में बेहतर प्रदर्शन करते हैं।

मूल लेखक: Vrishank Sai Anand, Prathamesh Dinesh Joshi, Raj Abhijit Dandekar, Rajat Dandekar, Sreedath Panat

प्रकाशित 2026-07-14

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Vrishank Sai Anand, Prathamesh Dinesh Joshi, Raj Abhijit Dandekar, Rajat Dandekar, Sreedath Panat

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप अगले एक साल के मौसम की भविष्यवाणी करने की कोशिश कर रहे हैं, लेकिन आपको साल में केवल एक बार आसमान की एक तस्वीर देखने को मिलती है। यह वह चुनौती है जिसका सामना शोधकर्ताओं ने तब किया जब उन्होंने अर्थव्यवस्था का पूर्वानुमान लगाने की कोशिश की। वे यह देखना चाहते थे कि क्या अपने AI मॉडलों में "सड़क के नियम" (जैसे भौतिकी के समीकरण) जोड़ने से उन्हें बेहतर ड्राइविंग करने में मदद मिलेगी, या क्या ये नियम कार को अधिक बार दुर्घटनाग्रस्त कर देंगे।

बड़ा सवाल: क्या नियम मदद करते हैं या नुकसान पहुँचाते हैं?
विज्ञान की दुनिया में, हम अक्सर ऐसे मॉडल बनाते हैं जो सख्त नियमों का पालन करते हैं, जैसे गुरुत्वाकर्षण या गर्मी कैसे चलती है। इन्हें "स्ट्रक्चरल प्रायर्स" (structural priors) कहा जाता है। विचार यह है: यदि आप कंप्यूटर को खेल के नियम सिखाते हैं, तो वह बेहतर खेलेगा, है ना?

इस शोध के लेखकों ने इस विचार का परीक्षण एक बहुत ही अव्यवset और अप्रत्याशित जगह में करने का निर्णय लिया: वैश्विक अर्थव्यवस्था। उन्होंने 23 अलग-अलग देशों के डेटा को देखा, जिसमें केवल वार्षिक (साल में एक बार) जीडीपी (GDP), ऋण और मुद्रास्फीति जैसी चीजों के स्नैपशॉट का उपयोग किया गया। यह एक रोलरकोस्टर राइड की भविष्यवाणी करने जैसा है जिसे हर घंटे ली गई एक फोटो देखकर करने की कोशिश की जा रही है।

प्रयोग: पाँच मॉडल, एक रेस
उन्होंने पाँच अलग-अलग प्रकार के AI मॉडलों के बीच एक रेस आयोजित की:

ARIMA: एक क्लासिक, पुराना सांख्यिकीय मॉडल (एक "भरोसेमंद दादाजी")।
LSTM: एक आधुनिक न्यूरल नेटवर्क जो डेटा से पैटर्न सीखता है (एक "तेज़ सीखने वाला")।
NODE: एक न्यूरल नेटवर्क जो समय को एक सुचारू, निरंतर प्रवाह के रूप में मानता है (एक "स्मूथ ऑपरेटर")।
PINN: एक मॉडल जिसे "ह्यूरिस्टिक" (अनुमान-आधारित) आर्थिक नियमों का पालन करने के लिए मजबूर किया गया है (एक "नियम मानने वाला")।
UDE: एक मॉडल जो ज्ञात नियमों को एक सीखने वाले मस्तिष्क के साथ मिलाता है (एक "हाइब्रिड")।

चौंकाने वाला परिणाम: नियम एक जाल हो सकते हैं
यहाँ एक मोड़ है: जिन मॉडलों ने सख्त नियमों का पालन किया, वे वास्तव में खराब प्रदर्शन करते थे।

शोध में पाया गया कि इस अव्यवस्त, कम-आवृत्ति वाली दुनिया में, "नियम मानने वाले" (PINN और UDE) अक्सर सबसे खराब प्रदर्शन करने वाले रहे। वास्तव में, कई देशों के लिए, उनके पूर्वानुमान इतने खराब थे कि उनके स्कोर नकारात्मक थे (विशेष रूप से, कई $R^2$ मान शून्य से नीचे थे, जिसका अर्थ है कि वे औसत का अनुमान लगाने से भी बदतर थे)।

विजेता कौन थे? वे मॉडल जिन्हें लचीला होने की अनुमति दी गई थी। ARIMA और NODE (वे जिनमें भारी, पूर्व-निर्धारित नियम नहीं थे) ने लगातार नियम-प्रधान मॉडलों को पछाड़ दिया।

नियम क्यों विफल रहे?
लेखक सुझाव देते हैं कि उन्होंने AI को जो "नियम" सिखाने की कोशिश की, वे एक ऐसी सड़क पर कार चलाने की कोशिश करने जैसे थे जिसका आकार बदलता रहता है।

बेमेल होना (The Mismatch): उन्होंने जिन नियमों का उपयोग किया वे सरलीकृत अनुमान (heuristics) थे, न कि अर्थशास्त्र के पूर्ण नियम। जब वास्तविक अर्थव्यवस्था ने कुछ अप्रत्याशित किया—जैसे अचानक संकट या नीति परिवर्तन—तो AI भ्रमित हो गया क्योंकि वह डेटा को एक ऐसे नियम में फिट करने की कोशिश कर रहा था जो वास्तविकता से मेल नहीं खाता था।
"मिसरेगुलराइज़र" (The Misregularizer): AI को सीखने में मदद करने के बजाय, गलत नियमों ने एक बुरे शिक्षक की तरह काम किया, जिसने AI को वास्तविक डेटा को अनदेखा करने के लिए मजबूर कर दिया। शोध पत्र इसे "मिसरेगुलराइजेशन" कहता है।
अस्थिरता (Instability): नियम-प्रधान मॉडल बहुत अधिक अस्थिर भी थे। यदि आप एक ही मॉडल को थोड़े अलग शुरुआती बिंदुओं के साथ पांच बार चलाते, तो परिणाम बहुत अधिक बदल जाते। लचीले मॉडल शांत और सुसंगत रहे।

यह शोध क्या खारिज करता है
लेखक बहुत स्पष्ट हैं कि यह अध्ययन क्या नहीं कह रहा है। वे यह नहीं कह रहे हैं कि सभी आर्थिक सिद्धांत गलत हैं, या AI कभी नियमों का उपयोग नहीं कर सकता। वे विशेष रूप से इस विचार को खारिज कर रहे हैं कि अधिक संरचना जोड़ना स्वचालित रूप से मॉडल को बेहतर बनाता है। इस विशिष्ट, शोर-शराबे वाले, कम-डेटा वाले वातावरण में, अधिक संरचना एक संपत्ति नहीं बल्कि एक देनदारी थी।

वे इस विचार को भी खारिज करते हैं कि परिणाम केवल डेटा को विभाजित करने के तरीके का एक संयोग थे। उन्होंने विभिन्न समय विभाजनों (जैसे प्रशिक्षण के शुरू और अंत की तारीखों को बदलना) के साथ मॉडलों का परीक्षण किया, और लचीले मॉडल हर बार जीतते रहे।

वे कितने आश्वस्त हैं?
लेखक यह दावा नहीं करते कि उन्होंने अर्थव्यवस्था के रहस्य को सुलझा लिया है। वास्तव में, वे स्वीकार करते हैं कि इस प्रकार के डेटा के साथ अर्थव्यवस्था की भविष्यवाणी करना अविश्वसनीय रूप से कठिन है। अधिकांश मॉडल, विजेताओं सहित, पूर्ण संदर्भ में खराब प्रदर्शन करते हैं (कई के स्कोर नकारात्मक थे)।

हालाँकि, वे सापेक्ष प्रदर्शन के बारे में बहुत आश्वस्त हैं। 23 देशों और पाँच अलग-अलग रैंडम स्टार्टिंग पॉइंट्स (सीड्स) के माध्यम से अपने प्रयोगों के माध्यम से, उन्होंने एक स्पष्ट पैटर्न देखा: जब डेटा विरल (sparse) और अर्थव्यवस्था अस्थिर होती है, तो लचीलापन (flexibility) सख्त नियमों पर भारी पड़ता है।

एक जिज्ञासु किशोर के लिए सीख
इसे ऐसे सोचिए: यदि आप सर्फिंग सीखने की कोशिश कर रहे हैं, और समुद्र शांत और अनुमानित है, तो आप बोर्ड पर खड़े होने के लिए एक सख्त मैनुअल का पालन कर सकते हैं। लेकिन यदि समुद्र जंगली है, जहाँ हर तरफ से विशाल, अप्रत्याशित लहरें टकरा रही हैं, तो एक सख्त मैनुअल का पालन करना आपको कुचल सकता है। कभी-कभी, आपको केवल लहरों को महसूस करने और अनुकूल होने की आवश्यकता होती है, बजाय इसके कि आप लहर को अपने नियमों का पालन करने के लिए मजबूर करें।

यह शोध पत्र सुझाव देता है कि अर्थव्यवस्था जैसी अव्यवस्त, वास्तविक दुनिया की समस्याओं के लिए, हमें यह नहीं मानना चाहिए कि "अधिक संरचना" का अर्थ "बेहतर परिणाम" है। कभी-कभी, AI के लिए सबसे अच्छा यह हो सकता है कि वह यह स्वीकार करे कि वह नियमों को नहीं जानता और बस जो वह देखता है उससे सीखता रहे।

तकनीकी सारांश: वास्तविक दुनिया में SciML (SciML in the Wild)

समस्या विवरण (Problem Statement)

साइंटिफिक मशीन लर्निंग (SciML) विधियाँ, जैसे कि न्यूरल ऑर्डिनरी डिफरेंशियल इक्वेशंस (NODEs), फिजिक्स-इन्फॉर्म्ड न्यूरल नेटवर्क्स (PINNs), और यूनिवर्सल डिफरेंशियल इक्वेशंस (UDEs), इस धारणा पर आधारित हैं कि संरचनात्मक पूर्ववृत्त (structural priors) विश्वसनीय शासी गतिकी (governing dynamics) को दर्शाते हैं। जबकि इन विधियों ने भौतिकी, जीव विज्ञान और इंजीनियरिंग में, जहाँ समीकरण सुस्पष्ट हैं, सफलता प्रदर्शित की है, मैक्रोइकॉनॉमिक्स (समष्टि अर्थशास्त्र) में इनकी प्रयोज्यता अनिश्चित बनी हुई है। मैक्रोइकॉनॉमिक सिस्टम मानवीय व्यवहार, संस्थागत निर्णयों और बाहरी झटकों द्वारा आकार लेते हैं, जिसके परिणामस्वरूप इनकी गतिकी अक्सर गैर-स्थिर (non-stationary), शासन-निर्भर (regime-dependent), और आंशिक रूप से अवलोकन योग्य होती है।

यह अध्ययन एक मौलिक प्रश्न का समाधान करता है: जब संरचनात्मक पूर्ववृत्त अनिश्चित या डेटा-जनरेटिंग प्रक्रिया के साथ असंगत होते हैं, तो क्या वे मॉडल के प्रदर्शन में सुधार करते हैं या उसे खराब करते हैं? लेखक मैक्रोइकॉनॉमिक पूर्वानुमान को एक "स्ट्रेस-टेस्ट" डोमेन के रूप में देखते हैं, जो विरल (sparse), कम-आवृत्ति वाले, शोर युक्त और शासन-परिवर्तनीय डेटा द्वारा विशेषता रखता है, ताकि भौतिक प्रणालियों के बाहर हीयुरिस्टिक (heuristic) संरचनात्मक पूर्ववृत्तों के व्यवहार का निदान किया जा सके।

कार्यप्रणाली (Methodology)

डेटा और अवस्था प्रतिनिधित्व (Data and State Representation)

यह अध्ययन विभिन्न क्षेत्रों और आर्थिक शासन वाले 23 देशों के एक बहु-देशीय डेटासेट का उपयोग करता है, जो वर्ल्ड बैंक और IMF डेटाबेस से लिया गया है। डेटा वार्षिक अवलोकनों से बना है जो या तो 1990–2024 ( $N=35$ ) या 1960–2024 ( $N=65$ ) तक विस्तृत है।
समय $t$ पर मैक्रोइकॉनॉमिक सिस्टम को एक पांच-आयामी अवस्था वेक्टर $u(t)$ द्वारा दर्शाया गया है:

GDPUSD: वर्तमान अमेरिकी डॉलर में सकल घरेलू उत्पाद।
$\dot{Y}$ : वास्तविक जीडीपी विकास दर (%)।
$\pi$ : मुद्रास्फीति (%)।
$D$ : जीडीपी के प्रतिशत के रूप में सरकारी ऋण।
$E$ : अमेरिकी डॉलर में बाहरी ऋण।

लीकेज को रोकने के लिए विशेषताओं को केवल प्रशिक्षण सेट (training set) पर आधारित मिन्मैक्स स्केलिंग (MinMax scaling) का उपयोग करके $[0, 1]$ तक सामान्यीकृत किया गया है।

प्रयोगात्मक प्रोटोकॉल (Experimental Protocol)

टेम्पोरल स्प्लिट्स (Temporal Splits): अनुक्रमिक संरचना को बनाए रखने के लिए डेटा को कालानुक्रमिक रूप से विभाजित किया गया है (ट्रेन/वैलिडेशन/टेस्ट के लिए डिफ़ॉल्ट 70/15/15)। मजबूती की जाँच के लिए 65/15/20 और 80/10/10 स्प्लिट्स का उपयोग किया गया है।
मूल्यांकित मॉडल: एक एकीकृत ढांचे के तहत पांच मॉडल परिवारों की तुलना की गई है:
1. ARIMA: एक यूनिवेरिएट सांख्यिकीय बेसलाइन (ARIMA(1,1,1))।
2. LSTM: एक डेटा-संचालित अनुक्रम मॉडल (2-लेयर, हिडन साइज 64)।
3. Neural ODE (NODE): एक निरंतर-समय मॉडल जहाँ गतिकी को बिना किसी स्पष्ट संरचनात्मक बाधाओं के एक न्यूरल नेटवर्क $f_\theta(u)$ के माध्यम से सीखा जाता है।
4. PINN: एक मॉडल जिसे ऋण-विकास अंतःक्रिया और मीन-रिवर्जन (mean-reversion) जैसे सरलीकृत संबंधों को एनकोड करने वाले हीयुरिस्टिक संरचनात्मक बाधाओं (सॉफ्ट प्रायर्स) के साथ संवर्धित किया गया है। नोट: ये औपचारिक आर्थिक सिद्धांत (जैसे DSGE) से प्राप्त नहीं हैं बल्कि संरचना डालने के प्रभाव का परीक्षण करने के लिए सरलीकृत धारणाएं हैं।
5. UDE: एक हाइब्रिड मॉडल जो एक पूर्व-निर्धारित संरचनात्मक घटक को एक सीखे गए रेसिडुअल नेटवर्क के साथ जोड़ता है।
मूल्यांकन: मॉडलों का मूल्यांकन सामान्यीकृत डेटा पर निर्धारण गुणांक ( $R^2$ ) का उपयोग करके किया जाता है। स्टोकेस्टिक मॉडलों के लिए परिणाम पांच रैंडम सीड्स पर औसत हैं। कार्य एक-चरणीय-आगे (one-step-ahead) का पूर्वानुमान लगाना है।

मुख्य योगदान (Key Contributions)

अनुभवजन्य मूल्यांकन: विरल, गैर-स्थिर और व्यवहार-संचालित डेटा वाले डोमेन में SciML विधियों का एक बड़े पैमाने पर मूल्यांकन।
प्रदर्शन पदानुक्रम: यह प्रमाण कि PINN और UDE जैसे अधिक-प्रतिबंधित मॉडलों में हीयुरिस्टिक संरचनात्मक पूर्ववृत्त, ARIMA और NODE जैसे कम-प्रतिबंधित दृष्टिकोणों की तुलना में प्रदर्शन में सुधार नहीं करते हैं, बल्कि उसे खराब कर देते हैं।
नैदानिक ढांचा (Diagnostic Framework): गैर-स्थिरता के तहत संरचनात्मक पूर्ववृत्त कब हानिकारक हो सकते हैं, इसे समझने के लिए चार विशिष्ट विफलता मोड की पहचान और लक्षण वर्णन।

परिणाम (Results)

भविष्य कहनेवाला प्रदर्शन (Predictive Performance)

अध्ययन पाता है कि इस सेटिंग में मैक्रोइकॉनॉमिक पूर्वानुमान स्वाभाविक रूप से कठिन है, जिसमें सभी मॉडलों के लिए अधिकांश $R^2$ मान नकारात्मक हैं, जो एक सहज माध्य बेसलाइन (naive mean baseline) से भी खराब प्रदर्शन का संकेत देते हैं। हालांकि, एक स्पष्ट सापेक्ष पदानुक्रम उभरता है:

कम-प्रतिबंधित मॉडल (ARIMA और NODE) अधिकांश देशों और टेम्पोरल स्प्लिट्स में अधिक-प्रतिबंधित मॉडलों (PINN और UDE) की तुलना में लगातार बेहतर प्रदर्शन करते हैं।
ARIMA हाल ही के देखे गए मान पर स्थिति (conditioning) का लाभ उठाता है, लेकिन न्यूरल परिवार के भीतर, NODE लगातार PINN और UDE से बेहतर प्रदर्शन करता है।
PINN और UDE कम केंद्रीय प्रदर्शन और काफी अधिक विचरण (variance) प्रदर्शित करते हैं। विशेष रूप से PINN कुछ देश-मॉडल संयोजनों में विनाशकारी विफलताओं को दर्शाता है, जहाँ $R^2$ मान कुछ मामलों में -50 से नीचे गिर जाते हैं।

स्थिरता और अनिश्चितता (Stability and Uncertainty)

ARIMA नियतात्मक भविष्यवाणियां (शून्य विचरण) उत्पन्न करता है।
NODE संकीर्ण कॉन्फिडेंस बैंड प्रदर्शित करता है, जो स्थिर और पुनरुत्पादक गतिकी का संकेत देता है।
PINN सबसे व्यापक कॉन्फिडेंस बैंड उत्पन्न करता है, जो विशेष रूप से अस्थिर शासन (volatile regimes) में इनिशियलाइजेशन और प्रशिक्षण अस्थिरता के प्रति उच्च संवेदनशीलता को दर्शाता है।
UDE मध्यम परिवर्तनशीलता दिखाता है।

एब्लेशन स्टडी (Ablation Study)

PINN पर एक एब्लेशन स्टडी, जो संरचनात्मक पेनल्टी (physics-informed loss term) को हटा देती है लेकिन आर्किटेक्चर को अपरिवर्तित रखती है, यह प्रकट करती है कि संरचनात्मक दंड को हटाने से अधिकांश देशों में भविष्य कहनेवाला प्रदर्शन में सुधार होता है। यह पुष्टि करता है कि हीयुरिस्टिक पूर्ववृत्त केवल अप्रभावी ही नहीं हैं, बल्कि कई मैक्रोइकॉनॉमिक सेटिंग्स में सक्रिय रूप से हानिकारक हैं, क्योंकि वे व्यवस्थित पूर्वाग्रह (systematic bias) उत्पन्न करते हैं जब मानी गई संबंधशीलता प्रेक्षित व्यवहार के साथ मेल नहीं खाती।

विफलता मोड (Failure Modes)

लेखकों ने संरचनात्मक पूर्ववृत्तों के खराब प्रदर्शन को समझाने वाले चार आवर्ती विफलता मोड की पहचान की है:

प्राथमिक मिसअलाइनमेंट (Prior Misalignment): आरोपित बाधाएं वास्तविक मैक्रोइकॉनॉमिक संबंधों को सटीक रूप से नहीं दर्शाती हैं।
शासन परिवर्तन (Regime Shifts): आर्थिक स्थितियों में अचानक परिवर्तन सुचारू गतिकी (smooth dynamics) की धारणाओं का उल्लंघन करते हैं।
संरचनात्मक व्यवधान (Structural Breaks): विच्छिन्नताएं (संकट, नीतिगत झटके) पूर्ववृत्तों में निहित निरंतरता (continuity) की धारणाओं के साथ असंगत हैं।
अनुकूलन अस्थिरता (Optimization Instability): डेटा लॉस और प्रायर लॉस के बीच संघर्ष करने वाले ग्रेडिएंट्स इनिशियलाइजेशन के प्रति संवेदनशीलता को बढ़ा देते हैं।

महत्व और दावे (Significance and Claims)

यह शोध पत्र अपने निष्कर्षों को SciML के पूर्ण खंडन के बजाय एक नैदानिक परिणाम (diagnostic result) के रूप में प्रस्तुत करता है। लेखक तर्क देते हैं कि उन डोमेन में जहाँ शासी समीकरण अनिश्चित, विकसित होने वाले या आंशिक रूप से देखे जाने वाले हैं (जैसे मैक्रोइकॉनॉमिक्स), संरचनात्मक पूर्ववृत्त उपयोगी इंडक्टिव बायस के बजाय 'मिसरेगुलराइज़र' (misregularizers) के रूप में कार्य कर सकते हैं।

इस कार्य का महत्व इस धारणा को चुनौती देने में है कि "अधिक संरचना हमेशा फायदेमंद होती है।" इसके बजाय, अध्ययन सुझाव देता है कि जब अंतर्निहित गतिकी अच्छी तरह से निर्दिष्ट नहीं होती है, तो निर्धारित संरचना की तुलना में लचीलापन (flexibility) अधिक मूल्यवान हो सकता है। लेखक निष्कर्ष निकालते हैं कि चिकित्सकों को SciML विधियों को वास्तविक, गैर-भौतिक प्रणालियों पर लागू करने से पहले, यह अनुभवजन्य रूप से परीक्षण करना चाहिए कि क्या कोई विशिष्ट संरचना वास्तव में मदद करती है।