तकनीकी सारांश: बहु-डेटा स्रोतों पर बेयसियन सरोगेट प्रशिक्षण (Bayesian Surrogate Training on Multiple Data Sources)

समस्या विवरण (Problem Statement)

सरोगेट मॉडल (Surrogate models) का व्यापक रूप से जटिल, गणनात्मक रूप से महंगे सिमुलेशन मॉडल के सन्निकटन (approximation) के लिए उपयोग किया जाता है, जैसे कि अनिश्चितता परिमाणीकरण (uncertainty quantification), संवेदनशीलता विश्लेषण (sensitivity analysis), और इनवर्स समस्याओं (inverse problems) को हल करने के लिए। हालांकि, एक मौलिक सीमा मौजूद है: सरोगेट मॉडल आमतौर पर केवल सिमुलेशन डेटा पर प्रशिक्षित होते हैं। चूंकि अंतर्निहित सिमुलेशन मॉडल अक्सर वास्तविक दुनिया की प्रणालियों का एक अपूर्ण सरलीकरण होता है (जैसे कि प्रक्रियाओं का छूटना, गलत विनिर्देश, या गलत सीमा स्थितियाँ), सरोगेट भी उन अशुद्धियों को विरासत में प्राप्त कर लेता है। इसके विपरीत, वास्तविक दुनिया के मापन डेटा में वास्तविक प्रणाली के बारे में मूल्यवान जानकारी होती है, लेकिन यह अक्सर दुर्लभ, शोरयुक्त (noisy) होती है और इसमें पूर्ण इनपुट मापदंडों (जैसे अज्ञात फोर्सिंग वेरिएबल्स) का ज्ञान नहीं होता है जो सिमुलेशन मॉडल के लिए आवश्यक होते हैं।

डेटा स्रोतों को एकीकृत करने वाली मौजूदा विधियाँ कई चुनौतियों का सामना करती हैं:

1. असममितता (Asymmetry): सिमुलेशन डेटा में पूरी तरह से निर्दिष्ट इनपुट होते हैं, जबकि वास्तविक दुनिया के डेटा में अक्सर अज्ञात इनपुट होते हैं।
2. समरूपता धारणाएँ (Homogeneity Assumptions): कई दृष्टिकोण समरूप डेटा स्रोतों को मानते हैं या विशिष्ट सरोगेट परिवारों (जैसे गाऊसी प्रक्रियाएं/Gaussian Processes) पर सरल बनाने वाली धारणाओं पर निर्भर करते हैं।
3. वेटिंग रणनीतियों का अभाव (Lack of Weighting Strategies): विषम डेटा स्रोतों को प्रशिक्षित करने के दौरान विश्वास या भरोसे के विभिन्न स्तरों को दर्शाने के लिए उन्हें उचित रूप से कैसे भारित (weight) किया जाए, इस पर सीमित साहित्य उपलब्ध है।
4. अप्रत्यक्ष एकीकरण (Indirect Integration): कुछ विधियाँ वास्तविक दुनिया के डेटा का उपयोग सीधे सरोगेट प्रशिक्षण के लिए नहीं करतीं, बल्कि पोस्ट-हॉक अंशांकन (calibration) या विसंगति मॉडलिंग (discrepancy modeling) के लिए करती हैं।

यह शोध पत्र इन मुद्दों को संबोधित करने के लिए एक सामान्य ढांचे का प्रस्ताव करता है, जो चुने गए सरोगेट परिवार से स्वतंत्र रूप से कार्य करने वाली नवीन वेटिंग रणनीतियों का उपयोग करके बहु-डेटा स्रोतों (सिमुलेशन और वास्तविक दुनिया) पर बेयसियन सरोगेट मॉडल को प्रशिक्षित करता है।

कार्यप्रणाली (Methodology)

लेखक एक ढांचा प्रस्तावित करते हैं जो दो अलग-अलग डेटा स्रोतों को जोड़ता है:

• सिमुलेशन डेटा ($D_S$): एक भौतिकी-आधारित मॉडल $M$ से उत्पन्न, जिसमें ज्ञात इनपुट $x_S$ और अनिश्चित पैरामीटर $\omega_S$ हैं।
• वास्तविक दुनिया का डेटा ($D_R$): एक अज्ञात प्रक्रिया $G$ से उत्पन्न, जिसमें ज्ञात इनपुट $x_R$ लेकिन अज्ञात पैरामीटर $\omega_R$ और मापन शोर (measurement noise) है।

ढांचा दो अलग-अलग वेटिंग कारकों द्वारा नियंत्रित दो संभाव्य दृष्टिकोणों को पेश करता है, जिन्हें $\beta \in [0, 1]$ द्वारा नियंत्रित किया जाता है:

1. पोस्टीरियर प्रेडिक्टिव वेटिंग (Posterior Predictive Weighting - PW)

यह विधि दो अलग-अलग सरोगेट मॉडलों को स्वतंत्र रूप से प्रशिक्षित करती है:

• एक सिमुलेशन-आधारित सरोगेट ($f_{M_S}$), जिसे $D_S$ पर प्रशिक्षित किया गया है और जिसका उपयोग $D_R$ से अज्ञात मापदंडों का अनुमान लगाने के लिए किया जाता है।
• एक डेटा-संचालित सरोगेट ($f_{M_R}$), जो केवल $D_R$ पर प्रशिक्षित है।

अंतिम भविष्यवाणी उनके पोस्टीरियर प्रेडिक्टिव वितरणों का एक भारित योग है:
$$p_{pw, \beta}(\hat{y}_R | \hat{x}_R, D_S, D_R) = \beta \cdot p(\hat{y}_R | \hat{x}_R, D_S, D_R, f_{M_S}) + (1 - \beta) \cdot p(\hat{y}_R | \hat{x}_R, D_R, f_{M_R})$$
यहाँ, $\beta$ सिमुलेशन-आधारित मॉडल के सापेक्ष प्रभाव को नियंत्रित करता है। यह दृष्टिकोण दोनों स्रोतों के बीच विसंगति को उनके प्रेडिक्टिव वितरणों के सुपरपोजिशन (superposition) को देखकर देखने की अनुमति देता है।

2. लाइकलीहुड की पावर-स्केलिंग (Power-Scaling of Likelihoods - PS)

यह विधि एक एकल सरोगेट मॉडल को प्रशिक्षित करती है जो पावर-स्केलिंग के माध्यम से लाइकलीहुड फंक्शन में दोनों डेटा स्रोतों को सीधे एकीकृत करता है। संयुक्त पोस्टीरियर को इस प्रकार परिभाषित किया गया है:
$$p_{ps}^\beta(\omega'_R, \sigma', c | D_S, D_R) \propto p(y_R | x_R, \omega'_R, \sigma', c)^{\alpha_R} \cdot p(y_S | x_S, \omega_S, \sigma', c)^{\alpha_S} \cdot p(\omega'_R, \sigma') p(c)$$
स्केलिंग कारक $\alpha_R$ और $\alpha_S$ को $\beta$ से इस प्रकार निकाला जाता है कि जैसे-जैसे $\beta$, 0 या 1 के करीब पहुँचता है, एक डेटा स्रोत का प्रभाव कम हो जाता है जबकि दूसरे का पूर्ण उपयोग बना रहता है। यह विधि एक दो-चरणीय MCMC प्रक्रिया का उपयोग करती है:

1. संयुक्त प्रशिक्षण (Joint Training): पावर-स्केल्ड लाइकलीहुड का उपयोग करके सरोगेट गुणांक $c$ और मध्यवर्ती मापदंडों का अनुमान लगाना।
2. परिमार्जित अनुमान (Refined Inference): केवल वास्तविक दुनिया के डेटा $D_R$ के पूर्ण लाइकलीहुड का उपयोग करके अज्ञात वास्तविक दुनिया के मापदंडों $(\omega_R, \sigma_R)$ का पुन: अनुमान लगाना, जो $c$ के पोस्टीरियर पर आधारित है। यह वास्तविक डेटा में "डबल डिपिंग" (दोहरी गणना) से बचाता है और सुनिश्चित करता है कि मापदंडों का अनुमान वास्तविक दुनिया के साक्ष्य के आधार पर लगाया गया है।

कार्यान्वयन (Implementation)

ढांचा सरोगेट-अज्ञेयवादी (surrogate-agnostic) डिज़ाइन किया गया है, जो किसी भी संभाव्य सरोगेट (जैसे कि पॉलीनोमियल चाओस एक्सपेंशन, गाऊशियन प्रोसेस, न्यूरल नेटवर्क) पर लागू हो सकता है जिसे Stan या PyMC जैसे संभाव्य प्रोग्रामिंग भाषाओं में लागू किया जा सके। लेखक नमूनाकरण (sampling) के लिए हैमिल्टोनियन मोंटे कार्लो (HMC) का उपयोग करते हैं।

मुख्य योगदान (Key Contributions)

1. नवीन वेटिंग रणनीतियाँ: विषम डेटा स्रोतों को सरोगेट प्रशिक्षण के दौरान संयोजित करने के लिए दो अलग-अलग विधियों (PW और PS) का परिचय, जो विशुद्ध रूप से डेटा-संचालित और विशुद्ध रूप से सिमुलेशन-आधारित मॉडलों के बीच एक निरंतरता प्रदान करती हैं।
2. असमत्रता को संभालना: PS विधि दो-चरणीय अनुमान प्रक्रिया के माध्यम से डेटा स्रोतों की विषमता (अज्ञात बनाम ज्ञात इनपुट) को विशेष रूप से संबोधित करती है, जो गुणांक प्रशिक्षण को मापदंड परिशोधन से अलग करती है।
3. सरोगेट अज्ञेयता (Surrogate Agnosticism): प्रस्तावित वेटिंग रणनीतियाँ विशिष्ट सरोगेट परिवार से स्वतंत्र हैं, जिससे विभिन्न मॉडलिंग संदर्भों में व्यापक अनुप्रयोग संभव होता है।
4. नैदानिक क्षमता (Diagnostic Capability): यह ढांचा सिमुलेशन मॉडल की संरचनात्मक सीमाओं को पहचानने के लिए एक तंत्र प्रदान करता है, जो सिमुलेशन और वास्तविक दुनिया के डेटा से प्राप्त प्रतिस्पर्धी सूचनाओं को देखकर संभव होता है।

परिणाम (Results)

लेखक दो केस स्टडीज का उपयोग करके विधियों का मूल्यांकन करते हैं:

केस स्टडी 1: सिंथेटिक उदाहरण

• सेटअप: एक सिमुलेशन मॉडल एक वैश्विक रुझान (global trend) को कैप्चर करता है, जबकि "वास्तविक" डेटा में एक अतिरिक्त आवधिक शब्द (periodic term) शामिल है जो सिमुलेशन में मौजूद नहीं है।
• निष्कर्ष:
  • आउट-ऑफ-सैंपल (OOS): डेटा-संचालित सरोगेट ($\beta=0$) सबसे अच्छा प्रदर्शन करता है क्योंकि यह स्थानीय डेटा को पूरी तरह से फिट करता है।
  • आउट-ऑफ-डिस्ट्रीब्यूशन (OOD): सिमुलेशन-आधारित सरोगेट ($\beta=1$) सबसे अच्छा प्रदर्शन करता है क्योंकि यह भौतिक नियमों के आधार पर एक्सट्रपलेशन (extrapolate) करने में सक्षम है।
  • हाइब्रिड प्रदर्शन: मध्यवर्ती $\beta$ के लिए, पावर-स्केलिंग (PS) विधि ने आम तौर पर कम RMSE (सिंथेटिक सत्य के करीब) प्राप्त किया, जबकि पोस्टीरियर प्रेडिक्टिव वेटिंग (PW) ने बेहतर ELPD (बेह बेहतर अनिश्चितता मॉडलिंग) प्रदान किया।
  • KOH के साथ तुलना: PS विधि ने कुछ $\beta$ मानों के लिए मानक केनेडी-ओ'हैगन (KOH) अंशांकन ढांचे की तुलना में माध्य फलन (mean function) को रिकवर करने में बेहतर प्रदर्शन किया, हालांकि अनिश्चितता परिमाणीकरण में KOH उत्कृष्ट था।

केस स्टडी 2: महामारी विज्ञान मॉडलिंग (SIR मॉडल)

• सिंथेटिक सेटअप: एक गलत तरीके से निर्दिष्ट (misspecified) SIR मॉडल (निश्चित रिकवरी रेट) बनाम एक अलग रिकवरी रेट वाला वास्तविक डेटा।
  • परिणाम: PS ने OOD क्षेत्रों में बेहतर प्रदर्शन दिखाया, सिमुलेशन डेटा का उपयोग एक रेगुलराइज़र के रूप में करके ताकि डेटा-संचालित मॉडल के अत्यधिक भविष्यवाणियों को रोका जा सके। PW ने प्रतिस्पर्धात्मक रुझानों (डेटा में तीव्र गिरावट बनाम सिमुलेशन में धीमी गिरावट) का दृश्य सुपरपोजिशन प्रदान किया।
• वास्तविक-विश्व सेटअप: इटली (प्रथम लहर) का COVID-19 डेटा।
  • परिणाम: डेटा-संचालित मॉडल एक्सट्रपलेशन करने में विफल रहा (संक्रमण बढ़ने की भविष्यवाणी करता है), जबकि सिमुलेशन-आधारित मॉडल ने उच्च अनिश्चितता दिखाई और बहुत तीव्र गिरावट की भविष्यवाणी की। पावर-स्केलिंग दृष्टिकोण ने $\beta \approx 0.45$ पर इष्टतम ELPD प्राप्त किया, जो दोनों स्रोतों के बीच संतुलन बनाता है। PW विधि ने $\beta$ के साथ एकल सुधार (monotonic improvement) दिखाया लेकिन PS के शिखर प्रदर्शन तक नहीं पहुँच सका।

महत्व और दावे (Significance and Claims)

यह शोध पत्र दावा करता है कि ये हाइब्रिड मॉडलिंग दृष्टिकोण भविष्य कहनेवाला सटीकता और कवरेज में सुधार करने का एक लचीला तरीका प्रदान करते हैं, विशेष रूप से चुनौतीपूर्ण आउट-ऑफ-डिस्ट्रीब्यूशन शासन (regimes) में जहाँ एकल-स्रोत प्रशिक्षण विफल हो जाता है।

• नैदानिक अंतर्दृष्टि (Diagnostic Insights): लेखक इस बात पर जोर देते हैं कि पोस्टीरियर प्रेडिक्टिव वितरणों को विज़ुअलाइज़ करना (विशेष रूप से PW के माध्यम से) एक नैदानिक उपकरण के रूप में कार्य करता है। यह मॉडलर्स को सिमुलेशन मॉडल में गायब प्रक्रियाओं या गलत विनिर्देशों की पहचान करने की अनुमति देता है, यह देखकर कि सिमुलेशन और वास्तविक डेटा कहाँ अलग होते हैं।
• व्यापार-बंद (Trade-offs): शोध पत्र विनम्रतापूर्वक नोट करता है कि इष्टतम विधि और वेटिंग कारक विशिष्ट परिदृश्य और मूल्यांकन मीट्रिक पर निर्भर करते हैं।
  • पावर-स्केलिंग (PS) को अंतर्निहित सत्य को रिकवर करने और मजबूत माध्य भविष्यवाणियों को प्राप्त करने के लिए अनुशंसित किया जाता है, क्योंकि यह प्रशिक्षण के दौरान सिमुलेशन डेटा को एक रेगुलराइज़र के रूप में उपयोग करता है।
  • पोस्टीरियर प्रेडिक्टिव वेटिंग (PW) को नैदानिक उद्देश्यों और प्रतिस्पर्धी सूचना स्रोतों की सहज व्याख्या के लिए अनुशंसित किया जाता है, हालांकि यह डेटा-संचालित घटक के खराब रूप से बाधित होने पर कम मजबूत हो सकता है।
• भावी दिशाएँ (Future Directions): लेखक सुझाव देते हैं कि जबकि उन्होंने दो स्रोतों पर ध्यान केंद्रित किया है, इस ढांचे को कई स्रोतों तक विस्तारित किया जा सकता है। वे यह भी नोट करते हैं कि PS के लिए लाइन सर्च के माध्यम से इष्टतम $\beta$ खोजना गणनात्मक रूप से महंगा हो सकता है, जो रिफिटिंग लागत को कम करने के लिए इम्पोर्टेंस सैंपलिंग या मोमेंट मैचिंग पर भविष्य के कार्य का सुझाव देता है।

संक्षेप में, यह शोध पत्र एक ऐसे ढांचे को प्रस्तुत करता है जो सरोगेट मॉडलिंग को केवल महंगे सिमुलेशन के "प्रतिस्थापन" से बदलकर एक नैदानिक उपकरण बनाने की ओर ले जाता है, जो यांत्रिक ज्ञान (mechanistic knowledge) और अनुभवजन्य साक्ष्य (empirical evidence) दोनों का लाभ उठाने में सक्षम है।