तकनीकी सारांश: MAST – स्थानिक विश्वास-भारण (Spatial Trust-weighting) के माध्यम से एक बहु-निष्ठा संवर्धित सरोगेट मॉडल

समस्या विवरण

इंजीनियरिंग डिजाइन और वैज्ञानिक कंप्यूटिंग में, भविष्य कहनेवाला सटीकता (predictive accuracy) और कम्प्यूटेशनल लागत के बीच एक मौलिक समझौता (trade-off) होता है। उच्च-निष्ठा (High-fidelity - HF) सिमुलेशन सटीक भविष्यवाणियां प्रदान करते हैं लेकिन उन्हें सघन रूप से नमूना लेने के लिए अक्सर बहुत महंगे होते हैं, जबकि निम्न-निष्ठा (Low-fidelity - LF) सन्निकटन प्रचुर और सस्ते होते हैं लेकिन व्यवस्थित त्रुटियों (systematic errors) से ग्रस्त होते हैं। मल्टी-फिडेलिटी गॉसियन प्रोसेस (MFGP) मॉडल विभिन्न निष्ठा स्तरों के बीच सांख्यिकीय सहसंबंधों का लाभ उठाकर इस अंतर को पाटने का प्रयास करते हैं।

हालाँकि, मौजूदा मल्टी-फिडेलिटी विधियाँ आमतौर पर वैश्विक सहसंबंध धारणाओं (जैसे, रैखिक ऑटोरेग्रेसिव संबंध या साझा वैश्विक सहप्रसरण संरचनाएं) पर निर्भर करती हैं। ये धारणाएं व्यवहार में विफल हो जाती हैं जब इनपुट डोमेन में अंतर-निष्ठा संबंध स्थानिक रूप से भिन्न होते हैं। जब निष् độओं के बीच का संबंध नॉन-स्टेशनरी (non-stationary) होता है, तो वैश्विक मॉडल मिस-स्पेसिफिकेशन (model misspecification) से ग्रस्त हो सकते हैं, जिससे विशेष रूप से सीमित बजट के तहत, जहाँ डेटा विरल (sparse) होता है, खराब भविष्य कहनेवाला प्रदर्शन और अस्थिर व्यवहार होता है। इसके अलावा, कई उन्नत नॉन-लीनियर या डीप मल्टी-फिडेलिटी दृष्टिकोण व्यापक हाइपरपैरामीटर ट्यूनिंग और बड़े डेटासेट की मांग करते हैं, जो बजट-बाधित परिदृश्यों में अक्सर उपलब्ध नहीं होते हैं।

कार्यप्रणाली: MAST फ्रेमवर्क

लेखक MAST (स्पेशियल ट्रस्ट-वेटिंग के माध्यम से मल्टी-फिडेलिटी ऑगमेंटेड सरोगेट मॉडल) प्रस्तुत करते हैं, जो शास्त्रीय वैश्विक सहसंबंध शिक्षण के स्थान पर एक ज्यामितीय प्रेरणात्मक पूर्वाग्रह (geometric inductive bias) को प्रतिस्थापित करता है। मुख्य अंतर्दृष्टि यह है कि सुधारात्मक निम्न-निष्ठा सूचना की विश्वसनीयता उच्च-निष्ठा अंशांकन (calibration) डेटा के स्थानिक निकटता पर निर्भर होनी चाहिए।

यह फ्रेमवर्क तीन चरणों में कार्य करता है:

1. स्वतंत्र बेसलाइन मॉडलिंग:
   प्रत्येक निष् độ स्तर के डेटासेट पर अंतर्निहित विशेषताओं को पकड़ने और अवलोकन शोर (observation noise) के स्तर का अनुमान लगाने के लिए स्वतंत्र गॉसियन प्रोसेस (GPs) को प्रशिक्षित किया जाता है।

2. विसंगति मॉडलिंग और स्थानिक रूप से भारित संवर्धन (Discrepancy Modelling and Spatially-Weighted Augmentation):
   प्रत्येक निचले-निष्ठा स्तर $m < M$ के लिए, विधि HF अवलोकनों और LF भविष्यवाणियों के बीच के अवशेषों (residuals) को सुधारकर और उन्हें HF भविष्यवाणियों के साथ मिश्रित करके एक संवर्धित डेटासेट $\tilde{D}_m$ का निर्माण करती है:

   • विसंगति मॉडलिंग: एक विसंगति GP ($GP_{\delta_m}$) को HF स्थानों पर HF अवलोकनों और LF भविष्यवाणियों के बीच के अवशेषों पर प्रशिक्षित किया जाता है। महत्वपूर्ण रूप से, यह विसंगति GP संवर्धित इनपुट $z = [x, \mu_m(x), \sigma^2_m(x)]$ पर आधारित होता है, जो विसंगति भविष्यवाणी को सूचित करने के लिए LF पोस्टीरियर मीन और वेरिएंस को शामिल करता है।
   • स्थानिक विश्वास-भारण (Spatial Trust-Weighting): प्रत्येक LF बिंदु के लिए, निकटतम HF नमूने से दूरी के आधार पर एक ट्रस्ट रीजन (विश्वास क्षेत्र) परिभाषित किया जाता है। एक भार $W^{(i)}_m$ इस क्षेत्र के भीतर HF नमूनों से LF बिंदु की निकटता के आधार पर गणना किया जाता है। यह भार दूरी के साथ घटता है और फिडेलिटी लागत अनुपात ($\alpha_m = \log_{10}(C_M/C_m)/2$) द्वारा नियंत्रित होता है, जो एक आर्थिक पदानुक्रम स्थापित करता है जहाँ महंगी HF डेटा का अधिक स्थानिक प्रभाव होता है।
   • मिश्रण (Blending): सुधारा गया LF मान HF पोस्टीरियर भविष्यवाणी के साथ मिश्रित किया जाता है:
     $$\tilde{y}^{(m)}_i = W^{(i)}_m (y^{(m)}_i + \mu_{\delta_m}(z^{(m)}_i)) + (1 - W^{(i)}_m) \mu_M(x^{(m)}_i)$$
   • वेरिएंस प्रोपेगेशन: मिश्रित बिंदु की अनिश्चितता को कच्चे LF अवलोकन, विसंगति GP और HF GP के वेरिएंस को भारित करके विश्लेषणात्मक रूप से व्युत्पन्न किया जाता है। इसके परिणामस्वरूप प्रत्येक संवर्धित बिंदु के लिए एक निश्चित, हेटरोसेडास्टिक शोर (heteroscedastic noise) प्राप्त होता है।

3. हेटरोसेडास्टिक GP फ्यूजन:
   मूल HF अवलोकनों और संवर्धित LF अवलोकनों के संयुक्त डेटासेट पर एक अंतिम एकल GP को प्रशिक्षित किया जाता है। प्रति-बिंदु शोर वेरिएंस को चरण 2 में गणना किए गए मानों के रूप में निश्चित किया जाता है, न कि उन्हें हाइपरपैरामीटर के रूप में सीखा जाता है। यह अंतिम सरोगेट को स्वाभाविक रूप से अनिश्चित संवर्धित डेटा को कम महत्व देने और विश्वसनीय HF अवलोकनों पर भरोसा करने की अनुमति देता है। नॉन-स्टेशनैरिटी को संभालने के लिए, कर्नेल मूल्यांकन से पहले प्रति-डायमेंशन कुमारस्वामी CDF का उपयोग करके इनपुट को वार्प (warp) किया जाता है।

प्रमुख योगदान

1. ज्यामितीय प्रेरणात्मक पूर्वाग्रह (Geometric Inductive Bias): एक फ्यूजन स्कीम जो HF डेटा की स्थानिक निकटता के आधार पर स्थानीय रूप से अंतर-निष्ठा संबंधों को अनुकूलित करती है, जिससे वैश्विक पैरामीट्रिक सहसंबंध धारणाओं की आवश्यकता समाप्त हो जाती है।
2. लागत-जागरूक विश्वास-भारण (Cost-Aware Trust Weighting): सूचना संलयन को नियंत्रित करने वाले एक आर्थिक पदानुक्रम को बनाने के लिए वेटिंग तंत्र में मूल्यांकन लागतों का स्पष्ट समावेश।
3. क्लोज्ड-फॉर्म वेरिएंस प्रोपेगेशन: अनिश्चितता का एक विश्लेषणात्मक व्युत्पन्न जो सीखा गया हेटरोसेडास्टिक मॉडल में होने वाली अनुकूलन अस्थिरता से बचते हुए, निश्चित हेटरोसेडास्टिक शोर के साथ कुशल सिंगल-GP प्रशिक्षण को सक्षम बनाता है।
4. मजबूत प्रदर्शन: विभिन्न बजट आवंटन, कुल बजट स्केल और अंतर-निष्ठा सहसंबंध स्तरों के तहत अत्याधुनिक सटीकता और अनिश्चितता अंशांकन (uncertainty calibration) प्रदर्शित किया गया।

प्रयोगात्मक परिणाम

लेखकों ने AR1 (ऑटोरेग्रेसिव को-क्रिगिंग), रिकर्सिव को-क्रिगिंग, फ्यूजन-आधारित विधियों, नॉन-लीनियर ऑटोरेग्रेसिव GPs (NARGP), डीप मल्टी-फिडेलिटी GPs (MF-DGP) और विशिष्ट कर्नेल विधियों सहित एक व्यापक बेसलाइन सूट के विरुद्ध MAST का मूल्यांकन किया।

• सिंथेटिक बेंचमार्क: 10 सिंथेटिक टेस्ट फंक्शन (2D से 20D तक) और 3 वास्तविक इंजीनियरिंग डेटासेट (Concrete, DrivAerNet, HOIP) पर, MAST ने 12 में से 6 दो-निष्ठा बेंचमार्क पर सर्वश्रेष्ठ रूट मीन स्क्वायर एरर (RMSE) और 12 में से 7 पर सर्वश्रेष्ठ मीन प्रेडिक्टिव डेंसिटी (Mean PDF) प्राप्त किया।
• मजबूती (Robustness): MAST ने विविध बजट आवंटन (0.1 से 1.0 HF अंश) और कुल बजट स्केल (0.25x से 3.0x) के बीच मजबूत प्रदर्शन बनाए रखा। इसके विपरीत, AR1 जैसी प्रतिस्पर्धी विधियों ने अनियमित व्यवहार दिखाया, और डीप लर्निंग विधियों (NARGP, MF-DGP) ने विशेष रूप से डेटा-दुर्लभ शासन (data-scarce regimes) में लगातार खराब प्रदर्शन किया।
• विसंगति के प्रति संवेदनशीलता: जैसे-जैसे अंतर-निष्ठा विसंगति बढ़ाई गई (कम सहसंबंध का अनुकरण करते हुए), MAST मजबूत बना रहा, जबकि वैश्विक रैखिक धारणाओं पर निर्भर विधियों का प्रदर्शन काफी गिर गया।
• तीन-निष्ठा विस्तार: विधि ने बिना त्रुटियों को बढ़ाए तीन निष् độ स्तरों तक प्रभावी ढंग से विस्तार किया, और उन पदानुक्रमित बेसलाइनों से बेहतर प्रदर्शन किया जो मध्यवर्ती निष् độ स्तरों के साथ संघर्ष करते हैं।

महत्व और दावे

लेखक दावा करते हैं कि MAST मल्टी-फिडेलिटी मॉडलिंग के लिए एक स्थानिक रूप से अनुकूलनीय फ्रेमवर्क प्रदान करता है जो विशेष रूप से तब प्रभावी होता है जब उच्च-निष्ठा डेटा विरल होता है और इनपुट स्पेस में अंतर-निष्ठा संबंध भिन्न होते हैं। वैश्विक सहसंबंधों के बजाय ज्यामितीय निकटता पर भरोसा करके, MAST विरल-डेटा शासन में लंबे समय तक एक्सट्रपलेशन (extrapolation) पर निर्भरता को कम करता है।

लेखक MAST को बजट-बाधित सेटिंग्स में विश्वसनीय सरोगेट निर्माण के लिए एक व्यावहारिक मार्ग के रूप में देखते हैं। वे नोट करते हैं कि अंतर्निहित स्थानिक विश्वास तंत्र सरोगेट-अज्ञेय (surrogate-agnostic) है, और उन्होंने TabPFN (एक ट्रांसफार्मर-आधारित इन-कॉन्टेक्स्ट लर्निंग मॉडल) का उपयोग करके एक प्रारंभिक विस्तार (MAST-ICL) प्रदर्शित किया है, जो यह सुझाव देता है कि यह ढांचा बड़े डेटासेट तक स्केल हो सकता है जहाँ मानक GP प्रशिक्षण कम्प्यूटेशनल रूप से निषेधात्मक हो जाता है।

पेपर निष्कर्ष निकालता है कि स्थानिक विश्वास-भारण मल्टी-फिडेलिटी सरोगेट मॉडलिंग के लिए एक उपयोगी डिज़ाइन सिद्धांत है, जो वैश्विक सहसंबंध संरचनाओं के लिए एक स्थिर विकल्प प्रदान करता है जो विरल-डेटा शासन में भ्रामक हो सकते हैं।