Certifying long-term statistical fidelity of learned chaotic surrogates without rolling them out

तकनीकी सारांश: सीखे गए अराजक सरोगेट्स (Learned Chaotic Surrogates) की दीर्घकालिक सांख्यिकीय निष्ठा को बिना रोलआउट किए प्रमाणित करना

समस्या विवरण
सीखे गए सरोगेट्स (न्यूरल नेटवर्क) का उपयोग तेजी से मौसम, जलवायु और विक्षोभ (turbulence) जैसे महंगे सिमुलेशन को बदलने के लिए किया जा रहा है। हालांकि, ये मॉडल लगभग विशेष रूप से अल्प-क्षिति भविष्यवाणी सटीकता (जैसे, एक-चरण मीन स्क्वेर्ड एरर) के आधार पर प्रशिक्षित और चयनित किए जाते हैं। उपयोगकर्ताओं के लिए महत्वपूर्ण आवश्यकता 'ट्रैजेक्टरी-वार सटीकता' नहीं, बल्कि दीर्घकालिक सांख्यिकीय निष्ठा (long-run statistical fidelity) है: वास्तविक प्रणाली के क्लाइमेटोलॉजी (climatology), ऊर्जा स्पेक्ट्रम और चरम सीमाओं के वितरण को हजारों ऑटोरिग्रेसिव चरणों के बाद भी पुनरुत्पादित करने की क्षमता।

वर्तमान में, इस निष्ठा को सत्यापित करने के लिए सरोगेट को लंबी अवधि (हजारों चरणों) के लिए "रोलआउट" करना आवश्यक होता है, जो अत्यधिक गणनात्मक रूप से महंगा है और एक तेज़ सरोगेट के उपयोग के उद्देश्य को ही विफल कर देता है। इसके अलावा, यदि कोई सरोगेट अस्थिर है, तो रोलआउट अनियंत्रित (blow up) हो सकता है, जिससे त्रुटि का निदान करना भी असंभव हो जाता है। यह शोध पत्र इस प्रश्न को संबोधित करता है: क्या हम केवल अपने एक-चरण अवशेष (one-step residual) का उपयोग करके, बिना किसी लंबे रोलआउट के, एक सरोगेट की दीर्घकालिक सांख्यिकीय त्रुटि का अनुमान लगा सकते हैं?

कार्यप्रणाली
लेखक रैखिक प्रतिक्रिया सिद्धांत (Linear Response Theory) पर आधारित एक प्रमाणन ढांचे का प्रस्ताव करते हैं। सरोगेट की त्रुटि को प्रशिक्षण के दौरान कम किए जाने वाले 'विफलता' के रूप में देखने के बजाय, वे एक-चरण अवशेष क्षेत्र ($\eta = \tilde{S} - S$) को वास्तविक प्रणाली की गतिशीलता में एक विक्षोभ (perturbation) के रूप में देखते हैं।

1. रिस्पॉन्स ऑपरेटर ($R$):
   इस पद्धति का मूल एक सीमित रैखिक ऑपरेटर $R$ है जो एक-चरण अवशेष क्षेत्र $\eta$ को प्रणाली के अपरिवर्तनीय वितरण (invariant distribution) के विस्थापन से जोड़ता है। दीर्घकालिक सांख्यिकीय त्रुटि ($D_1$), जिसे वास्तविक और सरोगेट प्रणालियों के साइट-वाइज मार्जिनल वितरणों के बीच 1-वॉसरस्टीन दूरी (1-Wasserstein distance) के रूप में मापा जाता है, को इस प्रकार अनुमानित किया जाता है:
   $$D_1 \approx \|R\eta\|$$
   महत्वपूर्ण बात यह है कि $R$, सरोगेट का नहीं, बल्कि वास्तविक प्रणाली का गुण है। इसे स्थानीय अवलोकनों (observables) के एक आधार (basis) के साथ विक्षोभ उत्पन्न करके और परिणामी सांख्यिकीय बदलाव को रिकॉर्ड करके, वास्तविक प्रक्षेप पथों (trajectories) पर एक बार, ऑफलाइन मापा जाता है।

2. प्रमाणन पाइपलाइन (Certification Pipeline):

   • ऑफलाइन चरण: वास्तविक प्रणाली पर $R$ और इसके ऑपरेटर नॉर्म $\|R\|_{op}$ को मापें। यह चरण सिस्टम के आकार से स्वतंत्र है और इसमें किसी सरोगेट की आवश्यकता नहीं होती।
   • ऑनलाइन चरण (प्रत्येक सरोगेट के लिए): $R$ को मापने के लिए उपयोग किए गए उन्हीं अवस्थाओं (states) पर सरोगेट $\tilde{S}$ का मूल्यांकन करें ताकि अवशेष $\eta$ की गणना की जा सके।
   • अनुमान (Estimation): बिना सरोगेट को कभी भी पुनरावृत्त (iterate) किए, $D_1 \leq \|R\|_{op} \|\eta\|$ या एक परिष्कृत अनुमान की गणना करें।

3. परिष्करण और स्व-जांच (Refinements and Self-Checks):

   • दो-स्तरीय सीमा (Two-Scale Bound): अवशेष को एक "सुसंगत" (coherent) भाग (जो मापे गए आधार पर प्रक्षेपित है) और एक "असुसंगत" (incoherent) भाग में विभाजित किया जाता है। चूंकि सुसंगत त्रुटियां काफी अधिक महंगी (उच्च गेन वाली) होती हैं, इसलिए सीमा को $D_1 \leq \|RP\eta\| + g_\perp \|(I-P)\eta\|$ के रूप में कड़ा किया गया है।
   • बंद-रूप गुणांक (Closed-Form Coefficient): उच्च-आयामी गोलों (high-dimensional spheres) के गुणों का उपयोग करके अविष्कारत (incoherent) गेन गुणांक $g_\perp$ को क्लोज्ड-फॉर्म में निकाला गया है, जिससे अनुभवजन्य अनुमान की आवश्यकता समाप्त हो जाती है।
   • स्व-जांच ($\kappa$): एक असमानता $|D_1/p - 1| \leq 1/\kappa$ व्युत्पन्न की गई है, जहाँ $p$ पॉइंट एस्टीमेट है। यदि $\kappa < 1$, तो प्रमाण पत्र स्वीकार करता है कि इसमें कोई जानकारी नहीं है (विफलता की स्थिति)।
   • आधार-मुक्त स्पर्शज्या मार्ग (Basis-Free Tangent Route): उन सरोगेट्स के लिए जहाँ अवशेष निश्चित आधार के लंबवत (orthogonal) होते हैं (जो कन्वर्ज्ड डेटा-ड्रिवन नेटवर्क में सामान्य है), एक टेंगेंट-स्पेस एस्टीमेटर का उपयोग किया जाता है। यह अवशेष को वास्तविक प्रक्षेप पथों के साथ एक सीमित समय $T$ के लिए ले जाता है, जिससे आधार की आवश्यकता समाप्त हो जाती है और अस्थिर सरोगेट्स को भी संभाला जा सकता है।

मुख्य परिणाम
लेखक ने लोरेन्ज़-96 (Lorenz-96) प्रणाली के लिए 125 प्रशिक्षित कन्वोल्यूशनल नेटवर्क के साथ-साथ कुरामोटो-सिवाशिंस्की (Kuramoto–Sivashinsky) और कोलमोगोरोव फ्लो (Kolmogorov flow) के लिए 28 विश्लेषणात्मक सरोगेट्स पर इस ढांचे का परीक्षण किया।

• एक-चरण और दीर्घकालिक त्रुटि का सहसंबंधहीन होना: 125 प्रशिक्षित नेटवर्क में, एक-चरण त्रुटि ($\epsilon$) और दीर्घकालिक सांख्यिकीय त्रुटि ($D_1$) प्रभावी रूप से सहसंबंधहीन ($\rho = -0.144$) हैं। एक-चरण त्रुटि को कम करने से दीर्घकालिक सांख्यिकी में सुधार की गारंटी नहीं मिलती है; वास्तव में, "गेन" ($D_1/\epsilon$) $D_1$ के विचरण (variance) पर हावी रहता है।
• आकार स्वतंत्रता (Size Independence): ऑपरेटर नॉर्म $\|R\|_{op}$ सिस्टम के आकार के साथ नहीं बढ़ता है। लोरेन्ज़-96 को 32 से 512 साइटों तक और कोलमोगोरोव फ्लो को विभिन्न एस्पेक्ट रेश्यो के माध्यम से स्वीप करने वाले प्रयोगों ने दिखाया कि नॉर्म एसिम्प्टोटिक रूप से स्थिर रहता है, जिससे प्रमाण पत्र स्केलेबल बनता है।
• सुरक्षा और सटीकता (Safety and Tightness):
  • सख्त सीमा $\|R\|_{op}\epsilon$ सभी 125 नेटवर्क और 28 विश्लेषणात्मक सरोगेट्स के लिए बनी रही (औसत स्लैक: 12.0$\times$)।
  • दो-स्तरीय परिष्कृत सीमा सभी मामलों में बनी रही जिसका औसत स्लैक 3.4$\times$ था।
  • पॉइंट एस्टीमेट $p = \|RP\eta\|$ ने मापी गई त्रुटि का सफलतापूर्वक अनुसरण किया (औसत स्लैक 1.18$\times$ और रैंक सहसंबंध $\rho = +0.341$)।
  • आधार-मुक्त टेंगेंट एस्टीमेटर ने परीक्षण किए गए भविष्यवक्ताओं में उच्चतम रैंक सहसंबंध ($\rho = +0.448$) प्राप्त किया।
• लागत दक्षता: $R$ को मापना प्रति सिस्टम एक बार किया जाता है। एक नए सरोगेट की कीमत केवल एक सिंगल फॉरवर्ड पास (कोई रोलआउट नहीं) है, जबकि प्रत्यक्ष दीर्घकालिक सांख्यिकीय माप के लिए $\approx 2 \times 10^5$ मूल्यांकन की आवश्यकता होती है।

महत्व और दावे
यह शोध पत्र एक मात्रात्मक, प्री-रोलआउट उत्तर प्रदान करने का दावा करता है कि एक सरोगेट की दीर्घकालिक सांख्यिकी कितनी गलत होगी। इसका महत्व निम्नलिखित बिंदुओं में निहित है:

1. प्रशिक्षण को सत्यापन से अलग करना: यह प्रदर्शित करता है कि अल्प-क्षिति प्रशिक्षण मेट्रिक्स दीर्घकालिक सांख्यिकीय निष्ठा के लिए खराब प्रॉक्सी हैं।
2. पूर्व-निर्धारित त्रुटि सीमाएं: यह रैखिक प्रतिक्रिया सिद्धांत को केवल पैरामीटर संवेदनशीलता के विश्लेषण के उपकरण से बदलकर सीखे गए मॉडलों के लिए एक कठोर त्रुटि सीमा में बदल देता है।
3. व्यावहारिक स्क्रीनिंग: प्रमाण पत्र इतना सस्ता है कि इसे मॉडल चयन लूप में शामिल किया जा सकता है। यह एक "सुरक्षा कथन" के रूप में कार्य करता है जो यह पहचानता है कि कौन से उम्मीदवार पूर्ण, महंगे सांख्यिकीय सत्यापन की लागत उठाने के योग्य हैं, न कि पूर्ण सत्यापन को बदलने के लिए।
4. सीमाएं: लेखक स्पष्ट रूप से कहते हैं कि $R$ का अस्तित्व (परिमित ऑपरेटर नॉर्म) एक धारणा है (जो यूनिफॉर्मली हाइपरबोलिक सिस्टम के लिए मान्य है) न कि सभी व्यावहारिक नॉन-यूनिफॉर्मली हाइपरबोलिक सिस्टम के लिए एक सिद्ध प्रमेय। इसके अलावा, हालांकि प्रमाण पत्र त्रुटियों की सटीक कीमत बताता है, लेखक रिपोर्ट करते हैं कि इस प्राइसिंग को सीधे ट्रेनिंग लॉस टर्म के रूप में उपयोग करने के प्रयासों से कोई सुधार नहीं हुआ जो स्वतंत्र सत्यापन में टिक सके। यह उपकरण एक नैदानिक (diagnostic) और स्क्रीनिंग तंत्र है, न कि एक प्रशिक्षण उद्देश्य।

संक्षेप में, यह कार्य स्थापित करता है कि एक सरोगेट की त्रुटि की "लागत" केवल उसके परिमाण द्वारा नहीं, बल्कि सिस्टम के रिस्पॉन्स ऑपरेटर के सापेक्ष अवशेष की दिशा द्वारा निर्धारित होती है, और यह बिना कभी सरोगेट को भविष्य में चलाए, इस लागत को मापने का एक तरीका प्रदान करता है।