तकनीकी सारांश: KARMA – बहुभिन्नरूपी समय श्रृंखला पूर्वानुमान के लिए K-क्रम मार्कोव सन्निकटन के माध्यम से वैश्विक स्पष्टीकरण

1. समस्या विवरण

उच्च-जोखिम वाले डोमेन (वित्त, क्लिनिकल मॉनिटरिंग, औद्योगिक सेंसिंग) में बहुभिन्नरूपी समय श्रृंखला पूर्वानुमान (multivariate time series forecasting) के लिए डीप लर्निंग मॉडल (जैसे, RNNs, TCNs, Transformers) की तैनाती महत्वपूर्ण अपारदर्शिता (opacity) का सामना करती है। मौजूदा व्याख्या योग्य AI (XAI) विधियाँ, जैसे कि LIME, SHAP, और ग्रेडिएंट-आधारित एट्रिब्यूशन, मुख्य रूप से स्थिर, स्वतंत्र और समान रूप से वितरित (i.i.d.) डेटा के लिए डिज़ाइन की गई हैं। जब इन्हें समय श्रृंखला (time series) पर लागू किया जाता है, तो ये विधियाँ अक्सर मौलिक अस्थायी गुणों का उल्लंघन करती हैं:

• स्वतंत्रता धारणा (Independence Assumption): वे अंतर्निहित रूप से मानती हैं कि टाइमस्टैम्प फीचर्स स्वतंत्र हैं, जिससे टेम्पोरल ऑटोकोरिलेशन (temporal autocorrelation) और अंतर-चर ग्रेंजर कार्य-कारण (inter-variable Granger causality) की अनदेखी होती है।
• ऑफ-मैनिफोल्ड परटर्बेशन (Off-Manifold Perturbations): SHAP या LIME में यादृच्छिक विक्षोभ (random perturbations) अनुक्रमिक संरचनाओं को तोड़ देते हैं, जिससे ऐसे काउंटरफैक्टुअल्स (counterfactuals) बनते हैं जो डेटा वितरण में मौजूद नहीं होते।
• स्थानीय बनाम वैश्विक (Local vs. Global): ग्रेडिएंट-आधारित विधियाँ एक एकल बिंदु पर स्थानीय ज्यामिति का वर्णन करती हैं न कि उस व्यवस्थित सशर्त संरचना का जो वैश्विक रूप से मॉडल द्वारा सीखी गई है।
• बेसलाइन चयन (Baseline Selection): TimeSHAP जैसी विधियाँ अनुक्रमिक संदर्भों में "बेसलाइन चयन समस्या" से जूझती हैं, जहाँ बेसलाइन का चुनाव गैर-तुच्छ (non-trivial) होता है।

यह शोध पत्र तर्क देता है कि समय श्रृंखला के लिए स्पष्टीकरणों को डेटा की अनुक्रमिक और कारण संरचना (sequential and causal structure) का सम्मान करना चाहिए, और यह आधारितीकरण (perturbation-based) या ग्रेडिएंट-आधारित स्थानीय सन्निकटन के बजाय एक संभाव्य, वैश्विक सरोगेट दृष्टिकोण की ओर बढ़ना चाहिए।

2. कार्यप्रणाली: KARMA फ्रेमवर्क

लेखक KARMA (K-Order Markov Approximation) प्रस्तावित करते हैं, जो एक K-क्रम मार्कोव सरोगेट मॉडल का निर्माण करके एक ब्लैक-बॉक्स टाइम-सीरीज प्रेडिक्टर $f$ की व्याख्या करता है। मुख्य धारणा यह है कि एक जटिल प्रेडिक्टर का व्यवहार एक विशिष्ट क्रम $K$ के मार्कोव चेन द्वारा निष्ठापूर्वक अनुमानित किया जा सकता है।

कार्यप्रणाली तीन स्तंभों के इर्द-गिर्द संगठित है:

स्तंभ 1: मार्कोव सरोगेट और ऑर्डर चयन

• विविक्तीकरण (Discretization): निरंतर समय श्रृंखला चरों को प्रशिक्षण डेटा से प्राप्त क्वांटाइल सीमाओं का उपयोग करके $N$ बिन में विभाजित किया जाता है, जिससे एक असतत अवस्था स्थान (discrete state space) $S = [N]^D$ बनता है।
• ऑर्डर चयन ($K^*$): यह विधि न्यूनतम इतिहास लंबाई $K^*$ की पहचान करती है जो भविष्यवाणी के लिए पर्याप्त है। यह एक सरोगसी प्रेडिक्टिव वैलिडिटी स्टॉपिंग रूल के माध्यम से प्राप्त किया जाता है। एल्गोरिदम एक इनपुट विंडो के प्रीफ़िक्स को एक बेसलाइन $b$ से बदलकर बढ़ते लैग लेंथ $K$ का परीक्षण करता है और भविष्यवाणी विसंगति $\hat{\Delta}_{pred}(K, b)$ को मापता है।
• स्टॉपिंग क्राइटेरिया (Stopping Criterion): $K^*$ वह सबसे छोटा $K$ है जहाँ न्यूनतम विसंगति सहनशीलता $\epsilon$ से नीचे गिर जाती है। यह प्रमाणित करता है कि मॉडल $K^*$ से अधिक लैग वाले इनपुट के प्रति असंवेदनशील है।

स्तंभ 2: संपीड़न और प्रमाणित एट्रिब्यूशन (Compression and Certified Attribution)

• मॉडल संपीड़न (Model Compression): यदि $K^* < W$ (मॉडल की इनपुट विंडो), तो मॉडल $K^*$ से परे इनपुट के प्रति प्रमाणित रूप से असंवेदनशील है। इससे संपीड़न अनुपात $W/K^*$ प्राप्त होता है।
• प्रमाणित बेसलाइन ($b^*$): बेसलाइन $b^*$ विश्लेषक द्वारा नहीं चुनी जाती है, बल्कि मॉडल-प्रमाणित होती है; यह वह विशिष्ट प्रीफ़िक्स है जो प्रतिस्थापन के बाद भविष्यवाणी विसंगति को न्यूनतम करता है।
• प्रमाणित-शून्य एट्रिब्यूशन (Certified-Zero Attributions): सभी लैग $k > K^*$ के लिए, एट्रिब्यूशन गणितीय रूप से शून्य हैं (अनुमान त्रुटि के भीतर), जो अन्य विधियों में पाई जाने वाली "छोटे" बनाम "शून्य" महत्व की अस्पष्टता को हल करता है।

स्तंभ 3: पांच-स्तरीय वैश्विक स्पष्टीकरण पदानुक्रम

एक बार जब $K^*$-ऑर्डर मार्कोव ट्रांजिशन कर्नेल $\hat{T}^f_{K^*}$ का अनुमान लग जाता है, तो KARMA बिना किसी अतिरिक्त ऑरेकल क्वेरी के पांच स्तरों का वैश्विक स्पष्टीकरण निकालता है:

1. स्तर 1 (चर महत्व - Variable Importance): सभी लैग्स पर लक्ष्य भविष्यवाणियों पर स्रोत चरों के कुल वितरण प्रभाव की गणना करता है, और चरों को उनके मार्जिनल टोटल-वेरिएशन प्रभाव के आधार पर रैंक करता है।
2. स्तर 2 (लैग प्रोफाइल - Lag Profiles): प्रभाव को विशिष्ट लैग $k$ द्वारा हल करता है, जिससे प्रत्येक चर के लिए टेम्पोरल डायनेमिक्स (जैसे, मोमेंटम, मीन-रिवर्जन) प्रकट होते हैं।
3. स्तर 3 (रेजीम विशिष्टता - Regime Distinctiveness): उन विशिष्ट ऐतिहासिक रेजीम्स (पथ) की पहचान करता है जहाँ मॉडल का सशर्त पूर्वानुमान अपने सामान्य व्यवहार से महत्वपूर्ण रूप से विचलित होता है, जिसमें मार्जिनल इंटरडिपेंडेंस इंडेक्स का उपयोग किया जाता है।
4. स्तर 4 (हस्तक्षेप प्रभाव - Interventional Effects): मॉडल-प्रेरित कारण ग्राफ (causal graph) को भरने के लिए औसत इंटरवेंशनल इफेक्ट्स (AIE) और एज योगदान की गणना करता है, जो सीधे स्तर 1 महत्व से जुड़ता है।
5. स्तर 5 (अनिश्चितता परिमाणीकरण - Uncertainty Quantification): विश्वसनीयता प्रमाण प्रदान करता है:
   • एलेयटोरिक अनिश्चितता (Aleatoric Uncertainty): भविष्य कहनेवाला वितरण (predictive distribution) की एंट्रॉपी (वास्तविक मॉडल अनिश्चितता)।
   • एपिस्टेमिक अनिश्चितता (Epistemic Uncertainty): कर्नेल अनुमानों का वेरिएंस (उन इतिहासों को चिह्नित करता है जहाँ डेटा कवरेज अपर्याप्त है)।

कर्नेल अनुमान (Kernel Estimation): पूर्ण संयुक्त कर्नेल ($N^{DK^*}$) के अनुमान की घातीय जटिलता से बचने के लिए, KARMA $D$ फैक्टर्ड मार्जिनल कर्नेल का अनुमान लगाता है। यह डिफ़ॉल्ट रूप से स्ट्रेटेजी बी ($b^*$-प्रीफ़िक्स मोंटे कार्लो) का उपयोग करता है, जो अनुमान को देखे गए इतिहास सपोर्ट $H^+_{K^*}$ तक सीमित करता है, जिससे यह आयाम के साथ घातीय होने के बजाय श्रृंखला की लंबाई $T$ के साथ रैखिक रूप से स्केल करता है।

3. प्रमुख परिणाम

सिंथेटिक डेटा (VAR ऑरेकल)

• कारण संरचना रिकवरी (Causal Structure Recovery): ज्ञात ग्राउंड-ट्रुथ कॉज़ल एड्स वाले सिंथेटिक वेक्टर ऑटोरेग्रेसिव (VAR) डेटा पर, KARMA ने लगभग सभी (xlarge, जहाँ रिकॉल 0.71 था) कॉन्फ़िगरेशन में परफेक्ट रिकॉल (1.00) प्राप्त किया। इसने उच्च परिशुद्धता (precision) बनाए रखी, प्रभावी रूप से स्प्यूरियस एड्स को बाहर रखा।
• फीचर रैंकिंग: मध्यम, बड़े और xlarge कॉन्फ़िगरेशन पर KARMA एकमात्र शीर्ष-रैंक वाला तरीका (उच्चतम केंडल का $\tau$) था। प्रतिस्पर्धी विधियाँ (TimeSHAP, WinIT, Feature Occlusion) ग्राफ घनत्व बढ़ने के साथ कमज़ोर पड़ती गईं।
• तुलना: इंटीग्रेटेड ग्रेडिएंट्स (IG) को सिंथेटिक परीक्षणों से बाहर रखा गया क्योंकि यह लीनियर VARs पर सटीक गुणांकों में बदल जाता है, जिससे तुलना निरर्थक हो जाती है।

वास्तविक दुनिया के बेंचमार्क

तीन आर्किटेक्चर (GRU, LSTM, TCN) और तीन डेटासेट्स (ETTh1, Beijing PM2.5, Exchange Rate) पर प्रयोग किए गए, जिनका मूल्यांकन टेम्पोरल-अवेयर लैग-आधारित AUC स्कोर ($AUClag@25\%$) द्वारा किया गया।

• ETTh1: KARMA ने सभी आर्किटेक्चर में उच्चतम स्कोर प्राप्त किया, विशेष रूप रूप से TCN पर अगले सर्वश्रेष्ठ तरीके से बेहतर प्रदर्शन किया (0.71 बनाम 0.49)।
• Beijing PM2.5: KARMA प्रतिस्पर्धी था, जो सबसे मजबूत बेसलाइनों के बराबर या थोड़ा पीछे रहा।
• Exchange Rate: सभी विधियाँ लगभग शून्य स्कोर पर गिर गईं। लेखक इसकी सही व्याख्या करते हैं: यह डेटासेट एक रैंडम वॉक के करीब है जिसमें बहुत कम सीखने योग्य टेम्पोरल संरचना है, जिसका अर्थ है कि कोई भी विधि उन टाइमस्टेप्स की पहचान नहीं कर सकती जिन्हें हटाने से पूर्वानुमान बदल जाता है। यह विधि के विफल होने के बजाय इसके मेट्रिक के व्यवहार को मान्य करता है।

4. महत्व और दावे

यह शोध पत्र KARMA को समय श्रृंखला के लिए मौजूदा XAI विधियों के एक सिद्धांतवादी विकल्प के रूप में स्थापित करता है क्योंकि:

1. टेम्पोरल ज्योमेट्री का सम्मान: अन्य परटर्बेशन-आधारित विधियों के विपरीत जो अनुक्रमिक संरचना को तोड़ देती हैं, KARMA का मार्कोव सन्निकटन डोमेन की मूल भाषा (सशर्त निर्भरता) के भीतर काम करता है।
2. सांख्यिकीय गारंटी प्रदान करना: यह प्रमाणित-शून्य एट्रिब्यूशन और स्पष्टीकरणों के लिए स्पष्ट विश्वसनीयता प्रमाण पत्र (स्तर 5) प्रदान करता है, जो पिछले कार्यों में अनुपस्थित एक विशेषता है।
3. वैश्विक बनाम स्थानीय: यह एकल अनुमानित कर्नेल से प्राप्त एक वैश्विक स्पष्टीकरण पदानुक्रम प्रदान करता है, न कि उदाहरण-स्तर के स्थानीय सन्निकटन।
4. मॉडल-अग्नोस्टिक वैधता: $K^*$ और $b^*$ का चयन सीधे मॉडल के व्यवहार से प्राप्त होता है, न कि विश्लेषक के अनुमानों से।

स्वीकृत सीमाएँ:
लेखक नोट करते हैं कि अवस्था स्थान (state space) $N^{DK^*}$ के साथ घातीय रूप से बढ़ता है, जिससे पूर्ण कर्नेल अनुमान चुनौतीपूर्ण हो जाता है। KARMA इसे मार्जिनल कर्नेल और सैंपलिंग रणनीतियों के माध्यम से कम करता है, लेकिन बहुत उच्च-आयामी प्रणालियों तक स्केल करना एक खुला विषय बना हुआ है।

शोध पत्र निष्कर्ष निकालता है कि मार्कोव सन्निकटन प्रतिमान (paradigm) अनुक्रमिक डोमेन के लिए XAI के लिए एक मजबूत, अल्प-अन्वेषित दिशा प्रदान करता है, जो वित्त, न्यूरोसाइंस और जीनोमिक्स में लागू किया जा सकता है।