तकनीकी सारांश: कॉन्सेप्ट ड्रिफ्ट के तहत काउंटरफैक्चुअल स्पष्टीकरण (Counterfactual Explanations)

1. समस्या विवरण

काउंटरफैक्चुअल स्पष्टीकरण (CFEs) क्रियाशील रिकोर्स तंत्र (actionable recourse mechanisms) हैं जो इस प्रश्न का उत्तर देते हैं कि "परिणाम को अलग करने के लिए क्या बदलने की आवश्यकता है?" जबकि मौजूदा साहित्य स्थिर डेटा और निश्चित क्लासिफायर के लिए CFE जनरेशन को व्यापक रूप से कवर करता है, यह शोध पत्र एक महत्वपूर्ण अंतराल की पहचान करता है: कॉन्सेप्ट ड्रिफ्ट (concept drift) के तहत CFE रखरखाव।

विकसित होते डेटा वातावरण (जैसे, डेटा स्ट्रीम्स) में, बदलते डेटा वितरण के अनुकूल होने के लिए क्लासिफायर को ऑनलाइन बार-बार अपडेट किया जाता है। लेखक तर्क देते हैं कि जनरेशन के समय वैध रहा एक CFE, मॉडल के विकसित होने पर चुपचाप अमान्य हो सकता है, भले ही मूल स्पष्टीकरण एकल-चरण मॉडल परिवर्तन के विरुद्ध मजबूत रहा हो। पूर्ववर्ती मजबूती (robustness) अनुसंधान के विपरीत, जिसका उद्देश्य एक एकल पुन: प्रशिक्षण घटना के विरुद्ध एक एकल स्पष्टीकरण को सुदृढ़ करना है, यह कार्य एक जनसंख्या (population) के निरंतर क्षरण को संबोधित करता है जो बार-बार अपडेट किए जा रहे क्लासिफायर के कारण होता है। मुख्य चुनौती मौजूदा CFEs की वैधता और स्थानीय सुसंगतता (local plausibility) को बनाए रखना है, बिना हर मॉडल अपडेट के बाद उन्हें शून्य से पुन: उत्पन्न करने की उच्च कम्प्यूटेशनल लागत के।

2. कार्यप्रणाली

लेखक एक हल्का (lightweight), मॉडल-अज्ञेयवादी (model-agnostic) रखरखाव योजना प्रस्तावित करते हैं जो स्थानीय सैंपलिंग और हाल के अवलोकनों की एक स्लाइडिंग विंडो का उपयोग करके मौजूदा CFEs की मरम्मत करती है।

2.1 अवस्था प्रतिनिधित्व और ट्रिगरिंग (State Representation and Triggering)

सिस्टम प्रत्येक क्वेरी इंस्टेंस $x_0$ के लिए एक अवस्था $s = (x_0, x', c', a)$ बनाए रखता है, जहाँ $x'$ वर्तमान CFE है, $c'$ लक्षित वर्ग (target class) है, और $a$ एक सक्रिय फ्लैग है।

• रिटायरमेंट (Retirement): एक अवस्था को तब रिटायर किया जाता है जब वर्तमान क्लासिफायर $f_t$ पहले से ही $x_0$ के लिए लक्षित वर्ग की भविष्यवाणी करता है (अर्थात, ड्रिफ्ट ने स्वाभाविक रूप से रिकोर्स की आवश्यकता को हल कर दिया है)।
• अपडेट ट्रिगर (Update Trigger): एक अपडेट तब ट्रिगर होता है यदि वर्तमान CFE अमान्य है ($f_t(x') \neq c'$) या लक्षित वर्ग में विश्वास कम है ($p_t(c' | x') < \tau_{low}$)।

2.2 अपडेट तंत्र

विधि वर्तमान CFE $x'$ पर एक सुधार वेक्टर (correction vector) लागू करती है, जो तीन उद्देश्यों के बीच संतुलन बनाती है:

1. वैधता दिशा (Validity Direction - $v$): लक्षित वर्ग की संभावना को बढ़ाता है। गैर-विभेदक (non-differentiable) मॉडलों (जैसे, Hoeffding trees) के लिए, इसे $x'$ के आसपास स्थानीय व्यवधानों (perturbations) को सैंपल करके, क्लासिफायर को क्वेरी करके, और ग्रेडिएंट का अनुमान लगाने के लिए एक स्थानीय भारित रैखिक सरोगेट (LIME के समान) को फिट करके अनुमानित किया जाता है।
2. सुसंगतता दिशा (Plausibility Direction - $p$): CFE को हालिया डेटा स्ट्रीम के भीतर लक्षित वर्ग के घने क्षेत्रों की ओर ले जाता है। इसे स्लाइडिंग बफर $B_t$ के भीतर लक्षित वर्ग के $k$-निकटतम पड़ोसियों (k-nearest neighbors) के आधार पर एक कर्नेल-वेटेड मीन-शिफ्ट दिशा का उपयोग करके गणना किया जाता है।
3. निकटता खिंचाव (Proximity Pull - $r$): एक वेक्टर जो अनावश्यक विचलन को कम करने के लिए $x'$ को मूल इंस्टेंस $x_0$ की ओर खींचता है।

अपडेट दिशा $d$, चयनित सुधार वेक्टर ($u \in \{v, p\}$) और निकटता खिंचाव का एक सामान्यीकृत रैखिक संयोजन है:
$$d = \frac{\lambda_u \hat{u} + \lambda_r \hat{r}}{\|\lambda_u \hat{u} + \lambda_r \hat{r}\|}$$
जहाँ $\lambda_u$ और $\lambda_r$ क्रमशः सुधार और निकटता की सापेक्ष शक्ति को नियंत्रित करते हैं।

2.3 रखरखाव वेरिएंट्स (Maintenance Variants)

पत्र दो विशिष्ट रणनीतियों का मूल्यांकन करता है:

• वैधता–सुसंगतता (Ours-VP): जब CFE अमान्य या कम-विश्वास वाला होता है, तो यह वैधता दिशा $v$ का उपयोग करता है। इसके अतिरिक्त, यह वैध CFEs को हाल के डेटा वितरणों के साथ संरेखित रखने के लिए आवधिक रूप से (प्रत्येक $K$ स्टेप्स पर) सुसंगतता दिशा $p$ लागू करता है।
• केवल-सुसंगतता (Ours-P): वैधता दिशा $v$ का अनुमान नहीं लगाता है। इसके बजाय, यह अमान्य या कम-विश्वास वाले CFEs की मरम्मत के लिए केवल सुसंगतता दिशा $p$ पर निर्भर करता है, यह परीक्षण करने के लिए कि क्या धीरे-धीरे होने वाले ड्रिफ्ट के तहत लक्षित क्षेत्रों की ओर बढ़ना वैधता बहाल करने के लिए पर्याप्त है।

3. प्रयोगात्मक सेटअप और परिणाम

प्रायोगिक परीक्षण सिंथेटिक ड्रिफ्टिंग स्ट्रीम्स (Rotating Hyperplane, Sine, SEA) और ऑनलाइन क्लासिफायर्स (Logistic Regression और Adaptive Hoeffding Trees) पर किए गए।

3.1 मुख्य निष्कर्ष

• स्थिर CFEs का क्षरण: "फ्रोजन" (frozen) CFEs (जिनमें RobX जैसे मजबूत तरीके भी शामिल हैं) कॉन्सेप्ट ड्रिफ्ट जमा होने के साथ तेजी से अपनी वैधता खो देते हैं। उदाहरण के लिए, Rotating Hyperplane स्ट्रीम पर, फ्रोजन CFEs के लिए वैधता गिरकर ~0.29–0.35 हो गई।
• वैधता का संरक्षण: दोनों रखरखाव वेरिएंट्स (Ours-P और Ours-VP) ने लगभग पूर्ण वैधता (अक्सर 1.0) को सफलतापूर्वक बनाए रखा, जो फ्रोजन बेसलाइन्स से काफी बेहतर प्रदर्शन करता है।
• सुसंगतता में सुधार: बनाए रखे गए CFEs ने पुनरुत्पादन (regeneration) बेसलाइन्स जैसे Nearest Neighbor (NN) और Growing Spheres (GS) की तुलना में काफी उच्च स्थानीय सुसंगतता स्कोर प्राप्त किए। ऐसा इसलिए है क्योंकि रखरखाव योजना हालिया डेटा बफर को स्पष्ट रूप से शामिल करती है, जबकि पुनरुत्करण विधियाँ अक्सर केवल वैधता और निकटता के लिए अनुकूलन करती हैं।
• निकटता ट्रेड-ऑफ (Proximity Trade-off): बनाए रखे गए CFEs ने पुनरुत्पादन विधियों की तुलना में बड़े $L_2$ दूरियों (निकटता) को प्रदर्शित किया। लेखक इसका श्रेय स्थानीय सुसंगतता बनाए रखने की लागत को देते हैं; CFEs को हाल के लक्षित-वर्ग क्षेत्रों की ओर ले जाया जाता है जो पुनरुत्पादन द्वारा पाए गए निकटतम वैध बिंदु की तुलना में मूल इंस्टेंस से थोड़े दूर हो सकते हैं।
• कम्प्यूटेशनल दक्षता: 200 रखरखाव अपडेट करने के बावजूद, प्रस्तावित विधियाँ उन पुनरुत्पादन बेसलाइन्स (जैसे, RobX) के प्रतिस्पर्धी या उनसे तेज थीं जो स्ट्रीम के अंत में केवल एक बार चलते हैं। Ours-P, वैधता दिशा अनुमान से बचकर, Ours-VP की तुलना में उल्लेखनीय रूप से तेज़ था।

4. योगदान

यह पत्र निम्नलिखित योगदानों का दावा करता है:

1. समस्या परिभाषा: यह कॉसेप्ट ड्रिफ्ट के तहत CFE रखरखाव को एक विशिष्ट समस्या वर्ग के रूप में पेश करता है, जो इसे स्थिर मजबूती (static robustness) सेटिंग्स से अलग करता है। लक्ष्य एक एकल व्याख्या को एकल परिवर्तन के विरुद्ध सुदृढ़ करने के बजाय, एक जनसंख्या के स्पष्टीकरणों को वैध और सुसंगत बनाए रखना है।
2. प्रस्तावित विधि: एक हल्का, मॉडल-अज्ञेयवादी तंत्र जो निकटता को संरक्षित करते हुए वैधता और सुसंगतता दिशाओं का अनुमान लगाने के लिए स्थानीय सैंपलिंग का उपयोग करके CFEs की मरम्मत करता है।
3. अनुभवजन्य साक्ष्य: यह प्रमाण कि मानक और मजबूत CFEs निरंतर ड्रिफ्ट के तहत व्यवस्थित रूप से अपनी वैधता खो देते हैं, जबकि प्रस्तावित योजना पुनरुत्पादन के बार-बार होने वाले कार्यों की तुलना में कम कम्प्यूटेशनल लागत पर वैधता और स्थानीय सुसंगतता को बनाए रखती है।

5. महत्व और सीमाएँ

लेखक इस कार्य को एक प्रारंभिक प्रूफ ऑफ कॉन्सेप्ट के रूप में देखते हैं। इसका महत्व स्ट्रीमिंग वातावरण में XAI के प्रति धारणा को स्थिर आर्टिफैक्ट के रूप में देखने के बजाय, उन्हें रखरखाव की आवश्यकता वाले गतिशील ऑब्जेक्ट के रूप में देखने की ओर स्थानांतरित करने में निहित है। यह विशेष रूप से तब प्रासंगिक है जब मूल CFE जनरेटर कम्प्यूटेशनल रूप से महंगा, अनुपलब्ध, या बार-बार निष्पादन के लिए अनुपयुक्त हो।

लेखक विनम्रतापूर्वक अपनी सीमाओं को स्वीकार करते हैं:

• मूल्यांकन नियंत्रित क्रमिक (gradual) ड्रिफ्ट वाले सिंथेटिक, निम्न-आयामी (low-dimensional) स्ट्रीम्स तक सीमित है।
• यह अभी तक जटिल वास्तविक दुनिया के परिदृश्यों, उच्च-आयामी डेटा, या मिश्रित-प्रकार के डेटा में प्रदर्शन स्थापित नहीं करता है।
• भविष्य के कार्य के रूप में वास्तविक डेटा स्ट्रीम्स, विभेदक (differentiable) क्लासिफायर्स, और व्यक्तिगत CFEs से समूह-स्तरीय काउंटरफैक्टुअल्स तक रखरखाव का विस्तार करने का सुझाव दिया गया है।

लेखक निष्कर्ष निकालते हैं कि स्पष्टीकरणों को समय के साथ बनाए रखना, पुन: जनरेशन के बार-बार होने वाले कार्यों का एक व्यावहारिक विकल्प है, जो विकसित होते वातावरणों में वैधता, सुसंगतता और कम्प्यूटेशनल लागत के बीच संतुलन प्रदान करता है।