तकनीकी सारांश: मॉडल बहुलता (Model Multiplicity) के तहत सारणीबद्ध डेटा पर घनत्व-निर्देशित सुदृढ़ प्रति-तथ्यात्मक स्पष्टीकरण (Density-Guided Robust Counterfactual Explanations)

1. समस्या विवरण (Problem Statement)

प्रति-तथ्यात्मक स्पष्टीकरण (Counterfactual Explanations - CEs) एल्गोरिद्मिक उपचार (algorithmic recourse) के लिए आवश्यक हैं, जो वांछित परिणाम को बदलने के लिए न्यूनतम परिवर्तनों की पहचान करते हैं। हालाँकि, इनकी विश्वसनीयता अक्सर डेटा वितरण के निम्न-घनत्व वाले क्षेत्रों (low-density regions) में कम हो जाती है। इन विरल क्षेत्रों में, क्लासिफायर उच्च विचरण (variance) प्रदर्शित करते हैं (जिसे "राशोमन प्रभाव" कहा जाता है), जिससे संभावित मॉडलों के बीच महत्वपूर्ण असहमति होती है। फलस्वरूप, दूरी को कम करने के उद्देश्य से उत्पन्न मानक CEs अक्सर लक्ष्य वितरण के "लॉन्ग टेल्स" (long tails) में गिर जाते हैं, जहाँ वैधता विभिन्न मॉडल आर्किटेक्चरों के बीच सामान्यीकृत (generalize) नहीं हो पाती है।

यह शोध पत्र मॉडल बहुलता (Model Multiplicity - MM) के तहत सुदृढ़ प्रति-तथ्यात्मक स्पष्टीकरण (Robust Counterfactual Explanations - RCE) को संबोधित करता है। इसका लक्ष्य ऐसे प्रति-तथ्यात्मक स्पष्टीकरण उत्पन्न करना है जो एक विषम ब्लैक-बॉक्स मॉडल एनसेम्बल (ensemble) में वैध बने रहें और साथ ही यह सुनिश्चित करें कि उत्पन्न उदाहरण लक्ष्य वर्ग के उच्च-विश्वास, उच्च-घनत्व वाले क्षेत्रों के भीतर स्थित हों। ब्लैक-बॉक्स सेटिंग्स में यह चुनौती और भी जटिल हो जाती है जहाँ लक्षित एनसेम्बल तक पहुँच संभव नहीं होती, और मौजूदा विधियाँ जो एनसेम्बल इंटरसेक्शन (ensemble intersections) पर निर्भर करती हैं, वे अत्यधिक कम्प्यूटेशनल लागत और खराब स्केलेबिलिटी से ग्रस्त होती हैं।

2. कार्यप्रणाली: DensityFlow

लेखक DensityFlow प्रस्तावित करते हैं, जो एक जेनेरेटिव फ्रेमवर्क है जो RCE को एक घनत्व-निर्देशित इष्टतम परिवहन (density-guided optimal transport) समस्या के रूप में पुनर्गठित करता है। यह फ्रेमवर्क तीन प्राथमिक घटकों को जोड़ता है:

A. NCE-आधारित सशर्त घनत्व अनुमान (NCE-Based Conditional Density Estimation)

निम्न-घनत्व वाले क्षेत्रों से बचने के लिए, यह विधि स्पष्ट रूप से वर्ग-सशर्त घनत्व $p(x|y^*)$ का अनुमान लगाती है। केवल घनत्व सीखने के बजाय, लेखक $K$-वर्ग समस्या को नॉइज़ कंट्रास्टिव एस्टीमेशन (Noise Contrastive Estimation - NCE) का उपयोग करके एक $(K+1)$-वे भेदभाव कार्य (discrimination task) के रूप में पुनर्गठित करते हैं।

• एक एकीकृत सरोगेट क्लासिफायर $f_\phi$ को सिमेंटिक वर्गों और एक सहायक नॉइज़ क्लास (यूनिफॉर्म नॉइज़) के बीच अंतर करने के लिए प्रशिक्षित किया जाता है।
• सैद्धांतिक रूप से, एक लक्ष्य वर्ग $y^*$ और नॉइज़ क्लास के बीच लॉजिट्स (logits) का अंतर, लॉग-घनत्व अनुपात के एक डिफरेंशिएबल प्रॉक्सी के रूप में कार्य करता है: $z^*_{y^*}(x) - z^*_{K+1}(x) \approx \log p(x|y^*) + C$।
• यह एक डिफरेंशिएबल घनत्व स्कोर $S(x|y^*)$ प्रदान करता है जो जनरेशन प्रक्रिया को अनिश्चित, निम्न-घनत्व वाले आउटलेर्स (outliers) से दूर ले जाता है।

B. घनत्व-निर्देशित न्यूरल ODE (Density-Guided Neural ODE)

प्रति-तथ्यात्मक जनरेशन को एक न्यूरल ODE द्वारा पैरामीटराइज़्ड निरंतर-समय गतिकी (continuous-time dynamics) के रूप में मॉडल किया गया है।

• ट्रैजेक्टरी ऑप्टिमाइज़ेशन (Trajectory Optimization): जनरेटर $v_\theta$, इनपुट $x$ को प्रति-तथ्यात्मक $x'$ में बदलने के लिए एक निरंतर प्रक्षेपवक्र (trajectory) $z(t)$ उत्पन्न करता है।
• घनत्व मार्गदर्शन (Density Guidance): फ्लो डायनेमिक्स को सीखे गए घनत्व क्षमता (density potential) द्वारा निर्देशित किया जाता है। एक घनत्व दंड पद (penalty term), जिसे ReLU फंक्शन के पाथ या एंडपॉइंट इंटीग्रल के रूप में लागू किया गया है, ऑब्जेक्टिव में जोड़ा जाता है, जिससे यह सुनिश्चित होता है कि प्रक्षेपवक्र उच्च-घनत्व वाले ट्रस्ट रीजन $X_{trust}(y^*)$ के भीतर रहे।
• लागत न्यूनीकरण (Cost Minimization): फ्रेमवर्क एक संवर्धित स्टेट-स्पेस ODE के माध्यम से परिवहन लागत (काइनेटिक ऊर्जा) को कम करता है, जो सुदृढ़ता (उच्च-घनत्व क्षेत्रों में रहना) और निकटता (परिवर्तन लागत को कम करना) के बीच संतुलन बनाता है।

C. क्वेरी-कुशल स्थानीय डिस्टिलेशन (Query-Efficient Local Distillation)

ब्लैक-बॉक्स सेटिंग्स के लिए जहाँ लक्षित एनसेम्बल $\mathcal{M}$ सुलभ नहीं है, लेखक एक स्थानीय प्रॉक्सी डिस्टिलेशन (local proxy distillation) तंत्र पेश करते हैं।

• वैश्विक स्तर पर सरोगेट $f_\phi$ को संरेखित करने के बजाय (जो कि अव्यवहार्य है), यह विधि इसे विशेष रूप से CE जनरेशन के प्रक्षेपवपथ (trajectory) के भीतर संरेखित करती है।
• सरोगेट को जनरेटर द्वारा विज़िट किए गए बिंदुओं के सपोर्ट सेट पर फाइन-ट्यून किया जाता है, जिसमें एनसेम्बल का सर्वसम्मति (consensus) ग्राउंड ट्रुथ के रूप में उपयोग किया जाता है।
• यह रणनीति ब्लैक-बॉक्स एनसेम्बल के रेडंडेंट (redundant) प्रश्नों को कम करती है, क्योंकि घनत्व मार्गदर्शन स्वाभाविक रूप से जनरेटर को सार्थक, उच्च-विश्वास वाले क्षेत्रों की ओर निर्देशित करता है, जिससे "खाली" निम्न-घनत्व वाले स्थानों को टालने में मदद मिलती है जहाँ संरेखण व्यर्थ होगा।

3. प्रमुख योगदान (Key Contributions)

1. घनत्व-निर्देशित न्यूरल ODE फ्रेमवर्क: एक जेनेरेटिव फ्रेमवर्क जो एक सीखे गए घनत्व क्षमता द्वारा निर्देशित न्यूरल ODE का उपयोग करके प्रति-तथ्यात्मक जनरेशन को उच्च-घनत्व डेटा मैनिफोल्ड के भीतर सीमित करता है, जिससे अनिश्चित क्षेत्रों से स्पष्ट रूप से बचा जा सके।
2. NCE के माध्यम से सुदृढ़ घनत्व अनुमान: नॉइज़ कंट्रास्टिव एस्टीमेशन का लाभ उठाते हुए एक $(K+1)$-वे फॉर्मूलेशन, जो एक डिफरेंशिएबल घनत्व स्कोर को वर्गीकरण कार्य के साथ संयुक्त रूप से सीखता है। लेखक सिद्ध करते हैं कि यह स्कोर नमूना घनत्व के प्रभावी प्रॉक्सी के रूप में कार्य करता है और यह दिखाता है कि संयुक्त अनुकूलन (joint optimization) विरल आउटलेर्स के प्रति ओवरफिटिंग को रोकता है।
3. ट्रैजेक्टरी-जागरूक स्थानीय डिस्टिलेशन: ब्लैक-बॉक्स सेटिंग्स के लिए एक क्वेरी-कुशल रणनीति जो हल्के वजन वाले सरोगेट को जनरेशन के दौरान विज़िट किए गए क्षेत्रों के भीतर ही लक्षित एनसेम्बल के साथ संरेखित करती है, जिससे क्वेरी लागत को काफी कम करते हुए ग्रेडिएंट फिडेलिटी (gradient fidelity) बनाए रखी जाती है।

4. प्रयोगात्मक परिणाम (Experimental Results)

लेखकों ने सात क्लासिफायर्स के एक विषम ब्लैक-बॉक्स एनसेम्बल के तहत आठ डेटासेट्स (चार सिंथेटिक, चार वास्तविक-विश्व सारणीबद्ध) पर SOTA (State-of-the-art) बेसलाइन्स (Product_mip, CeFlow, Argument, BetaRCE) के विरुद्ध DensityFlow का मूल्यांकन किया।

• सुदृढ़ता और वैधता (Robustness & Validity): DensityFlow ने एनसेम्बल में लगातार बेहतर वैधता प्राप्त की। उदाहरण के लिए, Adult डेटासेट पर, इसने Argument बेसलाइन के 75.2% और CeFlow के 69.1% की तुलना में 90.1% वैधता प्राप्त की। Moons और Circles जैसे सिंथेटिक डेटासेट्स पर वैधता 99% से अधिक रही।
• लागत दक्षता (Cost Efficiency): पद्धति ने प्रतिस्पर्धी परिवहन लागत बनाए रखी। Adult डेटासेट पर, DensityFlow ने 1.597 का लागत प्राप्त किया, जो CeFlow (3.959) से काफी कम है और Argument बेसलाइन (1.916) के प्रतिस्पर्धी है, जो दर्शाता है कि यह सुदृढ़ता के लिए निकटता (proximity) का त्याग नहीं करता है।
• क्वेरी दक्षता (Query Efficiency): ब्लैक-बॉक्स परिदृश्यों में, DensityFlow ने पुनरावृत्त (iterative) बेसलाइन्स की तुलना में काफी कम क्वेरी की आवश्यकता दिखाई। स्थानीय डिस्टिलेशन रणनीति ने यह सुनिश्चित किया कि जनरेशन के दौरान विज़िट किए गए क्षेत्रों में कम क्वेरी बजट के साथ भी वैधता तेजी से संतृप्त (saturate) हो जाए।
• एब्लेशन अध्ययन (Ablation Studies): घनत्व पद (density term) को हटाने से सभी डेटासेट्स में वैधता में लगातार कमी आई, जो घनत्व मार्गदर्शन की आवश्यकता की पुष्टि करता है। इसी तरह, डिस्टिलेशन मॉड्यूल को हटाने से प्रदर्शन में गिरावट आई, विशेष रूप से Blood डेटासेट पर।
• सहसंबंध विश्लेषण (Correlation Analysis): प्रयोगों ने सीखे गए घनत्व स्कोर और एनसेम्बल अनिश्चितता (Mutual Information द्वारा मापी गई) के बीच एक मजबूत नकारात्मक सहसंबंध की पुष्टि की, जो यह प्रमाणित करता है कि उच्च-घनत्व क्षेत्र उच्च मॉडल सर्वसम्मति के अनुरूप होते हैं।

5. महत्व और दावे (Significance and Claims)

यह शोध पत्र दावा करता है कि DensityFlow सरल दूरी न्यूनीकरण (distance minimization) से हटकर घनत्व-प्रतिबंधित इष्टतम परिवहन (density-constrained optimal transport) पर ध्यान केंद्रित करके सुदृढ़ प्रति-तथ्यात्मक जनरेशन को पुनर्परिभाषित करता है।

• सैद्धांतिक योगदान: यह NCE-आधारित घनत्व अनुमान और सुदृढ़ता के बीच एक सैद्धांतिक लिंक प्रदान करता है, यह दिखाते हुए कि घनत्व स्कोर को अधिकतम करना अप्रत्यक्ष रूप रूप से प्रेडिक्टिव वेरिएंस (predictive variance) को कम करता है।
• व्यावहारिक प्रभाव: जनरेशन डायनेमिक्स (Neural ODE के माध्यम से) में सुदृढ़ता को सीधे शामिल करके, यह विधि न्यूनतम क्वेरी लागत के साथ अत्याधुनिक सुदृढ़ता प्राप्त करती है।
• सीमाएँ: लेखक स्वीकार करते हैं कि 'कर्स ऑफ डायमेंशनलिटी' (curse of dimensionality) के कारण बहुत उच्च-आयामी डेटा तक स्केल करना चुनौतीपूर्ण बना हुआ है। वे इसके समाधान के रूप में फीचर सिलेक्शन (जैसे LassoNet) का सुझाव देते हैं, लेकिन हटाए गए और रखे गए फीचर्स के बीच कारण संबंधी युग्मन (causal coupling) के जोखिम को भी नोट करते हैं। इसके अतिरिक्त, यह फ्रेमवर्क क्लास-कंडीशनल सपोर्ट सीखने पर निर्भर करता है, जो अत्यधिक क्लास असंतुलन या शोर वाले लेबल (noisy labels) के कारण कमजोर हो सकता है।

यह कार्य वितरण-जागरूक मार्गदर्शन (distribution-aware guidance) को केवल विशिष्ट अनुप्रयोग-आधारित बाधाओं के विकल्प के रूप में नहीं, बल्कि यह सुनिश्चित करने के लिए एक महत्वपूर्ण पूरक के रूप में स्थापित करता है कि सिफारिशें सुसंगत हों और उच्च-जोखिम वाले निर्णयों में अत्यधिक या असंभव फीचर कॉन्फ़िगरेशन पर निर्भर न हों।