Beyond But-for Test: Counterfactual Explanation in Abstract Argumentation via Actual Causality (Extended Version)

तकनीकी सारांश: बट-फॉर टेस्ट से परे: वास्तविक कार्य-कारणता (Actual Causality) के माध्यम से अमूर्त तर्क में प्रतितथ्यात्मक स्पष्टीकरण (Counterfactual Explanation)

समस्या विवरण
व्याख्यात्मक एआई (XAI) के क्षेत्र में, अमूर्त तर्क (Abstract Argumentation - AA) विशिष्ट सिमेंटिक्स के तहत तर्क क्यों स्वीकार किए जाते हैं, इसके लिए संरचित स्पष्टीकरण प्रदान करता है। जबकि मौजूदा विधियाँ प्रासंगिकता (Relevance), एकतंत्रीयता (Monotonicity), या आवश्यकता (Necessity) जैसी गुणों को संतुष्ट करने वाले तर्कों के सेटों की पहचान करके 'पोस्ट-हॉक' प्रश्नों का उत्तर देती हैं, मानव तर्क अक्सर 'क्या-यदि' (what-if) परिदृश्यों के माध्यम से कारण निर्भरताओं की जांच करने के लिए प्रतितथ्यात्मक सोच (counterfactual thinking) का उपयोग करता है।

अमूर्त तर्क (AA) में प्रतितथ्यात्मक स्पष्टीकरण के वर्तमान दृष्टिकोण बट-फॉर टेस्ट (BFT) तक सीमित हैं। यह मौलिक परीक्षण पूछता है कि क्या किसी संदिग्ध कारण को बदलने (जैसे, एक हमले को हटाने या एक नया हमलावर जोड़ने) से विषयगत तर्क की स्वीकृति स्थिति बदल जाएगी। यह शोध पत्र इस दृष्टिकोण में एक गंभीर दोष की पहचान करता है: यह अन्य तर्कों को "साक्षी" (witnesses) के रूप में स्थिर रखने में विफल रहता है। फलस्वरूप, बट-फॉर टेस्ट जटिल तर्क संरचनाओं, विशेष रूप से प्रिवेंशन/पूर्व-प्राप्ति (Preemption) (जहाँ एक कारण दूसरे को रोकता है) और ओवरडिटरमिनेशन/अति-निर्धारण (Overdetermination) (जहाँ कई कारण संयुक्त रूप से पर्याप्त होते हैं) में त्रुटिपूर्ण परिणाम देता है। इन मामलों में, एक एकल कारण को बदलने से परिणाम नहीं बदलता क्योंकि वैकल्पिक मार्ग सक्रिय हो जाते हैं, जिससे BFT गलत तरीके से वास्तविक कारणों की पहचान करता है या उन्हें पहचानने में विफल रहता है।

कार्यप्रणाली (Methodology)
बट-फॉर टेस्ट की सीमाओं को दूर करने के लिए, लेखक स्ट्रक्चरल इक्वेशन मॉडल्स (SEMs) और हलपर्न-पर्ल (Halpern–Pearl) की वास्तविक कार्य-कारणता (actual causality) की परिभाषा पर आधारित एक हस्तक्षेप-आधारित प्रतितथ्यात्मक तर्क ढांचे को पेश करते हैं।

1. स्वीकार्यता मॉडल (Acceptability Model): यह ढांचा तर्कों की स्वीकृति स्थितियों को समीकरणों के एक सेट के रूप में कूटबद्ध करता है। एक तर्क $\alpha$ के लिए, उसका लेबल ($in$, $out$, या$und$) उसके हमलावरों के लेबल द्वारा निर्धारित होता है। यह तर्क ढांचे (AF) को कार्यों के एक मॉडल $M_F$ में परिवर्तित कर देता है।
2. हस्तक्षेप ऑपरेटर (Intervention Operator): लेखक एक हस्तक्षेप ऑपरेटर $[\psi]$ को परिभाषित करते हैं जो एक परिकल्पना $\psi$ (परिकल्पना के परमाणु प्रस्तावों का एक संयोजन) के अनुसार मॉडल $M_F$ को संशोधित करता है। साधारण ग्राफ संशोधनों के विपरीत, यह ऑपरेटर:
   • हस्तक्षेप किए गए तर्क(ओं) की स्वीकार्यता समीकरण को एक स्थिरांक फलन (constant function) से बदल देता है जो निर्धारित लेबल लौटाता है।
   • संयुक्त परिकल्पनाओं (compound hypotheses) का समर्थन करता है, जिससे कई तर्कों को एक साथ संशोधित करना संभव होता है।
   • महत्वपूर्ण रूप से, यह साक्षी तर्कों (witness arguments) को उनके वास्तविक लेबल पर स्थिर रखने का समर्थन करता है, जिससे वैकल्पिक पथों द्वारा प्रतितथ्यात्मक मूल्यांकन को विकृत होने से रोका जा सके।
3. परिष्कृत प्रतितथ्यात्मक स्थिति (AC2m): बट-फॉर टेस्ट से आगे बढ़ते हुए, यह शोध पत्र एक संशोधित प्रतितथ्यात्मक स्थिति, AC2m को अपनाता है। एक परिकल्पना $\psi$ एक वास्तविक कारण है यदि:
   • वास्तविकता (AC2m): $\psi$ और प्रभाव मूल लेबलिंग में विद्यमान हैं।
   • संशोधित प्रतितथ्यात्मक (AC2m): $\psi$ का एक संशोधन $\psi'$ और $\chi$ (वास्तविक लेबल पर स्थिर रखे गए तर्कों का एक सेट) के सेट का अस्तित्व है, जहाँ $\psi' \land \chi$ के साथ हस्तक्षेप करने से विषयगत तर्क की स्थिति बदल जाती है।
   • न्यूनतमता (Minimality - AC3): कारण में कोई अनावश्यक भाग नहीं होता है।

प्रमुख योगदान

• अमूर्त तर्क में वास्तविक कार्य-कारणता के लिए औपचारिक ढांचा: यह शोध पत्र बट-फॉर टेस्ट से आगे बढ़कर हलपर्न-पर्ल की वास्तविक कार्य-कारणता और अमूर्त तर्क के बीच पहला औपचारिक संबंध स्थापित करता है।
• प्रिवेंशन (Preemption) और ओवरडिटरमिनेशन (Overdetermination) का प्रबंधन: साक्षियों को स्थिर रखकर, यह विधि उन परिदृश्यों में कारणों की सही पहचान करती है जहाँ बट-फॉर टेस्ट विफल हो जाता है।
  • प्रिवेंशन (Preemption): एक परिदृश्य में जहाँ $\alpha$, $\beta$ को $\eta$ का बचाव करने से रोकता है, बट-फॉर टेस्ट $\alpha$ को कारण के रूप में पहचानने में विफल रहता है क्योंकि $\alpha$ को हटाने से $\beta$ पुनः सक्रिय हो जाता है। प्रस्तावित विधि $\beta$ (या उस पथ को जिसे वह उपयोग करता है) को उसके वास्तविक लेबल पर स्थिर रखती है, जिससे $\alpha$ एक वास्तविक कारण के रूप में प्रकट होता है।
  • ओवरडिटरमिनेशन (Overdetermination): उन परिदृश्यों में जहाँ $\alpha$ और $\beta$ दोनों $\eta$ का बचाव करने के लिए पर्याप्त हैं, बट-फॉर टेस्ट उनमें से किसी को भी कारण के रूप में पहचानने में विफल रहता है (क्योंकि एक को हटाने से दूसरा सक्रिय रहता है)। प्रस्तावित विधि $in(\alpha) \land in(\beta)$ के संयोजन को वास्तविक कारण के रूप में पहचानती है।
• ग्राफ म्यूटिलेशन विज़ुअलाइज़ेशन (Graph Mutilation Visualization): लेखक बीजगणितीय हस्तक्षेप को AFs पर ग्राफिकल ऑपरेशनों (हमलावर जोड़ना, हमलों को हटाना, या स्वयं-लूप जोड़ना) में मैप करते हैं, जो बीजगणितीय हस्तक्षेप का एक दृश्य समकक्ष प्रदान करता है।
• तुलनात्मक विश्लेषण: शोध पत्र मौजूदा तर्क-आधारित स्पष्टीकरणों (रूट रीजन्स, पर्याप्त/आवश्यक सेट) और क्लोजेस्ट-वर्ल्ड (closest-world) प्रतितथ्यात्मकों के विरुद्ध नई विधि की तुलना करता है। यह प्रदर्शित करता है कि प्रस्तावित विधि अधिक चयनात्मक और विश्वसनीय है, विशेष रूप से क्लोजेस्ट-वर्ल्ड दृष्टिकोणों में पाए जाने वाले "खाली स्पष्टीकरण" (empty explanation) की समस्या से बचने में।

परिणाम और गुण

• अभिव्यक्ति क्षमता (Expressiveness): यह विधि संयुक्त कारणों की व्याख्या करने के लिए संयुक्त परिकल्पनाओं का समर्थन करती है, जिसे बट-फॉर टेस्ट (जो परमाणु परिवर्तनों तक सीमित है) नहीं पकड़ सकता।
• प्रासंगिकता (Relevance): विधि 'प्रासंगिकता' गुण को संतुष्ट करती है; स्पष्टीकरण में सभी तर्क विषय के लिए प्रासंगिक हैं।
• गैर-एकतंत्रीयता (Non-Monotonicity): कुछ पारंपरिक स्पष्टीकरण विधियों के विपरीत, प्रतितथ्यात्मक स्पष्टीकरण एकतंत्रीय नहीं है। एक वैध स्पष्टीकरण में तर्क जोड़ने से 'न्यूनतमता' की स्थिति का उल्लंघन हो सकता है।
• विशिष्ट संरचनाओं में श्रेष्ठता:
  • प्रिवेंशन (Preemption) में, विधि प्रिवेंटिंग (रोकने वाले) तर्क को कारण के रूप में पहचानती है, जबकि रूट रीजन्स अप्रासंगिक डिफेंडर्स (defenders) को शामिल कर सकता है, और क्लोजेस्ट-वर्ल्ड दृष्टिकोण कोई स्पष्टीकरण नहीं दे पाते।
  • ओवरडिटरमिनेशन (Overdetermination) में, विधि कई तर्कों की संयुक्त आवश्यकता को पहचानती है, जबकि रूट रीजन्स और पर्याप्तता (Sufficient) वाले स्पष्टीकरण अक्सर सममित डिफेंडर्स के बीच अंतर करने में विफल रहते हैं या निरर्थक सेट लौटाते हैं।
  • विधि स्वीकृत सिंक नोड्स (sink nodes) के लिए एक स्पष्टीकरण के अस्तित्व (Existence) को सुनिश्चित करती है, एक ऐसा गुण जहाँ क्लोजेस्ट-वर्ल्ड दृष्टिकोण विफल हो जाते हैं जब AF केवल एक अद्वितीय लेबलिंग स्वीकार करता है।

महत्व और दावे
यह शोध पत्र दावा करता है कि हलपर्न-पर्ल की वास्तविक कार्य-कारणता को अमूर्त तर्क में एकीकृत करके, प्रस्तावित ढांचा अधिक परिष्कृत और मानव-अनुकूल प्रतितथ्यात्मक स्पष्टीकरण प्रदान करता है। इसका तर्क है कि साक्षियों को स्थिर रखना जटिल निर्भरता संरचनाओं में वास्तविक कारणों की सही पहचान करने के लिए आवश्यक है, जिससे बट-फॉर सीमा को पार किया जा सके। लेखक इस कार्य को अधिक मजबूत XAI की ओर एक कदम मानते हैं, जो एक ऐसी तार्किक भाषा प्रदान करता है जो चक्रीय निर्भरताओं और प्रिवेंशन एवं ओवरडिटरमिनेशन जैसे जटिल कारण पैटर्न को संभालने के लिए पर्याप्त अभिव्यंजक है, जबकि तर्क ढांचों के संरचनात्मक गुणों पर आधारित है। भविष्य के कार्य में कम्प्यूटेशनल जटिलता को संबोधित करना, अन्य सिमेंटिक्स (grounded, preferred, stable) तक विस्तार करना और विस्तारित तर्क प्रणालियों (PAF, ADF, ASPIC+) पर लागू करना आवश्यक बताया गया है।