📊 statistics

Axiomatic Foundations of Counterfactual Explanations

यह शोधपत्र एक स्वयंसिद्ध ढांचे (axiomatic framework) को प्रस्तुत करता है जो स्वायत्त प्रणालियों में स्थानीय और वैश्विक व्याख्यात्मकता के बीच के अंतर को पाटते हुए, काउंटरफैक्चुअल स्पष्टीकरणों के पांच विशिष्ट परिवारों को व्यवस्थित रूप से चित्रित करने के लिए असंभवता और प्रतिनिधित्व प्रमेय स्थापित करता है।

मूल लेखक: Leila Amgoud, Martin Cooper

प्रकाशित 2026-02-05

📖 7 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Leila Amgoud, Martin Cooper

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक रहस्यमय, हाई-टेक वेंडिंग मशीन के सामने खड़े हैं। आप अपने पैसे डालते हैं, एक बटन दबाते हैं, और मशीन आपको एक सोडा देती है। लेकिन फिर, आप पूछते हैं, "मुझे जूस क्यों नहीं मिला?"

वर्तमान में अधिकांश AI व्याख्याकार (explainers) इस समस्या को आपके विशिष्ट लेनदेन को देखकर हल करने की कोशिश करते हैं। वे कहते हैं, "खैर, आपने $1.00 डाले, लेकिन जूस की कीमत$ 1.50 है।" यह एक लोकल एक्सप्लेनेशन (स्थानीय व्याख्या) है। यह मददगार है, लेकिन यह केवल आपके इस एक विशिष्ट क्षण के बारे में बताता है।

प्रस्तुत शोध पत्र, "Axiomatic Foundations of Counterfactual Explanations" (अमगौड और कूपर द्वारा), यह तर्क देता है कि हम इस समस्या को बहुत संकीर्ण दृष्टि से देख रहे हैं। उन्होंने एक नया "नियमों का समूह" (एक एक्सिओमैटिक फ्रेमवर्क) बनाया है ताकि वे सभी संभावित तरीकों को वर्गीकृत किया जा सके जिनसे एक AI अपने निर्णयों की व्याख्या कर सकता है, न कि केवल उन तरीकों को जिन्हें हम आमतौर रूप से देखते हैं।

यहाँ उनके निष्कर्षों का सरल शब्दों में विवरण दिया गया है:

1. स्पष्टीकरण के दो बड़े परिवार

लेखकों ने खोजा कि सभी काउंटरफैक्चुअल स्पष्टीकरण (जवाब कि "क्यों नहीं?") दो मुख्य समूहों में आते हैं, जैसे पहेली सुलझाने के दो अलग-अलग तरीके:

"आवश्यकता" वाला समूह (The "Necessary" Camp - लुप्त हिस्सा):
- तर्क: "यदि आप इस विशिष्ट चीज़ को हटा देते हैं, तो परिणाम बदल जाता है।"
- रूपक: कल्पना कीजिए कि एक केक नहीं फूला। एक आवश्यक व्याख्या कहती है, "केक इसलिए नहीं फूला क्योंकि आप बेकिंग पाउडर डालना भूल गए।" यदि आप पाउडर डालना नहीं भूले होते, तो केक शायद फूल जाता। यह उस महत्वपूर्ण सामग्री की पहचान करता है जो मौजूद थी और जिसके कारण वर्तमान परिणाम आया।
- चुनौती: कभी-कभी, कोई एक "लुप्त हिस्सा" नहीं होता है। उदाहरण के लिए, यदि ऋण (loan) कम आय और खराब क्रेडिट के जटिल मिश्रण के कारण अस्वीकार कर दिया गया था, तो केवल एक को हटाने से "हाँ" की गारंटी नहीं मिल सकती। ऐसे मामलों में, आवश्यक व्याख्याएँ बिल्कुल भी मौजूद नहीं हो सकतीं।
"पर्याप्तता" वाला समूह (The "Sufficient" Camp - जादुई स्विच):
- तर्क: "यदि आप इस विशिष्ट चीज़ को जोड़ते हैं या बदलते हैं, तो परिणाम निश्चित रूप से बदल जाएगा।"
- रूपक: एक लाइट स्विच की कल्पना करें। एक पर्याप्त व्याख्या कहती है, "यदि आप इस स्विच को घुमाते हैं, तो लाइट जल जाती है।" इससे कोई फर्क नहीं पड़ता कि कमरे में और क्या हो रहा है; स्विच घुमाना बदलाव की गारंटी देता है।
- चुनौती: ऐसे कई स्विच हो सकते हैं जिन्हें आप घुमा सकते हैं। आप स्विच घुमा सकते हैं, या बल्ब बदल सकते हैं, या टॉर्च ला सकते हैं। इस प्रकार की व्याख्या एक परिणाम की गारंटी देती है, लेकिन यह भारी पड़ सकती है क्योंकि इसमें बहुत सारे विकल्प होते हैं।

2. स्पष्टीकरण के पाँच प्रकार

लेखकों ने केवल "आवश्यक" बनाम "पर्याप्त" पर ही नहीं रोका। उन्होंने इन्हें नियमों की कठोरता या व्यापकता के आधार पर पाँच अलग-अलग प्रकारों में विभाजित किया। इन्हें स्पष्टीकरणकर्ताओं के विभिन्न "व्यक्तित्वों" के रूप में समझें:

ग्लोबल नेसेसरी (नियमों का संरक्षक - The Rulebook Keeper):
- यह क्या करता है: यह केवल आपके विशिष्ट ऑर्डर को नहीं, बल्कि पूरी मशीन को समझाता है। यह कहता है, "यह मशीन हमेशा सोडा देती है यदि बटन लाल हो।"
- यह किसकी मदद करता है: उन लोगों की जो सिस्टम के समग्र तर्क को समझना चाहते हैं।
- सीमा: यदि मशीन बहुत अराजक है (जैसे, कभी लाल बटन से सोडा मिलता है, कभी जूस), तो यह अस्तित्व में नहीं हो सकता है।
लोकल नेसेसरी (विशिष्ट जासूस - The Specific Detective):
- यह क्या करता है: यह आपके ऑर्डर को देखता है और कहता है, "आपके विशिष्ट मामले के लिए, तथ्य यह है कि आपने टोपी पहनी है, यही कारण है कि आपको सोडा मिला।"
- यह किसकी मदद करता है: उन लोगों की जो जानना चाहते हैं कि उनके बारे में किस चीज़ ने परिणाम को प्रभावित किया।
- सीमा: ग्लोबल संस्करण की तरह, यदि आपकी स्थिति बहुत अनूठी है, तो यह मौजूद नहीं हो सकता है।
ग्लोबल सफिशिएंट ( "क्या होगा अगर" सिम्युलेटर - The "What If" Simulator):
- यह क्या करता है: यह पूरी मशीन को देखता है और कहता है, "यदि कोई भी नीला बटन दबाता है, तो उन्हें जूस मिलेगा।"
- यह किसकी मदद करता है: उन लोगों की जो जानना चाहते हैं कि कौन से बदलाव किसी के लिए भी अलग परिणाम की गारंटी देंगे।
- सीमा: यह ऐसे बदलाव सुझा सकता है जो आपकी वर्तमान स्थिति का हिस्सा नहीं हैं (जैसे, "यदि आप एक रोबोट होते...")।
लोकल स्केप्टिकल (कठोर संशयवादी - The Strict Skeptic):
- यह क्या करता है: यह आपके ऑर्डर को देखता है और कहता है, "यदि आप अपनी टोपी को एक पूरी तरह से नई वस्तु (जो आपके पास वर्तमान में नहीं है) से बदलते हैं, तो आपको जूस मिलेगा।"
- यह किसकी मदद करता है: उन लोगों की जो जानना चाहते हैं कि वे कौन सी नई चीज़ें कर सकते हैं।
- सीमा: यदि कोई ऐसी नई चीज़ नहीं है जो बदलाव की गारंटी दे, तो यह मौजूद नहीं हो सकता है।
लोकल क्रेडिटुलस (आशावादी - The Optimist):
- यह क्या करता है: यह आपके ऑर्डर को देखता है और कहता है, "यदि आप अपनी टोपी को एक दूसरी टोपी (भले ही वह दिखने में समान हो) से बदलते हैं, तो आपको जूस मिल सकता है।"
- यह किसकी मदद करता है: यह अधिकांश वर्तमान AI उपकरणों द्वारा उपयोग किया जाने वाला प्रकार है। यह सबसे लचीला है और यह गारंटी देता है कि आपको एक उत्तर मिलेगा।
- सीमा: यह कम "भेदभावपूर्ण" है। यह ऐसा बदलाव सुझा सकता है जो आपके लिए काम करता है लेकिन किसी और के लिए काम नहीं करेगा।

3. "असंभव" नियम

यह शोध पत्र एक दिलचस्प गणितीय तथ्य सिद्ध करता है: आप सब कुछ हासिल नहीं कर सकते।

उन्होंने दिखाया कि कुछ "अच्छे गुणों" (जैसे कि गारंटी के साथ मौजूद होना, सबसे छोटा उत्तर होना, और सभी के लिए सख्ती से सत्य होना) के संयोजन गणितीय रूप से असंगत हैं।

उपमा: यह एक साथ सबसे तेज़, सबसे सुरक्षित और सबसे सस्ती कार बनाने की कोशिश करने जैसा है। भौतिकी के नियम (या इस मामले में, तर्क के नियम) कहते हैं कि आपको दो को चुनना ही होगा।
परिणाम: यदि आप एक ऐसा स्पष्टीकरण चाहते हैं जो हमेशा मौजूद रहता है (गारंटीकृत), तो आपको इसे "सबसे छोटा" या "सबसे विशिष्ट" होने के गुण को छोड़ना होगा। यदि आप "सबसे छोटा" स्पष्टीकरण चाहते हैं, तो हो सकता है कि आपको कुछ लोगों के लिए अस्तित्व में न रहने वाला उत्तर मिले।

4. यह क्यों मायने रखता है

इस शोध पत्र से पहले, अधिकांश AI उपकरण केवल "लोकल क्रेडिटुलस" स्पष्टीकरणकर्ता (प्रकार 5) थे। वे आशावादी की तरह थे: वे हमेशा आपको एक उत्तर देते थे, लेकिन वे यह नहीं बताते थे कि क्या वह एकमात्र तरीका था, या क्या वह सबसे अच्छा तरीका था।

यह शोध पत्र एक मानचित्र प्रदान करता है। यह हमें बताता है:

यदि आप सिस्टम के नियमों को समझना चाहते हैं, तो ग्लोबल नेसेसरी कारणों को देखें।
यदि आप जानना चाहते हैं कि ठीक किस चीज़ ने आपके परिणाम को बदला, तो लोकल नेसेसरी कारणों को देखें।
यदि आप बस अलग परिणाम प्राप्त करने का कोई भी संभव तरीका चाहते हैं, तो लोकल क्रेडिटुलस कारणों को देखें।

सारांश

लेखकों ने एक नया AI टूल नहीं बनाया; उन्होंने एक टैक्सोनॉमी (वर्गीकरण प्रणाली) का आविष्कार किया है। उन्होंने सिद्ध किया कि "क्यों नहीं?" को समझाने के पांच मौलिक रूप से भिन्न तरीके हैं और कोई भी एकल उपकरण एक ही समय में उन सभी में सर्वश्रेष्ठ नहीं हो सकता है। उन्होंने यह भी दिखाया कि अधिकांश वर्तमान उपकरण केवल एक विशिष्ट प्रकार (द "ऑप्टिमिस्ट" या क्रेडिटुलस प्रकार) के हैं, और यदि हमें अन्य, संभावित रूप से अधिक उपयोगी स्पष्टीकरणों के बारे में पता हो जो बनाए जा सकते हैं, तो हम उनसे वंचित रह जाते हैं।

तकनीकी सारांश: काउंटरफैक्चुअल स्पष्टीकरणों के स्वयंसिद्ध आधार (Axiomatic Foundations of Counterfactual Explanations)

समस्या विवरण (Problem Statement)
यह शोध पत्र एक्सप्लेनेबल एआई (XAI) के साहित्य में एक महत्वपूर्ण अंतराल को संबोधित करता है। जबकि काउंटरफैक्चुअल स्पष्टीकरण (यह उत्तर देना कि "क्यों नहीं") स्वायत्त प्रणालियों में विश्वास बढ़ाने के लिए एक सम्मोहक पद्धति के रूप में उभरे हैं, मौजूदा शोध मुख्य रूप से दो सीमाओं से ग्रस्त है:

व्यवस्थित वर्गीकरण का अभाव: अधिकांश मौजूदा कार्य एक ही प्रकार के स्थानीय काउंटरफैक्चुअल (जो व्यक्तिगत उदाहरणों के लिए अनुकूलित होते हैं) पर केंद्रित हैं, बिना वैकल्पिक प्रकारों का व्यवस्थित अध्ययन किए।
वैश्विक स्पष्टीकरणों की उपेक्षा: वैश्विक काउंटरफैक्जुलों (global counterfactuals) पर पर्याप्त ध्यान नहीं दिया गया है, जिनका लक्ष्य केवल व्यक्तिगत भविष्यवाणियों के बजाय मॉडल की समग्र तर्क प्रक्रिया को समझाना होता है।
परिणामस्वरूप, स्थानीय और वैश्विक काउंटरफैक्जुलों के बीच, और "निकटता" (closeness) या "वैधता" (validity) की विभिन्न परिभाषाओं के बीच सैद्धांतिक ट्रेड-ऑफ (trade-offs) अभी भी अस्पष्ट हैं।

कार्यप्रणाली (Methodology)
लेखक काउंटरफैक्चुअल स्पष्टीकरणों को व्यवस्थित रूप से परिभाषित करने, तुलना करने और लक्षणगत करने के लिए एक स्वयंसिद्ध ढांचे (axiomatic framework) का प्रस्ताव करते हैं। यह दृष्टिकोण, जो सैद्धांतिक विज्ञान में सामान्य है, प्रतिनिधित्व प्रमेयों (representation theorems) को प्राप्त करने के लिए स्पष्ट रूप से घोषित अभिधारणाओं (मूल गुणों) के एक सेट पर आधारित एक प्रणाली बनाता है।

औपचारिक सेटिंग (Formal Setting): यह ढांचा एक वर्गीकरण सिद्धांत $T = \langle F, dom, C \rangle$ (विशेषताएं, डोमेन, वर्ग) और एक क्लासिफायर $\kappa$ पर कार्य करता है। एक क्वेरी को $Q = \langle T, \kappa, x \rangle$ के रूप में परिभाषित किया गया है।
स्वयंसिद्ध (Axioms): शोध पत्र में नौ स्वयंसिद्धों को पेश किया गया है जिन्हें तीन श्रेणियों में बांटा गया है:
- सामान्य गुण (General Properties): सफलता (गैर-रिक्त आउटपुट), गैर-तुच्छता (खाली सेट नहीं), समतुल्यता (समान वर्ग $\to$ समान स्पष्टीकरण), और व्यवहार्यता (स्पष्टीकरण उदाहरण के उपसमुच्चय हैं)।
- आवश्यक कारणों के गुण (Necessary Reasons Properties): कोरनेस (स्पष्टीकरण में केवल कोर लिटरल शामिल हैं) और संदेहास्पद वैधता (स्पष्टीकरण को हटाने से वर्ग परिवर्तन सुनिश्चित होता है)।
- पर्याप्त कारणों के गुण (Sufficient Reasons Properties): नवीनता (स्पष्टीकरण में मूल उदाहरण से कोई लिटरल शामिल नहीं है), सशक्त वैधता (स्पष्टीकरण की उपस्थिति वर्ग परिवर्तन सुनिश्चित करती है), और दुर्बल वैधता (मूल्यों को स्पष्टीकरण के साथ बदलने से भिन्न वर्ग प्राप्त होता है)।
विश्लेषण (Analysis): लेखक इन स्वयंसिdefs का उपयोग असंभवता प्रमेयों (यह दिखाने के लिए कि कुछ संयोजनों का एक साथ पालन करना असंभव है) और प्रतिनिधित्व प्रमेयों (स्वयंसिद्ध उपसमुच्चयों और स्पष्टीकरण परिवारों के बीच एक-से-एक पत्राचार स्थापित करने के लिए) को सिद्ध करने के लिए करते हैं।

प्रमुख योगदान (Key Contributions)
शोध पत्र छह प्राथमिक योगदान देता है:

स्वयंसिद्ध ढांचा: काउंटरफैक्चुअल स्पष्टीकरणों को परिभाषित करने के लिए नौ स्वयंसिद्धों पर आधारित एक ढांचे को पेश करता है।
असंभवता प्रमेय (Impossibility Theorems): यह सिद्ध करता है कि कोई भी एकल स्पष्ट करने वाला (explainer) कुछ विशिष्ट संयोजनों को एक साथ संतुष्ट नहीं कर सकता (जैसे, सफलता, गैर-तुच्छता और कोरनेस असंगत हैं)।
संगत सेटों का लक्षण वर्णन (Characterization of Compatible Sets): सभी संगत स्वयंसिद्ध सेटों का पूर्ण लक्षण वर्णन करता है।
प्रतिनिधित्व प्रमेय (Representation Theorems): विशिष्ट स्वयंसिद्ध उपसमुच्चयों और पांच अलग-अलग स्पष्टीकरण परिवारों के बीच एक-से-एक पत्राचार स्थापित करता है, जिससे पाँच मौलिक रूप से भिन्न प्रकार के काउंटरफैक्जुलों का पता चलता है:
- ग्लोबल नेसेसरी रीजन्स (GNR): वे विशेषता-मान संयोजन जो एक वर्ग को अन्य सभी से अलग करते हैं (कोरनेस, गैर-तुच्छता को संतुष्ट करते हैं)।
- लोकल स्केप्टिकल नेसेसरी रीजन्स (SNR): एक उदाहरण के ऐसे उपसमुच्चय जो इसे भिन्न निर्णय वाले अन्य सभी उदाहरणों से अलग करते हैं (व्यवहार्यता, संदेहास्पद वैधता को संतुष्ट करते हैं)।
- ग्लोबल सफिशिएंट रीजन्स (GSR): वे विशेषता-मान संयोजन जिनकी उपस्थिति एक भिन्न वर्ग की गारंटी देती है (सशक्त वैधता को संतुष्ट करते हैं)।
- लोकल स्केप्टिकल सफिशिएंट रीजन्स (SSR): उदाहरण में मौजूद नहीं नए विशेषता मान जो एक भिन्न निर्णय की गारंटी देते हैं (नवीनता, सशक्त वैधता को संतुष्ट करते हैं)।
- लोकल क्रेडुलस सफिशिएंट रीजन्स (CSR): वे विशेषता-मान संयोजन जो एक उदाहरण को भिन्न निर्णय वाले किसी उदाहरण से अलग करते हैं (नवीनता, दुर्बल वैधता को संतुष्ट करते हैं)।
मौजूदा कार्य का वर्गीकरण (Taxonomy of Existing Work): इस वर्गीकरण के भीतर मौजूदा स्पष्टीकरणों का औपचारिक रूप से लक्षण वर्णन करता है। शोध पत्र पाता है कि लगभग सभी मौजूदा स्थानीय स्पष्टीकरण क्रेडुलस सफिशिएंट रीजन्स (CSR) परिवार के अंतर्गत आते हैं। पूर्ववर्ती कार्य [2] द्वारा प्रस्तावित वैश्विक स्पष्टीकरण ग्लोबल नेसेसरी रीजन्स (GNR) के अनुरूप हैं। यह विश्लेषण तीन पहले से अनभिज्ञ प्रकारों (SNR, GSR, SSR) को प्रकट करता है।
जटिलता विश्लेषण (Complexity Analysis): इन स्पष्टीकरणों को उत्पन्न करने की कम्प्यूटेशनल जटिलता का विश्लेषण करता है, निर्णय समस्याओं (यह जांचना कि क्या एक स्पष्टीकरण वैध है) और खोजने वाली समस्याओं (एक स्पष्टीकरण उत्पन्न करना) के बीच अंतर करता है।

परिणाम (Results)

वर्गीकरण: पांच प्रकार के काउंटरफैक्जुलों को दो मौलिक रूपों में विभाजित किया गया है: आवश्यक कारण (क्या अनुपस्थित होना चाहिए ताकि निर्णय बदल जाए) और पर्याप्त कारण (क्या उपस्थित होना चाहिए ताकि निर्णय बदल जाए)।
अस्तित्व और सघनता (Existence and Compactness):
- आवश्यक कारण (GNR, SNR) और स्केप्टिकल सफिशिएंट रीजन्स (SSR) प्रत्येक क्वेरी के लिए होने की गारंटी नहीं है।
- क्रेडुलस सफिशिएंट रीजन्स (CSR) और ग्लोबल सफिशिएंट रीजन्स (GSR) होने की गारंटी देते हैं।
- आवश्यक कारण सघन (compact) होते हैं (न्यूनतम लिटरल के माध्यम से परिवर्तनों की पूरी सीमा को संप्रेषित करते हैं), जबकि पर्याप्त कारण असघन (non-compact) होते हैं (सभी संभावित परिवर्तनों को सूचीबद्ध करते हैं)।
मानवीय प्राथमिकता: शोध पत्र तर्क देता है कि आवश्यक कारण, जब वे मौजूद होते हैं, तो अक्सर अत्यधिक संख्यात्मक और विस्तृत पर्याप्त कारणों की तुलना में संक्षिप्त और संक्षिप्त स्पष्टीकरणों के लिए मानवीय प्राथमिकताओं के साथ बेहतर तालमेल रखते हैं।
जटिलता:
- बूलियन क्लासिफायर के लिए, यह तय करना कि क्या एक स्पष्टीकरण वैध है ($DECIDEEXP$), CSR, SNR और स्पर्सिटी-आधारित स्पष्टीकरणों के लिए $O(n)$ है, लेकिन GNR, GSR, SSR और कार्डिनैलिटी/डिस्टेंस-आधारित स्पष्टीकरणों के लिए co-NP-complete है।
- स्पष्टीकरण खोजना ($FINDEXP$) अधिकांश परिवारों (GNR, CSR, SNR, GSR सहित) के लिए NP-hard है, हालांकि इसे अधिकांश मामलों में अधिकतम $n$ बार SAT ऑरेकल कॉल के साथ हल किया जा सकता है।

महत्व (Significance)
शोध पत्र दावा करता है कि यह काउंटरफैक्चुअल स्पष्टीकरणों के लिए पहला स्वयंसिद्ध ढांचा प्रदान करता है। इसका महत्व निम्नलिखित में निहित है:

सैद्धांतिक कठोरता: उन स्वयंसिद्धों के आधार पर स्पष्टीकरणों के एक सिद्धांतबद्ध, वस्तुनिष्ठ तुलना के लिए अनुभवजन्य मूल्यांकन से आगे बढ़ना जो वे संतुष्ट करते हैं।
एकीकरण और खोज: मौजूदा स्थानीय स्पष्टीकरणों को CSR परिवार के तहत एकीकृत करना और साथ ही तीन नए प्रकार के काउंटरफैक्जुलों (SNR, GSR, SSR) को औपचारिक रूप से पहचानना और परिभाषित करना जो पहले अज्ञात थे।
मॉडल-अज्ञेयवादी व्यापकता (Model-Agnostic Generality): यह ढांचा विविध सेटिंग्स और विभिन्न क्लासिफायर प्रकारों में लागू होता है।
भावी कार्य के लिए आधार: संभव स्पष्टीकरणों के स्थान को चित्रित करके, यह ढांचा किसी विशिष्ट काउंटरफैक्चुअल प्रकार के भीतर विशिष्ट गुणों (जैसे, कार्यक्षमता, निष्पक्षता, विविधता) को संतुष्ट करने वाले भविष्य के स्पष्टीकरणों के डिजाइन की अनुमति देता है।

लेखक निष्कर्ष निकालते हैं कि जबकि आवश्यक कारण अपनी संक्षिप्तता के लिए सैद्धांतिक रूप से आकर्षक हैं, पर्याप्त कारण अस्तित्व के मामले में अधिक मजबूत होते हैं। यह ढांचा इन ट्रेड-ऑफ को व्यवस्थित रूप से नेविगेट करने के लिए आवश्यक उपकरण प्रदान करता है।