💻 computer science

P $^2$ CE: Model-Agnostic Plausible Pareto-Optimal Counterfactual Explanations

यह शोध पत्र P $^2$ CE को प्रस्तुत करता है, जो एक मॉडल-अज्ञेय (model-agnostic) एल्गोरिदम है जो डेटा वितरण के पालन के लिए आइसोलेशन फॉरेस्ट और कम्प्यूटेशनल दक्षता के लिए SHAP मानों को जोड़कर विविध, प्रशंसनीय और पारेटो-इष्टतम प्रतितथ्यात्मक स्पष्टीकरण (counterfactual explanations) उत्पन्न करता है, जिससे यह समाधान की गुणवत्ता और गति में मौजूदा विधियों से बेहतर प्रदर्शन करता है।

मूल लेखक: Arthur Hendricks Mendes de Oliveira, Giovani Valdrighi, Marcos Medeiros Raimundo

प्रकाशित 2026-06-19✓ Author reviewed ⓘ

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Arthur Hendricks Mendes de Oliveira, Giovani Valdrighi, Marcos Medeiros Raimundo

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने नहीं लिखा है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आपने किसी ऋण (loan), नौकरी या होम लोन के लिए आवेदन किया, और कंप्यूटर ने कहा "नहीं"। स्वाभाविक रूप से आप जानना चाहेंगे: " 'हाँ' पाने के लिए मुझे अपने जीवन में क्या बदलाव करने होंगे?"

यहीं पर काउंटरफैक्चुअल एक्सप्लेनेशन (Counterfactual Explanations) काम आते हैं। ये एक "क्या-अगर" (What-If) वाले मानचित्र की तरह हैं जो आपको सफलता में बदलने के लिए सबसे छोटे और सबसे वास्तविक कदम बताते हैं।

हालाँकि, मौजूदा मानचित्रों में दो बड़ी समस्याएँ हैं:

वे असंभव बदलाव सुझाते हैं: जैसे कि यह कहना कि "अपनी आय 1000% बढ़ा लें।" यह मददगार नहीं है।
वे अजीब और अवास्तविक बदलाव सुझाते हैं: जैसे कि एक 20 वर्षीय छात्र को अचानक एक 60 वर्षीय अरबपति जैसा निवेश पोर्टफोलियो रखने का सुझाव देना। हालांकि यह गणितीय रूप से संभव है, लेकिन यह वास्तविक दुनिया में फिट नहीं बैठता।

इस शोध पत्र के लेखक एक नया टूल पेश करते हैं जिसे P2CE (प्लॉसिबल पारेटो-ऑप्टिमल काउंटरफैक्चुअल एक्सप्लेनेशन्स) कहा जाता है। P2CE को एक स्मार्ट, वास्तविक ट्रैवल एजेंट की तरह समझें जो आपको कल्पना की दुनिया में खोए बिना आपके लक्ष्य तक पहुँचने का सबसे अच्छा रास्ता खोजने में मदद करता है।

P2CE कैसे काम करता है, यहाँ सरल उपमाओं (analogies) का उपयोग करके बताया गया है:

1. "वास्तविकता की जाँच" (द प्लॉसिबिलिटी फ़िल्टर)

कल्पना कीजिए कि आप एक घर ढूँढ रहे हैं। एक बुरा ट्रैवल एजेंट कह सकता है, "बस चाँद पर एक महल खरीद लीजिए!" वह एक घर ही है, और वह एक बदलाव भी है, लेकिन वह असंभव है।

पुराने तरीके अक्सर ऐसे "चाँद पर महल" का सुझाव देते हैं क्योंकि वे केवल वर्तमान स्थिति और लक्ष्य के बीच की गणितीय दूरी को देखते हैं।
P2C एक विशेष "रियलिटी डिटेक्टर" (जिसे आइसोलेशन फॉरेस्ट कहा जाता है) का उपयोग करता है। यह वास्तविक डेटा के पड़ोस को देखता है। यदि कोई सुझाव एक "आउटलायर" (जैसे कि एक 20 वर्षीय व्यक्ति जिसके पास अरबपति का पोर्टफोलियो हो) है, तो रियलिटी डिटेक्टर उसे "असत्य/अवास्तविक" के रूप में चिह्नित करता है और उसे हटा देता है। P2CE केवल वही सुझाव देता है जो स्वाभाविक रूप से वास्तविक दुनिया में फिट बैठते हैं।

2. "बेहतरीन डील" खोजने वाला (द पारेटो-ऑप्टिमल कॉन्सेप्ट)

कभी-कभी, आपको दो अच्छे विकल्पों के बीच चुनाव करना होता है:

विकल्प A: अपना जॉब टाइटल बदलें (बड़ा बदलाव, लेकिन केवल एक चीज़ करनी है)।
विकल्प B: थोड़े और पैसे बचाएं, एक छोटा कर्ज चुकाएं, और एक छोटा कोर्स करें (तीन छोटे बदलाव)।

कौन सा बेहतर है? यह आप पर निर्भर करता है।

पुराने तरीके अक्सर इन कारकों को एक एकल स्कोर में जोड़कर आपको केवल एक "सर्वश्रेष्ठ" उत्तर चुनने के लिए मजबूर करते हैं, जिससे आपकी व्यक्तिगत पसंद छूट सकती है।
P2CE एक इष्टतम विकल्पों के मेनू की तरह कार्य करता है। यह आपको "पारेटो-ऑप्टिमल" विकल्पों की एक सूची देता है। इसका अर्थ है: "यहाँ सर्वोत्तम संभावित ट्रेड-ऑफ (समझौतों) की एक सूची है। आप एक क्षेत्र में (जैसे समय बचाने में) बेहतर परिणाम प्राप्त करने के लिए दूसरे क्षेत्र (जैसे प्रयास) को खराब किए बिना बेहतर नहीं हो सकते।" यह आपको यह चुनने देता है कि आपके जीवन के लिए कौन सा ट्रेड-ऑफ सही है।

3. "ब्लैक बॉक्स" नेविगेटर (मॉडल-एग्नोस्टिक)

कई AI सिस्टम "ब्लैक बॉक्स" होते हैं—हमें नहीं पता कि वे अंदर से कैसे सोचते हैं, हमें केवल उनके आउटपुट का पता होता है।

पुराने तरीके अक्सर विफल हो जाते हैं यदि ब्लैक बॉक्स बहुत जटिल है (जैसे कि एक डीप न्यूरल नेटवर्क)। वे अटक सकते हैं या गणना करने में बहुत समय ले सकते हैं।
P2CE एक यूनिवर्सल नेविगेटर है। इसे इस बात से फर्क नहीं पड़ता कि ब्लैक बॉक्स अंदर से कैसे काम करता है। यह SHAP वैल्यूज (जिन्हें आप एक "स्कोरकार्ड" मान सकते हैं जो एल्गोरिदम को बताता है कि कौन सी विशेषताएं सबसे अधिक मायने रखती हैं) नामक एक चतुर शॉर्टकट का उपयोग करता है ताकि बॉक्स को खोले बिना सबसे अच्छे रास्ते का अनुमान लगाया जा सके। यह इसे तेज़ बनाता है और किसी भी प्रकार के AI मॉडल के साथ काम करता है।

परिणाम: यह क्यों महत्वपूर्ण है

लेखकों ने वास्तविक दुनिया के डेटा (जैसे क्रेडिट स्कोर और आय डेटा) का उपयोग करके अन्य लोकप्रिय टूल्स के मुकाबले P2CE का परीक्षण किया।

गति: इसने पुराने, अधिक कठोर तरीकों की तुलना में बहुत तेज़ी से अच्छे उत्तर खोजे, विशेष रूप से जटिल AI मॉडल के साथ।
गुणवत्ता: इसने प्रतिस्पर्धा की तुलना में बहुत कम "अवास्तविक" सुझाव (आउटलायर्स) दिए।
विविधता: इसने केवल एक मजबूर उत्तर देने के बजाय उपयोगकर्ताओं को विविध विकल्पों का एक सेट दिया।

संक्षेप में: P2CE AI निर्णयों को समझाने का एक नया तरीका है जो यह सुनिश्चित करता है कि आपको जो सलाह मिले वह वास्तविक है (आपके जीवन में फिट बैठती है), कुशल है (गणना करने में बहुत समय नहीं लेती), और लचीली है (आपको चुनने के लिए सर्वोत्तम ट्रेड-ऑफ के मेनू के रूप में विकल्प देती है)। यह एक भ्रमित करने वाले "नहीं" को एक स्पष्ट, कार्रवाई योग्य और विश्वसनीय "यहाँ बताया गया है कि आप 'हाँ' कैसे प्राप्त कर सकते हैं" में बदल देता है।

तकनीकी सारांश: P2CE – मॉडल-एग्नोस्टिक प्लासिबल पारेटो-ऑप्टिमल काउंटरफैक्टुअल एक्सप्लेनेशन्स

समस्या विवरण

उच्च-दांव वाले डोमेन (जैसे, क्रेडिट स्कोरिंग, भर्ती, स्वास्थ्य निदान) में मशीन लर्निंग की बढ़ती तैनाती पारदर्शिता और निष्पक्षता की आवश्यकता को जन्म देती है। काउंटरफैक्टुअल एक्सप्लेनेशन्स (CEs) इसे इस प्रकार संबोधित करते हैं कि वे इनपुट फीचर्स के न्यूनतम परिवर्तनों ( $x \to x'$ ) का सुझाव देते हैं जो मॉडल के प्रेडिक्शन को एक अवांछित परिणाम से एक वांछित परिणाम में बदल देते हैं। हालाँकि, मौजूदा विधियों को तीन महत्वपूर्ण चुनौतियों का सामना करना पड़ता है:

प्लासिबिलिटी (Plausibility): कई एल्गोरिदम ऐसे समाधान उत्पन्न करते हैं जो इनपुट के गणितीय रूप से करीब तो होते हैं, लेकिन प्राकृतिक डेटा वितरण (आउटलेर्स) से बाहर होते हैं, जिससे वे व्यक्तियों के लिए अवास्तविक हो जाते हैं।
व्यवहार्यता ट्रेड-ऑफ (Feasibility Trade-offs): "व्यवहार्यता" के लिए कोई एकल मीट्रिक नहीं है। उपयोगकर्ता कई फीचर्स में छोटे बदलावों को पसंद कर सकते हैं या कुछ ही फीचर्स में मध्यम बदलावों को। सिंगल-ऑब्जेक्टिव ऑप्टिमाइज़ेशन इन विविध प्राथमिकताओं को कैप्चर करने में विफल रहता है।
मॉडल एग्नोसिज्म और दक्षता (Model Agnosticism and Efficiency): जबकि कुछ विधियाँ मॉडल-एग्नोस्टिक हैं, वे अक्सर कम्प्यूटेशनल दक्षता के लिए संघर्ष करती हैं या उन धारणाओं (जैसे, मॉडल मोनोटोनिसिटी) पर निर्भर करती हैं जो जटिल नॉन-लीनियर मॉडल्स (जैसे, न्यूरल नेटवर्क, SVM) के लिए लागू नहीं होती हैं।

कार्यप्रणाली (Methodology)

लेखक P2CE का प्रस्ताव करते हैं, जो एक एल्गोरिदम है जिसे प्लासिबल पारेटो-ऑप्टिमल काउंटरफैक्टुअल एक्सप्लेनेशन्स उत्पन्न करने के लिए डिज़ाइन किया गया है। यह दृष्टिकोण किसी भी ब्लैक-बॉक्स मॉडल के लिए प्लासिबिलिटी और दक्षता सुनिश्चित करने हेतु ब्रांच-एंड-बाउंड सर्च रणनीति के साथ दो प्रमुख नवाचारों को जोड़ता है।

1. सर्च स्ट्रैटेजी और मल्टी-ऑब्जेक्टिव ऑप्टिमाइज़ेशन

P2CE संभावित फीचर परिवर्तनों के एक डिस्क्रीटाइज्ड ग्रिड ( $A = A^{(1)} \times \dots \times A^{(d)}$ ) में खोज करता है ताकि ऐसे एक्शन $a$ का सेट पाया जा सके जहाँ $f(x+a) \geq \tau$ हो। यह एक साथ कई उद्देश्यों को अनुकूलित करता है:

औसत निरंतर दूरी ( $c_1$ ): न्यूमेरिकल फीचर्स में परिवर्तनों के परिमाण का सामान्यीकृत औसत।
अधिकतम निरंतर दूरी ( $c_2$ ): किसी भी एकल न्यूमेरिकल फीचर में परिवर्तन का अधिकतम परिमाण।
परिवर्तनों की संख्या ( $c_3$ ): बदले गए फीचर्स की संख्या (स्पैरसिटी)।

एल्गोरिदम एक पारेटो-ऑप्टिमल सेट लौटाता है, जो यह सुनिश्चित करता है कि कोई अन्य समाधान मौजूद नहीं है जो सभी उद्देश्यों में बेहतर या समान हो।

2. आउटलेयर डिटेक्शन के माध्यम से प्लासिबिलिटी सुनिश्चित करना

समाधानों को आउटलेर्स (डेटा वितरण से बाहर के समाधान) के निर्माण से रोकने के लिए, P2CE एक आइसोलेशन फॉरेस्ट आउटलेयर डिटेक्टर ( $u$ ) को एकीकृत करता है।

खोज के दौरान, जब भी एक कैंडिडेट सॉल्यूशन $x+a$ मिलता है, तो $u(x+a)$ का मूल्यांकन किया जाता है।
यदि $u(x+a)$ एक आउटलेयर का संकेत देता है, तो उस समाधान को हटा दिया जाता है।
दक्षता लाभ: P2CE मिसिंग वैल्यूज को संभालने की आइसोलेशन फॉरेस्ट की क्षमता का लाभ उठाता है। यदि एक आंशिक समाधान (कुछ फीचर्स के अनडेफाइंड होने के साथ) पहले से ही एक आउटलेयर के रूप में वर्गीकृत है, तो एल्गोरिदम सर्च ट्री की पूरी ब्रांच को हटा देता है, जिससे अनावश्यक गणनाओं से बचा जा जाता है।

3. मॉडल-एग्नोस्टिक ब्रांच-एंड-बाउंड प्रूनिंग

कम्प्यूटेशनल दक्षता बनाए रखने के लिए—बिना मॉडल मोनोटोनिसिटी की धारणा रखे (जो MAPOCAM जैसी पिछली विधियों को सीमित करती है)—P2CE एक आंशिक एक्शन $a$ से प्राप्त होने वाले अधिकतम संभावित प्रेडिक्शन ( $f_a$ ) का अनुमान लगाता है।

SHAP-आधारित अनुमान: एल्गोरिदम SHAP वैल्यूज के एडिटिव प्रॉपर्टी का उपयोग करता है: $f(x) = E[f(x)] + \sum \phi_i$ ।
यह शेष खुले फीचर्स (वे फीचर्स जो अभी तक सर्च में फिक्स नहीं किए गए हैं) के लिए "बेस्ट-केस" परिदृश्य मानकर प्रेडिक्शन के लिए एक अपर बाउंड (upper bound) की गणना करता है।
बाउंड को इस प्रकार तैयार किया गया है:
$\max f(x+\tilde{a}) \leq f(x) - \sum_{i \in O_k} \phi_i(x) + \sum_{i \in O_k} \bar{\phi}_i + R(x, O_k)$
जहाँ $O_k$ उच्चतम संभावित एट्रिब्यूशन वाले $k$ फीचर्स का प्रतिनिधित्व करता है, $\bar{\phi}_i$ फीचर $i$ के लिए अधिकतम संभव एट्रिब्यूशन है, और $R$ एक रेसिडुअल टर्म है।
यदि यह अपर बाउंड निर्णय थ्रेशोल्ड $\tau$ से नीचे है, तो उस ब्रांच को प्रून (छंटनी) कर दिया जाता है। यह P2CE को न्यूरल नेटवर्क जैसे नॉन-मोनोटोनिक मॉडल्स के साथ कुशलतापूर्वक कार्य करने की अनुमति देता है।

मुख्य योगदान

P2CE एल्गोरिदम: एक नया, मॉडल-एग्नोस्टिक एल्गोरिदम जो आउटलेयर डिटेक्शन के माध्यम से डेटा वितरण की प्लासिबिलिटी को सख्ती से लागू करते हुए पारेटो-ऑप्टिमल काउंटरफैक्टुअल एक्सप्लेनेशन्स उत्पन्न करता है।
SHAP प्रॉपर्टी एक्सप्लोरेशन: ब्रांच-एंड-बाउंड कॉन्टेक्स्ट में अधिकतम प्रेडिक्शन का अनुमान लगाने के लिए SHAP वैल्यूज का उपयोग करने की विधि का परिचय, जो पिछले स्टेट-ऑफ-द-आर्ट मेथड्स द्वारा आवश्यक मोनोटोनिसिटी बाधा को हटा देता है।
व्यापक मूल्यांकन: जर्मन क्रेडिट, ताइवान क्रेडिट, एडल्ट (Adult) जैसे तीन डेटासेट्स और तीन क्लासिफायर्स (लॉजिस्टिक्स रिग्रेशन, लाइटजीबीएम, एमएलपी) पर व्यापक अनुभवजन्य अध्ययन, जिसमें P2CE की तुलना MAPOCAM, DiCE और NICE से की गई है।
ओपन सोर्स: पुनरुत्पादकता (reproducibility) को सुगम बनाने के लिए कार्यान्वयन का रिलीज़।

प्रयोगात्मक परिणाम

मूल्यांकन समाधान की गुणवत्ता (पारेटो फ्रंट का हाइपरवॉल्यूम), प्लासिबिलिटी (आउटलेयर्स का प्रतिशत) और कम्प्यूटेशनल दक्षता पर केंद्रित था।

प्लासिबिलिटी: P2CE ने प्रतिस्पर्धियों की तुलना में लगातार काफी कम आउटलेयर समाधान उत्पन्न किए। उदाहरण के लिए, एडल्ट डेटासेट पर MLP के साथ, P2CE ने केवल 11% आउटलेयर्स दिए, जबकि DiCE ने 87% और MAPOCAM ने 58% दिए। कुछ मामलों में, DiCE ने असंभव परिदृश्य सुझाए (जैसे, प्रति सप्ताह 97 घंटे काम करना)।
समाधान की गुणवत्ता: P2CE ने MAPOCAM (पारेटो इष्टतमता के लिए सैद्धांतिक गोल्ड स्टैंडर्ड) के तुलनीय हाइपरवॉल्यूम स्कोर प्राप्त किए, और DiCE एवं NICE से काफी बेहतर प्रदर्शन किया। हालांकि MAPOCAM कभी-कभी थोड़े उच्च हाइपरवॉल्यूम प्राप्त करता था, लेकिन यह भारी कम्प्यूटेशनल लागत पर आता था।
दक्षता: P2CE ने जटिल नॉन-लीनियर मॉडल्स के साथ उत्कृष्ट कम्प्यूटेशनल दक्षता प्रदर्शित की।
- ताइवान डेटासेट के साथ MLP पर, MAPOCAM ने औसतन 118.5 सेकंड लिए, जबकि P2CE ने मात्र 0.81 सेकंड लिए।
- एडल्ट डेटासेट के साथ MLP पर, MAPOCAM ने 6.24 सेकंड लिए, जबकि P2CE ने 2.34 सेकंड लिए।
- P2CE कच्चे समय (raw time) में DiCE और NICE से धीमा था, लेकिन इसने पारेटो इष्टतमता और प्लासिबिलिटी की महत्वपूर्ण गारंटी प्रदान की, जिसकी कमी इन तेज़ विधियों में थी।

महत्व और दावे

यह पेपर P2CE को वास्तविक दुनिया के अनुप्रयोगों के लिए एक व्यावहारिक समाधान के रूप में स्थापित करता है जहाँ काउंटरफैक्टुअल एक्सप्लेनेशन्स का एक्शनेबल (उपयोगकर्ता के लिए व्यवहार्य) और प्लासिबल (वास्तविक डेटा के अनुरूप) होना आवश्यक है।

लेखक दावा करते हैं कि P2CE सफलतापूर्वक सैद्धांतिक इष्टतमता और व्यावहारिक उपयोगिता के बीच के अंतर को पाटता है। समाधानों को "इनलेयर्स" (inliers) सुनिश्चित करके, एल्गोरिदम भ्रामक सलाह (जैसे, किसी उपयोगकर्ता को अपनी आय 1000% बढ़ाने या असंभव घंटे काम करने का सुझाव देना) देने से रोकता है। इसके अलावा, प्रूनिंग के लिए SHAP वैल्यूज का उपयोग करके, P2CL किसी भी ब्लैक-बॉक्स मॉडल के लिए इष्टतम काउंटरफैक्टुअल जेनरेट करने की क्षमता को बढ़ाता है, जो पिछले तरीकों की सीमाओं को दूर करता है जो मोनोटोनिक या विशिष्ट मॉडल प्रकारों तक सीमित थे।

कार्य यह निष्कर्ष निकालता है कि P2CE बिना किसी मॉडल-विशिष्ट अनुकूलन की आवश्यकता के, उच्च-गुणवत्ता वाले, प्लासिबल ट्रेड-ऑफ प्रदान करके वास्तविक दुनिया के अनुप्रयोगों में तेज़ और अधिक सूचित निर्णय लेने में सक्षम बनाता है।

सीमाएं और भविष्य का कार्य

लेखक दो प्राथमिक सीमाओं को स्वीकार करते हैं:

SHAP डिपेंडेंसी: प्रूनिंग रणनीति की दक्षता SHAP एप्रोक्सिमेशन पर निर्भर करती। सटीक शापली (Shapley) वैल्यूज की गणना करना कम्प्यूटेशनल रूप से महंगा है (फीचर्स की संख्या के घातीय रूप में), हालांकि एप्रोक्सिमेशंस का उपयोग किया जाता है। इन एप्रोक्सिमेशंस में त्रुटियां सैद्धांतिक रूप से प्रूनिंग को प्रभावित कर सकती हैं, हालांकि अनुभवजन्य परिणाम बताते हैं कि गति के लाभों की तुलना में प्रभाव न्यूनतम है।
डिस्क्रीटाइज्ड ग्रिड: खोज एक डिस्क्रीट ग्रिड तक सीमित है। हालांकि यह अधिकांश अनुप्रयोगों के लिए व्यावहारिक है (जैसे, आय में 1,000 डॉलर बनाम 998 डॉलर की वृद्धि का सुझाव देना कार्यात्मक रूप से समान है), अत्यंत सूक्ष्म स्तर (granularity) खोज समय को बढ़ा देता है। लेखक एडेप्टिव ग्रिड पर भविष्य के कार्य का सुझाव देते हैं जो फीचर इम्पैक्ट के आधार पर ग्रैनुलैरिटी को एडजस्ट कर सके, जो संभावित रूप से SHAP वैल्यूज द्वारा निर्देशित हो।