🤖 AI

PACE: A Neuro-Symbolic Framework for Plausible and Actionable Counterfactual Explanations

यह शोध पत्र PACE प्रस्तुत करता है, जो एक मॉड्यूलर न्यूरो-सिम्बोलिक फ्रेमवर्क है जो डोमेन-विशिष्ट बाधाओं और व्यवहार्य हस्तक्षेपों को स्पष्ट रूप से लागू करके ऐसे काउंटरफैक्चुअल स्पष्टीकरण उत्पन्न करने के लिए न्यूरल प्रेडिक्टिव मॉडल को सिम्बोलिक रीजनिंग के साथ जोड़ता है जो न केवल वैध हैं बल्कि यथार्थवादी और कार्रवाई योग्य भी हैं।

मूल लेखक: Pavel Iakovets, Liyanapathiranage Sudeepika Wajirakumari Samarathunga, Martin Thomas Horsch, Fadi Al Machot

प्रकाशित 2026-07-03

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Pavel Iakovets, Liyanapathiranage Sudeepika Wajirakumari Samarathunga, Martin Thomas Horsch, Fadi Al Machot

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप लोन या नौकरी के लिए योग्य होने का निर्णय लेने के लिए एक मशीन लर्निंग "ब्लैक बॉक्स" का उपयोग कर रहे हैं। कंप्यूटर कहता है "नहीं।" आप पूछते हैं, "हाँ" पाने के लिए मुझे क्या बदलने की आवश्यकता है?

एक मानक AI आपको ऐसा उत्तर दे सकता है जैसे, "यदि आपकी आयु 150 वर्ष होती और आप सप्ताह में 200 घंटे काम करते, तो आपको लोन मिल जाता।" हालांकि यह गणितीय रूप से सही है (यह भविष्यवाणी को बदल देता है), लेकिन यह बेकार है क्योंकि यह असंभव है।

यह पेपर PACE पेश करता है, जो एक नया सिस्टम है जिसे यह देने के लिए डिज़ाइन किया गया है कि आपके उत्तर न केवल गणितीय रूप से सही हों, बल्कि यथार्थवादी और करने योग्य भी हों।

यहाँ बताया गया है कि PACE कैसे काम करता है, जिसे सरल अवधारणाओं में विभाजित किया गया है:

1. समस्या: "अवास्तविक" सलाह

मान लीजिए कि मौजूदा AI स्पष्टीकरण उपकरणों को एक लापरवाह ट्रैवल एजेंट के रूप में देखें। यदि आप उनसे पूछते हैं, "मैं न्यूयॉर्क से लंदन कैसे जाऊं?" तो वे कह सकते हैं, "प्रकाश की गति से उड़ें।" यह आपको वहां पहुँचा तो देता है (वैध), लेकिन आप वास्तव में ऐसा नहीं कर सकते (अव्यवहार्य)।

मौजूदा तरीके अक्सर केवल परिणाम बदलने ( "हाँ" प्राप्त करने) पर ध्यान केंद्रित करते हैं, बिना यह जांचे कि वहां तक पहुँचने के कदम वास्तविक दुनिया में तर्कसंगत हैं या नहीं। वे आपकी आयु या आपके लिंग को बदलने का सुझाव दे सकते हैं, जो ऐसी चीजें हैं जिन्हें आप बदल ही नहीं सकते।

2. समाधान: "न्यूरो-सिंबोलिक" टीम

लेखकों ने PACE बनाया है, जो एक दो-सदस्यीय टीम की तरह काम करता है जो आपको सलाह देने के लिए मिलकर काम करती है:

न्यूरल नेटवर्क (द "जुआरी"): यह वह AI है जो परिणाम की भविष्यवाणी करना जानता है। यह अनुमान लगाने में अच्छा है कि, "यदि आप X बदलते हैं, तो परिणाम संभवतः Y में बदल जाएगा।" लेकिन इसे वास्तविक दुनिया के नियमों का ज्ञान नहीं है।
सिंबोलिक रीज़नर (द "नियम पुस्तिका"): यह एक सख्त लॉजिक इंजन है जिसके पास वास्तविक दुनिया के नियमों की एक सूची है। यह जानता है कि आप अपनी आयु नहीं बदल सकते, आप सप्ताह में 200 घंटे काम नहीं कर सकते, और आप केवल "हाई स्कूल" शिक्षा से "कुछ कॉलेज" तक ही जा सकते हैं, सीधे "पीएचडी" तक नहीं कूद सकते।

PACE "जुआरी" को केवल उन परिवर्तनों का सुझाव देने के लिए मजबूर करता है जिन्हें "नियम पुस्तिका" मंजूरी देती है।

3. यह कैसे काम करता है: "बाड़ के साथ खोज"

कल्पना कीजिए कि आप एक विशाल मैदान में एक विशिष्ट चाबी खोज रहे हैं।

पुराने तरीके पूरे मैदान में बेतरतीब ढंग से दौड़ते हैं। वे चाबी जल्दी ढूंढ सकते हैं, लेकिन वे आपको चाबी खोजने के लिए पहाड़ खोदने का सुझाव भी दे सकते हैं।
PACE मैदान के चारों ओर एक बाड़ (Fence) बनाता है। यह बाड़ "व्यवहार्य हस्तक्षेप स्थान" (feasible intervention space) का प्रतिनिधित्व करती है। सिस्टम जानता है कि आप केवल बाड़ के अंदर ही चल सकते हैं। यह व्यवस्थित रूप से बाड़ के अंदर प्रत्येक स्थान की जांच करता है जब तक कि उसे चाबी नहीं मिल जाती।

यदि चाबी बाड़ के अंदर नहीं है (यानी, कोई वास्तविक परिवर्तन आपको "हाँ" तक नहीं ले जा सकता), तो PACE इसे स्वीकार कर लेता है। यह आपको भौतिकी के नियमों को तोड़ने के लिए झूठ नहीं बोलेगा।

4. परीक्षण: "एडल्ट इनकम" केस स्टडी

इसका परीक्षण करने के लिए, शोधकर्ताओं ने आय के बारे में लोगों के एक डेटासेट का उपयोग किया। उन्होंने सिस्टम से पूछा: "एक व्यक्ति अपनी आय को $50k से कम से$ 50k से अधिक करने के लिए कौन से छोटे, यथार्थवादी बदलाव कर सकता है?"

उन्होंने PACE की तुलना अन्य लोकप्रिय तरीकों (जैसे DiCE, Wachter, और Random Search) से की।

परिणाम:

"लापरवाह" तरीके (Random Search, DiCE): वे किसी न किसी तरह से भविष्यवाणी बदलने में बहुत अच्छे थे (उच्च "वैधता" - Validity)। हालांकि, उनके अधिकांश सुझाव निरर्थक थे (कम "व्यावहारिकता" - Plausibility)। उदाहरण के लिए, वे किसी व्यक्ति का लिंग या आयु बदलने का सुझाव दे सकते हैं।
PACE: यह किसी भी उत्तर को खोजने में थोड़ा धीमा था क्योंकि यह सख्ती से नियमों का पालन कर रहा था। हालांकि, इसके द्वारा दिए गए सभी उत्तर 100% यथार्थवादी थे।
- इसने सुझाव दिया जैसे: "अपने शिक्षा स्तर को एक चरण बढ़ाएं" या "सप्ताह में कुछ घंटे अधिक काम करें।"
- इसने कभी भी असंभव बदलावों का सुझाव नहीं दिया।

5. ट्रेड-ऑफ (समझौता)

यह पेपर एक स्पष्ट ट्रेड-ऑफ को उजागर करता है, जैसे गति और सुरक्षा के बीच चयन करना।

यदि आप परिणाम बदलने वाला सबसे तेज़ उत्तर चाहते हैं, तो आपको एक ऐसा सुझाव मिल सकता है जिसे मानना असंभव हो।
यदि आप एक ऐसा सुझाव चाहते हैं जिसे आप वास्तव में कर सकते हैं, तो आपको PACE जैसे सिस्टम की आवश्यकता है जो पहले नियमों की जांच करता है।

सारांश

PACE एक ढांचा है जो एक स्मार्ट AI प्रेडिक्टर और एक सख्त लॉजिक चेकर को जोड़ता है। यह सुनिश्चित करता है कि जब कोई AI आपको बेहतर परिणाम प्राप्त करने के लिए अपना जीवन बदलने के बारे में बताता है, तो वह सलाह कार्यक्षम (actionable) हो। यह आपको एक अलग व्यक्ति बनने के लिए नहीं कहेगा; यह आपको वे यथार्थवादी कदम बताएगा जो आप वास्तव में उठा सकते हैं।

पेपर निष्कर्ष निकालता है कि हालांकि इस दृष्टिकोण में कभी-कभी उत्तर खोजने में थोड़ा अधिक समय लगता है, लेकिन यह नियमों की अनदेखी करने वाले तरीकों की तुलना में विश्वसनीय, वास्तविक दुनिया की सलाह प्रदान करने में बहुत बेहतर है।

तकनीकी सारांश: PACE – प्रशंसनीय और कार्रवाई योग्य प्रति-तथ्यात्मक स्पष्टीकरणों के लिए एक न्यूरो-सिंबोलिक ढांचा

समस्या विवरण
प्रति-तथ्यात्मक स्पष्टीकरण (Counterfactual Explanations - CEs) व्याख्या योग्य एआई (XAI) में एक प्रमुख दृष्टिकोण हैं, जो एक इनपुट इंस्टेंस में किए जाने वाले न्यूनतम परिवर्तनों की पहचान करके कार्रवाई योग्य सिफारिशें प्रदान करने के लिए डिज़ाइन किए गए हैं, ताकि मशीन लर्निंग मॉडल के पूर्वानुमान को बदला जा सके। जबकि मौजूदा विधियाँ पूर्वानुमान बदलने वाले विकल्पों को प्रभावी ढंग से उत्पन्न करती हैं, वे अक्सर अवास्तविक या अव्यवहार योग्य सिफारिशें उत्पन्न करती हैं। ऐसा इसलिए होता है क्योंकि कई दृष्टिकोण मुख्य रूप से पूर्वानुमान परिवर्तन और मूल इंस्टेंस से निकटता के लिए अनुकूलन करते हैं, और उनमें डोमेन ज्ञान या हस्तक्षेप बाधाओं को शामिल करने के लिए स्पष्ट तंत्र की कमी होती है। फलस्वरूप, उत्पन्न स्पष्टीकरण डोमेन-विशिष्ट नियमों का उल्लंघन कर सकते हैं (जैसे कि आयु या लिंग जैसे अपरिवर्तनीय गुणों में असंभव परिवर्तन का सुझाव देना) या वास्तविक मानवीय कार्यों का प्रतिनिधित्व करने में विफल हो सकते हैं। ऐसे तरीकों की तत्काल आवश्यकता है जो यह सुनिश्चित करें कि स्पष्टीकरण न केवल वैध (पूर्वानुमान बदलना) हों, बल्कि अनुप्रयोग डोमेन के भीतर प्रशंसनीय और व्यवहार्य भी हों।

कार्यप्रणाली
यह शोध पत्र PACE (Plausible and Actionable Counterfactual Explanations) प्रस्तावित करता है, जो एक मॉड्यूलर न्यूरो-सिंबोलिक ढांचा है जो व्यवहार्यता को लागू करने के लिए डेटा-संचालित भविष्य कहनेवाला मॉडलों को प्रतीकात्मक तर्क (symbolic reasoning) के साथ एकीकृत करता है। कार्यप्रणाली तीन मुख्य घटकों के इर्द-गिर्द संरचित है:

समस्या सूत्रीकरण:
एक प्रति-तथ्यात्मक के निर्माण को एक बाधित खोज समस्या (constrained search problem) के रूप में औपचारिक रूप दिया गया है। एक ब्लैक-बॉक्स मॉडल $f$ और एक इनपुट $x$ के पूर्वानुमान $y$ को देखते हुए, लक्ष्य एक प्रति-तथ्यात्मक $x_{cf}$ खोजना है ताकि $f(x_{cf}) \neq f(x)$ हो। खोज एक दूरी मीट्रिक $d$ (संशोधित विशेषताओं की संख्या के रूप में परिभाषित) को न्यूनतम करती है, इस शर्त के अधीन कि $x_{cf}$ को एक व्यवहार्य हस्तक्षेप स्थान $\Omega$ के भीतर होना चाहिए। यह स्थान डोमेन-विशिष्ट नियमों द्वारा कड़ाई से परिभाषित किया गया है, यह सुनिश्चित करता है कि अपरिवर्तनीय गुण अपरिवर्तित रहें और संपादन योग्य गुण तार्किक निर्भरताओं का पालन करें।
न्यूरो-सिंबोलिक आर्किटेक्चर:
- न्यूरल घटक: एक प्रेडिक्टिव मॉडल (जैसे, एक मल्टीलेयर पर्सेप्ट्रॉन) एक ओरेकल के रूप में कार्य करता है जो उम्मीदवार इंस्टेंस का मूल्यांकन करता है और यह सत्यापित करता है कि क्या पूर्वानुमान परिवर्तन की स्थिति पूरी हुई है।
- सिंबोलिक घटक: एक सिंबोलिक रीजनिंग लेयर, जिसे आंसर सेट प्रोग्रामिंग (ASP) का उपयोग करके लागू किया गया है, डोमेन ज्ञान को एनकोड करती है। यह लेयर विशेषताओं को अपरिवर्तनीय ( $X_I$ ) और संपादन योग्य ( $X_E$ ) सेटों में विभाजित करके व्यवहार्य स्थान $\Omega$ को परिभाषित करती है। यह तार्किक नियमों को लागू करती है, जैसे कि दिशात्मक अपरिवर्तनीयता (उदाहरण के लिए, शिक्षा स्तर केवल आसन्न स्तरों में बदल सकते हैं) और संबंधपरक अपरिवर्तनीयता (उदाहरण के लिए, विशिष्ट व्यवसाय संक्रमण)।
- खोज प्रक्रिया: ढांचा एक पुनरावृत्ति "जनरेट-एंड-वेरिफाई" लूप का उपयोग करता है। सिंबोलिक इंजन एक विशिष्ट बजट $K$ (एक साथ होने वाले फीचर परिवर्तनों को सीमित करना) के भीतर उम्मीदवार हस्तक्षेप उत्पन्न करता है। उम्मीदवारों को न्यूरल मॉडल द्वारा मूल्यांकन किए जाने से पहले सिंबोलिक बाधाओं के विरुद्ध फ़िल्टर किया जाता है। खोज एक न्यूनतम बजट के साथ शुरू होती है और तब तक धीरे-धीरे विस्तारित होती है जब तक कि एक वैध प्रति-तथ्यात्मक नहीं मिल जाता या अधिकतम सीमा तक नहीं पहुँच जाता।

केस स्टडी और प्रयोगात्मक सेटअप
इस ढांचे का मूल्यांकन Adult Income dataset पर किया गया, जो टैबुलर वर्गीकरण के लिए एक बेंचमार्क है। कार्य यह अनुमान लगाना था कि क्या किसी व्यक्ति की आय $50,000 से अधिक है।

मॉडल: एक मल्टीलेयर पर्सेप्ट्रॉन (MLP) जिसमें 82% सटीकता थी, जिसका उपयोग प्रेडिक्टिव मॉडल के रूप में किया गया।
विशेषताएं: पाँच विशेषताओं का उपयोग किया गया: आयु और लिंग (अपरिवर्तनीय), और शिक्षा, व्यवसाय, और प्रति सप्ताह घंटे (संपादन योग्य)।
बाधाएं: सिंबोलिक नॉलेज बेस ने नियमों को लागू किया जैसे कि:
- आयु और लिंग को संशोधित नहीं किया जा सकता है।
- शिक्षा परिवर्तन आसन्न स्तरों तक सीमित हैं।
- व्यवसाय परिवर्तन एक पूर्व-निर्धारित ट्रांज़िशन ग्राफ का पालन करते हैं।
- कार्य के घंटे सीमित चरणों के भीतर बदलने चाहिए।
बेसलाइन: PACE की तुलना रैंडम सर्च, DiCE, वाचर-शैली (Wachter-style) अनुकूलन, VCNet-शैली और C-CHVAE-शैली के दृष्टिकोणों से की गई।

प्रमुख परिणाम
1,000 टेस्ट इंस्टेंस पर किए गए प्रयोगों ने वैधता (पूर्वानुमान सफलतापूर्वक बदलना) और प्रशंसनीयता (डोमेन बाधाओं को संतुष्ट करना) के बीच एक स्पष्ट ट्रेड-ऑफ को उजागर किया:

प्रशंसनीयता: PACE ने 100% प्रशंसनीयता प्राप्त की, क्योंकि इसके सभी उत्पन्न स्पष्टीकरण सख्ती से सिंबोलिक बाधाओं का पालन करते थे। इसके विपरीत, रैंडम सर्च (2.7% प्रशंसनीयता) और DiCE (4.2% प्रशंसनीयता) जैसे अनकन्स्ट्रेंड (unconstrained) तरीकों ने अक्सर अव्यवहार योग्य सिफारिशें दीं।
वैधता: अनकन्स्ट्रेंड तरीकों ने आम तौर पर उच्च वैधता स्कोर प्राप्त किया (जैसे, रैंडम सर्च 0.778, DiCE 0.742) PACE (0.240) की तुलना में। यह इंगित करता है कि खोज स्थान को व्यवहार्य हस्तक्षेपों तक सीमित करने से उन मामलों की संख्या कम हो जाती है जिनके लिए प्रति-तथ्यात्मक पाया जा सकता है।
न्यूनतमता (Minimality): PACE ने अपेक्षाकृत संक्षिप्त स्पष्टीकरण उत्पन्न किए, जिसमें औसतन 1.242 फीचर संशोधन की आवश्यकता थी, जो अधिकांश बेसलाइनों (जैसे, DiCE 1.953) से कम था।
खोज दक्षता: PACE ने उच्च दक्षता प्रदर्शित की, जिसमें पूर्वानुमान बदलने के लिए औसतन 5.271 पुनरावृत्ति और प्रति इंस्टेंस 0.076 सेकंड का रनटाइम लगा, जो वाचर-शैली के बेसलाइन से काफी बेहतर प्रदर्शन करता है।
अतिरिक्त विश्लेषण: जब सभी विधियों को एक ही व्यवहार्य स्थान $\Omega$ तक प्रतिबंधित किया गया, तो उनकी प्रशंसनीयता स्कोर 1.0 पर अभिसरित (converge) हो गई, जिससे पुष्टि हुई कि PACE में प्रशंसनीयता लाभ स्पष्ट बाधा विनिर्देश से आते हैं। इसके अलावा, PACE के प्रति-तथ्यात्मक अनुभवजन्य डेटा मैनिफोल्ड के करीब पाए गए (निकटतम पड़ोसियों तक औसत दूरी: 0.354) अनकन्स्ट्रेंड सर्च (0.944) की तुलना में।

महत्व और योगदान
यह शोध पत्र दावा करता है कि PACE उच्च-वैधता प्रति-तथ्यात्मक जनरेशन और स्पष्ट व्यवहार्यता प्रवर्तन के बीच के अंतर को संबोधित करता है। इसके प्राथमिक योगदान हैं:

एक मॉड्यूलर ढांचा: यह बाधाबद्ध प्रति-तथ्यात्मक जनरेशन को सक्षम करने के लिए मशीन लर्निंग को सिंबोलिक तर्क के साथ एकीकृत करता है।
व्यवहार्यता-जागरूक सूत्रीकरण: यह प्रति-तथ्यात्मक जनरेशन को एक ऐसी खोज के रूप में परिभाषित करता है जहाँ सिंबोलिक बाधाएं स्पष्ट रूप से स्वीकार्य हस्तक्षेप स्थान को निर्धारित करती हैं।
कार्यान्वयन: यह एक ASP-आधारित कार्यान्वयन प्रदान करता है जो खोज प्रक्रिया के दौरान डोमेन-विशिष्ट बाधाओं को लागू करता है।
अनुभवजन्य साक्ष्य: यह एडल्ट इनकम केस स्टडी के माध्यम से प्रदर्शित करता है कि सिंबोलिक बाधाओं को शामिल करने से ऐसे स्पष्टीकरण प्राप्त होते हैं जो डोमेन-विशिष्ट व्यवहार्यता आवश्यकताओं को बेहतर ढंग से संतुष्ट करते हैं, हालांकि इसमें वैध प्रति-तथ्यात्मक खोजने की दर में ट्रेड-ऑफ होता है।

लेखक निष्कर्ष निकालते हैं कि हालांकि वैधता और प्रशंसनीयता के बीच एक ट्रेड-ऑफ है, न्यूरो-सिंबोलिक तरीके जैसे PACE, उच्च-दांव वाले निर्णय-सहायता प्रणालियों में पारदर्शी, व्यवहार्यता-जागरूक स्पष्टीकरण उत्पन्न करने के लिए एक आशाजनक दिशा प्रदान करते हैं। पेपर सीमाओं को स्वीकार करता है, जिसमें एकल डेटासेट और मैन्युअल रूप से निर्दिष्ट बाधाओं पर निर्भरता शामिल है, और सुझाव देता है कि भविष्य के कार्य को स्वचालित बाधा अधिग्रहण और डोमेन ज्ञान के समृद्ध रूपों का पता लगाना चाहिए।