तकनीकी सारांश: tSeTlin मशीनों का उपयोग करके लक्ष्य-विश्वास प्रतिशोध (TRUST)

समस्या विवरण

काउंटरफैक्चुअल स्पष्टीकरण (CEs) उच्च-दांव वाले निर्णय लेने वाली प्रणालियों (जैसे, क्रेडिट अनुमोदन, क्लिनिकल जोखिम स्तरीकरण) में एल्गोरिद्मिक प्रतिशोध (algorithmic recourse) प्रदान करने के लिए मानक तंत्र हैं। प्रचलित प्रतिशोध का स्वरूप एक इनपुट $x$ में उस न्यूनतम परिवर्तन को खोजने का प्रयास करता है जो मॉडल के निर्णय को नकारात्मक से सकारात्मक में बदलने के लिए आवश्यक है। औपचारिक रूप से, यह एक अनुकूलन समस्या है जो $d(x, x')$ की दूरी को न्यूनतम करती है, जबकि इस प्रतिबंध के अधीन है कि अनुमानित प्रायिकता $M(x') \geq 0.5$ हो।

यह शोध पत्र इस द्विआधारी (binary) ढांचे में दो महत्वपूर्ण सीमाओं की पहचान करता है:

1. नाजुकता (Fragility): निर्णय सीमा (जहाँ $M(x') \approx 0.5$) के पास उत्पन्न काउंटरफैक्चुअल्स शोर, मॉडल अपडेट या गड़बड़ी के तहत अक्सर अस्थिर होते हैं। वे तकनीकी रूप से लेबल-फ्लिप की स्थिति को संतुष्ट कर सकते हैं, लेकिन कम आत्मविश्वास मार्जिन के कारण व्यवहार में विफल हो सकते हैं।
2. निर्णय लेने के साथ असंतुलन: वास्तविक दुनिया की निर्णय प्रणालियाँ अक्सर स्पष्ट आत्मविश्वास थ्रेशोल्ड (जैसे, अनुमोदन के लिए 80% आत्मविश्वास की आवश्यकता) का उपयोग करती हैं। मौजूदा विधियाँ सीधे इस प्रश्न का उत्तर नहीं दे सकतीं कि, "कम से कम 80% आत्मविश्वास के साथ अनुमोदन प्राप्त करने के लिए न्यूनतम परिवर्तन क्या है?" वे आत्मविश्वास को एक पोस्ट-हॉक गुण के रूप में देखते हैं न कि एक उपयोगकर्ता-निर्दिष्ट अनुकूलन लक्ष्य के रूप में।

जबकि पूर्ववर्ती कार्यों ने मार्जिन बाधाओं या पड़ोस वैधता के माध्यम से अप्रत्यक्ष रूप से मजबूती (robustness) को संबोधित किया है, और अनिश्चितता-जागरूक विधियाँ (जैसे CLUE या संभाव्य प्रमाण पत्र) मौजूद हैं, कोई भी विधि उपयोगकर्ता को जनरेशन के दौरान एक वांछित आत्मविश्वास स्तर को प्राथमिक बाधा के रूप में निर्दिष्ट करने की अनुमति नहीं देती है।

कार्यप्रणाली: TRUST ढांचा

लेखक TRUST (Target-confidence Recourse Using tSeTlin machines) प्रस्तावित करते हैं, जो एक 'लक्ष्य-विश्वास समस्या' के रूप में प्रतिशोध को पुनर्गठित करता है।

1. समस्या का सूत्रण (Problem Formulation)

$M(x') \geq 0.5$ के अधीन $d(x, x')$ को न्यूनतम करने के बजाय, TRUST एक ऐसा काउंटरफैक्चुअल $x'$ खोजता है जो एक उपयोगकर्ता-निर्धारित लक्ष्य विश्वास $\tau \in (0.5, 1)$ और एक सहनशीलता (tolerance) $\epsilon$ के अधीन लागत $d(x, x')$ को न्यूनतम करता है:
$$\min_{x'} d(x, x') \quad \text{s.t.} \quad |M(x') - \tau| \leq \epsilon$$
यह सूत्र मानक CEs (जो $\tau = 0.5$ पर प्राप्त होते हैं) का सामान्यीकरण करता है और विभिन्न आत्मविश्वास स्तरों पर प्रतिशोध विकल्प उत्पन्न करने की अनुमति देता है, जिससे लागत और मजबूती के बीच एक सिद्धांतपूर्ण ट्रेड-ऑफ विश्लेषण सक्षम होता है।

2. मॉडल इंस्टेंशिएशन: प्रोबेबिलिस्टिक त्सेटलिन मशीन (PTM)

इस ढांचे को क्रियान्वित करने के लिए, लेखक बेयसियन ऑप्टिमाइज़ेशन (BO) के साथ एक प्रोबेबिलिस्टिक त्सेटलिन मशीन (PTM) का उपयोग करते हैं।

• क्यों PTM? ब्लैक-बॉक्स संभाव्य क्लासिफायर (जैसे, कैलिब्रेटेड न्यूरल नेटवर्क) के विपरीत, जहाँ आत्मविश्वास स्कोर में प्रत्यक्ष व्याख्यात्मकता का अभाव होता है, PTM भविष्यवाणियों को संभाव्य सक्रियणों के साथ मानव-व्याख्या योग्य तार्किक खंडों (logical clauses) में विभाजित करता है। यह संरचना मॉडल को फीचर परिवर्तनों को सीधे भविष्यवाणी आत्मविश्वास में बदलाव से जोड़ने की अनुमति देती है।
• क्यों बेयसियन ऑप्टिमाइज़ेशन? काउंटरफैक्चुअल्स के लिए खोज स्थान गैर-उत्तल (non-convex) और मूल्यांकन के लिए महंगा हो सकता है, विशेष रूप से स्टोकेस्टिक मॉडलों के साथ। BO का उपयोग इनपुट स्पेस को कुशलतापूर्वक खोजने के लिए किया जाता है, जो लक्ष्य विश्वास $\tau$ से मेल खाने वाले उम्मीदवारों को खोजने के लिए अन्वेषण (exploration) और दोहन (exploitation) के बीच संतुलन बनाता है और साथ ही दूरी को भी न्यूनतम करता है। नियमितता की शर्तों के तहत सैद्धांतिक गारंटी आसंतिक इष्टतमता (asymptotic optimality) सुनिश्चित करती है।

3. खंड-स्तरीय एट्रिब्यूशन (Clause-Level Counterfactual Attribution)

TRUST ढांचे का एक विशिष्ट योगदान खंड-स्तरीय एट्रिब्यूशन करने की क्षमता है। जब कई काउंटरफैक्चुअल्स समान लक्ष्य विश्वास प्राप्त करते हैं लेकिन लागत या स्थिरता में भिन्न होते हैं, तो PTM संरचना अभ्यासकर्ताओं को विशिष्ट तार्किक नियमों तक इन अंतरों को ट्रैक करने की अनुमति देती है।

• ढांचा व्यक्तिगत खंडों की "फायरिंग संभावनाओं" (firing probabilities) का विश्लेषण करता है।
• यह पहचानता है कि क्या एक काउंटरफैक्चुअल नियमों को मजबूती से (नियम के संभाव्य सीमाओं के भीतर गहराई में) संतुष्ट करता है या नाजुक रूप से (नियम की स्थिति के किनारे के पास)।
• यह एक यांत्रिक स्पष्टीकरण प्रदान करता है कि क्यों एक प्रतिशोध विकल्प दूसरे की तुलना में अधिक विश्वसनीय है, जो ब्लैक-बॉक्स मॉडल के फीचर-स्तरीय स्पष्टीकरणों में अनुपस्थित एक क्षमता है।

मुख्य योगदान

1. लक्ष्य-विश्वास सूत्रण: यह शोध पत्र समीकरण (2) को पहले CE उद्देश्य के रूप में पेश करता है जहाँ भविष्यवाणी आत्मविश्वास एक उपयोगकर्ता-निर्दिष्ट बाधा है, न कि एक उभरता हुआ गुण। यह प्रतिमान को "न्यूनतम लेबल फ्लिप" से बदलकर "एक विशिष्ट जोखिम थ्रेशोल्ड के लिए न्यूनतम परिवर्तन" में बदल देता है।
2. खंड-स्तरीय एट्रिब्यूशन: PTM का लाभ उठाकर, लेखक एक नया व्याख्यात्मक स्तर सक्षम करते हैं जो फीचर-स्तरीय परिवर्तनों को व्याख्या योग्य तार्किक खंडों के माध्यम से आत्मविश्वास बदलावों से जोड़ता है। यह निर्णय नियमों की स्थिरता के आधार पर प्रतिस्पर्धी प्रतिशोध विकल्पों की तुलना करने में सहायता करता है।
3. डिज़ाइन द्वारा मजबूती (Robustness by Design): ढांचा आत्मविश्वास-जागरूक काउंटरफैक्चुअल्स और मजबूती के बीच एक व्यावहारिक संबंध स्थापित करता है। उच्च आत्मविश्वास स्तरों को सीधे लक्षित करके, मजबूती निर्माण द्वारा प्राप्त की जाती है (सकारात्मक वर्ग क्षेत्र में गहराई तक जाना) न कि पोस्ट-हॉक फ़िल्टरिंग के माध्यम से।

प्रयोगात्मक परिणाम

लेखकों ने दो सिंथेटिक डेटासेट (2D और 5D) और दो वास्तविक डेटासेट (Iris बाइनरी क्लासिफिकेशन और Haberman Survival) पर TRUST का मूल्यांकन किया। उन्होंने CARLA लाइब्रेरी से मानक ग्रेडिएंट-आधारित (Wachter) और सैंपलिंग-आधारित (GrowingSpheres) बेसलाइन के विरुद्ध TRUST (PTM + BO) की तुलना की।

मुख्य निष्कर्ष:

• मजबूती बनाम लागत ट्रेड-ऑफ: TRUST स्पष्ट नियंत्रण की अनुमति देता है। निचले लक्ष्य विश्वास ($\tau=0.50$) पर, TRUST न्यूनतम दूरी वाले काउंटरफैक्चुअल्स उत्पन्न करता है (बेसलाइन के बराबर या बेहतर)। उच्च लक्ष्य विश्वास ($\tau=0.85$) पर, TRUST ऐसे काउंटरफैक्चुअल्स उत्पन्न करता है जो शोर के प्रति काफी अधिक मजबूत (कई बेंचमार्क पर 100% मजबूती प्राप्त करना) होते हैं, जबकि कम प्रतिशोध लागत बनाए रखते हैं।
• प्रदर्शन मेट्रिक्स: Haberman डेटासेट पर, TRUST ने 0.92 विश्वास के साथ 0.10 का L2 दूरी प्राप्त किया, जिसने बेसलाइन को पछाड़ दिया जो मजबूती से समझौता किए बिना उच्च आत्मविश्वास बनाए रखने में संघर्ष कर रहे थे।
• व्याख्यात्मकता: Haberman डेटासेट पर गुणात्मक विश्लेषण ने प्रदर्शित किया कि एक ही तार्किक नियम (जैसे, "पॉजिटिव लिम्फ नोड्स $\leq 4$") को संतुष्ट करने वाले दो काउंटरफैक्चुअल्स की विश्वसनीयता बहुत भिन्न हो सकती है। TRUST के खंड-स्तरीय विश्लेषण ने खुलासा किया कि लिम्फ नोड्स = 4 वाला एक काउंटरफैक्चुअल नाजुक (नियम सीमा के पास) था, जबकि लिम्फ नोड्स = 2 वाला एक मजबूत था, जो विश्वास स्थिरता में अंतर को यांत्रिक रूप से स्पष्ट करता है।

महत्व और दावे

शोध पत्र का दावा है कि TRUST उच्च-दांव वाली स्थितियों में एल्गोरिद्मिक प्रतिशोध के लिए एक आत्मविश्वास-जागरूक और व्याख्या योग्य आधार प्रदान करता है। इसका महत्व यहाँ निहित है:

• अनुकूलन उद्देश्य को बदलना: बाइनरी लेबल फ्लिपिंग से बदलकर उपयोगकर्ता-निर्धारित जोखिम थ्रेशोल्ड को संतुष्ट करने की ओर बढ़ना, जो नियामक और व्यावहारिक निर्णय लेने की आवश्यकताओं (जैसे, EU AI Act, GDPR) के साथ बेहतर ढंग से संरेखित होता है।
• यांत्रिक स्पष्टीकरण: अन्य विधियों के विपरीत जो केवल फीचर-स्तरीय परिवर्तन प्रदान करती हैं, TRUST यह स्पष्ट करता है कि क्यों एक प्रतिशोध विकल्प मजबूत या नाजुक है, इसके लिए अंतर्निहित तार्किक नियमों (खंडों) की स्थिरता को उजागर करता है।
• व्यावहारिक उपयोगिता: यह निर्णय लेने वालों को एक पारदर्शी लागत-विश्वास-मजबूती स्पेक्ट्रम के आधार पर प्रतिशोध विकल्पों के बीच चयन करने में सक्षम बनाता है, न कि उन्हें "सबसे सस्ते" विकल्प को स्वीकार करने के लिए मजबूर करता है जो अस्थिर हो सकता है।

लेखक अपनी सीमाओं के संबंध में विनम्र रहते हैं, यह नोट करते हुए कि ढांचा कैलिब्रेटेड संभाव्य भविष्यवाणियों पर निर्भर करता है, वर्तमान कार्यान्वयन (PTM) में ग्रेडिएंट-आधारित विधियों की तुलना में कम्प्यूटेशनल ओवरहेड है, और व्यापक बेंचमार्क पर व्यापक सत्यापन भविष्य का कार्य है। हालांकि, वे दावा करते हैं कि प्रस्तावित ढांचा सफलतापूर्वक सैद्धांतिक प्रतिशोध और स्थिर, कार्रवाई योग्य निर्णय समर्थन के बीच के अंतर को संबोधित करता है।