🤖 machine learning

RECAST: Model Reconstruction via Counterfactual-Aware Wasserstein Geometry under Limited Data

यह शोधपत्र RECAST का प्रस्ताव करता है, जो सीमित डेटा और प्रतिबंधित पहुंच के तहत उच्च निष्ठा (fidelity) और क्वेरी दक्षता के साथ ब्लैक-बॉक्स मशीन लर्निंग मॉडलों के पुनर्निर्माण के लिए एक नवीन विधि है, जो मजबूत निष्पक्षता ऑडिटिंग (fairness auditing) को सक्षम करने के लिए वॉसरस्टीन बैसेंट्रिक अनुकूलन ढांचे (Wasserstein barycentric optimization framework) के भीतर काउंटरफैक्चुअल स्पष्टीकरणों का लाभ उठाती है।

मूल लेखक: Xuan Zhao, Lena Krieger, Zhuo Cao, Arya Bangun, Hanno Scharr, Ira Assent

प्रकाशित 2026-06-29

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Xuan Zhao, Lena Krieger, Zhuo Cao, Arya Bangun, Hanno Scharr, Ira Assent

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

यहाँ सरल भाषा और रचनात्मक उपमाओं (analogies) का उपयोग करके पेपर RECAST की व्याख्या दी गई है।

बड़ी तस्वीर: "ब्लैक बॉक्स" की समस्या

कल्पना कीजिए कि एक बैंक यह तय करने के लिए एक रहस्यमय, उच्च-तकनीकी कंप्यूटर सिस्टम (एक "ब्लैक बॉक्स") का उपयोग करता है कि किसे ऋण (loan) मिलेगा। आपने आवेदन किया, और कंप्यूटर ने "नहीं" कह दिया। आपने पूछा, "क्यों?" और कंप्यूटर ने आपको एक काउंटरफैक्चुअल एक्सप्लेनेशन (CF) दिया: "यदि आपकी आय $5,000 अधिक होती, तो आपको मंजूरी मिल जाती।"

यह स्पष्टीकरण आपके लिए मददगार है, लेकिन यह एक तीसरे पक्ष के ऑडिटर (जैसे कि सरकारी नियामक) के लिए भी एक सुराग है जो यह जांचना चाहता है कि बैंक का कंप्यूटर निष्पक्ष है या पक्षपाती। ऑडिटर एक सरोगेट मॉडल (surrogate model) बनाने का प्रयास करता है—एक नकलची सिस्टम जो बैंक के निर्णयों की नकल करता है ताकि वे बैंक का गुप्त कोड या उनके डेटाबेस तक असीमित पहुंच मांगे बिना इसका अध्ययन कर सकें।

समस्या: "अति-आत्मविश्वासी" नकलची

यह पेपर एक बड़ी खामी की ओर इशारा करता है जो आमतौर पर लोग काउंटरफैक्चुअल्स का उपयोग करके इन नकलची मॉडलों को बनाने में करते हैं।

उपमा (Analogy):
कल्पना कीजिए कि आप एक मानचित्र (map) पर "सुरक्षित क्षेत्र" (Class 0) और "खतरे के क्षेत्र" (Class 1) के बीच की सीमा सीखने की कोशिश कर रहे हैं।

आपके पास उन लोगों की एक सूची है जो सुरक्षित थे (Class 0)।
आपके पास "क्या-होता-यदि" (What-If) परिदृश्य भी हैं: "यदि इस सुरक्षित क्षेत्र के व्यक्ति के पास थोड़ा अधिक पैसा होता, तो वह खतरे के क्षेत्र में होता।"

गलती:
पुराने तरीकों ने इन "क्या-होता-यदि" परिदृश्यों के साथ वैसा ही व्यवहार किया जैसे कि वे वास्तव में खतरे के क्षेत्र में रहने वाले असली लोग हों।

परिणाम: नकलची मॉडल भ्रमित हो जाता है। वह सोचता है, "ओह, ये 'क्या-होता-यदि' वाले लोग निश्चित रूप से खतरे के क्षेत्र में हैं!" इसलिए, वह सीमा रेखा को बहुत आगे खींच देता है, जिससे सुरक्षित क्षेत्र बहुत छोटा हो जाता है।
परिणामस्वरूप: नकलची मॉडल अति-आत्मविश्वासी (overconfident) हो जाता है। वह सुरक्षित लोगों को खतरनाक बताने लगता है क्योंकि वे "क्या-होता-यदि" परिदृश्यों के बहुत करीब हैं। जब डेटा कम होता है, तो यह ओवरफिट (overfit) (शोर को याद करना) भी करने लगता है।

समाधान: RECAST (एक "स्मार्ट मैपमेकर")

लेखक RECAST नामक एक नई विधि प्रस्तावित करते हैं। "क्या-होता-यदि" परिदृश्यों को कठोर तथ्यों के रूप में मानने के बजाय, वे उन्हें कोमल संकेतों (soft hints) के रूप में देखते हैं जो सीमा को किसी विशिष्ट स्थान पर मजबूर किए बिना मानचित्र को आकार देने में मदद करते हैं।

यहाँ बताया गया है कि RECAST कैसे काम करता है, जिसे तीन सरल चरणों में विभाजित किया गया है:

1. "बादल" बनाम "बिंदु"

पुराना तरीका: वे "क्या-होता-यदि" परिदृश्यों को मानचित्र पर एक एकल बिंदु के रूप में पिन करने की कोशिश करते थे।
RECAST का तरीका: वे महसूस करते हैं कि एक "क्या-होता-यदि" परिदृश्य धुंधला होता है। यह एक एकल बिंदु नहीं है; यह संभावनाओं का एक बादल (cloud) है। RECAST वॉसरस्टीन ज्योमेट्री (Wasserstein Geometry) नामक एक गणितीय उपकरण का उपयोग करता है (इसे "डेटा के बादलों के लिए दूरी कैलकुलेटर" के रूप में सोचें) ताकि यह समझ सके कि "सुरक्षित" समूह और "खतरे" का समूह केवल व्यक्तिगत बिंदुओं के बजाय पूरे बादलों के रूप में कैसे दिखते हैं।

2. "बैरसेंटर" (The Perfect Average - आदर्श औसत)

RECAST सुरक्षित समूह के लिए एक प्रोटोटाइप (एक आदर्श औसत प्रतिनिधि) और खतरे के समूह के लिए एक प्रोटोटाइप बनाता है।

यह वास्तविक "सुरक्षित" लोगों और "क्या-होता-यदि" परिदृश्यों को एक साथ मिलाता है ताकि बादल के केंद्र को पाया जा सके।
महत्वपूर्ण बात यह है कि यह "क्या-होता-यदि" परिदृश्यों को केंद्र को बहुत दूर खींचने की अनुमति नहीं देता है। यह उन्हें वास्तविक लोगों की तुलना में कम निश्चित मानता है।
उपमा: कल्पना कीजिए कि आप एक भीड़ के केंद्र को खोजने की कोशिश कर रहे हैं। आपके पास वहां खड़े 100 असली लोग हैं, और 10 लोग हाथ में साइन बोर्ड लिए खड़े हैं जो कह रहे हैं "हम यहाँ हो सकते थे यदि हम हिल जाते।" RECAST असली लोगों को पूरा वजन देता है और साइन-होल्डर्स को आधा वजन देता है। यह भीड़ के केंद्र को सटीक रखता है, भले ही साइन-होल्डर्स थोड़े बिखरे हुए हों।

3. अनिश्चितता का "लेंस"

चूंकि ऑडिटर के पास सीमित डेटा होता है (शायद उन्हें बैंक से केवल 100 "क्या-होता-यदि" उत्तर मिले हैं), RECAST स्वीकार करता है, "हमें 100% यकीन नहीं है कि सीमा वास्तव में कहाँ है।"

एक तीखी रेखा खींचने के बजाय, RECAST एक लेंस के आकार का क्षेत्र बनाता है जहाँ सीमा हो सकती है।
यह एक ऐसा मॉडल बनाता है जो तब भी अच्छा काम करता है जब सीमा उस लेंस के भीतर कहीं भी हो। यह मॉडल को मजबूत (robust/stable) बनाता है, भले ही डेटा शोर भरा या अधूरा हो।

यह क्यों मायने रखता है (परिणाम)

पेपर ने वास्तविक दुनिया के डेटा (जैसे ऋण आवेदन और आपराधिक जोखिम स्कोर) पर RECAST का परीक्षण किया और पाया कि:

कम डेटा के साथ बेहतर सटीकता: जब ऑडिटर के पास बहुत कम क्वेरी (सीमित डेटा) होती है, तो RECAST पिछले तरीकों की तुलना में बहुत बेहतर नकलची मॉडल बनाता है। यह "क्या-होता-यदि" परिदृश्यों से भ्रमित नहीं होता है।
निष्पक्षता ऑडिटिंग (Fairness Auditing): क्योंकि RECAST डेटा के बादलों के "आकार" को समझता है, यह बता सकता है कि क्या बैंक अलग-अलग समूहों (जैसे पुरुषों बनाम महिलाओं) के साथ अनुचित व्यवहार कर रहा है। यह देख सकता है कि क्या किसी समूह का "बादल" दूसरे की तुलना में खतरे के क्षेत्र के करीब धकेला जा रहा है, भले ही उसे सटीक गुप्त फॉर्मूला पता न हो।
स्थिरता (Stability): भले ही डेटा थोड़ा अस्त-व्यस्त या शोर भरा हो, RECAST विफल नहीं होता है। यह स्थिर रहता है क्योंकि यह समूहों के समग्र आकार पर भरोसा करता है, न कि केवल व्यक्तिगत बिंदुओं पर।

सारांश

RECAST एक ब्लैक-बॉक्स AI सिस्टम को रिवर्स-इंजीनियर करने का एक नया तरीका है जब आपके पास केवल कुछ संकेत (Counterfactuals) हों। उन संकेतों को कठोर तथ्यों के रूप में अंधाधुंध मानने के बजाय, यह उन्हें कोमल, धुंधले संकेतों के रूप में देखता है। एक गणितीय "बादल-आकार" दृष्टिकोण का उपयोग करके, यह एक ऐसा नकलची मॉडल बनाता है जो सटीक, निष्पक्ष है और डेटा की कमी होने पर भ्रमित नहीं होता है।

तकनीकी सारांश: RECAST

समस्या विवरण (Problem Statement)

यह शोध पत्र मॉडल पुनर्निर्माण (एक ब्लैक-बॉक्स क्लासिफायर की नकल करने के लिए एक सरोगेट मॉडल बनाना) की चुनौती को संबोधित करता है, जो अत्यंत सीमित डेटा एक्सेस और प्रतिबंधित क्वेरी बजट के अंतर्गत आता है। यह परिदृश्य मशीन लर्निंग-एज़-ए-सर्विस (MLaaS) प्लेटफॉर्म के ऑडिटिंग से संबंधित है, जहाँ तीसरे पक्ष (third parties) पुनर्निर्माण के दौरान लक्षित मॉडल के साथ इंटरैक्टिव रूप से क्वेरी नहीं कर सकते हैं और उन्हें एक निश्चित, ऑफलाइन डेटासेट पर निर्भर रहना पड़ता है।

विशेष रूप से, लेखक उन सेटिंग्स पर ध्यान केंद्रित करते हैं जहाँ केवल एक-तरफा काउंटरफैक्चुअल स्पष्टीकरण (one-sided counterfactual explanations - CFs) उपलब्ध होते हैं। कई वास्तविक दुनिया के अनुप्रयोगों (जैसे ऋण अस्वीकृति) में, उपयोगकर्ताओं को नकारात्मक परिणाम को सकारात्मक में बदलने के तरीके पर स्पष्टीकरण प्राप्त होता है, लेकिन इसके विपरीत नहीं। मौजूदा CF-आधारित पुनर्निर्माण विधियाँ इस शासन (regime) में तीन महत्वपूर्ण सीमाओं का सामना करती हैं:

निर्णय सीमा विस्थापन (Decision Boundary Shifts): CFs को लक्षित वर्ग के हार्ड-लेबल वाले नमूनों के रूप में मानने से सरोगेट मॉडल सीमा के पास के क्षेत्रों में अत्यधिक आत्मविश्वासी (overconfident) हो जाता है, जिससे निर्णय सतह (decision surface) गलत तरीके से खिसक जाती है (जैसा कि चित्र 1 में दर्शाया गया है)।
ओवरफिटिंग (Overfitting): जब प्रशिक्षण डेटा कम होता है और क्वेरी बजट कम होता है, तो न्यूरल नेटवर्क-आधारित दृष्टिकोण ओवरफिटिंग के साथ संघर्ष करते हैं।
गैर-पहचान क्षमता (Non-Identifiability): एक-तरफा CF एक्सेस और सीमित क्वेरी के तहत, वास्तविक निर्णय सीमा सांख्यिकीय रूप से गैर-पहचान योग्य (non-identifiable) होती है; कई अलग-अलग क्लासिफायर समान इनपुट-आउटपुट व्यवहार उत्पन्न कर सकते हैं। इसलिए, एक अद्वितीय ज्यामितीय सीमा को पुनः प्राप्त करने का प्रयास करना 'इल-पोस्ड' (ill-posed) है।

कार्यप्रणाली: RECAST (Methodology: RECAST)

लेखक RECAST (REconstruction via Counterfactual-Aware waSserstein opTimization) प्रस्तावित करते हैं, जो एक व्यवहार-केंद्रित दृष्टिकोण है जो स्पष्ट निर्णय सीमाओं के बजाय क्लास-लेवल वितरणों (class-level distributions) का पुनर्निर्माण करता है।

1. CF-संगत अनिश्चितता सेट (CF-Consistent Uncertainty Sets)

यह मानते हुए कि CFs ठीक निर्णय सीमा पर स्थित हैं, RECAST उन्हें सॉफ्ट, क्रॉस-क्लास बाधाओं (soft, cross-class constraints) के रूप में मानता है। यह प्रत्येक वर्ग $c \in \{0, 1\}$ के लिए एक CF-संगत व्यवहार्य सेट (CF-consistent feasible set) $\mathcal{C}_c$ को परिभाषित करता है। यह सेट दो वासरस्टीन बॉल्स (Wasserstein balls) का प्रतिच्छेदन (intersection) है:

एक जो अनुभवजन्य वर्ग-सशर्त वितरण $P_c$ पर केंद्रित है।
दूसरा जो एक-तरफा काउंटरफैक्चुअल वितरण $P_{cf}$ पर केंद्रित है।

यह वासरस्टीन स्पेस में एक "लेंस के आकार का" (lens-shaped) अस्पष्टता सेट बनाता है, जो सैंपलिंग अनिश्चितता और काउंटरफैक्चुअल्स द्वारा लगाए गए ज्यामितीय बाधाओं दोनों को समाहित करता है।

2. रोबस्ट वासरस्टीन बैरीसेंटर्स (Robust Wasserstein Barycenters)

इस अनिश्चितता सेट के भीतर प्रत्येक वर्ग के लिए एक स्थिर प्रतिनिधि खोजने के लिए, RECAST वासरस्टीन बैरीसेंटर्स (Wasserstein barycenters) की गणना करता है। प्रमेय 3.2 स्थापित करता है कि व्यवहार्य सेट पर 'वर्स्ट-केस डिस्ट्रीब्यूशनल रिकंस्ट्रक्शन रिस्क' को कम करना, एक ऐसे प्रोटोटाइप $Q_c^*$ को खोजने के बराबर है जो वर्गित वर्जित वासरस्टीन दूरियों के भारित योग को कम करता है:
$Q_c^* = \arg\min_{\mu} \left( (1-\lambda_c)W_2^2(\mu, P_c) + \lambda_c W_2^2(\mu, P_{cf}) \right)$
यहाँ, $Q_c^*$ मूल क्लास डेटा और काउंटरफैक्चुअल डेटा का 2-वासरस्टीन बैरीसेंटर है। मिश्रण भार (mixing weight) $\lambda_c$ वितरणों ( $P_c$ , $P_{cf}$ , और विपरीत वर्ग $P_{1-c}$ ) की सापेक्ष ज्यामिति से स्वाभाविक रूप से प्राप्त होता है, जो यह सुनिश्चित करता है कि विधि को अनिश्चितता त्रिज्या (uncertainty radii) के स्पष्ट ट्यूनिंग की आवश्यकता नहीं है।

3. बैरीसेंट्रिक प्रोटोटाइप क्लासिफायर (Barycentric Prototype Classifier)

अंतिम सरोगेट मॉडल $\hat{m}$ एक इनपुट $x$ को सीखे गए क्लास प्रोटोटाइप्स के वासरस्टीन अंतर की तुलना करके वर्गीकृत करता है:
$\hat{m}(x) := \arg\min_{c \in \{0, 1\}} W_2(\delta_x, Q_c^*)$
जहाँ $\delta_x$ $x$ पर डिराक मेजर (Dirac measure) है। यह क्लासिफायर CF-पहचान योग्य (CF-identifiable) है, जिसका अर्थ है कि इसका निर्णय व्यवहार अनिश्चितता सेट के भीतर अंतर्निहित वितरणों के विशिष्ट वास्तविक स्वरूपों के प्रति अपरिवर्तित रहता है।

4. निष्पक्षता डायग्नोस्टिक्स (Fairness Diagnostics)

यह ढांचा थ्रेशोल्ड-इनवेरिएंट डेमोग्राफिक पैरिटी (TIDP) और थ्रेशोल्ड-इनवेरिएंट इक्वलाइज्ड ऑड्स (TIEO) को वासरस्टीन ज्यामिति के अनुकूल बनाता है। संवेदनशील समूहों के बीच वासरस्टीन-आधारित स्कोर के वितरण की तुलना करके, यह विधि एक व्यवस्थित डायग्नोस्टिक प्रदान करती है जो किसी विशिष्ट कट-ऑफ से स्वतंत्र होकर, सभी निर्णय थ्रेशोल्ड्स में बने रहने वाले निष्पक्षता अंतर को दर्शाती है।

मुख्य योगदान (Key Contributions)

RECAST फ्रेमवर्क: काउंटरफैक्चुअल-अवेयर वासरस्टीन बैरीसेंट्रिक प्रोटोटाइप्स का उपयोग करके व्यवहार-केंद्रित मॉडल पुनर्निर्माण के लिए एक अभिनव समाधान, जो विशेष रूप से ऑफलाइन, एक-तरफा CF एक्सेस के लिए डिज़ाइन किया गया है।
सैद्धांतिक आधार (Theoretical Grounding): यह प्रमाण कि CF-संगत अनिश्चितता सेट के तहत रोबस्ट रिस्क बाउंड्स को कम करना वासरस्टीन बैरीसेंटर्स की ओर ले जाता है, जो क्लास डिस्ट्रीब्यूशन का एक स्थिर ज्यामितीय प्रतिनिधित्व प्रदान करता है, भले ही सीमा (boundary) गैर-पहचान योग्य हो।
फेयरनेस ऑडिटिंग टूल: एक ज्यामिति-आधारित डायग्नोस्टिक जो पुनर्निर्मित निर्णय ज्यामिति के सापेक्ष संवेदनशील समूहों के बीच वितरण संबंधी असमानताओं को मात्रात्मक रूप से मापता है।
अनुभवजन्य सत्यापन (Empirical Validation): चार वास्तविक दुनिया के डेटासेट्स (Adult, COMPAS, HELOC, California Housing) पर व्यापक प्रयोग यह प्रदर्शित करते हैं कि RECAST, विशेष रूप से कम-क्वेरी शासन (low-query regimes) और शोर वाली स्थितियों में, बेसलाइन (SAMPLES, CCA, TRA) की तुलना में उच्च फिडेलिटी (fidelity) और क्वेरी दक्षता प्राप्त करता है।

प्रयोगात्मक परिणाम (Experimental Results)

फिडेलिटी (Fidelity): RECAST विभिन्न लक्षित मॉडलों (MLP, Logistic Regression, Decision Trees) और डेटासेट्स में फिडेलिटी (लक्षित मॉडल के भविष्यवाणियों के साथ सहमति) में लगातार बेसलाइन से बेहतर प्रदर्शन करता है। यह कम-क्वेरी शासन (जैसे, 100 सैंपल) में स्पष्ट लाभ दिखाता है, जहाँ अन्य विधियाँ ओवरफिटिंग या बाउंड्री शिफ्ट से जूझती हैं।
मजबूती (Robustness): यह विधि एडिटिव नॉइज़ और डिस्ट्रीब्यूशन शिफ्ट (जैसे, कैलिफोर्निया से मिशिगन डेटा तक क्रॉस-डोमेन मूल्यांकन) के तहत श्रेष्ठ स्थिरता प्रदर्शित करती है। जबकि बेसलाइन निर्णय थ्रेशोल्ड के पास काफी खराब प्रदर्शन करती हैं, RECAST सुचारू रूप से घटता है।
CF जनरेटर: RECAST काउंटरफैक्चुअल जनरेशन विधि (MCCF, DiCE, ROAR, आदि) के संबंध में उच्च फिडेलिटी बनाए रखता है, जबकि बेसलाइन CFs के विशिष्ट गुणों और "ओवरशूटिंग" व्यवहार के प्रति अत्यधिक संवेदनशील होती हैं।
निष्पक्षता (Fairness): प्रस्तावित डायग्नोस्टिक्स दिखाते हैं कि RECAST व्यवधान (perturbation) के बावजूद लक्षित मॉडल की निष्पक्षता विशेषताओं को अधिक सटीकता से संरक्षित करता है।

महत्व और दावे (Significance and Claims)

यह शोध पत्र RECAST को उच्च-जोखिम वाले डोमेन (वित्त, आपराधिक न्याय, स्वास्थ्य सेवा) में एक व्यावहारिक उपकरण के रूप में प्रस्तुत करता है जहाँ डेटा एक्सेस प्रतिबंधित है और क्वेरी बजट सीमित है।

व्यवहार-केंद्रित फोकस (Behavioral Focus): लेखक इस बात पर जोर देते हैं कि एक-तरफा CF एक्सेस के तहत, एक अद्वितीय ग्राउंड-ट्रुथ निर्णय सीमा को पुनः प्राप्त करना असंभव है। इसके बजाय, RECAST व्यवहार संबंधी समानता (behavioral equivalence) पर ध्यान केंद्रित करता है, जो सांख्यिकीय रूप से पहचान योग्य इनपुट-आउटपुट संबंध का पुनर्निर्माण करता है।
नियामक प्रासंगिकता (Regulatory Relevance): यह कार्य EU AI Act और समान नियमों के लक्ष्यों का समर्थन करता है, जो मॉडल के आंतरिक मापदंडों या प्रशिक्षण डेटा तक पहुंच की आवश्यकता के बिना मॉडल के व्यवहार, पारदर्शिता और निष्पक्षता की स्वतंत्र जांच को सक्षम बनाता है।
सीमाएँ (Limitations): लेखक विनम्रतापूर्वक नोट करते हैं कि वर्तमान दृष्टिकोण बाइनरी क्लासिफिकेशन तक सीमित है और निष्क्रिय अवलोकन (प्लेटफॉर्म के साथ रणनीतिक एडवरसेरियल इंटरेक्शन के बिना) की धारणा पर निर्भर करता है। वे यह भी स्वीकार करते हैं कि हालांकि वासरस्टीन दूरी गणनात्मक रूप से गहन (computationally intensive) है, फिर भी यह उन लो-डेटा रेजीम के लिए व्यवहार्य है जिनके लिए यह विधि डिज़ाइन की गई है।

संक्षेप में, RECAST एक ब्लैक-बॉक्स मॉडल के पुनर्निर्माण के लिए एक गणितीय रूप से कठोर और अनुभवजन्य रूप से सत्यापित दृष्टिकोण प्रदान करता है जब केवल सीमित, एक-तरफा काउंटरफैक्चुअल फीडबैक उपलब्ध होता है, जो बाउंडरी रिकवरी के असंभव कार्य के बजाय स्थिरता और व्यवहार संबंधी फिडेलिटी को प्राथमिकता देता है।