Mutatis Mutandis: Revisiting the Comparator in Discrimination Testing

यहाँ जोस एम. अल्वारेज़ और साल्वाटोर रग्गेरी के शोध पत्र "Mutatis Mutandis: Revisiting the Comparator in Discrimination Testing" का विस्तृत तकनीकी सारांश दिया गया है।

1. समस्या विवरण (Problem Statement)

यह शोध पत्र वर्तमान भेदभाव परीक्षण (discrimination testing) पद्धतियों में एक मौलिक सीमा को संबोधित करता है, विशेष रूप से तुलनाकर्ता (comparator) के निर्माण के संबंध में।

• संदर्भ: भेदभाव परीक्षण एक "शिकायतकर्ता" (एक व्यक्ति जो संरक्षित विशेषता $A$, जैसे कि जाति या लिंग के आधार पर भेदभाव का दावा करता है) की तुलना एक "तुलनाकर्ता" (गैर-संरक्षित समूह से एक समान व्यक्ति) से करने पर निर्भर करता है।
• मानक दृष्टिकोण (Ceteris Paribus - CP): अधिकांश मौजूदा उपकरण (कानूनी और एल्गोरिदम दोनों) एक ceteris paribus ("अन्य सभी समान रहने पर") तुलनाकर्ता का उपयोग करते हैं। यह मानता है कि तुलनाकर्ता शिकायतकर्ता के गैर-संरक्षित गुणों ($X$) में समान है, और केवल संरक्षित विशेषता ($A$) में भिन्न है।
• दोष: लेखक तर्क देते हैं कि CP दृष्टिकोण एक आदर्श तुलना (idealized comparison) है जो इस कारणत्मक वास्तविकता (causal reality) को समझने में विफल रहता है कि संरक्षित विशेषताएँ अक्सर गैर-संरक्षित विशेषताओं को प्रभावित करती हैं (जैसे, शिक्षा के स्तर या आय को प्रभावित करने वाली प्रणालीगत नस्लवाद)। $X$ को तब तक समान रखने के लिए मजबूर करके जब $A$ बदलता है, CP तुलनाकर्ता भेदभाव के डाउनस्ट्रीम प्रभावों (downstream effects) को अनदेखा करता है, जिससे अप्रत्यक्ष भेदभाव छिप सकता है या वास्तविक "क्या होता यदि" (what would have been) वाले परिदृश्य को पकड़ने में विफल हो सकता है।
• मुख्य प्रश्न: हम एक ऐसा तुलनाकर्ता कैसे प्राप्त कर सकते हैं जो संरक्षित विशेषता के कारणत्मक प्रभाव (causal influence) को ध्यान में रखता है, न कि एक स्थिर, आदर्शित दुनिया मानकर चलता है जहाँ केवल संरक्षित विशेषता बदलती है?

2. कार्यप्रणाली (Methodology)

लेखक तुलनाकर्ता को पुनर्व्याख्यायित करने के लिए एक कारणिक मॉडलिंग ढांचे (causal modeling framework) का प्रस्ताव करते हैं, जो एक स्थिर दूरी मीट्रिक (distance metric) से हटकर एक जनरेटिव, काउंटरफैक्चुअल दृष्टिकोण की ओर बढ़ता है।

A. कारणिक ढांचा (Causal Framework)

यह शोध पत्र भेदभाव परीक्षण को औपचारिक रूप देने के लिए स्ट्रक्चरल कॉज़ल मॉडल्स (SCM) (पर्ल का ढांचा) का उपयोग करता है।

• चर (Variables): $A$ (संरक्षित विशेषता), $X$ (गैर-संरक्षित विशेषताएँ), $Y$ (निर्णय परिणाम)।
• काउंटरफैक्चुअल रीजनिंग (Counterfactual Reasoning): एक तुलनाकर्ता का व्युत्पन्न (derivation) एक काउंटरफैक्चुअल प्रश्न का उत्तर देने के रूप में तैयार किया गया है: "क्या परिणाम होता यदि शिकायतकर्ता की संरक्षित विशेषता अलग होती?"
• प्रक्रिया: लेखक Abduction-Action-Prediction चरणों को अपनाते हैं:
  1. Abduction: प्रेक्षित डेटा से गुप्त बाह्य चर ($U$) का अनुमान लगाना।
  2. Action: $A$ पर हस्तक्षेप करना (सेट करना $A := \alpha$)।
  3. Prediction: काउंटरफैक्चुअल वितरण $X$ और $Y$ उत्पन्न करने के लिए संरचनात्मक समीकरणों के माध्यम से परिवर्तन को प्रसारित करना।

B. दो प्रकार के तुलनाकर्ता (The Two Comparator Types)

यह शोध पत्र तुलनाकर्ताओं का एक औपचारिक वर्गीकरण प्रस्तुत करता है:

1. सेटेरिस पैरिस (Ceteris Paribus - CP) तुलनाकर्ता:

   • परिभाषा: एक व्यक्ति $i'$ खोजता है जहाँ $d(x_i, x_{i'}) \leq \epsilon$ और $a_i \neq a_{i'}$।
   • तंत्र: $A$ को बदलते समय $X$ पर दूरी को न्यूनतम करता है।
   • सीमा: यह मानता है कि काउंटरफैक्चुअल दुनिया में $X$, $A$ से स्वतंत्र है, जो ऐतिहासिक या प्रणालीगत कारण संबंधों को अनदेखा करता है।

2. म्युटैटिस मुटांडिस (Mutatis Mutandis - MM) तुलनाकर्ता:

   • परिभाषा: एक व्यक्ति $i'$ खोजता है जहाँ $\tilde{d}((x_i, a_i), (x_{i'}, a_{i'})) \leq \epsilon$ और $a_i \neq a_{i'}$।
   • तंत्र: यह एक संरक्षित-जागरूक दूरी फलन (protected-aware distance function) $\tilde{d}$ का उपयोग करता है। महत्वपूर्ण रूप से, यह $x_i \neq x_{i'}$ की अनुमति देता है।
   • कार्यान्वयन: MM तुलनाकर्ता के लिए शिकायतकर्ता के गैर-संरक्षित गुणों के काउंटरफैक्चुअल प्रतिनिधित्व (counterfactual representation) $\tilde{X}$ को उत्पन्न करने की आवश्यकता होती है। यह $\tilde{X}$ दर्शाता है कि शिकायतकर्ता के गुण क्या होते यदि वे गैर-संरक्षित समूह से संबंधित होते, जो प्रभावी रूप से $A$ के डाउनस्ट्रीम प्रभावों के लिए "समायोजन" करता है।
   • गणितीय सूत्र: लेखक $\tilde{X} \perp A$ (फेयर रिप्रेजेंटेशन) प्राप्त करने के लिए एक जनरेटिव मॉडल $g(\cdot)$ (जैसे SCM पर आधारित) का उपयोग करके $\tilde{X} = g(X, A)$ सीखने का प्रस्ताव करते हैं। तुलनाकर्ता को गैर-संरक्षित समूह के वास्तविक $X$ और $\tilde{X}$ के बीच की दूरी को न्यूनतम करके पाया जाता है।

C. प्रयोगात्मक सेटअप (Experimental Setup)

दोनों के बीच अंतर को मान्य करने के लिए, लेखक Law School Admissions डेटासेट पर दो उपकरणों की तुलना करते हैं:

1. सिचुएशन टेस्टिंग (ST): CP तुलनाकर्ता को लागू करता है। यह संरक्षित विशेषता को बदलने के बाद $X$ (GPA, LSAT) के आधार पर डेटासेट में निकटतम पड़ोसियों (nearest neighbors) को खोजता है।
2. काउंटरफैक्चुअल सिचुएशन टेस्टिंग (CST): MM तुलनाकर्ता को लागू करता है। यह नस्ल/लिंग के कारणत्मक प्रभाव के आधार पर काउंटरफैक्चुअल प्रोफाइल (GPA/LSAT को समायोजित करना) उत्पन्न करने के लिए एक SCM का उपयोग करता है और फिर निकटतम पड़ोसियों को खोजता है।

3. मुख्य योगदान (Key Contributions)

1. कारणिक पुनर्गठन (Causal Reframing): लेखक तर्क देते हैं कि एक तुलनाकर्ता प्राप्त करना स्वाभाविक रूप से एक कारणिक मॉडलिंग समस्या (causal modeling problem) है, न कि केवल एक समानता खोज। तुलनाकर्ता शिकायतकर्ता का एक काउंटरफैक्चुअल प्रतिनिधित्व है।
2. MM तुलनाकर्ता की अवधारणा: वे Mutatis Mutandis तुलनाकर्ता को एक व्यवहार्य विकल्प के रूप में पेश करते हैं। यह लक्ष्य को "समान लोगों के साथ समान व्यवहार करने" (औपचारिक समानता) से बदलकर "तात्त्विक समानता (substantive equality) प्राप्त करने" की ओर ले जाता है, जो प्रणालीगत प्रतिकूलताओं को ध्यान में रखता है।
3. औपचारिक अंतर: यह शोध पत्र CP और MM तुलनाकर्ताओं के बीच एक कठोर गणितीय अंतर प्रदान करता है, यह उजागर करते हुए कि MM गैर-संरक्षित गुणों में असमानता की अनुमति देता है यदि वे अंतर संरक्षित विशेषता के कारण हुए हों।
4. ML का एकीकरण: लेखक मशीन लर्निंग (विशेष रूप से जनरेटिव मॉडल और SCM) को MM तुलनाकर्ता को लागू करने के लिए आवश्यक के रूप में स्थापित करते हैं, जो भेदभाव परीक्षण में कारणिक मॉडलिंग को अस्वीकार करने वाले विचारों के विपरीत है।

4. परिणाम (Results)

Law School Admissions डेटासेट पर व्याख्यात्मक प्रयोग महत्वपूर्ण निष्कर्ष प्रदान करते हैं:

• पहचान दर (Detection Rates): CST (MM) टूल ने ST (CP) टूल की तुलना में काफी अधिक prima facie भेदभाव के मामलों का पता लगाया।
  • नस्ल (Race): CST ने ST की तुलना में ~3 गुना अधिक मामले पकड़े (जैसे, $k=500$ पर 17.26% बनाम 3.08%)।
  • लिंग (Gender): CST ने थोड़े अधिक मामले पकड़े, लेकिन अंतर कम था, जो यह सुझाव देता है कि इस विशिष्ट डेटासेट में विशिष्ट विशेषताओं (GPA/LSAT) पर लिंग का कारणिक प्रभाव नस्ल की तुलना में कम स्पष्ट था।
• वितरण बदलाव (Distribution Shifts): विजुअल विश्लेषण (Box plots) ने दिखाया कि ST के तहत, टेस्ट ग्रुप (तुलनाकर्ता) का GPA/LSAT वितरण कंट्रोल ग्रुप के लगभग समान था। CST के तहत, टेस्ट ग्रुप के वितरण स्थानांतरित (shifted) थे, जो काउंटरफैक्चुअल समायोजन को दर्शाते हैं जहाँ संरक्षित विशेषता का विशेषताओं पर प्रभाव हटा दिया गया था।
• निहितार्थ: CP दृष्टिकोण (ST) अक्सर अप्रत्यक्ष भेदभाव का पता लगाने में विफल रहता है क्योंकि यह मानता है कि यदि एक अल्पसंख्यक आवेदक का GPA/LSAT एक श्वेत आवेदक के समान है, तो वे "समान" हैं। MM दृष्टिकोण (CST) यह पहचानता है कि उस GPA/LSAT को प्राप्त करने के लिए प्रणालीगत बाधाओं को पार करने की आवश्यकता हो सकती है, और इसलिए, "उचित" तुलनाकर्ता के पास अलग विशेषता मान होने चाहिए।

5. महत्व और निष्कर्ष (Significance and Conclusion)

• तात्त्विक बनाम औपचारिक समानता (Substantive vs. Formal Equality): शोध पत्र तर्क देता है कि केवल CP तुलनाकर्ताओं पर निर्भर रहना औपचारिक समानता (वर्तमान सांख्यिकी के समान लोगों के साथ समान व्यवहार करना) को लागू करता है, जो मौजूदा असमानताओं को बनाए रख सकता है। MM तुलनाकर्ता तात्त्विक समानता का लक्ष्य रखता है, जो एक ऐसी दुनिया की कल्पना करता है जहाँ प्रणालीगत बाधाएं हटा दी गई हों।
• मानद प्रभाव (Normative Impact): तुलनाकर्ता का चुनाव केवल एक तकनीकी पैरामीटर नहीं है; यह एक मानद कथन (normative statement) है कि एक "निष्पक्ष" तुलना क्या है। MM तुलनाकर्ता हितधारकों को कारणिक तंत्रों का सामना करने के लिए मजबूर करता है।
• भविष्य की दिशाएं: लेखक सुझाव देते हैं कि भविष्य के भेदभाव परीक्षण उपकरणों को सरल दूरी मेट्रिक्स से आगे बढ़कर MM तुलनाकर्ताओं को प्राप्त करने के लिए जनरेटिव मॉडल (जैसे SCM या फेयर रिप्रेजेंटेशन लर्निंग) को शामिल करना चाहिए। यह क्षेत्र को प्रत्यक्ष भेदभाव का पता लगाने से लेकर प्रणालीगत पूर्वाग्रह में निहित जटिल, अप्रत्यक्ष भेदभाव पैटर्न को उजागर करने की ओर ले जा सकता है।

संक्षेप में, यह शोध पत्र यह प्रतिपादित करता है कि एक जटिल, पक्षपाती समाज में वास्तव में भेदभाव का परीक्षण करने के लिए, हमें यह पूछना बंद करना होगा कि "यह व्यक्ति कौन है जो बिल्कुल इस व्यक्ति जैसा है लेकिन अलग जाति/लिंग का है?" और यह पूछना शुरू करना होगा कि "यदि उनकी जाति/लिंग के प्रणालीगत प्रभाव हटा दिए जाएं, तो यह व्यक्ति कैसा होता?" Mutatis Mutandis तुलनाकर्ता दूसरे प्रश्न का उत्तर देने के लिए तकनीकी ढांचा प्रदान करता है।