Fairness of Classifiers in the Presence of Constraints between Features

यह मार्टिन सी. कूपर और इमाने बुसदिरा के शोध पत्र "Fairness of Classifiers in the Presence of Constraints between Features" का एक विस्तृत तकनीकी सारांश है।

1. समस्या विवरण (Problem Statement)

यह शोध पत्र मशीन लर्निंग क्लासिफायर में निष्पक्षता (fairness) की परिभाषा और मूल्यांकन में एक महत्वपूर्ण अंतराल को संबोधित करता है: विशेषताओं (features) के बीच तार्किक बाधाओं (logical constraints) की उपस्थिति।

• संदर्भ: निष्पक्षता की मानक परिभाषाएं (जैसे, Fairness Through Unawareness) अक्सर यह मानती हैं कि एक निर्णय तब निष्पक्ष होता है जब वह संरक्षित विशेषताओं (protected features) (जैसे, लिंग, जाति) पर निर्भर नहीं होता है।
• समस्या: वास्तविक दुनिया के परिदृश्यों में, विशेषताएँ शायद ही कभी स्वतंत्र होती हैं। बाधाएं निम्नलिखित कारणों से मौजूद होती हैं:
  • एन्कोडिंग (Encoding): जैसे, वन-हॉट एन्कोडिंग जहाँ ठीक एक बूलियन विशेषता सत्य (true) होनी चाहिए।
  • वास्तविक दुनिया का तर्क (Real-world logic): जैसे, "यदि कोई व्यक्ति मातृत्व अवकाश (maternity leave) पर है, तो उसे महिला और कार्यरत होना चाहिए।"
• परिणाम: इन बाधाओं की अनदेखी करने से गलत सकारात्मक (false positives - एक निष्पक्ष क्लासिफायर को अनुचित मानना) या गलत नकारात्मक (false negatives - एक अनुचित क्लासिफायर को निष्पक्ष मानना) परिणाम मिल सकते हैं।
  • उदाहरण: एक मॉडल लिंग (gender) पर निर्भर प्रतीत हो सकता है क्योंकि लिंग बदलने पर मॉडल का आउटपुट बदल जाता है, लेकिन यदि बाधा यह संकेत देती है कि लिंग बदलने से दूसरी विशेषता (जैसे, रोजगार स्थिति) में भी परिवर्तन अनिवार्य है, तो निर्णय वास्तव में वैध फीचर स्पेस में लिंग से स्वतंत्र हो सकता है।
• लक्ष्य: बाधाओं ($C$) की उपस्थिति में निष्पक्षता को औपचारिक रूप से परिभाषित करना और इन परिभाषाओं को सत्यापित करने की कम्प्यूटेशनल जटिलता का विश्लेषण करना।

2. कार्यप्रणाली और मुख्य अवधारणाएं (Methodology and Core Concepts)

लेखक बाधाओं वाले फीचर स्पेस के भीतर एबडक्टिव एक्सप्लेनेशन्स (Abductive Explanations - AXp) और प्राइम इप्लिकेंट्स (Prime Implicants - PI) का उपयोग करते हैं।

मुख्य परिभाषाएं

• फीचर स्पेस ($F$): फीचर डोमेन का कार्टेशियन उत्पाद (Cartesian product)।
• बाधाएं ($C$): वैध इंस्टेंस को प्रतिबंधित करने वाले तार्किक नियमों का एक सेट। वैध स्थान $F[C]$ है।
• संरक्षित विशेषताएँ ($P$) बनाम गैर-संरक्षित विशेषताएँ ($N$): $P$ में संवेदनशील गुण (जैसे, लिंग) शामिल हैं; $N$ में अन्य गुण शामिल हैं।
• एबडक्टिव एक्सप्लेनेशन (AXp): विशेषताओं का एक उपसमुच्चय (subset) $S$ ऐसा कि $x$ में $S$ के मानों को $x$ के मानों के समान स्थिर करने से क्लासिफायर आउटपुट $\kappa(x)$ सुनिश्चित होता है, केवल $F[C]$ के इंस्टेंस को ध्यान में रखते हुए।
• प्राइम-इप्लिकेंट एक्सप्लेनेशन (PI-explanation): एक AXp जो किसी अन्य AXp द्वारा पूरी तरह से समाहित (subsumed) नहीं है। बाधित स्थानों में, समावेशन (subsumption) केवल सेट समावेशन द्वारा नहीं, बल्कि $F[C]$ के भीतर तार्किक निहितार्थ (logical implication) द्वारा परिभाषित होता है।
• फेयर PI-explanation: एक ऐसा PI-explanation जिसमें कोई संरक्षित विशेषता नहीं होती ($S \cap P = \emptyset$)।

प्रस्तावित निष्पक्षता परिभाषाएं

शोध पत्र $\kappa$ के लिए निष्पक्षता की तीन अलग-अलग परिभाषाएं प्रस्तावित करता है:

1. Constrained Fairness Through Unawareness (FTU):

   • सभी $x, y \in F[C]$ के लिए, यदि $x_N = y_N$ (गैर-संरक्षित विशेषताएँ समान हैं), तो $\kappa(x) = \kappa(y)$।
   • यह सुनिश्चित करता है कि निर्णय वैध स्थान के भीतर केवल गैर-संरक्षित विशेषताओं पर निर्भर करता है।

2. Existential Fairness (अस्तित्वगत निष्पक्षता):

   • प्रत्येक निर्णय $\kappa(x) = c$ के लिए, कम से कम एक निष्पक्ष PI-explanation मौजूद है।
   • अर्थ: निर्णय के लिए एक वैध कारण है जो संरक्षित विशेषताओं पर निर्भर नहीं है।

3. Universal Fairness (सार्वभौमिक निष्पक्षता):

   • प्रत्येक निर्णय $\kappa(x) = c$ के लिए, सभी PI-explanations निष्पक्ष हैं।
   • अर्थ: निर्णय के लिए प्रत्येक न्यूनतम कारण संरक्षित विशेषताओं से बचता है।

सैद्धांतिक विश्लेषण

लेखक विभिन्न बाधा परिदृश्यों के तहत इन परिभाषाओं के बीच संबंधों का विश्लेषण करते हैं:

• $P$ और $N$ के बीच बाधाएं: इनकी अनदेखी करने से निष्पक्षता मूल्यांकन नाटकीय रूप से बदल सकता है। एक निर्णय $F[C]$ में सार्वभौमिक रूप से निष्पक्ष हो सकता है, लेकिन अनकन्स्ट्रेंड $F$ में अनुचित प्रतीत हो सकता है, या इसके विपरीत।
• केवल $P$ के भीतर बाधाएं: यदि बाधाएं केवल संरक्षित विशेषताओं के बीच हैं, तो अनकन्स्ट्रेंड से बाधित स्थानों में निष्पक्ष PI-explanation का अस्तित्व बना रहता है (प्रपोजिशन 1)।
• केवल $N$ के भीतर बाधाएं: निष्पक्ष PI-explanation का अस्तित्व इन बाधाओं से स्वतंत्र है (प्रपोजिशन 2)। हालांकि, $N$ के भीतर की बाधाएं ऐसे अनुचित PI-explanations बना सकती हैं जो अनकन्स्ट्रेंड स्पेस में मौजूद नहीं थे (उदाहरण 7)।

समानता के लिए विशेष स्थितियां

शोध पत्र उन स्थितियों की पहचान करता है जहाँ जटिल परिभाषाएं (Existential/Universal) आसान-से-चेक होने वाली Constrained FTU में सरल हो जाती हैं:

• लूज कंस्ट्रेंट्स (Loose Constraints): यदि किसी संरक्षित विशेषता का आंशिक असाइनमेंट सभी गैर-संरक्षित विशेषताओं के असाइनमेंट को सख्ती से समाहित (subsume) नहीं करता है, तो Constrained FTU, Existential Fairness को निहित करता है।
• डिसेंटैंगल्ड क्लासिफायर (Disentangled Classifiers): एक क्लासिफायर "डिसेंटैंगल्ड" है यदि गैर-संरक्षित विशेषताओं का सेट $N$ एक कमजोर AXp है जो किसी भी अनुचित AXp द्वारा सख्ती से समाहित नहीं है। यह Existential Fairness की गारंटी देता है।

3. मुख्य योगदान (Key Contributions)

1. बाधाओं के साथ निष्पक्षता का औपचारिकीकरण: शोध पत्र (PI-explanations) के रूप में तार्किक बाधाओं को सीधे परिभाषा में एकीकृत करके मानक "अनअवेयरनेस" परिभाषा से आगे बढ़ता है।
2. बाधा प्रभाव का प्रदर्शन: कई उदाहरणों (जैसे, मातृत्व अवकाश, गोद लेने वाली एजेंसियां) के माध्यम से, लेखक सिद्ध करते हैं कि बाधाओं की अनदेखी करने से गलत निष्पक्षता मूल्यांकन होता है।
3. निष्पक्षता परिभाषाओं का पदानुक्रम: शोध पत्र Constrained FTU, Existential Fairness और Universal Fairness के बीच तार्किक संबंधों को स्थापित करता है।
   • Universal $\implies$ Existential $\implies$ Constrained FTU।
   • विपरीत निहितार्थ सामान्यतः तब तक नहीं होते जब तक कि विशिष्ट स्थितियां (जैसे, "loose constraints" या "$P$ और $N$ के बीच कोई बाधा नहीं") पूरी न हों।
4. जटिलता विश्लेषण: लेखक पॉलीनोमियल हाइरार्की (Polynomial Hierarchy) के भीतर इन निष्पक्षता धारणाओं को सत्यापित करने की कम्प्यूटेशनल जटिलता का विश्लेषण करते हैं।

4. परिणाम और जटिलता विश्लेषण (Results and Complexity Analysis)

शोध पत्र इन निष्पक्षता परिभाषाओं के परीक्षण के लिए एक कठोर जटिलता विश्लेषण प्रदान करता है:

निष्पक्षता धारणा (Fairness Notion)	जटिलता वर्ग (Complexity Class)	नोट्स
फेयर PI-explanation की उपस्थिति (एक एकल निर्णय के लिए)	$\Sigma^P_3$	इसमें $\exists \forall \exists$ क्वांटिफायर अल्टरनेशन शामिल है।
अनुचित PI-explanation की उपस्थिति	$\Sigma^P_3$	उपरोक्त का पूरक (complement) है।
Existential Fairness का परीक्षण (क्लासिफायर)	$\Pi^P_4$	$\Sigma^P_3$ प्रॉपर्टी के लिए सभी इंस्टेंस ($\forall x$) की जांच करने की आवश्यकता है।
Universal Fairness का परीक्षण (क्लासिफायर)	$\Pi^P_3$	यह जांचने के बराबर है कि किसी भी इंस्टेंस के लिए कोई अनुचित स्पष्टीकरण मौजूद नहीं है।
Constrained FTU का परीक्षण	coNP-complete	इसे एक एकल SAT सॉल्वर कॉल द्वारा हल किया जा सकता है (यह जांचना कि क्या $\exists x, y$ समान $N$ के साथ लेकिन भिन्न आउटपुट के साथ हैं)।

मुख्य जटिलता अंतर्दृष्टि:

• Constrained FTU का परीक्षण कम्प्यूटेशनल रूप से व्यवहार्य (coNP-complete) है और इसे मानक SAT सॉल्वर द्वारा संभाला जा सकता है।
• Existential/Universal Fairness का परीक्षण काफी कठिन ($\Pi^P_3$ या $\Pi^P_4$) है, जिसके लिए क्वांटिफाइड बूलियन फॉर्मूला (QBF) सॉल्वर की आवश्यकता होती है।
• व्यावहारिक निहितार्थ: लेखक Existential Fairness को गारंटी देने के लिए पर्याप्त स्थितियों (जो $\Pi^P_2$ हैं) के रूप में "Loose Constraints" या "Disentangled" चेक्स का उपयोग करने का प्रस्ताव देते हैं, जिससे QBF सॉल्वर के बजाय सरल SAT सॉल्वर का उपयोग करने की अनुमति मिलती है।

5. महत्व और निष्कर्ष (Significance and Conclusion)

• सैद्धांतिक आधार: यह शोध पत्र स्थापित करता है कि निष्पक्षता का मूल्यांकन शून्य में नहीं किया जा सकता; फीचर स्पेस की तार्किक संरचना (बाधाएं) "कारण" (reason) की परिभाषा को मौलिक रूप से बदल देती है।
• व्यावहारिक मार्गदर्शन: यह चिकित्सकों को चेतावनी देता है कि मानक निष्पक्षता उपकरण (जो अक्सर बाधाओं को अनदेखा करते हैं) भ्रामक परिणाम दे सकते हैं।
• ट्रेड-ऑफ (Trade-off): निष्पक्षता की परिभाषा की कठोरता और कम्प्यूटेशनल व्यवहार्यता के बीच एक ट्रेड-ऑफ है।
  • Universal Fairness सबसे सख्त है लेकिन सत्यापित करने में सबसे कठिन है।
  • Constrained FTU सत्यापित करने में सबसे आसान है लेकिन उन मामलों को मिस कर सकता है जहाँ निर्णय तकनीकी रूप से बाधाओं के माध्यम से संरक्षित विशेषताओं पर निर्भर है।
• भविष्य की दिशाएं: लेखक इस तार्किक ढांचे को सांख्यिकीय सहसंबंधों (statistical correlations) को संभालने के लिए विस्तारित करने और कॉज़ल ग्राफ्स (Causal Graphs) का उपयोग करके "संरक्षित विशेषताओं के चयन" (Fairness Through Causal Independence - FTCI) को खोजने का सुझाव देते हैं।

संक्षेप में, यह शोध पत्र तर्क देता है कि निष्पक्षता फीचर बाधाओं (feature constraints) पर संदर्भ-निर्भर (context-dependent) है। यह प्राइम-इप्लिकेंट स्पष्टीकरणों के माध्यम से निष्पक्षता को परिभाषित करने के लिए एक औपचारिक ढांचा प्रदान करता है और सैद्धांतिक कठोरता एवं कम्प्यूटेशनल व्यवहार्यता के बीच संतुलन बनाते हुए इन परिभाषाओं को सत्यापित करने का एक रोडमैप प्रदान करता है।