तकनीकी सारांश: उपसमूह निष्पक्षता के लिए डबल-रिग्रेसिंग दृष्टिकोण (Doubly-Regressing Approach for Subgroup Fairness)

1. समस्या विवरण (Problem Statement)

यह शोध पत्र मशीन लर्निंग में उपसमूह निष्पक्षता (subgroup fairness) की चुनौती को संबोधित करता है जब कई संवेदनशील गुण (जैसे लिंग, जाति, आयु) मौजूद होते हैं। जबकि मार्जिनल निष्पक्षता (व्यक्तिगत गुणों के आधार पर निष्पक्षता) का अच्छी तरह से अध्ययन किया गया है, यह "फेयरनेस गेरीमेंडरिंग" (fairness gerrymandering) को रोकने में विफल रहती है, जहाँ कई गुणों के प्रतिच्छेदन (intersections) पर गंभीर भेदभाव बना रहता है (Kearns et al., 2018a;b)।

औपचारिक रूप से, $q$ बाइनरी संवेदनशील गुणों के साथ, $2^q$ उपसमूह (subgroups) होते हैं। इन सभी उपसमूहों में वितरणात्मक निष्पक्षता (distributional fairness) को लागू करने में दो महत्वपूर्ण बाधाएं आती हैं:

1. डेटा की विरलता (Data Sparsity): जैसे-जैसे $q$ बढ़ता है, कई उपसमूहों में नमूनों (samples) की संख्या बहुत कम हो जाती है, जिससे मॉडल का अनुमान अस्थिर हो जाता है और सटीक निष्पक्षता गारंटी कठिन हो जाती है (Molina & Loiseau, 2023)।
2. गणना संबंधी बोझ (Computational Burden): निष्पक्षता संबंधी बाधाओं की संख्या $q$ के साथ तेजी से (exponentially) बढ़ती है। मौजूदा एडवरसेरियल दृष्टिकोण जो सभी उपसमूहों में निष्पक्षता को मापने का प्रयास करते हैं, वे गणनात्मक रूप से अव्यवहार्य हो जाते हैं।

इसके अलावा, मौजूदा तरीके अक्सर मार्जिनल निष्पक्षता (प्रत्येक व्यक्तिगत गुण पर निष्पक्षता) और उपसमूह निष्पक्षता दोनों को एक साथ सुनिश्चित करने में विफल रहते हैं, या वे कमजोर निष्पक्षता धारणाओं (जैसे डेमोग्राफिक पैरिटी) पर निर्भर करते हैं जो वितरणात्मक निष्पक्षता सुनिश्चित नहीं करती हैं।

2. कार्यप्रणाली (Methodology)

2.1 उपसमूह-उपसमुच्चय निष्पक्षता (Subgroup-Subset Fairness)

डेटा की विरलता को हल करने के लिए, लेखक केवल "सक्रिय" उपसमूहों (active subgroups)—वे जिनमें पर्याप्त नमूना आकार है—पर ध्यान केंद्रित करने का प्रस्ताव करते हैं, जबकि मार्जिनल निष्पक्षता सुनिश्चित करने के लिए मार्जिनल उपसमूहों (एकल संवेदनशील गुणों द्वारा परिभाषित उपसमूह) को स्पष्ट रूप से शामिल करते हैं।

वे उपसमूह-उपसमुच्चय निष्पक्षता (subgroup-subset fairness) को औपचारिक रूपते हैं, जहाँ एक "उपसमूह-उपसमुच्चय" $W$ विशिष्ट उपसमूहों का संघ (union) है। लक्ष्य पूर्व-चयनित उपसमूह-उपसमुत्त्स्यों $\mathcal{W}$ के संग्रह पर वितरणात्मक निष्पक्षता लागू करना है जहाँ नमूनों का आकार बहुत छोटा नहीं है।

2.2 सुप्रीमम इंटीग्रल प्रोबेबिलिटी मेट्रिक (supIPM)

लेखक एक वितरणात्मक निष्पक्षता माप पेश करते हैं जिसे सुप्रीमम इंटीग्रल प्रोबेबिलिटी मेट्रिक (supIPM) कहा जाता है। एक उपसमूह-उपसमुच्चय संग्रह $\mathcal{W}$ के लिए, निष्पक्षता अंतराल (fairness gap) को इस प्रकार परिभाषित किया जाता है:
$$\Delta_{\psi, \mathcal{W}}(f) = \sup_{W \in \mathcal{W}} \psi(P_{f,W}, P_{f,W^c})$$
जहाँ $\psi$ एक विचलन माप (विशेष रूप से IPM) है। लेखक सिद्ध करते हैं कि एम्पिरिकल supIPM का अनुमान त्रुटि (estimation error) कुल उपसमूहों की संख्या $|\mathcal{W}|$ के बजाय उपसमुत्त्स्यों के भीतर न्यूनतम नमूना आकार ($n_W$) पर निर्भर करती है, जो सक्रिय उपसमुत्त्स्यों पर ध्यान केंद्रित करने को उचित ठहराती है।

2.3 डबल रिग्रेसिंग एडवरसेरियल लर्निंग (DRAF)

सीधे supIPM को अनुकूलित करना गणनात्मक रूप से महंगा है क्योंकि इसके लिए प्रत्येक $W \in \mathcal{W}$ के लिए एक अलग डिस्क्रिमिनेटर (discriminator) खोजने की आवश्यकता होती है। इससे निपटने के लिए, लेखक डबल रिग्रेसिंग $R^2$ (DR2) पर आधारित एक सरोगेट निष्पक्षता अंतराल (surrogate fairness gap) का प्रस्ताव करते हैं।

• सैद्धांतिक आधार: वे एक रिग्रेशन सेटिंग में IPM और निर्धारण गुणांक ($R^2$) के बीच संबंध स्थापित करते हैं जहाँ इनपुट मॉडल का प्रेडिक्शन है और आउटपुट एक लेबल है जो उपसमूह सदस्यता को दर्शाता है।
• सरोगेट (The Surrogate): वे एक डबल रिग्रेसिंग $R^2$ माप, $DR^2(f, v, g)$ को परिभाषित करते हैं, जो एक साथ डिस्क्रिमिनेटर आउटपुट $g(f(x))$ और उपसमूह संकेतकों के भारित संयोजन $v^\top c_i$ को रिग्रेट करता है।
• मुख्य नवाचार: प्रस्तावित एल्गोरिदम, DRAF (Doubly Regressing Adversarial learning for Fairness), एक सरोगेट अंतराल को अनुकूलित करता है जिसे निम्न रूप में परिभाषित किया गया है:
  $$DR_{n, \mathcal{W}, \mathcal{G}}(f) := \sup_{g \in \mathcal{G}, v \in S_M} \tilde{z}\text{-}DR^2(f, v, g)$$
  महत्वपूर्ण रूप से, इस फॉर्मूलेशन के लिए उपसमूह-उपसमुत्त्स्यों की संख्या $|\mathcal{W}|$ के बावजूद केवल एक ही डिस्क्रिमिनेटर $g$ और एक वेट वेक्टर $v$ की आवश्यकता होती है। यह गणनात्मक जटिलता को उपसमूहों की संख्या के सापेक्ष घातीय (exponential) से रैखिक (linear) में बदल देता है।
• अनुकूलन (Optimization): एल्गोरिदम प्रेडिक्टर $f$ और डिस्क्रिमिनेटर/वेट पेयर $(g, v)$ को एक अल्टरनेटिंग मि-मैक्स (alternating min-max) पद्धति में प्रशिक्षित करता है। सैद्धांतिक विश्लेषण सिद्ध करता है कि यह सरोगेट अंतराल वास्तविक supIPM के लिए एक ऊपरी सीमा (upper bound) के रूप में कार्य करता है।

3. मुख्य योगदान (Key Contributions)

1. उपसमूह-उपसमुच्चय निष्पक्षता का औपचारिकीकरण: एक नया निष्पक्षता सिद्धांत जो डेटा की विरलता की व्यावहारिक बाधाओं (सक्रिय उपसमूह-उपसमुत्त्स्यों और मार्जिनल समूहों पर ध्यान केंद्रित करके) के साथ इंटरसेक्शनल निष्पक्षता के बीच संतुलन बनाता है।
2. supIPM का परिचय: उपसमूह-उपसमुत्त्स्यों के लिए एक वितरणात्मक निष्पक्षता माप, जिसके साथ इसके अनुमान त्रुटि का सैद्धांतिक बंधन (theoretical bound) भी दिया गया है।
3. DRAF एल्गोरिदम: एक गणनात्मक रूप से कुशल एडवरसेरियल लर्निंग एल्गोरिदम जो supIPM को डबल रिग्रेसिंग $R^2$ सरोगेट के माध्यम से अनुमानित करने के लिए एकल डिस्क्रिमिनेटर का उपयोग करता है। लेखक सिद्ध करते हैं कि यह सरोगेट लक्षित मीट्रिक का एक ऊपरी सीमा (upper bound) है।
4. प्रायोगिक सत्यापन: चार बेंचमार्क डेटासेट: ADULT, DUTCH, CIVILCOMMENTS, और COMMUNITIES (जिसमें $q=18$ और अत्यधिक विरलता है) पर DRAF का प्रदर्शन।

4. प्रायोगिक परिणाम (Experimental Results)

लेखकों ने चार बेंचमार्क डेटासेट पर DRAF का मूल्यांकन किया: ADULT, DUTCH, CIVILCOMMENTS, और COMMUNITIES (जिसमें $q=18$ और अत्यधिक विरलता है)।

• विरल डेटा पर प्रदर्शन: COMMUNITIES डेटासेट पर, जहाँ अधिकांश उपसमूह अत्यंत छोटे हैं, DRAF ने उपसमूह निष्पक्षता (SP) और प्रथम-क्रम मार्जिनल निष्पक्षता (MP(1)) दोनों में बेसलाइन तरीकों से काफी बेहतर प्रदर्शन किया। GerryFair (जो सबसे खराब स्थिति वाले उपसमूह विसंगति पर केंद्रित है) या रेगुलराइजेशन (जो मार्जिनल विसंगति पर केंद्रित है) जैसे बेसलाइन तरीके दोनों को एक साथ प्राप्त करने में विफल रहे।
• सटीकता-निष्पक्षता ट्रेड-ऑफ (Accuracy-Fairness Trade-off): DRAFT ने सभी डेटासेट में प्रतिस्पर्धी सटीकता-निष्पक्षता ट्रेड-ऑफ हासिल किया। कम विरल डेटासेट (ADULT, DUTCH) में, इसने बेसलाइन के बराबर या उससे बेहतर प्रदर्शन किया।
• सहसंबंध विश्लेषण (Correlation Analysis): प्रयोगों ने दिखाया कि DRAF प्रभावी रूप से उपसमूह और मार्जिनल निष्पक्षता दोनों को एक साथ नियंत्रित करता है, जबकि केवल एक आयाम पर केंद्रित तरीके अक्सर दूसरे को खराब कर देते हैं।
• मजबूती (Robustness): विधि ने शोर वाले (लापता) संवेदनशील गुणों के प्रति मजबूती प्रदर्शित की, क्योंकि यह नमूनों को त्यागने के बिना केवल अवलोकन योग्य उपसमूह-उपसमुत्त्स्यों पर निष्पक्षता प्रतिबंध लागू कर सकती है।
• विस्तार (Extensions): इस दृष्टिकोण को मल्टी-क्लास क्लासिफिकेशन और ईक्वलाइज्ड ऑड्स (EO) निष्पक्षता बाधाओं तक विस्तारित किया जा सकता है।

5. महत्व और दावे (Significance and Claims)

शोध पत्र का दावा है कि DRAF उपसमूह निष्पक्षता में "डायमेंशनलिटी के अभिशाप" (curse of dimensionality) के लिए एक व्यावहारिक समाधान प्रदान करता है। सक्रिय उपसमूह-उपसमुत्त्स्यों के एक क्यूरेटेड सेट और सिंगल-डिस्क्रिमिनेटर सरोगेट का उपयोग करके, यह विधि डेटा विरलता और गणनात्मक अव्यवहार्यता की दोहरी समस्याओं को हल करता है।

लेखक इस बात पर जोर देते हैं कि उनका दृष्टिकोण डेमोग्राफिक पैरिटी जैसे कमजोर मीट्रिक का सहारा लिए बिना वितरणात्मक निष्पक्षता (सबसे मजबूत निष्पक्षता धारणा) सुनिश्चित करता है। उनका तर्क है कि यदि मार्जिनल निष्पक्षता को स्पष्ट रूप से लागू किया जाता है, तो छोटे उपसमूहों को अनदेखा करना जनसंख्या-स्तर की निष्पक्षता के लिए सांख्यिकीय रूप से सही है। कार्य यह निष्कर्ष निकालता है कि DRAF जटिल, वास्तविक दुनिया के परिदृश्यों में निष्पक्ष AI मॉडल तैनात करने में सक्षम बनाता है जहाँ पिछले तरीके या तो गणनात्मक रूप से निषेधात्मक थे या सांख्यिकीय रूप से अस्थिर थे।