Position: Beyond Sensitive Attributes, ML Fairness Should Quantify Structural Injustice via Social Determinants

तकनीकी सारांश: संवेदनशील गुणों से परे, ML निष्पक्षता को सामाजिक निर्धारकों के माध्यम से संरचनात्मक अन्याय को मापना चाहिए

समस्या विवरण
वर्तमान एल्गोरिद्मिक निष्पक्षता अनुसंधान मुख्य रूप से संवेदनशील गुणों (जैसे जाति, लिंग, यौनिकता) के आधार पर भेदभाव के रूप में अन्याय को संचालित करता है। जबकि यह दृष्टिकोण व्यक्तिगत स्तर के पूर्वाग्रह को संबोधित करता है, लेखक तर्क देते हैं कि यह संरचनात्मक अन्याय को पकड़ने में विफल रहता है: जो सामाजिक निर्धारकों के माध्यम से स्थापित प्रणालीगत असमानताएं हैं। सामाजिक निर्धारक प्रासंगिक चर (जैसे, पड़ोस की कमी, स्कूल वित्तपोषण, पर्यावरणीय जोखिम) हैं जो अवसरों और परिणामों को आकार देते हैं, लेकिन वे व्यक्तियों के बजाय स्थानों, संस्थानों या नीतियों के स्तर पर परिभाषित होते हैं। प्रचलित तकनीकी प्रतिमान अक्सर इन प्रासंगिक कारकों को 'शोर' (noise) के रूप में देखते हैं जिसे सामान्य (normalize) किया जाना चाहिए या डेटा प्रोसेसिंग के दौरान उन्हें पूरी तरह से हटा दिया जाता है, जिससे संरचनात्मक अन्याय अदृश्य हो जाता है। फलस्वरूप, केवल संवेदनशील गुणों पर केंद्रित शमन रणनीतियाँ अनजाने में नए प्रकार के संरचनात्मक अन्याय को जन्म दे सकती हैं या असमानता के मूल कारणों को संबोधित करने में विफल हो सकती हैं।

कार्यप्रणाली
यह शोध पत्र वैचारिक विश्लेषण, सैद्धांतिक मॉडलिंग और अनुभवजन्य सत्यापन को संयोजित करते हुए एक बहुआयामी दृष्टिकोण अपनाता है:

1. वैचारिक ढांचा: लेखक संवेदनशील गुणों को अंतर्निहित, संरक्षित व्यक्तिगत विशेषताओं के रूप में और सामाजिक निर्धारकों को संदर्भ-स्तर के चरों के रूप में परिभाषित करते हैं जो तीन मानदंडों को पूरा करते हैं: (1) संदर्भ स्तर (जैसे, पड़ोस) पर परिभाषित, (2) सामाजिक-संरचनात्मक सामग्री द्वारा लक्षित (नीति या संसाधन आवंटन द्वारा आकार दिया गया), और (3) बहिर्जात स्तरीकरण (समूह जो व्यक्तिगत लक्षणों से प्राप्त नहीं होते हैं) शामिल है।
2. सैद्धांतिक मॉडलिंग: संवेदनशील-गुण-केंद्रित शमन (जैसे, कोटा) और संरचनात्मक न्याय के बीच तनाव का विश्लेषण करने के लिए कॉलेज प्रवेश का एक शैलीबद्ध मॉडल बनाया गया है। मॉडल क्षेत्र-विशिष्ट जनसांख्यिकीय संरचना और शैक्षणिक तैयारी में स्टोकेस्टिक डोमिनेंस (stochastic dominance) को शामिल करता है ताकि उन बंद-रूप (closed-form) स्थितियों को प्राप्त किया जा सके जिनके तहत शमन रणनीतियाँ अनपेक्षित बोझ उत्पन्न करती हैं।
3. अनुभवजन्य विश्लेषण (जनगणना डेटा): लेखक अमेरिकी जनगणना के पब्लिक यूज़ माइक्रोडाटा एरियाज (PUMAs) को एरिया डेप्रिवेशन इंडेक्स (ADI) के साथ जोड़ते हैं। वे विभिन्न स्तरों के क्षेत्र अभाव (area deprivation) के बीच विशिष्ट जनसांख्यिकीय समूहों (जैसे, अफ्रीकी अमेरिकी महिलाएं) के लिए आय वितरण को प्रदर्शित करने के लिए विज़ुअलाइज़ करते हैं, जिससे यह सिद्ध होता है कि सामाजिक निर्धारक संवेदनशील समूहों के भीतर विषमता पैदा करते हैं।
4. अनुभवजन्य विश्लेषण (स्वास्थ्य सेवा): OSF हेल्थकेयर (लगभग 54,000 मैमोग्राफी रिकॉर्ड) के वि-पहचानीकृत (de-identified) रिकॉर्ड का उपयोग करते हुए, लेखक स्तन कैंसर स्क्रीनिंग पैटर्न का विश्लेषण करते हैं। वे "समृद्ध" और "गरीब" क्षेत्रों (ADI द्वारा परिभाषित) के बीच स्क्रीनिंग आयु की तुलना करते हैं और यह मूल्यांकन करने के लिए एक अर्ध-सिंथेटिक सिमुलेशन आयोजित करते हैं कि सामाजिक निर्धारकों को लक्षित करने वाले नीतिगत हस्तक्षेप (जैसे, गरीब क्षेत्रों में स्क्रीनिंग पैटर्न में सुधार) प्रारंभिक पहचान दरों को कैसे प्रभावित करते हैं।
5. तकनीकी आलोचना: शोध पत्र मौजूदा कारण निष्पक्षता (causal fairness) ढांचों की समीक्षा करता है, यह प्रदर्शित करते हुए कि उनका सामुदायिक स्तर की संरचनाओं के साथ बेमेल होना। यह तर्क देता है कि व्यक्तिगत स्तर के कारण ग्राफ (causal graphs) व्यक्तियों और उनके समुदायों के बीच द्वि-दिशीय प्रभावों या सामाजिक निर्धारकों की समग्र प्रकृति का पर्याप्त प्रतिनिधित्व नहीं कर सकते।

प्रमुख योगदान

• निष्पक्षता का पुनर्निर्धारण: यह पत्र केवल संवेदनशील गुणों के आधार पर भेदभाव के रूप में अन्याय के ऑडिट करने के बजाय सामाजिक निर्धारकों के माध्यम से संरचनात्मक अन्याय को मापने की ओर बढ़ने का प्रस्ताव करता है।
• सैद्धांतिक विरोधाभास: कॉलेज प्रवेश मॉडल के माध्यम से, लेखक एक प्रति-सहज निष्कर्ष प्रदर्शित करते हैं: संवेदनशील-गुण-केंद्रित शमन (जैसे, कोटा) गंभीर रूप से अन्यायपूर्ण संदर्भों में गैर-संरक्षित व्यक्तियों को कम नुकसान पहुँचाता है, लेकिन जैसे-जैसे स्थितियाँ बेहतर होती हैं, यह नए प्रकार के संरचनात्मक अन्याय को उत्पन्न करने की अधिक संभावना रखता है। विशेष रूप से, ऐसी रणनीतियाँ वंचित क्षेत्रों के गैर-संरprotected आवेदकों पर उच्च प्रतिस्पर्धी सीमाएं लागू कर सकती हैं जो संरक्षित समूहों के समान ही प्रासंगिक बाधाओं का सामना करते हैं।
• विषमता का अनुभवजन्य साक्ष्य: जनगणना और स्वास्थ्य सेवा डेटा का विश्लेषण प्रकट करता है कि समान संवेदनशील गुणों वाले व्यक्ति सामाजिक निर्धारकों (जैसे, मध्यवर्ती आय बनाम ADI) के आधार पर बहुत अलग परिणाम अनुभव करते हैं (जैसे, अफ्रीकी अमेरिकी महिलाओं के लिए मध्यवर्ती आय उच्च-ADI PUMAs में काफी कम है)।

3. वर्तमान प्रतिमानों की आलोचना: लेखक दिखाते हैं कि मानक बेंचमार्क (जैसे, Adult, Folktables) अक्सर पते-संबंधी चरों को हटा देते हैं, और कारण मॉडल आमतौर पर व्यक्तिगत स्तर पर कार्य करते हैं, जो सामुदायिक-स्तरीय संरचनात्मक बलों को पकड़ने में विफल रहते हैं।
4. कार्रवाई योग्य स्तंभ: यह पत्र भविष्य के कार्य के लिए तीन स्तंभों की रूपरेखा तैयार करता है: (1) डेटा गवर्नेंस (प्रासंगिक एग्रीगेट्स का गोपनीयता-जागरूक उपयोग), (2) मेट्रिक डिज़ाइन (गतिशील, संदर्भ-अनुकूलनीय निष्पक्षता मेट्रिक्स जैसे "सोशल डिटरमिनेंट पैरिटी"), और (3) कारण मॉडलिंग (बहु-स्तरीय मॉडल जो सामाजिक निर्धारकों को स्पष्ट हस्तक्षेप लीवर के रूप में मानते हैं)।

परिणाम

• सैद्धांतिक: प्रमेय 4.5 स्थापित करता है कि कोटा-आधारित प्रवेश, गैर-अल्पसंख्यक (non-URM) आवेदकों को, जो गरीब क्षेत्रों से हैं, समृद्ध क्षेत्रों के URM आवेदकों की तुलना में अधिक नुकसान पहुँचा सकता है, विशेष रूप से तब जब संरचनात्मक अन्याय में सुधार होता है और शैक्षणिक तैयारी का अंतर कम होता है।
• अनुभवजन्य (जनगणना): अफ्रीकी अमेरिकी महिलाओं के लिए आय वितरण उच्च-ADI (उच्च अभाव) PUMAs में निम्न-ADI PUMAs की तुलना में कम आय की ओर भारी रूप से झुका हुआ है, बावजूद इसके कि उनके संवेदनशील गुण समान हैं।
• अनुभवजन्य (स्वास्थ्य सेवा): एक एकीकृत स्वास्थ्य प्रणाली और समान दिशानिर्देशों के बावजूद, समृद्ध और गरीब क्षेत्रों के बीच श्वेत महिलाओं के लिए पहली स्तन कैंसर स्क्रीनिंग की मध्य आयु में लगभग 5 वर्ष का अंतर है। अर्ध-सिंथेटिक सिमुलेशन दिखाते हैं कि गरीब क्षेत्रों में "सुधारित" स्क्रीनिंग पैटर्न (समृद्ध क्षेत्रों की नकल करना) अपनाने से प्रारंभिक पहचान दर ~1,367 से बढ़कर ~1,461 प्रति 10,000 स्क्रीनिंग हो जाती है, जो दर्शाता है कि संरचनात्मक हस्तक्षेप महत्वपूर्ण लाभ प्रदान करते हैं।
• तकनीकी: सामाजिक निर्धारकों को विशेषताओं के रूप में शामिल करते हुए डेमोग्राफिक पैरिटी (DP) को लागू करना लगातार असमानता को कम नहीं करता है और कभी-कभी सामाजिक निर्धारकों द्वारा परिणामों को वर्गीकृत करने पर देखे गए उल्लंघनों को बदतर बना सकता है।

महत्व और दावे
यह पत्र दावा करता है कि ML निष्पक्षता के क्षेत्र को "गैर-भेदभाव" (संवेदनशील गुणों पर ध्यान केंद्रित करना) से आगे बढ़कर "संरचनात्मक न्याय" को संबोधित करने की आवश्यकता है। लेखकों का तर्क है कि सामाजिक निर्धारकों के माध्यम से संरचनात्मक अन्याय का ऑडिट और मात्रा निर्धारण किए बिना, शमन रणनीतियाँ सतही या प्रतिकूल होने का जोखिम उठाती हैं। उनका कहना है कि सामाजिक निर्धारक केवल एक अन्य संवेदनशील गुण या उसके प्रॉक्सी (proxy) नहीं हैं, बल्कि वे मौलिक संरचनात्मक लीवर का प्रतिनिधित्व करते हैं जिन्हें नए तकनीकी दृष्टिकोणों की आवश्यकता है, जिसमें नए डेटा गवर्नेंस ढांचे, गतिशील मेट्रिक्स और सामुदायिक-स्तरीय इंटरैक्शन को संभालने में सक्षम कारण मॉडल शामिल हैं। अंतिम लक्ष्य ऐसे नीतिगत हस्तक्षेपों को सक्षम करना है जो केवल जनसांख्यिकीय परिणामों के बजाय असमानता के प्रणालीगत चालकों से बेहतर सूचित हों।