🤖 AI

Detecting and Mitigating Bias by Treating Fairness as a Symmetry Operation

यह शोध पत्र एक गणनात्मक रूप से हल्का ढांचा प्रस्तावित करता है जो निष्पक्षता को एक समरूपता संचालन (symmetry operation) के रूप में औपचारिक रूप देता है, जिसमें प्रतितथ्यात्मक संवेदनशील विशेषता परिवर्तनों के तहत अपरिवर्तनीयता को बहाल करने के लिए हानि-आधारित नियमितीकरण (loss-based regularization) का उपयोग किया जाता है, जिससे बिना किसी कारण ग्राफ ज्ञान की आवश्यकता के न्यूनतम सटीकता हानि के साथ महत्वपूर्ण पूर्वाग्रह कमी प्राप्त की जाती है।

मूल लेखक: Nishit Singh

प्रकाशित 2026-06-08

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Nishit Singh

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक नए कर्मचारी को काम पर रख रहे हैं। आपके पास उम्मीदवारों की एक सूची है, और आप उनमें से सबसे अच्छे व्यक्ति को उनके योग्यता (merit) के आधार पर चुनना चाहते हैं: उनकी शिक्षा, अनुभव के वर्ष और कौशल स्कोर। हालाँकि, आपकी भर्ती प्रक्रिया में एक छिपा हुआ "ब्लाइंड स्पॉट" (अंधा कोना) भी है: आप उनके संवेदनशील गुणों (sensitive traits), जैसे कि उनके लिंग या जाति से अनजाने में प्रभावित हो सकते हैं।

यह शोध पत्र इस अन्याय को ठीक करने का एक नया तरीका प्रस्तावित करता है, न कि बाद में जटिल नियम जोड़कर, बल्कि भौतिकी (physics) से लिए गए एक सिद्धांत, सममिति (symmetry) का उपयोग करके, इस निष्पक्षता को सीधे कंप्यूटर प्रोग्राम के गणित में शामिल करके।

यहाँ उनके विचार का सरल शब्दों में विवरण दिया गया है:

1. मूल विचार: निष्पक्षता एक "दर्पण परीक्षण" के रूप में

भौतिकी में, एक प्रणाली में सममिति (symmetry) तब होती है जब उसे पलटने या घुमाने पर भी वह वैसी ही दिखती है। उदाहरण के लिए, एक पूर्ण वृत्त (circle) को आप चाहे कितना भी घुमा लें, वह एक जैसा ही दिखता है।

लेखक सुझाव देते हैं कि हम एक निष्पक्ष AI को एक पूर्ण वृत्त की तरह मानें। वे एक "दर्पण परीक्षण" (Mirror Test) प्रस्तावित करते हैं:

कल्पना कीजिए कि आप किसी उम्मीदवार का आवेदन लेते हैं।
आप उनके सभी कठिन कौशल (merit) बिल्कुल समान रखते हैं।
आप उनके संवेदनशील गुण को "पलट" देते हैं (जैसे, "पुरुष" को "महिला" में या "समूह A" को "समूह B" में बदलना)।
नियम: यदि AI निष्पक्ष है, तो उसे आवेदन के दोनों संस्करणों को बिल्कुल समान हायरिंग स्कोर देना चाहिए।

यदि केवल संवेदनशील गुण बदलने के कारण AI अलग स्कोर देता है, तो इसका मतलब है कि उसने "सममिति को तोड़ दिया" है। इस टूट को लेखक पूर्वाग्रह (bias) कहते हैं।

2. वर्तमान विधियों के साथ समस्या

आमतौर पर, जब लोग AI पूर्वाग्रह को ठीक करने की कोशिश करते हैं, तो वे पहले AI को प्रशिक्षित करते हैं, और फिर बाद में परिणामों को "ट्वीक" करने की कोशिश करते हैं (जैसे कैमरे पर एक फिल्टर लगाना)। यह शोध पत्र तर्क देता है कि यह बहुत अव्यवस्थित है क्योंकि विभिन्न निष्पक्षता नियम अक्सर एक-दूसरे से टकराते हैं।

इसके बजाय, यह शोध पत्र कहता है: "आइए इस दर्पण परीक्षण को प्रशिक्षण प्रक्रिया में ही शामिल करें।"

3. समाधान: एक "निष्पक्षता दंड" (Fairness Penalty)

लेखकों ने एक विशेष गणितीय "दंड" (जिसे लॉस फंक्शन कहा जाता है) बनाया है जिसे AI को अपने सीखने के चरण के दौरान भुगतना पड़ता है।

यह कैसे काम करता है: हर बार जब AI कोई भविष्यवाणी करता है, तो कंप्यूटर गुप्त रूप से उस व्यक्ति का एक "प्रति-तथ्यात्मक" (counterfactual) संस्करण बनाता है (उनके लिंग/जाति को पलट देता है लेकिन उनके कौशल को समान रखता है)।
जांच: यदि मूल व्यक्ति के लिए AI की भविष्यवाणी, बदले हुए व्यक्ति के लिए की गई भविष्यवाणी से भिन्न है, तो कंप्यूटर कहता है, "हे, यह अनुचित है!" और AI के स्कोर में एक दंड जोड़ देता है।
परिणाम: AI सीख जाता है कि अच्छा स्कोर पाने के लिए, उसे संवेदनशील गुण को अनदेखा करना और केवल योग्यता पर ध्यान केंद्रित करना अनिवार्य है। वह "सममित" होना सीख जाता है।

4. उन्होंने क्या परीक्षण किया

उन्होंने केवल बातें नहीं कीं; उन्होंने अपने विचार का परीक्षण करने के लिए चार अलग-अलग "नकली दुनिया" (सिंथेटिक डेटासेट) बनाईं:

दुनिया 1: एक दुनिया जहाँ बहुत कम पूर्वाग्रह है।
दुनिया 2: एक दुनिया जहाँ कौशल और लिंग आपस में थोड़े मिले हुए (सह-संबंधित) हैं।
दुनिया 3: एक दुनिया जहाँ भारी पूर्वाग्रह है और सफल उम्मीदवारों की संख्या बहुत कम है।
दुनिया 4: एक शोर वाली दुनिया जहाँ भारी पूर्वाग्रह है और भ्रमित करने वाला अतिरिक्त डेटा है।

परिणाम:

पूर्वाग्रह में कमी: यह विधि अविश्वसनीय रूप से प्रभावी थी, जिसने उनके परीक्षणों में अनुचित उल्लंघनों को 90% से अधिक कम कर दिया।
सटीकता की लागत: एकमात्र नुकसान समग्र सटीकता में मामूली गिरावट (लगभग 5%) है। इसे यह मानकर देखें कि आप यह सुनिश्चित करने के लिए एक छोटा "टैक्स" दे रहे हैं कि प्रणाली निष्पक्ष रहे।
सरलता: अन्य विधियों के विपरीत जिन्हें पूर्वाग्रह क्यों मौजूद है यह समझने के लिए एक जटिल कारण-प्रभाव मानचित्र (causal graph) की आवश्यकता होती है, यह विधि सरल है। यह केवल डेटा को देखती है और बिट्स को पलट देती है। इसे यह जानने की आवश्यकता नहीं है कि पूर्वाग्रह क्यों है, बस यह कि वह वहाँ है।

5. यह क्यों महत्वपूर्ण है

लेखक बताते हैं कि AI निष्पक्षता के अधिकांश मानक परीक्षण पश्चिमी डेटा (जैसे अमेरिकी जनगणना डेटा) पर आधारित हैं। यह विधि लचीली है। क्योंकि यह पूर्वाग्रह को एक साधारण "बिट-फ्लिप" (0 को 1 में बदलना) के रूप में मानती है, इसे किसी भी देश या संस्कृति में लागू किया जा सकता है जहाँ भेदभाव होता है, भले ही हमारे पास सटीक डेटा या स्थानीय इतिहास की गहरी समझ न हो।

संक्षेप में: शोध पत्र सुझाव देता है कि AI को निष्पक्ष बनाने के लिए, हमें उसे एक सरल नियम सिखाना चाहिए: "यदि आप किसी व्यक्ति की पहचान बदलते हैं लेकिन उनके कौशल को समान रखते हैं, तो उनके बारे में आपकी राय नहीं बदलनी चाहिए।" जब हम AI को इस नियम को तोड़ने पर दंडित करते हैं, तो हम ऐसे सिस्टम बना सकते हैं जो समाज के जटिल मानचित्रों की आवश्यकता के बिना या प्रदर्शन का बहुत अधिक त्याग किए बिना बहुत अधिक निष्पक्ष हैं।

तकनीकी सारांश: निष्पक्षता को एक सममिति संचालन (Symmetry Operation) के रूप में मानकर पूर्वाग्रह का पता लगाना और शमन करना

समस्या विवरण

उच्च-स्तरीय सामाजिक-आर्थिक संदर्भों में तैनात मशीन लर्निंग सिस्टम अक्सर सामाजिक रूप से संवेदनशील समूहों के विरुद्ध व्यवस्थित पूर्वाग्रह प्रदर्शित करते हैं। जबकि पिछले शोधों ने पोस्ट-हॉक बाधाओं के रूप में सांख्यिकीय निष्पक्षता परिभाषाओं (जैसे, जनसांख्यिकीय समानता, समान अवसर) का प्रस्ताव दिया है, मौलिक असंभवता परिणाम (चोल्डचेकोवा, 2017; क्लेनबर्ग आदि, 2016) यह दर्शाते हैं कि जब आधार दरें (base rates) विभिन्न समूहों में भिन्न होती हैं, तो कुछ निष्पक्षता मानदंडों को एक साथ संतुष्ट नहीं किया जा सकता है। एक ऐसे ढांचे की आवश्यकता है जो कारण मध्यस्थता विश्लेषण (causal mediation analysis) या जटिल प्रतिकूल प्रशिक्षण (adversarial training) पर निर्भर किए बिना, निर्माण के समय ही निष्पक्षता को लागू करे।

कार्यप्रणाली

लेखक एक नया ढांचा प्रस्तावित करते हैं जो निष्पक्षता को एक सममिति संचालन (symmetry operation) के रूप में और पूर्वाग्रह को एक सममिति भंग करने वाले संचालन (symmetry breaking operation) के रूप में औपचारिक रूप देता है।

1. सैद्धांतिक सूत्रीकरण:
ग्रुप थ्योरी और भौतिकी से प्रेरणा लेते हुए, लेखक एक क्लासिफायर $f$ को तब निष्पक्ष (सममित) परिभाषित करते हैं जब उसके आउटपुट एक विशिष्ट रूपांतरण $T$ के तहत अपरिवर्तित रहते हैं।

इनपुट विभाजन: इनपुट वेक्टर $x$ को योग्यता विशेषताओं $x_m$ (जैसे, शिक्षा, अनुभव, कौशल) और संवेदनशील गुणों $x_s$ (जैसे, लिंग, जाति, वर्ण) में विभाजित किया गया है।
रूपांतरण ऑपरेटर ( $T$ ): ऑपरेटर $T$ संवेदनशील गुणों पर एक काउंटरफैक्चुअल "बिट-फ्लिप" करता है जबकि योग्यता विशेषताओं को स्थिर रखता है: $T(x) = [x_m; 1 - x_s]$ ।
अपरिवर्तनीयता की स्थिति (Invariance Condition): एक क्लासिफायर को तब निष्पक्ष माना जाता है यदि सभी $x$ के लिए $f(x) = f(T(x))$ हो।
उल्लंघन मीट्रिक: पूर्वाग्रह को जनसंख्या उल्लंघन $V = \mathbb{E}_{x \sim P_X}[|f(x) - f(T(x))|]$ के रूप में मापा जाता है, जिसे मूल और रूपांतरित नमूनों के बीच औसत पूर्ण अंतर द्वारा अनुभवजन्य रूप से अनुमानित किया जाता है।

2. लॉस रेगुलराइजेशन के माध्यम से शमन:
इस सममिति को लागू करने के लिए, लेखक एक सममिति-पुनर्स्थापक लॉस टर्म, $L_{sym}$ पेश करते हैं, जिसे मानक टास्क लॉस ( $L_{task}$ , बाइनरी क्रॉस-एन्ट्रॉपी) में जोड़ा जाता है।

उद्देश्य फलन (Objective Function): $L(w, b) = L_{task}(w, b) + \lambda L_{sym}(w, b)$ ।
सममिति लॉस: $L_{sym} = \frac{1}{n} \sum_{i=1}^n [f(x_i) - f(T(x_i))]^2$ ।
अनुकूलन (Optimization): $L_{sym}$ का ग्रेडिएंट चेन रूल का उपयोग करके निकाला जाता है, जिससे मॉडल अपने भार (weights) को मूल व्यक्ति और उसके काउंटरफैक्चुअल स्वयं (बिट-फ्लिप किए गए संवेदनशील गुणों के साथ) के बीच भविष्यवाणी अंतराल को कम करने के लिए अपडेट कर सकता है। यह दृष्टिकोण कम्प्यूटेशनल रूप से हल्का है और इसके लिए किसी प्रतिकूल (adversary) को प्रशिक्षित करने या किसी अंतर्निहित कारण ग्राफ (causal graph) को जानने की आवश्यकता नहीं है।

3. प्रयोगात्मक सेटअप:
इस ढांचे का मूल्यांकन चार सिंथेटिक डेटासेट्स ( $D1$ – $D4$ ) पर किया गया था, जिन्हें विभिन्न स्थितियों के तहत मॉडल का परीक्षण करने के लिए डिज़ाइन किया गया था:

कम-पूर्ग्रह बनाम उच्च-पूर्ग्रह: इसे बायस इंजेक्शन वेक्टर $\gamma$ के माध्यम से नियंत्रित किया गया।
सहसंबंध (Correlation): विशेषताओं को संवेदनशील गुणों के साथ सहसंबंधित किया गया ताकि वास्तविक दुनिया के कन्फाउंडिंग (confounding) का अनुकरण किया जा सके।
शोर (Noise): स्प्यूरियस सहसंबंधों (spurious correlations) को स्पूरियस सहसंबंधों के परीक्षण के लिए पेश किया गया।
असंतुलन: प्रतिस्पर्धी भर्ती परिदृश्यों का अनुकरण करने के लिए पॉजिटिव क्लास दरों को बदला गया।

मुख्य परिणाम

प्रयोगों में 2,000 नमूनों के साथ 75/25 ट्रेन/टेस्ट स्प्लिट का उपयोग किया गया। रेगुलराइजेशन स्ट्रेंथ $\lambda$ को 0.0 से 10.0 तक स्वीप किया गया।

पूर्वाग्रह में कमी: ढांचे ने लो-बायस, कोरिलेटेड डेटासेट ( $D2$ ) के लिए टेस्ट सेट पर उल्लंघन मेट्रिक्स में 93.2% की कमी हासिल की। सभी डेटासेट्स में, ढांचे ने 90% से अधिक उल्लंघन में कमी प्रदर्शित की।
सटीकता ट्रेड-ऑफ: पूर्वाग्रह की कमी के साथ भविष्य कहनेवाला सटीकता (predictive accuracy) में मामूली लागत आई, जिसका अनुमान लगभग 5% लगाया गया।
मजबूती (Robustness): यह विधि उच्च शोर और फीचर सहसंबंध वाले डेटासेट्स में भी प्रभावी रही, जो दर्शाता है कि सममिति बाधा ने स्पष्ट कारण पृथक्करण (causal disentanglement) की आवश्यकता के बिना स्पूरियस सहसंबंधों को सफलतापूर्वक ओवरराइड किया।

महत्व और दावे

यह शोध पत्र अपने योगदान को कारण निष्पक्षता विधियों (Kusner et al., 2017) के एक व्यावहारिक, कम्प्यूटेशनल रूप से कुशल विकल्प के रूप में प्रस्तुत करता है।

कोई कारण ग्राफ आवश्यक नहीं: काउंटरफैक्चुअल फेयरनेस के विपरीत, यह विधि केवल अवलोकनात्मक डेटा (observational data) पर काम करती है, जिससे यह उन संदर्भों में लागू करने योग्य हो जाती है जहाँ कारण संरचनाएं अज्ञात या अनमॉडल हैं।
सामान्यीकरण (Generalizability): यह ढांचा संवेदनशील गुणों की विशिष्ट परिभाषा के प्रति उदासीन (agnostic) होने के लिए डिज़ाइन किया गया है। यह किसी भी संदर्भ में सामान्य होता है जहाँ एक संवेदनशील गुण को बिट-फ्लिप के रूप में परिभाषित किया जा सकता है (जैसे, लिंग, जाति, वर्ण), जिससे यह उन क्षेत्रों और उद्योगों (स्वास्थ्य सेवा, ऋण, भर्ती) के लिए उपयुक्त हो जाता है जहाँ मुख्यधारा के बेंचमार्क में प्रतिनिधित्व की कमी हो सकती है।
कम-संसाधन निष्पक्षता: प्रतिकूल प्रशिक्षण या कारण अनुमान के कम्प्यूटेशनल ओवरहेड से बचकर, यह विधि एक "महत्वपूर्ण कंप्यूट डिस्काउंट" प्रदान करती है, जो डेटा-दुर्लभ वातावरण में निष्पक्षता अनुसंधान को सुगम बनाती है।
सिंथेटिक सत्यापन: लेखकों ने ढांचे को मान्य करने के लिए ज्ञात जनरेशन प्रक्रियाओं के साथ सिंथेटिक डेटा का उपयोग किया, यह तर्क देते हुए कि लोकप्रिय पश्चिमी-केंद्रित बेंचमार्क (जैसे, COMPAS, एडल्ट इनकम) ग्लोबल साउथ में प्रचलित पूर्वाग्रहों को प्रभावी ढंग से एनकोड नहीं कर सकते हैं। यह सिंथेटिक दृष्टिकोण पूर्वाग्रह शमन रणनीतियों के नियंत्रित तनाव-परीक्षण (stress-testing) की अनुमति देता है।

संक्षेप में, यह शोध पत्र तर्क देता है कि निष्पक्षता को एक संरचनात्मक अपरिवर्तनीयता (सममिति) के रूप में मानना, कारण मॉडलिंग की भारी पूर्व-शर्तों के बिना, उच्च उल्लंघन कमी के साथ न्यूनतम सटीकता हानि को संतुलित करने वाला एक व्यवहार्य और प्रभावी तंत्र प्रदान करता है।