🤖 machine learning

Fair Decisions from Calibrated Scores: Achieving Optimal Classification While Satisfying Sufficiency

यह शोध पत्र समूह-कैलिब्रेटेड स्कोर का उपयोग करते हुए पर्याप्तता (अनुमानित समानता) बाधा के तहत इष्टतम बाइनरी वर्गीकरण प्राप्त करने के लिए एक सटीक ज्यामितीय लक्षण वर्णन और एक सरल पोस्ट-प्रोसेसिंग एल्गोरिदम प्रस्तुत करता है, साथ ही पर्याप्तता और पृथक्करण के बीच अंतर्निहित व्यापार-बंद (ट्रेड-ऑफ) को भी संबोधित करता है।

मूल लेखक: Etam Benger, Katrina Ligett

प्रकाशित 2026-06-01

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Etam Benger, Katrina Ligett

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक न्यायाधीश हैं जो यह तय करते हैं कि किसे ऋण (loan) मिलना चाहिए, किसे नौकरी मिलनी चाहिए, या किसे जमानत मिलनी चाहिए। आपके पास प्रत्येक आवेदक के लिए एक "स्कोर" है—एक संख्या जो इस बात का अनुमान लगाती है कि उनके सफल होने की कितनी संभावना है (या जमानत के मामले में, अपराध दोबारा करने की कितनी संभावना है)।

एक आदर्श दुनिया में, आप स्कोरकार्ड पर बस एक सीधी रेखा खींच देंगे: "यदि आपका स्कोर 50 से ऊपर है, तो आपको ऋण मिलेगा; यदि यह 50 से नीचे है, तो नहीं।" यह निर्णय लेने का सबसे सरल और सटीक तरीका है।

समस्या: एक आकार सभी के लिए उपयुक्त नहीं होता (One Size Does Not Fit All)
हालाँकि, वास्तविक दुनिया में, हम निष्पक्षता की परवाह करते हैं। हम चाहते हैं कि यदि दो व्यक्तियों के पास सफलता की समान वास्तविक संभावना है, तो उनकी पृष्ठभूमि (जैसे जाति या लिंग) की परवाह किए बिना उन्हें समान निर्णय मिले।

यह पेपर एक पेचीदा विरोधाभास बताता है:

यदि आप सभी के लिए एक ही रेखा का उपयोग करते हैं (एक एकल थ्रेशोल्ड), तो आप अक्सर समूहों के साथ अन्याय करते हैं। उदाहरण के लिए, समूह A के लिए 70 का स्कोर सफलता की 90% संभावना हो सकता है, लेकिन समूह B के लिए यह केवल 60% हो सकता है। यदि आप उन सभी को ऋण देते हैं जिनका स्कोर 70 है, तो समूह A को बेहतरीन ऋण मिलते हैं, लेकिन समूह B को ऐसे ऋण मिलते हैं जिन्हें चुकाने में वे विफल होने की संभावना रखते हैं। यह सक्षमता (Sufficiency) (जिसे प्रिडिक्टिव पैरिटी भी कहा जाता है) का उल्लंघन करता है, जो मांग करता है कि एक "सकारात्मक" निर्णय (जैसे ऋण देना) सभी के लिए एक ही अर्थ रखता हो।
यदि आप अलग-अलग समूहों के लिए अलग-अलग रेखाएं खींचकर इसे ठीक करने की कोशिश करते हैं, तो आप अन्य निष्पक्षता नियमों (जैसे समान अवसर/Equal Opportunity) का उल्लंघन कर सकते हैं।

यह एक चौकोर खांचे में गोल खूंटी फिट करने जैसा है। यह पेपर कहता है कि भले ही आपके स्कोर पूरी तरह से सटीक हों, आप केवल एक ही चाकू से कट लगाकर एक निष्पक्ष परिणाम प्राप्त नहीं कर सकते।

समाधान: एक अनुकूलित "मिक्स-एंड-मैच" दृष्टिकोण
लेखक, एटम बेंजर और कैटरीना लिगेट, केक काटने का एक नया तरीका प्रस्तावित करते हैं। एक सीधी रेखा के बजाय, वे एक स्मार्ट, रैंडमाइज्ड पोस्ट-प्रोसेसिंग एल्गोरिदम का सुझाव देते हैं।

इसे इस तरह सोचें:
कल्पना कीजिए कि आपके पास सेबों (आवेदकों) का एक ढेर है जिन्हें उनके आकार (स्कोर) के आधार पर छाँटा गया है।

पारंपरिक तरीका: आप कहते हैं, "5 इंच से बड़े सभी सेब प्रीमियम बॉक्स में जाएंगे।" यह आसान है, लेकिन यह समूह A के पास ज्यादातर प्रीमियम सेब और समूह B के पास ज्यादातर सामान्य सेब छोड़ सकता है, भले ही प्रीमियम बॉक्स में दोनों समूहों के सेबों की गुणवत्ता समान होनी चाहिए।
पेपर का तरीका: आप समूह A और समूह B के सेबों को अलग-अलग देखते हैं। आप महसूस करते हैं कि दोनों समूहों के लिए प्रीमियम बॉक्स में सेबों की समान गुणवत्ता प्राप्त करने के लिए, आप केवल आकार के कटऑफ का उपयोग नहीं कर सकते।
- समूह A के लिए, आप 5 इंच से बड़े सभी सेब ले सकते हैं।
- समूह B के लिए, आप 6 इंच से बड़े सभी सेब ले सकते हैं, और आप ठीक 5.5 इंच के सेबों में से 50% को रैंडमली (यादृच्छिक रूप से) चुन सकते हैं।

यह "रैंडमाइज्ड" चरण ही कुंजी है। कभी-कभी, यदि किसी आवेदक का एक विशिष्ट स्कोर होता है, तो एल्गोरिदम उनके भाग्य का फैसला करने के लिए एक सिक्का उछालता है। ऐसा इसलिए नहीं है क्योंकि एल्गोरिदम भ्रमित है; यह सफलता की संभावनाओं को संतुलित करने के लिए एक गणितीय चाल है ताकि स्वीकृत लोगों के अंतिम समूह में सफलता की दर दोनों समूहों के लिए बिल्कुल समान हो।

"फिजिबल मैप" (Feasible Map)
लेखकों ने एक ज्यामितीय मानचित्र (ग्राफ पर एक आकृति) बनाया है जो "पॉजिटिव प्रिडिक्टिव वैल्यू" (सकारात्मक निर्णय वास्तव में कितनी बार सही होता है) और "फॉल्स ओमिशन रेट" (कितनी बार एक 'नहीं' वास्तव में एक छूटा हुआ 'हाँ' था) के हर संभावित संयोजन को दर्शाता है।

उन्होंने पाया कि निष्पक्षता के किसी भी विशिष्ट स्तर (सक्षमता) के लिए, इस मानचित्र पर एक विशिष्ट "सीमा" (boundary) होती है।
उनका एल्गोरिदम इस सीमा का पता लगाने के लिए इसे ट्रेस करता है ताकि सर्वश्रेष्ठ संभव निर्णय नियम मिल सके। यह मानचित्र पर उस बिंदु को खोजता है जो निष्पक्षता के नियम का सख्ती से पालन करते हुए उच्चतम सटीकता प्रदान करता है।

वास्तविक दुनिया के परीक्षण
उन्होंने तीन वास्तविक दुनिया के परिदृश्यों पर इनका परीक्षण किया:

FICO क्रेडिट स्कोर: यह तय करना कि किसे ऋण मिलना चाहिए। उन्होंने दिखाया कि उनका तरीका मानक क्रेडिट स्कोरिंग में अनfairness को ठीक कर सकता है और उच्च सटीकता बनाए रख सकता है।
COMPAS पुनरावृत्ति (Recidivism) स्कोर: भविष्यवाणी करना कि क्या कोई अपराधी दोबारा अपराध करेगा। उन्होंने दिखाया कि अदालतों में उपयोग किए जाने वाले मानक "कट-ऑफ" स्कोर अक्सर निष्पक्षता के परीक्षण में विफल रहते हैं, लेकिन उनका तरीका इन बाइनरी निर्णयों को बनाने के लिए एक बेहतर, निष्पक्ष तरीका खोज सकता है।
आय भविष्यवाणी: भविष्यवाणी करना कि क्या कोई $50k से अधिक कमाता है। उन्होंने एक मॉडल को प्रशिक्षित किया और फिर अपने "पोस्ट-प्रोसेसिंग" टूल का उपयोग करके मॉडल को फिर से प्रशिक्षित किए बिना निष्पक्षता के मुद्दों को ठीक किया।

निष्कर्ष (The Takeaway)
यह पेपर तर्क देता है कि आपको अपना वर्तमान स्कोरिंग सिस्टम फेंकने की आवश्यकता नहीं है। यदि आपके पास स्कोर मोटे तौर पर कैलिब्रेटेड (अर्थात, 0.8 का स्कोर वास्तव में 80% संभावना को दर्शाता है) हैं, तो आप उन स्कोरों को निष्पक्ष, बाइनरी निर्णयों (हाँ/नहीं) में बदलने के लिए उनके सरल "पोस्ट-प्रोसेसिंग" टूल का उपयोग कर सकते हैं।

यह टूल सुनिश्चित करता है कि यदि आप किसी को "हाँ" कहते हैं, तो उनकी सफल होने की संभावना इस बात पर निर्भर नहीं करती कि वे समूह A से हैं या समूह B से। यह तब हासिल होता है जब एल्गोरिदम "बॉर्डरलाइन" वाले लोगों के लिए कभी-कभी रैंडम निर्णय लेता है, जिससे उन खुरदरे किनारों को सुधारा जा सके जो अनfairness का कारण बनते हैं।

संक्षेप में: आप उच्च सटीकता और सख्त निष्पक्षता दोनों प्राप्त कर सकते हैं, लेकिन इसके लिए आपको निर्णय लेने के लिए एक एकल, कठोर रेखा का उपयोग करना बंद करना होगा। इसके बजाय, आपको एक लचीले, थोड़े रैंडमाइज्ड दृष्टिकोण की आवश्यकता है जिसे लेखकों ने अब गणितीय रूप से पूर्ण कर लिया है।

तकनीकी सारांश: कैलिब्रेटेड स्कोर से निष्पक्ष निर्णय

समस्या विवरण
सुपरवाइज्ड मशीन लर्निंग में, अनुमानित संभावनाओं (स्कोर) के आधार पर बाइनरी वर्गीकरण मौलिक है। हालांकि अनस्ट्रेंड सेटिंग्स में स्कोर पर एक एकल नियतात्मक थ्रेशोल्ड (deterministic threshold) लागू करना बेयस-ऑप्टिमल (Bayes-optimal) होता है, लेकिन यह आम तौर पर सांख्यिकीय समूह निष्पक्षता बाधाओं का उल्लंघन करता है। विशेष रूप से, यह शोधपत्र बाइनरी वर्गीकरण में सफिशिएंसी (sufficiency) (जिसे प्रेडिक्टिव पैरिटी या ग्रुप-कैलिब्रेशन भी कहा जाता है) प्राप्त करने की चुनौती को संबोधित करता है।

सफिशिएंसी यह आवश्यक बनाती है कि निर्णय के परिणाम के अधीन, संरक्षित समूहों (protected groups) में पॉजिटिव लेबल की व्यापकता (prevalence) समान हो। शोधपत्र में रेखांकित एक महत्वपूर्ण अंतर्दृष्टि यह है कि सफिशिएंसी को सरल पोस्ट-प्रोसेसिंग के माध्यम से संरक्षित नहीं किया जा सकता है। भले ही एक स्कोर पूरी तरह से ग्रुप-कैलिब्रेटेड हो (अर्थात $P(Y=1|S=s, A=a) = s$ ), इन स्कोरों को बाइनरी निर्णयों में बदलने के लिए एक एकल थ्रेशोल्ड लागू करने से आमतौर पर सफिशिएंसी का उल्लंघन होता है। यह इंडिपेंडेंस (डेमोग्राफिक पैरिटी) या सेपरेशन (इक्वलाइज्ड ऑड्स) जैसे अन्य निष्पक्षता मानदंडों के विपरीत है, जहाँ यदि स्कोर स्वयं मानदंड को संतुष्ट करता है, तो एक एकल थ्रेशोल्ड पर्याप्त होता है।

सफिशिएंसी को लागू करने वाले मौजूदा दृष्टिकोण अक्सर मजबूत धारणाओं पर निर्भर करते हैं, जैसे कि पूर्ण सपोर्ट वाले निरंतर (continuous) स्कोर वितरण, या वे उद्देश्यों को अनुमानित करने के लिए बाधाओं को शिथिल करने में शामिल होते हैं। हालाँकि, कई व्यावहारिक प्रणालियाँ सीमित-मूल्य वाले असतत (discrete), परिमित (finite) स्कोर के साथ काम करती हैं, जिससे ये धारणाएँ अमान्य हो जाती हैं।

कार्यप्रणाली
लेखक एक परिमित मान वाले ग्रुप-कैलिब्रेटेड स्कोर के तहत, सफिशिएंसी के अंतर्गत इष्टतम बाइनरी (रैंडमाइज्ड) वर्गीकरण के लिए एक सटीक समाधान प्रस्तावित करते हैं। कार्यप्रणाली तीन मुख्य चरणों में आगे बढ़ती है:

व्यवहार्य क्षेत्र का ज्यामितीय लक्षण वर्णन (Geometric Characterization of the Feasible Region):
लेखक पहले एक एकल समूह के लिए एक परिमित-मूल्य वाले कैलिब्रेटेड स्कोर का उपयोग करके, सभी प्राप्त योग्य पॉजिटिव प्रेडिक्टिव वैल्यू (PPV) और फॉल्स ओमिशन रेट (FOR) के जोड़ों के सेट को चारचरित करते हैं। वे $(p, q)$ प्लेन में "व्यवहार्य क्षेत्र" $C$ को परिभाषित करते हैं (जहाँ $p$ PPV है और $q$ FOR है)।

वे सिद्ध करते हैं कि यह क्षेत्र बेस रेट $\pi$ के सापेक्ष बिंदु $(\pi, \pi)$ के प्रति स्टार-कॉन्वेक्स (star-convex) है।
इस क्षेत्र की सीमा $\partial C$ को पीसवाइज हाइपरबोलिक आर्क (piecewise hyperbolic arcs) और सीधी रेखाओं से बनी एक निरंतर, गैर-घटती वक्र के रूप में दिखाया गया है।
सीमा को चयन दर $\mu$ (1 का अनुमान लगाने की संभावना) द्वारा पैरामीटराइज किया गया है। इष्टतम सीमा बिंदु "सॉफ्ट" थ्रेशोल्डिंग नियमों द्वारा प्राप्त किए जाते हैं, जो एक निश्चित बिन के ऊपर के स्कोर के लिए 1, नीचे के स्कोर के लिए 0, और सीमा बिन पर रैंडमाइजेशन (randomize) करते हैं।

एकाधिक समूहों के लिए प्रतिच्छेदन (Intersection for Multiple Groups):
कई समूहों (जैसे, $A=0$ और $A=1$ ) में सफिशिएंसी को संतुष्ट करने के लिए, निर्णय नियम को सभी समूहों के लिए एक ही $(p, q)$ जोड़ा प्रदान करना चाहिए। यह व्यक्तिगत व्यवहार्य क्षेत्रों के प्रतिच्छेदन $C_0 \cap C_1$ को खोजने के अनुरूप है।

लेखक इस प्रतिच्छेदन की सीमा $\partial(C_0 \cap C_1)$ को प्रत्येक समूह की सीमाओं के पॉइंटवाइज मैक्सिमम के रूप में चारचरित करते हैं: $q(p) = \max\{q_0(p), q_1(p)\}$ ।
वे यह भी प्रदर्शित करते हैं कि यह प्रतिच्छेदन सीमा भी पीसवाइस परिभाषित है और प्रत्येक समूह के डिस्क्रीट स्कोर बिन के अंतराल पर पुनरावृत्ति (iterating) करके इसे कुशलतापूर्वक ट्रेस किया जा सकता है।

अनुकूलन एल्गोरिदम (Optimization Algorithm):
ज्यामितीय लक्षण वर्णन के आधार पर, लेखक एल्गोरिदम 1 विकसित करते हैं, जो एक पोस्ट-प्रोसेसिंग प्रक्रिया है।

एल्गोरिदम केवल ग्रुप-कैलिब्रेटेड स्कोर और ग्रुप मेंबरशिप को इनपुट के रूप में लेता है।
एल्गोरिदम प्रतिच्छेदन सीमा $\partial(C_0 \cap C_1)$ के खंडों (segments) पर पुनरावृत्ति करता है।
प्रत्येक खंड के भीतर, यह इष्टतम बिंदु खोजने के लिए एक मनमाने ऑब्जेक्टिव फंक्शन (जैसे, लॉस मिनिमाइजेशन या सेपरेशन से विचलन) का मूल्यांकन करता है।
एल्गोरिदम एक डिटर्मिनिस्टिक थ्रेशोल्ड नियमों और स्वतंत्र बर्नौली रैंडम वेरिएबल्स के मिश्रण के रूप में इष्टतम क्लासिफायर का निर्माण करता है, जो यह सुनिश्चित करता है कि आउटपुट सटीक रूप से सफिशिएंसी को संतुष्ट करता है।

प्रमुख योगदान

सटीक लक्षण वर्णन: शोधपत्र परिमित-मूल्य वाले ग्रुप-कैलिब्रेटेड स्कोर के लिए क्लासिफायर के व्यवहार्य $(PPV, FOR)$ जोड़ों का एक पूर्ण ज्यामितीय विवरण प्रदान करता है, जो इसकी सीमा को पीसवाइज कर्व के रूप में पहचानता है।
इष्टतम पोस्ट-प्रोसेसिंग: यह ऑब्जेक्टिव्स की एक विस्तृत श्रेणी (लॉस मिनिमाइजेशन सहित) के लिए इष्टतम सफिशिएंट क्लासिफायर बनाने के लिए एक सरल, सटीक एल्गोरिदम प्रस्तुत करता है, जिसके लिए मूल प्रेडिक्टर को फिर से प्रशिक्षित करने या कच्चे फीचर्स तक पहुँचने की आवश्यकता नहीं होती है।
डिस्क्रीट स्कोर को संभालना: पूर्ववर्ती कार्यों के विपरीत, जिन्हें निरंतर स्कोर वितरण की आवश्यकता होती है, यह विधि विशेष रूप से व्यावहारिक रूप से प्रासंगिक सेटिंग—परिमित, डिस्क्रीट स्कोर—के लिए डिज़ाइन की गई है।
ट्रेड-ऑफ विश्लेषण: ढांचा स्पष्ट रूप से उन क्लासिफायर्स के अनुकूलन की अनुमति देता है जो सेपरेशन (इक्वलाइज्ड ऑड्स) से विचलन को कम करते हुए सफिशिएंसी को संतुष्ट करते हैं, जो इन दोनों मानदंडों के बीच सामान्य असंगति को स्वीकार करता है।

परिणाम
लेखक तीन अनुभवजन्य केस स्टडीज के माध्यम से अपने तरीके को मान्य करते हैं:

FICO स्कोर: क्रेडिटवर्दीनेस डेटा का उपयोग करते हुए, एल्गोरिदम एक ऐसा क्लासिफायर बनाता है जो 0.8676 की सटीकता के साथ प्रेडिक्टिव पैरिटी (समान PPV और FOR) को संतुष्ट करता है, जबकि एक अनस्ट्रेंड ग्रुप-अवेयर बेयस क्लासिफायर की सटीकता 0.8819 है। एक समूह के लिए इष्टतम नियम में रैंडमाइजेशन (व्यवहार्य क्षेत्र का आंतरिक भाग) की आवश्यकता थी, जबकि दूसरे ने एक नियतात्मक थ्रेशोल्ड का उपयोग किया।
COMPAS स्कोर: रेसिडिविज़्म रिस्क डेटा का उपयोग करते हुए, विधि 0.6563 की सटीकता प्राप्त करती है और सफिशिएंसी को संतुष्ट करती है। इष्टतम बिंदु "ब्लैक" समूह के लिए एक ब्रेकपॉइंट (नियतात्मक थ्रेशोल्ड) पर स्थित है, लेकिन "व्हाइट" समूह के लिए आंतरिक भाग में है।
ACS इनकम: आय भविष्यवाणी पर एंड-टू-एंड कार्यान्वयन में, पोस्ट-प्रोसेस्ड क्लासिफायर ने 0.8167 की सटीकता प्राप्त की (बनाम 0.8190 अनस्ट्रेंड), जबकि इसने मीन एब्सोल्यूट PPV गैप को $3.6 \times 10^{-2}$ से घटाकर $4.8 \times 10^{-3}$ और FOR गैप को $3.3 \times 10^{-2}$ से घटाकर $3.7 \times 10^{-3}$ कर दिया।

इसके अतिरिक्त, एक रोबस्टनेस विश्लेषण दिखाता है कि यदि इनपुट स्कोर केवल अनुमानित रूप से कैलिब्रेटेड हैं, तो परिणामी प्रेडिक्टिव पैरिटी उल्लंघन अधिकतम कैलिब्रेशन त्रुटि के दोगुने से रैखिक रूप से बंधे होते हैं।

महत्व और दावे
शोधपत्र एक ऐसी समस्या के लिए एक कठोर, सटीक समाधान प्रदान करने का दावा करता है जहाँ सरल थ्रेशोल्डिंग निष्पक्षता को बनाए रखने में विफल रहती है। व्यवहार्य क्षेत्र की ज्यामितीय संरचना का लाभ उठाकर, लेखक निर्णय लेने वालों को केवल पोस्ट-प्रोसेस्ड स्कोर का उपयोग करके सटीकता और सफिशिएंसी के बीच इष्टतम ट्रेड-ऑफ खोजने में सक्षम बनाते हैं।

लेखक इस बात पर जोर देते हैं कि उनके तरीके के लिए कच्चे फीचर्स, अतिरिक्त लेबल, या प्रेडिक्टर को फिर से प्रशिक्षित करने की आवश्यकता नहीं है, जो इसे उच्च-दांव वाले डोमेन में निष्पक्ष निर्णय तैनात करने के लिए एक व्यावहारिक उपकरण बनाता है। वे एक सीमा को स्वीकार करते हैं: जैसे-जैसे संरक्षित समूहों की संख्या बढ़ती है, व्यवहार्य क्षेत्रों के गैर-रिक्त प्रतिच्छेदन की आवश्यकता अधिक प्रतिबंधात्मक हो जाती है, जिससे सटीक सफिशिएंसी को संभावित रूप से अव्यावहारिक बनाया जा सकता है। फलस्वरूप, वे सुझाव देते हैं कि भविष्य के कार्य दो से अधिक समूहों में अंतर को कम करने के लिए सख्त सफिशिएंसी को शिथिल करने पर ध्यान केंद्रित कर सकते हैं। शोधपत्र निष्कर्ष निकालता है कि उनका दृष्टिकोण एल्गोरिद्मिक निर्णय लेने में सटीकता के साथ सामाजिक इच्छाओं (societal desiderata) को संतुलित करने के लिए एक नया उपकरण प्रदान करता है।

इसी तरह के और पेपर