← नवीनतम पेपर
🤖 machine learning

Reducing Biases in Record Matching Through Scores Calibration

यह शोध पत्र रिकॉर्ड मिलान में स्कोर पूर्वाग्रह को मापने के लिए एक थ्रेशोल्ड-स्वतंत्र मीट्रिक प्रस्तुत करता है और दो मॉडल-अज्ञेय (मॉडल-एग्नोस्टिक) पोस्ट-प्रोसेसिंग विधियों, Calib और C-Calib का प्रस्ताव देता है, जो अंतर्निहित मॉडलों को पुन: प्रशिक्षित किए बिना ऑप्टिमल ट्रांसपोर्ट के माध्यम से समूह-वार स्कोर वितरण को संरेखित करके डेमोग्राफिक पैरिटी और इक्वलाइज्ड ऑड्स विसंगतियों को प्रभावी ढंग से कम करते हैं।

मूल लेखक: Mohammad Hossein Moslemi, Mostafa Milani

प्रकाशित 2026-02-24
📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

मूल लेखक: Mohammad Hossein Moslemi, Mostafa Milani

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक विशाल कंपनी में एक हायरिंग मैनेजर हैं। आपके पास हजारों रेज़्यूमे (रिकॉर्ड्स) हैं और आपको उन्हें ढूंढना है जो एक ही व्यक्ति के हैं (मैचिंग)। इसे करने के लिए, आप एक स्मार्ट कंप्यूटर प्रोग्राम का उपयोग करते हैं जो हर जोड़ी के रेज़्यूमे को 0 और 100 के बीच एक "मैच स्कोर" (Match Score) देता है।

  • 90-100: "ये निश्चित रूप से एक ही व्यक्ति हैं!"
  • 0-10: "ये पूरी तरह से अलग लोग हैं।"
  • 40-60: "मैं पक्का नहीं कह सकता, शायद?"

आमतौर पर, मैनेजर एक कटऑफ लाइन (threshold) तय करता है। यदि स्कोर 50 से ऊपर है, तो वे कहते हैं "मैच!" यदि यह 50 से नीचे है, तो वे कहते हैं "नो मैच।"

समस्या: "छिपी हुई" नाइंसाफी

यह पेपर तर्क देता है कि हम निष्पक्षता (fairness) को गलत तरीके से देख रहे हैं। हम यह जांच रहे हैं कि क्या कंप्यूटर उस विशिष्ट 50-पॉइंट कटऑफ पर पुरुषों और महिलाओं के लिए समान संख्या में "मैच" निर्णय लेता है।

लेकिन लेखक कहते हैं: "यह एक शेफ को केवल इस आधार पर आंकने जैसा है कि क्या उन्होंने ठीक उसी समय नमक डाला जब आपने सूप चखा था, इस बात को नजरअंदाज करते हुए कि शायद उन्होंने पूरे सप्ताह के लिए पूरे बर्तन में बहुत अधिक नमक डाल दिया था।"

कंप्यूटर स्कोर दे सकता है जो सूक्ष्म रूप से पक्षपाती हो सकते हैं।

  • ग्रुप A (जैसे, पुरुष) के लिए, एक "शायद" वाला मैच 55 का स्कोर पा सकता है।
  • ग्रुप B (जैसे, महिलाएं) के लिए, बिल्कुल वही "शायद" वाला मैच 45 का स्कोर पा सकता है।

यदि आपका कटऑफ 50 है, तो ग्रुप A को काम पर रखा जाता है, और ग्रुप B को खारिज कर दिया जाता है। भले ही आप कटऑफ को 40 या 60 में बदल दें, अंतर बना रहता है। स्कोर स्वयं ही अनफेयर हैं, भले ही अंतिम "हाँ/नहीं" का निर्णय एक विशिष्ट क्षण में ठीक लगे।

समाधान: "स्कोर कैलिब्रेटर" (Score Calibrator)

लेखक एक तरीका प्रस्तावित करते हैं जिससे वे कंप्यूटर द्वारा अपना काम पूरा करने के बाद उन स्कोर को ठीक कर सकें, बिना कंप्यूटर को फिर से प्रशिक्षित किए या "सच्चे उत्तरों" (जो अक्सर छिपे होते हैं) को जाने बिना। वे इसे कैलिब्रेशन (Calibration) कहते हैं।

इसे एक साउंड इंजीनियर की तरह समझें जो एक गाना मिक्स कर रहा है। मूल रिकॉर्डिंग (स्कोर) में बास (ग्रset A) बहुत तेज़ है और ट्रेबल (ग्रुप B) बहुत धीमा है। इंजीनियर गाना दोबारा नहीं लिखता; वह बस आवाज़ों को संतुलित करने के लिए एक मिक्सर का उपयोग करता है ताकि दोनों समूह समान रूप से स्पष्ट सुनाई दें।

वे इसके लिए दो उपकरण प्रदान करते हैं:

1. Calib: "वॉल्यूम बैलेंसर" (सामान्य निष्पक्षता के लिए)

यह टूल डेमोग्राफिक पैरिटी (Demographic Parity) को ठीक करता है। यह पूछता है: "क्या दोनों समूहों को स्कोर की एक ही रेंज मिलती है?"

  • यह कैसे काम करता है: कल्पना करें कि आपके पास लाल कंचों (ग्रुप A) और नीले कंचों (ग्रुप B) का एक बैग है। लाल कंचे ज्यादातर भारी (उच्च स्कोर) हैं, और नीले कंचे ज्यादातर हल्के (कम स्कोर) हैं।
  • टूल एक "टारगेट बैग" (एक गणितीय औसत जिसे वॉसरस्टीन बैरीसेंटर कहा जाता है) बनाता है जो वजन के एक आदर्श, संतुलित मिश्रण का प्रतिनिधित्व करता है।
  • इसके बाद यह लाल कंचों को धीरे से नीचे और नीले कंचों को ऊपर की ओर धकेलता है जब तक कि दोनों बैगों का वजन वितरण (distribution) बिल्कुल एक जैसा न हो जाए।
  • परिणाम: अब, लाल कंचे के लिए एक "भारी" स्कोर का वही अर्थ है जो नीले कंचे के लिए एक "भारी" स्कोर का है। खेल का मैदान अब बराबर है।

2. C-Calib: "कॉन्टेक्स्ट-अवेयर बैलेंसर" (विशिष्ट निष्पक्षता के लिए)

कभी-कभी, आपको विशिष्ट स्थितियों के भीतर निष्पक्ष होने की आवश्यकता होती है। यह इक्वल अपॉर्चुनिटी (Equal Opportunity) है।

  • उदाहरण: "यदि कोई वास्तव में योग्य (एक सच्चा मैच) है, तो उसे उच्च स्कोर मिलना चाहिए, चाहे उसका समूह कुछ भी हो।"
  • समस्या: कंप्यूटर को यह नहीं पता होता कि कौन "वास्तव में योग्य" (सच्चा लेबल) है जब वह केवल कैलिब्रेट कर रहा होता है।
  • समाधान: C-Calib एक जासूस की तरह है। यह अनुमान लगाता है कि कौन योग्य है (जैसे, "यदि स्कोर उच्च है, तो मैं अनुमान लगाऊंगा कि वे योग्य हैं")।
  • इसके बाद यह कंचों को दो ढेरों में विभाजित करता है: "संभावित योग्य" और "संभावित रूप से अयोग्य"।
  • यह प्रत्येक ढेर के अंदर स्कोर को अलग-अलग संतुलित करता है। यह सुनिश्चित करता है कि "संभावित योग्य" समूह के बीच, पुरुषों और महिलाओं को समान उच्च स्कोर मिले। यह वही काम "संभावित रूप से अयोग्य" समूह के लिए भी करता है।

यह क्यों महत्वपूर्ण है

पेपर ने वास्तविक दुनिया के डेटा (जैसे शैक्षणिक शोध पत्रों या उत्पाद लिस्टिंग को मिलाने) पर इसका परीक्षण किया। उन्होंने पाया कि:

  1. छिपा हुआ पूर्वाग्रह वास्तविक है: यहाँ तक कि सबसे स्मार्ट, आधुनिक AI मॉडल भी अलग-अलग समूहों के प्रति पक्षपाती स्कोर देते हैं, भले ही वे एक एकल कटऑफ बिंदु पर निष्पक्ष दिखते हों।
  2. समाधान काम करता है: उनके "कैलिब्रेटर" टूल्स का उपयोग करके, वे इस नाइंसाफी को काफी हद तक ठीक कर सके।
  3. कोई नुकसान नहीं हुआ: महत्वपूर्ण रूप से, स्कोर को ठीक करने से कंप्यूटर अपने काम में खराब नहीं हुआ। सटीकता लगभग वैसी ही रही। यह एक गिटार को ट्यून करने जैसा है: आप गाने को बदले बिना उसे निष्पक्ष बनाते हैं।

मुख्य निष्कर्ष

हम अक्सर AI को एक साधारण "पास/फेल" टेस्ट से आंकते हैं। लेकिन वास्तविक दुनिया में, AI हमें कॉन्फिडेंस स्कोर देता है (जैसे मौसम का पूर्वानुमान कहना कि "70% बारिश की संभावना है")। यदि वह पूर्वानुमान कुछ विशेष इलाकों के प्रति पक्षपाती है, तो "पास/फेल" टेस्ट इसे मिस कर सकता है।

यह पेपर हमें उस पूर्वानुमान को ही ट्यून करने का एक नया तरीका देता है, यह सुनिश्चित करते हुए कि "70%" का अर्थ सभी के लिए समान हो, चाहे वे कोई भी हों। यह केवल अंतिम निर्णय को नहीं, बल्कि संख्याओं को निष्पक्ष बनाने के बारे में है।

अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?

आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।

Digest आज़माएँ →