🤖 machine learning

Worst-Group Equalized Odds Regularization for Multi-Attribute Fair Medical Image Classification

यह शोध पत्र एक 'वर्स्ट-ग्रुप इक्लाइज्ड-ऑड्स मार्जिन रेगुलराइज़र' प्रस्तावित करता है जो इन्फरेंस ऑपरेटिंग पॉइंट पर ट्रू और फॉल्स पॉजिटिव दरों में अत्यधिक उपसमूह विचलन को स्पष्ट रूप से दंडित करके मेडिकल इमेज क्लासिफिकेशन में जनसांख्यिकीय असमानताओं को कम करता है, जिससे समग्र नैदानिक प्रदर्शन से महत्वपूर्ण समझौता किए बिना कई विशेषताओं में निष्पक्षता में सुधार होता है।

मूल लेखक: Nikhil Cherian Kurian, Victor Caquilpan Parra, Abin Shoby, Luke Whitbread, Lauren Oakden-Rayner, Robert Vandersluis, Jessica Schrouff, Lyle J. Palmer, Mark Jenkinson

प्रकाशित 2026-05-20

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Nikhil Cherian Kurian, Victor Caquilpan Parra, Abin Shoby, Luke Whitbread, Lauren Oakden-Rayner, Robert Vandersluis, Jessica Schrouff, Lyle J. Palmer, Mark Jenkinson

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक डॉक्टर हैं जो मरीजों का निदान करने में मदद के लिए एक नए AI असिस्टेंट का उपयोग कर रहे हैं। आप चाहते हैं कि यह AI सभी के लिए सटीक हो, चाहे वे युवा हों या वृद्ध, पुरुष हों या महिला, या विभिन्न नस्लीय पृष्ठभूमि से हों।

हालाँकि, यह शोध पत्र एक छिपी हुई समस्या की ओर इशारा करता है: AI कुछ समूहों के प्रति "बहुत अधिक उत्सुक" हो सकता है (यह कहना कि "आप बीमार हैं" जबकि वे नहीं हैं) और दूसरों के प्रति "बहुत अधिक सतर्क" हो सकता है (यह कहना कि "आप ठीक हैं" जबकि वे वास्तव में बीमार हैं)।

यदि आप केवल AI के समग्र स्कोर (जैसे कि एक क्लास औसत) को देखते हैं, तो ये गलतियाँ एक-दूसरे को रद्द कर सकती हैं, जिससे AI एकदम सही दिखाई देगा। लेकिन वास्तव में, विशिष्ट समूहों के साथ अन्याय किया जा रहा है।

यहाँ बताया गया है कि लेखकों ने इसे कैसे ठीक किया, जिसे सरल उपमाओं के माध्यम से समझाया गया है:

1. समस्या: "औसत" का झूठ

AI के प्रदर्शन को एक स्कूल रिपोर्ट कार्ड की तरह सोचें।

समूह A (जैसे, वृद्ध पुरुष) को "A" ग्रेड मिलता है क्योंकि AI उनकी बीमारी को पहचानने में बहुत अच्छा है।
समूह B (जैसे, युवा महिलाएं) को "F" ग्रेड मिलता है क्योंकि AI अक्सर उनकी बीमारी को पहचानने में चूक जाता है।
औसत: यदि आप इन ग्रेडों का औसत निकालते हैं, तो आपको "C" मिलता है। स्कूल (या डॉक्टर) सोच सकता है, "खैर, औसत ठीक है, हम अच्छा कर रहे हैं।"

लेकिन चिकित्सा में, "C" औसत खतरनाक है। इसका मतलब है कि कुछ लोगों का ओवर-डायग्नोसिस (अनावश्यक उपचार मिलना) हो रहा है जबकि अन्य लोगों का अंडर-डायग्नोसिस (जीवन रक्षक उपचार चूक जाना) हो रहा है। शोध पत्र इसे "इक्वलाइज्ड ऑड्स" (Equalized Odds) की विफलता कहता है—जो कि एक फैंसी शब्द है जिसका अर्थ है "सभी के लिए समान अवसर।"

2. समाधान: "सबसे खराब स्थिति वाला" कोच

लेखकों ने AI के लिए एक नया प्रशिक्षण नियम बनाया है, जिसे वे "वर्स्ट-ग्रुप इक्वलाइज्ड ऑड्स रेगुलराइज़र" (Worst-Group Equalized Odds Regularizer) कहते हैं।

एक स्पोर्ट्स कोच की कल्पना करें जो एक टीम को प्रशिक्षित कर रहा है। टीम के औसत स्कोर को देखने के बजाय, कोच निर्णय लेता है: "मुझे औसत से कोई फर्क नहीं पड़ता। मुझे उस खिलाड़ी की परवाह है जो सबसे अधिक संघर्ष कर रहा है। यदि सबसे कमजोर खिलाड़ी में सुधार नहीं हो रहा है, तो पूरी टीम निष्पक्ष नहीं है।"

यह नया AI ट्रेनर भी वही करता है:

यह डेटा को स्कैन करता है ताकि उन लोगों के विशिष्ट समूह (जैसे, "60 वर्ष से अधिक आयु की अश्वेत महिलाएं") को खोज सके जिन्हें वर्तमान में सबसे खराब परिणाम मिल रहे हैं।
यह दो चीजें जाँचता है:
1. क्या हम इस समूह के बीमार लोगों को मिस कर रहे हैं? (अंडर-डायग्नोसिस)
2. क्या हम इस समूह के स्वस्थ लोगों पर गलत आरोप लगा रहे हैं? (ओवर-डायग्नोसिस)
यह AI के मस्तिष्क पर एक "पेनल्टी" (जुर्माना) लगाता है यदि वह इस विशिष्ट "सबसे खराब" समूह के साथ गलती करता है। यह AI को तब तक उन पर अतिरिक्त ध्यान देने के लिए मजबूर करता है जब तक कि उनके परिणाम सबसे अच्छा प्रदर्शन करने वाले समूहों के बराबर न हो जाएं।

3. "स्मूथ" (Smooth) ट्रिक

आमतौर पर, "सबसे खराब" समूह को खोजना कठिन होता है क्योंकि यह एक अकेली, डगमगाती चट्टान पर संतुलन बनाने जैसा है। यदि AI केवल एक विशिष्ट व्यक्ति पर ध्यान केंद्रित करता है जिसने गलती की है, तो गणित जटिल हो जाता है और सीखना काम करना बंद कर देता है।

लेखकों ने "लॉग-सम-एक्सप" (Log-Sum-Exp) नामक एक चतुर गणितीय ट्रिक का उपयोग किया।

उपमा: केवल एक डगमगाती चट्टान पर ध्यान केंद्रित करने के बजाय, कल्पना करें कि आप चट्टानों के एक छोटे समूह पर ध्यान केंद्रित कर रहे हैं जो सभी थोड़े डगमगा रहे हैं।
यह AI को एक एकल आउटलायर (विपथगामी) के बजाय संघर्ष कर रहे रोगियों के एक समूह से सुचारू रूप से सीखने की अनुमति देता है। यह प्रशिक्षण को स्थिर और कुशल बनाता है।

4. परिणाम: त्याग के बिना निष्पक्षता

लेखकों ने इस पद्धति का परीक्षण दो वास्तविक मेडिकल डेटासेट्स पर किया:

ग्लूकोमा के लिए आई स्कैन्स (एक छोटा डेटासेट)।
तीन अलग-अलग फेफड़ों की स्थितियों के लिए चेस्ट एक्स-रे (एक विशाल डेटासेट)।

क्या हुआ?

पहले: AI कुल मिलाकर सटीक था लेकिन अलग-अलग समूहों के साथ बहुत अलग व्यवहार करता था।
बाद में: AI बहुत अधिक निष्पक्ष हो गया। "सबसे अच्छे" समूह और "सबसे खराब" समूह के बीच का अंतर काफी कम हो गया।
कैच (Catch)? आमतौर पर, चीजों को निष्पक्ष बनाने से AI की समग्र सटीकता थोड़ी कम हो जाती है (जैसे कि एक कोच का कमजोर खिलाड़ियों पर इतना अधिक ध्यान केंद्रित करना कि मजबूत खिलाड़ी ऊब जाएं)।
आश्चर्य: इस नई पद्धति ने लगभग बिना किसी समग्र सटीकता के नुकसान के उच्च निष्पक्षता प्राप्त की। AI को सटीक होने या निष्पक्ष होने के बीच चुनाव करने की आवश्यकता नहीं थी; वह दोनों प्राप्त कर सका।

सारांश

यह शोध पत्र चिकित्सा AI को प्रशिक्षित करने का एक नया तरीका पेश करता है जो एक सख्त लेकिन निष्पक्ष कोच की तरह कार्य करता है। AI को केवल "काफी अच्छा" औसत प्रदर्शन करने से बचने के बजाय, यह लगातार उन रोगियों के समूह की तलाश करता है जिनके साथ सबसे खराब व्यवहार किया जा रहा है और AI को उन विशिष्ट त्रुटियों को ठीक करने के लिए मजबूर करता है। परिणाम एक ऐसा मेडिकल AI है जो पहले जितना ही स्मार्ट है, लेकिन बहुत अधिक निष्पक्ष है, चाहे उनकी उम्र, नस्ल या लिंग कुछ भी हो।

तकनीकी सारांश: बहु-विशेषता निष्पक्ष चिकित्सा इमेज वर्गीकरण के लिए वर्स्ट-ग्रुप इक्वलाइज्ड ऑड्स रेगुलेराइजेशन

1. समस्या विवरण

यह शोध पत्र जनसांख्यिकीय समूहों (जैसे आयु, लिंग, नस्ल) के बीच व्यवस्थित प्रदर्शन विसंगतियों के महत्वपूर्ण मुद्दे को संबोधित करता है। जबकि एग्रीगेट मेट्रिक्स जैसे कि एरिया अंडर द कर्व (AUC) अक्सर समूहों में समान दिखाई देते हैं, वे निश्चित इन्फरेंस-टाइम ऑपरेटिंग पॉइंट्स पर नैदानिक रूप से महत्वपूर्ण असमानताओं को छिपा सकते हैं। विशेष रूप से, कुछ उपसमूहों में ओवर-डायग्नोस्टिक व्यवहार (उच्च ट्रू पॉजिटिव रेट [TPR] और फॉल्स पॉजिटिव रेट [FPR]) प्रदर्शित हो सकता है, जबकि अन्य में अंडर-डायग्नोस्टिक व्यवहार (कम TPR और FPR) देखा जा सकता है। ये विपरीत प्रवृत्तियाँ एग्रीगेट AUC में एक-दूसरे को रद्द कर सकती हैं, जिससे नैदानिक निर्णय लेने में अर्थपूर्ण विसंगतियाँ छिप जाती हैं।

मौजूदा शमन रणनीतियाँ कई सीमाओं का सामना करती हैं:

उद्देश्य का गलत संरेखण (Objective Misalignment): GDRO, JTT, या FairBatch जैसी विधियाँ नमूनों को पुन: भारित (reweight) करती हैं या लॉग-लॉस को संशोधित करती हैं ताकि औसत प्रेडिक्टिव रिस्क को कम किया जा सके, जो विशिष्ट ऑपरेटिंग पॉइंट्स पर स्थानीयकृत उपसमूह विसंगतियों को पकड़ने में विफल हो सकती हैं।
एकल-विशेषता फोकस (Single-Attribute Focus): अधिकांश पूर्व कार्य एक एकल जनसांख्यिकीय विशेषता के लिए निष्पक्षता को संबोधित करते हैं, जिससे इंटरसेक्शनल (intersectional) विसंगतियाँ अनसुलझी या और भी गंभीर रह जाती हैं।
इंटरसेक्शनल चुनौतियाँ: कई विशेषताओं वाले दृष्टिकोण अक्सर सांख्यिकीय शक्ति बनाए रखने के लिए मोटे उपसमूह परिभाषाओं की आवश्यकता रखते हैं या प्रतिनिधित्व-स्तर के डिबायसिंग (जैसे म्यूचुअल इंफॉर्मेशन को दबाना) में अस्थिरता का सामना करते हैं।
सेटिंग सीमाएँ: कई विधियों का मूल्यांकन सरलीकृत बाइनरी क्लासिफिकेशन सेटिंग्स में किया जाता है, जो क्लिनिकल इमेजिंग में सामान्य मल्टी-लेबल परिदृश्यों में उनकी प्रयोज्यता को सीमित करता है।

2. कार्यप्रणाली (Methodology)

लेखक एक वर्स्ट-ग्रुप इक्वलाइज्ड ऑड्स (EO) मार्जिन रेगुलेराइज़र प्रस्तावित करते हैं जिसे यथार्थवादी मल्टी-लेबल डायग्नोस्टिक सेटिंग्स के लिए डिज़ाइन किया गया है। यह विधि थ्रेशोल्ड-मुक्त लॉजिट मार्जिन का उपयोग करके ऑपरेटिंग-पॉइंट स्तर की विसंगतियों को लक्षित करती है।

मुख्य सूत्र (Core Formulation):

समस्या सेटअप: डेटासेट में इनपुट $x_i$ , लेबल $y_i$ , और जनसांख्यिकीय विशेषताएँ $a_i$ (जैसे आयु, लिंग, नस्ल) शामिल हैं। उपसमूह $g$ को विशेषता-मूल्य युग्मों द्वारा परिभाषित किया जाता है।
वर्स्ट-ग्रुप की पहचान: प्रत्येक मिनी-बैच में, यह विधि प्रत्येक विशेषता के लिए अलग-अलग बाधाएं बनाए रखे बिना गतिशील रूप से सबसे खराब प्रदर्शन करने वाले उपसमूहों की पहचान करती है:
- पॉजिटिव्स ( $y=1$ ) के लिए, यह उस उपसमूह $g_{min}^{[+]}$ की पहचान करता है जिसका माध्य अनुमानित संभाव्यता (mean predicted probability) सबसे कम है (जो अंडर-डायग्नोसिस जोखिम को दर्शाता है)।
- नेगेटिव्स ( $y=0$ ) के लिए, यह उस उपसमूह $g_{max}^{[-]}$ की पहचान करता जिसकी माध्य अनुमानित संभाव्यता सबसे अधिक है (जो ओवर-डायग्नोसिस जोखिम को दर्शाता है)।
लोगिट मार्जिन परिभाषा: लक्ष्य अंडर-डायग्नोस किए गए समूह के सबसे खराब पॉजिटिव नमूनों और सभी नेगेटिव नमूनों के बीच, और ओवर-डायग्नोस किए गए समूह के लिए इसके विपरीत, अलगाव लागू करना है।
- आदर्श रूप से: $\min_{m: y_m=1, g_m=g_{min}^{[+]}} \ell_m > \max_{n: y_n=0} \ell_n$ और $\max_{m: y_m=0, g_m=g_{max}^{[-]}} \ell_m < \min_{n: y_n=1} \ell_n$ ।
डिफरेंशिएबल रिलैक्सेशन (Differentiable Relaxation): चूंकि हार्ड मिन/मैक्स ऑपरेटर्स नॉन-डिफरेंशिएबल होते हैं, इसलिए लेखक उन्हें लॉग-सम-एक्सप (LSE) ऑपरेटर्स से बदलते हैं। यह एक्सट्रेमा को स्मूथ करता है, जिससे वर्स्ट-केस के करीब के नमूने पेनल्टी में योगदान दे पाते हैं, जो इंटरसेक्शनल उल्लंघनों को कम करने में मदद करता है।
- $margin_{EO+} = \text{LSE}_{max}(\{\ell_i : y_i=0\}) - \text{LSE}_{min}(\{\ell_i : y_i=1, g_i=g_{min}^{[+]}\})$
- $margin_{EO-} = \text{LSE}_{max}(\{\ell_i : y_i=0, g_i=g_{max}^{[-]}\}) - \text{LSE}_{min}(\{\ell_i : y_i=1\})$
लॉस फंक्शन: एक हिंज लॉस (hinge loss) लगाया जाता है जो केवल पॉजिटिव मार्जिन (उल्लंघनों) को दंडित करता है:
- $L_{EO+} = \max(0, margin_{EO+})$
- $L_{EO-} = \max(0, margin_{EO-})$
- अंतिम ऑब्जेक्टिव $L = L_{base} + \lambda_{EO+}L_{EO+} + \lambda_{EO-}L_{EO-}$ है, जहाँ $L_{base}$ मानक बाइनरी क्रॉस-एन्ट्रॉपी (या मल्टी-लेबल के लिए क्लासेज के औसत) है।

मुख्य तंत्र: रेगुलेराइज़र एक स्थानीयकृत AUC अनुकूलन के रूप में कार्य करता है, जो पोस्ट-हॉक थ्रेशोल्ड एडजस्टमेंट की आवश्यकता के बिना, वर्स्ट-परफॉर्मिंग उपसमूह के कमजोर पॉजिटिव्स की रैंकिंग को सभी नेगेटिव्स के विरुद्ध मजबूत करता है, और इसके विपरीत नेगेटिव्स के लिए भी।

3. मुख्य योगदान

एकीकृत बहु-विशेषता रेगुलेराइज़र: एक ऐसी विधि जो सभी जनसांख्यिकीय अक्षों (आयु, लिंग, नस्ल) के माध्यम से गतिशील रूप से "सबसे खराब" उपसमूह की पहचान करती है, जिससे स्पष्ट इंटरसेक्शनल बाधाओं या मोटे उपसमूह परिभाषाओं की आवश्यकता नहीं होती।
द्विदिश दंड (Bidirectional Penalty): मानक लॉग-लॉस के विपरीत जो मुख्य रूप से री-रैंकिंग के माध्यम से AUC में सुधार करता है, यह द्विदिश रेगुलेराइज़र ऑपरेटिंग पॉइंट पर ओवर-डायग्नोसिस (FPR पक्ष) और अंडर-डायग्नोसिस (TPR पक्ष) दोनों को स्पष्ट रूप से दंडित करता है।
डिफरेंशिएबल वर्स्ट-ग्रुप ऑप्टिमाइज़ेशन: LSE-आधारित मार्जिन का उपयोग स्थिर ग्रेडिएंट-आधारित प्रशिक्षण को सक्षम बनाता है, जिससे ग्रेडिएंट फ्लो सिंगल आउटलेयर्स पर केंद्रित होने के बजाय नमूनों के बीच वितरित होता है।
मल्टी-लेबल प्रयोज्यता: इस दृष्टिकोण को यथार्थवादी मल्टी-लेबल डायग्नोस्टिक सेटिंग्स में मान्य किया गया है, जो मौजूदा साहित्य के अंतर को भरता है जो अक्सर बाइनरी क्लासिफिकेशन पर केंद्रित होता है।

4. प्रयोगात्मक परिणाम

विधि का मूल्यांकन दो मेडिकल इमेजिंग डेटासेट पर किया गया:

RNFL-OCT: ग्लूकोमा वर्गीकरण के लिए एक नेत्र विज्ञान डेटासेट (3,300 इमेज)।
MIMIC-CXR: प्ल्यूरल एफ्यूजन, कार्डियोमेगाली और एटेलेक्टेसिस के लिए मल्टी-लेबल कार्य वाला एक बड़ा चेस्ट रेडियोग्राफ डेटासेट (82,282 इमेज)।

प्रदर्शन:

निष्पक्षता मेट्रिक्स (Fairness Metrics): प्रस्तावित विधि ने दोनों डेटासेट और सभी जनसांख्यिकीय विशेषताओं (आयु, नस्ल, लिंग) में लगातार सबसे कम EOdds (TPR/FPR विसंगति के लिए वर्स्ट-टू-बेस्ट ग्रुप रेश्यो) और उच्चतम EOM (मल्टी-सबक्लास के माध्यम से अपॉर्चुनिटी की समानता) प्राप्त की।
- RNFL-OCT पर, इसने संयुक्त EOdds को 0.226 (बेसलाइन के 0.354 के मुकाबले) तक कम किया और संयुक्त EOM को 0.926 तक बढ़ाया।
- MIMIC-CXR पर, इसने संयुक्त EOdds को 0.127 (बेसलाइन के 0.254 के मुकाबले) तक कम किया और संयुक्त EOM को 0.916 तक बढ़ाया।
सटीकता ट्रेड-ऑफ (Accuracy Trade-off): विधि ने न्यूनतम समग्र AUC प्रभाव के साथ इन निष्पक्षता सुधारों को प्राप्त किया।
- RNFL-OCT: $\Delta AUC = -0.006$ ।
- MIMIC-CXR: $\Delta AUC = -0.007$ ।
तुलना: FairBatch, GDRO, JTT, एडवरसेरियल ट्रेनिंग और FaMI जैसे बेसलाइन्स की तुलना में, प्रस्तावित विधि बेहतर निष्पक्षता-सटीकता संतुलन प्रदान करती है। अन्य विधियों या तो कमजोर पैरिटी सुधार प्रदान करती हैं या महत्वपूर्ण सटीकता हानि (जैसे FaMi ने $\Delta AUC \approx -0.06$ दिखाया) उठाती हैं।

एब्लेशन (Ablation): प्रयोगों ने पुष्टि की कि दोनों पॉजिटिव ( $L_{EO+}$ ) और नेगेटिव ( $L_{EO-}$ ) रेगुलेराइजेशन घटक पूरक हैं; दोनों को सक्षम करने से सबसे मजबूत निष्पक्षता लाभ मिलता है।

5. महत्व और दावे

यह शोध पत्र दावा करता है कि इसका दृष्टिकोण प्रत्येक विशेषता या इंटरसेक्शनल समूह के लिए अलग-अलग बाधाओं को प्रबंधित करने के कम्प्यूटेशनल या सांख्यिकीय ओवरहेड के बिना, कई जनसांख्यिकीय अक्षों में निष्पक्षता को संबोधित करने के लिए एक एकीकृत तंत्र प्रदान करता है। ओवर- और अंडर-डायग्नोस्टिक व्यवहारों के लिए जिम्मेदार स्थानीयकृत स्कोर विसंगतियों को लक्षित करके, यह विधि नैदानिक प्रदर्शन को सुरक्षित रखते हुए वर्स्ट-केस उपसमूह विसंगतियों को कम करती है।

लेखक इस बात पर जोर देते हैं कि जबकि AUC ऑपरेटिंग पॉइंट पर नैदानिक रूप से प्रासंगिक विसंगतियों को छिपा सकता है, उनका रेगुलेराइज़र उन विशिष्ट स्कोर क्षेत्रों में रैंकिंग को प्रभावी ढंग से अनुकूलित करता है जो TPR और FPR विसंगतियों को संचालित करते हैं। इसके परिणामस्वरूप मौजूदा विधियों की तुलना में अधिक अनुकूल निष्पक्षता-सटीकता ट्रेड-ऑफ प्राप्त होता है, जो इसे विशेष रूप से उन क्लिनिकल इमेजिंग परिदृश्यों के लिए उपयुक्त बनाता जहाँ मल्टी-लेबल भविष्यवाणियाँ और सख्त जनसांख्यिकीय समानता महत्वपूर्ण है।