🤖 AI

DuetFair: Coupling Inter- and Intra-Subgroup Robustness for Fair Medical Image Segmentation

यह शोध पत्र DuetFair का प्रस्ताव करता है, जो एक ड्यूल-एक्सिस फ्रेमवर्क है जिसमें FairDRO एल्गोरिदम शामिल है, जो वितरण-जागरूक मिश्रण-विशेषज्ञों (distribution-aware mixture-of-experts) को उपसमूह-सशर्त वितरण रूप से सुदृढ़ अनुकूलन (subgroup-conditioned distributionally robust optimization) के साथ जोड़ता है ताकि मेडिकल इमेज सेगमेंटेशन में अंतर-उपसमूह असमानताओं और इंट्रा-उपसमूह छिपी हुई विफलताओं को एक साथ संबोधित किया जा सके, जिससे कई बेंचमार्क में बेहतर समानता और सबसे खराब स्थिति के प्रदर्शन को प्राप्त किया जा सके।

मूल लेखक: Yiqi Tian, Sangjoon Park, Bo Zeng, Pengfei Jin, Yujin Oh, Quanzheng Li

प्रकाशित 2026-05-12

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Yiqi Tian, Sangjoon Park, Bo Zeng, Pengfei Jin, Yujin Oh, Quanzheng Li

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक मुख्य शेफ (head chef) हैं जो एक विशाल रसोई चला रहे हैं जहाँ हजारों लोगों के लिए भोजन तैयार किया जाता है। आपका लक्ष्य यह सुनिश्चित करना है कि हर एक प्लेट बेहतरीन हो। हालाँकि, आप एक समस्या देखते हैं: जबकि औसत भोजन का स्वाद बहुत अच्छा है, कुछ विशिष्ट ग्राहकों के समूह (जैसे कि बहुत बुजुर्ग या जिनका कोई विशिष्ट आहार संबंधी प्रतिबंध है) को लगातार कम पका हुआ या अत्यधिक मसालेदार भोजन मिल रहा है।

मेडिकल एआई (Medical AI) की दुनिया में, यह बिल्कुल वैसा ही होता है जैसा कि मेडिकल इमेज सेगमेंटेशन (medical image segmentation) के साथ होता है। ये कंप्यूटर प्रोग्राम होते हैं जो एक्स-रे या सीटी स्कैन में अंगों या ट्यूमर के चारों ओर रूपरेखा खींचते हैं। यह शोध पत्र तर्क देता है कि वर्तमान एआई मॉडल उसी शेफ की तरह हैं: वे "औसत" प्रदर्शन को देखते हैं और सोचते हैं कि सब कुछ ठीक है, लेकिन वे इस तथ्य को नजरअंदाज कर देते हैं कि कुछ विशिष्ट रोगियों को बहुत खराब परिणाम मिल रहे हैं।

यहाँ इस शोध पत्र के समाधान, DuetFair और FairDRO का सरल विवरण दिया गया है, जो रोजमर्रा के उपमाओं (analogies) का उपयोग करता है।

छिपी हुई समस्या: "औसत का झूठ" (The Average Lie)

लेखक इसे "इंट्रा-सबग्रुप हिडन फेलियर" (Intra-Subgroup Hidden Failure) कहते हैं।

कल्पना कीजिए कि आपके पास गणित की कक्षा में छात्रों का एक समूह (एक "सबग्रुप") है। यदि आप कक्षा के औसत को देखते हैं, तो वह 'B' ग्रेड हो सकता है। लेकिन क्या होगा अगर वह औसत इस तथ्य को छिपा रहा हो कि एक छात्र बुरी तरह से फेल हो रहा है जबकि दूसरा A+ प्राप्त कर रहा है? औसत यह दिखाता है कि हर कोई "ठीक" कर रहा है, लेकिन संघर्ष कर रहा छात्र वास्तव में पीछे छूट रहा है।

मेडिकल इमेजिंग में, एक सबग्रुप "ब्लैक पेशेंट्स" या "स्टेज 4 ट्यूमर वाले पेशेंट्स" हो सकते हैं। यदि एआई उस समूह के लिए औसत स्कोर सही प्राप्त कर लेता है, तो वह अभी भी उस समूह के भीतर सबसे कठिन मामलों पर बड़ी गलतियाँ कर सकता है। "औसत" इन विफलताओं को छिपा रहा है।

समाधान: "डुएट" दृष्टिकोण (The "Duet" Approach)

शोध पत्र एक दो-भाग वाली रणनीति प्रस्तावित करता है जिसे DuetFair कहा जाता है (Duet का अर्थ है दो गायकों का एक साथ मिलकर गाना)। उनका मानना है कि निष्पक्षता (fairness) के लिए केवल एक नहीं, बल्कि दो अक्षों (axes) की आवश्यकता है:

"समूहों के बीच" का अक्ष (Inter-Subgroup): यह सुनिश्चित करना कि एआई विभिन्न समूहों (जैसे अलग-अलग नस्ल या उम्र) के साथ एक-दूसरे की तुलना में निष्पक्ष व्यवहार करे।
"समूहों के भीतर" का अक्ष (Intra-Subgroup): यह सुनिश्चित करना कि एआई प्रत्येक समूह के भीतर सबसे कठिन मामलों को अनदेखा न करे।

इसे एक स्पोर्ट्स टीम को प्रशिक्षित करने वाले कोच के रूप में सोचें।

पुराना तरीका: कोच टीम के औसत स्कोर को देखता है और कहता है, "अच्छा काम किया!"
नया तरीका (DuetFair): कोच औसत स्कोर को भी देखता है और विशेष रूप से उन खिलाड़ियों की पहचान करता है जो सबसे अधिक संघर्ष कर रहे हैं, उन्हें लक्षित मदद देकर ताकि कोई भी पीछे न छूटे।

यह कैसे काम करता है: "FairDRO" टूल

इसे साकार करने के लिए, उन्होंने FairDRO नामक एक टूल बनाया है। यह दो चतुर युक्तियों का उपयोग करता है:

1. "विशेषज्ञ शेफ" (dMoE)
कल्पना कीजिए कि एक रेस्टोरेंट में जहाँ एक ही शेफ सब कुछ बनाने के बजाय, शेफ की एक टीम है। जब कोई ग्राहक आता है, तो एक स्मार्ट मैनेजर (जिसे "राउटर" कहा जाता है) उनके ऑर्डर को देखता है और उन्हें उस शेफ के पास भेजता है जो उस विशिष्ट प्रकार के भोजन के लिए सबसे अच्छा है।

एआई में, इसका मतलब है कि यदि कोई मरीज किसी विशिष्ट समूह (जैसे "एशियाई" या "ट्यूमर स्टेज 1") से संबंधित है, तो एआई उनकी इमेज को न्यूरल नेटवर्क के एक विशेष हिस्से की ओर भेजता है जो उस समूह की अनूठी विशेषताओं को संभालने के लिए जाना जाता है। यह "समूहों के बीच" (Between Groups) की समस्या को ठीक करता है।

2. "कठिन-मामलों पर स्पॉटलाइट" (DRO Loss)
अब, कल्पना कीजिए कि "एशियाई" समूह के भीतर भी, कुछ मरीजों के स्कैन बहुत धुंधले या पढ़ने में कठिन हैं। एआई इन कठिन स्कैनों को अनदेखा कर सकता है क्योंकि "आसान" एशियाई मरीजों के अच्छे स्कोर औसत को ऊपर खींच लेते हैं।

FairDRO एक "स्पॉटलाइट" तकनीक का उपयोग करता है। यह प्रत्येक समूह के भीतर देखता है और कहता है, "हे, हम धुंधले स्कैन वाले मरीजों को अनदेखा कर रहे हैं!" यह एआई को समूह के भीतर उन विशिष्ट, कठिन मामलों पर अतिरिक्त ध्यान देने के लिए मजबूर करता है। यह "समूहों के भीतर" (Inside Groups) की समस्या को ठीक करता है।

परिणाम: उन्होंने क्या पाया?

टीम ने तीन अलग-अलग मेडिकल डेटासेट्स पर इसका परीक्षण किया:

आंखों के स्कैन (Harvard-FairSeg): उन्होंने विभिन्न नस्लों को देखा।
स्किन लीजन स्कैन (HAM10000): उन्होंने विभिन्न आयु समूहों को देखा।
प्रोस्टेट कैंसर स्कैन (3D Radiotherapy): उन्होंने ट्यूमर के चरणों और विभिन्न अस्पतालों को देखा।

बड़ी जीत:

आंखों के स्कैन पर: FairDRO ने "एशियाई" समूह के लिए परिणामों को बहुत बेहतर बनाया (जो पहले संघर्ष कर रहे थे) बिना अन्य समूहों के परिणामों को नुकसान पहुँचाए। यह ऐसा था जैसे शेफ ने आखिरकार मसालेदार व्यंजन को बिना हल्के व्यंजनों को खराब किए, पूरी तरह से बनाना सीख लिया हो।
कैंसर स्कैन पर: यहाँ "हिडन फेलियर" (छिपी हुई विफलता) को ठीक करने वाला समाधान सबसे अधिक चमका। अस्पताल के डेटा में, कुछ अस्पतालों में अन्य की तुलना में बहुत कठिन मामले थे। पिछले तरीकों ने औसत को ठीक करने की कोशिश की लेकिन फिर भी सबसे कठिन मरीजों पर विफल रहे। FairDRO ने "वर्स्ट-केस" (सबसे खराब स्थिति वाले) मरीजों के लिए परिणामों में काफी सुधार किया, यह सुनिश्चित करते हुए कि सबसे कठिन मामलों को भी उनके उपचार के लिए सटीक रूपरेखा मिले।

निष्कर्ष (The Bottom Line)

शोध पत्र का दावा है कि विभिन्न समूहों के लिए विशेष हैंडलिंग को उन समूहों के भीतर सबसे कठिन मामलों पर अतिरिक्त ध्यान के साथ जोड़कर, हम एक ऐसा मेडिकल एआई बना सकते हैं जो वास्तव में निष्पक्ष है। यह एआई को इस तथ्य को छिपाने से रोकता है कि कुछ मरीजों को खराब देखभाल मिल रही है सिर्फ इसलिए क्योंकि "औसत" अच्छा दिख रहा है।

सीमाओं पर नोट: लेखक स्वीकार करते हैं कि यदि समूह पहले से ही बहुत स्पष्ट और अलग हैं, तो यह अतिरिक्त "कठिन-मामला" फोकस बहुत अधिक मूल्य नहीं जोड़ सकता है। लेकिन वास्तविक दुनिया की जटिलता में, जहाँ एक ही समूह के भीतर मरीज बहुत भिन्न हो सकते हैं, यह तरीका गेम-चेंजर है। वे यह भी नोट करते हैं कि एआई को काम करने के लिए मरीज के समूह (जैसे आयु या नस्ल) को जानने की आवश्यकता होती है, जो आमतौर पर अस्पताल के रिकॉर्ड में उपलब्ध होता है।

तकनीकी सारांश: चिकित्सा छवि विभाजन के लिए DuetFair और FairDRO

1. समस्या विवरण (Problem Statement)

चिकित्सा छवि विभाजन (medical image segmentation) मॉडल अक्सर विभिन्न रोगी उपसमूहों (जैसे कि नस्ल, आयु, या ट्यूमर चरण द्वारा परिभाषित) के बीच असमान प्रदर्शन प्रदर्शित करते हैं। जबकि मौजूदा निष्पक्षता (fairness) विधियाँ विभिन्न उपसमूहों में औसत प्रदर्शन को बेहतर बनाने का प्रयास करती हैं, वे आमतौर पर प्रत्येक उपसमूह को एक आंतरिक रूप से सजातीय (homogeneous) इकाई के रूप में मानती हैं। यह दृष्टिकोण एक ऐसी कमी पैदा करता है जिसे लेखक "इंट्रा-सबग्रुप हिडन फेलियर" (intra-subgroup hidden failure) कहते हैं।

इस परिदृश्य में, एक उपसमूह औसत रूप से अच्छा प्रदर्शन करता हुआ दिखाई दे सकता है क्योंकि उस उपसमूह के भीतर कठिन, उच्च-हानि (high-loss) वाले मामलों को आसान मामलों द्वारा ढक दिया जाता है। फलस्वरूप, मॉडल उस विशिष्ट जनसांख्यिकीय या नैदानिक समूह के भीतर सबसे चुनौतीपूर्ण रोगियों के लिए अनुकूलित होने में विफल रहता है, जिससे समूह-स्तरीय मेट्रिक्स स्वीकार्य दिखने के बावजूद अविश्वसनीय रोगी-स्तरीय भविष्यवाणियाँ होती हैं। शोधपत्र का तर्क है कि चिकित्सा विभाजन में निष्पक्षता के लिए दो अलग-अलग लेकिन जुड़े हुए अक्षों (axes) को संबोधित करने की आवश्यकता है:

इंटर-सबग्रग्रुप हेटेरोजेनिटी (Inter-subgroup heterogeneity): उपसमूहों के बीच वितरण संबंधी अंतरों के अनुकूल होना।
इंट्रा-सबग्रुप वेरिएशन (Intra-subgroup variation): प्रत्येक उपसमूह के भीतर कठिन मामलों के विरुद्ध मजबूती सुनिश्चित करना।

2. कार्यप्रणाली: DuetFair और FairDRO

इन दोहरी चुनौतियों को संबोधित करने के लिए, लेखक DuetFair तंत्र, एक द्वि-अक्षीय ढांचा (dual-axis framework), प्रस्तावित करते हैं और इसे FairDRO (Fair Distributionally Robust Optimization) के रूप में क्रियान्वित करते हैं।

DuetFair तंत्र

DuetFair निष्पक्षता को एक संयुक्त समस्या के रूप में अवधारणाबद्ध करता है जिसके लिए आवश्यक है:

इंटर-सबग्रुप अनुकूलन (Inter-subgroup adaptation): मॉडल को विभिन्न समूहों के बीच वितरण संबंधी बदलावों (distributional shifts) को ध्यान में रखना चाहिए।
इंट्रा-सबग्रुप मजबूती (Intra-subgroup robustness): मॉडल को प्रत्येक समूह के भीतर कठिन मामलों के लिए विश्वसनीयता बनाए रखनी चाहिए, ताकि उन्हें उपसमूह औसत द्वारा "धोखा" (wash out) न दिया जा सके।

FairDRO कार्यान्वयन

FairDRO इस DuetFair तंत्र को साकार करने के लिए दो विशिष्ट घटकों को जोड़ता है:

इंटर-सबग्रgroup अक्ष: डिस्ट्रीब्यूशन-अवेयर मिक्सचर-ऑफ-एक्सपर्ट्स (dMoE)
- लक्ष्य: प्रतिनिधित्व स्तर (representation level) पर इंटर-सबग्रुप हेटेरोजेनिटी को संबोधित करना।
- तंत्र: केवल लॉस वेटिंग (loss weighting) पर निर्भर रहने के बजाय, FairDRO एक साझा बैकबोन का उपयोग करता है जिसमें एक सबग्रुप-कंडीशन्ड मिक्सचर-ऑफ-एक्सपर्ट्स होता है। एक इनपुट छवि $x_i$ और सबग्रग्रुप विशेषता $g_i$ को देखते हुए, मध्यवर्ती विशेषताओं को एक रूटिंग नेटवर्क द्वारा चयनित विशेषज्ञ रूपांतरणों के भारित योग (weighted sum) के माध्यम से अनुकूलित किया जाता है।
- प्रभाव: यह मॉडल को उपसमूह-विशिष्ट फीचर प्रतिनिधित्व सीखने की अनुमति देता है, जिससे लॉस की गणना होने से पहले ही मॉडल और विविध उपसमूहों के बीच के अंतर को कम किया जा सके।
इंट्रा-सबग्रुप अक्ष: सबग्रुप-कंडीशन्ड डिस्ट्रीब्यूशनली रस्ट ऑप्टिमाइजेशन (DRO)
- लक्ष्य: इंट्रा-सबग्रुप वेरिएशन और छिपी हुई विफलताओं को संबोधित करना।
- तंत्र: एक उपसमूह के भीतर अनुभवजन्य औसत हानि ( $R_g$ ) को कम करने के बजाय, FairDRO एक उपसमूह-विशिष्ट अस्पष्टता सेट (ambiguity set) के भीतर सबसे खराब स्थिति के जोखिम को कम करता है।
- फॉर्मूलेशन: प्रत्येक उपसमूह $g$ के लिए, रोबस्ट रिस्क $R_g^{rob}$ को अनुभवजन्य वितरण $\hat{P}_g$ के करीब वितरणों के सेट $Q_g$ (KL-diverance द्वारा मापा गया) पर अपेक्षित हानि के सुप्रीमम (supremum) के रूप में परिभाषित किया गया है।
- प्रभाव: यह अनुकूलन स्वाभाविक रूप से प्रत्येक उपसमूह के भीतर उच्च-हानि वाले नमूनों को अधिक महत्व देता है, यह सुनिश्चित करता है कि कठिन मामलों को अनदेखा न किया जाए, भले ही उपसमूह छोटा या विषम हो।

ऑब्जेक्टिव फंक्शन (The Objective Function):
अंतिम ऑब्जेक्टिव इन उपसमूह-विशिष्ट रोबस्ट रिस्क को एकत्रित करता है:
$\min_{\theta, \phi} L_{FairDRO} = \sum_{g \in \mathcal{G}} w_g R_g^{rob}(\theta, \phi)$
जहाँ $w_g$ एक सामान्यीकृत भार (जिसे कार्यान्वयन में $1/|\mathcal{G}|$ के रूप में सेट किया गया है) है, जो विशिष्ट समूहों के मैनुअल अप-वेटिंग के बिना उपसमूह जोखिमों के समान एकत्रीकरण को सुनिश्चित करता है।

3. मुख्य योगदान

इंट्रा-सबग्रुप हिडन फेलियर की पहचान: शोधपत्र यह पहचानता है कि उपसमूह प्रदर्शन का औसत करने से गंभीर रोगी-स्तरीय त्रुटियां छिप जाती हैं, जो एक द्वि-अक्षीय दृष्टिकोण के लिए प्रेरित करती है।
DuetFair तंत्र: एक वैचारिक ढांचा जो इंटर-सबग्रुप अनुकूलन और इंट्रा-सबग्रुप मजबूती को स्पष्ट रूप से अलग और युग्मित करता है।
FairDRO एल्गोरिदम: एक मूर्त कार्यान्वयन जो प्रतिनिधित्व सीखने के लिए dMoE और लॉस एकत्रीकरण के लिए सबग्रुप-कंडीशन्ड DRO को जोड़ता है। यह डिज़ाइन मॉडल को समूहों के बीच अनुकूलित होने के साथ-साथ प्रत्येक समूह के भीतर कठिन नमूनों को प्राथमिकता देने की अनुमति देता है।
व्यापक मूल्यांकन: जनसांख्यिकीय, नैदानिक और संस्थागत विशेषताओं को कवर करने वाले तीन बेंचमार्क पर मूल्यांकन।

4. प्रयोगात्मक परिणाम

लेखकों ने तीन डेटासेट्स पर FairDRO का मूल्यांकन किया: Harvard-FairSeg (फंडस इमेज, नस्ल-आधारित), HAM10000 (स्किन लीजन, आयु-आधारित), और एक इन-हाउस 3D रेडियोथेरेपी टारगेट डेटासेट (प्रोस्टेट CT, T-स्टेज और संस्थान-आधारित)।

Harvard-FairSeg (नस्ल): FairDRO ने सर्वश्रेष्ठ इक्विटी-स्केल्ड प्रदर्शन (ES-Dice और ES-IoU) प्राप्त किया। इसने dMoE और Prompt-GDRO जैसे मजबूत बेसलाइनों की तुलना में सबसे कमजोर उपसमूह (एशियाई) के लिए Dice और IoU में महत्वपूर्ण सुधार किया, जबकि तुलनीय औसत प्रदर्शन बनाए रखा।
HAM10000 (आयु): FairDRO ने अल्पसंख्यक समूह (आयु $\ge$ 80) के प्रदर्शन को पुनः प्राप्त किया, जिससे dMoE की तुलना में Dice और IoU में सुधार हुआ। हालांकि, लेखकों ने नोट किया कि चूंकि आयु-आधारित अंतर मुख्य रूप से इंटर-ग्रुप था, इसलिए इंट्रा-ग्रुप मजबूती से मिलने वाला लाभ अन्य सेटिंग्स की तुलना में कम था।
3D रेडियोथेरेपी डेटासेट:
- ट्यूमर स्टेज (T1-T4): यहाँ FairDRO ने सबसे नाटकीय सुधार दिखाया। इसने दुर्लभ चरणों (T1 और T4) के लिए सबसे खराब-समूह Dice में महत्वपूर्ण सुधार किया और प्रत्येक चरण के भीतर प्रति-रोगी Dice स्कोर के प्रसार को कम किया। गुणात्मक विश्लेषण ने दिखाया कि FairDRO ने बेसलाइन द्वारा देखी गई व्यवस्थित ओवर-एक्सटेंशन या अंडर-डेलिनिएशन त्रुटियों को सुधारा।
- संस्थान (Institution): डेटा शिफ्ट वाले वास्तविक तैनाती परिदृश्य में, FairDRO एकमात्र ऐसा तरीका था जिसने सबसे खराब प्रदर्शन करने वाले साइट (Gangnam Severance Hospital) को प्रभावी ढंग से सुधारा, जिससे स्रोत साइट पर प्रदर्शन को बनाए रखते हुए सर्वश्रेष्ठ और सबसे खराब संस्थानों के बीच के अंतर को कम किया गया।

5. महत्व और दावे

शोधपत्र का दावा है कि FairDRO निष्पक्षता के प्रति अधिक समग्र दृष्टिकोण प्रदान करता है क्योंकि यह स्वीकार करता है कि उपसमूह औसत भ्रामक हो सकते हैं। इंट्रा-सबग्रुप मजबूती (intra-subgroup robustness) को प्रतिनिधित्व सीखने (समूह अंतरों को संभालने के लिए) के साथ जोड़कर, FairDRO यह सुनिश्चित करता है कि:

मॉडल औसत सटीकता के लिए अल्पसंख्यक समूह के प्रदर्शन का त्याग नहीं करते हैं।
किसी भी उपसमूह (बहुसंख्यक या अल्पसंख्यक) के भीतर कठिन मामलों को समूह के माध्य (mean) द्वारा छिपाया नहीं जा सकता है।

लेखक कहते हैं कि FairDRO उन सेटिंग्स में सबसे मजबूत लाभ प्राप्त करता है जहाँ उपसमूहों के भीतर पर्याप्त रोगी-स्तरीय विषमता (patient-level heterogeneity) है (जैसे, रेडियोथेरेपी डेटासेट), जहाँ मानक समूह-स्तरीय विधियाँ "हिडन फेलियर्स" को संबोधित करने में विफल रहती हैं। वे विनम्रतापूर्वक स्वीकार करते हैं कि जब उपसमूह लेबल पहले से ही प्रदर्शन के अधिकांश अंतर को स्पष्ट करते हैं (जैसा कि आयु-आधारित HAM10000 परिणामों में देखा गया है), तो इंट्रा-सबग्रुप मजबूती का अतिरिक्त मूल्य कम स्पष्ट होता है, लेकिन विधि प्रतिस्पर्धी बनी रहती है।

अंततः, यह कार्य DuetFair और FairDRO को नैदानिक AI सिस्टम की दिशा में एक कदम के रूप में स्थापित करता है जो न्यायसंगत देखभाल प्रदान करते हैं, यह सुनिश्चित करते हुए कि चिकित्सा AI के लाभ किसी भी जनसांख्यिकीय या नैदानिक समूह के भीतर कठिन या दुर्लभ प्रस्तुतियों वाले सभी रोगियों तक पहुँचें।