Worst-Group Equalized Odds Regularization for Multi-Attribute Fair Medical Image Classification

Technische Samenvatting: Regularisatie voor Gelijkwaardige Kansen van de Slechtste Groep voor Multiattributen-Veilige Medische Beeldclassificatie

1. Probleemstelling

Het artikel behandelt de kritieke kwestie van systematische prestatieverschillen in medische AI over demografische groepen heen (bijv. leeftijd, geslacht, ras). Hoewel geaggregeerde metrieken zoals het Oppervlak Onder de Kromme (AUC) vaak vergelijkbaar lijken tussen groepen, kunnen ze klinisch significante ongelijkheden op vaste operationele punten tijdens de inferentie verbergen. Specifiek kunnen sommige subgroepen over-diagnostisch gedrag vertonen (verhoogde True Positive Rates [TPR] en False Positive Rates [FPR]), terwijl andere onder-diagnostisch gedrag tonen (verlaagde TPR en FPR). Deze tegenstrijdige neigingen kunnen elkaar opheffen in geaggregeerde AUC's, waardoor betekenisvolle dispariteiten in klinische besluitvorming worden verduisterd.

Bestaande mitigeringsstrategieën lopen tegen verschillende beperkingen aan:

• Doelwitmisalignering: Methoden zoals GDRO, JTT of FairBatch herwegen vaak steekproeven of modificeren log-verlies om het gemiddelde voorspellingsrisico te verminderen, wat kan falen in het vastleggen van gelokaliseerde subgroepdispariteiten op specifieke operationele punten.
• Enkel-attribuut focus: Het merendeel van het eerdere werk behandelt eerlijkheid voor één demografisch attribuut, waardoor intersektionele dispariteiten onbehandeld blijven of verergeren.
• Intersektionele uitdagingen: Benaderingen die meerdere attributen hanteren, vereisen vaak veralgemeende subgroepdefinities om statistische power te behouden of worstelen met instabiliteit in debiasing op representatieniveau (bijv. onderdrukken van wederzijdse informatie) voor kleine subgroepen.
• Beperkingen van de setting: Veel methoden worden geëvalueerd in vereenvoudigde binaire classificatiesettingen, wat hun toepasbaarheid beperkt tot de veelvoorkomende multi-labelscenario's in klinische beeldvorming.

2. Methodologie

De auteurs stellen een Regularisator voor Gelijkwaardige Kansen (EO) van de Slechtste Groep met Marge voor, ontworpen voor realistische multi-label diagnostische settingen. De methode richt zich op dispariteiten op het niveau van het operationele punt met behulp van drempelvrije logit-marges.

Kernformulering:

• Probleemopzet: De dataset bestaat uit invoer $x_i$, labels $y_i$ en demografische attributen $a_i$ (bijv. leeftijd, geslacht, ras). Subgroepen $g$ worden gedefinieerd door attribuut-waardeparen.
• Identificatie van de slechtste groep: In elke mini-batch identificeert de methode dynamisch de slechtst presterende subgroepen zonder aparte constraints per attribuut te handhaven:
  • Voor positieven ($y=1$) identificeert het de subgroep $g_{min}^{[+]}$ met de laagste gemiddelde voorspelde waarschijnlijkheid (wat risico op onder-diagnose aangeeft).
  • Voor negatieven ($y=0$) identificeert het de subgroep $g_{max}^{[-]}$ met de hoogste gemiddelde voorspelde waarschijnlijkheid (wat risico op over-diagnose aangeeft).
• Definitie van logit-marge: Het doel is om scheiding af te dwingen tussen de worst-case positieve steekproeven van de onder-gediagnosticeerde groep en alle negatieve steekproeven, en vice versa voor de over-gediagnosticeerde groep.
  • Ideaal: $\min_{m: y_m=1, g_m=g_{min}^{[+]}} \ell_m > \max_{n: y_n=0} \ell_n$ en $\max_{m: y_m=0, g_m=g_{max}^{[-]}} \ell_m < \min_{n: y_n=1} \ell_n$.
• Differentieerbare Relaxatie: Aangezien harde min/max-operatoren niet-differentieerbaar zijn, vervangen de auteurs deze door Log-Sum-Exp (LSE)-operatoren. Dit gladt de extremen, waardoor steekproeven die dicht bij het worst-case-scenario liggen bijdragen aan de straf, wat helpt bij het mitigeren van intersektionele schendingen.
  • $margin_{EO+} = \text{LSE}_{max}(\{\ell_i : y_i=0\}) - \text{LSE}_{min}(\{\ell_i : y_i=1, g_i=g_{min}^{[+]}\})$
  • $margin_{EO-} = \text{LSE}_{max}(\{\ell_i : y_i=0, g_i=g_{max}^{[-]}\}) - \text{LSE}_{min}(\{\ell_i : y_i=1\})$
• Verliesfunctie: Een hingleverlies wordt toegepast om alleen positieve marges (schendingen) te straffen:
  • $L_{EO+} = \max(0, margin_{EO+})$
  • $L_{EO-} = \max(0, margin_{EO-})$
  • Het uiteindelijke doel is $L = L_{base} + \lambda_{EO+}L_{EO+} + \lambda_{EO-}L_{EO-}$, waarbij $L_{base}$ de standaard binaire cross-entropy is (of gemiddeld over klassen voor multi-label).

Kernmechanisme: De regularisator fungeert als een gelokaliseerde AUC-optimalisatie, die de rangschikking van zwakke positieven uit de slechtst presterende subgroep versterkt tegenover alle negatieven, en omgekeerd voor negatieven, zonder post-hoc drempelaanpassingen te vereisen.

3. Belangrijkste Bijdragen

1. Unificerende Multiattribuut-Regularisator: Een methode die de "slechtste" subgroep dynamisch identificeert over alle demografische assen (leeftijd, geslacht, ras) tegelijkertijd, waardoor de noodzaak voor expliciete intersektionele constraints of veralgemeende subgroepdefinities wordt vermeden.
2. Bidirectionele Straf: In tegenstelling tot standaard log-verlies, dat voornamelijk de AUC verbetert via herrangschikking, straft deze bidirectionele regularisator expliciet zowel over-diagnose (FPR-kant) als onder-diagnose (TPR-kant) op het operationele punt.
3. Differentieerbare Optimalisatie van de Slechtste Groep: Het gebruik van op LSE gebaseerde marges maakt stabiele, op gradiënten gebaseerde training mogelijk voor eerlijkheid van de slechtste groep, waarbij de gradiëntstroom over steekproeven wordt verdeeld in plaats van te concentreren op enkele uitschieters.
4. Toepasbaarheid op Multi-label: De aanpak is gevalideerd in realistische multi-label diagnostische settingen, waardoor een gat in de bestaande literatuur wordt gedicht die zich vaak richt op binaire classificatie.

4. Experimentele Resultaten

De methode werd geëvalueerd op twee medische beelddatasets:

• RNFL-OCT: Een oftalmologische dataset (3.300 afbeeldingen) voor glaucoomclassificatie.
• MIMIC-CXR: Een grote dataset met thoraxradiografieën (82.282 afbeeldingen) met een multi-labeltaak voor Pleurale Effusie, Cardiomegalie en Atelectasie.

Prestaties:

• Eerlijkheidsmetrieken: De voorgestelde methode behaalde consistent de laagste EOdds (verhouding van slechtste naar beste groep voor TPR/FPR-dispariteit) en de hoogste EOM (Gelijkheid van Kansen over Meerdere Subklassen) voor beide datasets en alle demografische attributen (Leeftijd, Ras, Geslacht).
  • Op RNFL-OCT verlaagde het de gezamenlijke EOdds naar 0,226 (tegenover 0,354 voor de baseline) en verhoogde het de gezamenlijke EOM naar 0,926.
  • Op MIMIC-CXR verlaagde het de gezamenlijke EOdds naar 0,127 (tegenover 0,254 voor de baseline) en verhoogde het de gezamenlijke EOM naar 0,916.
• Afweging Accuratesse: De methode behaalde deze verbeteringen in eerlijkheid met minimale impact op de algehele AUC.
  • RNFL-OCT: $\Delta AUC = -0,006$.
  • MIMIC-CXR: $\Delta AUC = -0,007$.
• Vergelijking: In vergelijking met baselines zoals FairBatch, GDRO, JTT, Adversarial Training en FaMI, bood de voorgestelde methode een superieure balans tussen eerlijkheid en accuratesse. Andere methoden leverden óf zwakkere verbeteringen in pariteit op óf veroorzaakten aanzienlijk grotere accuratesseverliezen (bijv. FaMI toonde $\Delta AUC \approx -0,06$).

Ablatie: Experimenten bevestigden dat zowel de positieve ($L_{EO+}$) als de negatieve ($L_{EO-}$) regularisatiecomponenten complementair zijn; het inschakelen van beide levert de sterkste winst in eerlijkheid op.

5. Betekenis en Claims

Het artikel beweert dat zijn aanpak een unificerend mechanisme biedt om eerlijkheid over meerdere demografische assen aan te pakken zonder de rekenkundige of statistische overhead van het beheren van aparte constraints voor elk attribuut of elke intersektionele groep. Door zich te richten op gelokaliseerde scoreverschillen die verantwoordelijk zijn voor over- en onder-diagnostisch gedrag, mitigeert de methode dispariteiten van de slechtste subgroep terwijl de diagnostische prestatie behouden blijft.

De auteurs benadrukken dat hoewel AUC klinisch relevante dispariteiten op het operationele punt kan verbergen, hun regularisator effectief de rangschikking optimaliseert in de specifieke scoregebieden die TPR- en FPR-dispariteiten aandrijven. Dit resulteert in een gunstigere afweging tussen eerlijkheid en accuratesse in vergelijking met bestaande methoden, waardoor het bijzonder geschikt is voor klinische beeldvormingsscenario's waar multi-labelvoorspellingen en strikte demografische pariteit cruciaal zijn.