Technische Samenvatting: DuetFair en FairDRO voor Eerlijke Medische Beeldsegmentatie

1. Probleemstelling

Modellen voor medische beeldsegmentatie vertonen vaak ongelijk prestatieniveau over verschillende patiëntsubgroepen (bijvoorbeeld gedefinieerd op basis van ras, leeftijd of tumorstadium). Hoewel bestaande methoden voor eerlijkheid gericht zijn op het verbeteren van de gemiddelde prestatie over deze subgroepen, behandelen ze doorgaans elke subgroep als een intern homogene eenheid. Deze aanpak creëert een blinde vlek die de auteurs "verborgen falen binnen subgroepen" (intra-subgroup hidden failure) noemen.

In dit scenario kan een subgroep gemiddeld goed presteren omdat moeilijke gevallen met een hoge verliezen binnen die subgroep worden gemaskeerd door eenvoudigere gevallen. Bijgevolg optimaliseert het model niet voor de meest uitdagende patiënten binnen een specifieke demografische of klinische groep, wat leidt tot onbetrouwbare voorspellingen op patiëntniveau, zelfs wanneer groepsniveau-metrieken acceptabel lijken. Het artikel betoogt dat eerlijkheid in medische segmentatie vereist dat twee onderscheiden maar gekoppelde assen worden aangepakt:

1. Heterogeniteit tussen subgroepen: Aanpassing aan distributieverschillen tussen subgroepen.
2. Variatie binnen subgroepen: Waarborgen van robuustheid tegen moeilijke gevallen binnen elke subgroep.

2. Methodologie: DuetFair en FairDRO

Om deze dubbele uitdagingen aan te pakken, stellen de auteurs het DuetFair-mechanisme voor, een raamwerk met twee assen, en concretiseren dit als FairDRO (Fair Distributionally Robust Optimization).

Het DuetFair-mechanisme

DuetFair conceptualiseert eerlijkheid als een gezamenlijk probleem dat vereist:

• Aanpassing tussen subgroepen: Het model moet rekening houden met distributieve verschuivingen over verschillende groepen heen.
• Robuustheid binnen subgroepen: Het model moet betrouwbaarheid behouden voor moeilijke gevallen binnen elke groep, zodat deze niet "weggespoeld" worden door subgroepgemiddelden.

De FairDRO-implementatie

FairDRO koppelt twee specifieke componenten om het DuetFair-mechanisme te realiseren:

1. As tussen subgroepen: Distributiebewuste Mixture-of-Experts (dMoE)

   • Doel: Heterogeniteit tussen subgroepen aanpakken op het representatieniveau.
   • Mechanisme: In plaats van uitsluitend te vertrouwen op gewichting van verliezen, gebruikt FairDRO een gedeelde backbone met een door subgroep-geconditioneerde mix van experts. Gegeven een invoerbeeld $x_i$ en een subgroepattribuut $g_i$, worden intermediaire features aangepast via een gewogen som van experttransformaties die worden geselecteerd door een routingnetwerk.
   • Effect: Dit stelt het model in staat om subgroep-specifieke feature-representaties te leren, waardoor de mismatch tussen het model en diverse subgroepen wordt verminderd voordat het verlies zelfs wordt berekend.

2. As binnen subgroepen: Subgroep-geconditioneerde Distributionally Robust Optimization (DRO)

   • Doel: Variatie binnen subgroepen en verborgen falen aanpakken.
   • Mechanisme: In plaats van het empirische gemiddelde verlies binnen een subgroep ($R_g$) te minimaliseren, minimaliseert FairDRO het worst-case risico binnen een subgroep-specifieke ambiguïteitsset.
   • Formulering: Voor elke subgroep $g$ wordt het robuuste risico $R_g^{rob}$ gedefinieerd als het supremum van het verwachte verlies over een set van distributies $Q_g$ die dicht bij de empirische distributie $\hat{P}_g$ liggen (gemeten via KL-divergentie).
   • Effect: Deze optimalisatie weegt van nature hoge-verliesstalen binnen elke subgroep zwaarder, zodat moeilijke gevallen niet worden genegeerd, zelfs als de subgroep klein of heterogeen is.

De Doelfunctie:
De uiteindelijke doelfunctie aggregeert deze subgroep-specifieke robuuste risico's:
$$\min_{\theta, \phi} L_{FairDRO} = \sum_{g \in \mathcal{G}} w_g R_g^{rob}(\theta, \phi)$$
waarbij $w_g$ een genormaliseerd gewicht is ( ingesteld op $1/|\mathcal{G}|$ in de implementatie), wat zorgt voor een uniforme aggregatie van subgroeprisico's zonder handmatige opwaartse weging van specifieke groepen.

3. Belangrijkste Bijdragen

• Identificatie van Verborgen Falen binnen Subgroepen: Het artikel identificeert dat het middelen van subgroepprestaties ernstige fouten op patiëntniveau maskeert, wat motiveert voor een tweedimensionale aanpak van eerlijkheid.
• DuetFair-mechanisme: Een conceptueel raamwerk dat expliciet de aanpassing tussen subgroepen en de robuustheid binnen subgroepen scheidt en koppelt.
• FairDRO-algoritme: Een concrete implementatie die dMoE combineert voor representatieleren en subgroep-geconditioneerde DRO voor verliesaggregatie. Dit ontwerp stelt het model in staat om zich aan te passen over groepen heen, terwijl het prioriteit geeft aan moeilijke stalen binnen elke groep.
• Uitgebreide Evaluatie: Evaluatie over drie benchmarks die demografische, klinische en institutionele attributen bestrijken.

4. Experimentele Resultaten

De auteurs evalueerden FairDRO op drie datasets: Harvard-FairSeg (fundusbeelden, ras-gebaseerd), HAM10000 (huidlaesies, leeftijdsgebaseerd) en een interne 3D Radiotherapie-Doeldataset (prostaat-CT, T-stadium en instellingsgebaseerd).

• Harvard-FairSeg (Ras): FairDRO behaalde de beste eerlijkheid-geschaalde prestaties (ES-Dice en ES-IoU). Het verbeterde de Dice en IoU aanzienlijk voor de zwakste subgroep (Aziatisch) in vergelijking met sterke baselines zoals dMoE en Prompt-GDRO, terwijl het een vergelijkbare gemiddelde prestatie behield.
• HAM10000 (Leeftijd): FairDRO herstelde de prestaties voor de minderheidsgroep (Leeftijd $\ge$ 80), met verbetering van Dice en IoU ten opzichte van dMoE. De auteurs merken echter op dat, aangezien de leeftijdsgebaseerde kloof voornamelijk tussen groepen lag, de marginale winst door robuustheid binnen groepen kleiner was in vergelijking met andere instellingen.
• 3D Radiotherapie-dataset:
  • Tumorstadium (T1-T4): Hier toonde FairDRO de meest dramatische verbeteringen. Het verbeterde aanzienlijk het Dice-risico voor de slechtst presterende groep voor zeldzame stadia (T1 en T4) en verkleinde de spreiding van Dice-scores per patiënt binnen elk stadium. Kwalitatieve analyse toonde aan dat FairDRO systematische fouten in te grote uitbreiding of te kleine afbakening corrigeerde, zoals gezien in baselines.
  • Instelling: In een realistisch implementatiescenario met dataverschuiving tussen ziekenhuizen was FairDRO de enige methode die de slechtst presterende locatie (Gangnam Severance Hospital) substantieel herstelde, waardoor de prestatiekloof tussen de beste en slechtste instellingen werd verkleind terwijl de prestatie op de bronlocatie behouden bleef.

5. Betekenis en Claims

Het artikel beweert dat FairDRO een meer holistische aanpak van eerlijkheid biedt door te erkennen dat subgroepgemiddelden misleidend kunnen zijn. Door representatieleren (om groepsverschillen aan te pakken) te koppelen aan robuuste optimalisatie (om moeilijkheden binnen groepen aan te pakken), zorgt FairDRO ervoor dat:

1. Modellen de prestatie van minderheidsgroepen niet opofferen voor gemiddelde nauwkeurigheid.
2. Moeilijke gevallen binnen elke subgroep (meerderheid of minderheid) niet worden verduisterd door het groepsgemiddelde.

De auteurs stellen dat FairDRO zijn sterkste winst behaalt in situaties met aanzienlijke heterogeniteit op patiëntniveau binnen subgroepen (bijvoorbeeld de radiotherapiedataset), waar standaard methoden op groepsniveau falen om het "verborgen falen" aan te pakken. Ze erkennen bescheiden dat wanneer subgroeplabels al het grootste deel van de prestatieverschillen verklaren (zoals gezien in de leeftijdsgebaseerde HAM10000-resultaten), de extra waarde van robuustheid binnen subgroepen minder uitgesproken is, maar de methonde blijft concurrerend.

Uiteindelijk positioneert dit werk DuetFair en FairDRO als stappen richting klinische AI-systemen die zorg bieden op basis van gelijkheid, zodat de voordelen van medische AI uitbreiden tot alle patiënten, inclusief die met moeilijke of zeldzame presentaties binnen elke demografische of klinische groep.