Neuron Incidence Redistribution for Fairness in Medical Image Classification

Technische Samenvatting: Herverdeling van Neuronincidentie voor Rechtvaardigheid in Medische Beeldclassificatie

Probleemstelling
Diepe leermodellen voor medische beeldclassificatie vertonen vaak systematische prestatieverschillen tussen demografische subgroepen (bijv. leeftijd, geslacht, ras). Hoewel bestaande rechtvaardigheidsinterventies doorgaans op uitkomstniveau-metrics (zoals sensitiviteit of vals-positieve rates) mikken via pre-processing, adversarial training of post-processing kalibratie, slagen ze er vaak niet in de interne mechanismen die deze verschillen aandrijven, te verklaren. De auteurs identificeren een specifiek latent mechanisme: kenmerkverstrengeling (of polysemantie) binnen de voorlaatste laag van transfer-geleerde modellen.

Empirische analyse toont aan dat in standaard fijngefineerde modellen (bijv. ResNet-18) de dominante activeringskanalen niet puur ziektespecifiek zijn. In plaats daarvan:

• Het dominante kanaal onder positieve voorspellingen wordt geco-geactiveerd door zowel ziekte-positieve samples als "bevoorrechte" demografische groepen (bijv. mannen, oudere patiënten). Dit leidt tot opgeblazen voorspelde kansen en overdiagnose voor deze groepen.
• Het dominante kanaal onder negatieve voorspellingen wordt bij voorkeur geco-geactiveerd door "benadeelde" groepen (bijv. vrouwen, jongere patiënten), wat hun scores onderdrukt en systematische onderdiagnose veroorzaakt.

Deze verstrengeling betekent dat een enkel kenmerkkanaal zowel klinische morfologie als demografische correlaten gelijktijdig codeert, wat direct leidt tot verschillen in True Positive Rate (TPR) en False Positive Rate (FPR).

Methodologie: Herverdeling van Neuronincidentie (NIR)
Om dit aan te pakken, stellen de auteurs Neuron Incident Redistribution (NIR) voor, een lichtgewicht, differentieerbare regularisatiemethode die werkt zonder demografische labels tijdens het trainen te vereisen.

1. Definitie van Neuronincidentie: Voor een mini-batch wordt de "incidentie" van een specifiek neuron $j$ gedefinieerd als het met de voorspelde waarschijnlijkheid gewogen gemiddelde van de activatie:
   $$\phi_j = \frac{\sum_{i=1}^{B} \hat{p}_i z_{ij}}{\sum_{i=1}^{B} \hat{p}_i + \epsilon}$$
   waarbij $\hat{p}_i$ de voorspelde waarschijnlijkheid van de positieve klasse is en $z_{ij}$ de activatie van neuron $j$ voor sample $i$. Deze weging zorgt ervoor dat de metric zich richt op de representatiestructuur van samples die het model al als positief beschouwt.

2. Herverdelingsverlies: De methode straft de variantie van deze incidentiewaarden over alle neuronen in de voorlaatste laag. Als bewijs voor de positieve klasse geconcentreerd is in enkele neuronen (hoge variantie), neemt het verlies toe. Het doel is om de "incidentie" van positieve voorspellingen uniform te verdelen over de volledige laag:
   $$\mathcal{L}_{IR} = \frac{1}{d} \sum_{j=1}^{d} (\phi_j - \bar{\phi})^2$$

3. Trainingsdoel: Het totale verlies combineert standaard Binary Cross-Entropy (BCE) met de NIR-regularisator:
   $$\mathcal{L}_{total} = \mathcal{L}_{BCE} + \lambda \mathcal{L}_{IR}$$
   De auteurs gebruiken een vaste $\lambda = 0.1$ in alle experimenten, wat aantoont dat de methode consistente verbeteringen biedt zonder dataset-specifieke hyperparameter-tuning.

Belangrijkste Bijdragen

1. Mechanistisch Inzicht: Een empirische analyse die "verstrengeling van dominante kanalen" koppelt aan asymmetrische over- en onderdiagnose. De auteurs tonen aan dat top-neuronen voor de positieve klasse bij voorkeur geco-geactiveerd worden door bevoorrechte demografieën, onafhankelijk van het ziekte-label.
2. NIR-algoritme: Een differentieerbare, label-vrije regularisator die gedistribueerde representaties van de positieve klasse over de volledige voorlaatste laag aanmoedigt, waardoor de verstrengeling tussen ziektesignalen en demografische correlaten wordt doorbroken.
3. Empirische Validatie: Aanzienlijke verbeteringen in rechtvaardigheid op de HAM10000-huidlaesiedataset en over het algemeen positieve (hoewel gemengde) resultaten op de Harvard OCT-RNFL-glaucoomdataset, bereikt zonder supervisie van gevoelige attributen.

Experimentele Resultaten
De methode werd geëvalueerd op twee datasets met behulp van een fijngefineerde ResNet-18-architectuur.

• HAM10000 (Huidlaesies):

  • Rechtvaardigheid: NIR verminderde de TPR-verschil tussen leeftijdsgroepen van 10,81% naar 0,93% en tussen geslachten van 12,04% naar 0,74% (reducties van >90%). Ook de FPR-verschillen verbeterden aanzienlijk.
  • Nauwkeurigheid: De methode leverde een marginale AUC-verbetering op van 0,51 punten (van 89,74% naar 90,25%), wat aangeeft dat gedistribueerde representaties de discriminatieve prestaties niet schaden.

• Harvard OCT-RNFL (Glaucoom):

  • Rechtvaardigheid: NIR verminderde de FPR-verschil voor ras (van 15,68% naar 10,66%) en leeftijd (van 12,69% naar 1,80%) aanzienlijk. TPR-verschillen lieten bescheiden verbeteringen zien voor ras en geslacht.
  • Nauwkeurigheid: AUC daalde met 3,03 punten (van 84,71% naar 81,68). De auteurs schrijven dit toe aan de kleinere datasetgrootte en class-ongelijkheid, waarbij het afdwingen van uniforme incidentie mogelijk neuronen met hoge incidentie deels onderdrukt die echte ziekte-informatie dragen die verstrengeld is met demografie. Dit benadrukt een inherente afweging tussen nauwkeurigheid en rechtvaardigheid in beperkte data-regimes.

Betekenis en Beweringen
Het artikel beweert dat Neuron Incident Redistribution een principiële strategie biedt om demografische rechtvaardigheid in medische AI te verbeteren door de oorzaak van verschillen aan te pakken: de polysemantische aard van dominante neuronen in transfer-geleerde modellen.

• Praktijktoepasbaarheid: In tegenstelling tot veel rechtvaardigheidsinterventies vereist NIR geen demografische labels tijdens het trainen, wat het zeer praktisch maakt voor klinische implementatie waar gevoelige attributen vaak niet beschikbaar of beschermd zijn.
• Interpreteerbaarheid: Het werk verbindt abstracte concepten van representatieleren (polysemantie, neuron-collaps) met waarneembare demografische verschillen, en biedt een mechanistische verklaring voor waarom modellen specifieke subgroepen falen.
• Bewustzijn van Afwegingen: De auteurs erkennen bescheiden dat NIR, hoewel zeer effectief op grotere datasets (HAM10000), mogelijk een kostenpost in nauwkeurigheid met zich meebrengt op kleinere, onevenwichtige datasets (OCT-RNFL). Ze presenteren dit niet als een falen, maar als een belangrijke overweging voor de afweging tussen nauwkeurigheid en rechtvaardigheid, en suggereren dat het afdwingen van breder kenmerkgebruik de afhankelijkheid van de meest discriminatieve maar demografisch verstrengelde neuronen kan verminderen.

De auteurs concluderen dat het herverdelen van latent ziektebewijs over de volledige voorlaatste laag een effectieve, label-vrije aanpak is om subgroepverschillen te verminderen, hoewel toekomstig werk zou moeten onderzoeken hoe dit kan worden gecombineerd met expliciete ontkoppeling of causale beperkingen om kenmerken verder te ontkoppelen.