Neuron Incidence Redistribution for Fairness in Medical Image Classification

Riepilogo Tecnico: Ridistribuzione dell'Incidenza dei Neuroni per l'Equità nella Classificazione di Immagini Mediche

Enunciato del Problema
I modelli di deep learning per la classificazione di immagini mediche mostrano spesso disparità sistemiche di prestazioni tra sottogruppi demografici (ad esempio, età, genere, razza). Sebbene le attuali interventi per l'equità mirino tipicamente a metriche a livello di output (come la sensibilità o i tassi di falsi positivi) attraverso pre-elaborazione, addestramento avversariale o calibrazione post-elaborazione, spesso non riescono a spiegare i meccanismi interni che guidano queste disparità. Gli autori identificano un meccanismo latente specifico: l'intreccio delle caratteristiche (o polisemanticità) all'interno del penultimo strato dei modelli appresi per trasferimento.

L'analisi empirica rivela che, nei modelli standard affinati (ad esempio, ResNet-18), i canali di attivazione dominanti non sono puramente specifici della malattia. Invece:

• Il canale dominante sotto le previsioni positive è co-attivato sia da campioni positivi alla malattia sia da gruppi demografici "privilegiati" (ad esempio, maschi, pazienti anziani). Ciò porta a probabilità previste gonfiate e a sovradiagnosi per questi gruppi.
• Il canale dominante sotto le previsioni negative è preferenzialmente co-attivato da gruppi "svantaggiati" (ad esempio, femmine, pazienti più giovani), sopprimendo i loro punteggi e causando una sottodiagnosi sistematica.

Questo intreccio significa che un singolo canale di caratteristiche codifica contemporaneamente sia la morfologia clinica sia i correlati demografici, causando direttamente disparità nel Tasso di Veri Positivi (TPR) e nel Tasso di Falsi Positivi (FPR).

Metodologia: Ridistribuzione dell'Incidenza dei Neuroni (NIR)
Per affrontare questo problema, gli autori propongono la Ridistribuzione dell'Incidenza dei Neuroni (NIR), un metodo di regolarizzazione leggero e differenziabile che opera senza richiedere etichette demografiche durante l'addestramento.

1. Definizione dell'Incidenza del Neurone: Per un mini-batch, l'"incidenza" di un neurone specifico $j$ è definita come la media delle attivazioni ponderata per la probabilità prevista:
   $$\phi_j = \frac{\sum_{i=1}^{B} \hat{p}_i z_{ij}}{\sum_{i=1}^{B} \hat{p}_i + \epsilon}$$
   dove $\hat{p}_i$ è la probabilità prevista della classe positiva e $z_{ij}$ è l'attivazione del neurone $j$ per il campione $i$. Questa ponderazione assicura che la metrica si concentri sulla struttura rappresentativa dei campioni che il modello considera già positivi.

2. Funzione di Perdita per la Ridistribuzione: Il metodo penalizza la varianza di questi valori di incidenza su tutti i neuroni del penultimo strato. Se le evidenze della classe positiva sono concentrate in pochi neuroni (alta varianza), la perdita aumenta. L'obiettivo è distribuire l'"incidenza" delle previsioni positive in modo uniforme su tutto lo strato:
   $$\mathcal{L}_{IR} = \frac{1}{d} \sum_{j=1}^{d} (\phi_j - \bar{\phi})^2$$

3. Obiettivo di Addestramento: La perdita totale combina la comune Cross-Entropia Binaria (BCE) con il regolarizzatore NIR:
   $$\mathcal{L}_{total} = \mathcal{L}_{BCE} + \lambda \mathcal{L}_{IR}$$
   Gli autori utilizzano un $\lambda$ fisso pari a 0,1 in tutti gli esperimenti, dimostrando che il metodo fornisce miglioramenti coerenti senza necessità di sintonizzazione di iperparametri specifici del dataset.

Contributi Chiave

1. Insight Meccanicistico: Un'analisi empirica che collega l'"intreccio del canale dominante" a sovradiagnosi e sottodiagnosi asimmetriche. Gli autori dimostrano che i neuroni superiori della classe positiva sono preferenzialmente co-attivati da demografie privilegiate indipendentemente dall'etichetta della malattia.
2. Algoritmo NIR: Un regolarizzatore differenziabile e privo di etichette che incoraggia rappresentazioni della classe positiva distribuite su tutto il penultimo strato, rompendo l'intreccio tra segnali di malattia e correlati demografici.
3. Validazione Empirica: Significativi miglioramenti nell'equità sul dataset HAM10000 delle lesioni cutanee e risultati generalmente positivi (sebbene misti) sul dataset Harvard OCT-RNFL per il glaucoma, ottenuti senza supervisione degli attributi sensibili.

Risultati Sperimentali
Il metodo è stato valutato su due dataset utilizzando un'architettura ResNet-18 affinata.

• HAM10000 (Lesioni Cutanee):

  • Equità: NIR ha ridotto la disparità del TPR tra gruppi di età dall'10,81% allo 0,93% e tra generi dal 12,04% allo 0,74% (riduzioni superiori al 90%). Anche le disparità FPR sono migliorate significativamente.
  • Accuratezza: Il metodo ha prodotto un miglioramento marginale dell'AUC di 0,51 punti (da 89,74% a 90,25%), indicando che le rappresentazioni distribuite non danneggiano le prestazioni discriminative.

• Harvard OCT-RNFL (Glaucoma):

  • Equità: NIR ha ridotto sostanzialmente la disparità FPR per la razza (da 15,68% a 10,66%) e per l'età (da 12,69% a 1,80%). Le disparità TPR hanno mostrato miglioramenti modesti per razza e genere.
  • Accuratezza: L'AUC è diminuito di 3,03 punti (da 84,71% a 81,68). Gli autori attribuiscono ciò alla dimensione più ridotta del dataset e allo squilibrio delle classi, dove l'imposizione di un'incidenza uniforme può sopprimere parzialmente neuroni ad alta incidenza che trasportano informazioni genuine sulla malattia intrecciate con la demografia. Ciò evidenzia un intrinseco compromesso tra accuratezza ed equità in regimi di dati vincolati.

Significato e Affermazioni
Il documento afferma che la Ridistribuzione dell'Incidenza dei Neuroni offre una strategia principiale per migliorare l'equità demografica nell'IA medica, colpendo la causa radice delle disparità: la natura polisemantica dei neuroni dominanti nei modelli appresi per trasferimento.

• Praticità: A differenza di molti interventi per l'equità, NIR non richiede etichette demografiche al momento dell'addestramento, rendendolo altamente pratico per il dispiegamento clinico dove gli attributi sensibili sono spesso non disponibili o protetti.
• Interpretabilità: Il lavoro collega concetti astratti di apprendimento delle rappresentazioni (polisemanticità, collasso dei neuroni) a disparità demografiche osservabili, fornendo una spiegazione meccanicistica del perché i modelli falliscono su specifici sottogruppi.
• Consapevolezza del Compromesso: Gli autori riconoscono modestamente che, sebbene NIR sia altamente efficace su dataset più grandi (HAM10000), può comportare un costo in termini di accuratezza su dataset più piccoli e sbilanciati (OCT-RNFL). Lo inquadrano non come un fallimento, ma come una considerazione importante per il compromesso accuratezza-equità, suggerendo che forzare un utilizzo più ampio delle caratteristiche può ridurre la dipendenza dai neuroni più discriminativi ma demograficamente intrecciati.

Gli autori concludono che la ridistribuzione delle evidenze latenti della malattia su tutto il penultimo strato è un approccio efficace e privo di etichette per mitigare le disparità tra sottogruppi, sebbene il lavoro futuro dovrebbe esplorare la combinazione di questo metodo con disintreccio esplicito o vincoli causali per decoppiare ulteriormente le caratteristiche.