Neuron Incidence Redistribution for Fairness in Medical Image Classification

Resumo Técnico: Redistribuição de Incidência de Neurônios para Equidade em Classificação de Imagens Médicas

Declaração do Problema
Modelos de aprendizado profundo para classificação de imagens médicas frequentemente exibem disparidades sistemáticas de desempenho entre subgrupos demográficos (por exemplo, idade, gênero, raça). Embora intervenções de equidade existentes visem tipicamente métricas no nível de saída (como sensibilidade ou taxas de falsos positivos) por meio de pré-processamento, treinamento adversarial ou calibração pós-processamento, elas frequentemente falham em explicar os mecanismos internos que impulsionam essas disparidades. Os autores identificam um mecanismo latente específico: emaranhamento de características (ou polissemantia) dentro da camada penúltima de modelos aprendidos por transferência.

A análise empírica revela que, em modelos padrão ajustados finamente (por exemplo, ResNet-18), os canais de ativação dominantes não são puramente específicos da doença. Em vez disso:

• O canal dominante sob previsões positivas é co-ativado tanto por amostras positivas para a doença quanto por grupos demográficos "privilegiados" (por exemplo, homens, pacientes mais velhos). Isso leva a probabilidades previstas infladas e superdiagnóstico para esses grupos.
• O canal dominante sob previsões negativas é preferencialmente co-ativado por grupos "desfavorecidos" (por exemplo, mulheres, pacientes mais jovens), suprimindo suas pontuações e causando subdiagnóstico sistemático.

Esse emaranhamento significa que um único canal de características codifica simultaneamente tanto a morfologia clínica quanto correlatos demográficos, causando diretamente disparidades na Taxa de Verdadeiros Positivos (TPR) e na Taxa de Falsos Positivos (FPR).

Metodologia: Redistribuição de Incidência de Neurônios (NIR)
Para abordar isso, os autores propõem a Redistribuição de Incidência de Neurônios (NIR), um método de regularização leve e diferenciável que opera sem exigir rótulos demográficos durante o treinamento.

1. Definição de Incidência de Neurônio: Para um mini-lote, a "incidência" de um neurônio específico $j$ é definida como a média de ativação ponderada pela probabilidade prevista:
   $$\phi_j = \frac{\sum_{i=1}^{B} \hat{p}_i z_{ij}}{\sum_{i=1}^{B} \hat{p}_i + \epsilon}$$
   onde $\hat{p}_i$ é a probabilidade prevista da classe positiva e $z_{ij}$ é a ativação do neurônio $j$ para a amostra $i$. Esse ponderamento garante que a métrica se concentre na estrutura representacional das amostras que o modelo já considera positivas.

2. Função de Perda de Redistribuição: O método penaliza a variância desses valores de incidência entre todos os neurônios na camada penúltima. Se evidências da classe positiva estiverem concentradas em poucos neurônios (alta variância), a perda aumenta. O objetivo é distribuir a "incidência" de previsões positivas uniformemente por toda a camada:
   $$\mathcal{L}_{IR} = \frac{1}{d} \sum_{j=1}^{d} (\phi_j - \bar{\phi})^2$$

3. Objetivo de Treinamento: A perda total combina a Entropia Cruzada Binária (BCE) padrão com o regularizador NIR:
   $$\mathcal{L}_{total} = \mathcal{L}_{BCE} + \lambda \mathcal{L}_{IR}$$
   Os autores utilizam um $\lambda = 0.1$ fixo em todos os experimentos, demonstrando que o método fornece melhorias consistentes sem ajuste de hiperparâmetros específico do conjunto de dados.

Principais Contribuições

1. Insight Mecanístico: Uma análise empírica ligando o "emaranhamento de canais dominantes" a superdiagnóstico e subdiagnóstico assimétricos. Os autores demonstram que os principais neurônios da classe positiva são preferencialmente co-ativados por demografias privilegiadas independentemente do rótulo da doença.
2. Algoritmo NIR: Um regularizador diferenciável e sem rótulos que incentiva representações distribuídas da classe positiva por toda a camada penúltima, quebrando o emaranhamento entre sinais de doença e correlatos demográficos.
3. Validação Empírica: Melhorias substanciais de equidade no conjunto de dados de lesões cutâneas HAM10000 e resultados geralmente positivos (embora mistos) no conjunto de dados de glaucoma Harvard OCT-RNFL, alcançados sem supervisão de atributos sensíveis.

Resultados Experimentais
O método foi avaliado em dois conjuntos de dados usando uma arquitetura ResNet-18 ajustada finamente.

• HAM10000 (Lesões Cutâneas):

  • Equidade: A NIR reduziu a disparidade de TPR entre grupos etários de 10,81% para 0,93% e entre gêneros de 12,04% para 0,74% (reduções de >90%). Disparidades de FPR também melhoraram significativamente.
  • Precisão: O método resultou em uma melhoria marginal de AUC de 0,51 pontos (de 89,74% para 90,25%), indicando que representações distribuídas não prejudicam o desempenho discriminativo.

• Harvard OCT-RNFL (Glaucoma):

  • Equidade: A NIR reduziu substancialmente a disparidade de FPR para raça (de 15,68% para 10,66%) e idade (de 12,69% para 1,80%). Disparidades de TPR apresentaram melhorias modestas para raça e gênero.
  • Precisão: O AUC diminuiu 3,03 pontos (de 84,71% para 81,68). Os autores atribuem isso ao menor tamanho do conjunto de dados e ao desequilíbrio de classes, onde impor uma incidência uniforme pode suprimir parcialmente neurônios de alta incidência que carregam informações genuínas da doença emaranhadas com demografia. Isso destaca uma compensação inerente entre precisão e equidade em regimes de dados restritos.

Significado e Alegações
O artigo afirma que a Redistribuição de Incidência de Neurônios oferece uma estratégia principiante para melhorar a equidade demográfica em IA médica ao visar a causa raiz das disparidades: a natureza polissêmica dos neurônios dominantes em modelos aprendidos por transferência.

• Praticidade: Ao contrário de muitas intervenções de equidade, a NIR não requer rótulos demográficos no momento do treinamento, tornando-a altamente prática para implantação clínica onde atributos sensíveis são frequentemente indisponíveis ou protegidos.
• Interpretabilidade: O trabalho conecta conceitos abstratos de aprendizado de representação (polissemantia, colapso de neurônios) a disparidades demográficas observáveis, fornecendo uma explicação mecânica para por que os modelos falham em subgrupos específicos.
• Consciência da Compensação: Os autores reconhecem modestamente que, embora a NIR seja altamente eficaz em conjuntos de dados maiores (HAM10000), ela pode incorrer em um custo de precisão em conjuntos de dados menores e desequilibrados (OCT-RNFL). Eles enquadram isso não como uma falha, mas como uma consideração importante para a compensação precisão-equidade, sugerindo que forçar uma utilização mais ampla de características pode reduzir a dependência dos neurônios mais discriminativos, mas demograficamente emaranhados.

Os autores concluem que redistribuir evidências latentes da doença por toda a camada penúltima é uma abordagem eficaz e sem rótulos para mitigar disparidades entre subgrupos, embora trabalhos futuros devam explorar combinar isso com desentrelaçamento explícito ou restrições causais para desacoplar ainda mais as características.