Worst-Group Equalized Odds Regularization for Multi-Attribute Fair Medical Image Classification

Resumo Técnico: Regularização de Odds Igualizadas do Pior Grupo para Classificação de Imagens Médicas Justas Multi-Atributo

1. Declaração do Problema

O artigo aborda a questão crítica de disparidades de desempenho sistemáticas em IA médica entre grupos demográficos (por exemplo, idade, sexo, raça). Embora métricas agregadas como a Área sob a Curva (AUC) frequentemente pareçam semelhantes entre os grupos, elas podem mascarar inequidades clinicamente significativas em pontos de operação fixos no momento da inferência. Especificamente, alguns subgrupos podem exibir comportamento superdiagnóstico (Taxas de Verdadeiros Positivos [TPR] e Taxas de Falsos Positivos [FPR] elevadas), enquanto outros mostram comportamento subdiagnóstico (TPR e FPR reduzidos). Essas tendências opostas podem se cancelar em AUCs agregadas, obscurecendo disparidades significativas na tomada de decisão clínica.

Estratégias de mitigação existentes enfrentam várias limitações:

• Desalinhamento de Objetivo: Métodos como GDRO, JTT ou FairBatch frequentemente reponderam amostras ou modificam a perda logarítmica para reduzir o risco preditivo médio, o que pode falhar em capturar disparidades localizadas de subgrupos em pontos de operação específicos.
• Foco em Atributo Único: A maioria do trabalho anterior aborda a justiça para um único atributo demográfico, deixando disparidades interseccionais sem tratamento ou exacerbadas.
• Desafios Interseccionais: Abordagens que lidam com múltiplos atributos frequentemente exigem definições de subgrupos coarsificados para manter o poder estatístico ou lutam com instabilidade no desviesamento ao nível de representação (por exemplo, supressão de informação mútua) para subgrupos pequenos.
• Limitações do Cenário: Muitos métodos são avaliados em cenários simplificados de classificação binária, limitando sua aplicabilidade aos cenários multi-rótulo comuns em imagens clínicas.

2. Metodologia

Os autores propõem um Regularizador de Margem de Odds Igualizadas (EO) do Pior Grupo projetado para cenários realistas de diagnóstico multi-rótulo. O método visa disparidades no nível do ponto de operação usando margens de logit livres de limiar.

Formulação Central:

• Configuração do Problema: O conjunto de dados consiste em entradas $x_i$, rótulos $y_i$ e atributos demográficos $a_i$ (por exemplo, idade, sexo, raça). Subgrupos $g$ são definidos por pares de valor-atributo.
• Identificação do Pior Grupo: Em cada mini-lote, o método identifica dinamicamente os subgrupos de pior desempenho sem manter restrições separadas por atributo:
  • Para positivos ($y=1$), identifica o subgrupo $g_{min}^{[+]}$ com a menor probabilidade prevista média (indicando risco de subdiagnóstico).
  • Para negativos ($y=0$), identifica o subgrupo $g_{max}^{[-]}$ com a maior probabilidade prevista média (indicando risco de superdiagnóstico).
• Definição da Margem de Logit: O objetivo é impor separação entre as amostras positivas de pior caso do grupo subdiagnosticado e todas as amostras negativas, e vice-versa para o grupo superdiagnosticado.
  • Idealmente: $\min_{m: y_m=1, g_m=g_{min}^{[+]}} \ell_m > \max_{n: y_n=0} \ell_n$ e $\max_{m: y_m=0, g_m=g_{max}^{[-]}} \ell_m < \min_{n: y_n=1} \ell_n$.
• Relaxação Diferenciável: Como os operadores min/max rígidos são não diferenciáveis, os autores substituem-nos por operadores Log-Soma-Exp (LSE). Isso suaviza os extremos, permitindo que amostras próximas ao pior caso contribuam para a penalidade, o que auxilia na mitigação de violações interseccionais.
  • $margin_{EO+} = \text{LSE}_{max}(\{\ell_i : y_i=0\}) - \text{LSE}_{min}(\{\ell_i : y_i=1, g_i=g_{min}^{[+]}\})$
  • $margin_{EO-} = \text{LSE}_{max}(\{\ell_i : y_i=0, g_i=g_{max}^{[-]}\}) - \text{LSE}_{min}(\{\ell_i : y_i=1\})$
• Função de Perda: Uma perda de hinge é aplicada para penalizar apenas margens positivas (violações):
  • $L_{EO+} = \max(0, margin_{EO+})$
  • $L_{EO-} = \max(0, margin_{EO-})$
  • O objetivo final é $L = L_{base} + \lambda_{EO+}L_{EO+} + \lambda_{EO-}L_{EO-}$, onde $L_{base}$ é a entropia cruzada binária padrão (ou média entre classes para multi-rótulo).

Mecanismo Chave: O regularizador atua como uma otimização de AUC localizada, fortalecendo a classificação de positivos fracos do subgrupo de pior desempenho contra todos os negativos, e vice-versa para negativos, sem exigir ajustes de limiar pós-hoc.

3. Contribuições Principais

1. Regularizador Unificado Multi-Atributo: Um método que identifica o subgrupo "pior" dinamicamente através de todos os eixos demográficos (idade, sexo, raça) simultaneamente, evitando a necessidade de restrições interseccionais explícitas ou definições de subgrupos coarsificados.
2. Penalidade Bidirecional: Diferentemente da perda logarítmica padrão, que melhora principalmente a AUC via reclassificação, este regularizador bidirecional penaliza explicitamente tanto o superdiagnóstico (lado FPR) quanto o subdiagnóstico (lado TPR) no ponto de operação.
3. Otimização Diferenciável do Pior Grupo: O uso de margens baseadas em LSE permite treinamento estável baseado em gradiente para justiça do pior grupo, distribuindo o fluxo de gradiente entre amostras em vez de concentrá-lo em outliers únicos.
4. Aplicabilidade Multi-Rótulo: A abordagem é validada em cenários realistas de diagnóstico multi-rótulo, abordando uma lacuna na literatura existente que frequentemente foca em classificação binária.

4. Resultados Experimentais

O método foi avaliado em dois conjuntos de dados de imagens médicas:

• RNFL-OCT: Um conjunto de dados oftalmológico (3.300 imagens) para classificação de glaucoma.
• MIMIC-CXR: Um grande conjunto de dados de radiografias de tórax (82.282 imagens) com uma tarefa multi-rótulo para Derrame Pleural, Cardiomegalia e Atelectasia.

Desempenho:

• Métricas de Justiça: O método proposto alcançou consistentemente o menor EOdds (razão do pior para o melhor grupo para disparidade TPR/FPR) e o maior EOM (Igualdade de Oportunidade entre Múltiplas Subclasses) em ambos os conjuntos de dados e em todos os atributos demográficos (Idade, Raça, Sexo).
  • No RNFL-OCT, reduziu o EOdds conjunto para 0,226 (vs. 0,354 para a linha de base) e aumentou o EOM conjunto para 0,926.
  • No MIMIC-CXR, reduziu o EOdds conjunto para 0,127 (vs. 0,254 para a linha de base) e aumentou o EOM conjunto para 0,916.
• Compromisso de Precisão: O método alcançou essas melhorias de justiça com impacto mínimo na AUC geral.
  • RNFL-OCT: $\Delta AUC = -0,006$.
  • MIMIC-CXR: $\Delta AUC = -0,007$.
• Comparação: Comparado a linhas de base como FairBatch, GDRO, JTT, Treinamento Adversarial e FaMI, o método proposto ofereceu um equilíbrio superior entre justiça e precisão. Outros métodos produziram melhorias de paridade mais fracas ou incorreram em perdas de precisão significativamente maiores (por exemplo, o FaMI mostrou $\Delta AUC \approx -0,06$).

Ablação: Experimentos confirmaram que tanto os componentes de regularização positiva ($L_{EO+}$) quanto negativa ($L_{EO-}$) são complementares; habilitar ambos produz os ganhos de justiça mais fortes.

5. Significado e Alegações

O artigo afirma que sua abordagem fornece um mecanismo unificado para abordar a justiça através de múltiplos eixos demográficos sem a sobrecarga computacional ou estatística de gerenciar restrições separadas para cada atributo ou grupo interseccional. Ao visar discrepâncias de pontuação localizadas responsáveis pelos comportamentos de super e subdiagnóstico, o método mitiga disparidades de subgrupos de pior caso enquanto preserva o desempenho diagnóstico.

Os autores enfatizam que, embora a AUC possa mascarar disparidades clinicamente relevantes no ponto de operação, seu regularizador otimiza efetivamente a classificação nas regiões específicas de pontuação que impulsionam as disparidades de TPR e FPR. Isso resulta em um compromisso justiça-precisão mais favorável em comparação com métodos existentes, tornando-o particularmente adequado para cenários de imagens clínicas onde previsões multi-rótulo e paridade demográfica estrita são críticas.