Fair Lung Disease Diagnosis from Chest CT via Gender-Adversarial Attention Multiple Instance Learning

Este artigo apresenta um framework de aprendizado de máquina baseado em Aprendizado de Múltiplas Instâncias (MIL) com atenção adversarial de gênero e reversão de gradiente para diagnosticar doenças pulmonares em tomografias computadorizadas de forma justa, superando desequilíbrios demográficos e alcançando uma pontuação média de validação de 0,685 no Desafio de Diagnóstico Justo de Doenças do PHAROS-AIF-MIH (CVPR 2026).

O essencial

Imagine que você é um detetive médico tentando diagnosticar doenças nos pulmões usando imagens de tomografia (CT). O problema é que essas imagens não são fotos simples; são como livros gigantes com centenas de páginas (fatias), e a doença muitas vezes aparece apenas em uma ou duas páginas específicas, escondida entre páginas de pulmões saudáveis.

Além disso, há um grande desafio de justiça: o sistema de inteligência artificial (IA) precisa ser igualmente bom para homens e mulheres, mesmo que os dados de treinamento tenham muito mais homens do que mulheres para certas doenças raras.

Aqui está a explicação do trabalho de Aditya Parikh e Aasa Feragen, traduzida para uma linguagem simples e com analogias do dia a dia:

1. O Problema: A Agulha no Palheiro e o Viés Invisível

• A Agulha no Palheiro (Esparsidade): Imagine que você tem que encontrar um defeito em um carro olhando para 200 fotos dele. Se o defeito for apenas num parafuso, e você tirar a média de todas as fotos, o "defeito" some porque a maioria das fotos mostra um carro perfeito. O modelo precisa aprender a ignorar as páginas vazias e focar apenas nas páginas onde a doença está.
• O Viés Invisível (Justiça): Às vezes, a IA aprende "atalhos". Por exemplo, ela pode notar que "homens tendem a ter pulmões maiores" ou "mulheres têm menos casos de um tipo específico de câncer". Se a IA usar o gênero como pista para a resposta, ela será injusta. O objetivo é fazer a IA diagnosticar a doença sem saber se o paciente é homem ou mulher.

2. A Solução: O Detetive Inteligente (MIL com Atenção)

Os autores criaram um sistema chamado Aprendizado de Múltiplas Instâncias (MIL) com Atenção.

• A Analogia da Equipe de Detetives: Em vez de olhar para a imagem inteira de uma vez, o sistema divide a tomografia em centenas de fatias (como se fossem várias pessoas em uma equipe).
• O Chefe de Equipe (Atenção): Existe um "chefe" (o mecanismo de atenção) que olha para o que cada "detetive" (fatia) encontrou. Se uma fatia parece saudável, o chefe diz: "Ignore, não é importante". Se uma fatia mostra algo suspeito, o chefe grita: "Preste atenção aqui!".
• O Resultado: O sistema aprende sozinho quais fatias são importantes para o diagnóstico, sem precisar que alguém tenha marcado exatamente onde está a doença em cada imagem (o que seria muito caro e demorado).

3. O Truque de Justiça: O "Bloqueio de Gênero" (Adversarial GRL)

Para garantir que a IA não seja preconceituosa, eles usaram uma técnica chamada Camada de Reversão de Gradiente (GRL).

• A Analogia do Espelho Mágico: Imagine que a IA está tentando adivinhar a doença. Ao mesmo tempo, existe um "vilão" (o classificador de gênero) tentando adivinhar se o paciente é homem ou mulher, olhando para as mesmas informações que a IA usa.
• O Jogo: O objetivo é que a IA seja tão boa em diagnosticar a doença que o "vilão" não consiga adivinhar o gênero. Se a IA começar a usar pistas sobre o gênero para ajudar no diagnóstico, o "vilão" ganha pontos. O sistema então "inverte a punição": ele pune a IA por ajudar o vilão.
• O Resultado: A IA é forçada a apagar qualquer informação sobre o gênero de sua memória, deixando apenas a "verdadeira" imagem da doença. Assim, ela trata homens e mulheres com a mesma precisão.

4. Lidando com a Falta de Dados (O Grupo Raro)

Havia um problema sério: havia muito poucos casos de um tipo específico de câncer em mulheres (Carcinoma de Células Escamosas Feminino). Era como tentar ensinar alguém a reconhecer um animal raro que só aparece 5 vezes em um livro de 1000 páginas.

• A Solução: Eles usaram uma técnica de "sobreamostragem". Basicamente, eles mostraram esses 5 casos raros muitas vezes durante o treinamento, garantindo que a IA não os esquecesse. Eles também ajustaram a "fome" da IA (usando Focal Loss) para que ela se preocupasse mais com os casos difíceis e raros do que com os casos fáceis e comuns.

5. O Grande Final: A Votação Unânime

Para o teste final, eles não confiaram em apenas um modelo.

• A Analogia do Júri: Eles treinaram 5 modelos diferentes (como 5 jurados). No final, eles pegaram a opinião de todos os 5 jurados, somaram as probabilidades e tiraram uma média.
• O Truque Extra: Eles também mostraram as imagens "de cabeça para baixo" (espelhadas) para os modelos, garantindo que a direção da imagem não influenciasse a resposta.

Conclusão Simples

O trabalho deles é como criar um médico especialista super-justo.

1. Ele sabe ignorar o "ruído" e focar apenas no que importa (Atenção).
2. Ele foi treinado para esquecer se o paciente é homem ou mulher, garantindo que o diagnóstico seja igual para todos (GRL).
3. Ele estudou muito mais os casos raros para não errar neles (Sobreamostragem).
4. Ele consulta uma equipe inteira de especialistas antes de dar o veredito (Ensemble).

O resultado foi um sistema que não apenas diagnostica doenças com precisão, mas faz isso de forma justa, sem deixar ninguém para trás devido ao seu gênero.

Resumo técnico

Título: Diagnóstico Justo de Doenças Pulmonares a partir de CT de Tórax via Atenção Adversária de Gênero

1. Problema e Contexto

O artigo aborda o desafio de criar modelos de aprendizado profundo para diagnóstico automático de doenças pulmonares a partir de volumes de Tomografia Computadorizada (TC) de tórax que sejam simultaneamente precisos e demograficamente justos.

• Tarefa: Classificação de volumes de TC em quatro categorias: Saudável, COVID-19, Adenocarcinoma e Carcinoma de Células Escamosas (SCC).
• Métrica de Avaliação: O desempenho é medido pela média das pontuações Macro-F1 por gênero ($P = \frac{1}{2}(MacroF1_{male} + MacroF1_{female})$). Isso penaliza explicitamente modelos que performam bem em um gênero, mas falham no outro.
• Desafios Principais:
  1. Esparsidade do Sinal Patológico: Uma TC contém 100-200 fatias, mas a patologia pode ocupar apenas algumas. Técnicas de pooling padrão (média) diluem o sinal patológico, enquanto max-pooling é sensível a artefatos.
  2. Desequilíbrio Demográfico Interseccional: Existe uma sub-representação severa de um grupo específico no conjunto de treinamento: Mulheres com Carcinoma de Células Escamosas (Female SCC).
  3. Vieses Latentes: Mesmo sem o gênero como entrada explícita, o modelo pode aprender a usar características correlacionadas (como morfologia corporal ou parâmetros de aquisição) para inferir o gênero, levando a previsões enviesadas.

2. Metodologia

Os autores propõem um framework de Aprendizado de Múltiplas Instâncias (MIL) baseado em atenção, integrado a um mecanismo de adversariedade para garantir justiça.

• Arquitetura Base:

  • Utiliza o backbone ConvNeXt (inicialmente Tiny, depois Base) pré-treinado no ImageNet.
  • O volume de TC é tratado como um "saco" (bag) de fatias 2D.
  • MIL com Atenção: Em vez de média ou máximo simples, uma rede MLP de atenção aprende pesos ($w_i$) para cada fatia, focando nas fatias diagnosticamente relevantes e ignorando o fundo saudável.
  • Tratamento de Variabilidade: Os volumes são limitados a 32 fatias (amostragem aleatória para treinamento, uniforme para inferência) e preenchidos com zeros (padding) se necessário.

• Mecanismo de Justiça (Fairness):

  • Camada de Reversão de Gradiente (GRL): Um classificador de gênero adversário é anexado à representação do volume (embedding) através de uma GRL.
  • Funcionamento: Durante o backpropagation, os gradientes do classificador de gênero são invertidos e escalados. Isso força o backbone e o módulo de atenção a removerem informações preditivas de gênero da representação do escaneamento, impedindo que o modelo use o gênero como um "atalho" (shortcut) para diagnóstico.

• Protocolo de Treinamento Justo:

  • Função de Perda: Focal Loss com Label Smoothing para lidar com classes difíceis e evitar confiança excessiva.
  • Amostragem: Uso de WeightedRandomSampler para garantir que o grupo sub-representado (Mulheres com SCC) apareça em quase todas as batches de treinamento.
  • Validação Cruzada: Estratificada sobre a chave composta (classe, gênero) para garantir que todos os subgrupos estejam presentes em todas as dobras.
  • Agendamento: Treinamento em duas etapas (congelamento do backbone inicialmente) e acumulação de gradiente para gerenciar memória.

• Inferência e Otimização:

  • Ensemble: Média de logits (soft voting) de 5 dobras de validação cruzada.
  • Augmentation em Tempo de Teste (TTA): Aplicação de viragem horizontal (horizontal-flip) para reduzir variância.
  • Otimização de Limiar (Thresholding): Otimização pós-hoc dos limiares de decisão por classe usando previsões Out-of-Fold (OOF) para corrigir desequilíbrios sem re-treinar o modelo.

3. Contribuições Principais

1. Arquitetura MIL com Atenção End-to-End: Aprende a importância das fatias apenas a partir de rótulos no nível do exame, sem necessidade de anotações no nível da fatia.
2. Mecanismo Adversarial de Justiça: Uso explícito de GRL para desconectar a representação patológica do gênero do paciente.
3. Protocolo de Treinamento Multi-facetado: Combinação de Focal Loss, oversampling de subgrupos e validação cruzada estratificada para abordar desequilíbrios de classe e de subgrupos simultaneamente.
4. Estratégia de Inferência Robusta: Ensemble de 5 dobras com TTA e otimização de limiar baseada em dados OOF para maximizar a estabilidade e a justiça.

4. Resultados

• Desempenho Geral: O modelo alcançou uma pontuação média de validação de 0.685 (±0.030) na métrica de competição, com a melhor dobra individual atingindo 0.759.
• Justiça: A integração da GRL reduziu significativamente a lacuna de justiça. A pontuação Macro-F1 média para mulheres (0.691) tornou-se ligeiramente superior à dos homens (0.679), demonstrando que o modelo não depende mais de viés de gênero.
• Desafios Remanescentes: O Carcinoma de Células Escamosas (SCC) permaneceu a classe mais difícil (F1 médio de 0.366), devido à sobreposição clínica e à escassez extrema de dados, especialmente para o subgrupo feminino.
• Ablação: O estudo mostrou que a transição de Mean Pooling para Max Pooling e depois para Attention-MIL, combinada com oversampling e GRL, foi essencial para recuperar sinais patológicos esparsos e fechar a lacuna de justiça.

5. Significado e Conclusão

O trabalho demonstra que a justiça demográfica em IA clínica não é apenas uma questão de curadoria de dados, mas requer atenção metodológica explícita e multicamada.

• A abordagem prova que é possível treinar modelos que são tanto precisos quanto equitativos, mesmo em cenários de dados desbalanceados e esparsos.
• O uso de GRL para suprimir características de gênero latentes é uma contribuição técnica significativa para a mitigação de viés em diagnósticos médicos.
• O código e os modelos estão disponíveis publicamente, servindo como uma referência para desafios futuros de diagnóstico justo em imagens médicas.

O artigo conclui que, embora a escassez de dados para subgrupos raros (como mulheres com SCC) ainda seja um limitador fundamental, técnicas como aumento generativo e pré-treinamento semi-supervisionado podem ser os próximos passos para melhorar ainda mais a equidade.