Investigating Demographic Bias in Brain MRI Segmentation: A Comparative Study of Deep-Learning and Non-Deep-Learning Methods

Este estudo compara métodos de segmentação de ressonância magnética cerebral, revelando que, embora alguns modelos de aprendizado profundo apresentem viés demográfico ao serem treinados e testados em dados racialmente correspondentes, outros como o nnU-Net mantêm desempenho robusto independente da demografia, enquanto a maioria dos modelos automatizados falha em replicar os efeitos raciais observados na segmentação manual.

O essencial

Imagine que você é um médico tentando diagnosticar uma doença olhando para o cérebro de um paciente através de uma imagem de ressonância magnética (MRI). Para fazer isso com precisão, você precisa "desenhar" os limites de pequenas estruturas dentro do cérebro, como se estivesse contornando ilhas em um mapa.

Nos últimos anos, os computadores aprenderam a fazer esse desenho sozinhos usando Inteligência Artificial (IA). Isso é ótimo, mas traz um problema sério: e se o computador aprender a desenhar melhor para algumas pessoas do que para outras?

Este artigo de pesquisa é como um "teste de estresse" para ver se essas IAs são justas com todos os tipos de pessoas.

O Grande Experimento: A Cozinha de Receitas

Para entender o que os pesquisadores fizeram, imagine que você tem quatro chefs diferentes (os modelos de IA) tentando aprender a cozinhar um prato específico (segmentar o Núcleo Accumbens, uma pequena parte do cérebro ligada à emoção e recompensa).

Os pesquisadores queriam saber: Se ensinarmos cada chef a cozinhar usando ingredientes de apenas um tipo de pessoa, eles conseguirão cozinhar bem para todos os clientes?

Eles dividiram os "ingredientes" (dados de pacientes) em quatro grupos demográficos:

1. Mulheres Negras
2. Homens Negros
3. Mulheres Brancas
4. Homens Brancos

Eles treinaram cada "chef" (modelo) usando dados de apenas um desses grupos. Depois, testaram se o chef conseguia desenhar o cérebro corretamente quando apresentavam a imagem de um cliente de um grupo diferente.

Os 4 "Chefs" (Modelos) Testados

1. O Chef Robusto (nnU-Net): Este é o modelo mais famoso e "autoajustável". Ele é como um chef que, antes de cozinhar, ajusta o fogo, o sal e o tempo automaticamente para qualquer receita.
2. O Chef Moderno (CoTr): Usa uma tecnologia nova e complexa (Transformers) para entender o contexto da imagem.
3. O Chef Especialista em Detalhes (UNesT): Foca muito em detalhes finos, usando uma arquitetura avançada.
4. O Chef Tradicional (ANTs): Este não é uma IA moderna. Ele funciona como um "mapa de referência". Ele pega um atlas (um mapa padrão) e tenta ajustá-lo à imagem do paciente. É como tentar encaixar um molde de bolo em uma massa que tem um formato diferente.

O Que Eles Descobriram? (As Surpresas)

Aqui estão as lições principais, traduzidas para o dia a dia:

1. O "Viés" é Real e Perigoso
Quando o "Chef Tradicional" (ANTs) e o "Chef Especialista" (UNesT) foram treinados apenas com dados de pessoas brancas, eles fizeram um trabalho excelente para pessoas brancas. Mas, quando tentaram desenhar o cérebro de pessoas negras, o resultado foi pior.

• A Analogia: É como se um alfaiate que só costura ternos para pessoas altas e magras tentasse fazer um terno para uma pessoa baixa e robusta. O terno ficaria grande demais ou pequeno demais. O modelo "via" a raça da pessoa e, sem querer, ajustava o desenho de forma errada.

2. O "Chef Robusto" (nnU-Net) é o Mais Justo
Surpreendentemente, o modelo nnU-Net foi o único que não se importou com a raça ou o sexo do paciente. Ele desenhou o cérebro com a mesma precisão, seja para um homem negro, uma mulher branca ou qualquer outro grupo.

• Por que? Ele é tão bom em se adaptar e em usar técnicas de "aumento de dados" (como girar e distorcer as imagens durante o treino) que ele aprendeu a ver a anatomia real, e não os traços raciais ou de gênero. Ele não "decorou" o grupo de treino; ele aprendeu a regra geral.

3. O Perigo Oculto: O Tamanho do Cérebro
O objetivo final não é apenas desenhar bem, mas medir o tamanho dessas estruturas.

• Quando os pesquisadores mediram o volume do cérebro usando os modelos "viciados" (treinados em apenas um grupo), eles descobriram algo assustador: O modelo apagou a diferença racial.
• Na vida real (com desenhos feitos por humanos), existe uma diferença de tamanho entre os grupos. Mas os modelos tendenciosos "acharam" que todos têm o mesmo tamanho, ou distorceram os números de forma que a diferença racial desapareceu.
• A Metáfora: Imagine que você está medindo a altura de duas equipes de basquete. Se sua régua estiver torta (viciada), você pode concluir que ambas as equipes têm a mesma altura, mesmo que uma seja claramente mais alta. Isso é perigoso para diagnósticos médicos.

4. Sexo vs. Raça
O estudo mostrou que a raça teve um impacto muito maior na precisão do modelo do que o sexo. Enquanto os modelos conseguiam lidar razoavelmente bem com diferenças entre homens e mulheres, as diferenças raciais causaram erros muito maiores, especialmente nos modelos tradicionais.

Por que isso importa?

Se usarmos um "alfaiate" que só sabe fazer roupas para um tipo de corpo, ele vai estragar a roupa de quem não se encaixa nesse padrão. Na medicina, isso significa:

• Diagnósticos errados: Um médico pode achar que um paciente tem uma doença (porque o volume do cérebro parece errado) quando, na verdade, é apenas o modelo de IA que está "torto".
• Desigualdade: Se a IA funciona mal para pessoas negras, os tratamentos baseados nela podem ser menos eficazes para elas, aumentando a disparidade na saúde.

A Lição Final

O estudo conclui que, para criar uma Inteligência Artificial justa na medicina, não basta ter um algoritmo inteligente. É preciso ter dados diversos.

• Se você treina o modelo apenas com "ingredientes" de um grupo, ele não saberá cozinhar para os outros.
• A solução é misturar bem os ingredientes (dados de todas as raças e sexos) e escolher modelos que sejam naturalmente mais adaptáveis (como o nnU-Net).

Em resumo: A tecnologia é poderosa, mas só será justa se aprendermos a ensiná-la a ver a todos nós como iguais.

Resumo técnico

Resumo Técnico: Viés Demográfico na Segmentação de Ressonância Magnética Cerebral

1. Problema Investigado

Algoritmos de segmentação baseados em Deep Learning (DL) avançaram significativamente a análise de imagens médicas, mas carregam o risco de viés intrínseco nos dados de treinamento. Preocupações sobre injustiça, especificamente disparidades de desempenho baseadas em atributos sensíveis como raça e sexo, são urgentes. Se um modelo performa pior em subgrupos específicos (ex.: pacientes negros ou mulheres), isso pode levar a erros de diagnóstico ou subdiagnóstico, exacerbando disparidades de saúde.
A literatura anterior focou predominantemente em tarefas de classificação e em modelos de DL únicos. Há uma lacuna na compreensão de como diferentes arquiteturas (DL vs. métodos tradicionais baseados em atlas) e como a falta de equilíbrio demográfico nos dados de treinamento afetam a precisão da segmentação e as análises volumétricas subsequentes em estruturas cerebrais específicas.

2. Metodologia

Dados e Subgrupos:

• Fonte: Dataset Human Connectome Project (HCP) Young Adult.
• Estrutura Alvo: Núcleo Accumbens (NAc) esquerdo e direito, selecionado devido a diferenças microestruturais relatadas por sexo e seu uso como biomarcador volumétrico.
• Subgrupos Demográficos: Quatro categorias: Mulheres Negras, Homens Negros, Mulheres Brancas, Homens Brancos.
• Ground Truth: Segmentações manuais de alta qualidade realizadas por um neuroanatomista.
• Divisão: 30-33 sujeitos por grupo para treinamento e 19-20 para teste.

Arquiteturas Testadas:
O estudo comparou três modelos de Deep Learning de última geração com um método tradicional não-DL:

1. UNesT: Modelo baseado em Transformers hierárquicos com codificador e decodificador convolucional.
2. nnU-Net: Modelo adaptativo que otimiza automaticamente o pipeline de configuração (considerado o state-of-the-art padrão).
3. CoTr: Arquitetura híbrida combinando CNNs e Transformers deformáveis.
4. ANTs (Multi-Atlas Label Fusion): Método tradicional baseado em atlas, utilizando fusão de rótulos conjunta.

Protocolo de Treinamento "Viciado" (Biased Training):
Para isolar o impacto do desequilíbrio, foram treinados 4 modelos separados para cada arquitetura, onde cada modelo foi treinado exclusivamente em dados de apenas um dos quatro subgrupos demográficos (ex.: um UNesT treinado apenas em Mulheres Negras). Isso permitiu testar como cada modelo performa quando aplicado a grupos de teste que correspondem ou não ao grupo de treinamento.

Métricas de Avaliação:

• Precisão: Coeficiente de Similaridade de Dice (DSC) e Normalized Surface Dice (NSD).
• Justiça (Fairness):
  • ESSP (Equity-Scaled Segmentation Performance): Métrica proposta por Tian et al. que penaliza a precisão global baseada nas discrepâncias entre grupos.
  • $\Delta$ (Delta): Soma das discrepâncias absolutas de desempenho entre os grupos.
• Análise Estatística: Modelos Lineares Mistos (LMM) para avaliar o impacto de "Mesma Raça", "Mesmo Sexo" e suas interações na precisão e nos volumes derivados.

3. Principais Contribuições

• Comparação Abrangente: Primeiro estudo a comparar diretamente múltiplas arquiteturas de DL contra um método baseado em atlas tradicional no contexto de viés em segmentação cerebral.
• Análise de Impacto Volumétrico: Vai além da precisão da segmentação, investigando se os vieses dos modelos automatizados distorcem as conclusões demográficas (diferenças de volume por raça/sexo) que seriam observadas com anotação manual.
• Uso de Gold Standard Manual: Utilização de anotações manuais de alta qualidade para treinamento e teste, evitando o ruído de rótulos "prateados" (silver standard) comuns em estudos anteriores.
• Avaliação de Mitigação: Teste de cenários com tamanhos de conjunto de dados equilibrados para entender se o viés é inerente à arquitetura ou ao tamanho/desbalanceamento dos dados.

4. Resultados Chave

Desempenho e Justiça:

• nnU-Net e CoTr: Demonstraram ser os mais robustos. O nnU-Net foi o único modelo que não mostrou mudanças significativas na precisão (DSC ou NSD) independentemente de haver correspondência de raça ou sexo entre treino e teste.
• ANTs e UNesT: Foram altamente sensíveis ao viés demográfico.
  • Modelos treinados em dados de pessoas negras (Black Male/Female) tiveram desempenho significativamente pior (maior $\Delta$, menor ESSP) do que aqueles treinados em dados de pessoas brancas.
  • O ANTs mostrou uma queda drástica no ESSP (ex.: redução de 13% no DSC) quando treinado em grupos negros comparado a brancos.
• Fator Raça vs. Sexo: A correspondência de raça entre treino e teste teve um impacto estatisticamente significativo na precisão para ANTs e UNesT, enquanto a correspondência de sexo teve pouco ou nenhum efeito.

Impacto nas Análises Volumétricas (Morfometria):

• Efeito de Sexo: As diferenças de volume baseadas no sexo observadas nas segmentações manuais foram preservadas em todos os modelos automatizados, mesmo nos mais viciados.
• Efeito de Raça: As diferenças de volume baseadas na raça, que eram estatisticamente significativas nas segmentações manuais, desapareceram em todos os modelos automatizados, exceto em uma configuração específica (CoTr treinado em Mulheres Negras para NAc esquerdo).
• Subsegmentação: Modelos como ANTs treinados em homens negros mostraram subsegmentação severa (volumes ~28% menores que o manual), o que poderia levar a falsos diagnósticos clínicos.

Análise de Tamanho de Dados:

• Aumentar o tamanho do conjunto de dados de treinamento e balanceá-lo demograficamente (ex.: 120 sujeitos com representação igual) mitigou significativamente o viés no UNesT.
• Para o ANTs, apenas aumentar o tamanho do atlas não garantiu justiça; o equilíbrio demográfico dos atlas foi crucial, mas a metodologia tradicional permaneceu mais frágil que o DL adaptativo.

5. Significado e Conclusão

O estudo conclui que a escolha da arquitetura e a composição do conjunto de dados são determinantes para a equidade em segmentação de MRI cerebral:

1. Robustez do nnU-Net: A estratégia de aumento de dados adaptativo do nnU-Net parece forçar o modelo a aprender padrões anatômicos generalizáveis, tornando-o menos suscetível a viéses demográficos em comparação com UNesT e métodos baseados em atlas.
2. Perigo do Viés Oculto: Modelos automatizados podem preservar diferenças biológicas reais (como as de sexo) enquanto apagam outras (como as de raça), criando uma ilusão de igualdade onde não existe, ou mascarando disparidades reais de saúde.
3. Necessidade de Dados Diversos: A dependência de dados de treinamento balanceados é crítica. Modelos treinados em subgrupos minoritários (negros) sem estratégias de mitigação tendem a ter desempenho inferior e maior viés.
4. Implicações Clínicas: O uso de modelos viciados para biomarcadores volumétricos (como o NAc em transtornos depressivos) pode levar a inferências clínicas errôneas, especialmente em populações sub-representadas.

O trabalho enfatiza a necessidade de análise sistemática de viés e o uso de conjuntos de dados diversos e equilibrados para desenvolver ferramentas de imagem médica que sejam não apenas precisas, mas também equitativas.