People-Centred Medical Image Analysis

1. Declaração do Problema

Apesar da alta precisão dos recentes modelos de IA médica centrados em dados, sua adoção clínica permanece limitada. Os autores identificam dois gargalos principais:

1. Viés de Desempenho: Modelos existentes frequentemente falham em performar de forma equitativa entre diversas populações de pacientes (por exemplo, diferentes sexos, idades ou raças), criando barreiras regulatórias e éticas.
2. Integração no Fluxo de Trabalho: Abordagens atuais para colaboração humano-IA, especificamente Aprendizado para Adiar (L2D) e Aprendizado para Complementar (L2C), são tipicamente estudadas de forma isolada das preocupações com equidade.
   • L2D decide se deve permitir que uma IA preveja ou adiar para um humano.
   • L2C combina previsões de IA e humanas.
   • A Lacuna: Trabalhos anteriores assumem conhecimento prévio da pertença do paciente a um grupo (atributos sensíveis) durante o teste (o que frequentemente não está disponível em cenários do mundo real) e falham em otimizar conjuntamente equidade, precisão e restrições de carga de trabalho do clínico.

2. Metodologia: O Framework PecMan

Os autores propõem PecMan (Análise de Imagem Médica Centrada nas Pessoas), um framework unificado que otimiza conjuntamente a equidade da IA, a precisão diagnóstica e a eficácia do fluxo de trabalho. Ele opera sem assumir conhecimento prévio da pertença do paciente a um grupo durante a fase de teste.

Arquitetura Central

O framework utiliza um mecanismo de gateamento dinâmico para atribuir casos a:

• Modelos de IA (especificamente modelos específicos de coorte).
• Clínicos.
• Uma combinação colaborativa de ambos.

O sistema consiste em quatro componentes principais:

1. Modelo Base ($f_\theta$): Extrai características das imagens de entrada.
2. Modelos Específicos de Coorte ($h_{\phi_j}$): Um conjunto de classificadores, cada um especializado para um grupo demográfico específico (por exemplo, masculino, feminino).
3. Modelo de Gateamento ($g_\zeta$): Um roteador dinâmico que determina a estratégia ótima para um caso dado (apenas IA, apenas Humano ou Híbrido) com base na imagem de entrada e nas restrições de carga de trabalho.
4. Modelo Consolidador ($m_\gamma$): Agrega as previsões ponderadas dos modelos de IA selecionados e/ou do clínico para produzir o diagnóstico final.

Processo de Treinamento (Três Passos)

O treinamento é sequencial e utiliza a função de perda Escala de Identidade Justa (FIS), que equilibra a dificuldade da amostra individual com a equidade ao nível do grupo.

• Passo 0: Treinamento do Modelo Base: O modelo base é treinado usando a perda FIS para garantir que o extrator de características seja justo e preciso entre todos os grupos inicialmente.
• Passo 1: Treinamento do Modelo Específico por Grupo: O modelo base é congelado e cabeças de classificação separadas são treinadas para cada coorte demográfica. Este passo foca em maximizar a precisão dentro de grupos específicos usando a perda FIS (com ponderação de equidade definida para priorizar a precisão individual).
• Passo 2: Treinamento L2D + L2C Sem Viés: Os modelos de gateamento e consolidador são treinados.
  • O objetivo é minimizar a perda FIS na previsão agregada final.
  • Restrição: Um "orçamento de colaboração" ($\epsilon$) é imposto, garantindo que uma proporção mínima de casos seja tratada por modelos de IA para respeitar os limites de carga de trabalho do clínico.
  • Crucialmente, este passo não utiliza atributos sensíveis como entrada durante a inferência; ele aprende a rotear casos com base apenas nas características da imagem, enquanto a equidade é avaliada post-hoc.

3. Contribuições Principais

1. Framework PecMan: O primeiro framework unificado a otimizar conjuntamente a equidade da IA, L2D (adiamento) e L2C (complementação) sem exigir rótulos de atributos sensíveis no momento do teste. Ele aloca dinamicamente casos para IA, humanos ou ambos sob restrições de carga de trabalho.
2. Benchmark FairHAI: Um novo benchmark projetado para avaliar as compensações entre Precisão, Equidade e Carga de Trabalho do Clínico.
   • Utiliza quatro conjuntos de dados públicos de imagem médica: HAM10000 (dermatologia), CMMD (mamografia), CheXpert e MIMIC-CXR (radiografias de tórax).
   • Simula anotações de clínicos com base em lacunas de desempenho empíricas (IA vs. Humano) para criar um ambiente de avaliação realista.
   • Introduz métricas como AUACC (Área Sob a Curva de Cobertura AUC) e AUESACC (Área Sob a Curva de Cobertura AUC Escalada por Equidade).

4. Resultados Experimentais

Experimentos foram conduzidos no benchmark FairHAI em quatro conjuntos de dados, comparando o PecMan com baselines de última geração, incluindo ERM, GroupDRO, SWAD, Fair L2D e LECODU.

• Desempenho: O PecMan superou consistentemente todas as baselines em todos os conjuntos de dados.
  • Alcançou as pontuações mais altas de AUC (Precisão) e ES-AUC (Precisão Ajustada por Equidade).
  • No conjunto de dados HAM10000, o PecMan alcançou um AUAUC de 97,63% e um AUESACC de 97,21%, significativamente mais altos que o próximo melhor método (LECODU: 94,60% / 94,44%).
• Robustez: Mesmo com 0% de cobertura (apenas clínico), o PecMan superou outros métodos porque a decisão do clínico foi efetivamente complementada pelos modelos específicos de coorte.
• Comportamento de Adiar: A análise mostrou que o modelo de gateamento ajusta efetivamente a taxa de adiamento para clínicos com base no orçamento de carga de trabalho ($\epsilon$), garantindo uma colaboração humano-IA eficiente.
• Estudo de Ablação: Substituir os múltiplos modelos específicos de coorte por um único modelo justo (L2D-FairDi) resultou em desempenho inferior, provando a necessidade de modelos especializados para diferentes demografias.

5. Significado e Impacto

• Viabilidade Clínica: Ao modelar explicitamente as restrições de carga de trabalho do clínico e integrar a equidade no ciclo de tomada de decisão, o PecMan aborda o problema da "última milha" da adoção de IA na saúde.
• Conformidade Regulatória: O framework aborda diretamente a necessidade de desempenho equitativo entre diversas populações, um requisito chave para aprovação regulatória (por exemplo, FDA, Lei de IA da UE).
• Mudança de Paradigma: O artigo argumenta contra tratar equidade e colaboração humano-IA como objetivos separados. Demonstra que a interdependência entre esses fatores é crítica; ignorá-la leva a compensações subótimas.
• Direção Futura: Os autores sugerem que, embora treinar múltiplos modelos de coorte seja atualmente intensivo em recursos, trabalhos futuros poderiam explorar "coortes ocultas" para reduzir a sobrecarga computacional enquanto mantêm a equidade.

Em resumo, PecMan representa um passo significativo em direção a uma IA médica confiável, equitativa e clinicamente implantável, unificando equidade, precisão e restrições de fluxo de trabalho humano em um único framework de aprendizado dinâmico.