Equitable Electronic Health Record Prediction with FAME: Fairness-Aware Multimodal Embedding

Este trabalho apresenta o FAME, um framework de aprendizado multimodal que pondera as diferentes modalidades de Registros Eletrônicos de Saúde (EHR) com base em sua contribuição para a justiça, utilizando uma função de perda combinada e o Índice de Disparidade na Distribuição de Erros (EDDI) para otimizar simultaneamente o desempenho preditivo e a equidade entre subgrupos de pacientes.

O essencial

Imagine que você é um médico tentando tomar a decisão mais importante da vida de um paciente. Você tem à sua disposição três tipos de informações diferentes:

1. Dados Estruturados: Como uma planilha de Excel com idade, pressão arterial e códigos de doenças.
2. Texto Livre: As anotações manuais dos médicos e enfermeiros, cheias de nuances e contexto.
3. Dados Demográficos: Raça, tipo de seguro de saúde e idade.

Até hoje, a Inteligência Artificial (IA) na saúde tentava usar essas informações para prever o que aconteceria com o paciente (como risco de morte ou tempo de internação). O problema? A IA muitas vezes aprendia a ser "injusta". Ela podia, sem querer, tratar pacientes negros ou de baixa renda de forma diferente dos brancos ou ricos, apenas porque os dados históricos continham esses preconceitos.

Aqui entra o FAME (uma sigla em inglês para "Embutimentos Multimodais Conscientes de Justiça"), o novo método proposto neste artigo. Vamos explicar como ele funciona usando uma analogia simples: O Maestro de uma Orquestra.

O Problema: A Orquestra Desigual

Imagine que a IA atual é como uma orquestra onde todos os instrumentos (os dados) tocam no mesmo volume, sem um maestro.

• Se o instrumento "Raça" estiver tocando muito alto, ele pode distorcer a música (a previsão), fazendo com que a IA tome decisões baseadas em preconceitos em vez de saúde real.
• Se o instrumento "Texto Médico" estiver muito baixo, a IA perde informações vitais que só estão escritas nas anotações.

O resultado é uma música (previsão) que pode ser tecnicamente boa, mas injusta para certos grupos de pessoas.

A Solução: O Maestro FAME

O FAME é como um maestro inteligente que entra na sala e ajusta o volume de cada instrumento em tempo real, com um objetivo duplo:

1. Fazer a música ficar perfeita (alta precisão na previsão médica).
2. Garantir que ninguém seja prejudicado ou favorecido injustamente (justiça).

Como o Maestro decide quem toca mais alto?

O FAME usa uma ferramenta chamada EDDI (um "medidor de injustiça").

• A cada momento do treinamento, o maestro olha para cada grupo de pacientes (brancos, negros, hispânicos, idosos, jovens, etc.).
• Se o instrumento "Dados Demográficos" (como raça ou seguro) estiver causando erros diferentes entre os grupos (injustiça), o maestro abaixa o volume desse instrumento.
• Se o instrumento "Texto Médico" ou "Dados Clínicos" estiver ajudando a prever a doença sem criar injustiça, o maestro aumenta o volume dele.

É como se o maestro dissesse: "Ei, o instrumento 'Raça' está criando uma melodia desigual. Vamos deixá-lo quase em silêncio. Já o instrumento 'Sintomas Descritos' está sendo justo e preciso, vamos deixá-lo brilhar!"

O Resultado: Uma Melodia Equilibrada

Os autores testaram essa ideia em dados reais de hospitais (o conjunto de dados MIMIC-III) em três cenários:

1. Prever morte dentro da UTI.
2. Prever se o paciente ficará mais de 7 dias internado.
3. Prever se o paciente precisará de ventilação mecânica.

O que eles descobriram?

• Justiça: O FAME conseguiu reduzir drasticamente a "injustiça" (medida pelo EDDI) comparado a outros métodos. Ele tratou todos os grupos de pacientes de forma muito mais igualitária.
• Precisão: Ao contrário do que se poderia pensar, ao focar na justiça, a IA não ficou "burra". Pelo contrário, ela ficou mais precisa do que as IAs tradicionais.
• O Segredo: A IA aprendeu que, para ser justa, ela precisava confiar menos na raça ou no tipo de seguro do paciente e confiar mais no que os médicos escreveram nas anotações e nos sinais vitais reais.

Resumo em uma Frase

O FAME é um novo sistema de IA para hospitais que funciona como um maestro sábio: ele ajusta automaticamente a importância de cada tipo de dado (texto, números, raça) para garantir que a previsão médica seja tão precisa quanto possível e tão justa quanto possível para todos os pacientes, independentemente de quem eles são.

É um passo importante para garantir que a tecnologia na saúde ajude a todos, e não apenas a alguns.

Resumo técnico

Resumo Técnico: FAME (Fairness-Aware Multimodal Embeddings)

1. Problema e Motivação

Os Registros Eletrônicos de Saúde (EHR) contêm dados multimodais complexos (texto não estruturado, imagens, códigos médicos e dados estruturados) essenciais para a tomada de decisão clínica. Embora a Inteligência Artificial Multimodal (MAI) tenha surgido como uma abordagem poderosa para fundir essas informações, a maioria dos modelos existentes otimiza apenas o desempenho preditivo, ignorando como a integração de diferentes modalidades pode reforçar ou mitigar vieses em subgrupos de pacientes (baseados em etnia, idade, tipo de seguro, etc.).

O problema central abordado é a falta de exploração sobre como as forças individuais de cada modalidade e sua interações podem ser utilizadas para reduzir o viés sem sacrificar a precisão. Métodos atuais de mitigação de viés frequentemente aplicam correções após a fusão das modalidades ou tratam todas as fontes de dados como contribuições iguais, negligenciando que algumas modalidades podem ser mais justas ou mais tendenciosas do que outras.

2. Metodologia: O Framework FAME

Os autores propõem o FAME (Fairness-Aware Multimodal Embeddings), um framework que pondera explicitamente cada modalidade com base na sua contribuição para a justiça (fairness) e desempenho.

Arquitetura e Fusão:

• Modalidades Utilizadas: O modelo integra três tipos de dados:
  1. Dados Demográficos ($X_d$).
  2. Dados Clínicos Estruturados ($X_s$): Processados pelo modelo BEHRT (baseado em Transformers para dados longitudinais estruturados).
  3. Notas Clínicas Não Estruturadas ($X_n$): Processadas pelo BioClinicalBERT (modelo de linguagem especializado em texto clínico).
• Fusão Conjointa Ponderada: Diferente da fusão conjunta padrão (que concatena ou faz a média simples dos embeddings), o FAME introduz um mecanismo de ponderação dinâmica. Antes da fusão, os embeddings latentes de cada modalidade ($z_m$) são ajustados por vetores de ponderação ($\hat{w}_m$) derivados de métricas de justiça.

Mecanismos de Justiça:

• Índice de Disparidade na Distribuição de Erros (EDDI): Utilizado para medir a justiça. O EDDI calcula a diferença nas taxas de erro entre grupos privilegiados e desprivilegiados.
• Agregação Agnóstica ao Sinal (Sign-Agnostic): Para evitar que erros positivos e negativos se cancelem ao calcular a média, o FAME utiliza a raiz da soma dos quadrados dos EDDIs de cada subgrupo. Isso garante uma estimativa de justiça equitativa independentemente da direção do viés.
• Atualização de Pesos: Os pesos das modalidades ($w_m$) são atualizados iterativamente durante o treinamento. Modalidades com menor EDDI (mais justas) recebem maior peso, enquanto aquelas com maior disparidade são penalizadas.
• Seleção de Recursos com Sigmoid: Além da ponderação da modalidade, o modelo emprega um mecanismo de gating (portão) usando uma função sigmoide para ajustar dimensões específicas dentro dos embeddings, permitindo que o modelo aprenda quais características específicas de cada modalidade são mais justas.

Função de Perda:
O modelo é otimizado minimizando uma perda combinada:
$$L_{total} = L_{BCE} + \lambda \cdot L_{EDDI}$$
Onde $L_{BCE}$ é a perda de entropia cruzada binária (desempenho) e $L_{EDDI}$ é a média dos índices de disparidade (justiça), controlada pelo hiperparâmetro $\lambda$.

3. Contribuições Principais

1. Proposta do FAME: Um método inovador para fusão de múltiplas modalidades em dados EHR que utiliza agregação ponderada baseada em justiça.
2. Método de Ponderação Agnóstico ao Sinal: Introdução de uma técnica para derivar pesos de justiça baseados no EDDI agregado, aplicável tanto na função de perda quanto em esquemas de ponderação feedforward.
3. Validação Empírica: Demonstração da eficácia do método em três tarefas de previsão EHR, superando baselines de ponta e mostrando que é possível equilibrar alta precisão com equidade.

4. Resultados Experimentais

Os experimentos foram realizados no conjunto de dados MIMIC-III, focando em três tarefas de classificação binária:

• Mortalidade no ICU (In-ICU Mortality).
• Permanência no ICU > 7 dias (LOS).
• Ventilação Mecânica.

Comparação com Baselines:
O FAME foi comparado com métodos como Demographic-free Classification (DfC), AdvDebias, Fair Patient Model (FPM) e FairEHR-CLP.

• Desempenho: O FAME alcançou os melhores resultados em AUROC e AUPRC em todas as tarefas, superando significativamente os modelos unimodais e os métodos de fusão média simples.
• Justiça: O modelo obteve os menores índices de EDDI e Equalized Odds (EO), indicando uma redução drástica nas disparidades entre subgrupos (étnicos, de idade e de seguro).
  • Exemplo: Na tarefa de Mortalidade no ICU, o FAME alcançou um EDDI de 0.44%, comparado a 2.40% do AdvDebias e 8.84% do FairEHR-CLP.
• Análise de Ablação:
  • O modelo unimodal de texto (BioClinicalBERT) mostrou-se mais justo e preciso que o modelo estruturado (BEHRT), destacando o valor do contexto implícito nas notas clínicas.
  • A combinação de ponderação EDDI e seleção de recursos por Sigmoid (modelo completo FAME) superou versões que usavam apenas uma dessas técnicas, confirmando a sinergia entre os componentes.

Análise de Sensibilidade:
A análise do hiperparâmetro $\lambda$ revelou que um valor de 0.8 ofereceu o melhor equilíbrio entre precisão (AUPRC) e justiça (EDDI/EO), evitando o underfitting observado em $\lambda=1.0$ (foco excessivo na justiça) e o viés residual em $\lambda$ baixos.

5. Significado e Conclusão

O trabalho demonstra que a fusão multimodal não deve ser apenas uma questão de agregar dados para aumentar a precisão, mas uma oportunidade estratégica para mitigar vieses.

• Insight Chave: A abordagem "cega" a dados demográficos (DfC) reduz o viés, mas sacrifica drasticamente a precisão. O FAME prova que é possível manter a precisão alta enquanto se regula a influência de modalidades tendenciosas (como dados demográficos brutos) e se priorizam modalidades ricas em contexto clínico (notas e dados estruturados).
• Implicação Prática: O framework sugere que dados demográficos, embora úteis, devem ter seu peso reduzido em favor de dados clínicos detalhados para promover equidade.
• Futuro: Os autores apontam a necessidade de incluir modalidades de imagem e expandir os atributos sensíveis para incluir Determinantes Sociais da Saúde (SDoH) extraídos de notas clínicas, validando a abordagem em múltiplos conjuntos de dados.

Em suma, o FAME estabelece um novo paradigma para IA em saúde, onde a justiça é uma métrica intrínseca ao processo de fusão de dados, e não um ajuste posterior.