Resumo Técnico: LaBERT para Previsão de Medições Laboratoriais de Longo Prazo a partir de EHRs Longitudinais

Declaração do Problema

Prever as futuras medições laboratoriais de um paciente a partir de Registros Eletrônicos de Saúde (EHRs) longitudinais é um desafio crítico na medicina personalizada, oferecendo suporte potencial para o monitoramento de doenças e planejamento de tratamento. No entanto, a previsão precisa é dificultada pelas trajetórias clínicas complexas e altamente individualizadas dos pacientes, que envolvem interações não lineares entre a progressão da doença, intervenções terapêuticas e o histórico individual. Embora avanços recentes em aprendizado profundo tenham abordado a previsão de eventos discretos (ex: mortalidade, escores de risco) e previsões de curto prazo em UTI, existe uma lacuna significativa em métodos capazes de prever medições laboratoriais contínuas em visitas clínicas subsequentes e esparsas. Abordagens existentes como o LabTOP são limitadas a dados de alta densidade em UTI e horizontes de curto prazo, carecendo de aplicabilidade à natureza irregular e esparsa dos dados longitudinais gerais de hospitais e ambulatórios.

Metodologia

Conjunto de Dados e Pré-processamento

O estudo utilizou o banco de dados MIMIC-IV, composto por dados longitudinais desidentificados de 299.712 pacientes em 431.231 admissões hospitalares (2008–2019). O conjunto de dados foi processado no formato Medical Event Data Standard (MEDS), organizando os dados em sequências cronologicamente ordenadas de eventos clínicos por visita.

• Recursos (Features): O modelo ingeriu 50 recursos, incluindo demografia estática, diagnósticos (ICD-9/10), procedimentos (ICD-9/10-PCS), medicamentos (nomes genéricos), sinais vitais e 44 medições laboratoriais contínuas (selecionadas para cobertura $\ge$ 20%).
• Construção de Sequência: Cada visita do paciente foi tratada como uma sequência de tokens com um comprimento de contexto fixo de 250.
• Normalização: Variáveis contínuas passaram por transformação logarítmica para tratar assimetria, corte de outliers (10 MAD) e padronização para média zero e variância unitária. Os intervalos de tempo ($\Delta t$) entre as visitas foram transformados logaritmicamente e escalonados para [0, 1].
• Coorte: O conjunto de dados final incluiu 583.535 visitas de 255.769 pacientes, com uma divisão de treino/validação/teste de 70/15/15.

Arquitetura do Modelo: LaBERT

LaBERT é um framework baseado em transformer projetado para prever valores laboratoriais contínuos em um ponto de tempo futuro ($t + \Delta t$), dado o estado atual e o histórico do paciente.

1. Representação Clínica Heterogênea:

   • Variáveis discretas (diagnósticos, medicamentos, procedimentos) são mapeadas via embeddings de busca (lookup embeddings) aprendíveis.
   • Variáveis contínuas (valores laboratoriais, sinais vitais, intervalos de tempo) são projetadas no espaço de embedding via camadas lineares dedicadas.
   • Tokenização Consciente de Recursos (Feature-Aware Tokenization): Diferente dos transformers padrão que usam embeddings posicionais para codificar a ordem, o LaBERT atribui embeddings específicos de cada recurso aprendíveis a cada tipo de token. Isso permite que variáveis heterogêneas sejam modeladas conjuntamente dentro de uma arquitetura de autoatenção unificada, independentemente de sua ordem sequencial.

2. Modelagem de Histórico Longitudinal:
   Para capturar dependências ao longo de múltiplas visitas, o LaBERT propaga um estado de histórico latente ($H_t$) usando um mecanismo recorrente de portão (gated). O modelo avaliou três estratégias de integração:

   • Aditiva: Projeção linear do histórico adicionada à representação da visita atual.
   • Portão (Gated): Um portão sigmoide equilibra adaptativamente as informações passadas e presentes.
   • Baseada em LSTM: Estados ocultos e de célula explícitos com portões de entrada, esquecimento e saída.
     O mecanismo de integração por portão (gated integration) foi identificado como a abordagem ideal, superando as demais.

3. Previsão Condicionada pelo Tempo:
   O modelo incorpora explicitamente o intervalo de tempo ($\Delta t$) entre a visita atual e a futura como um token de entrada, permitindo previsões em horizontes temporais arbitrários em vez de intervalos fixos.

4. Objetivo de Treinamento:
   O modelo minimiza o Erro Quadrático Médio (MSE) entre os valores laboratoriais previstos e observados para a próxima visita clínica.

Principais Resultados

Desempenho Preditivo

Avaliado em 583.535 visitas, o LaBERT superou consistentemente três métodos de base:

• Vs. Última Observação Carregada para Frente (LOCF): O LaBERT reduziu o MSE de 0,76 para 0,55 (~28% de redução) e melhorou o coeficiente de determinação ($R^2$) de 0,30 para 0,50.
• Vs. Perceptron Multicamadas (MLP): O LaBERT reduziu o MSE de 0,60 para 0,55 e melhorou o $R^2$ de 0,45 para 0,50, demonstrando o valor da modelagem de sequência e dos mecanismos de atenção.
• Vs. LabTOP: Quando adaptado ao mesmo cenário de previsão, o LaBERT superou significativamente o LabTOP baseado em GPT-2, melhorando o $R^2$ de -3,7 (pior do que prever a média) para 0,77.

Contribuições Longitudinais e Temporais

• Integração de Histórico: A incorporação do histórico longitudinal via integração por portão reduziu ainda mais o MSE em 3,4% em comparação com um modelo base sem histórico, com a correlação de Pearson global aumentando de 0,70 para 0,72.
• Intervalo de Tempo ($\Delta t$): A remoção do $\Delta t$ como um token de entrada aumentou o erro de previsão, com a lacuna aumentando conforme o horizonte de previsão crescia. Isso confirma que o modelo aprende representações temporalmente coerentes em vez de depender apenas de recursos estáticos.
• Demografia: Estudos de ablação mostraram que adicionar idade, sexo e raça como tokens de entrada não melhorou o desempenho, sugerindo que esses fatores são amplamente redundantes com a trajetória clínica longitudinal capturada pelo modelo.

Robustez e Significado Clínico

• Frequência de Medição: O erro de previsão (NRMSE) não mostrou correlação forte com a frequência de medição. A alta precisão foi impulsionada por correlações entre variáveis (ex: MCV/MCH) e estabilidade temporal, não pela densidade de dados.
• Perturbação de Medicamentos: Em 81% das visitas, as previsões usando os medicamentos originais foram mais precisas do que usando conjuntos de medicamentos randomizados, indicando que o modelo aprende informações relacionadas ao tratamento.
• Análise Contrafactual: O LaBERT reproduziu com sucesso efeitos farmacológicos estabelecidos em simulações controladas:
  • Warfarin: Previu aumento de INR em 100% das comparações em 11 sementes do modelo.
  • Heparina: Previu aumento de aPTT em 82–89% das comparações.
    Esses efeitos foram consistentes em horizontes de previsão variando de 0,5 a 30 dias.

Significância e Alegações

Os autores posicionam o LaBERT como um framework fundamental para a simulação de estado do paciente dependente de tratamento e suporte à decisão clínica personalizada. As principais alegações incluem:

1. Primeiro Framework Unificado: Tanto quanto sabem, o LaBERT é o primeiro método a combinar representações clínicas heterogêneas, modelagem de tokens consciente de recursos, integração de histórico longitudinal explícita e previsão condicionada pelo tempo dentro de um único framework de transformer para prever estados fisiológicos futuros.
2. Interpretabilidade Clínica: A capacidade do modelo de reproduzir efeitos de drogas conhecidos (Warfarin-INR, Heparin-aPTT) em cenários contrafactuais demonstra que ele aprende associações clinicamente significativas e dependentes de tratamento a partir de dados observacionais.
3. Limitações e Causalidade: Os autores declaram explicitamente que o LaBERT aprende associações de dados de EHR observacionais, não efeitos causais. Eles alertam que o modelo pode replicar vieses inerentes à atribuição de tratamento (ex: "confundimento por indicação", onde a insulina é prescrita para pacientes com glicose mais alta). Portanto, as previsões devem ser vistas como previsões observacionais para complementar, não substituir, o julgamento clínico ou ensaios prospectivos.
4. Direção Futura: O artigo sugere que integrar tais representações longitudinais com conhecimento biomédico estruturado (ex: grafos de conhecimento) poderia melhorar a interpretabilidade e permitir simulações biologicamente informadas.

O trabalho estabelece uma abordagem computacional robusta para a previsão de medições clínicas contínuas, indo além da previsão de eventos discretos para fornecer previsões quantitativas e conscientes do tempo das trajetórias dos pacientes.