Tabular Foundation Models for Clinical Survival Analysis via Survival-Aware Adaptation

Resumo Técnico: Modelos de Fundação Tabulares para Análise de Sobrevivência Clínica via Adaptação Consciente da Sobrevivência

Definição do Problema
Prever desfechos de tempo até o evento, como mortalidade ou progressão de doenças, é uma tarefa fundamental na tomada de decisão clínica, tipicamente abordada através da análise de sobrevivência. Embora métodos estatísticos clássicos (ex: riscos proporcionais de Cox) e modelos de aprendizagem profunda (ex: DeepSurv, DeepHit) sejam amplamente utilizados, eles frequentemente exigem treinamento específico para a tarefa, ajuste extensivo de hiperparâmetros e grandes quantidades de dados rotulados — recursos que são frequentemente escassos em cenários clínicos do mundo real. Além disso, esses modelos devem lidar com dados censurados à direita, onde o evento de interesse não é observado para todos os pacientes.

Avanços recentes em modelos de fundação (FMs) tabulares, como TabPFN, TabDPT e TabICL, oferecem uma alternativa promissora ao aprender representações de propósito geral a partir de tarefas tabulares sintéticas, permitindo um desempenho robusto via aprendizagem em contexto (in-context learning) sem treinamento no conjunto de dados alvo. No entanto, sua aplicabilidade à análise de sobrevivência clínica permanece subexplorada. Os FMs existentes são projetados primariamente para classificação discreta ou regressão e não suportam nativamente a predição de tempo até o evento censurado. Tentativas anteriores de adaptá-los envolvem reformular a sobrevivência como uma sequência de tarefas de classificação binária sobre intervalos de tempo discretizados, o que introduz sobrecarga computacional, desequilíbrio de classes e inconsistências na modelagem temporal.

Metodologia
Os autores propõem uma abordagem de adaptação leve para aplicar modelos de fundação tabulares à análise de sobrevivência clínica. A estratégia central consiste em manter o backbone pré-treinado do modelo de fundação fixo e treinar apenas uma cabeça de predição leve e consciente da sobrevivência. O estudo avalia dois paradigmas:

1. Aprendizagem em Contexto Zero-Shot (Zero-Shot In-Context Learning): O modelo pré-treinado é aplicado diretamente a uma tarefa de sobrevivência discretizada. Para cada intervalo de tempo, o modelo prevê a probabilidade de um evento ocorrer usando a coorte de treinamento como suporte em contexto. A função de sobrevivência é reconstruída a partir dessas probabilidades, com pós-processamento para garantir a monotonicidade.
2. Adaptação Consciente da Sobrevivência (Proposta): Uma cabeça de Regressão Logística Multitarefa (MTLR) é anexada às representações pré-treinadas. Diferente da classificação discretizada, a MTLR modela a distribuição de sobrevivência como uma probabilidade conjunta sobre sequências de sobrevivência válidas. Esta abordagem:
   • Codifica desfechos de sobrevivência como sequências binárias representando a transição da sobrevivência para o evento.
   • Define um modelo log-linear sobre sequências válidas, lidando naturalmente com a censura ao marginalizar sobre sequências consistentes com a sobrevivência além do tempo de censura.
   • Impõe a monotonicidade por construção, sem exigir expansão temporal ou correção pós-hoc.

Os autores avaliam três arquiteturas representativas (TabPFN, TabDPT, TabICL) através de um diversificado conjunto de benchmarks de sobrevivência públicos (SUPPORT, METABRIC, GBSG, WHAS, FLCHAIN, SEER, VETERANS) e duas coortes de UTI de larga escala (MIMIC-IV e eICU).

Principais Contribuições

• Estrutura de Adaptação: O artigo introduz um método de parâmetros eficientes para estender modelos de fundação tabulares para a predição de tempo até o evento censurado, treinando cabeças conscientes da sobrevivência (especificamente MTLR) sobre representações pré-treinadas congeladas.
• Avaliação Abrangente: O estudo fornece uma comparação rigorosa contra baselines fortes, incluindo modelos estatísticos clássicos, métodos baseados em árvores e modelos de sobrevivência de redes neurais profundas, abrangendo benchmarks de pequeno a médio porte e conjuntos de dados de prontuários eletrônicos (EHR) de larga escala.
• Validação Empírica: O trabalho demonstra que combinar representações tabulares pré-treinadas com objetivos conscientes da sobrevivência produz desempenho competitivo ou superior em comparação com baselines de estado da arte, particularmente em conjuntos de dados grandes e heterogêneos.

Resultados
Os resultados experimentais indicam que a adaptação consciente da sobrevivência é a estratégia mais consistente entre os conjuntos de dados:

• Desempenho: No conjunto de dados MIMIC-IV, o modelo TabDPT-FT-MTLR alcançou um C-index de 0,856, representando uma melhoria relativa de +1,4% sobre o melhor baseline não-FM (DeepSurv, 0,844) e uma melhoria de +6,7% sobre o melhor modelo zero-shot (0,802). Da mesma forma, no eICU, o TabICL-FT-MTLR alcançou um C-index de 0,797, superando o DeepSurv (0,784) e o melhor modelo zero-shot (0,749).
• Zero-Shot vs. Adaptação: Embora a inferência zero-shot seja competitiva, particularmente em conjuntos de dados menores ou mais limpos, ela é consistentemente superada pela adaptação consciente da sobrevivência. Os autores atribuem isso às limitações das reformulações discretizadas zero-shot, que tratam os intervalos de tempo de forma independente e sofrem com o desequilíbrio de classes.
• Qualidade da Representação: Backbones tabulares pré-treinados superaram consistentemente os encoders MLP padrão quando pareados com o mesmo objetivo de MTLR, sugerindo que os modelos de fundação codificam vieses indutivos úteis para dados tabulares que se transferem efetivamente para tarefas de sobrevivência.
• Estratificação de Risco: Na análise de utilidade clínica, os modelos conscientes da sobrevivência produziram uma separação mais clara e estável dos grupos de pacientes de baixo, médio e alto risco em comparação com os modelos zero-shot. Os modelos adaptados mostraram uma divergência mais precoce dos grupos de risco e menos cruzamentos de curvas, indicando um ranking de risco mais confiável ao longo do tempo.

Significância e Alegações
O artigo alega que modelos de fundação tabulares, quando combinados com uma adaptação leve consciente da sobrevivência, fornecem uma alternativa prática e eficaz às abordagens tradicionais de modelagem de sobrevivência. A significância deste trabalho reside na:

• Eficiência: A abordagem elimina a necessidade de treinamento extensivo de parâmetros específicos da tarefa do backbone, simplificando a implementação e reduzindo os requisitos de dados para predição de sobrevivência de alto desempenho.
• Robustez: O método demonstra forte generalização através de diversos domínios clínicos e regimes de dados, desde pequenos benchmarks públicos até coortes de UTI de larga escala e heterogêneas.
• Utilidade Clínica: Ao permitir uma estratificação de risco mais precisa e a identificação mais precoce de pacientes de alto risco, a abordagem apoia uma tomada de decisão mais oportuna e acionável em ambientes de cuidados críticos.

Os autores concluem que, embora a inferência zero-shot sirva como um baseline forte em cenários de poucos recursos, a adaptação consciente da sobrevivência torna-se cada vez mais benéfica conforme o tamanho e a complexidade do conjunto de dados crescem, oferecendo uma maneira principada de lidar com a censura e dependências temporais sem modificar o modelo de fundação pré-treinado.