🤖 machine learning

Tabular Foundation Models Can Do Survival Analysis

Este artigo demonstra que modelos de fundação tabulares podem realizar análise de sobrevivência de forma eficaz ao reformular a previsão de tempo até o evento como uma série de problemas de classificação binária para lidar com a censura, um método que modela diretamente probabilidades de falha cumulativa e supera empiricamente os baselines existentes em 48 conjuntos de dados do mundo real.

Autores originais: Da In Kim, Wei Siang Lai, Kelly W. Zhang

Publicado 2026-07-21

📖 5 min de leitura🧠 Leitura aprofundada

CC BY 4.0

Autores originais: Da In Kim, Wei Siang Lai, Kelly W. Zhang

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Imagine que você é um detetive tentando resolver um mistério: "Quando o evento acontecerá?" No mundo da ciência de dados, isso é chamado de análise de sobrevivência. Não se trata apenas de prever se algo vai acontecer — como uma lâmpada queimar — mas de quando isso acontecerá. Isso é crucial em campos como a medicina (prevendo quando um paciente pode ter uma recaída), engenharia (descobrindo quando uma peça de uma máquina falhará) ou até mesmo nos negócios (adivinhando quando um cliente pode desistir).

No entanto, há uma reviravolta complicada neste mistério: o censuramento. Imagine que você está observando uma corrida, mas alguns corredores saem do estádio antes de cruzarem a linha de chegada. Você sabe que eles ainda estavam correndo quando saíram, mas não sabe quando eles teriam terminado. Em termos de dados, isso é o "censuramento à direita". O evento ainda não aconteceu para essas pessoas, ou perdemos o rastro delas. As ferramentas matemáticas tradicionais costumam ter dificuldade com essa informação ausente, geralmente exigindo fórmulas especiais e complexas construídas do zero para cada novo problema.

Entram em cena os Modelos de Fundação Tabulares (TFMs). Pense neles como detetives superinteligentes e pré-treinados. Eles já leram milhões de diferentes "arquivos de casos" (conjuntos de dados) sobre tudo, desde preços de casas até padrões climáticos. Eles são especialistas em identificar padrões em tabelas de números sem precisar serem retreinados para cada novo mistério. A grande questão que os cientistas têm feito é: esses detetives de propósito geral conseguem resolver o mistério "censurado" da análise de sobrevivência sem precisar de um diploma especializado nisso?

A Grande Ideia do Artigo: Transformando um Mistério em uma Série de Perguntas de Sim/Não

Os pesquisadores do Imperial College London decidiram testar um truque inteligente. Em vez de pedir ao detetive superinteligente para adivinhar o momento exato de um evento (o que é difícil quando o relógio pode parar cedo), eles reformularam todo o problema. Eles transformaram a complexa pergunta "quando acontecerá?" em uma série simples de perguntas de Sim/Não.

Imagine que você está perguntando a um amigo: "O filme termina até as 17h?" Depois, "Termina até as 18h?" Depois, "Até as 19h?" Se você conseguir responder a essas perguntas simples corretamente, poderá descobrir toda a linha do tempo.

Os autores pegaram essa ideia e a aplicaram aos dados de sobrevivência. Eles fatiaram a linha do tempo em pequenos blocos discretos (como fatiar um pão de forma). Para cada fatia de tempo, eles faziam uma pergunta binária ao modelo: "O evento já aconteceu até este momento?"

Sim: O evento ocorreu.
Não: O evento ainda não aconteceu.

Aqui está a parte mágica: se os dados estiverem "censurados" (o corredor saiu do estádio), o modelo simplesmente trata as perguntas futuras como "rótulos ausentes". Ele não fica confuso; ele apenas ignora as perguntas para os períodos de tempo após a saída do corredor. Isso permite que o modelo use suas habilidades padrão de treinamento "Sim/Não" para resolver um problema de sobrevivência, sem precisar de nenhum treinamento específico de sobrevivência.

O Que Eles Descobriram: O Truque "Cumulativo" Funciona Melhor

A equipe testou essa ideia em 48 conjuntos de dados do mundo real (43 estáticos e 5 dinâmicos, onde a informação muda ao longo do tempo). Eles compararam seu método com os especialistas da "velha guarda" (como modelos Cox) e os modelos de aprendizado profundo da "nova escola" (como o DeepHit).

Aqui está o que eles descobriram:

A Abordagem "Sim/Não" Vence: Quando usaram a simples pergunta "Já aconteceu até agora?" (que eles chamam de modelagem de Falha Cumulativa), seus modelos de fundação tabulares prontos para uso (especificamente um chamado MITRA) superaram quase tudo o mais. Foi o melhor desempenho médio em todos os conjuntos de dados.
O Jeito Antigo Tem uma Falha: Havia outra maneira de fazer a pergunta: "O evento aconteceu exatamente neste período de tempo específico?" (Isso é modelar o Risco Discreto ou Discrete Hazard). O artigo descobriu que, embora isso funcionasse bem para alguns intervalos de tempo, o método desmoronava à medida que mais fatias eram adicionadas. Por quê? Porque pequenos erros ao adivinhar a primeira fatia se multiplicavam e pioravam progressivamente conforme se avançava na linha, como um jogo de "telefone sem fio" onde a mensagem chega distorcida. O método "Cumulativo" evitou isso ao olhar para o quadro geral até aquele ponto, tornando-o muito mais robusto.
Sem Necessidade de Treinamento: A melhor parte? Eles não tiveram que retreinar os modelos. Eles apenas inseriram os dados e os modelos usaram suas habilidades existentes de "aprendizado em contexto" para resolver o problema imediatamente. É como entregar um arquivo de caso novo a um detetive pré-treinado e vê-lo resolver o caso instantaneamente porque ele já conhece as regras do jogo.

A Prova e os Limites

Os autores não apenas suposições; eles provaram matematicamente que, se você tiver dados suficientes, minimizar o erro nessas simples perguntas de "Sim/Não" levará você às verdadeiras probabilidades de sobrevivência. Eles mostraram que os modelos testados estavam, de fato, melhorando nas previsões de probabilidade à medida que os conjuntos de dados cresciam.

No entanto, eles foram cuidadosos ao notar os limites. Este método depende da premissa de que as "saídas" (censuramento) são aleatórias e não relacionadas ao evento em si. Se os corredores que saíram do estádio fossem justamente aqueles que estavam secretamente feridos e teriam terminado por último, o modelo poderia ficar confuso. O artigo também observou que transformar o tempo contínuo em fatias (discretização) perde um pouco de precisão, mas a troca valeu a pena pelos enormes ganhos em precisão e velocidade.

No fim, este artigo sugere que não precisamos construir um novo cérebro especializado para cada problema de sobrevivência. Às vezes, a melhor maneira de resolver um mistério complexo de "quando" é apenas fazer uma série de perguntas simples de "sim ou não", deixando nossos detetives de IA pré-treinados fazerem o trabalho pesado.

Resumo Técnico: Modelos de Fundação Tabulares Podem Realizar Análise de Sobrevivência

Definição do Problema
A análise de sobrevivência, ou análise de tempo até o evento, visa modelar quando um evento de interesse ocorre, em vez de apenas se ele ocorre. Um desafio definidor neste domínio é a censura à direita, onde o período de observação termina antes que o evento aconteça, deixando o tempo real do evento desconhecido. Embora os Modelos de Fundação Tabulares (TFMs) tenham alcançado um sucesso notável em tarefas de classificação e regressão — frequentemente superando métodos como o XGBoost em regimes de poucos dados — adaptar-nos à análise de sobrevivência não é trivial. Arquiteturas de regressão padrão não podem lidar nativamente com a censura, e os modelos existentes específicos para sobrevivência geralmente exigem treinamento do zero em conjuntos de dados únicos, limitando sua utilidade em cenários de baixos dados. Além disso, enquanto os TFMs são avaliados por acurácia ou erro quadrático médio, a modelagem de sobrevivência requer probabilidades bem calibradas para caracterizar a dinâmica de risco ao longo do tempo.

Metodologia
Os autores propõem um framework que reformula a análise de sobrevivência como uma série de problemas de classificação binária para alavancar TFMs prontos para uso via aprendizado em contexto (in-context learning), sem a necessidade de pré-treinamento específico para sobrevivência, ajuste fino (fine-tuning) ou mudanças arquiteturais.

Discretização Temporal: O horizonte de tempo contínuo é particionado em $K$ intervalos discretos.
Formulação de Falha Cumulativa: Ao contrário das abordagens tradicionais que modelam a taxa de risco de tempo discreto (a probabilidade de um evento ocorrer em um intervalo específico dado que houve sobrevivência até aquele ponto), este método modela diretamente a probabilidade de falha cumulativa. Para cada ponto no tempo $t_k$ , um rótulo binário $Y_{i,k}$ é definido como $1(T_i \le t_k)$ , indicando se o evento ocorreu até o tempo $t_k$ .
Lidando com a Censura: Observações censuradas são tratadas como exemplos com rótulos ausentes em pontos no tempo além do tempo de censura. O objetivo de treinamento é uma perda de entropia cruzada binária padrão, restrita apenas aos rótulos observados (onde $t_k < C_i$ ).
Aprendizado em Contexto: O conjunto de dados reformulado (características, pontos no tempo e rótulos binários) é alimentado em um TFM (ex: MITRA, TabPFN) ou em um classificador padrão (XGBoost). O modelo aprende a prever a probabilidade de falha até um tempo $t_k$ dadas as covariáveis.
Extensão Dinâmica: Para configurações dinâmicas com covariáveis variantes no tempo, o modelo utiliza o histórico de observações até o tempo $t_k$ e prevê a probabilidade de falha cumulativa para um horizonte futuro $\Delta$ , condicionado ao fato de o sujeito ter sobrevivido até $t_k$ .

Garantias Teóricas
O artigo fornece uma prova teórica (Teorema 4.2) demonstrando que, sob a suposição padrão de censura condicionalmente independente, a minimização da proposta perda de entropia cruzada binária recupera as verdadeiras probabilidades de sobrevivência à medida que o tamanho do conjunto de treinamento se aproxima do infinito. Isso estabelece que a formulação de classificação é estatisticamente consistente com o objetivo de sobrevivência.

Principais Contribuições

Formulação de Classificação: Os autores introduzem uma formulação de classificação específica que modela probabilidades de falha cumulativas diretamente. Empiricamente, isso supera formulações baseadas em taxas de risco discretas (que sofrem de acumulação de erro multiplicativo conforme o número de bins aumenta) e formulações multiclasse.
Prova de Consistência: Eles provam que a minimização da perda de classificação binária produz estimativas consistentes de probabilidade de sobrevivência sob suposições padrão de censura.
Avaliação Empírica: A abordagem é avaliada em 48 conjuntos de dados do mundo real (43 estáticos e 5 dinâmicos) do repositório SurvSet. O estudo compara TFMs prontos para uso usando esta formulação contra baselines clássicos (CoxPH, Random Survival Forests) e modelos de aprendizado profundo (DeepSurv, DeepHit, Joint Models).

Resultados

Configuração Estática: Em 43 conjuntos de dados, os TFMs usando a formulação de falha cumulativa (especificamente MITRA-CF e XGBoost-CF) alcançaram o melhor desempenho geral em múltiplas métricas (C-Index, AUC Integrada, Brier Score Integrado). A formulação CF provou ser mais robusta ao número de bins de discretização ( $K$ ) comparada às abordagens baseadas em risco (DH), que degradaram conforme $K$ aumentava devido à acumulação de erro.
Configuração Dinâmica: Em 5 conjuntos de dados dinâmicos, o MITRA-CF superou todos os baselines, incluindo CoxPH/RSF com landmarking e o Dynamic DeepHit. Os resultados sugerem que os priors temporais incorporados nos TFMs são particularmente eficazes para modelar as complexidades de dados longitudinais.
Correlação de Métricas: O estudo encontrou uma forte correlação ( $r=0.89$ ) entre a perda de entropia cruzada binária e o Brier Score Integrado, apoiando a afirmação teórica de que a otimização do objetivo de classificação melhora diretamente a calibração da probabilidade de sobrevivência.

Significância e Alegações
O artigo alega que as capacidades de análise de sobrevivência podem ser elicitadas de modelos de fundação tabulares prontos para uso através de uma simples reformulação de classificação binária. Esta abordagem oferece uma alternativa computacionalmente eficiente ao treinamento de modelos de sobrevivência especializados do zero, particularmente em regimes de poucos dados, onde os modelos de fundação se destacam.

Os autores distinguem seu trabalho de esforços concorrentes (Survival In-Context e SurvivalPFN) que pré-treinam transformers especificamente em tarefas de sobrevivência sintéticas. Em contraste, este trabalho demonstra que TFMs de propósito geral, sem qualquer pré-treinamento ou modificação arquitetural específica para sobrevivência, podem alcançar desempenho de estado da arte em tarefas de sobrevivência quando fornecidos com a formulação de classificação correta. O método é flexível em relação ao número de bins temporais e aplicável tanto a configurações estáticas quanto dinâmicas, embora permaneça limitado a cenários que satisfaçam a suposição de censura condicionalmente independente.

A Grande Ideia do Artigo: Transformando um Mistério em uma Série de Perguntas de Sim/Não

O Que Eles Descobriram: O Truque "Cumulativo" Funciona Melhor

A Prova e os Limites

Mais como este