Resumen Técnico: Un Mezcla de Generadores Filtrada para el Entrenamiento de Supervivencia Totalmente Sintética

Declaración del Problema

El análisis de supervivencia es crítico para la toma de decisiones clínicas en dominios como la oncología y la cardiología, sin embargo, el entrenamiento de modelos robustos se ve obstaculizado por restricciones estructurales de los datos. Los eventos se acumulan durante largos periodos de seguimiento, lo que resulta en tamaños de cohorte pequeños, mientras que las regulaciones de privacidad restringen el intercambio de datos entre instituciones. Si bien la generación de datos tabulares sintéticos ofrece un remedio potencial para el aumento de datos y el intercambio preservando la privacidad, los enfoques existentes luchan en este régimen. Los modelos generativos únicos entrenados en cohortes de supervivencia pequeñas suelen fallar al caracterizar fielmente la distribución de la población subyacente. En consecuencia, los flujos de trabajo de "entrenar con sintético, probar con real" (TSTR) rinden consistentemente por debajo del entrenamiento con datos reales, ya que los conjuntos sintéticos no logran cubrir las regiones específicas del colector de datos (manifold) requeridas para la generalización de modelos downstream.

Metodología: Pipeline FoGS

Los autores proponen FoGS (Filtered Mixture-of-Generators for Survival analysis), un pipeline de optimización de dos niveles que replantea la construcción de datos sintéticos no como un problema de generación, sino como un problema de selección de muestras. El objetivo es construir un conjunto de entrenamiento sintético de alta utilidad seleccionando las mejores muestras de un grupo heterogéneo, impulsado por una señal de plausibilidad por muestra.

1. Pool de Generadores y Generación de Candidatos

FoGS extrae un pool de candidatos de cuatro generadores tabulares arquitectónicamente distintos, asegurando que el pool no esté ligado al sesgo inductivo de una sola arquitectura:

• ARF: Adversarial Random Forests (estimación de densidad no paramétrica).
• Red Bayesiana: Factorización explícita con aprendizaje de estructura mediante hill-climbing.
• TabDDPM: Modelos de difusión de eliminación de ruido para características mixtas categóricas y numéricas.
• SurvivalCTGAN: Una variante de CTGAN adaptada para datos de supervivencia censurados (generando covariables mediante GAN y tiempos de evento mediante una cabeza de supervivencia).

Cada generador $g$ es entrenado en la partición de entrenamiento real $D_r$ y produce un pool de candidatos $D_g$ de tamaño $N_g = \lceil \kappa N_r \rceil$ (donde $\kappa=100$ en los experimentos). La unión de estos pools forma el conjunto de candidatos $D_{synth}$.

2. Puntuación de Plausibilidad por Muestra

En lugar de usar una única métrica, FoGS emplea un ensamble de siete modelos de supervivencia (incluyendo Cox, DeepSurv, DeepHit, RSF, FPBoost, XGBoost-Cox y un ensamble ponderado) entrenados en los datos reales $D_r$ para puntuar cada muestra sintética. Cada evaluador asigna dos pérdidas de regla de puntuación adecuada a una muestra:

• Puntuación de Brier Integrada (IBS): Mide la precisión de la predicción a lo largo del tiempo.
• Log-Verosimilitud Negativa (NLL): Mide la calibración probabilística.

Valores de pérdida bajos indican que una muestra sintética es plausible con respecto a la distribución de la población real.

3. Política de Selección

El conjunto de datos sintéticos filtrado $D^*_s$ se construye mediante un operador de selección $\Phi$ definido por un vector de política $\pi$. Esta política incluye:

• Cuotas de Generador ($p_g$): La proporción de muestras extraídas de cada pool de generador.
• Pesos de Evaluador ($w_{m,k}$): Pesos de agregación para las pérdidas IBS y NLL a través de los siete evaluadores.
• Complemento Aleatorio ($\rho$): Una fracción de muestras seleccionadas uniformemente al azar del pool, mientras que la fracción restante $(1-\rho)$ se selecciona de forma determinista basada en la pérdida agregada más baja. Esto equilibra la plausibilidad (seleccionando muestras de alta calidad) con la cobertura de la población (reteniendo casos raros en las colas).
• Banderas de Estratificación ($b_{alt}, b_{alc}$): Restricciones opcionales para asegurar que el conjunto seleccionado coincida con la distribución del tiempo de evento y la tasa de censura de los datos reales.

4. Optimización de Dos Niveles

El pipeline optimiza $\pi$ a través de bucles anidados:

• Bucle Interno: Entrena un modelo de supervivencia downstream (instanciado como XGBoost-Cox) en el conjunto filtrado $D^*_s$ y ajusta sus hiperparámetros $\theta$ para maximizar un puntaje de validación compuesto ($C_{val} - 2 \cdot IBS_{val}$) en una partición de validación real reservada.
• Bucle Externo: Optimiza la política de selección $\pi$ para minimizar el IBS del modelo downstream resultante en la validación real. Esto asegura que la política de selección se ajuste específicamente para la utilidad downstream.

Contribuciones Clave

1. Pipeline FoGS: El primer pipeline que optimiza la construcción de datos sintéticos para el análisis de supervivencia al reformularlo como un problema de selección de muestras sobre un pool de generadores heterogéneos, impulsado por señales de plausibilidad por muestra.
2. Benchmarking Exhaustivo: Evaluación a través de 16 conjuntos de datos de supervivencia públicos, demostrando que FoGS iguala o supera el rendimiento del entrenamiento con datos reales en la mayoría de las cohortes.
3. Perspectivas Estructurales: Identificación de dos fenómenos gobernantes en la selección de datos sintéticos:
   • Un intercambio calidad-cobertura, donde retener una fracción aleatoria no trivial de muestras es necesario para preservar la cobertura de la población y evitar la sobrerrepresentación de regiones densas.
   • Dependencia del conjunto de datos, donde ninguna estrategia de ponderación de evaluadores única prevalece en todos los cohortes; los pesos óptimos deben ajustarse por conjunto de datos.

Resultados

Evaluado en 16 conjuntos de datos públicos utilizando el paradigma TSTR con XGBoost-Cox como modelo downstream:

• Ganancias de Rendimiento: FoGS mejoró tanto el C-index como el IBS en 9 de 16 conjuntos de datos y al menos una métrica en 13 de 16.
• Significancia Estadística: Las mejoras medias fueron de +2.17 en C-index y +0.67 en IBS. Las pruebas de rango firmado de Wilcoxon de una cola arrojaron $p=0.039$ para C-index y $p=0.035$ para IBS.
• Estudios de Ablación:
  • Restringir FoGS a un solo generador (incluso el mejor performing ARF) resultó en una utilidad agregada menor que el pool completo de cuatro generadores.
  • Reemplazar la política de selección ajustada por un muestreo aleatorio del mismo pool causó que el rendimiento cayera por debajo de la línea base de datos reales ($\Delta C = -0.50$), confirmando que la mejora proviene de la política de selección, no de los generadores en sí mismos.
• Privacidad: El conjunto filtrado no mostró una degradación significativa en el margen de privacidad de vecino más cercano (NNDR) en relación con el muestreo aleatorio sin filtrar ($p=0.087$).

Significancia

El artículo afirma que el filtrado de muestras sobre un pool de generadores heterogéneos es un sustituto viable para el entrenamiento con datos reales en entornos clínicos con restricciones de privacidad.

La significancia radica en el cambio de paradigma de "generar mejores datos" a "seleccionar mejores datos". Al tratar la construcción sintética como un problema de selección ajustado por política, FoGS supera las limitaciones de los tamaños de cohorte pequeños donde un único generador falla en capturar distribuciones complejas. El marco permite a las instituciones compartir cohortes sintéticas de forma segura sin revelar registros a nivel de paciente, manteniendo, o incluso mejorando, la utilidad de los modelos de supervivencia downstream en comparación con el entrenamiento únicamente con datos reales. El enfoque es modular, permitiendo la integración de nuevos generadores o evaluadores sin alterar el pipeline central.