Sintesi Tecnica: Un Mix di Generatori Filtrato per l'Addestramento alla Sopravvivenza Completamente Sintetica

Problema

L'analisi della sopravvivenza è fondamentale per il processo decisionale clinico in domini quali l'oncologia e la cardiologia, tuttavia l'addestramento di modelli robusti è ostacolato da vincoli strutturali dei dati. Gli eventi si accumulano durante lunghi periodi di follow-up, risultando in dimensioni ridotte delle coorti, mentre le normative sulla privacy limitano la condivisione dei dati tra diverse istituzioni. Sebbene la generazione di dati tabulari sintetici offra un potenziale rimedio per l'aumento dei dati e la condivisione preservante la privacy, gli approcci esistenti faticano in questo regime. I singoli modelli generativi addestrati su piccole coorti di sopravvivenza spesso non riescono a caratterizzare fedelmente la distribuzione della popolazione sottostante. Di conseguenza, le pipeline "train-on-synthetic, test-on-real" (TSTR) performano costantemente peggio rispetto all'addestramento su dati reali, poiché i set sintetici non riescono a coprire le regioni specifiche del manifold dei dati necessarie per la generalizzazione dei modelli a valle.

Metodologia: Pipeline FoGS

Gli autori propongono FoGS (Filtered Mixture-of-Generators for Survival analysis), una pipeline di ottimizzazione a due livelli che inquadra la costruzione di dati sintetici non come un problema di generazione, ma come un problema di selezione del campione. L'obiettivo è costruire un set di addestramento sintetico ad alta utilità selezionando i migliori campioni da un pool eterogeneo, guidati da un segnale di plausibilità per singolo campione.

1. Pool di Generatori e Generazione di Candidati

FoGS estrae un pool di candidati da quattro generatori tabulari architettonicamente distinti, garantendo che il pool non sia legato al bias induttivo di una singola architettura:

• ARF: Adversarial Random Forests (stima della densità non parametrica).
• Rete Bayesiana: Fattorizzazione esplicita con apprendimento della struttura tramite hill-climbing.
• TabDDPM: Modelli di diffusione denoising per feature miste categoriche e numeriche.
• SurvivalCTGAN: Una variante di CTGAN adattata per dati di sopravvivenza censurati (generazione di covariate tramite GAN e tempi di evento tramite una testa di sopravvivenza).

Ogni generatore $g$ viene addestrato sulla partizione di addestramento reale $D_r$ e produce un pool di candidati $D_g$ di dimensione $N_g = \lceil \kappa N_r \rceil$ (dove $\kappa=100$ negli esperimenti). L'unione di questi pool forma il set di candidati $D_{synth}$.

2. Punteggio di Plausibilità per Campione

Invece di utilizzare una singola metrica, FoGS impiega un ensemble di sette modelli di sopravvivenza (inclusi Cox, DeepSurv, DeepHit, RSF, FPBoost, XGBoost-Cox e un ensemble pesato) addestrati sui dati reali $D_r$ per valutare ogni campione sintetico. Ogni valutatore assegna due perdite di regola di punteggio appropriata (proper scoring rule) a un campione:

• Integrated Brier Score (IBS): Misura l'accuratezza della predizione nel tempo.
• Negative Log-Likelihood (NLL): Misura la calibrazione probabilistica.

Valori di perdita bassi indicano che un campione sintetico è plausibile rispetto alla distribuzione della popolazione reale.

3. Politica di Selezione

Il dataset sintetico filtrato $D^*_s$ è costruito tramite un operatore di selezione $\Phi$ definito da un vettore di policy $\pi$. Questa policy include:

• Quote dei Generatori ($p_g$): La proporzione di campioni estratti da ciascun pool di generatori.
• Pesi degli Scorer ($w_{m,k}$): Pesi di aggregazione per le perdite IBS e NLL attraverso i sette valutatori.
• Complemento Casuale ($\rho$): Una frazione di campioni selezionati uniformemente in modo casuale dal pool, mentre la frazione rimanente $(1-\rho)$ è selezionata deterministicamente in base alla perdita aggregata più bassa. Ciò bilancia la plausibilità (selezione di campioni di alta qualità) con la copertura della popolazione (ritenzione di casi rari nelle code).
• Flag di Stratificazione ($b_{alt}, b_{alc}$): Vincoli opzionali per garantire che il set selezionato corrisponda alla distribuzione dei tempi di evento e al tasso di censura dei dati reali.

4. Ottimizzazione a Due Livelli

La pipeline ottimizza $\pi$ attraverso cicli annidati:

• Ciclo Interno: Addestra un modello di sopravvivenza a valle (istanziato come XGBoost-Cox) sul set filtrato $D^*_s$ e ottimizza i suoi iperparametri $\theta$ per massimare un punteggio di validazione composito ($C_{val} - 2 \cdot IBS_{val}$) su una partizione di validazione reale tenuta da parte.
• Ciclo Esterno: Ottimizza la policy di selezione $\pi$ per minimizzare l'IBS del modello a valle risultante sulla partizione di validazione reale. Ciò assicura che la policy di selezione sia ottimizzata specificamente per l'utilità a valle.

Contributi Chiave

1. Pipeline FoGS: La prima pipeline che ottimizza la costruzione di dati sintetici per l'analisi della sopravvivenza, riformulandola come un problema di selezione di campioni su un pool di generatori eterogenei, guidato da segnali di plausibilità per singolo campione.
2. Benchmarking Completo: Valutazione su 16 dataset pubblici di sopravvivenza, dimostrando che FoGS eguaglia o supera le prestazioni dell'addestramento su dati reali nella maggior parte delle coorti.
3. Approfondimenti Strutturali: Identificazione di due fenomeni governanti nella selezione dei dati sintetici:
   • Un trade-off qualità-copertura, dove la ritenzione di una frazione casuale non trascurabile di campioni è necessaria per preservare la copertura della popolazione e prevenire la sovrarappresentazione delle regioni dense.
   • Dipendenza dal Dataset, dove nessuna strategia di pesatura degli scorer prevale su tutti i dataset; i pesi ottimali devono essere ottimizzati per ogni dataset.

Risultati

Valutato su 16 dataset pubblici utilizzando il paradigma TSTR con XGBoost-Cox come modello a valle:

• Guadagni di Performance: FoGS ha migliorato sia il C-index che l'IBS in 9 di 16 dataset e almeno una metrica in 13 di 16.
• Significatività Statistica: I miglioramenti medi sono stati di +2.17 nel C-index e +0.67 nell'IBS. I test di Wilcoxon signed-rank a una coda hanno prodotto $p=0.039$ per il C-index e $p=0.035$ per l'IBS.
• Studi di Ablazione:
  • Limitare FoGS a un singolo generatore (anche il migliore, ARF) ha portato a un'utilità aggregata inferiore rispetto al pieno pool di quattro generatori.
  • Sostituire la policy di selezione ottimizzata con un prelievo casuale dallo stesso pool ha causato un calo delle prestazioni al di sotto della baseline dei dati reali ($\Delta C = -0.50$), confermando che il miglioramento deriva dalla policy di selezione, non dai generatori stessi.
• Privacy: Il set filtrato non ha mostrato una degradazione significativa nel margine di privacy del vicino più prossimo (NNDR) rispetto al campionamento casuale non filtrato ($p=0.087$).

Significato

Il paper afferma che il filtraggio dei campioni su un pool di generatori eterogenei è un sostituto valido per l'addestramento su dati reali in contesti clinici con restrizioni di privacy.

La significatività risiede nello spostamento del paradigma da "generare dati migliori" a "selezionare dati migliori". Trattando la costruzione sintetica come un problema di selezione ottimizzato tramite policy, FoGS supera i limiti delle piccole dimensioni delle coorti dove i singoli generatori falliscono nel catturare distribuzioni complesse. Il framework consente alle istituzioni di condividere coorti sintetiche in modo sicuro senza rivelare i record dei pazienti, mantenendo o addirittura migliorando l'utilità dei modelli di sopravvivenza a valle rispetto all'addestramento sui soli dati reali. L'approccio è modulare, consentendo l'integrazione di nuovi generatori o scorer senza alterare la pipeline principale.