Sintesi Tecnica: Un Digital Twin di Sottopopolazione basato su Modelli di Diffusione per l'Implementazione della Salute Mobile

1. Definizione del Problema

Le interazioni di salute mobile (mHealth) si affidano sempre più ad algoritmi di apprendimento online, come le Interventi Adattivi Just-in-Time (JITAI), per personalizzare i suggerimenti comportamentali (ad esempio, suggerimenti di attività) in tempo reale. Tuttavia, la progettazione di questi algoritmi comporta numerosi iperparametri e scelte strutturali (ad esempio, tassi di esplorazione, selezione delle caratteristiche) che, se configurati in modo errato, possono gravare sui partecipanti e ridurre l'efficacia dell'intervento.

La sfida principale è la mancanza di simulatori realistici per testare il design di questi algoritmi prima del dispiegamento nel mondo reale. I simulatori esistenti affrontano due limitazioni principali:

1. Scarsità di Dati: Le sottopopolazioni target (ad esempio, pazienti in riabilitazione cardiaca) sono spesso piccole (40–80 partecipanti), rendendo difficile l'addestramento di modelli robusti.
2. Impoverimento dei Dati: I dispiegamenti consecutivi mirano spesso a sottopopolazioni, località o contesti sociali differenti. Un simulatore addestrato su un precedente dispiegamento spesso non riesce a generalizzare al successivo a causa di spostamenti di distribuzione (ad esempio, cambiamenti comportamentali post-pandemia).
3. Limitazioni del Modello: I precedenti simulatori strutturali (ad esempio, modelli a spazio di stato lineari) non riescono a catturare la dinamica non lineare, con eccesso di zeri e eterogenea, dei dati reali sull'attività. I metodi basati sul campionamento preservano le distribuzioni marginali ma spesso perdono la coerenza temporale.

Il documento propone un "JITAI-Twin": un digital twin che rappresenta una sottopopolazione target capace di simulare il comportamento e la risposta agli interventi prima dell'inizio di uno studio, consentendo il test sicuro dei design degli algoritmi online.

2. Metodologia

Il metodo proposto costruisce un JITAI-Twin utilizzando un modello di diffusione temporale condizionale attraverso una pipeline a tre stadi. L'architettura è adattata da TimeWeaver (Narasimhan et al., 2024) ma modificata per garantire la coerenza temporale (non-anticipante), il che significa che le azioni future non influenzano la generazione degli stati passati.

2.1. Architettura

• Modello Base: Un modello di diffusione a spazio di stato (SSSD) con un backbone di 36 blocchi residui.
• Coerenza Temporale: Per supportare la valutazione di algoritmi online, il modello genera traiettorie strettamente in avanti nel tempo. Ciò è ottenuto tramite:
  • Convoluzioni 1-D con padding a sinistra: Garantendo che l'output al tempo $t$ dipenda solo dagli input $\le t$.
  • Kernel S4 solo in avanti: Utilizzando solo la direzione in avanti del kernel strutturato dello spazio di stato, impedendo il flusso di informazioni dai passi temporali futuri.
• Condizionamento:
  • Sondaggio Baseline: Codificato tramite un encoder di testo T5 congelato in un riassunto in linguaggio naturale, iniettato tramite cross-attention in ogni blocco residuo. Ciò consente al modello di gestire schemi di sondaggio eterogenei tra gli studi.
  • Sequenza di Intervento: Inserita tramite un modulo dedicato, inizializzato a zero e temporalmente coerente durante il fine-tuning.

2.2. La Pipeline in Tre Fasi

La pipeline integra tre diverse fonti di informazione per adattare il twin a un nuovo dispiegamento:

1. Pre-addestramento (Dati Osservazionali):

   • Fonte: Dataset osservazionali su larga scala (ad esempio, "All of Us" dell'NIH) dove i partecipanti sono monitorati senza intervento.
   • Obiettivo: Apprendere un prior ampio sulle dinamiche comportamentali giorno dopo giorno (ad esempio, cicli giorno-notte, pattern di eccesso di zeri) e su come il comportamento varia tra gli individui in base alla demografia di base.
   • Addestramento: Addestra il backbone dello spazio di stato, la cross-attention e le proiezioni. I livelli di intervento sono esclusi.

2. Fine-tuning (Dati di Intervento Precedenti):

   • Fonte: Dati su piccola scala da precedenti dispiegamenti dello stesso tipo di intervento (ad esempio, HeartSteps v2/v3).
   • Obiettivo: Apprendere come i suggerimenti specifici dell'intervento spostino il comportamento rispetto al prior osservazionale.
   • Addestramento: Il backbone dello spazio di stato (che cattura le dinamiche indipendenti dall'intervento) è congelato. Solo i percorsi di iniezione dell'intervento, gli adapter LoRA sulla cross-attention e le proiezioni di input/output vengono aggiornati. Ciò minimizza l'overfitting su dataset piccoli (~100 partecipanti).

3. Calibrazione al Tempo di Inferenza (Conoscenza Pre-dispiegamento):

   • Fonte: Esperienza di scienziati del dominio o previsioni di un Large Language Model (LLM) riguardanti la popolazione e il contesto del prossimo dispiegamento (ad esempio, "Adulti in sovrappeso nel sud della California post-pandemia").
   • Obiettivo: Adeguare il twin fine-tuned per corrispondere al profilo comportamentale atteso della popolazione target senza utilizzare alcun dato dal target deployment.
   • Meccanismo: Un campionatore con tilt del reward modifica il processo di generazione della diffusione. Il modello campiona da una distribuzione inclinata $\tilde{p}(s) \propto p_\theta(s) \exp(\gamma \langle v, s \rangle)$, dove $v = \mu^* - \mu_{base}$ è la differenza tra il profilo medio target ($\mu^*$) e il profilo medio del modello base. Il parametro di fiducia $\gamma$ controlla la forza dello spostamento.
   • Generazione del Profilo Target: Un prompt LLM a due fasi estrae il ragionamento qualitativo sulle differenze di popolazione e lo converte in una forma diurna numerica normalizzata, che viene poi scalata dal livello di attività del dispiegamento precedente.

3. Contributi Chiave

1. Architettura di Diffusione Temporalmente Coerente: Una nuova modifica ai modelli di diffusione per serie temporali che impone un flusso di informazioni strettamente in avanti nel tempo, rendendoli ambienti validi per valutare algoritmi di apprendimento online dove le azioni future non possono influenzare gli stati passati.
2. Calibrazione al Tempo di Inferenza: Un metodo per adattare un modello generativo fisso a una nuova popolazione non vista, utilizzando solo la conoscenza pre-dispiegamento (protocollo e previsioni di esperti/LLM) tramite il campionamento con tilt del reward, evitando la necessità di riaddestramento.
3. Valutazione End-to-End: Un replay completo del programma HeartSteps (da v2 a v4), dimostrando la capacità del twin di evolvere da un prior osservazionale a un simulatore calibrato e fine-tuned attraverso distinti spostamenti di popolazione.

4. Risultati

Il metodo è stato valutato sulla serie di interventi di attività fisica HeartSteps, confrontando il JITAI-Twin con baselines più semplici (KNN, Per-State Rejection Sampling, Modelli Strutturali Lineari).

• Fedeltà sugli Spostamenti di Distribuzione:
  • Primo Hand-off (v2/v3): Senza dati di intervento precedenti, il twin pre-addestrato (calibrato) ha riprodotto l'eterogeneità tra i partecipanti (dispersione dell'autocorrelazione) significativamente meglio delle baselines, sebbene il fit del profilo giornaliero fosse comparabile ai metodi di resampling.
  • Secondo Hand-off (v4): Quando la popolazione target è cambiata significativamente (pazienti cardiaci di Seattle a adulti in sovrappeso della California meridionale), il twin calibrato e fine-tuned ha raggiunto prestazioni quasi oracle (corrispondenti al floor dei dati reali). È stato l'unico metodo non-oracle a riprodurre fedelmente il profilo giornaliero, la struttura dei bout temporali e l'eterogeneità tra i partecipanti simultaneamente. Le baselines sono fallite nel trasferimento, collassando l'eterogeneità o rappresentando erroneamente i pattern temporali.
• Condizionamento Demografico: Il twin ha riprodotto con successo la direzione dei contrasti demografici (ad esempio, occupati vs disoccupati, livelli di stress) nei dati generati, corrispondendo all'ordinamento dei sottogruppi e ai tempi di picco dei dati reali.
• Accuratezza del Target di Calibrazione: Le previsioni qualitative generate dall'LLM, convertite in target numerici, hanno predetto con successo lo spostamento nei pattern di attività diurna (ad esempio, il pattern bimodale della coorte v4 post-pandemia), permettendo al twin di colmare il divario rispetto alla reale distribuzione target.
• Effetto dell'Intervento: Il twin ha appreso un effetto quasi nullo per i suggerimenti specifici di HeartSteps in v4, coerentemente con i risultati reali del programma, dimostrando di non allucinare l'efficacia dell'intervento.

5. Significato e Rivendicazioni

Il documento sostiene che questo framework fornisce un prerequisito pratico per testare e informare le decisioni di design degli algoritmi online prima del dispiegamento nel mondo reale.

• Costi-Benefici: Il twin giustifica il suo costo specificamente quando i dispiegamenti differiscono significamente (spostamento di distribuzione) o quando le decisioni dipendono dall'eterogeneità tra i partecipanti che i semplici campionatori collassano. Quando le popolazioni sono simili, i semplici metodi di resampling possono bastare.
• Riproducibilità: Consentendo il vetting pre-dispiegamento degli iperparametri degli algoritmi, il metodo mira a prevenire l'improvvisazione a metà dispiegamento che mina la riproducibilità e l'engagement dei partecipanti.
• Limitazioni: Gli autori notano esplicitamente che, sebbene l'architettura sia temporalmente coerente, non identifica intrinsecamente gli effetti causali; il processo di fine-tuning potrebbe non eliminare completamente i confondimenti senza un peso specifico. Inoltre, il ciclo "modello-decisione" (usare il twin per cambiare effettivamente un dispiegamento reale) non è ancora stato testato in un trial prospettico, ma solo in una simulazione di replay.

Il lavoro suggerisce che combinare forti prior generativi, un robusto fine-tuning su piccoli dati di intervento e la calibrazione al tempo di inferenza permetta ai ricercatori di costruire simulatori ad alta fedeltà per sottopopolazioni anche quando i dati target non sono disponibili, a condizione di avere l'expertise di dominio per descrivere lo spostamento della popolazione.