Amortized Bayesian inference for actigraph time sheet data from mobile devices

1. Il Problema e il Contesto

L'articolo affronta la sfida di analizzare dati ad alta risoluzione provenienti da dispositivi indossabili (actigraph), in particolare i dati di accelerazione raccolti nello studio PASTA-LA (Physical Activity through Sustainable Transport Approaches in Los Angeles).

• Natura dei dati: Gli actigraph misurano l'accelerazione lungo gli assi x, y, z a frequenze elevate (es. 30 Hz). L'obiettivo è modellare la Magnitudine dell'Accelerazione (MAG), definita come $\sqrt{x_t^2 + y_t^2 + z_t^2}$.
• Sfide principali:
  • Rumore e Granularità: I dati grezzi sono erratici e contengono molti spazi vuoti (sparsity) dovuti alla natura non continua dell'attività fisica registrata.
  • Inferenza Computazionale: I metodi statistici tradizionali per modelli dinamici gerarchici (come il campionamento MCMC o l'algoritmo FFBS - Forward Filter Backwards Sampling) sono computazionalmente costosi quando applicati a grandi dataset o quando è necessaria un'inferenza rapida per applicazioni in tempo reale (es. sistemi di raccomandazione per l'esercizio fisico).
  • Trasferimento di Apprendimento: C'è la necessità di un framework che permetta l'inferenza su nuovi soggetti o dataset senza dover ri-addestrare il modello da zero per ogni caso, sfruttando l'intelligenza artificiale per l'amortizzazione dei costi computazionali.

2. Metodologia

Gli autori propongono un approccio ibrido che combina modelli statistici bayesiani gerarchici con l'apprendimento automatico tramite Inferenza Bayesiana Ammortizzata (Amortized Bayesian Inference - ABI) utilizzando il framework BayesFlow.

A. Preprocessing e "Actigraph Timesheet"

Per rendere i dati gestibili, viene introdotta una struttura dati chiamata Actigraph Timesheet:

• Le traiettorie di movimento vengono filtrate (durata tra 5 e 20 minuti, MAG > 0.05).
• I dati vengono riorganizzati in una matrice temporale relativa (da $t=1$ a $T=20$ minuti, con passi di 20 secondi) per ogni soggetto e data.
• Viene applicata una trasformazione logaritmica sul MAG ($\log(MAG)$) per gestire la non-negatività e permettere valori negativi nel modello lineare.
• Questo formato facilita l'imputazione dei dati mancanti e l'analisi temporale.

B. Modello Statistico: Dynamic Linear Model (DLM)

Il cuore statistico è un Modello Lineare Dinamico Gerarchico:
$$y_t = X_t \beta_t + \nu_t, \quad \nu_t \sim N(0, \sigma^2 V_t)$$
$$\beta_t = G_t \beta_{t-1} + \omega_t, \quad \omega_t \sim N(0, \sigma^2 W_t)$$
Dove $\beta_t$ sono i coefficienti temporali variabili (effetti delle covariate come età, BMI, distanza, ecc.) e $\sigma^2$ è la varianza. Il modello assume una distribuzione a priori Normal-Gamma.

C. Inferenza Bayesiana Ammortizzata (ABI) con BayesFlow

Invece di eseguire il campionamento diretto dal posterior per ogni nuovo dataset (costoso), gli autori addestrano una Rete Neurale Invertibile (Invertible Neural Network - INN) per approssimare la funzione di campionamento del posterior.

• Addestramento: La rete $f_\phi$ viene addestrata su un vasto numero di dataset sintetici generati dal modello DLM (priori e dati simulati). L'obiettivo è minimizzare la divergenza KL tra la distribuzione vera del posterior e quella approssimata dalla rete.
• Inferenza: Una volta addestrata, la rete può prendere un nuovo dataset osservato $y$ e produrre istantaneamente campioni dal posterior $p(\theta | y)$ invertendo la trasformazione su variabili latenti standard normali.
• Strategia di Addestramento: Per gestire la complessità temporale, il dataset viene suddiviso in blocchi temporali. Le reti vengono addestrate sequenzialmente su intervalli di tempo, utilizzando i parametri appresi dai blocchi precedenti come priori per i blocchi successivi.

3. Contributi Chiave

1. Framework di Inferenza Ammortizzata per Dati Temporali: Estensione dell'ABI a modelli con coefficienti variabili nel tempo (DLM), dimostrando come l'ABI possa gestire l'aumento della dimensionalità dei parametri al crescere del tempo.
2. Struttura "Actigraph Timesheet": Proposta di un nuovo schema di riorganizzazione e imputazione dei dati che trasforma serie temporali sparse in una struttura regolare adatta all'analisi dinamica e alla raccomandazione.
3. Validazione su Dati Reali: Applicazione del metodo su un dataset reale (PASTA-LA, 92 soggetti) confrontando l'ABI con il benchmark statistico classico (FFBS).
4. Generazione di Traiettorie: Capacità del modello non solo di stimare i parametri, ma anche di imputare dati mancanti e generare nuove traiettorie di accelerazione realistiche per scopi di raccomandazione.

4. Risultati

• Accuratezza: L'ABI riesce a catturare le tendenze dei parametri veri e delle stime FFBS (Forward Filter Backwards Sampling). Sebbene gli intervalli di credibilità dell'ABI siano leggermente più ampi rispetto al FFBS (a causa dell'approssimazione della rete), la copertura è sufficiente e le traiettorie stimate seguono fedelmente i dati reali.
• Generalizzazione: Il modello addestrato su un sottoinsieme di traiettorie è stato in grado di generalizzare con successo a un set di dati di holdout (2.102 traiettorie), dimostrando robustezza.
• Imputazione: Il metodo ha dimostrato efficacia nell'imputare i dati mancanti nelle "timesheet", coprendo una porzione significativa dei dati sintetizzati.
• Efficienza: Sebbene l'addestramento richieda tempo (circa 7.5 ore per il setup descritto), l'inferenza su nuovi dati è istantanea, rendendo il sistema adatto per applicazioni in tempo reale.
• Analisi delle Covariate: Il modello ha identificato significatività statistiche temporali per variabili come l'ora di inizio della giornata e il BMI, sebbene con alcune differenze di sensibilità rispetto al metodo FFBS.

5. Significato e Implicazioni

Questo lavoro è significativo per diversi motivi:

• Ponte tra Statistica e AI: Dimostra come i metodi bayesiani rigorosi (che quantificano l'incertezza) possano essere integrati con le reti neurali per superare i colli di bottiglia computazionali, rendendo l'inferenza bayesiana scalabile per la salute digitale.
• Applicazioni Cliniche e di Salute Pubblica: Il framework permette di costruire sistemi di raccomandazione personalizzati per l'esercizio fisico. Invece di richiedere calcoli pesanti in tempo reale, il sistema può fornire feedback immediati su percorsi e intensità di allenamento basati su dati storici e fattori ambientali.
• Flessibilità: L'approccio è modulare e può essere esteso a modelli più complessi o a dati spaziali-temporali, aprendo la strada a future ricerche su processi stocastici complessi e modelli non-Markoviani.

In sintesi, gli autori hanno sviluppato un pipeline end-to-end che trasforma dati grezzi e rumorosi di dispositivi indossabili in informazioni statistiche affidabili e azionabili, utilizzando l'ABI per rendere l'inferenza bayesiana gerarchica praticabile su larga scala.