Stable and practical semi-Markov modelling of intermittently-observed data

Questo articolo introduce un quadro di modellazione semi-Markoviano pratico per dati osservati in modo intermittente, approssimando i tempi di permanenza con distribuzioni di tipo fase per consentire un calcolo flessibile della verosimiglianza, e fornisce un nuovo pacchetto R, "msmbayes", per implementare tale approccio mediante stima bayesiana o di massima verosimiglianza.

L'essenziale

Il quadro generale: Tracciare i cambiamenti della vita

Immagina di dover monitorare la salute di una persona nel tempo. La controlli occasionalmente, forse una volta l'anno o ogni pochi mesi. Vuoi sapere: Per quanto tempo rimane in uno stato "sano" prima di ammalarsi? E una volta malata, quanto tempo passa prima di guarire o morire?

In statistica, questo è chiamato modello multistato. È come una mappa con diverse stanze (stati) e porte (transizioni) tra di esse.

Il problema: La trappola della "memoria"

La maggior parte delle mappe standard assume che la probabilità di uscire da una stanza dipenda solo da quale stanza si sta occupando attualmente. Questa è chiamata ipotesi di Markov. È come dire: "Se sei nella stanza 'Malato', la probabilità di uscire è del 50% domani, indipendentemente dal fatto che tu sia appena entrato o che tu sia lì da un anno".

Ma nella vita reale, il tempo conta. Se sei malato da molto tempo, potresti avere più probabilità di guarire (o peggiorare) rispetto a chi si è ammalato da poco. Questo è un modello Semi-Markov, dove l'"orologio" all'interno della stanza ha importanza.

Il punto critico: Poiché controlliamo le persone solo occasionalmente (dati intermittenti), non sappiamo esattamente quando sono entrate in una stanza. Sappiamo solo che erano nella Stanza A a gennaio e nella Stanza B a giugno. Non sappiamo se si sono ammalate a febbraio o a maggio. Questo rende incredibilmente difficile calcolare l'"orologio" all'interno della stanza.

Le vecchie soluzioni: Troppo lente o troppo rigide

Gli scienziati hanno cercato di risolvere questo problema in passato, ma gli strumenti erano:

1. Troppo lenti: Cercare di indovinare ogni possibile percorso che la persona ha fatto tra un controllo e l'altro è come cercare di contare ogni granello di sabbia su una spiaggia per trovarne uno specifico.
2. Troppo rigidi: Alcuni metodi funzionavano solo per mappe molto semplici, non per quelle complesse utilizzate nella medicina reale.
3. Troppo complicati: Alcuni metodi richiedevano software personalizzati, difficili da usare e non disponibili per la maggior parte dei ricercatori.

La nuova soluzione: Il trucco della "Fase Nascosta"

L'autore, Christopher Jackson, introduce un nuovo modo intelligente per risolvere il problema utilizzando un concetto chiamato distribuzioni di tipo fase (Phase-Type distributions).

L'analogia: L'hotel con corridoi segreti
Immagina che una stanza "Malato" non sia una grande stanza singola. Invece, è in realtà un hotel con un lungo corridoio di stanze più piccole e nascoste (fasi) al suo interno.

• Quando una persona entra nello stato "Malato", entra nella prima stanza nascosta.
• Si sposta attraverso queste stanze nascoste una alla volta.
• Il tempo che trascorre in ogni stanza nascosta è semplice e prevedibile (come un orologio standard).
• Quando finalmente esce dall'ultima stanza nascosta, lascia lo stato "Malato".

Collegando queste semplici stanze nascoste, puoi creare una complessa e realistica stanza "Malato" in cui il tempo trascorso conta (ad esempio, è più probabile uscire dopo aver attraversato 3 stanze nascoste che dopo solo 1).

Perché questo è un cambiamento radicale:
Poiché il movimento tra queste stanze nascoste è semplice, i computer possono calcolare la matematica molto facilmente. Trasforma un complesso problema "Semi-Markov" in un problema "Markov Nascosto" standard, che i computer sono già molto bravi a risolvere.

L'innovazione: La ricetta "Moment-Matching"

C'era un precedente tentativo di utilizzare questa idea del "corridoio nascosto", ma era come cercare di cuocere una torta indovinando gli ingredienti. Dovevi eseguire una ricerca informatica massiccia e lenta per capire come disporre le stanze nascoste per corrispondere a una forma specifica (come una distribuzione di Weibull o Gamma).

Questo documento introduce una ricetta analitica veloce (chiamata Moment-Matching).

• Invece di indovinare, l'autore fornisce una formula matematica.
• Dici al computer: "Voglio che il tempo trascorso in questo stato assomigli a una distribuzione Gamma con queste proprietà specifiche".
• Il computer calcola istantaneamente esattamente come impostare le stanze nascoste (le fasi) per corrispondere perfettamente a quella forma.

È come avere uno stampo magico che modella istantaneamente il corridoio nascosto per adattarsi a qualsiasi modello temporale specifico tu necessiti, senza il lento gioco delle congetture.

Lo strumento: msmbayes

L'autore ha racchiuso l'intero metodo in un nuovo strumento software chiamato msmbayes (disponibile in R).

• Cosa fa: Permette ai ricercatori di costruire mappe complesse degli stati di salute, anche quando i dati sono scarsi e irregolari.
• Perché è stabile: A volte, i dati sono così deboli che il computer si confonde e si blocca (un problema chiamato "non identificabilità"). Questo strumento utilizza la statistica bayesiana, che è come dare al computer un "indizio" basato su ciò che sappiamo già da studi precedenti. Questo stabilizza il calcolo, assicurando che produca un risultato anche quando i dati sono sfocati.

La prova: Test e utilizzo nel mondo reale

L'autore ha testato questo metodo in due modi:

1. Simulazione: Hanno creato dati finti in cui conoscevano la risposta "vera", hanno eseguito il software e confermato che trovava la risposta corretta ogni volta.
2. Dati reali: L'hanno applicato a uno studio sulla funzione cognitiva negli adulti anziani (lo studio ELSA). Hanno tracciato come le persone si muovevano tra diversi livelli di capacità di memoria e la morte.
   • Il metodo standard (Markov) assumeva che il rischio di morte fosse costante una volta in uno stato di memoria specifico.
   • Il nuovo metodo (Semi-Markov) ha mostrato che il rischio cambia effettivamente in base a quanto tempo si è trascorsi in quello stato.
   • I risultati hanno dimostrato che il nuovo metodo forniva un adattamento leggermente migliore ai dati e dava stime più realistiche di quanto tempo le persone rimangono in diversi stati cognitivi.

Riassunto

Questo documento costruisce un nuovo strumento software stabile e facile da usare che permette agli scienziati di modellare come le persone si muovono tra diversi stati di vita (come dalla salute alla malattia) anche quando le controllano solo occasionalmente. Lo fa scomponendo modelli temporali complessi in semplici "passaggi nascosti" e utilizzando una ricetta matematica veloce per impostarli, rendendo la modellazione avanzata accessibile a tutti.

Sommario tecnico

Riepilogo Tecnico: Modellazione Semi-Markoviana Stabile e Pratica di Dati Osservati Intermittentemente

Enunciato del Problema
I modelli multistato sono strumenti standard per l'analisi di variabili categoriche che cambiano nel tempo, in particolare nei contesti biomedici dove i dati sono "osservati intermittentemente" (dati di pannello). In tali dati, i tempi esatti di ingresso e uscita dagli stati sono sconosciuti, così come i percorsi specifici intrapresi tra i punti di osservazione. Tradizionalmente, questi modelli si basano sull'assunzione di Markov, secondo cui i tassi di transizione sono indipendenti dal tempo trascorso nello stato corrente. Tuttavia, questa assunzione è spesso irrealistica; in molti processi biologici, il rischio di transizione dipende dalla durata dello stato corrente (tempo di permanenza).

Rilassare l'assunzione di Markov per creare modelli semi-Markoviani per dati di pannello è computazionalmente impegnativo. I metodi esistenti affrontano ostacoli significativi:

1. Integrazione su tempi latenti: L'integrazione numerica su tempi di transizione non osservati diventa computazionalmente proibitiva all'aumentare del numero di transizioni non osservate.
2. Stimatori non parametrici: Questi sono spesso limitati a strutture di transizione acicliche (nessun ciclo).
3. Approcci basati sulla simulazione: Esistono metodi come MCMC personalizzato o algoritmi EM stocastici, ma mancano di un'implementazione software generale.
4. Modelli di tipo fase: Sebbene Titman e Sharples abbiano proposto l'uso di distribuzioni di tipo fase per esprimere modelli semi-Markoviani come Modelli di Markov Nascosti (HMM), permettendo un facile calcolo della verosimiglianza tramite l'algoritmo in avanti, questo approccio introduce una proliferazione di parametri latenti. Ciò porta spesso a una scarsa identificabilità, causando il fallimento degli algoritmi di ottimizzazione, specialmente con dati intermittenti sparsi. I precedenti tentativi di vincolare questi modelli (ad esempio, Titman [28]) si basavano su ottimizzazione numerica intensiva e scelte di spline ad hoc per approssimare distribuzioni standard (Weibull, Gamma), mancando di un'implementazione software generale e stabile.

Metodologia
Il documento propone un nuovo quadro computazionale per rendere accessibile la modellazione semi-Markoviana stabile per strutture di stato generali. La metodologia di base coinvolge tre componenti chiave:

1. Approssimazione di Tipo Fase tramite Corrispondenza dei Momenti:
   Invece di utilizzare l'ottimizzazione numerica per approssimare distribuzioni standard, gli autori impiegano una procedura analitica rapida. Utilizzano una specifica famiglia di distribuzioni di tipo fase Coxiane (ispirate a Bobbio, Horváth e Telek [5]) definite da una sequenza di fasi latenti.

   • Il metodo corrisponde i primi tre momenti (media, varianza e terzo momento) di una distribuzione target (Gamma o Weibull) a una distribuzione di tipo fase.
   • Ciò produce espressioni in forma chiusa uniche per le intensità di transizione di tipo fase come funzione dei parametri di forma e scala della distribuzione target.
   • Questo approccio vincola la famiglia di tipo fase a una con proprietà simili a distribuzioni più semplici, riducendo così lo spazio dei parametri e migliorando l'identificabilità rispetto a un modello di tipo fase completamente flessibile.

2. Estensione alle Covariate:
   Il quadro estende l'approssimazione per includere le covariate in due modi:

   • Tempo di Permanenza: Le covariate influenzano il parametro di scala della distribuzione di permanenza tramite un modello di Tempo di Fallimento Accelerato (AFT). Ciò viene implementato scalando tutte le intensità di transizione all'interno della sequenza di fasi latenti dello stesso fattore.
   • Probabilità dello Stato Successivo: Le covariate influenzano la probabilità di transizione verso specifici stati successivi utilizzando una regressione logistica multinomiale. Ciò permette al rischio relativo di diverse destinazioni di uscita di variare con le covariate indipendentemente dal tempo di permanenza.

3. Implementazione Software (msmbayes):
   Il metodo è implementato in un nuovo pacchetto R, msmbayes. Il pacchetto supporta:

   • Strutture generali di transizione di stato (inclusi i cicli).
   • Sia la Massima Verosimiglianza (tramite ottimizzazione quasi-Newton) che la stima Bayesiana (tramite Monte Carlo Hamiltoniano utilizzando Stan).
   • L'uso di informazioni a priori per stabilizzare la stima in casi di debole identificabilità, un problema comune nella modellazione multistato con dati intermittenti.

Risultati Chiave
Il documento convalida la metodologia attraverso calibrazione basata sulla simulazione e un'applicazione reale:

• Calibrazione Basata sulla Simulazione:

  • Accuratezza: I campioni MCMC dal pacchetto msmbayes hanno prodotto distribuzioni a posteriori che hanno superato i test di calibrazione basati sulla simulazione (statistiche di rango uniformi), confermando la correttezza dell'implementazione.
  • Approssimazione di Laplace: L'approssimazione di Laplace (modo a posteriori + Hessiana) è risultata sostanzialmente più veloce (circa l'1% del tempo di esecuzione MCMC) ma ha introdotto un bias nei parametri di forma e nei log-odds degli stati successivi, sottostimando in particolare l'incertezza. Tuttavia, ha fornito un'approssimazione ragionevole per i modelli di Markov.
  • Stabilità: In scenari in cui la Massima Verosimiglianza (MLE) non è riuscita a convergere (ad esempio, nel 76% dei dataset simulati per un modello di Markov con debole identificabilità), l'approccio Bayesiano ha prodotto con successo posteriori convergenti dominati dalla prior, fornendo una caratterizzazione valida dell'incertezza dove la MLE ha fallito.

• Applicazione alla Funzione Cognitiva (Dati ELSA):

  • Il metodo è stato applicato allo Studio Longitudinale Inglese sull'Invecchiamento (ELSA) per modellare le transizioni tra stati di funzione cognitiva e morte.
  • Un modello di Markov standard con molti parametri è risultato praticamente non identificabile, producendo errori standard irrealisticamente grandi.
  • Il modello semi-Markoviano (utilizzando approssimazioni di Weibull/Gamma a 5 fasi) ha fornito un miglioramento modesto nell'adattamento (log-verosimiglianza penalizzata inferiore) e ha rivelato che il rischio di transizione diminuisce con il tempo dall'ingresso nello stato (parametri di forma < 1).
  • Gli effetti delle covariate (età, sesso, istruzione) sono stati stimati con maggiore stabilità utilizzando prior Bayesiane derivate da dati di mortalità esterni.

Significato e Affermazioni
Il documento afferma di fornire la prima implementazione software generale per la modellazione semi-Markoviana stabile di dati osservati intermittentemente con strutture di transizione arbitrarie. I suoi contributi principali sono:

1. Accessibilità: Trasforma la modellazione semi-Markoviana da un compito di nicchia e computazionalmente difficile in un flusso di lavoro pratico accessibile tramite il pacchetto R msmbayes.
2. Stabilità: Utilizzando la corrispondenza dei momenti per vincolare le distribuzioni di tipo fase a famiglie familiari (Gamma/Weibull), il metodo mitiga i problemi di identificabilità che affliggono i modelli di tipo fase generali, specialmente quando i dati sono sparsi.
3. Utilità Bayesiana: Dimostra che la stima Bayesiana è cruciale per stabilizzare l'inferenza in modelli multistato complessi dove le superfici di verosimiglianza sono piatte o l'ottimizzazione fallisce.
4. Flessibilità: L'approccio gestisce strutture di transizione generali (inclusi i transiti reversibili) e covariate che influenzano sia i tempi di permanenza che le probabilità degli stati successivi.

Gli autori riconoscono le limitazioni, inclusi i costi computazionali degli esponenziali di matrice per spazi di stato ampi (mitigati utilizzando approssimazioni di Laplace o meno fasi) e l'assunzione che le probabilità degli stati successivi siano indipendenti dal tempo di permanenza. Notano che, sebbene il metodo migliori l'assunzione esponenziale, rimane un'approssimazione parametrica e il controllo del modello per tali dati complessi e osservati intermittentemente rimane impegnativo.