A Beta-GAM Hidden Markov Model for Proportion Time Series

Sintesi Tecnica: Un Modello di Markov Nascosto Beta-GAM per Serie Temporali di Proporzioni

Enunciato del Problema
Il lavoro affronta la modellazione di serie temporali univariate di proporzioni che assumono valori nell'intervallo aperto $(0, 1)$. Tali dati sono prevalenti in economia, finanza e demografia (ad esempio, rapporti di mortalità, distribuzioni di offerte, quote di reddito). Gli approcci esistenti presentano limitazioni: i Modelli di Markov Nascosti (HMM) standard spesso assumono parametri di emissione costanti all'interno degli stati latenti, fallendo nel catturare strutture dipendenti dalle covariate. Al contrario, i Modelli Additivi Generalizzati a Commutazione di Markov (MS-GAM) permettono effetti covariati lisci ma non sono specificamente progettati per dati di proporzioni limitati, che richiedono una distribuzione che rispetti il supporto $(0, 1)$ e gestisca adeguatamente l'eteroschedasticità. Gli autori propongono un quadro che integra la flessibilità dei GAM con le capacità di commutazione di regime degli HMM, specificamente adattato per emissioni distribuite secondo una legge Beta.

Metodologia
Il modello proposto è un Modello di Markov Nascosto in cui la variabile osservata $y_t$ segue una distribuzione Beta condizionata a uno stato latente $z_t = k$. La distribuzione Beta è parametrizzata da una media specifica per stato $\mu_{kt}$ e una precisione specifica per stato $\phi_k$.

1. Distribuzione di Emissione:
   La distribuzione condizionata è $y_t | z_t = k \sim \text{Beta}(\mu_{kt}\phi_k, (1-\mu_{kt})\phi_k)$.
   La media $\mu_{kt}$ è collegata alle covariate $x_t$ tramite una trasformazione logit di un predittore additivo:
   $$\text{logit}(\mu_{kt}) = \eta_{kt} = \sum_{j=1}^p f_{kj}(x_{tj})$$
   dove ogni $f_{kj}(\cdot)$ è una funzione liscia stimata utilizzando espansioni di basi B-spline cubiche. La precisione $\phi_k$ è costante all'interno di uno stato ma varia tra gli stati, permettendo una variabilità dipendente dal regime.

2. Stima (Algoritmo EM Penalizzato):
   I parametri $\Theta = (\pi, A, \{\beta_k\}, \{\phi_k\})$ sono stimati tramite un algoritmo di Massima Verosimiglianza (EM) penalizzato.

   • Passo E: Calcola le ricorsioni forward-backward per ottenere le probabilità posteriori smussate degli stati latenti ($\gamma_{tk}$) e delle transizioni di stato ($\xi_{tij}$). I calcoli sono eseguiti sulla scala logaritmica per garantire la stabilità numerica.
   • Passo M: Massimizza la log-verosimiglianza attesa dei dati completi penalizzata. Viene applicata una penalità quadratica (P-spline) ai coefficienti delle B-spline $\beta_k$ per controllare la liscezza e prevenire l'overfitting. A differenza dell'EM standard, il passo M non produce aggiornamenti in forma chiusa per i parametri di emissione; invece, impiega un'ottimizzazione numerica (L-BFGS-B) per massimizzare la funzione Q penalizzata per ogni stato indipendentemente. Ciò costituisce un algoritmo EM Generalizzato.

3. Selezione del Modello e Diagnostica:
   Gli autori introducono una ricerca a griglia su due stadi per selezionare il numero di stati latenti $K$ e la penalità di smoothing $\lambda$.

   • Filtro Diagnostico: Per affrontare il problema delle soluzioni degeneri (dove una sovrastima di $K$ porta a stati con occupazione trascurabile e stime di precisione esplosive), viene applicato un criterio diagnostico. I modelli vengono segnalati e scartati se le stime di precisione raggiungono un limite superiore o se le differenze tra le stime di precisione ordinate mostrano brusche "esplosioni".
   • Criteri di Selezione: Tra i modelli non degeneri, l'ottimale $K$ e $\lambda$ sono selezionati utilizzando criteri di informazione (AIC, BIC, ICL) che utilizzano i gradi di libertà effettivi (EDF) anziché il conteggio grezzo dei parametri per tenere conto della contrazione indotta dalla penalità. La procedura seleziona $\lambda$ all'interno di ciascun $K$ utilizzando l'AIC (meno conservativo) e seleziona $K$ utilizzando il BIC (più conservativo), con una preferenza per strutture più ricche se i modelli rientrano in due unità BIC.

4. Quantificazione dell'Incertezza:
   Gli intervalli di confidenza per le probabilità di transizione e i parametri dipendenti dallo stato sono derivati tramite una procedura di bootstrap parametrico, simulando nuovi dataset dal modello stimato e ristimando i parametri.

Contributi Chiave
Il lavoro apporta quattro contributi metodologici primari:

1. Integrazione di GAM e Beta-HMM: Incorpora GAM basati su B-spline all'interno di un HMM con emissione Beta, permettendo alla media condizionata di variare in modo non lineare con le covariate all'interno di ciascun regime latente, mantenendo una precisione specifica per stato.
2. Stima Penalizzata Frequentista: Adotta un approccio EM penalizzato piuttosto che uno pienamente bayesiano, evitando la specificazione di prior per coefficienti di spline ad alta dimensionalità e offrendo efficienza computazionale per grandi campioni.
3. Filtro Diagnostico per la Degenerazione: Introduce un criterio diagnostico specifico per rilevare ed escludere soluzioni degeneri derivanti da stati latenti sovrastimati, un problema comune negli HMM flessibili.
4. Derivazioni Analitiche: Fornisce derivazioni analitiche esplicite per la verosimiglianza dei dati completi e le derivate della log-verosimiglianza penalizzata, stabilendo una fondazione matematica formale per la routine di stima.

Risultati

• Studio di Simulazione: Uno studio Monte Carlo con $T=2.500$ e $K=4$ dimostra che il modello recupera accuratamente le dinamiche di transizione, le precisioni di stato e la decodifica degli stati latenti (accuratezza di Viterbi $\approx 93,2\%$). La procedura di selezione su due stadi identifica con successo il corretto numero di stati e i livelli di smoothing appropriati. Il metodo rimane stabile anche con dimensioni campionarie ridotte ($T=1.500$) e minore persistenza di stato, sebbene le metriche di prestazione decadano come previsto.
• Applicazione Empirica: Il modello è applicato a dati di mortalità specifici per età in Russia (1960–2014, età 0–40), modellando il rapporto tra mortalità femminile e totale. Il modello selezionato identifica due regimi latenti persistenti:
  • Stato 1: Un regime più disperso con un picco negativo più profondo nella fascia di età giovane-adulta (15–35), associato a periodi di eccesso di mortalità maschile elevato e volatile.
  • Stato 2: Un regime altamente concentrato con un picco negativo più superficiale, che rappresenta un pattern di mortalità più stabile.
    La sequenza decodificata con Viterbi suggerisce una transizione dal regime disperso a quello concentrato alla fine degli anni '60, con il regime concentrato che prevale da allora, in linea con gli spostamenti demografici storici in Russia (ad esempio, la crisi sanitaria sovietica tarda e la successiva ripresa).

Significato e Affermazioni
Gli autori affermano che il proposto Beta-GAM HMM offre un equilibrio pratico tra flessibilità, interpretabilità e trattabilità computazionale per l'analisi di serie temporali di proporzioni. Il quadro separa con successo le dinamiche dei regimi latenti dagli effetti covariati che variano in modo liscio. L'inclusione di un filtro diagnostico è evidenziata come un passo cruciale per garantire stabilità e interpretabilità del modello, in particolare quando il numero di stati è sconosciuto. L'applicazione ai dati di mortalità russi illustra la capacità del modello di riassumere pattern di età lisci mentre identifica cambiamenti strutturali sostanzialmente significativi guidati da eventi storici. Il lavoro conclude che la metodologia fornisce uno strumento robusto per descrivere e monitorare i cambiamenti strutturali nelle proporzioni demografiche, con intervalli di confidenza bootstrap stretti che indicano una quantificazione dell'incertezza affidabile.