Riassunto Tecnico: Modelli di Markov Switching Identificabili con Effetti Istantanei e Famiglie Esponenziali

Definizione del Problema

I sistemi temporali in ambienti reali, come la dinamica climatica o le fluttuazioni del glucosio nel diabete di tipo 1, esibiscono frequentemente un comportamento non stazionario. Una strategia di modellazione comune rappresenta questa non stazionarietà attraverso regimi latenti discreti, portando ai Modelli di Markov Switching (MSM), una classe di Modelli di Markov Nascosti (HMM) con dipendenze autoregressive. L'identificazione di questi regimi latenti e delle sottostanti strutture causali è tuttavia problematica quando:

1. I cambi di regime sono frequenti.
2. Le dinamiche sono non lineari e non gaussiane.
3. Esistono effetti istantanei tra variabili osservate (ad esempio, a causa di una granularità di misurazione grossolana dove gli effetti causali avvengono più velocemente della frequenza di campionamento).

I risultati esistenti sull'identificabilità per gli HMM a stati finiti non si estendono banalmente agli MSM a causa delle dipendenze autoregressive tra le variabili osservate. Inoltre, il lavoro precedente sui modelli a cambio di regime assume spesso contesti gaussiani, funzioni di regime deterministiche o esclude gli effetti istantanei e la scoperta causale.

Metodologia

Framework Teorico: Identificabilità

Gli autori stabiliscono l'identificabilità dei regimi latenti e delle strutture causali dipendenti dal regime sotto specifiche condizioni. Il processo generatore di dati è modellato come un Modello Causale Strutturale (SCM) con cambio di regime dove:

• Dinamiche di Regime: I regimi seguono una catena di Markov stazionaria del primo ordine (sono ammesse dipendenze tra i regimi).
• Meccanismi Causali: All'interno di ogni regime, il sistema segue un'equazione strutturale con effetti ritardati e istantanei non lineari.
• Rumore: Il rumore esogeno appartiene a una famiglia esponenziale minima regolare continua (ad esempio, Gaussiana, Gamma, Laplace).

Il documento dimostra che l'MSM indotto è identificabile fino a permutazione (ovvero, la verosimiglanza dei dati determina unicamente i regimi latenti e le componenti del mix, salvo una ridenominazione dei regimi) sotto le seguenti assunzioni:

1. Rumore della Famiglia Esponenziale: La statistica sufficiente del rumore è reale-analitica e possiede un'immagine ricca (contiene un insieme aperto).
2. Restrizioni Funzionali: Le funzioni di mappatura sono uniche per ogni regime, agiscono come diffeomorfismi puntuali e sono congiuntamente reale-analitiche.
3. Automorfismi del Rumore: La distribuzione del rumore ha una classe di automorfismi banale, o le mappazioni sono ristrette tramite canonicalizzazione monotona (ad esempio, nessuna rotazione).
4. Variabilità Sufficiente: Gli effetti dipendenti dal regime possono essere catturati da una fattorizzazione polinomiale di ordine finito della statistica sufficiente, garantendo che i diversi regimi mappino verso parametri naturali distinti.

Questa teoria riassume i modelli di miscela causale non temporali ed estende i precedenti risultati limitati al caso Gaussiano a una gamma più ampia di famiglie esponenziali ed effetti istantanei.

Algoritmo: FlowMSM

Per operazionalizzare questa teoria, gli autori introducono FlowMSM, un framework di rilevamento dei regimi che scinde il rilevamento del regime dalla scoperta causale.

• Rilevamento del Regime: FlowMSM impiega un algoritmo di Generalised Expectation-Maximisation (GEM). Modella le distribuzioni iniziale e di transizione utilizzando Flussi di Normalizzazione Condizionali (CNF), specificamente Neural Spline Flows (NSF). Ciò consente al modello di catturare densità complesse, non gaussiane e non lineari. I parametri del flusso sono condivisi tra i regimi ma condizionati da embedding specifici del regime e variabili ritardate.
• Scoperta Causale: Una volta identificati i regimi (tramite assegnazione Maximum a Posteriori), la serie temporale viene suddivisa in cluster corrispondenti a ciascun regime. Metodi di scoperta causale stazionari standard (ad esempio, VARLiNGAM, DYNOTEARS, Rhino) vengono poi applicati indipendentemente a ciascun cluster per recuperare i grafi a finestra dipendenti dal regime.

Contributi Chiave

1. Teoria dell'Identificabilità: Il documento fornisce condizioni sufficienti per l'identificabilità di SCM con cambio di regime sotto l'ipotesi di dipendenze tra i regimi, effetti ritardati/istantanei non lineari ed esponenziale di famiglia di rumore. Questo generalizza la teoria esistente oltre le assunzioni gaussiane.
2. Framework FlowMSM: Un metodo di stima innovativo che combina flussi di normalizzazione condizionali con GEM per un robusto rilevamento dei regimi in scenari non gaussiani e non lineari.
3. Approccio Disaccoppiato: A differenza dei metodi precedenti che iterano tra il rilevamento del regime e la scoperta causale all'interno di classi di modelli restrittive (come i modelli di rumore Location-Scale), FlowMSM scinde queste fasi, permettendo una classe più ampia di modelli causali.
4. Validazione Empirica: Esperimenti estesi su benchmark sintetici e un dataset di economia finanziaria (modello a cinque fattori di Fama-French) dimostrano l'efficacia del metodo.

Risultati Sperimentali

Benchmark Sintetici

Gli esperimenti sono stati condotti su dataset sintetici con $N=100$ serie temporali, $T=100$ passi temporali, $D=10$ dimensioni e $K=3$ regimi. I dataset includevano:

• SVAR lineare con rumore Gaussiano ed Esponenziale (Gamma).
• Modelli di Rumore Additivo (ANM) non lineari con rumore della Famiglia Esponenziale.
• Modelli di Rumore Location-Scale (LSNM) con rumore della Famiglia Esponenziale (il setting più impegnativo).

Risultati:

• Rilevamento del Regime: FlowMSM ha ottenuto punteggi elevati di Normalised Mutual Information (NMI) e Adjusted Rand Index (ARI) in tutti i setting, superando significativamente i baseline (iMSM, R-PCMCI, CASTOR, FANTOM) in scenari non lineari e non gaussiani. I baseline basati su assunzioni gaussiane hanno subito un degrado sostanziale in contesti non gaussiani.
• Scoperta Causale: Quando accoppiato con metodi di scoperta appropriati (ad esempio, VARLiNGAM per il non-gaussiano, Rhino per LSNM), FlowMSM ha recuperato strutture causali con alta accuratezza e basso Structural Hamming Distance (SHD). I baseline generalmente non hanno raggiunto prestazioni competitive, probabilmente a causa delle difficoltà nel gestire cambi di regime frequenti e dinamiche non gaussiane.
• Robustezza: FlowMSM è rimasto efficace anche quando il numero di regimi o lag era sovraspecificato.

Applicazione nel Mondo Reale: Modello Fama-French

Gli autori hanno applicato FlowMSM a dati giornalieri del modello a cinque fattori di Fama-French e ai rendimenti azionari di Apple (AAPL).

• Rilevamento del Regime: FlowMSM ha identificato due regimi dominanti allineati con periodi di bassa e alta volatilità del mercato (inclusi la crisi del 2008 e la pandemia di COVID-19), che correla con l'indice VIX. Altri metodi hanno prodotto regimi che non si mappavano chiaramente sugli eventi di mercato.
• Interpretazione Causale: I grafi causali stimati hanno suggerito che durante i mercati stabili (Regime 4), le dipendenze causali erano assenti (coerentemente con l'Ipotesi di Mercato Efficiente), mentre durante il distress di mercato (Regime 5), emergevano connessioni causali. Tuttavia, gli autori notano che le interpretazioni causali dei fattori Fama-French che guidano i rendimenti di AAPL sono state limitate e non pienamente supportate dai dati.

Significato e Rivendicazioni

Il documento sostiene di fornire un framework principato per l'identificazione dei regimi nelle serie temporali non stazionarie.

• Rigore Teorico: Stabilendo l'identificabilità sotto assunzioni lievi (analiticità reale, rumore della famiglia esponenziale), il lavoro giustifica il recupero di strutture latenti precedentemente considerate non identificabili in presenza di effetti istantanei e dipendenze di regime.
• Utilità Pratica: Il framework FlowMSM offre una soluzione pratica per il rilevamento di regimi latenti e la scoperta di strutture causali in ambienti complessi, non gaussiani, dove i tradizionali MSM gaussiani falliscono.
• Modestia: Gli autori riconoscono i limiti, notando che l'assunzione di indipendenza del regime dalle osservazioni ($R_t \not\to X_{0:T}$) è forte e che la teoria si basa su diffeomorfismi reale-analitici. Avvertono inoltre che le interpretazioni causali nei dati finanziari reali possono avere una portata limitata e che i dati mensili (con meno campioni) non hanno prodotto risultati significativi, evidenziando i requisiti di dati dell'approccio.

Il lavoro non pretende di risolvere tutti i problemi di scoperta causale non stazionaria, ma rappresenta un passo avanti significativo rilassando le assunzioni gaussiane e gestendo esplicitamente gli effetti istantanei all'interno di un framework di identificabilità teoricamente fondato.