Riepilogo Tecnico: Modelli Sovraparametrizzati con Deriva del Posteriore

Enunciato del Problema

Questo articolo indaga l'impatto della deriva del posteriore (nota anche come drift concettuale) sull'accuratezza delle previsioni fuori campione dei modelli lineari sovraparametrizzati (modelli in cui il numero di parametri $p$ supera il numero di osservazioni $n$). Sebbene la letteratura recente, in particolare Kelly et al. (2024), abbia suggerito che l'aumento della complessità del modello (il rapporto tra parametri e osservazioni) possa essere benefico per la previsione del premio azionario, tali risultati si basano spesso sull'assunzione che il processo generatore di dati (DGP) rimanga invariato tra le fasi di addestramento e di test.

Gli autori sostengono che nei mercati finanziari questa invarianza raramente sussiste a causa dei cambiamenti di regime. Nello specifico, essi distinguono tra due tipi di spostamenti distributivi:

1. Spostamento delle covariate: Cambiamenti nella distribuzione dei predittori ($P_X$).
2. Deriva del posteriore: Cambiamenti nella relazione condizionale tra predittori e variabile target ($P_{y|X}$), il che significa che i coefficienti di regressione (caricamenti) cambiano nel tempo.

Il problema centrale è quantificare come la deriva del posteriore degradi le prestazioni di modelli complessi e sovraparametrizzati, in particolare nel contesto delle strategie di market timing.

Metodologia

L'articolo impiega una combinazione di teoria asintotica ad alta dimensionalità, simulazioni Monte-Carlo e analisi empirica su dati finanziari storici.

Quadro Teorico

Gli autori estendono i risultati "isotropi specificati in modo errato" di Hastie et al. (2022) a un contesto con dati non i.i.d. e deriva del posteriore.

• Processo Generatore di Dati (DGP): Il modello assume una relazione lineare $y_i = x_i'\beta + w_i'\theta + e_i$, dove $x_i$ sono le caratteristiche osservate e $w_i$ sono le caratteristiche non osservate. Il modello è "specificato in modo errato" perché l'agente osserva solo $x_i$.
• Meccanismo di Deriva: Gli autori modellano esplicitamente un cambiamento nei parametri veri tra i periodi di addestramento (in-sample) e di test (fuori campione). Siano $(\beta_{is}, \theta_{is})$ i parametri durante l'addestramento e $(\beta_{oos}, \theta_{oos})$ i parametri durante il test.
• Regime Asintotico: L'analisi ha luogo nel regime proporzionale in cui $n, p, q \to \infty$ tale che $p/n \to c_\phi$ e $(p+q)/n \to c$.
• Stimatori: Lo studio si concentra sugli stimatori Ridge (con parametro di regolarizzazione $z$) e sul loro limite quando $z \to 0$ (senza ridge).

Protocollo Empirico

• Dati: Gli autori utilizzano lo stesso dataset di Kelly et al. (2024), derivato da Goyal et al. (2024), composto da 14 indicatori macroeconomici e rendimenti in ritardo.
• Espansione delle Caratteristiche: Per creare un contesto sovraparametrizzato, impiegano le Caratteristiche di Fourier Casuali (RFF) per espandere i 14 predittori in $p=600$ caratteristiche, risultando in un rapporto di complessità $c=50$ (con $n=12$ mesi di dati rolling).
• Validazione: Testano la strategia su vari sottoperiodi di 15 anni e su una gamma di parametri di banda ($\gamma$) che controllano la non linearità delle RFF.
• Rilevamento dei Punti di Cambiamento: Per validare empiricamente l'esistenza della deriva del posteriore, applicano un algoritmo non parametrico multivariato di rilevamento dei punti di cambiamento (Londschien et al., 2023) alla serie temporale dei beta stimati.

Contributi Chiave

1. Estensione Teorica alla Deriva del Posteriore

L'articolo deriva espressioni analitiche per il rendimento atteso e la varianza di una strategia di market timing sotto deriva del posteriore.

• Rendimento Atteso: Si dimostra che il rendimento atteso fuori campione al limite è proporzionale al prodotto scalare dei vettori di caricamento in-sample e out-of-sample: $E[r] \propto \langle \beta_{is}, \beta_{oos} \rangle$.
• Degrado delle Prestazioni: Gli autori dimostrano che se i caricamenti in-sample e out-of-sample sono disallineati (in particolare, se $\langle \beta_{oos} - \beta_{is}, \beta_{is} \rangle < 0$), il rendimento atteso della strategia peggiora. Nel caso peggiore (caricamenti ortogonali), il rendimento atteso scende a zero.
• Rendimenti Aggiustati per il Rischio: Si dimostra che il rapporto di Sharpe è altamente sensibile al rapporto segnale-rumore. In regimi con segnali deboli (tipici dei dati finanziari), la deriva del posteriore causa un crollo significativo del rapporto di Sharpe, in particolare per modelli con bassa regolarizzazione (alta complessità).

2. Verifica tramite Simulazione

Attraverso simulazioni Monte-Carlo, gli autori verificano che i limiti teorici derivati per il primo e il secondo momento del rendimento della strategia siano validi. Dimostrano che:

• Il rendimento atteso è lineare nel prodotto scalare $\langle \beta_{is}, \beta_{oos} \rangle$.
• Una regolarizzazione più elevata (valore di $z$ maggiore) riduce la volatilità ma riduce anche i rendimenti attesi, creando un compromesso.
• Il fenomeno della "doppia discesa" (dove le prestazioni migliorano all'aumentare della complessità oltre la soglia di interpolazione) si mantiene ancora in presenza di deriva, ma il picco delle prestazioni è significativamente inferiore rispetto agli scenari privi di deriva.

3. Evidenza Empirica di Instabilità

L'analisi empirica rivela che le prestazioni dei modelli sovraparametrizzati sono altamente sensibili sia al periodo temporale che al parametro di banda:

• Sensibilità al Periodo: Una strategia che genera un rendimento mensile del 7,24% nel periodo 2005–2019 crolla allo 0,52% nel periodo 1975–1989 con le stesse impostazioni di banda.
• Sensibilità alla Banda: La banda ottimale non è statica; varia tra diversi regimi economici.
• Punti di Cambiamento: L'algoritmo di rilevamento dei punti di cambiamento identifica rotture strutturali significative nella serie temporale dei beta (ad esempio, nel 1982, 1963 e 2002), confermando che il DGP non è stabile.

Risultati

• Perdita di Prestazioni: I risultati teorici indicano che la perdita di performance finanziaria è direttamente collegata al disallineamento tra i caricamenti di addestramento e di test. Quando il segnale è debole (bassa $R^2$), l'impatto della deriva del posteriore è severo, rendendo spesso i modelli complessi peggiori dei semplici benchmark.
• Rendimenti Aggiustati per il Rischio: Sebbene i modelli complessi possano generare alti rendimenti grezzi in specifici sottoperiodi favorevoli, i loro rendimenti aggiustati per il rischio (rapporti di Sharpe) sono spesso irragionevolmente bassi o negativi quando si tiene conto della volatilità. L'articolo nota che un rendimento mensile dello 0,03 implica una volatilità annualizzata superiore al 100%, che è proibitivamente alta.
• Compromesso della Regolarizzazione: Aumentare il parametro di regolarizzazione (banda) riduce l'incertezza e la varianza dei rendimenti della strategia, ma contemporaneamente spinge il rendimento medio verso lo zero, rendendo la complessità meno attraente da un punto di vista aggiustato per il rischio.
• Analisi Controfattuale: Quando gli autori generano rendimenti "controfattuali" assumendo assenza di deriva del posteriore (cioè, i caricamenti rimangono costanti), la strategia performa significativamente meglio. Questo divario quantifica il costo specifico dei cambiamenti di regime.

Significato e Affermazioni

L'articolo conclude che, sebbene la sofisticazione nei modelli di previsione possa portare valore, i modelli sovraparametrizzati non sono incondizionatamente benefici. Gli autori affermano quanto segue:

1. Sensibilità ai Cambiamenti di Regime: L'efficacia dei modelli lineari complessi nella previsione del premio azionario è gravemente compromessa dai cambiamenti degli ambienti economici. La "virtù della complessità" riportata nella letteratura precedente (ad esempio, Kelly et al., 2024) potrebbe essere un artefatto di sottoperiodi specifici e stabili o una sottostima dell'impatto della deriva del posteriore.
2. Avvertenza per i Pratici: Gli analisti che si affidano a modelli sovraparametrizzati devono prestare particolare attenzione alla stabilità e alla sensibilità delle prestazioni nei backtest. I risultati suggeriscono che periodi di detenzione di 15 anni possono generare rendimenti altamente eterogenei a seconda del regime specifico e della banda scelta.
3. Raccomandazione: I risultati raccomandano cautela nel ricorrere a grandi modelli lineari per le previsioni del mercato azionario. Gli autori suggeriscono che i benefici della complessità sono spesso superati dai rischi della deriva del posteriore, specialmente nei mercati finanziari dove i segnali sono deboli e i cambiamenti di regime sono frequenti.

In sintesi, l'articolo fornisce una spiegazione teorica ed empirica per l'ambiguità che circonda il ruolo della sovraparametrizzazione in finanza, attribuendo l'instabilità dei modelli complessi alla non stazionarietà del processo generatore di dati sottostante.