A Riemannian Factor Model for Manifold-Valued Time Series

Technische Samenvatting: Een Riemanniaans Factor-model voor Manifold-gewalde Tijdreeksen

Probleemstelling
Het artikel behandelt de uitdaging van het analyseren van hoogdimensionale tijdreeksen die intrinsiek op niet-lineaire Riemanniaanse manifolds rusten in plaats van in Euclidische ruimtes. Dergelijke data komen voor in diverse velden, waaronder economie (compositionele tijdreeksen), financiën (tijdsveranderende covariantie-matrices), medische beeldvorming (diffusietensorimaging) en genetica. Bestaande technieken voor dimensiereductie, zoals Principal Geodesic Analysis (PGA) of functionele PCA, richten zich doorgaans op onafhankelijke steekproeven of gaan uit van vaste manifold-dimensies. Bovendien zijn klassieke lineaire factormodellen ongeschikt voor manifold-gewalde data omdat vectoroptelling en scalaire vermenigvuldiging niet goed gedefinieerd zijn in niet-lineaire ruimtes, en projectie op lineaire subruimtes de geometrie inherent verkeerd specificeert. Er is een gebrek aan rigoureuze statistische kaders voor dimensiereductie in Riemanniaanse tijdreeksen die zowel rekening houden met temporele afhankelijkheid als met hoogdimensionale asymptotica waarbij de manifold-dimensie $p$ divergeert met de steekproefgrootte $n$.

Methodologie: Het Riemanniaans Factor-model (RFM)
De auteurs stellen het Riemanniaans Factor-model (RFM) voor, een kader dat de dynamiek van manifold-gewalde tijdreeksen $x_t \in \mathcal{M}$ vastlegt via latente factoren. Het model wordt geformuleerd als:
$$x_t = \text{Exp}_\mu(z_t)$$
waarbij $\mu \in \mathcal{M}$ een vast referentiepunt is (het Fréchet-gemiddelde), en $z_t$ een gemiddelde-nul latente tijdreeks is in de raakruimte $T_\mu\mathcal{M}$. Het latente proces volgt een lineaire factorstructuur binnen de raakruimte:
$$z_t = A f_t + \delta_t$$
Hierbij is $f_t \in \mathbb{R}^r$ ($r \ll p$) de latente factor, $A$ een isometrische lineaire operator die factoren naar de raakruimte brengt, en $\delta_t$ witte ruis.

Schattingprocedure:

1. Fréchet-gemiddelde Schatting: Het referentiepunt $\mu$ wordt geschat door de som van de gekwadrateerde geodetische afstanden te minimaliseren: $\hat{\mu} = \arg\min_{y} \sum d_\mathcal{M}(y, x_t)^2$.
2. Projectie naar de Raakruimte: Data worden naar de raakruimte bij het geschatte gemiddelde gemapt met behulp van de logaritme-afbeelding: $\hat{z}_t = \text{Log}_{\hat{\mu}}(x_t)$.
3. Factor Extractie: Volgens de aanpak van Lam et al. (2011 voor Euclidische data), wordt de laadruimte geschat met behulp van de autocovariantie-operator van de data in de raakruimte. Specifiek worden de steekproef autocovariantie-matrices $\hat{S}(h)$ berekend, en wordt de operator $\hat{L} = \sum \hat{S}(h)\hat{S}(h)^*$ gevormd. De leidende eigenvectoren van $\hat{L}$ definiëren de geschatte laadruimte.
4. Factor Selectie: Het aantal factoren $r$ wordt geselecteerd met behulp van een ratio-schatter gebaseerd op de eigenwaarden van $\hat{L}$, specifiek door $\hat{\lambda}_{i+1}/\hat{\lambda}_i$ te minimaliseren.
5. Predictie: Voorspellingen worden gegenereerd door de geschatte factoren terug te mappen naar de manifold via de exponentiële afbeelding, waardoor de outputs strikt voldoen aan de manifold-restrictie.

Theoretische Bijdragen en Resultaten
Het artikel stelt consistentie en convergentiesnelheden vast voor de RFM-schatters onder een hoogdimensionaal asymptotisch regime waarbij $p \to \infty$ naarmate $n \to \infty$.

• Convergentiesnelheden: Onder voorwaarden van kort geheugen en sterke factoren, bewijzen de auteurs dat de geschatte laadruimte convergeert naar de ware laadruimte met een dimensievrije snelheid van $O_p(n^{-1/2})$. Dit komt overeen met de convergentiesnelheid van hoogdimensionale lineaire factormodellen in de Euclidische ruimte.
• Afhandeling van de mismatch in de Raakruimte: Een belangrijke theoretische uitdaging is dat de ware en de geschatte loadings in verschillende raakruimtes liggen ($T_\mu\mathcal{M}$ vs. $T_{\hat{\mu}}\mathcal{M}$). De auteurs introduceren een nieuwe techniek met behulp van holonomie om de verandering in raakvectoren te begrenzen die langs geodetische driehoeken zijn getransporteerd, waardoor een rigoureuze vergelijking van subruimtes mogelijk is zonder een omringende Euclidische ruimte te vereisen.
• Aannames: De theorie steunt op aannames over de concentratie van de data rond het Fréchet-gemiddelde, grenzen aan de doorsnedecurvatuur (sectional curvature) en specifieke vervalratio's voor temporele afhankelijkheid (bijv. $\alpha$-mixing).
• Toepasbaarheid: De resultaten blijken van toepassing op de Bures–Wasserstein manifold, die incompleet is en een niet-negatieve doorsnedecurvatuur heeft, een setting waar eerdere methoden vaak falen vanwege aannames over volledigheid.

Empirische Evaluatie

• Simulaties: De RFM is getest op synthetische tijdreeksen op de Bures–Wasserstein manifold en product-manifolds van sferen. De resultaten geven aan dat RFM een lagere pseudo-voorspellingsfout bereikt (gemeten als relatieve geodetische gemiddelde kwadratische fout) vergeleken met Lineaire Factormodellen (LFM), met name wanneer het aantal factoren klein is. De ratio-schatter identificeerde het ware aantal factoren met een hoge frequentie (meer dan 80% voor $n=100$).
• Toepassing op Werkelijke Data: Het model werd toegepast op maandelijkse gerealiseerde covariantie-matrices van 12 geselecteerde Amerikaanse aandelen (over de sectoren IT, financiën en energie), gemodelleerd als tijdreeksen in de Bures–Wasserstein manifold. De RFM leverde interpreteerbare factoren die marktbrede en sectorspecifieke effecten vastlegden (waarbij de marktfactor de VIX-index nauwgezet volgde) en leverde concurrerende out-of-sample voorspellende prestaties vergeleken met bestaande technieken zoals EWMA.

Betekenis en Claims
De auteurs claimen dat dit werk het eerste factormodel en de eerste methode voor dimensiereductie is met een theoretisch onderbouwde schatting die specifiek is ontworpen voor Riemanniaanse tijdreeksen. Belangrijke onderscheidende punten ten opzichte van eerder werk zijn:

1. Dynamische Correlaties: In tegenstelling tot PCA-achtige methoden die vertrouwen op variantie-covariantie-operatoren, maakt RFM gebruik van de autocovariantie-operator, wat arbitraire cross-correlatie in de ruis accommodeert en identificatieproblemen voorkomt die gebruikelijk zijn bij op principal components gebaseerde modellen.
2. Bures–Wasserstein Geometrie: Dit is een van de eerste toepassingen van factor-modellering op de Bures–Wasserstein manifold, wat een natuurlijke metriek biedt voor covariantie-matrices afgeleid van optimale transporttheorie, verschillend van de meer gebruikelijke affine-invariante of Log-Euclidische geometrieën.
3. Hoogdimensionale Theorie: Het artikel biedt rigoureuze theoretische garanties voor schatting en factorselectie in een hoogdimensionaal regime waarbij de manifold-dimensie divergeert, gebruikmakend van innovatieve bewijstechnieken met behulp van holonomie om de geometrische complexiteit van parallel transport en de mismatch in de raakruimte aan te pakken.