DCD: Decomposition-based Causal Discovery from Autocorrelated and Non-Stationary Temporal Data

1. Probleemstelling

Multivariate tijdreeksen in domeinen zoals financiën, klimaatwetenschap en gezondheidszorg vertonen vaak langetrendtrends, seizoenspatronen en kortetermijnschommelingen. Deze kenmerken introduceren niet-stationariteit en autocorrelatie, wat causale inferentie ernstig bemoeilijkt.

• De Kernuitdaging: Bestaande methoden voor causale ontdekking (CD) werken doorgaans op ruwe waarnemingen. Ze worstelen met het ontwarren van langetermijncausale effecten, seizoensgebonden afhankelijkheden en transiënte interacties.
• Gevolgen: Dit leidt tot spurious edges (valse causale koppelingen) en verkeerd toegeschreven temporale afhankelijkheden. Bijvoorbeeld, een gedeeld seizoenscyclus tussen twee variabelen kan ten onrechte worden geïdentificeerd als een directe causale link, of een langetrendtrend kan kortetermijnmechanistische relaties maskeren.
• Kloof: Hoewel deep learning-modellen de forecasting hebben verbeterd door langetermijnavankelijkheden te vangen, blijven ze correlatief. Er ontbreekt een methode die tijdreeksdecompositie expliciet integreert met causale inferentie om deze temporele schalen te scheiden.

2. Methodologie: Het DCD-kader

De auteurs stellen Decomposition-based Causal Discovery (DCD) voor, een gestructureerd kader dat elke tijdreeks splitst in drie componenten—Trend ($T$), Seizoensgebonden ($S$) en Residu ($R$)—en gerichte causale analyse uitvoert op elke component voordat de resultaten worden geïntegreerd.

A. Decompositiestadium

• Techniek: Gebruik van STL (Seasonal-Trend decomposition using LOESS) om multivariate tijdreeksen te decomponeren: $X_i(t) = T_i(t) + S_i(t) + R_i(t)$.
• Redenering: STL wordt gekozen boven starre Fourier-basis of voortschrijdende gemiddelden omdat LOESS-gladmaking zich aanpast aan lokale niet-lineariteiten en spectrale lekkage minimaliseert (energie van de ene component die in de andere lekt), wat cruciaal is voor de theoretische garanties.
• Periodekeuze: De seizoensperiode $P$ wordt geselecteerd via variantiemaximalisatie. Als geen significante seizoensgebondenheid wordt gevonden, wordt de seizoenscomponent op nul gesteld.

B. Component-specifieke Causale Analyse

DCD past verschillende inferentiestrategieën toe die zijn toegespitst op de statistische eigenschappen van elke component:

1. Trendanalyse (Langetermijnavankelijkheid):
   • Doel: Exogene temporele drijfveren identificeren.
   • Methode: Toepassing van stationariteitstests (ADF en KPSS). Als een trend niet-stationair is, wordt een gerichte rand van de tijdsindex ($t \to X_i$) toegevoegd aan het trendgrafiek ($G_T$). Dit behandelt tijd als een latente confounder voor langetermijndynamiek.
2. Seizoensanalyse (Cyclische Afhankelijkheid):
   • Doel: Deterministische cyclische afhankelijkheden identificeren.
   • Methode: Gebruik van het Hilbert-Schmidt Independence Criterion (HSIC) met RBF-kernen om onafhankelijkheid te testen tussen de seizoenscomponent $S_i(t)$ en de tijdsindex $t$. Significante afhankelijkheid voegt een seizoensrand ($t \to X_i$) toe aan het seizoensgrafiek ($G_S$).
3. Residuanalyse (Kortetermijncausaliteit):
   • Doel: Intrinsieke mechanistische interacties identificeren.
   • Methode: Na het verwijderen van trends en seizoensgebondenheid benadert het residu $R_i(t)$ een stationair, zwak afhankelijk proces. Een constraint-based causal discovery-algoritme (bijv. PCMCI+) wordt toegepast om vertraagde ($X_{t-\tau} \to Y_t$) en gelijktijdige ($X_t \to Y_t$) afhankelijkheden te vinden, waarmee het residugrafiek ($G_R$) wordt gevormd.

C. Grafiekintegratie

• De uiteindelijke causale grafiek $G_{combined}$ is de vereniging van de drie componentgrafieken: $G_{combined} = G_T \cup G_S \cup G_R$.
• Structuur: Het resultaat is een multi-relational grafiek die onderscheidt tussen:
  • Tijd-proxy-randen: Exogene drijfveren ($t \to X$) die trends en seizoensgebondenheid vertegenwoordigen.
  • Mechanistische randen: Variabel-naar-variabel afhankelijkheden ($X \to Y$) die kortetermijncausale mechanismen vertegenwoordigen.

3. Theoretische Garanties en Identificeerbaarheid

Het paper stelt formele voorwaarden vast waaronder DCD de ware causale structuur $G^*$ herstelt:

• Aannames:
  1. Causale Invariantie: Het residumechanisme is tijd-invariant en voldoet aan $\beta$-mixing (zwakke afhankelijkheid).
  2. Spectrale Scheidbaarheid: Trend-, seizoens- en residu-componenten bezetten disjuncte frequentiebanden.
  3. Beperkte Lekkage: De correlatie (lekage $\epsilon$) tussen de gedeecomponeerde componenten is klein.
  4. Causale Modulariteit: Causale invloeden over schalen heen zijn verwaarloosbaar.
• Identificeerbaarheidstheorema: Onder lineaire Gaussische dynamiek is de verwachte Structural Hamming Distance (SHD) tussen de geschatte grafiek en de grondwaarheid begrensd door:
  $$E[SHD(\hat{G}, G^*)] \leq C_1 \cdot \epsilon + C_2 \cdot \alpha_n$$
  Waarbij $\epsilon$ de lekkageparameter is en $\alpha_n$ het Type-I-foutpercentage van de downstream causale test. Dit bewijst dat DCD convergeert naar de ware structuur naarmate de decompositie verbetert ($\epsilon \to 0$) en de steekproefomvang toeneemt.

4. Belangrijkste Bijdragen

1. Nieuw Kader: Introductie van DCD, het eerste kader dat tijdreeksen expliciet decomponeert in trend-, seizoens- en residu-componenten voor gerichte causale inferentie op meerdere temporele schalen.
2. Theoretische Analyse: Formalisering van decompositie als spectrale filtering, met identificatiegaranties en een foutgrens die afhankelijk is van spectrale lekkage en testsignificantie.
3. Empirische Superioriteit: Aangetoonde prestatiewinst ten opzichte van state-of-the-art baselines (PCMCI+, CD-NOD, DYNOTEARS, etc.) op zowel synthetische als real-world data.
4. Robuustheid: Aangetoond dat het kader op een gecontroleerde manier degradeert wanneer spectrale scheidbaarheid gedeeltelijk wordt geschonden (bijv. amplitude-modulatie), in plaats van catastrofaal te falen.

5. Experimentele Resultaten

De auteurs evalueerden DCD op synthetische benchmarks en twee real-world datasets: Arctic Sea Ice (klimaat) en ETTh1 (elektriciteitsbelastingen van transformatoren).

• Synthetische Benchmarks:
  • Metrics: DCD bereikte de beste balans van True Positive Rate (TPR ~0,79), False Discovery Rate (FDR ~0,38) en Structural Hamming Distance (SHD).
  • Vergelijking: Baselines zoals PCMCI+ leden aan hoge FDR door autocorrelatie; DYNOTEARS toonde hoge SHD en overfitting; CD-NOD had alleen een lage SHD door alle vertraagde randen te verwijderen.
  • Schaalbaarheid: DCD behield stabiliteit over variërende steekproefgroottes, lag-ordes en dimensionaliteit ($d=4$ tot $10$), terwijl baselines prestatie-inzakkingen of onstabiele FDR-groei vertoonden.
• Real-world Casestudies:
  • Arctic Sea Ice: DCD herstelde fysiek coherente multi-scale afhankelijkheden (bijv. SST $\to$ Zee-ijs feedback, seizoensgebonden stralingscycli) die in ruwe-data baselines waren verduisterd of verkeerd georiënteerd.
  • ETTh1: DCD identificeerde schaarse, interpreteerbare autoregressieve en kruisbelasting-interacties, en vermijdt de dichte, spurious grafieken die door andere methoden worden geproduceerd.
• Ablatiestudies:
  • Preprocessing vs. Integratie: Het toepassen van STL-preprocessing alleen op baselines verbeterde deze, maar niet tot het niveau van volledige DCD. Dit bevestigt dat de multi-scale grafiekintegratie een distincte bron van prestatiewinst is.
  • Gevoeligheid: De prestaties namen lineair (gecontroleerd) af naarmate spectrale lekkage toenam, wat de theoretische grenzen valideert.

6. Betekenis en Impact

• Overbruggen van de Kloof: DCD overbrugt de kloof tussen tijdreeksdecompositie (traditioneel gebruikt voor forecasting) en causale ontdekking.
• Omgaan met Niet-stationariteit: Het biedt een robuuste oplossing voor niet-stationaire data door trends en seizoensgebondenheid te behandelen als exogene drijfveren in plaats van ze in de causale grafiek te forceren als directe variabel-naar-variabel links.
• Interpreteerbaarheid: Door tijd-proxy-randen (exogene drijfveren) te scheiden van mechanistische randen (intrinsieke afhankelijkheden), zijn de resulterende grafieken beter interpreteerbaar voor domeinexperts (bijv. klimatologen of economen).
• Toekomstige Richtingen: De auteurs suggereren het versoepelen van de aanname van spectrale scheidbaarheid om cross-frequentie koppeling te behandelen (bijv. trends die seizoensgebonden amplitude moduleren) en DCD te integreren met methoden voor tijdsvariabele causale ontdekking.

Kortom, DCD biedt een wiskundig onderbouwde, empirisch gevalideerde aanpak om causale structuren in complexe, niet-stationaire tijdreeksen bloot te leggen door expliciet de distincte temporele schalen van trends, seizoensgebondenheid en residuen te modelleren.