Causal Discovery in Structural VAR Models Under Equal Noise Variance

Technische Zusammenfassung: Kausale Entdeckung in strukturellen VAR-Modellen unter der Annahme gleicher Rauschvarianz

Problemstellung
Die kausale Entdeckung aus multivariaten Zeitreihen ist besonders schwierig, wenn kausale Effekte sowohl über die Zeit (verzögert) als auch innerhalb desselben Abtastintervalls (zeitgleich) auftreten. Dieses Problem ist in Bereichen wie der Neurowissenschaft kritisch, wo die Abtastraten (z. B. fMRT) oft im Verhältnis zu den zugrunde liegenden Dynamiken grob sind, was Modelle erfordert, die Interaktionen innerhalb eines Zeitbins erfassen. Während lineare gaußsche strukturelle vektorielle autoregressive (SVAR) Modelle hierfür leistungsfähig sind, versagen Standard-Identifikationstechniken in diesem Setting oft.

Im Gegensatz zu querschnittlichen Strukturgleichungsmodellen (SEMs), bei denen eine Annahme gleicher Rauschvarianz in Kombination mit einer Annahme eines gerichteten azyklischen Graphen (DAG) zu einer punktuellen Identifizierung eines eindeutigen kausalen Graphen führt, liefert das Zeitreihen-Setting mit zeitgleichen Effekten im Allgemeinen keinen eindeutigen Graphen. In SVAR-Modellen können zeitgleiche Effekte gerichtete Zyklen bilden, und mehrere verschiedene strukturelle Parametrisierungen können exakt dasselbe stationäre beobachtete Prozessgesetz induzieren. Folglich verschiebt sich das Ziel der kausalen Entdeckung von der Identifizierung eines einzelnen Graphen hin zur Identifizierung einer beobachtungsäquivalenten Klasse.

Methodik
Der Artikel schlägt einen Rahmen für die kausale Entdeckung in linearen gaußschen SVAR(1)-Modellen unter der Annahme gleicher Rauschvarianz vor (strukturelle Rauschterme sind gegenseitig unabhängig mit einer gemeinsamen Varianz $\sigma^2$).

1. Charakterisierung der beobachtungsäquivalenten Klasse:
   Die Autoren beweisen, dass zwei zulässige SVAR-Modelle $M = (A_0, A_1, \sigma)$ und $M' = (A'_0, A'_1, \sigma')$ beobachtungsäquivalent sind (dieselbe stationäre gaußsche Prozess induzieren), wenn und nur wenn ihre strukturellen Parameter durch eine orthogonale Transformation und einen globalen positiven Skalierungsfaktor miteinander verknüpft sind. Spezifisch existiert eine orthogonale Matrix $Q \in O(p)$ und ein Skalar $c > 0$, sodass:
   $$B' = cQB, \quad A'_1 = cQA_1, \quad \sigma' = c\sigma$$
   wobei $B = I - A_0$. Diese Charakterisierung impliziert, dass der strukturelle Graph nicht punktuell identifiziert ist; vielmehr identifizieren die Daten eine Klasse von Modellen, die durch diese Transformationen miteinander verknüpft sind.

2. Beobachtungs-Ausrichtungs-Diskrepanz:
   Um die Modellwiederherstellung in diesem Setting zu bewerten, führen die Autoren die beobachtungs-Ausrichtungs-Diskrepanz ($\Delta^{\text{obs}}_{\text{align}}$) ein. Im Gegensatz zu Standard-Frobenius-Fehlern misst diese Metrik den Abstand zwischen einem Kandidatenmodell und der gesamten beobachtungsäquivalenten Klasse der Grundwahrheit. Sie ist definiert als das Infimum des Rekonstruktionsfehlers über alle gültigen orthogonalen Transformationen und globalen Skalierungen. Eine geschlossene Lösung wird mittels Singulärwertzerlegung (SVD) abgeleitet, was eine effiziente Bewertung der strukturellen Wiederherstellung ermöglicht, ohne dass ein spezifischer willkürlicher Repräsentant abgeglichen werden muss.

3. ENVAR-Algorithmus:
   Die Autoren schlagen ENVAR (Equal-Noise VAR causal discovery) vor, ein spärlichkeitsbasiertes Verfahren zur Auswahl eines bevorzugten Repräsentanten aus der äquivalenten Klasse. Der Algorithmus läuft in drei Schritten ab:

   • Schätzung der reduzierten Form: Schätzung der Übergangsmatrix der reduzierten Form $\Phi$ und der Residualkovarianz $\Sigma_u$ mittels gewöhnlicher Kleinste-Quadrate-Methode (OLS).
   • Konstruktion eines kanonischen Repräsentanten: Konstruktion einer Basis-Strukturdarstellung unter Verwendung des Cholesky-Faktors der empirischen Präzisionsmatrix.
   • Spärliche Suche: Suche über das orthogonale Mannigfaltigkeit und den globalen Skalierungsfaktor, um einen strukturellen Repräsentanten zu finden, der die $\ell_1$-Norm der Nicht-Diagonaleinträge von $A_0$ (zeitgleiche Effekte) und aller Einträge von $A_1$ (verzögerte Effekte) minimiert, unterliegt der Normalisierungsbedingung $\text{diag}(I - A_0) = 1$. Dies wird mittels nicht-konvexer Optimierung auf der orthogonalen Mannigfaltigkeit gelöst (über die orthogonale Parametrisierung von PyTorch).

Hauptergebnisse
Die Methodik wurde auf synthetischen Daten und realen fMRT-Daten des Human Connectome Project (HCP) evaluiert.

• Synthetische Daten: ENVAR wurde mit EqVarGDS, VARLiNGAM und DYNOTEARS verglichen. ENVAR erzielte die niedrigste skalenfreie beobachtungs-Ausrichtungs-Diskrepanz über verschiedene Graphendimensionen ($p$), was darauf hindeutet, dass es erfolgreich Modelle wiederherstellt, die der wahren äquivalenten Klasse am nächsten kommen. Es zeigte zudem eine höhere Pearson-Korrelation mit den Grundwahrheits-Parametern der reduzierten Form und strukturellen Matrizen im Vergleich zu Baselines. Bemerkenswert ist, dass ENVAR robust gegenüber Verletzungen der Annahme gleicher Varianz war und auch dann eine überlegene Leistung aufrechterhielt, wenn die Rauschvarianzen über die Knoten hinweg moderat variierten.
• Reale fMRT-Daten: Auf HCP-Daten zu motorischen Aufgaben angewendet, stellte ENVAR kausale Graphen wieder her, bei denen die Knotenzentralitäten (In-Grad, Out-Grad, Nettofluss) bemerkenswert gut mit bekannten neurowissenschaftlichen Aktivierungskarten übereinstimmten. Eine NeuroSynth-Analyse bestätigte, dass die dekodierten kognitiven Begriffe, die mit den gelernten Graphenstrukturen assoziiert waren, mit der Literatur zur motorischen Kontrolle konsistent waren.

Bedeutung und Behauptungen
Der Artikel behauptet, dass unter der Annahme gleicher Rauschvarianz der strukturelle Graph in SVAR-Modellen aufgrund des Vorhandenseins zeitgleicher Zyklen und der Invarianz des beobachteten Gesetzes unter orthogonalen Transformationen im Allgemeinen nicht punktuell identifiziert ist. Daher ist das angemessene Ziel der kausalen Entdeckung die beobachtungsäquivalente Klasse und nicht ein einzelner Graph.

Die Bedeutung dieser Arbeit liegt in:

1. Der Bereitstellung einer exakten Charakterisierung dieser äquivalenten Klasse für Zeitreihendaten, die sie vom querschnittlichen DAG-Setting unterscheidet.
2. Der Einführung einer äquivalenzbewussten Fehlermetrik (beobachtungs-Ausrichtungs-Diskrepanz), die die strukturelle Wiederherstellung korrekt bewertet, indem sie die inhärente Nicht-Identifizierbarkeit berücksichtigt.
3. Der Vorschlag von ENVAR, einem praktischen Algorithmus, der Spärlichkeit nutzt, um einen normalisierten Repräsentanten aus der äquivalenten Klasse auszuwählen, und der eine verbesserte Genauigkeit gegenüber State-of-the-Art-Methoden sowohl in synthetischen als auch in realen neuroimaging-Szenarien demonstriert.

Die Autoren weisen auf Einschränkungen hin, darunter die Abhängigkeit von Linearität, Stationarität und das Fehlen unbeobachteter Confounder sowie die Verwendung nicht-konvexer Optimierung, die in lokalen Minima konvergieren kann. Als zukünftige Arbeiten wird vorgeschlagen, Nicht-Stationaritäten und Dynamiken höherer Ordnung zu adressieren.