Rethinking Chronological Causal Discovery with Signal Processing

Titel: Heroverweging van Chronologische Causale Ontdekking met Signaalverwerking

Auteurs: Kurt Butler, Damian Machlanski, Panagiotis Dimitrakopoulos en Sotirios A. Tsaftaris (Universiteit van Edinburgh).

1. Probleemstelling

Het artikel adresseert een fundamenteel probleem in het veld van causale ontdekking (causal discovery), specifiek binnen chronologische causaliteit (Chronological Causal Discovery - CCD).

• De Kernvraag: Hoe betrouwbaar zijn methoden voor het afleiden van causale relaties uit tijdreeksdata als de samplefrequentie ($f_S$) en de vensterlengte ($Q$) niet overeenkomen met de onderliggende fysische of biologische dynamiek?
• Het Conflict: In de praktijk worden data vaak met een vaste, door de gebruiker of machine bepaalde frequentie opgenomen. Er is echter geen garantie dat deze opnamefrequentie de timing van de werkelijke gebeurtenissen in het systeem weerspiegelt.
• Het Risico: Discrete modellen (vaak gebruikt in Causal Machine Learning) worden toegepast op continu dynamische systemen. Als de discretisatie (sampling) niet correct is, kan dit leiden tot:
  • Het missen van causale relaties.
  • Het detecteren van valse instantane effecten (artefacten van te lage samplefrequentie).
  • Een sterke afhankelijkheid van hyperparameters (zoals $Q$ en $k$, de downsampling-factor) die de resultaten drastisch beïnvloeden.

2. Methodologie

De auteurs benaderen het probleem vanuit een signaalverwerkingsperspectief in plaats van puur vanuit machine learning. Ze analyseren zowel klassieke als moderne methoden.

• Methoden die worden onderzocht:
  • Klassiek: Granger Causality (GC), Transfer Entropy (TE), Cross Mapping (CCM).
  • Modern (Causal ML): PCMCI, DYNOTEARS, VARLiNGAM.
• Experimenteel Opzet:
  • Er wordt een bivariate systeem gesimuleerd waarbij variabele $x$ een stochastisch proces is en $y$ een vertraagde versie van $x$ (met ruis).
  • De vertraging is ingesteld op ongeveer 50 samples bij de basisfrequentie.
  • Variatie van Hyperparameters:
    1. Vensterlengte ($Q$): Het aantal tijdsstappen dat in het model wordt meegenomen.
    2. Samplefrequentie ($f_S$) / Downsampling ($k$): Het verlagen van de resolutie van de data.
• Evaluatiemetrics:
  • Voor GC/TE: Variatiereductie-scores, F-statistieken en Transfer Entropy-waarden.
  • Voor ML-methoden: De F1-score (combinatie van precisie en recall) om de nauwkeurigheid van de gereconstrueerde graaf te meten.

3. Belangrijkste Bijdragen

1. Kritische Analyse van Hyperparameters: Het paper demonstreert dat zowel klassieke als moderne causaliteitsmethodes extreem gevoelig zijn voor de keuze van $Q$ en $k$. Er is geen "one-size-fits-all" oplossing.
2. Signaalverwerking als Brug: De auteurs introduceren concepten uit de signaalverwerking (zoals de Nyquist-frequentie) in de context van causale inferentie. Ze suggereren dat er een "Causale Nyquist-frequentie" zou kunnen bestaan die de minimale samplefrequentie definieert voor correcte causale ontdekking.
3. Empirische Validatie: Door systematisch de parameters te variëren, tonen ze aan dat methoden falen als de vensterlengte niet overeenkomt met de werkelijke vertraging in het systeem, of als de samplefrequentie te laag is (subsampling).
4. Interpretatie van "Instantane" Effecten: Het paper legt uit dat wat vaak wordt geïnterpreteerd als een instantane causale relatie, vaak een artefact is van een te lage samplefrequentie (te grote tijdsstap $\tau$).

4. Resultaten

De experimentele resultaten tonen duidelijke patronen:

• Gevoeligheid voor Vensterlengte ($Q$):
  • In het experiment met GC en TE werd de causale relatie alleen betrouwbaar gedetecteerd wanneer de vensterlengte $Q$ overeenkwam met de werkelijke propagatietijd (ongeveer 50 samples).
  • Bij $Q < 50$ werd de causaliteit gemist (te kort venster).
  • Bij $Q \gg 50$ nam de geschatte causaliteitssterkte weer af (te veel ruis/overfitting).
• Gevoeligheid voor Downsampling ($k$):
  • Bij het verlagen van de samplefrequentie (vergroten van $k$) verslechterde de prestatie van de methoden.
  • Er is een "detectievenster" waarbinnen de causale vertraging binnen de beschikbare lags past na downsampling. Buiten dit venster faalt de detectie.
• Vergelijking ML vs. Klassiek:
  • Moderne ML-methoden (PCMCI, DYNOTEARS, VARLiNGAM) vertonen een vergelijkbare gevoeligheid als klassieke methoden (GC).
  • De optimale instellingen voor $Q$ en $k$ zijn algoritme-specifiek. Wat voor VARLiNGAM werkt, werkt niet noodzakelijk voor PCMCI.
  • Figuur 4 en 5 in het paper tonen dat de F1-score sterk varieert (van 0 tot 1) afhankelijk van de gekozen parameters, zelfs bij een eenvoudig lineair systeem.

5. Betekenis en Conclusie

• Uitdaging voor de Praktijk: De bevindingen waarschuwen onderzoekers dat het toepassen van causaliteitsalgoritmen op real-world data (bijv. in healthcare of neurowetenschappen) zonder zorgvuldige afstemming van samplefrequentie en vensterlengte kan leiden tot foute conclusies.
• Rol van de Signaalverwerkingsgemeenschap: Het paper pleit voor een nauwere samenwerking tussen causaliteit en signaalverwerking. Net zoals de Nyquist-Shannon-stelling een ondergrens geeft voor signaalreconstructie, zou er een "Causale Nyquist-stelling" moeten komen die de ondergrens definieert voor het detecteren van causale mechanismen.
• Toekomstperspectief: Er is behoefte aan methoden die robuuster zijn tegen variaties in sampling, of aan betere heuristieken om de optimale $Q$ en $f_S$ te bepalen voordat causaliteit wordt geanalyseerd. De huidige aanpak van het simpelweg kiezen van een grote $Q$ of een standaard $Q=1$ is onvoldoende voor complexe systemen.

Samenvattend: Dit artikel benadrukt dat causale ontdekking niet alleen een statistisch of machine learning-probleem is, maar ook een fundamenteel signaalverwerkingsprobleem waarbij de timing van de waarneming cruciaal is voor de geldigheid van de conclusies.