Résumé Technique : Causalité de Granger Permutée Non Linéaire (NPGC)

Énoncé du Problème

L'inférence de la causalité de Granger est une méthode largement utilisée pour déterminer si une série temporelle prédit une autre, traditionnellement définie par la réduction de la variance de l'erreur de prédiction lors de l'inclusion d'un ensemble de covariables. Cependant, l'adaptation de ce cadre aux données non linéaires présente des défis importants. Les adaptations non linéaires existantes reposent souvent sur l'apprentissage profond et l'apprentissage de représentations, mais souffrent de deux problèmes primaires :

1. Surapprentissage et Biais Intra-échantillon : De nombreuses méthodes utilisent des tests intra-échantillons (comparant les modèles restreints et non restreints) qui, lorsqu'ils sont couplés à des approximateurs universels comme les réseaux de neurones artificiels (ANN), peuvent conduire à des corrélations spécieuses. Les ANN peuvent approximer des dépendances arbitraires spécifiques aux données même lorsqu'il n'existe aucune véritable relation prédictive, rendant la réduction de l'erreur intra-échantillon comme métrique de causalité peu fiable.
2. Inférence Individuelle vs Collective : De nombreuses approches se concentrent sur l'isolement de covariables individuelles via la sélection de variables pénalisée (par exemple, le Lasso). Cela ignore le comportement collectif de l'ensemble des covariables, introduit des problèmes de multiplicité et échoue souvent à fournir une décision globale sur la question de savoir si un ensemble de variables est causal au sens de Granger. De plus, la dépendance à des paramètres de pénalité spécifiques (par exemple, $\lambda$) rend les résultats sensibles au réglage des hyperparamètres.

L'article soutient que la définition de la causalité de Granger devrait passer de la comparaison des résidus de modèles à un test explicite de la prédictibilité hors échantillon tout en maintenant la nature collective de l'ensemble des covariables.

Méthodologie : Causalité de Granger Permutée Non Linéaire (NPGC)

Les auteurs proposent la Causalité de Granger Permutée Non Linéaire (NPGC), un cadre qui redéfinit la causalité de Granger en utilisant une structure de permutation et des tests hors échantillon.

Définitions Fondamentales

La méthode remplace la comparaison traditionnelle entre modèles restreints et non restreints par une comparaison entre un modèle nul (utilisant des covariables permutées) et le modèle original.

• Permutation : Les lignes de la matrice des covariables $X_{<t}$ sont permutées aléatoirement pour créer $\tilde{X}_{<t}$. Cela brise la dépendance temporelle entre les covariables et la réponse $Y$ tout en préservant la structure de dépendance interne (intradépendance) des covariables.
• Hypothèse : $X_t$ est conditionnellement causal au sens de Granger pour $Y_t$ si la variance de l'erreur de prédiction utilisant les données originales est significativement plus faible que la variance utilisant les données permutées :
  $$\text{Var}[Y_t - P(Y_t | Y_{<t}, Z_{<t}, X_{<t})] < \text{Var}[Y_t - P(Y_t | Y_{<t}, Z_{<t}, \tilde{X}_{<t})]$$

Étapes de Mise en Œuvre

1. Caractérisation (Featurization) : Les données sont transformées dans un espace de caractéristiques de haute dimension à l'aide de réseaux de neurones à propagation avant (FNN) générés aléatoirement. Contrairement à l'entraînement standard, les poids du réseau sont fixes et générés aléatoirement (agissant comme une carte de caractéristiques aléatoires) pour approximer les relations non linéaires sans surapprentissage de poids spécifiques.
2. Estimation Hors Échantillon : Les données sont divisées en $K$ plis (folds). Pour chaque permutation $m$ (où $m=1$ est la donnée originale et $m>1$ sont les versions permutées) et chaque caractérisation aléatoire $r$, le modèle est entraîné sur $K-1$ plis et testé sur le pli restant.
3. Estimation de la Variance : Les résidus de prédiction hors échantillon sont agrégés pour estimer le paramètre de variation $\hat{\vartheta}_m$ pour chaque permutation.
4. Règle de Décision : Une distribution nulle est construite à partir des $M$ permutations. La p-valeur (estimation du quantile $\hat{Q}_M$) est calculée en fonction de la position de la variance de l'erreur des données originales ($\hat{\vartheta}_1$) par rapport aux erreurs permutées. Si $\hat{Q}_M \leq \alpha$, l'hypothèse nulle de non-causalité est rejetée.

Garanties Théoriques

L'article établit des propriétés asymptotiques sous trois conditions modérées :

1. Propriétés des Données : Les données sont continues, stationnaires et échantillonnées sur une grille suffisamment fine.
2. Régularité de la Caractérisation : Les FNN aléatoires produisent des estimations cohérentes de la matrice de covariance sous-jacente avec une variance finie.
3. Indépendance de l'Erreur : Les erreurs du modèle sont indépendantes entre les points temporels étant donné l'historique pertinent.

Sous ces conditions, l'estimateur $\hat{\vartheta}_m$ est cohérent et la statistique de test converge vers une distribution uniforme sous l'hypothèse nulle.

Résultats de Simulation

Les auteurs ont évalué la NPGC par rapport à plusieurs concurrents, incluant les méthodes cMLP pénalisées (Group Lasso, Sparse Group Lasso, Hiérarchique Lasso), une comparaison naïve de modèles Restreint/Non Restreint (R/U), et une méthode de Substitution par Bruit Gaussien (GNS).

• Performance : La NPGC a démontré une grande puissance pour détecter les relations de causalité de Granger dans les modèles Lorenz-96 (chaotiques) et TAR (Threshold Autoregressive) à travers différentes longueurs de séries temporelles ($T=250, 500, 1000$).
• Comparaison :
  • Méthodes Pénalisées (cMLP) : Les résultats étaient très sensibles au paramètre de régularisation $\lambda$. Sans règle de décision globale claire, ces méthodes produisaient des résultats incohérents.
  • R/U Naïf : A échoué à identifier les paires causales dans les essais Lorenz-96, probablement à cause du surapprentissage.
  • Substitution par Bruit Gaussien : A correctement identifié les paires causales mais a souffert de taux d'erreur de Type I (faux positifs) non contrôlés.
  • NPGC : A réussi à contrôler les taux d'erreur de Type I proches du niveau nominal tout en maintenant une haute puissance de détection, distinguant efficacement la connectivité fonctionnelle réelle du bruit.

Étude d'Application

La méthode a été appliquée aux réponses neuronales du cortex auditif primaire d'un rat anesthésié en réponse à des stimuli acoustiques.

• Configuration : La variable de réponse était un enregistrement en cellule entière. L'ensemble des covariables comprenait un fragment sonore de "cri de reproduction du jaguar" (connu pour être causal selon le design expérimental) et deux fragments non causaux (chant de baleine à bosse et de grenouille de Knudsen).
• Résultat : La NPGC a correctement identifié le cri du jaguar comme étant causal de Granger ($\hat{Q}_M = 0.0025$) et a correctement classé les sons de la baleine et de la grenouille comme non causaux. En revanche, les méthodes cMLP pénalisées ont échoué à isoler le stimulus causal correct, signalant souvent des sons non causaux ou échouant à détecter le causal selon le paramètre de pénalité.

Contributions Clés et Signification

L'article revendique les contributions suivantes :

1. Redéfinition de la Causalité de Granger : Il redéfinit explicitement la causalité de Granger pour les données non linéaires en utilisant un cadre de permutation qui privilégie la prédictibilité hors échantillon plutôt que l'ajustement intra-échantillon.
2. Inférence Collective : Le cadre traite le principe d'« inférence collective », en testant l'ensemble des covariables comme un tout plutôt qu'en s'appuyant sur la sélection de variables individuelles, évitant ainsi les problèmes de multiplicité et les hypothèses cachées sur les coefficients spécifiques du modèle.
3. Robustesse au Surapprentissage : En utilisant des cartes de caractéristiques aléatoires et des tests de permutation, la méthode atténue les risques de surapprentissage inhérents aux modèles d'apprentissage profond, fournissant une protection contre l'identification du bruit spécifique aux données comme dépendance fonctionnelle.
4. Élimination du Réglage des Hyperparamètres : L'approche supprime le fardeau de la sélection des paramètres de régularisation (comme $\lambda$ dans le Lasso), qui dicte souvent le résultat de l'inférence dans les méthodes pénalisées.
5. Fondation Théorique : L'article fournit une analyse théorique des estimations de variance et des règles de décision, démontrant la cohérence et l'uniformité asymptotique sous l'hypothèse nulle.

Les auteurs concluent que bien que la causalité de Granger ne puisse pas établir une véritable causalité mécaniste, le cadre NPGC offre un outil ciblé et robuste pour identifier les relations prédictives et la connectivité fonctionnelle dans des systèmes complexes et non linéaires où les connaissances préalables sur les mécanismes causaux sont limitées.