Causal attribution by the chain rule: unifying natural selection, learning, economics, and other disciplines

1. Problématique

L'article aborde la difficulté fondamentale de décomposer les changements observés dans des systèmes complexes (biologiques, économiques, démographiques ou informatiques) en composantes causales distinctes.

• Le défi : Comment attribuer la part d'un changement observé (par exemple, l'évolution de la fitness moyenne, l'écart de salaire entre groupes, ou l'erreur dans un réseau de neurones) à des facteurs spécifiques (gènes, éducation, paramètres du modèle) tout en distinguant ces facteurs de leur contexte (interactions génétiques, discrimination structurelle, non-linéarités du modèle).
• Le constat : Bien que des méthodes de décomposition existent dans divers domaines (théorème fondamental de la sélection naturelle de Fisher, équation de Price, décomposition d'Oaxaca-Blinder en économie), leur fondement mathématique commun est souvent méconnu. Les interprétations causales varient selon les disciplines, créant une fragmentation conceptuelle.

2. Méthodologie

L'auteur propose une dérivation mathématique unifiée basée sur une identité algébrique simple : la règle du produit pour les différences finies (une forme de la règle de la chaîne appliquée aux produits discrets).

• Fondement mathématique :
  Soit $z = b \cdot x$ (produit scalaire de deux vecteurs). La différence finie $\Delta z = z' - z$ s'écrit :
  $$\Delta z = b \cdot \Delta x + x' \cdot \Delta b$$
  où $x'$ est la valeur de $x$ dans le contexte modifié.

  • Le premier terme ($b \cdot \Delta x$) mesure le changement dû à la variation de $x$ en maintenant $b$ constant.
  • Le deuxième terme ($x' \cdot \Delta b$) mesure le changement dû à la variation de $b$ (le contexte) en utilisant la nouvelle valeur de $x$.

• Application aux modèles de régression :
  L'auteur applique cette identité à une équation de régression moyenne $\bar{z} = \mathbf{b} \cdot \bar{\mathbf{x}}$, où $\mathbf{b}$ représente les coefficients de régression partiels (effets directs) et $\bar{\mathbf{x}}$ les moyennes des prédicteurs.
  $$\Delta \bar{z} = \mathbf{b} \cdot \Delta \bar{\mathbf{x}} + \bar{\mathbf{x}}' \cdot \Delta \mathbf{b}$$

• Interprétation causale (Contrefactuel) :
  L'article démontre que cette décomposition purement descriptive devient un outil d'analyse causale lorsqu'on adopte une perspective contrefactuelle. En choisissant ce qui est « maintenu constant » (les coefficients ou les prédicteurs), on définit la cause. Cela correspond à l'approche moderne de l'analyse causale (type Pearl), où l'on isole l'effet d'une intervention spécifique.

3. Contributions Clés

L'article apporte trois contributions majeures :

1. Unification Algébrique : Il démontre que des résultats apparemment disparates se réduisent tous à la même règle du produit pour les différences finies :

   • Le théorème fondamental de la sélection naturelle de Fisher.
   • L'équation de Price (évolution).
   • La décomposition d'Oaxaca-Blinder (économie, écarts de salaires).
   • La décomposition de Kitagawa (démographie, taux de mortalité).
   • Des expressions en thermodynamique et théorie de l'information.
   • La rétropropagation (backpropagation) en apprentissage automatique.

2. Fondement de l'Analyse Causale Contrefactuelle : Il montre que l'essence de l'analyse causale moderne émerge naturellement de la règle de la chaîne. La décomposition de régression n'a pas de sens causal intrinsèque, mais elle devient causale dès lors qu'on interprète les termes comme des effets partiels dans un scénario contrefactuel (ex: « Que se passerait-il si les fréquences alléliques changeaient mais que les effets moyens des gènes restaient fixes ? »).

3. Lien entre Sélection Naturelle et Apprentissage Machine : L'auteur établit un parallèle profond entre la sélection naturelle et l'apprentissage par rétropropagation. Dans les deux cas, le système attribue la « cause » du succès ou de l'échec aux paramètres sous-jacents (gènes ou poids du réseau) via un calcul de type règle de la chaîne, permettant une mise à jour itérative pour optimiser le système.

4. Résultats et Analyse Détaillée

• Théorème de Fisher revisité :
  L'article réinterprète le théorème de Fisher non pas comme une loi sur la fitness moyenne totale, mais comme une attribution causale spécifique.

  • Le terme $\mathbf{b} \cdot \Delta \mathbf{p}$ (variance génétique additive) représente l'effet direct de la sélection naturelle sur les fréquences alléliques, en « gelant » les effets moyens des gènes.
  • Le terme résiduel $\bar{\mathbf{p}}' \cdot \Delta \mathbf{b}$ capture les changements dus au contexte (interactions génétiques, environnement).
  • Cela valide l'intuition de Fisher : isoler la sélection comme une force pure, distincte de la dynamique évolutive globale complexe.

• Économie (Oaxaca-Blinder) :
  La même formule décompose l'écart de salaire entre deux groupes.

  • Le premier terme attribue l'écart aux différences de caractéristiques observables (éducation) avec des coefficients fixes.
  • Le deuxième terme (souvent le plus important en économie) attribue l'écart aux différences de coefficients (la relation éducation-salaire), ce qui peut révéler une discrimination structurelle.
  • La différence avec Fisher réside uniquement dans le choix de la question causale : Fisher s'intéresse au premier terme, les économistes au second.

• Apprentissage Automatique (Backpropagation) :
  La rétropropagation de l'erreur dans les réseaux de neurones utilise la règle de la chaîne pour calculer le gradient. Cela revient à attribuer la cause de l'erreur aux paramètres spécifiques du modèle, permettant leur mise à jour. La sélection naturelle fait de même implicitement en ajustant les fréquences génétiques basées sur la fitness.

• Thermodynamique et Démographie :
  Les décompositions de Kitagawa (taux de mortalité) et les travaux en thermodynamique (changement de distribution de probabilité vs changement de valeurs observables) suivent exactement la même structure mathématique.

5. Signification et Implications

• Simplicité sous-jacente : L'article révèle que des méthodes complexes d'attribution causale dans des disciplines variées reposent sur une identité mathématique élémentaire. Cela simplifie la compréhension théorique et permet de transférer les intuitions d'un domaine à l'autre.
• Clarification des désaccords : Les désaccords historiques (par exemple, sur l'interprétation du théorème de Fisher) ne sont pas dus à des erreurs mathématiques, mais à des choix différents de ce qui doit être considéré comme « cause » (ce qui est maintenu constant dans l'analyse contrefactuelle).
• Unification des sciences : En reliant la biologie évolutive, l'économie, la démographie et l'intelligence artificielle, l'article suggère que la logique de l'apprentissage (naturel ou artificiel) et de l'attribution causale est universelle.
• Limites et Non-linéarités : L'auteur note que cette approche fonctionne bien tant que les interactions non linéaires ne dominent pas trop. Cependant, même dans des systèmes complexes, cette décomposition partielle reste l'outil fondamental pour comprendre et optimiser les systèmes.

En conclusion, Steven A. Frank démontre que la règle de la chaîne est le moteur mathématique commun derrière la manière dont la nature (sélection naturelle) et les humains (algorithmes d'IA, économètres) décomposent le changement et attribuent la causalité.