Density Ratio-based Causal Discovery from Bivariate Continuous-Discrete Data

Cet article propose une méthode de découverte causale appelée DRCD, qui détermine la direction de causalité entre une variable continue et une variable discrète en exploitant la monotonie du rapport de densité et les propriétés des familles de décalage de lieu pour garantir l'identifiabilité du modèle.

L'essentiel

Imaginez que vous êtes un détective privé. Votre mission ? Résoudre un mystère apparemment simple : qui a influencé qui ?

Vous avez deux indices :

1. Un indice continu (comme la température, le poids, ou le niveau de sucre dans le sang). Disons que c'est une jauge qui bouge doucement.
2. Un indice discret (comme "malade" ou "sain", "homme" ou "femme"). C'est une case à cocher, un interrupteur qui est soit ON, soit OFF.

Le problème, c'est que vous n'avez que des photos de l'état actuel. Vous ne savez pas si c'est la jauge (le sucre) qui a déclenché l'interrupteur (la maladie), ou si l'interrupteur (la maladie) a fait bouger la jauge. C'est le casse-tête de la causalité.

Ce papier scientifique présente une nouvelle méthode, appelée DRCD, pour résoudre ce mystère sans avoir besoin de faire des expériences dangereuses (comme donner du sucre à des gens sains pour voir s'ils tombent malades).

Voici comment ça marche, expliqué avec des images simples :

1. Le problème des anciennes méthodes

Avant, les détectives utilisaient deux types d'outils qui avaient des défauts majeurs :

• Les outils trop rigides : Ils supposaient que si l'interrupteur (la maladie) changeait la jauge (le sucre), cela ne changeait que le niveau moyen du sucre, mais pas sa forme. C'est comme si dire "Je suis malade" ne faisait que décaler la jauge de 5 degrés, mais gardait exactement la même courbe de distribution. Dans la vraie vie, c'est souvent faux : la maladie peut rendre le sucre très instable (des pics et des creux), pas juste plus haut.
• Les outils trop flous : D'autres méthodes essayaient de comparer tout et n'importe quoi, mais comme on compare des pommes (chiffres) et des oranges (catégories), c'était difficile de dire qui gagne vraiment.

2. La nouvelle idée : La "Courbe de Ratio" (Le Densité Ratio)

L'équipe de chercheurs a trouvé une astuce géniale basée sur une propriété mathématique qu'ils appellent le ratio de densité.

Imaginez que vous prenez deux photos de votre jauge :

• Photo A : Quand l'interrupteur est sur "OFF" (Sain).
• Photo B : Quand l'interrupteur est sur "ON" (Malade).

Maintenant, imaginez que vous superposez ces deux photos et que vous calculez, point par point, combien de fois la photo B est plus probable que la photo A. C'est ce qu'on appelle le "ratio".

Leur découverte révolutionnaire est la suivante :

Cas A : Si la Jauge (X) cause l'Interrupteur (Y)

(Exemple : Le taux de sucre élevé déclenche la maladie)
Dans ce cas, le ratio que vous calculez a une propriété magique : il est monotone.

• L'analogie : Imaginez une pente de ski. Si vous glissez de haut en bas, vous ne faites que descendre. Vous ne remontez jamais. Le ratio suit une ligne droite (ou courbe) qui ne fait que monter ou seulement descendre. C'est lisse, prévisible.

Cas B : Si l'Interrupteur (Y) cause la Jauge (X)

(Exemple : La maladie modifie le taux de sucre)
Dans ce cas, sauf dans des situations très rares et bizarres (comme si la maladie ne changeait que le niveau moyen sans toucher à la forme), le ratio devient chaotique.

• L'analogie : Imaginez un terrain de montagnes russes. Le ratio monte, descend, remonte, redescend. Il n'y a pas de direction unique. C'est "non monotone".

3. Comment DRCD résout le mystère ?

La méthode DRCD fonctionne comme un test de 4 étapes pour votre détective :

1. Vérifier le lien : Est-ce que les deux photos sont différentes ? Si non, pas de causalité. Fin de l'histoire.
2. Vérifier la forme : Est-ce que la maladie ne fait que décaler la jauge (comme un simple décalage de niveau) ? Si oui, c'est probablement la maladie qui cause le changement (Y → X).
3. Calculer le ratio : Si ce n'est pas un simple décalage, on calcule le ratio entre les deux photos.
4. Le test de la pente : On regarde si ce ratio est une "pente de ski" (monotone) ou un "terrain de montagnes russes" (non monotone).
   • Si c'est une pente de ski (monotone) ➔ La Jauge cause l'Interrupteur (X → Y).
   • Si c'est un terrain de montagnes russes ➔ L'Interrupteur cause la Jauge (Y → X).

Pourquoi est-ce génial ?

• Pas de suppositions bêtes : Contrairement aux anciennes méthodes, DRCD accepte que la maladie change la forme du sucre (des pics, des creux), pas juste la moyenne. C'est beaucoup plus proche de la réalité.
• Pas de comparaison injuste : Au lieu de comparer des pommes et des oranges, elle regarde simplement la forme de la courbe. C'est comme comparer la forme d'une vague à la forme d'une autre vague, peu importe si elles sont dans l'eau ou dans le sable.
• Résultats solides : Sur des données simulées et réelles (comme des données médicales sur le cœur), cette méthode a deviné la bonne direction beaucoup plus souvent que les autres détectives.

En résumé

Ce papier nous dit : "Ne regardez pas seulement la moyenne, regardez la forme !"

Si vous voulez savoir si A cause B ou B cause A, quand l'un est un chiffre et l'autre une catégorie, regardez comment la probabilité de l'un change par rapport à l'autre. Si ça monte ou descend tout le temps sans faire de zigzags, c'est que le chiffre cause la catégorie. Si ça fait des zigzags, c'est l'inverse.

C'est une nouvelle loupe pour voir la vérité cachée dans nos données, sans avoir besoin de faire de la magie ni de casser des vitres !

Résumé technique

1. Problématique

L'article aborde le problème fondamental de la découverte causale : inférer la direction de la causalité entre deux variables observées, l'une continue ($X$) et l'autre discrète ($Y$), à partir de données observationnelles uniquement.

Les défis spécifiques à ce contexte sont :

• Limitations des méthodes existantes :
  • Les méthodes basées sur les contraintes (comme PC ou FCI) nécessitent des tests d'indépendance conditionnelle qui échouent dans un cadre bivarié (pas de variables supplémentaires pour conditionner).
  • Les méthodes basées sur des modèles fonctionnels (comme LiM, MIC) supposent souvent que lorsque $Y$ cause $X$, les distributions conditionnelles $P(X|Y)$ forment une famille de décalage de lieu (location-shift family), c'est-à-dire qu'elles ne diffèrent que par leur moyenne, partageant la même forme et la même variance. Cette hypothèse est restrictive et ne couvre pas les cas où les variances ou les formes des distributions changent (hétéroscédasticité).
  • Les méthodes basées sur des scores flexibles (comme CRACK, GSF) peinent à comparer équitablement les scores entre variables de types différents (continue vs discrète) en raison de différences fondamentales d'échelle et de contenu informationnel.

2. Méthodologie : DRCD (Density Ratio-based Causal Discovery)

Les auteurs proposent une nouvelle méthode, DRCD, qui détermine la direction causale en exploitant les propriétés théoriques du ratio de densité et de la structure des distributions conditionnelles, sans nécessiter de normalisation ad hoc ni de comparaison de scores entre types de variables.

La méthode repose sur l'analyse de trois modèles causaux possibles :

1. $X \to Y$ : La variable continue cause la variable discrète.
2. $Y \to X$ : La variable discrète cause la variable continue.
3. Pas de relation causale : Indépendance statistique.

Hypothèses et Modèles

• Pour $X \to Y$ : Utilisation d'un modèle à seuil (threshold model). $Y$ est déterminé par des indicateurs binaires basés sur des fonctions monotones de $X$ plus un bruit.
• Pour $Y \to X$ : Deux cas sont considérés :
  1. Décalage de lieu (Location-shift) : Les distributions conditionnelles $P(X|Y=c)$ sont identiques à un décalage de moyenne près (hypothèse des méthodes précédentes).
  2. Paramétrisation indépendante (Non-location-shift) : Les distributions conditionnelles sont des mélanges de distributions normales généralisées avec des paramètres (moyenne, échelle, forme) indépendamment paramétrés pour chaque valeur de $Y$. Cela permet de modéliser des variances et des formes différentes.

Algorithme DRCD (4 étapes)

L'algorithme procède séquentiellement pour identifier le modèle :

1. Test d'existence causale : Utilisation du test de Kolmogorov-Smirnov (KS) sur deux sous-échantillons de $X$ correspondant aux valeurs les plus fréquentes de $Y$. Si les distributions sont identiques, on conclut à l'absence de causalité.
2. Test de décalage de lieu (Location-shift) : Si une causalité existe, on centre les échantillons conditionnels (soustraction de la moyenne) et on applique à nouveau le test KS. Si les distributions centrées sont identiques, cela indique une relation de type "décalage de lieu", caractéristique de $Y \to X$.
3. Estimation du ratio de densité : Si le cas de décalage de lieu est exclu, on estime le ratio de densité $G(x) = \frac{P(X|Y=c_t)}{P(X|Y=c_s)}$ en utilisant la méthode uLSIF (unconstrained Least-Squares Importance Fitting).
4. Évaluation de la monotonie : On vérifie si le ratio de densité estimé est monotone (croissant ou décroissant) sur le domaine de support commun.
   • Si le ratio est monotone $\implies$ $X \to Y$.
   • Si le ratio est non monotone $\implies$ $Y \to X$ (cas non-décalage de lieu).

3. Contributions Théoriques Clés

Les auteurs établissent l'identifiabilité de la direction causale grâce à trois résultats théoriques majeurs :

1. Monotonie sous $X \to Y$ : Sous le modèle à seuil ($X \to Y$), le ratio de densité conditionnelle $P(X|Y=c_t) / P(X|Y=c_s)$ est monotone par rapport à $x$.
2. Non-monotonie générique sous $Y \to X$ : Sous le modèle $Y \to X$ avec des conditionnelles non-décalage de lieu (paramètres indépendants), le ratio de densité est non monotone sauf sur un ensemble de mesure de Lebesgue nulle dans l'espace des paramètres. Autrement dit, la monotonie est une propriété extrêmement rare (non générique) dans ce cas.
3. Impossibilité du décalage de lieu sous $X \to Y$ : Pour que les distributions conditionnelles sous $X \to Y$ forment une famille de décalage de lieu, il faudrait une coordination précise et non générique entre le mécanisme causal et la distribution d'entrée, ce qui viole le principe des mécanismes indépendants (Independent Mechanisms Principle). Par conséquent, si l'on observe un décalage de lieu, la direction est nécessairement $Y \to X$.

4. Résultats Expérimentaux

Les auteurs ont évalué DRCD sur des données synthétiques et réelles, comparé à des méthodes de l'état de l'art (LiM, MIC, MANMs, CRACK, GSF).

• Données Synthétiques :

  • DRCD est la seule méthode à maintenir une précision élevée (> 80%) sur tous les scénarios, y compris le cas difficile de $Y \to X$ avec non-décalage de lieu (variances/formes différentes).
  • Les méthodes basées sur des hypothèses restrictives (LiM, MIC, MANMs) échouent complètement dans le cas non-décalage de lieu (précision ~5-68%).
  • Les méthodes basées sur les scores (CRACK, GSF) montrent des performances variables et des erreurs d'inversion.

• Données Réelles :

  • UCI Heart Disease : DRCD et CRACK obtiennent les meilleurs résultats (3/4 corrects), mais DRCD évite les inversions de causalité (erreur de type "pas de causalité" plutôt que direction fausse).
  • Tübingen Cause-Effect Pairs : DRCD et CRACK identifient correctement 3/4 des paires. DRCD se distingue par l'absence totale d'inversions de causalité.

5. Signification et Conclusion

Cet article apporte une avancée significative dans la découverte causale pour les données mixtes :

• Généralité : Il lève l'hypothèse restrictive du "décalage de lieu" souvent utilisée dans les travaux précédents, permettant de traiter des cas réalistes où la cause discrète affecte la variance ou la forme de la variable continue.
• Robustesse Théorique : L'approche repose sur des propriétés structurelles (monotonie du ratio de densité) plutôt que sur la comparaison de scores arbitraires entre types de variables, éliminant le besoin de normalisation ad hoc.
• Identifiabilité : La preuve que la monotonie est une signature exclusive de la direction $X \to Y$ (dans le cadre générique) offre une base théorique solide pour l'inférence.

En résumé, DRCD propose une méthode robuste et théoriquement fondée pour résoudre le problème de la direction causale entre variables continues et discrètes, surpassant les méthodes existantes en termes de précision et de couverture des modèles causaux réalistes.