Choosing with unknown causal information: Action-outcome probabilities for decision making can be grounded in causal models

1. Énoncé du problème

L'article comble une lacune fondamentale dans la théorie de la décision concernant l'origine des probabilités action-résultat.

• Contexte : La théorie classique de la décision (von Neumann-Morgenstern et Savage) fournit un critère formel pour le choix rationnel : Maximiser l'Utilité Espérée (MUE). Cependant, ces cadres reposent sur des informations associatives (probabilistes) sans spécifier la source des probabilités utilisées.
• La lacune : Bien que les humains raisonnent naturellement de manière causale (distinguant l'observation d'un événement de l'intervention pour le provoquer), la théorie de la décision standard traite souvent les probabilités comme de simples associations statistiques.
• Le défi :
  1. Comment formaliser la prise de décision lorsque l'information causale est connue (déjà abordé par Judea Pearl).
  2. Comment formaliser la prise de décision lorsque le mécanisme causal contrôlant l'environnement est inconnu de l'agent rationnel.
  3. Comment ancrer les probabilités requises pour la MUE dans des modèles causaux plutôt que dans de simples données observationnelles, spécifiquement dans les cas de connaissance causale incomplète.

2. Méthodologie et cadre théorique

Les auteurs établissent un pont entre la Théorie Classique de la Décision et l'Inférence Causale (spécifiquement les Modèles Graphiques Causaux de Pearl).

A. Définitions fondamentales

• Environnement Causal : Défini comme un environnement incertain $(\Omega, A, C, E)$ augmenté d'un Modèle Graphique Causal (MGC) $G$. Le MGC encode les relations causales entre les actions ($A$) et les conséquences ($C$), ainsi que d'autres variables environnementales.
• Intervention ($do(\cdot)$) : Le mécanisme central distinguant les modèles causaux des modèles associatifs. Une action $a$ est modélisée comme une intervention $do(a)$, qui modifie la distribution conjointe des variables en fixant la valeur d'une variable et en supprimant les arêtes entrantes vers ce nœud dans le graphe.
• Problème de Décision Causal (PDC) : Un tuple $(\Omega, A, G, E, C, \succeq)$ où le décideur choisit une action pour maximiser l'utilité basée sur le modèle causal.

B. Approche théorique

L'article procède en deux étapes théoriques principales :

1. Examen des informations causales connues : Il reconnaît le résultat de Pearl (2009) où un agent rationnel disposant d'un modèle causal connu $G$ choisit l'action $a^*$ pour maximiser $\sum P_G(c | do(a))u(c)$.
2. Extension aux informations causales inconnues : La contribution méthodologique centrale consiste à étendre cela aux scénarios où l'agent ne connaît pas le vrai modèle causal $G$.
   • Hypothèse : Un agent rationnel avec une structure causale inconnue détient des croyances subjectives sur une famille de structures causales possibles ($\mathcal{F}$).
   • Mécanisme : L'agent traite chaque structure causale possible $g \in \mathcal{F}$ comme une vérité potentielle, calcule l'utilité espérée au sein de cette structure en utilisant l'opérateur $do$, puis agrège ces utilités pondérées par la probabilité que l'agent attribue à chaque structure.

3. Contributions clés

A. Théorème 4.2 : Prise de décision avec des modèles causaux inconnus

La contribution théorique principale de l'article est le Théorème 4.2, qui fournit un théorème de représentation pour la prise de décision rationnelle sous information causale inconnue.

• Énoncé : Une relation de préférence $\succeq$ sur les actions dans un Problème de Décision Causal fini et borné est rationnelle si et seulement s'il existe :

  1. Une fonction d'utilité $u: C \to \mathbb{R}$.
  2. Une distribution de probabilité $P_C$ sur une famille non vide de modèles graphiques causaux $\mathcal{F}$.

• Règle de décision : L'agent choisit l'action $a$ plutôt que $b$ si et seulement si :
  $$\sum_{c \in C} u(c) \left( \sum_{g \in \mathcal{F}} P_g(c | do(a)) P_C(g) \right) \geq \sum_{c \in C} u(c) \left( \sum_{g \in \mathcal{F}} P_g(c | do(b)) P_C(g) \right)$$
  Où :

  • $P_C(g)$ est la croyance subjective de l'agent que la structure causale $g$ est le vrai modèle.
  • $P_g(c | do(a))$ est la probabilité de la conséquence $c$ étant donné l'intervention $do(a)$ au sein du modèle causal spécifique $g$.

• Signification : Cela prouve que les probabilités action-résultat peuvent être ancrées dans des modèles causaux même lorsque le mécanisme causal spécifique est inconnu. La « probabilité » utilisée dans le calcul de l'utilité espérée est une distribution de mélange sur les structures causales.

B. Définition de l'Équilibre de Nash Causal

Les auteurs appliquent le Théorème 4.2 à la Théorie des Jeux pour définir un Équilibre de Nash Causal.

• Contexte : Dans un jeu stratégique bayésien, les joueurs ont une information incomplète sur le vrai modèle causal $\omega$ régissant l'environnement.
• Définition : Un profil d'actions $a^*$ est un Équilibre de Nash Causal si aucun joueur $i$ ne peut améliorer son Utilité Espérée Causale ($u^C_i$) en changeant unilatéralement son action, étant données ses croyances sur la structure causale et les actions des autres.
• Formule :
  $$u^C_i(a) = \sum_{c \in C} u_i(c) \sum_{\omega \in \Omega} P^\omega_i(c | do(a_i), a_{-i}) P_i(\omega)$$
  Cette formulation intègre explicitement l'opérateur $do$, la distinguant des Équilibres de Nash standards qui reposent sur des probabilités conditionnelles $P(c | a_i, a_{-i})$.

4. Résultats

1. Ancrage formel : L'article démontre avec succès que les probabilités requises pour le Principe d'Utilité Espérée peuvent être dérivées de modèles causaux, résolvant le débat sur l'« origine » de ces probabilités.
2. Généralisation : Le résultat généralise le critère de modèle causal connu de Pearl au scénario plus réaliste de mécanismes causaux inconnus.
3. Implémentabilité computationnelle : Le cadre fournit un critère implémentable computationnellement. Un agent peut apprendre une distribution sur les structures causales (par exemple, via des algorithmes d'apprentissage de structure) et utiliser la formule dérivée pour prendre des décisions optimales.
4. Extension en théorie des jeux : L'article établit que des concepts standards de la théorie des jeux comme l'Équilibre de Nash peuvent être rigoureusement étendus aux environnements où les agents raisonnent de manière causale plutôt qu'associative.

5. Signification et implications

• Pont entre l'IA et la philosophie : Ce travail connecte le débat philosophique entre la Théorie de la Décision Causale (CDT) et la Théorie de la Décision Évidentielle (EDT) avec l'apprentissage automatique pratique et la prise de décision en IA. Il fournit une justification mathématique pour que les agents utilisent le raisonnement causal.
• Robustesse aux changements de distribution : En ancrant les décisions dans des mécanismes causaux (interventions) plutôt que dans des corrélations, le cadre est théoriquement plus robuste aux changements de l'environnement (changements de distribution) où les modèles purement associatifs échoueraient.
• IA centrée sur l'humain : Puisque les humains utilisent naturellement le raisonnement causal (et ont tendance à ignorer les informations purement probabilistes en faveur d'explications causales), ce cadre offre une base plus « compatible avec l'humain » pour concevoir des agents d'IA rationnels.
• Interaction stratégique : L'introduction de l'Équilibre de Nash Causal ouvre de nouvelles voies pour analyser les interactions stratégiques en économie et dans les systèmes multi-agents où les dynamiques causales sous-jacentes sont incertaines.

Conclusion

L'article soutient que la prise de décision rationnelle dans l'incertitude est fondamentalement un processus causal. En étendant le Principe d'Utilité Espérée pour inclure une distribution sur les modèles causaux, les auteurs fournissent une fondation mathématique rigoureuse pour la prise de décision lorsque les mécanismes causaux sont inconnus, garantissant que les probabilités action-résultat sont ancrées dans la réalité structurelle de l'environnement plutôt que dans de simples associations statistiques.