Imaginez que vous essayiez de prédire l'avenir ou de faire un choix intelligent, comme décider d'apporter un parapluie ou de prendre un médicament. Pour ce faire, vous avez besoin de deux types d'informations différents. Premièrement, vous devez savoir comment le monde fonctionne : s'il pleut, le sol devient mouillé. C'est le domaine de la causalité, où les scientifiques utilisent des cartes appelées « graphes » pour dessiner des flèches montrant comment une chose en cause une autre. Une règle célèbre dans ce domaine, la Condition de Markov Causale, stipule que si vous connaissez les causes directes d'un événement, vous n'avez pas besoin de connaître le passé lointain pour prédire ce qui va se passer ensuite ; les causes immédiates « font écran » au reste de l'histoire.

Deuxièmement, vous devez savoir ce que vous voulez. C'est le domaine de la valeur ou de l'utilité. C'est votre propre système de notation : être mouillé est mauvais (valeur faible), rester au sec est bon (valeur élevée). Traditionnellement, les scientifiques ont traité ces deux mondes séparément. Les règles pour prédire la pluie sont strictes et mathématiques, mais les règles de ce que vous aimez sont considérées comme purement personnelles et désordonnées. Le vieux dicton dit : « On ne discute pas des goûts et des couleurs ». Si vous avez un réseau complexe de préférences, la vision classique veut que votre « carte de valeur » capture toute cette complexité, aussi emmêlée soit-elle. Mais et si vos goûts n'étaient pas simplement aléatoires ? Et si les choses auxquelles vous accordez de la valeur étaient en fait façonnées par la manière dont le monde fonctionne ?

Cet article, intitulé « A Causal Markov Condition for Value », pose une question audacieuse : peut-on appliquer les règles strictes et logiques de la causalité à nos valeurs personnelles ? L'auteur, Olav Benjamin Vassend, propose une nouvelle règle appelée la condition de Markov causale de la valeur (v-CMC). Voyez cela comme un pont entre le « comment » du monde et le « pourquoi » de nos choix. L'article soutient que si vous croyez qu'une pilule guérit un mal de tête, votre bonheur résultant de la prise de cette pilule doit dépendre du fait que vous avez réellement un mal de tête. Si vous découvrez plus tard que la pilule n'a aucun effet (aucun effet causal), votre bonheur ne devrait plus dépendre du mal de tête. L'article ne se contente pas de suggérer que c'est une idée intéressante ; il construit un cadre mathématique complet pour prouver que cette connexion est logique, cohérente et incroyablement utile pour simplifier les décisions complexes.

L'histoire de la rivière en amont

Pour comprendre la découverte principale de cet article, imaginez une rivière. Dans le monde de la probabilité (prédire l'avenir), l'information circule en aval. Si vous connaissez la source (la cause), vous pouvez prédire le niveau de l'eau au barrage (l'effet). La célèbre Condition de Markov Causale nous dit qu'une fois que vous connaissez le niveau de l'eau juste au niveau du barrage, vous n'avez pas besoin de connaître la pluie qui est tombée il y a trois jours pour prédire le niveau de l'eau dans cinq minutes. La cause immédiate fait écran au passé lointain.

L'article renverse cette rivière. Il soutient que dans le monde de la valeur (ce qui nous importe), l'information circule en amont. Si vous vous tenez au barrage (l'effet), votre bonheur dépend du niveau de l'eau. Mais voici le tournant : l'article suggère qu'une fois que vous connaissez les effets immédiats de votre action, les causes lointaines n'importent plus pour votre jugement de valeur.

Utilisons une pilule contre le mal de tête comme personnage principal.

• La vieille vision : Votre bonheur lié à la prise d'une pilule est un énorme nœud emmêlé. Il dépend de si vous avez un mal de tête, si vous faites confiance au médecin, s'il pleut dehors, et peut-être même de votre couleur préférée. Si vous aimez la pilule, vous l'aimez pour toutes ces raisons à la fois.
• La nouvelle vision (v-CMC) : L'article dit : « Attendez un instant ». Si la pilule fonctionne, votre bonheur dépend de la disparition du mal de tête. Si la pilule ne fonctionne pas (elle n'a aucun effet causal), alors votre bonheur ne devrait pas se soucier du mal de tête. L'article prouve que votre « carte de valeur » doit être structurée comme une carte causale, mais fonctionnant en sens inverse. Les choses qui se passent après votre action (les enfants dans le graphe) sont les seules qui comptent pour votre satisfaction immédiate. Tout le reste (les non-ancêtres) est filtré par l'écran.

La magie des Lego modulaires

La partie la plus excitante de cet article est la façon dont il résout un énorme casse-tête pour les décideurs : mettre à jour votre esprit lorsque le monde change.

Imaginez que vous construisez un immense château avec des briques Lego. Dans l'ancienne façon de penser, si vous réalisiez qu'une brique était en fait d'une couleur différente, vous pourriez devoir reconstruire tout le château car les couleurs étaient toutes mélangées dans un tas confus. Vous ne pouviez pas simplement remplacer une pièce sans briser toute la structure.

La v-CMC transforme votre système de valeurs en un ensemble de briques Lego modulaires. Parce que l'article prouve que vos valeurs peuvent être décomposées en petites pièces locales (comme « à quel point j'aime le soulagement des symptômes » par rapport à « à quel point j'aime éviter les effets secondaires »), vous pouvez remplacer une seule pièce si votre compréhension du monde change.

Voici un exemple concret tiré de l'article concernant les antibiotiques :

• Scénario : Un médecin décide de donner un antibiotique à un patient. Le médecin sait que l'antibiotique provoque un « Soulagement des symptômes » et des « Réactions indésirables ». Ces éléments affectent, à leur tour, la « Durée de séjour » et le « Bien-être du patient ».
• Le problème : Le médecin sait également que le patient présente un « Facteur de risque » (comme une allergie spécifique). Dans l'ancienne vision, le médecin pourrait penser : « Je dois calculer la valeur de l'antibiotique en fonction du facteur de risque, du soulagement des symptômes, de la réaction indésirable, de la durée de séjour et du bien-être, tout cela en même temps. » C'est un calcul massif et confus.
• La solution v-CMC : L'article dit : « Non, vous n'avez pas besoin de tout cela. » Une fois que vous connaissez le Soulagement des symptômes et la Réaction indésirable (les enfants directs de l'antibiotique), le Facteur de risque devient non pertinent pour votre jugement de valeur immédiat de la pilule. Le Facteur de risque n'est important que parce qu'il influence la probabilité de la Réaction indésirable. Mais une fois que vous savez que la réaction s'est produite (ou non), le Facteur de risque sort de l'équation de la valeur.

Cela permet une récursion de type Bellman, ce qui est une façon sophistiquée de dire que l'article a trouvé un raccourci. Tout comme un personnage de jeu vidéo peut calculer son score étape par étape (points actuels + points futurs), l'article montre que vous pouvez calculer la valeur totale en additionnant de petites contributions locales. Vous n'avez pas besoin de simuler l'univers entier ; vous avez juste besoin de connaître la valeur de l'étape suivante immédiate.

Ce que cela signifie pour vous

L'article ne se contente pas de rester dans un livre de mathématiques ; il offre une nouvelle façon de construire des diagrammes d'influence. Ce sont des cartes qui aident les ordinateurs et les humains à prendre des décisions. Les auteurs présentent un algorithme capable de construire automatiquement ces cartes basées sur la structure causale d'un problème. Si vous êtes une IA essayant d'apprendre ce qu'un humain aime (Apprentissage par renforcement inverse), ou un médecin essayant de mettre à jour un plan de traitement lorsque de nouvelles preuves médicales arrivent, ce cadre vous indique exactement quelles parties de votre « formule de bonheur » doivent changer et quelles parties peuvent rester les mêmes.

Par exemple, si vous découvrez qu'un certain médicament ne cause pas un effet secondaire que vous pensiez existant, vous n'avez pas besoin de réévaluer l'ensemble de vos préférences de vie. Vous mettez simplement à jour la petite brique locale qui relie le médicament à cet effet secondaire. Le reste de votre système de valeurs demeure stable et intact.

L'essentiel

L'article prouve que la causalité et la valeur sont les deux faces d'une même pièce, mais qu'elles circulent dans des directions opposées. Alors que la probabilité circule des causes vers les effets, la valeur circule des effets vers les causes. En acceptant cela, nous pouvons décomposer les préférences humaines complexes et désordonnées en pièces logiques et propres, faciles à comprendre, à mettre à jour et à transférer.

Les auteurs sont très confiants dans leurs mathématiques. Ils n'ont pas seulement deviné ; ils ont prouvé que trois manières différentes d'énoncer cette règle (locale, globale et par décomposition) sont exactement la même chose. Ils ont également prouvé que leur méthode est « saine et complète », ce qui signifie qu'elle capture chaque relation de valeur possible qui respecte les règles et rien d'autre. Bien qu'ils reconnaissent qu'il s'agit d'un cadre théorique et que les préférences humaines réelles puissent être encore plus complexes, ils ont posé un fondement solide et rigoureux pour un nouveau domaine : la Théorie de la Valeur Causale. Cela suggère que la prochaine fois que vous prendrez une décision, vous ne suivrez pas seulement un caprice aléatoire ; vous suivrez une carte causale cachée qui peut être dessinée, comprise et améliorée.