Résumé Technique : Des Actions aux Obligations : Une Logique de Modèle d'Action Déontique

Énoncé du Problème

La logique déontique, qui étudie les concepts normatifs tels que les obligations et les permissions, a traditionnellement eu du mal à intégrer les considérations épistémiques (ce que les agents savent ou croient) avec la modélisation dynamique des actions. Alors que des extensions comme la logique STIT traitent de l'agence et du choix, et que les logiques déontiques dynamiques évaluent les obligations par rapport aux actions, ces cadres manquent souvent de mécanismes explicites pour le raisonnement dans l'incertitude. À l'inverse, la Logique Épistémique Dynamique (DEL) et la Logique des Modèles d'Action (AML) excellent dans la modélisation des mises à jour d'information mais manquent d'outils formels pour l'évaluation normative.

Un vide critique existe dans la modélisation des scénarios où les agents doivent sélectionner des actions dans un contexte d'information incomplète pour satisfaire des contraintes normatives. Un exemple primordial est le « Puzzle des Mineurs », où l'action optimale dépend de la désirabilité des résultats pondérée par leur probabilité, un concept non naturellement capturé par les modalités déontiques standard. Les cadres existants échouent souvent à fournir une explication rationnelle des obligations conditionnelles et sensibles au contexte dans les systèmes multi-agents où les agents doivent comparer la valeur déontique attendue d'actions alternatives.

Méthodologie

L'article introduit la Logique des Modèles d'Action Déontique (DAML), un cadre modal dynamique qui synthétise la Logique des Modèles d'Action (AML) avec une sémantique « bayésienne » pour les modaux déontiques, inspirée des travaux de Lassiter. La méthodologie procède par les étapes suivantes :

1. Fondement Sémantique :

   • Le cadre utilise des Modèles de Kripke Gradués ($M = \langle W, R_i, V, f \rangle$), où une fonction de désirabilité $f: W \to \mathbb{N}$ attribue une valeur morale ou pratique à chaque monde possible.
   • Des Modèles d'Action ($U = \langle E, Q_i, pre \rangle$) sont employés pour simuler les conséquences épistémiques et physiques des actions des agents via l'opération de mise à jour par produit ($M \otimes U$).
   • Pour gérer l'incertitude, la logique définit des Sous-modèles Générés par l'Action Basés sur l'Agent. Ce sont des sous-modèles du modèle de Kripke mis à jour construits depuis la perspective d'un agent spécifique $i$ et d'une action spécifique $\alpha_i$.

2. Attente Déontique :

   • Le mécanisme central est la Fonction d'Attente Déontique ($E_i$), qui calcule la valeur déontique attendue d'une action. Cela se calcule comme la moyenne des valeurs de désirabilité ($f(w)$) de tous les mondes accessibles à l'agent $i$ au sein du sous-modèle généré par l'action, en supposant une distribution de probabilité uniforme sur les mondes accessibles.
   • Une action est jugée « meilleure » si elle produit la valeur déontique attendue la plus élevée parmi les alternatives disponibles à un point de décision.

3. Langage Logique et Sémantique :

   • Le langage $L_{DAML}$ étend l'AML avec deux nouveaux éléments :
     • Atomes d'Attente ($e^{\alpha_i}_i$) : Propositions atomiques qui sont vraies si la valeur déontique attendue de l'action $\alpha_i$ est supérieure ou égale à celle de toute autre action disponible.
     • Modalité d'Obligation ($O_i(U, \alpha_i | \phi)$) : Une modalité binaire se lisant « L'agent $i$ doit effectuer l'action $\alpha_i$ sous la condition $\phi$ ».
   • Conditions de Vérité : $O_i(U, \alpha_i | \phi)$ tient si et seulement si :
     1. $\phi$ tient après l'exécution de l'action $\alpha_i$ (condition dynamique).
     2. Le sous-modèle généré par l'action résultant de $\alpha_i$ possède la valeur déontique attendue maximale par rapport aux autres actions (condition normative).
   • Cette formulation adhère au principe STIT : l'agent « veille à ce que » le meilleur résultat attendu soit obtenu.

4. Axiomatisation :

   • L'article fournit une axiomatisation complète pour DAML. Il inclut les axiomes standards de l'AML, de nouveaux axiomes pour les atomes d'attente (E1, E2), et un ensemble d'axiomes de réduction (R1–R6).
   • Ces axiomes de réduction permettent de traduire n'importe quelle formule contenant l'opérateur déontique $O_i$ en une formule équivalente dans le langage de l'AML (sans opérateurs déontiques), facilitant les preuves de correction et de complétude.

Contributions Clés

• Intégration de la Dynamique et des Normes : DAML est le premier cadre à dériver des obligations en utilisant la machinerie de la Logique des Modèles d'Action, reliant explicitement les conséquences épistémiques des actions à leur évaluation normative.
• Sémantique Déontique Scalaire : La logique modélise les énoncés déontiques de manière scalaire, attribuant des valeurs de désirabilité aux mondes et calculant des valeurs attendues, évitant ainsi les pièges binaires « tout ou rien » de la logique déontique traditionnelle dans des environnements incertains.
• Traitement Formel des Obligations Conditionnelles : La logique introduit une définition rigoureuse des obligations conditionnelles ($O_i(\alpha_i | \phi)$) qui dépendent à la fois du résultat de l'action et de la maximisation de la valeur déontique attendue.
• Preuve de Correction et de Complétude : L'article établit que le système de preuve DAML est correct et complet par rapport à sa sémantique. Cela est réalisé en réduisant le langage déontique au langage complet connu de l'AML.

Résultats et Applications

L'article démontre le pouvoir expressif de DAML à travers deux applications principales :

1. Le Puzzle des Mineurs :

   • Le cadre modélise avec succès le scénario où un agent doit choisir entre bloquer la galerie A, bloquer la galerie B, ou ne bloquer aucune.
   • En calculant les valeurs déontiques attendues des sous-modèles résultants, DAML identifie correctement que « ne bloquer aucune galerie » est l'action obligatoire, car cela maximise le nombre attendu de vies sauvées étant donné l'ignorance de l'agent sur la localisation des mineurs. Cela contraste avec des actions qui pourraient sauver tous les mineurs si la localisation était connue, mais qui risqueraient de tous les tuer si l'on devinait incorrectement.

2. Obligation d'Informer (Scénario Multi-Agent) :

   • Un scénario complexe impliquant deux agents (Alice et Bethany) et un patient allergique est modélisé.
   • La logique capture l'asymétrie d'information : Bethany sait que le patient est allergique, tandis qu'Alice ne le sait pas.
   • DAML déduit que Bethany a l'obligation d'informer Alice ($O_b(\delta_b | \dots)$) car, conditionnellement à ce qu'Alice sache de l'allergie, Alice serait obligée d'administrer le médicament sûr. Le cadre raisonne avec succès à travers la chaîne hypothétique d'actions et de mises à jour d'information pour déterminer l'exigence normative pour l'agent informé.

Signification et Revendications

L'article revendique que DAML fournit un cadre rationnel pour la sélection d'actions dans les systèmes multi-agents régis par des normes opérant sous incertitude épistémique. Sa signification réside dans :

• Raisonnement Unifié : Il permet aux agents d'évaluer les conséquences d'actions alternatives avant leur exécution, en considérant à la fois la réduction de l'incertitude et la désirabilité normative des résultats.
• Traitement des Cas Intermédiaires : Le cadre soutient le raisonnement dans des cas où l'information est incomplète et où aucun critère unique (certitude ou résultat) n'est pleinement optimisé, une caractéristique courante dans la prise de décision réelle.
• Contribution Fondamentale : En ancrant la logique déontique dans la machinerie dynamique de l'AML, l'article offre une méthode robuste pour formaliser comment les agents devraient agir lorsqu'ils ne connaissent pas l'état complet du monde mais doivent tout de même adhérer à des contraintes normatives.

Les auteurs maintiennent un périmètre modeste, notant que le travail actuel suppose une probabilité uniforme sur les mondes accessibles et des valeurs de désirabilité objectives. Des travaux futurs sont suggérés pour inclure des mesures de probabilité explicites, des opérateurs de croyance gradués et des langages d'action plus complexes pour gérer les choix non déterministes et les obligations conflictuelles.