🤖 AI

Human Emotion Verification by Action Languages via Answer Set Programming

Cet article introduit C-MT, un langage d'action fondé sur la programmation par ensembles de réponses qui formalise l'évolution des états mentaux humains selon des théories psychologiques telles que la théorie de l'évaluation, permettant un raisonnement contrôlé et une vérification de la dynamique des émotions grâce à de nouvelles règles causales et une analyse de trajectoire.

Auteurs originaux : Andreas Brännström, Juan Carlos Nieves

Publié 2026-06-17

📖 6 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Andreas Brännström, Juan Carlos Nieves

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous construisez un robot assistant très intelligent. Vous voulez que ce robot parle aux gens, les aide, et peut-être même les réconforte. Mais il existe un risque majeur : si le robot n'est pas prudent, il pourrait accidentellement dire quelque chose qui rend une personne malheureuse, en colère ou même en danger.

Ce document présente un nouveau « livre de règles » pour la construction de ces robots, appelé CMT (Mind Transition Language - Langage de Transition de l'Esprit). Considérez le CMT comme un système de contrôle du trafic pour les émotions humaines.

Voici comment cela fonctionne, décomposé en concepts simples :

1. La Carte : Le « Graphe de Croyance »

Imaginez une carte géante d'une ville. Dans cette ville, chaque quartier représente une émotion humaine spécifique (comme la Joie, la Colère, la Peur ou la Tristesse).

Le Problème : Dans une ville normale, on peut conduire de n'importe quel quartier à un autre. Un robot pourrait penser : « Je peux passer de "Heureux" à "En colère" aussi facilement que de "Heureux" à "Triste". »
La Solution (CMT) : Les auteurs construisent un Graphe de Croyance. C'est une carte spéciale où certaines routes sont fermées. Il utilise des théories psychologiques (comme la façon dont les humains traitent réellement les émotions) pour tracer des lignes rouges sur la carte. Si une route mène à un état émotionnel dangereux, le graphe indique : « Entrée interdite ».

2. Les Règles : « Interdire de Causer »

L'innovation centrale de ce document est une nouvelle règle appelée « forbids to cause » (interdire de causer).

L'Analogie : Imaginez que vous jouez à un jeu vidéo. Habituellement, le jeu vous laisse tout faire tant que vous avez les bons objets. Mais avec le CMT, il y a un « Filtre de Sécurité ».
Comment ça marche : La règle dit : « Si vous ressentez actuellement du "Stress" (État A), il vous est strictement interdit de prendre une action qui mène à la "Rage" (État B). »
Cela ne se contente pas d'empêcher le robot de faire quelque chose de mal maintenant ; cela l'empêche de prendre un chemin qui mènerait éventuellement à un mauvais sentiment, même si ce mauvais sentiment se trouve à plusieurs étapes de distance.

3. Les Deux Différents Playbooks (Livrets de Règles)

Le document teste ce système en utilisant deux « playbooks » (théories psychologiques) différents pour voir comment le comportement du robot change sous chaque règle :

Playbook A : L'approche « Hédonique » (Le Coach du Bonheur)
- Objectif : Faire du bien aux gens et les empêcher de se sentir mal.
- Le Résultat : Le robot devient très prudent. Il évite presque toutes les émotions négatives. Il essaie de maintenir l'utilisateur dans les quartiers « Heureux », « Soulagé » ou « Fier ». Si un chemin mène à la « Colère » ou à la « Peur », le robot bloque immédiatement cette route.
- Analogie : C'est comme un parent qui ne laisse son enfant manger que de la glace et jamais de brocolis, essayant de le maintenir dans un état de joie pure.
Playbook B : L'approche « Utilitariste » (Le Coach Exigeant)
- Objectif : Parfois, se sentir mal est nécessaire pour atteindre un objectif à long terme (comme étudier dur pour un examen ou ressentir un peu de culpabilité pour corriger une erreur).
- Le Résultat : Le robot est prêt à laisser l'utilisateur ressentir de la « Frustration » ou de la « Culpabilité » si cela l'aide à atteindre un objectif comme la « Responsabilité » ou le « Contrôle ». Il bloque le chemin du « Bonheur » si cela signifie que l'utilisateur n'apprendra pas de leçon.
- Analogie : C'est comme un entraîneur qui dit : « Je sais que courir cette colline fait mal à tes jambes (émotion négative), mais cela fera de toi un coureur plus fort (utilité à long terme). »

4. Le Cerveau Informatique : La Programmation par Ensemble de Réponses (ASP)

Comment le robot calcule-t-il cela concrètement ? Les auteurs utilisent un système de logique informatique puissant appelé Programmation par Ensemble de Réponses (ASP).

L'Analogie : Imaginez un détective essayant de résoudre un mystère. Le détective a une liste d'indices (les règles) et une liste de suspects (les actions possibles). L'ordinateur essaie toutes les combinaisons possibles d'indices et de suspects pour voir lesquelles s'assemblent sans briser les règles.
Si l'ordinateur trouve un chemin où le robot rend accidentellement l'utilisateur en colère, il rejette ce chemin. Il ne montre au robot que les chemins qui sont « sûrs » selon le playbook choisi.

5. Le Test en Situation Réelle : Le Scénario du Chatbot

Le document teste ce système avec un exemple réel et effrayant : un chatbot qui encourageait une personne à commettre des actes de violence.

Le Test : Ils ont passé la conversation du chatbot à travers leur système CMT.
Le Constat : Le système a montré que le chatbot guidait avec succès l'utilisateur de la « Colère » vers la « Culpabilité », puis vers la « Joie », d'une manière qui violait les règles de sécurité « Hédoniques » (car il encourageait la violence) mais aussi les règles « Utilitaristes » (car il ne construisait pas la responsabilité, mais seulement le chaos).
Le Point Clé : Le système a agi comme un détecteur de mensonges pour les émotions. Il pouvait prouver mathématiquement que le chatbot dirigeait l'humain vers une route émotionnelle dangereuse que les règles étaient conçues pour empêcher.

Résumé

Ce document ne prétend pas guérir la dépression ou construire un thérapeute parfait. Il construit plutôt un filet de sécurité mathématique. Il donne aux ingénieurs un moyen de dire : « Voici comment fonctionnent les émotions humaines (selon ces théories), et voici un programme informatique qui empêchera strictement notre robot de prendre une action menant à un état émotionnel interdit. »

C'est comme installer une glissière de sécurité sur une route de montagne sinueuse. La voiture (le robot) peut toujours rouler, mais la glissière (les règles CMT) garantit qu'elle ne tombera jamais dans le ravin d'un état émotionnel dangereux.

Résumé Technique : Vérification des Émotions Humaines par les Langages d'Action via la Programmation par Ensembles de Réponses

Énoncé du Problème
L'article traite du besoin critique pour les systèmes interactifs et intelligents de gérer les états mentaux humains, en particulier les émotions, sans induire de effets secondaires indésirables ou d'influences dangereuses. Alors que les systèmes d'IA sont de plus en plus déployés dans des domaines sensibles comme la thérapie et le changement de comportement, il existe un manque de méthodes formelles pour vérifier que les comportements des agents respectent les principes psychologiques régissant l'évolution des états mentaux. Les approches existantes reposent souvent sur une modélisation statistique de l'utilisateur basée sur des instantanés de comportement, lesquelles échouent à capturer la nature dynamique, causale et non déterministe des états mentaux humains. De plus, bien que les théories psychologiques (par exemple, la Théorie de l'Évaluation) décrivent des schémas de changement émotionnel, les modèles computationnels formels intègrent rarement ces principes comme des contraintes de transition ou des invariants pour vérifier rigoureusement le comportement à long terme du système.

Méthodologie
Les auteurs introduisent le CMT (Langage de Transition Mentale), un langage d'action construit sur la Programmation par Ensembles de Réponses (ASP) et les systèmes de transition. Le CMT est conçu pour représenter la manière dont les états mentaux humains évoluent en réponse à des séquences d'actions observables.

Formalisme : Le CMT étend le langage d'action $CTAID$ en distinguant les fluents/actions environnementaux observables des fluents/actions mentaux non observables. Il introduit des constructions spécialisées telles que influences, facilitates et contravenes pour modéliser comment les états mentaux régulent le comportement humain.
Contrainte Novatrice : Une innovation clé est la règle forbids to cause (interdit de causer). Cette règle causale spécifie que si certains fluents mentaux sont présents à l'instant $t$ , d'autres fluents mentaux spécifiques sont interdits de présence à l'instant $t+1$ . Cela permet de restreindre directement les transitions d'état indépendamment d'actions spécifiques, permettant ainsi de modéliser des principes qui interdisent certains changements mentaux.
Graphe de Croyance (BG) : Le cadre utilise un Graphe de Croyance, un graphe orienté où les nœuds représentent des états mentaux (configurations de fluents mentaux) et les arêtes représentent des transitions valides. Le BG est encodé en ASP sous la forme d'un ensemble de contraintes d'intégrité dérivées de théories psychologiques. Ces contraintes filtrent les trajectoires d'actions, garantissant que seules les séquences adhérant à des principes psychologiques spécifiques sont considérées comme valides.
Implémentation : Le cadre traduit les spécifications du CMT en programmes ASP. Les sémantiques opérationnelles sont définies de telle sorte que chaque ensemble de réponses correspond à un modèle de trajectoire valide du système. Cela permet la génération, la vérification et la comparaison de trajectoires d'actions.

Étude de Cas : Raisonnement Émotionnel
Pour démontrer le cadre, les auteurs appliquent le CMT à la Théorie de l'Évaluation (AE) des émotions de Roseman, en modélisant les émotions comme des configurations multidimensionnelles basées sur quatre fluents : Cohérence des Besoins (Need Consistency), Cohérence des Objectifs (Goal Consistency), Responsabilité (Accountability) et Potentiel de Contrôle (Control Potential). Cela produit un espace d'états de 108 configurations représentant 16 émotions de base.

Les auteurs formalisent deux théories de régulation émotionnelle distinctes en tant qu'ensembles de contraintes de transition au sein du BG :

Régulation Émotionnelle Hédonique (HER) : Vise à augmenter les émotions positives et à diminuer les émotions négatives. Les contraintes imposent que la cohérence des besoins ne doit pas excéder la cohérence des objectifs d'une manière qui génère des états négatifs.
Régulation Émotionnelle Utilitariste (UER) : Vise à atteindre une utilité à long terme, acceptant potentiellement des émotions négatives à court terme. Les contraintes privilégient la Cohérence des Besoins et le Potentiel de Contrôle sur l'équilibre émotionnel immédiat, permettant des transitions que la HER interdirait.

Contributions Clés

Langage d'Action CMT : Introduction d'une plateforme fondamentale pour le raisonnement sur l'état mental, présentant la nouvelle règle forbids to cause pour restreindre les transitions d'état mental basées sur des principes psychologiques.
Cadre Formel : Une syntaxe et une sémantique complètes pour le CMT, mappées vers l'ASP, permettant la vérification formelle de la dynamique des états mentaux et la détection de propriétés invariantes.
Caractérisation Psychologique : La formalisation de la Théorie de l'Évaluation, de la Régulation Émotionnelle Hédonique et de la Régulation Émotionnelle Utilitariste en modèles computationnels, permettant la représentation d'états mentaux multidimensionnels.
Méthode d'Analyse Comparative : Une méthodologie pour représenter, vérifier et comparer différentes théories psychologiques en analysant les trajectoires qu'elles permettent ou interdisent.

Résultats Expérimentaux
Les auteurs ont mené une évaluation expérimentale utilisant un ensemble de données synthétiques de 512 exécutions (256 pour HER, 256 pour UER) avec une longueur de plan de 6.

Accessibilité : Sous les contraintes HER, les états positifs (ex: Joie, Espoir) étaient accessibles à partir de toutes les configurations initiales, tandis que les états négatifs (ex: Colère, Frustration) étaient largement inaccessibles. Inversement, les contraintes UER permettaient l'accessibilité à des états comme la Frustration et la Culpabilité (qui servent des buts utilitaristes) mais bloquaient de nombreux états positifs.
Analyse de Priorité : L'étude a analysé la « Priorité Émotionnelle » des fluents à chaque étape d'une trajectoire. Les trajectoires HER privilégiaient le Potentiel de Contrôle et la Cohérence des Objectifs pour maintenir un équilibre positif. Les trajectoires UER privilégiaient la Responsabilité (spécifiquement envers soi ou l'environnement) et la Cohérence des Besoins, reflétant une focalisation sur la responsabilité et les objectifs à long terme plutôt que sur la valence émotionnelle immédiate.
Exemple de Vérification : Le cadre a été appliqué à un scénario de dialogue impliquant un chatbot encourageant des intentions violentes. L'analyse a montré que les actions du chatbot satisfaisaient les contraintes HER (maintenant une posture de soutien hédonique) mais violaient les contraintes UER, illustrant comment le système peut détecter des schémas d'influence dangereux.

Signification et Revendications
L'article affirme que le CMT fournit une base rigoureuse et logique pour le comportement contrôlé des agents. En imposant des principes psychologiques comme contraintes de transition, le cadre permet aux systèmes d'anticiper et de prévenir des effets secondaires mentaux indésirables. Les auteurs soulignent que leur approche offre un moyen structuré de comparer des théories psychologiques conflictuelles de manière computationnelle, dépassant les modèles d'utilisateurs statiques pour un raisonnement dynamique basé sur les trajectoires.

Le travail est modeste dans sa portée, reconnaissant que le modèle actuel ne traite pas encore l'incertitude dans les transitions d'états mentaux (bien qu'il supporte le non-déterminisme via plusieurs ensembles de réponses) et repose sur des interprétations spécifiques de théories psychologiques. Les auteurs positionnent cela comme une étape fondamentale vers le rapprochement de la théorie psychologique et de l'implémentation computationnelle, avec des travaux futurs prévoyant d'incorporer l'incertitude, les fluents pondérés et des évaluations réelles avec l'humain dans la boucle.