💬 NLP

Exploring Plan Space through Conversation: An Agentic Framework for LLM-Mediated Explanations in Planning

Cet article présente un cadre multi-agents basé sur les grands modèles de langage (LLM) permettant des explications interactives et contextuelles pour guider les utilisateurs dans le processus de planification, dont l'efficacité a été validée par une étude comparative sur la résolution de conflits d'objectifs.

Auteurs originaux : Guilhem Fouilhé, Rebecca Eifler, Antonin Poché, Sylvie Thiébaux, Nicholas Asher

Publié 2026-04-10

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Guilhem Fouilhé, Rebecca Eifler, Antonin Poché, Sylvie Thiébaux, Nicholas Asher

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

🌟 Le Concept de Base : L'Architecte et le Client

Imaginez que vous êtes un architecte (l'IA) chargé de construire la maison de vos rêves pour un client (vous, l'utilisateur).

Dans les systèmes classiques, l'architecte vous sort un plan tout fait et dit : « Voici votre maison. » Si vous n'aimez pas la cuisine ou si la chambre est trop petite, vous devez tout recommencer, et l'architecte risque de ne pas comprendre pourquoi vous n'aimez pas.

Ce papier propose une nouvelle approche : au lieu de simplement donner un plan, l'architecte devient un conversateur. Il vous demande : « Qu'est-ce qui vous plaît ? » et « Qu'est-ce qui vous dérange ? ». Si vous dites « Je veux une piscine et un terrain de tennis, mais j'ai un petit budget », l'architecte ne se contente pas de dire « C'est impossible ». Il vous explique : « Si on met la piscine, on ne peut pas avoir le tennis avec ce budget. Mais si on réduit la taille de la piscine, on peut avoir les deux. »

L'objectif n'est pas de remplacer le client, mais de l'aider à affiner ses idées pour trouver la solution parfaite ensemble.

🤖 Comment ça marche ? (Le Système des "Agents")

Pour rendre cette conversation fluide, les chercheurs ont créé une petite équipe de robots (des agents) qui travaillent ensemble. Imaginez un restaurant très efficace :

Le Serveur (Traducteur de Questions) :
Vous arrivez et vous dites : « Je veux manger quelque chose de sain mais pas trop cher ». Le serveur ne parle pas le langage des cuisiniers (l'ordinateur). Il traduit votre phrase en langage technique : « Commande : Plat sain, Prix < 15€ ». Il identifie aussi si vous posez une question simple ou si vous voulez modifier la commande.
Le Chef de Cuisine (Le Planificateur) :
C'est le cerveau mathématique. Il prend les contraintes (sain, pas cher) et vérifie dans sa base de données s'il existe une recette possible. S'il y a un conflit (par exemple, le seul plat sain est très cher), il ne cuisine pas tout de suite. Il signale le problème.
Le Sommelier (Traducteur d'Explications) :
C'est le rôle le plus important. Si le Chef dit « Impossible, le poisson est trop cher pour ce budget », le Sommelier ne vous dit pas « Erreur de calcul ». Il vous dit : « Pour avoir du poisson, il faudrait augmenter le budget de 5€ ou choisir un plat moins cher. » Il transforme les données froides en conseils chaleureux et personnalisés.
Le Meneur de Jeu (Suggesteur de Questions) :
Parfois, vous ne savez pas quoi demander. Ce robot vous suggère : « Avez-vous pensé à vérifier si on peut avoir le dessert en plus ? » ou « Voulez-vous voir ce qui se passe si on enlève le vin ? ». Cela vous aide à explorer toutes les possibilités sans avoir à deviner.

🧩 L'Analogie du "Puzzle Impossible"

Le papier se concentre sur un problème spécifique : les conflits d'objectifs.

Imaginez que vous avez un puzzle avec des pièces qui ne rentrent pas toutes ensemble.

L'approche ancienne (Template-based) : Le système vous donne une liste de questions pré-écrites comme « Pourquoi ça ne marche pas ? » avec des réponses toutes faites. C'est rigide, comme un formulaire administratif.
L'approche nouvelle (LLM-based) : Vous pouvez poser la question comme vous voulez. « Est-ce que je peux avoir la pièce bleue et la rouge ensemble ? » ou « Pourquoi la pièce verte bloque-tout ? ».

Le système utilise une Intelligence Artificielle Générative (LLM) pour comprendre votre question, même si elle est mal formulée, et pour vous répondre de manière naturelle, comme un humain.

📊 Ce qu'ils ont découvert (L'Expérience)

Les chercheurs ont testé leur système avec de vrais humains (des parents devant organiser leur après-midi : faire les courses, cuisiner, emmener les enfants au sport, etc.).

Le résultat : Les gens qui utilisaient le système de conversation (avec l'IA) ont trouvé de meilleures solutions plus rapidement que ceux qui utilisaient les vieux menus à choix multiples.
L'effet psychologique : Les utilisateurs se sentaient plus en confiance. Ils comprenaient pourquoi certaines combinaisons étaient impossibles et comment les résoudre. C'était moins frustrant.
La conversation : Les gens posaient moins de questions "bêtes" parce que le système leur suggérait les bonnes questions à se poser.

💡 En résumé

Ce papier nous dit que pour que l'IA soit vraiment utile dans des tâches complexes (comme planifier un voyage, gérer un projet ou organiser une famille), elle ne doit pas être un distributeur automatique qui donne des réponses toutes faites. Elle doit être un partenaire de discussion.

En utilisant des agents intelligents pour traduire nos mots en maths, et les maths en conseils clairs, on transforme une tâche technique et stressante en une conversation constructive. C'est comme passer d'un manuel d'instructions illisible à un ami qui vous aide à monter votre meuble IKEA en vous expliquant pourquoi la vis ne rentre pas, plutôt que de vous dire « Erreur 404 ».

1. Problématique

L'automatisation de la génération de plans pour des problèmes de décision séquentiels réels ne vise pas toujours à remplacer le planificateur humain, mais à faciliter un processus itératif de raisonnement et d'élicitation des préférences. Dans ce contexte, les explications statiques sont souvent insuffisantes pour aider l'utilisateur à comprendre les compromis (trade-offs) et les conflits entre les objectifs.

Le défi principal réside dans la création d'une interface capable de gérer des explications conversationnelles interactives : l'utilisateur doit pouvoir poser des questions en langage naturel, suivre des explications, et affiner ses demandes. Cependant, les grands modèles de langage (LLM) seuls ne sont pas fiables pour effectuer des tâches de planification complexes (comme le prouvent des études empiriques et théoriques sur les limites des architectures Transformer). Il est donc nécessaire de combiner la capacité de compréhension et de traduction du langage naturel des LLM avec la rigueur algorithmique des planificateurs formels.

2. Méthodologie

Les auteurs proposent un framework multi-agents où les LLM agissent comme des traducteurs et des facilitateurs, tandis que les agents de calcul (planificateurs et solveurs de conflits) gèrent la logique formelle.

Architecture Globale

Le système repose sur une architecture modulaire (illustrée par la Figure 1 du papier) :

Agents LLM : Ils gèrent l'interaction utilisateur, la classification des questions, la traduction du langage naturel vers le langage formel, et la génération de réponses.
Agents de Calcul : Ils exécutent le planificateur et le framework d'explication (EFCC) basé sur des algorithmes formels.

Composants Clés

Traducteur de Questions ( $T_Q$ ) :
- Classifie le type de question de l'utilisateur (ex: "Pourquoi ?", "Comment ?", "Est-ce possible ?").
- Identifie les arguments (les objectifs concernés).
- Route la requête vers le bon module (réponse directe, demande d'explication formelle, ou question de suivi).
Traducteur d'Objectifs ( $T_G$ ) :
- Traduit les descriptions d'objectifs en langage naturel vers des formules logiques temporelles (LTLf - Linear Temporal Logic on finite traces) compréhensibles par le planificateur.
Suggesteur de Questions ( $S_Q$ ) :
- Génère des exemples de questions pertinentes pour guider l'utilisateur et réduire la charge cognitive, en fonction de l'état actuel du plan (solvable ou non).
Traducteur d'Explications ( $T_E$ ) :
- Convertit les explications formelles (ensembles de conflits ou de corrections) en langage naturel fluide, adapté au contexte et au niveau de détail souhaité par l'utilisateur.
Framework d'Explication (EFCC) :
- Utilise des concepts formels de planification en surcharge (oversubscription planning) :
  - MUS (Minimal Unsolvable Subset) : Ensembles minimaux d'objectifs incompatibles.
  - MCS (Minimal Correction Set) : Ensembles minimaux d'objectifs à retirer pour rendre le problème solvable.
- Supporte plusieurs types de questions : US-why (pourquoi insoluble ?), US-how (comment rendre soluble ?), S-why-not (pourquoi un objectif n'est-il pas satisfait ?), S-how (comment satisfaire un objectif ?), etc.

Processus Itératif

L'utilisateur définit un ensemble d'objectifs de référence ( $G_{ref}$ ) et un sous-ensemble d'objectifs imposés ( $G_{enf}$ ). Le système calcule un plan. Si le plan est insoluble ou si l'utilisateur souhaite explorer d'autres options, il pose des questions. Le système traduit la question, interroge le framework EFCC pour obtenir une explication formelle (basée sur les MUS/MCS), puis la reformule en langage naturel pour l'utilisateur.

3. Contributions Principales

Formalisation d'un Framework Itératif : Définition d'un processus de planification itératif guidé par le langage naturel, intégrant des étapes de traduction, de suggestion et d'explication.
Extension des Explications de Conflits : Élargissement du cadre d'explication (EFCC) au-delà des simples questions "Pourquoi pas ?" pour inclure des questions "Comment ?", "Et si ?", et "Est-ce possible ?", couvrant à la fois les états solubles et insolubles.
Implémentation Multi-Agents LLM : Conception d'une architecture où différents agents LLM (avec des rôles spécialisés : traducteur, classifieur, suggesteur) collaborent pour surmonter les limites des LLM seuls en matière de raisonnement complexe.
Validation Empirique : Réalisation d'une étude utilisateur comparative entre une interface basée sur des modèles LLM et une interface basée sur des modèles (templates) statiques.

4. Résultats de l'Étude Utilisateur

Une étude a été menée avec 131 participants (non-experts) sur une tâche de planification complexe ("Planification de l'après-midi d'un parent"). Les participants étaient répartis en deux groupes :

Groupe $G_{TPL}$ (Contrôle) : Interface basée sur des modèles (templates) avec des questions prédéfinies.
Groupe $G_{LLM}$ : Interface conversationnelle basée sur les LLM (questions libres ou suggérées).

Résultats Quantitatifs et Qualitatifs :

Utilité Maximale : Le groupe $G_{LLM}$ a atteint une utilité moyenne légèrement supérieure (20,8 vs 20,5) avec un nombre d'itérations similaire, bien que la différence ne soit pas statistiquement significative (p-value > 0,05) en raison de la variance.
Efficacité des Questions : Les utilisateurs du groupe $G_{LLM}$ ont posé significativement moins de questions (11,4 en moyenne) que le groupe $G_{TPL}$ (22,8 en moyenne), mais ces questions étaient plus riches et ont généré un nombre équivalent de requêtes internes au système d'explication grâce à la capacité du traducteur LLM à décomposer les questions complexes.
Préférence Utilisateur : Les scores de satisfaction et de perception de la difficulté étaient significativement meilleurs pour le groupe $G_{LLM}$ . Les utilisateurs ont rapporté que l'interface conversationnelle les aidait davantage à améliorer leurs plans et à réduire la difficulté perçue.
Adoption des Suggestions : 61,7 % des questions posées par le groupe $G_{LLM}$ provenaient des suggestions du système, indiquant une forte adoption de l'assistance proactive.
Qualité des Dialogues : L'analyse des actes de dialogue montre que les utilisateurs s'engagent dans des conversations de suivi, prouvant que l'interface favorise une exploration plus profonde de l'espace des plans.

5. Signification et Impact

Ce travail démontre que l'intégration des LLM dans les systèmes de planification ne doit pas viser à remplacer les algorithmes de planification, mais à agir comme une couche d'abstraction conversationnelle indispensable pour les utilisateurs non-experts.

Réduction de la Charge Cognitive : En permettant des questions en langage naturel et en suggérant des interrogations pertinentes, le système rend la planification complexe accessible.
Confiance et Compréhension : Les explications interactives et contextuelles améliorent la confiance de l'utilisateur dans le système et sa compréhension des compromis inhérents aux problèmes de décision.
Futur de l'IA Explicable (XAI) : L'article valide l'approche "Hybride" (LLM + Algorithmes formels) comme voie prometteuse pour les systèmes d'IA explicable, en particulier pour les tâches où la rigueur logique est critique mais où l'interface utilisateur doit être fluide et naturelle.

En conclusion, l'approche proposée transforme la planification d'un processus technique en un dialogue collaboratif, permettant aux humains de guider efficacement l'IA vers des solutions satisfaisantes tout en comprenant les raisons des contraintes et des échecs.