An Explanation-oriented Inquiry Dialogue Game for Expert Collaborative Recommendations

Cet article présente un jeu de dialogue d'enquête orienté vers l'explication, conçu pour faciliter les recommandations collaboratives et explicables entre des experts médicaux possédant des bases de connaissances diverses, lequel a été implémenté sous forme de prototype et validé par une étude utilisateur confirmant son efficacité à répondre aux besoins de collaboration des experts.

L'essentiel

Imaginez un groupe de médecins tentant de résoudre un mystère médical. Dans le monde réel, ils pourraient s'asseoir autour d'une table, émettre des idées, argumenter et finir par s'accorder sur un diagnostic. Mais si vous leur demandiez : « Pourquoi avez-vous décidé de cela ? », ils pourraient avoir du mal à expliquer exactement comment ils en sont arrivés là, ou ils pourraient omettre les étapes intermédiaires confuses de leur raisonnement.

Ce document présente une nouvelle façon pour les experts (humains ou informatiques) de communiquer entre eux. Voyez cela comme un « Jeu de société pour le brainstorming » appelé l'Experts' Dialogue Game (EDG).

Voici comment cela fonctionne, décomposé en concepts simples :

1. Le Problème : La « Boîte Noire » de l'expertise

Habituellement, lorsque des experts collaborent, ils partagent simplement leurs conclusions finales. Si un système informatique tente d'aider les médecins, il se contente souvent de dire : « La réponse est X ». Mais les médecins (et les patients) veulent savoir pourquoi. Ils veulent voir la trace de miettes de pain qui a mené à cette réponse.

Les auteurs ont voulu construire un système où le processus de pensée est aussi important que le résultat. Ils voulaient s'assurer que chaque fois qu'un expert fait une affirmation, il soit obligé de montrer son travail, tout comme un élève en classe de mathématiques.

2. La Solution : Un Chat à Règles Établies

Les auteurs ont créé un ensemble de règles strictes sur la manière dont ces experts peuvent communiquer. Imaginez un salon de discussion, mais au lieu d'une saisie libre, vous ne pouvez choisir que dans un menu spécifique de « coups », comme dans une partie d'échecs.

• Les Coups : Au lieu de simplement dire « Je pense que c'est une dépression », un médecin doit sélectionner un type de coup spécifique :

  • Le coup « Montre-moi » : « Peux-tu expliquer pourquoi tu penses cela ? »
  • Le coup « Prouve-le » : « Peux-tu justifier cela avec des preuves ? »
  • Le coup « Clarifie » : « Que veux-tu dire par ce mot ? »
  • Le coup « Je suis d'accord » : « Je vois ton point de vue, je suis partant. »
  • Le coup « Je retire ce que j'ai dit » : « En fait, je me suis trompé sur ce point. »

• La Magie : Le système force les experts à utiliser ces coups d'« explication ». Si quelqu'un fait une affirmation, le jeu ne lui permet pas de passer au sujet suivant tant que les autres n'ont pas demandé (et reçu) une explication ou une justification. Cela crée une « trace » riche ou une carte détaillée de la manière exacte dont le groupe est parvenu à sa conclusion.

3. L'Analogie : La Brigade de Détectives

Imaginez les experts comme une brigade de détectives résolvant un crime.

• L'ancienne méthode : Le détective A dit : « Le majordome l'a fait. » Le détective B dit : « D'accord, je suis d'accord. » Ils ont terminé.
• La méthode EDG : Le détective A dit : « Le majordome l'a fait. » Le détective B demande immédiatement : « Peux-tu justifier cela ? » Le détective A doit alors répondre : « Parce qu'il tenait l'arme. » Le détective C demande ensuite : « Peux-tu expliquer pourquoi l'arme prouve cela ? » Le détective A répond : « Parce que l'arme correspond à la balle. »

En les forçant à demander « Pourquoi ? » et « Comment ? », le jeu garantit que le verdict final n'est pas une simple supposition ; c'est une conclusion construite sur une base solide de raisonnement partagé.

4. L'Expérience : Tester le Jeu

Les auteurs ont construit un prototype d'application web (comme un outil de chat simple) et l'ont testé avec des étudiants en médecine à Barcelone. Ils leur ont présenté le cas d'un faux patient et ont réparti l'historique médical du patient entre eux. Ils devaient utiliser le « jeu » pour trouver le diagnostic.

Ce qu'ils ont découvert :

• Cela a fonctionné : Les étudiants ont été capables de collaborer et de parvenir à une décision.
• Cela semblait naturel : Même si les règles étaient strictes, les étudiants ont estimé que cela les aidait à mieux communiquer. Un étudiant a noté que, dans la vie réelle, demander « Pourquoi ? » peut paraître impoli, mais que dans le jeu, cela ressemblait simplement à « faire son travail ».
• Cela a aidé l'apprentissage : Parce qu'ils devaient expliquer leur raisonnement, ils ont appris les uns des autres grâce à leurs différentes perspectives.
• Le problème du « Tour de rôle » : Le jeu exigeait qu'ils prennent tour à tour la parole. Certains étudiants ont estimé que cela les ralentissait ou leur faisait oublier leurs idées en attendant leur tour, suggérant que dans le monde réel, un flux plus flexible serait préférable.

5. La Grande Conclusion

Le point principal de ce document est que l'explicabilité (être capable d'expliquer pourquoi une décision a été prise) ne devrait pas être un simple ajout à la fin. Elle devrait être intégrée dans la manière même dont les experts communiquent entre eux.

En transformant la collaboration en un « jeu » structuré avec des règles spécifiques pour poser des questions et donner des réponses, les auteurs ont créé un système qui :

1. Force les experts à être clairs et honnêtes dans leur raisonnement.
2. Crée un enregistrement permanent de comment une décision a été prise.
3. Renforce la confiance, car tout le monde peut voir la logique derrière la recommandation finale.

En résumé, ils ont transformé une séance de brainstorming chaotique en une conversation structurée, transparente et éducative.

Résumé technique

Résumé Technique : Un jeu de dialogue orienté vers l'explication pour les recommandations collaboratives d'experts

Énoncé du problème
L'article traite du défi de la conception de systèmes multi-agents (SMA) collaboratifs où des experts humains et artificiels doivent générer conjointement des recommandations, particulièrement dans des domaines à enjeux élevés comme la santé. La littérature actuelle se concentre souvent sur l'explication des résultats du système aux utilisateurs humains après qu'une décision a été prise (explicabilité post-hoc). Cependant, il manque des cadres qui incorporent l'explicabilité dans le processus de raisonnement lui-même des agents. Les auteurs identifient un besoin pour un protocole de dialogue permettant aux experts possédant des bases de connaissances différentes de résoudre collaborativement les conflits, de transférer des connaissances et de générer une recommandation accompagnée d'un historique riche et traçable du processus de raisonnement. Les outils de communication existants dans le secteur de la santé (par exemple, les plateformes de messagerie) manquent souvent de protocoles structurés pour imposer l'échange de justifications et d'explications, ce qui entraîne de potentiels échecs de communication et une prise de décision opaque.

Méthodologie
Les auteurs proposent un nouveau protocole d'interaction appelé Experts' Dialogue Game (EDG). La méthodologie suit une approche de génie logiciel centrée sur l'utilisateur :

1. Analyse des besoins : Les auteurs ont mené une revue systématique de la littérature médicale et des discussions informelles avec des experts médicaux pour identifier 14 exigences pour une collaboration efficace entre experts. Celles-ci ont été classées en quatre catégories :

   • Orientée Agent : Atténuer les contraintes de communication individuelles.
   • Orientée Coopération : Promouvoir la discussion ouverte, le transfert de connaissances et le contrôle de la qualité.
   • Orientée Protocole : Assurer la communication explicite de l'historique, des points critiques, des explications et des mécanismes de résolution de conflits.
   • Orientée Implémentation : Traiter la coordination, l'enregistrement et la confidentialité.

2. Conception formelle du protocole (EDG) :

   • Type : L'EDG est défini comme un dialogue d'enquête (où l'objectif est de trouver une preuve/évidence) enrichi de forces illocutoires explicatives.
   • Locutions : Le protocole définit quatre sous-ensembles d'actes de parole (locutions) :
     • Informationnelles : observation, verdict, advise (conseiller), concern (préoccupation), assert (affirmer).
     • Requêtes : wh-explain (demander des détails), wh-justify (demander un fondement pour une position), wh-clarify (demander la définition d'un terme).
     • Réponses : explain (expliquer), justify (justifier), clarify (clarifier), agree (être d'accord), retract (rétracter).
     • Gestion : prompt (inciter), end (terminer), pass (passer la main).
   • Mécanisme : Contrairement aux dialogues d'enquête standards qui reposent fortement sur les mouvements assert, l'EDG force les participants à utiliser des locutions basées sur l'explication lorsqu'ils contestent ou soutiennent une affirmation. Cela génère des « traces plus riches » du processus de raisonnement.
   • Magasins d'engagement (Commitment Stores) : Le système maintient des magasins d'engagement individuels pour chaque agent et un Agreement Store (AS - Magasin d'Accord) collectif. L'AS n'accumule que les déclarations qui ont survécu au débat critique et qui ont reçu un accord explicite (ou une absence de contestation), garantissant que la recommandation finale est robuste.
   • Règles de politesse : Pour éviter l'incohérence, le protocole impose des règles exigeant que les wh-requests soient répondues par l'interlocuteur avant que d'autres mouvements ne soient effectués, et utilise prompt pour gérer les questions en suspens.

3. Implémentation et Évaluation :

   • Un prototype d'application web a été développé pour appliquer le protocole EDG, traduisant les locutions formelles en interfaces de langage naturel (par exemple, « Pouvez-vous justifier » pour wh-justify).
   • Une étude formative auprès des utilisateurs a été menée avec six étudiants en médecine agissant comme experts. Ils ont utilisé la plateforme pour diagnostiquer collaborativement un patient souffrant d'un trouble thyroïdien, les données des patients étant distribuées inégalement entre eux pour tester le transfert de connaissances.
   • L'étude a évalué le système par rapport aux exigences initiales et a recueilli des retours qualitatifs sur l'utilisabilité, l'efficacité et l'utilité des demandes d'explication.

Contributions clés

1. Spécification des besoins : L'article fournit une spécification de besoins ancrée dans le domaine mais abstraite, applicable au-delà de la médecine à des domaines comme l'aviation ou l'ingénierie.
2. Dialogue d'enquête orienté vers l'explication : Les auteurs introduisent un jeu de dialogue qui intègre des forces illocutoires explicatives (wh-explain, wh-justify, wh-clarify) directement dans un dialogue d'enquête. Cela déplace l'accent de la simple échange de faits vers l'échange des raisons derrière les faits, rendant le processus de raisonnement de l'agent lui-même explicable.
3. Intégration méthodologique : Le travail démontre une méthodologie consistant à importer des pratiques de génie logiciel centrées sur l'utilisateur (collecte de besoins, prototypage, évaluation formative) dans la conception de jeux de dialogue formels.
4. Validation empirique : L'article présente une étude d'utilisateurs confirmant que le jeu de dialogue répond aux besoins des experts médicaux pour la collaboration et que l'échange structuré d'explications est perçu comme précieux pour instaurer la confiance et la clarté.

Résultats

• Satisfaction des besoins : L'évaluation (Tableau 8) indique que le protocole EDG et son implémentation satisfont la majorité des exigences identifiées. Plus précisément, le protocole parvient à imposer la coopération (RC1), permet des discussions détaillées (RC3) et facilite le transfert de connaissances (RC4).
• Retours des utilisateurs :
  • Les participants ont trouvé la plateforme utile pour la communication professionnelle, notant que les demandes structurées de justification aidaient à surmonter les barrières sociales (par exemple, la peur d'être impoli en demandant une clarification).
  • La classification des demandes d'explication a été jugée globalement utile, bien que certains participants aient trouvé le terme « justifier » légèrement agressif par rapport à « expliquer ».
  • Le mécanisme de prise de tour a été perçu comme à la fois utile pour la coordination et parfois restrictif, avec des suggestions pour une gestion plus dynamique des tours.
  • La séparation des sujets de dialogue (historique, diagnostic, conseil) a été très appréciée pour son efficacité.
• Génération de traces : L'étude a confirmé que le protocole génère avec succès un magasin d'accord collectif qui reflète le consensus atteint par un raisonnement explicite, plutôt qu'une simple liste d'assertions non contestées.

Signification et Revendications
L'article affirme que l'EDG représente une étape significative vers l'Intelligence Artificielle Explicable (XAI) dans les systèmes multi-agents. En intégrant l'explication dans la phase de raisonnement plutôt que simplement dans la phase de résultat, le système produit une piste d'audit transparente de la manière dont une recommandation a été dérivée. Les auteurs déclarent modestement que, bien que le jeu de dialogue soit formellement fondé, sa véritable nouveauté réside dans son ancrage empirique dans les besoins des utilisateurs et son application à des scénarios de collaboration d'experts du monde réel.

Le travail ne prétend pas résoudre tous les problèmes de coordination multi-agents (il note, par exemple, que les garanties de terminaison au moment de l'exécution et les stratégies pour les agents non coopératifs restent des problèmes ouverts). Au lieu de cela, il positionne l'EDG comme un protocole fondamental qui peut être étendu à des systèmes hybrides humain-artificiel, offrant un moyen structuré de gérer la complexité de la prise de décision interdisciplinaire tout en maintenant l'intégrité et l'explicabilité du processus. Les auteurs concluent que de tels outils basés sur le dialogue ont une valeur réelle pour la communauté médicale, améliorant potentiellement la qualité et la transparence des diagnostics collaboratifs.