EchoGuard: An Agentic Framework with Knowledge-Graph Memory for Detecting Manipulative Communication in Longitudinal Dialogue

Le papier présente EchoGuard, un cadre d'IA agentique utilisant une mémoire sous forme de graphe de connaissances pour analyser les dialogues longitudinaux et détecter les communications manipulatoires afin d'aider les utilisateurs à les reconnaître grâce à des questions socratiques.

L'essentiel

🛡️ EchoGuard : Le Détective de Mémoire pour Vos Conversations

Imaginez que vous êtes dans une pièce sombre où quelqu'un vous parle. Parfois, ce que cette personne dit semble gentil, mais vous vous sentez bizarre, coupable ou confus après la conversation. Le problème ? C'est comme si votre cerveau avait une "trou de mémoire" : vous ressentez le malaise, mais vous ne pouvez pas mettre le doigt sur pourquoi. C'est ce qu'on appelle le gaslighting (ou manipulation psychologique).

Les systèmes d'intelligence artificielle actuels sont comme des caméras de sécurité : ils voient les gros mots ou les insultes, mais ils sont souvent aveugles aux chuchotements manipulateurs qui se glissent dans le temps.

C'est là qu'intervient EchoGuard.

🧠 L'Analogie du "Journal de Bord Magique"

Pour comprendre EchoGuard, oubliez les robots froids. Imaginez plutôt un journal de bord magique ou un cartographe de vos émotions.

1. Le Problème de la Mémoire (L'Oubli Catastrophique)
   Habituellement, quand on parle à une IA, elle oublie tout ce qui s'est dit il y a 10 minutes (ou 10 jours) parce que sa "mémoire" est trop petite. C'est comme essayer de retenir une histoire complexe en ne gardant que le dernier mot. Un manipulateur joue sur le long terme : il vous fait douter petit à petit sur plusieurs semaines. Une IA classique ne voit pas le tableau d'ensemble.

2. La Solution : Le Graphique de Connaissance (Le Fil d'Ariane)
   EchoGuard utilise une technologie appelée Knowledge Graph (Graphe de Connaissance).

   • L'image : Imaginez un immense tableau noir avec des post-it. Chaque post-it est un événement (une conversation, un mot dit, une émotion ressentie). Des fils relient ces post-it entre eux.
   • Comment ça marche : Quand vous racontez une conversation à EchoGuard, il ne l'écrit pas juste comme du texte. Il crée un post-it pour "Maman a dit X", un autre pour "Je me suis senti triste", et un autre pour "C'est la troisième fois cette semaine". Il relie ces points avec des fils.
   • Le résultat : Au lieu de voir une conversation isolée, l'IA voit un motif (un dessin) qui se dessine sur le tableau. Elle peut dire : "Tiens, chaque fois que cette personne dit 'Je suis déçu', vous vous sentez coupable, et cela arrive tous les mardis."

🔄 Le Cycle "Log-Analyze-Reflect" (Noter, Analyser, Réfléchir)

EchoGuard fonctionne en trois étapes simples, comme un ami très sage et très organisé :

1. Noter (Log) : Le Déballage
   Vous racontez une interaction difficile. Au lieu de juste écrire "Il m'a énervé", l'IA vous pose des questions précises pour remplir le tableau noir : "Qu'avez-vous ressenti ? (Peur, doute ?) Qu'a-t-il dit exactement ?". Cela transforme votre sentiment flou en données claires.

2. Analyser (Analyze) : La Loupe du Détective
   L'IA regarde le tableau noir (le Graphe) et cherche des motifs connus de manipulation (comme le "blâme", le "doute de soi", ou le "chantage émotionnel").

   • L'analogie : C'est comme si un détective comparait votre histoire avec un manuel de police des tactiques de manipulation. Il ne vous dit pas "Il est méchant", il dit : "Regardez, il y a un fil rouge qui relie ces trois événements. Cela ressemble à une tactique appelée 'chantage émotionnel'."

3. Réfléchir (Reflect) : Le Socrate Bienveillant
   C'est l'étape la plus importante. EchoGuard ne vous donne pas de conseils (il ne dit pas "Quittez-le !"). Au contraire, il joue le rôle de Socrate, le philosophe qui ne donne jamais la réponse, mais pose la bonne question.

   • Au lieu de dire : "C'est du gaslighting !"
   • Il demande : "Quand il a dit 'Tu exagères', qu'est-ce que cela a fait naître en vous ? Pourquoi avez-vous eu l'impression de devoir vous justifier ?"
   • Le but : Vous aider à trouver la réponse vous-même. C'est comme si l'IA vous donnait les pièces du puzzle, mais c'est vous qui assemblez l'image finale.

🛡️ Pourquoi c'est différent et important ?

• Pas de jugement, juste des faits : L'IA ne vous dit pas qui est "le méchant". Elle vous aide à voir les comportements. Cela évite que vous ne vous sentiez agressé ou défensif.
• Mémoire à long terme : Contrairement aux autres IA qui oublient, EchoGuard se souvient de tout ce qui s'est passé depuis le début de votre utilisation. Il voit l'escalade des problèmes.
• Sécurité : Il est conçu pour ne jamais vous dire quoi faire. Il vous donne les outils pour comprendre, mais c'est vous qui décidez de la suite.

🚀 En résumé

EchoGuard, c'est comme avoir un miroir intelligent pour vos relations.
Quand quelqu'un vous manipule, c'est souvent comme si on vous volait votre réalité. EchoGuard est ce petit ami robot qui garde une trace écrite, structurée et objective de tout ce qui se passe. Il ne vous sauve pas la mise à votre place ; il vous tend la main pour vous aider à retrouver votre propre boussole et à dire : "Attends, je réalise maintenant que ce que je ressens est normal, et que ce comportement n'est pas normal."

C'est une façon de transformer la technologie en un outil d'autonomisation (empowerment) plutôt qu'en un simple juge.

Résumé technique

1. Problématique et Contexte

La communication manipulatrice (ex. : gaslighting, culpabilisation, coercition émotionnelle) est omniprésente dans les interactions interpersonnelles, mais souvent difficile à identifier en temps réel par les victimes. Ce phénomène crée un "écart de conscience" (Awareness Gap) : une dissonance entre la réponse émotionnelle d'un individu et sa reconnaissance consciente de l'intention manipulatrice.

Les systèmes d'IA existants échouent à combler cet écart pour plusieurs raisons :

• Dépendance au contexte : Les classificateurs de toxicité actuels fonctionnent au niveau de l'énoncé et ne capturent pas la dynamique relationnelle à long terme.
• Nature implicite du mal : La manipulation utilise souvent des mécanismes subtils (implicatures conversationnelles, présuppositions) grammaticalement inoffensifs mais pragmatiquement coercitifs.
• Limites de la mémoire des agents : Les agents basés sur les LLM (Large Language Models) souffrent de fenêtres de contexte limitées et d'un "oubli catastrophique", rendant impossible la détection de schémas longitudinaux comme le renforcement intermittent ou l'escalade du gaslighting.

2. Méthodologie : Le Framework EchoGuard

EchoGuard est une architecture d'IA agentique conçue pour combler cet écart de conscience en utilisant un Graphes de Connaissances (Knowledge Graph - KG) comme mémoire épisodique et sémantique persistante. Le système fonctionne selon une boucle itérative en trois phases : Log-Analyze-Reflect (Journaliser-Analyser-Réfléchir).

A. Architecture de l'Agent et Gestion de l'État

L'agent maintient un état persistant $S$ matérialisé par un KG $G = (V, E)$.

• Nœuds ($V$) : Utilisateur, Autre Personne, Événement d'Interaction, Émotion, Tactique, Phrase.
• Arêtes ($E$) : Relations telles que participated_in, felt_emotion, used_tactic, contains_phrase.
• Outils Spécialisés :
  1. Structured Logger (Journal Structuré) : Transforme l'expérience subjective de l'utilisateur en données structurées (nœuds et arêtes) en capturant l'état émotionnel (roue des émotions de Plutchik) et l'évaluation cognitive.
  2. Pattern Detection Engine (Moteur de Détection) : Exécute des requêtes multi-sauts sur le KG épisodique de l'utilisateur et les compare à un KG sémantique contenant les marqueurs psychologiques de six tactiques de manipulation.
  3. Context Analyzer (Analyseur de Contexte) : Effectue des traversées de graphes pour suivre l'histoire de l'utilisateur et adapter la sensibilité de détection.
  4. Prompt Generator (Générateur de Prompts) : Crée des interventions réflexives basées sur les sous-graphes détectés.

B. Les Trois Phases du Processus

1. Phase 1 : Journalisation et Enrichissement du KG Épisodique
   L'utilisateur enregistre une interaction via un questionnaire structuré. Le système extrait les émotions, les cognitions (ex. : doute de soi) et le contenu de la communication. Il calcule une "signature computationnelle" de l'écart de conscience en identifiant les événements avec une haute détresse émotionnelle mais une faible confiance dans la cause articulée.

2. Phase 2 : Détection de Schémas par Raisonnement sur le KG
   Le moteur de détection utilise une méthode hybride :

   • Raisonnement basé sur le graphe : Recherche de sous-graphes correspondant aux marqueurs (ex. : {Événement} -> {Doute de soi} couplé à {Phrase} -> {Déni de réalité}).
   • Analyse sémantique : Utilisation de modèles comme Sentence-BERT pour matcher les phrases de l'utilisateur avec des banques de motifs validés par des experts.
   • Les résultats sont pondérés pour fournir des signaux de validation psychologique plutôt que des verdicts techniques.

3. Phase 3 : Prompts Réflexifs Ancrés dans le KG
   L'intervention vise à éviter la réactance psychologique (le rejet de l'autorité). Au lieu de donner des conseils directs ("Quittez cette personne"), l'agent génère des questions socratiques guidées par les données du KG.

   • Contraintes de modèle : Interdiction stricte de langage diagnostique (ex. : "abuseur") ou de conseils prescriptifs.
   • Ancrage (Grounding) : Le LLM est alimenté uniquement par les sous-graphes pertinents extraits du KG, résolvant le problème de la fenêtre de contexte.
   • Boucle d'apprentissage adaptative : Le système ajuste son approche en fonction du feedback de l'utilisateur.

3. Contributions Clés

1. Framework Agentique Novel (Log-Analyze-Reflect) : Utilisation d'un KG externe comme mémoire épisodique pour modéliser et détecter les "écarts de conscience" de manière computationnelle.
2. Méthode de Détection Hybride : Combinaison du raisonnement par graphe (pour la structure temporelle) et de l'analyse sémantique (pour le contenu) pour identifier six catégories de tactiques manipulatoires.
3. Prototype EchoGuard : Démonstration de la faisabilité d'interventions LLM contraintes et ancrées dans un KG pour des applications de sécurité personnelle sensibles, favorisant l'autonomie de l'utilisateur plutôt que le jugement externe.

4. Stratégie d'Évaluation et Résultats Attendus

Le papier propose une méthodologie d'évaluation rigoureuse plutôt que des résultats empiriques finaux (le papier étant une proposition de cadre) :

• Essai Randomisé Contrôlé (RCT) : Comparaison de quatre conditions : le flux complet EchoGuard, journalisation structurée seule, psychoéducation de base, et une tâche de réflexion témoin.
• Mesures : Capacité à identifier les tactiques, sélection de preuves phrastiques, évaluation de l'impact émotionnel, et mesures de sécurité (anxiété).
• Comparaisons de Base :
  • Contre les détecteurs de toxicité standards (pour montrer la détection de la manipulation subtile).
  • Contre l'analyse par prompt "zero-shot" (pour valider l'approche guidée).
  • Contre des agents utilisant des bases de données vectorielles ou des journaux plats (pour quantifier les gains de précision et de latence grâce au raisonnement graphique).
• Analyse des Modes de Défaillance : Étude des faux positifs (confondre communication assertive et manipulation) et de l'impact des variations culturelles.

5. Signification et Considérations Éthiques

Signification :
EchoGuard représente une avancée majeure dans l'application de l'IA agentique aux domaines socio-émotionnels sensibles. Il démontre comment l'interplay entre les architectures agentiques et les Graphes de Connaissances peut permettre de scaffolder (étayer) le jugement humain sans le remplacer. En externalisant la mémoire à long terme et en structurant les données relationnelles, le système permet aux victimes de visualiser des schémas invisibles autrement.

Éthique et Limites :

• Principe de Sécurité : Le système est conçu pour décrire des comportements et non pour étiqueter des personnes (pas de "abuseur"). Il évite les conseils directs pour préserver l'agence de l'utilisateur.
• Limites : L'évaluation initiale repose sur des vignettes contrôlées (manque d'investissement émotionnel réel). La qualité dépend des données saisies par l'utilisateur. Les modèles de détection, issus de la littérature psychologique occidentale, nécessitent une validation interculturelle.
• Engagement : Les auteurs s'engagent à ne pas utiliser ce cadre pour la surveillance de tiers ou le suivi, le positionnant strictement comme un outil d'auto-rapport.

En conclusion, EchoGuard propose un paradigme où l'IA agit comme un miroir cognitif structuré, aidant les individus à surmonter les biais cognitifs exploités par la manipulation, tout en maintenant une sécurité éthique rigoureuse.