EchoGuard: An Agentic Framework with Knowledge-Graph Memory for Detecting Manipulative Communication in Longitudinal Dialogue

Der Artikel stellt EchoGuard vor, ein agentic Framework, das mithilfe eines Wissensgraphen als Langzeitgedächtnis und eines Log-Analyze-Reflect-Zyklus manipulative Kommunikationsmuster in langfristigen Dialogen erkennt und Nutzer durch gezielte sokratische Fragen zur Selbstreflexion befähigt.

Das Wesentliche

EchoGuard: Der digitale Spiegel für schwierige Gespräche

Stell dir vor, du hast gerade ein Gespräch mit jemandem geführt, das sich seltsam angefühlt hat. Du fühlst dich verwirrt, schuldig oder unsicher, kannst aber nicht genau sagen, warum. Vielleicht hat die andere Person Dinge gesagt wie: „Ich mache das nur, weil ich mir Sorgen um dich mache" oder „Du bildest dir das alles nur ein".

Das Problem ist: Manipulation ist oft wie ein unsichtbarer Schleier. Sie ist so subtil, dass wir sie im Moment oft nicht erkennen. Wir wissen nur, dass es uns schlecht geht, aber nicht, warum.

Das ist genau das Problem, das EchoGuard lösen will. Es ist kein einfacher Chatbot, der dir sagt, was du tun sollst. Es ist eher wie ein kluger, geduldiger Freund, der dir hilft, den Schleier zu lüften.

1. Das Problem: Warum wir die Manipulation übersehen

Normalerweise haben wir ein kurzes Gedächtnis für solche Gespräche. Wenn jemand heute sagt: „Du bist zu empfindlich", und nächste Woche: „Du bist zu sensibel", merken wir vielleicht nicht, dass es ein Muster ist. Wir vergessen den Kontext.

Künstliche Intelligenz (KI) hat heute oft das gleiche Problem: Sie kann nur das sehen, was gerade auf dem Bildschirm steht (wie ein kurzes Foto). Sie vergisst schnell, was vor einer Stunde oder vor einer Woche passiert ist. Das nennt man „katastrophales Vergessen".

2. Die Lösung: EchoGuard als „Gedächtnis-Mappe"

Stell dir vor, du hast eine riesige, ordentliche Gedächtnis-Mappe (das ist das sogenannte Wissensgraph oder Knowledge Graph im Paper).

• Andere KI: Schaut nur auf das aktuelle Foto.
• EchoGuard: Schaut in die Mappe, blättert durch die letzten 50 Seiten und sagt: „Aha! Das hier ist das dritte Mal, dass diese Person dir sagt, du bildest dir Dinge ein."

EchoGuard speichert nicht nur, was gesagt wurde, sondern auch, wie du dich dabei gefühlt hast (traurig, verwirrt, schuldig). Es verknüpft diese Gefühle mit den Worten der anderen Person.

3. Wie funktioniert es? (Der 3-Schritte-Tanz)

Das System läuft in einem Kreislauf ab, den die Autoren „Log-Analyze-Reflect" nennen. Das kannst du dir wie einen Detektiv vorstellen:

Schritt 1: Das Tagebuch (Log)
Du schreibst dem System kurz auf, was passiert ist. Aber statt nur „Er war gemein" zu schreiben, füllt EchoGuard eine Art Formular aus:

• Was wurde gesagt?
• Wie fühltest du dich danach? (z. B. „Ich zweifle an meinem Verstand").
• Wer war dabei?
  Das System wandelt deine Gefühle in eine klare Landkarte um.

Schritt 2: Der Vergleich (Analyze)
Jetzt schaut der Detektiv in seine „Bibliothek der Manipulationstaktiken". Er kennt sechs klassische Tricks (wie Gaslighting, Schuldgefühle machen, emotionale Erpressung).
Er vergleicht deine Landkarte mit diesen Tricks.

• Frage des Systems: „Hast du das Gefühl, dass deine Realität geleugnet wurde? Ja? Und die andere Person hat gesagt, du bildest dir das ein? Das passt genau zum Muster 'Gaslighting'."

Schritt 3: Die sanfte Frage (Reflect)
Das ist der wichtigste Teil. EchoGuard sagt nicht: „Diese Person ist ein Manipulator! Verlasse sie sofort!"
Das wäre zu aggressiv und würde dich vielleicht nur verteidigen lassen.

Stattdessen stellt EchoGuard eine Sokratische Frage (eine Frage, die zum Nachdenken anregt):

„Interessant. Wenn die Person sagt, du bildest dir das ein, aber du fühlst dich trotzdem so unsicher: Was denkst du, welche Annahme steckt hinter ihrer Aussage?"

Das System gibt dir die Antwort nicht vor. Es hilft dir, sie selbst zu entdecken. Es ist, als würde es dir einen Spiegel halten, damit du das Muster selbst siehst.

4. Warum ist das sicher?

Das System ist so programmiert, dass es niemals urteilt oder Befehle gibt. Es ist wie ein Sparringspartner für dein Gehirn.

• Es speichert keine privaten Daten, die man gegen dich verwenden könnte.
• Es hilft dir, deine eigene Intuition wiederzufinden, statt sie durch KI-Ergebnisse zu ersetzen.

Zusammenfassung in einem Bild

Stell dir vor, du läufst durch einen dichten Nebel (die Manipulation). Du stolperst oft und weißt nicht, warum.

• Normale KI ist wie ein Taschenlampe, die nur einen kleinen Fleck vor deinen Füßen beleuchtet.
• EchoGuard ist wie ein Luftballon, der dich langsam in die Höhe hebt. Von oben siehst du plötzlich das ganze Bild: Die Wege, die sich kreuzen, die Fallen, die der andere gelegt hat. Es zeigt dir die Landkarte, damit du selbst entscheiden kannst, welchen Weg du gehen willst.

Das Ziel: Nicht, dass die KI für dich entscheidet, sondern dass du wieder klar denken und erkennen kannst, was wirklich vor sich geht.

Technische Zusammenfassung

1. Problemstellung

Manipulative Kommunikationstaktiken wie Gaslighting, Schuldzuweisungen (Guilt-tripping) und emotionale Erpressung sind in zwischenmenschlichen Interaktionen weit verbreitet, aber für Betroffene oft schwer in Echtzeit zu erkennen. Es besteht eine sogenannte „Bewusstseinslücke" (Awareness Gap): Die emotionale Reaktion einer Person auf eine Interaktion stimmt nicht mit ihrem bewussten Erkennen der manipulativen Absicht überein.

Bestehende KI-Systeme scheitern bei der Erkennung dieser subtilen, kontextabhängigen Taktiken aus mehreren Gründen:

• Kontextabhängigkeit: Manipulation entsteht oft aus relationalen Dynamiken und nicht aus einzelnen Äußerungen. Klassische Toxizitäts-Classifier arbeiten auf Utterance-Ebene und erfassen diese Nuancen nicht.
• Implizite Schädlichkeit: Manipulation nutzt oft grammatikalisch harmlose, aber pragmatisch zwingende Sprachmuster (z. B. Unterstellungen, conversational implicatures).
• Gedächtnisprobleme: Die Erkennung langfristiger Muster (z. B. intermittierende Verstärkung oder eskalierendes Gaslighting) erfordert eine langfristige, strukturierte episodische Erinnerung. Herkömmliche LLMs leiden unter begrenzten Kontextfenstern und „katastrophalem Vergessen" (catastrophic forgetting), wenn sie auf reine Kontextfenster angewiesen sind.

2. Methodik: Das EchoGuard-Framework

EchoGuard ist ein agentic AI-Framework, das eine Wissensgraphen-basierte (Knowledge Graph, KG) Architektur nutzt, um die episodische und semantische Erinnerung des Agents zu strukturieren. Der Kern des Systems ist ein Log-Analyze-Reflect-Loop (Protokollieren-Analysieren-Reflektieren), der in drei Phasen unterteilt ist:

A. Agent-Architektur und Wissensgraph (KG)

Der Agent verwaltet einen persistenten Zustand $S$, der als Wissensgraph $G = (V, E)$ materialisiert ist.

• Knoten (V): Umfassen Benutzer, andere Personen, Interaktionsereignisse, Emotionen, Taktiken und Phrasen.
• Kanten (E): Repräsentieren Beziehungen wie „teilgenommen an", „fühlte Emotion", „nutzte Taktik", „enthält Phrase".
• Ziel: Der KG dient als externe, persistente Arbeitsspeicher, der die kognitive Überlastung des Nutzers kompensiert und longitudinale Muster über mehrere Interaktionen hinweg verfolgt.

B. Die drei Phasen des Loops

1. Phase 1: Strukturierte Protokollierung & Episodische KG-Erweiterung

   • Der Nutzer protokolliert eine besorgniserregende Interaktion über einen strukturierten Fragebogen.
   • Dieser Prozess erfasst nicht nur den Inhalt, sondern auch den emotionalen Zustand (basierend auf Plutchiks Rad) und die kognitive Bewertung (z. B. Selbstzweifel).
   • Das System wandelt diese subjektiven Daten in strukturierte Knoten und Kanten um. Ein kritischer Schritt ist die Berechnung einer „computationalen Signatur" für die Bewusstseinslücke: Der Agent sucht nach Ereignissen mit hoher emotionaler Belastung, aber geringer Zuverlässigkeit bei der kausalen Zuordnung durch den Nutzer.

2. Phase 2: Reasoning über den KG zur Mustererkennung

   • Der Agent nutzt einen Pattern Detection Engine, die eine hybride Methode anwendet:
     • Graph-basiertes Reasoning: Es werden Multi-Hop-Abfragen gegen den episodischen KG des Nutzers ausgeführt, um Subgraphen zu finden, die psychologische Marker für sechs manipulative Taktiken (z. B. Gaslighting, Schuldinduktion, emotionale Erpressung) aufweisen.
     • Semantische Analyse: Ein semantischer KG definiert die psychologischen Marker. Zusätzlich wird Sentence-BERT eingesetzt, um Nutzerphrasen mit expertenvalidierten Musterbanken abzugleichen.
   • Das Ergebnis sind gewichtete Konfidenzwerte, die als psychologische Signale dienen, um die Erfahrung des Nutzers zu validieren.

3. Phase 3: KG-verankerte reflektierende Prompts

   • Statt direkter Ratschläge oder diagnostischer Labels (z. B. „Dieser Mensch ist ein Täter") generiert der Agent sokratische Fragen.
   • Drei-Schichten-Constraint-Architektur:
     1. Template-Constraints: Verbot von diagnostischer Sprache und direkten Handlungsempfehlungen.
     2. Grounding-Strategie: Das LLM wird nur mit den relevanten, strukturierten Daten aus dem KG-Subgraphen (erkannte Muster, Emotionen, spezifische Phrasen) „gegroundet", um den Kontextfenster-Overhead zu minimieren.
     3. Adaptiver Lernloop: Der Agent passt seine Sensitivität basierend auf Feedback an, um psychologische Reaktanz zu vermeiden und die Autonomie des Nutzers zu wahren.

3. Hauptbeiträge

1. Neues Agentic-Framework: Einführung des „Log-Analyze-Reflect"-Loops, der einen Wissensgraphen als externe episodische Erinnerung nutzt, um „Bewusstseinslücken" modellieren und detektieren zu können.
2. Hybride Detektionsmethode: Kombination aus graph-basiertem Reasoning (Abfragen des episodischen KG) und semantischer Analyse gegen einen semantischen KG psychologischer Konstrukte zur Identifizierung von sechs Kategorien manipulativer Taktiken.
3. Prototyp-Implementierung: Design und Umsetzung von EchoGuard, das die Machbarkeit von KG-verankerten, eingeschränkten LLM-Interventionen für sensible persönliche Sicherheitsanwendungen demonstriert.

4. Ergebnisse und Evaluationsstrategie

Da das Paper einen Entwurf und eine Evaluationsstrategie vorstellt (keine finalen empirischen Ergebnisse aus einer Live-Studie), liegt der Fokus auf dem vorgeschlagenen Validierungsansatz:

• Experimental Design: Geplant ist eine Multi-Arm Randomized Controlled Trial (RCT) mit vier Bedingungen (Vollversion, nur Protokollierung, Psychoedukations-Baseline, Kontrollgruppe).
• Hauptmetrik: Ein „Manipulation Recognition Task", der die Fähigkeit der Teilnehmer misst, Taktiken zu identifizieren, phrasale Beweise auszuwählen und emotionale Auswirkungen zu bewerten.
• Vergleichsbaselines:
  • Gegenüberstellung mit Standard-Toxizitäts-Detektoren (um zu zeigen, dass subtile Manipulation oft übersehen wird).
  • Vergleich des strukturierten Agenten-Workflows mit Zero-Shot-Prompt-Analysen (zur Bewertung von Sicherheit und Effizienz).
  • Vergleich des KG-basierten Agents mit Agents, die Vektordatenbanken oder flache Log-Dateien nutzen (zur Quantifizierung von Genauigkeitsgewinnen durch strukturiertes Reasoning).
• Ablationsstudien: Zur Isolierung des Beitrags jedes Komponenten (z. B. Wert des Graph-Gedächtnisses vs. freies Reflektieren).
• Fehleranalyse: Untersuchung von False Positives (Verwechslung mit gesunder, assertiver Kommunikation) und kulturellen Verzerrungen.

5. Bedeutung und ethische Überlegungen

• Paradigmenwechsel: EchoGuard verschiebt den Fokus von automatischer Moderation hin zur kognitiven Scaffolding (Unterstützung) des Nutzers. Das Ziel ist nicht, das Urteil an die KI zu delegieren, sondern dem Nutzer zu helfen, eigene Muster zu erkennen.
• Sicherheit & Ethik:
  • Das System ist strikt darauf ausgelegt, Verhalten zu beschreiben, nicht Personen zu labeln (keine „Täter"-Labels).
  • Es gibt keine direkten Ratschläge (z. B. „Verlasse die Person"), sondern fördert die Selbstentdeckung.
  • Es ist als Selbstbericht-Tool konzipiert, was Missbrauch für Überwachungszwecke (Third-Party Monitoring) inhärent erschwert.
• Zukunftsausblick: Die Arbeit legt Grundsteine für KI-Systeme, die in sensiblen sozio-emotionalen Domänen menschliches Urteilsvermögen unterstützen, ohne es zu ersetzen. Zukünftige Arbeiten zielen auf longitudinale Realwelt-Einsätze und kulturelle Validierung der semantischen Musterbanken ab.

Fazit: EchoGuard stellt einen innovativen Ansatz dar, der die Stärken von Agentic AI (autonomes Reasoning, Tool-Nutzung) mit der strukturellen Stabilität von Wissensgraphen kombiniert, um ein kritisches menschliches Defizit – die Erkennung subtiler Manipulation über die Zeit hinweg – zu adressieren.