EchoGuard: An Agentic Framework with Knowledge-Graph Memory for Detecting Manipulative Communication in Longitudinal Dialogue

Il paper presenta EchoGuard, un framework agentic che utilizza una Knowledge Graph come memoria episodica e semantica per analizzare dialoghi longitudinali, rilevare pattern manipolatori e guidare gli utenti verso l'autoriconoscimento tramite prompt socratici.

L'essenziale

Immagina di trovarti in una nebbia fitta. Qualcuno ti dice cose che ti fanno sentire in colpa, confuso o "pazzo", ma non riesci a mettere a fuoco perché ti senti così male. È come se qualcuno avesse spostato i mobili della tua casa mentre dormivi, e tu ti svegliassi sentendo che qualcosa non va, senza sapere cosa è cambiato.

EchoGuard è come un detective personale o una lente magica che ti aiuta a vedere attraverso quella nebbia.

Ecco come funziona, passo dopo passo, con delle analogie semplici:

1. Il Problema: La "Nebbia" della Manipolazione

Spesso, le persone manipolatrici (che usano tattiche come il gaslighting, ovvero farti dubitare della tua realtà, o il ricatto emotivo) non urlano o non usano parole offensive. Usano invece frasi subdole come: "Lo faccio solo per il tuo bene" o "Sei tu che esageri sempre".
Il nostro cervello, stanco o confuso, fatica a collegare i puntini tra una frase detta ieri e una di oggi. I normali programmi di sicurezza online vedono solo le parole "cattive", ma non capiscono il contesto o la storia della relazione.

2. La Soluzione: EchoGuard e la sua "Mappa del Tesoro"

EchoGuard non è un semplice chatbot che risponde alle domande. È un agente intelligente che ha una memoria speciale.

• La Memoria (Il Grafo della Conoscenza): Immagina che EchoGuard abbia un quaderno magico, chiamato Grafo della Conoscenza. Non scrive tutto in un lungo elenco noioso (che si cancellerebbe facilmente), ma disegna una mappa.
  • Ogni volta che parli con qualcuno, tu inserisci nel sistema cosa è successo, come ti sei sentito e cosa ti è stato detto.
  • Il sistema trasforma queste informazioni in nodi (punti sulla mappa) e collegamenti (linee che uniscono i punti).
  • Esempio: Collega il punto "Tu ti senti in colpa" con il punto "Lui ha detto 'Dopo tutto quello che ho fatto per te'".

3. Come Funziona: Il Ciclo "Registra, Analizza, Rifletti"

EchoGuard lavora in tre fasi, come un detective che risolve un caso:

• Fase 1: Registra (Il Diario Intelligente)
  Tu racconti all'agente cosa è successo. Invece di scrivere un diario a mano, rispondi a domande strutturate. L'agente prende la tua esperienza emotiva e la trasforma in dati sulla sua mappa. È come se trasformassi un'emozione confusa in un pezzo di un puzzle.

• Fase 2: Analizza (Il Detective che Cerca Schemi)
  Qui entra in gioco la magia. L'agente ha una mappa segreta (un altro grafo) che contiene le "impronte digitali" delle manipolazioni psicologiche (come il gaslighting, il ricatto emotivo, ecc.).
  Confronta la tua mappa personale con quella dei "cattivi".

  • Analogia: È come se il detective guardasse la tua mappa e dicesse: "Ehi, guarda! Ogni volta che lui dice questa frase, tu ti senti in colpa. E guarda qui: la settimana scorsa ha fatto la stessa cosa, ma tu non te ne eri accorto. È un schema ricorrente!".
    L'agente riesce a vedere connessioni che il tuo cervello, stanco, non riesce a vedere da solo.

• Fase 3: Rifletti (Il Coach che Fa Domande, non Ordini)
  Questo è il punto più importante. EchoGuard non ti dice "Lui è un mostro, lascialo!". Questo ti spaventerebbe o ti farebbe chiudere a riccio.
  Invece, usa l'Intelligenza Artificiale per farti delle domande socratiche (domande che ti aiutano a scoprire la verità da solo).

  • Esempio: Invece di dire "Ti sta manipolando", ti chiede: "Hai notato che ogni volta che ti senti in colpa, lui usa la frase 'dopo tutto quello che ho fatto'? Cosa pensi che significhi?"
    Ti guida a scoprire la verità da solo, restituendoti il potere e l'autonomia.

Perché è diverso dagli altri?

La maggior parte dei bot dimentica tutto dopo pochi messaggi (come se avessero l'amnesia). EchoGuard, grazie alla sua mappa (Grafo della Conoscenza), ricorda tutto il tuo percorso. Può vedere se un comportamento è peggiorato nel tempo, proprio come un amico che ti conosce da anni e nota quando qualcosa non va nella tua relazione.

In Sintesi

EchoGuard è come avere un specchio magico che non ti mostra solo il tuo viso, ma ti mostra anche le ombre che gli altri proiettano su di te. Non ti dice cosa fare, ma ti aiuta a vedere chiaramente la nebbia, così puoi prendere le tue decisioni con la testa e il cuore.

È un progetto che unisce la tecnologia avanzata (Intelligenza Artificiale e Grafici di Conoscenza) alla psicologia umana, con l'obiettivo di proteggere le persone rendendole più consapevoli, non più dipendenti dalla macchina.

Sommario tecnico

1. Il Problema: Il Divario di Consapevolezza nella Manipolazione Interpersonale

Il paper identifica una sfida critica nella rilevazione della comunicazione manipolatoria (es. gaslighting, senso di colpa, coercizione emotiva). Sebbene l'IA abbia fatto progressi nell'analisi del sentiment e nella rilevazione di linguaggio tossico, i sistemi esistenti falliscono nel contesto della manipolazione interpersonale per tre motivi principali:

• Dipendenza dal contesto: I classificatori attuali operano a livello di singola frase, ignorando le dinamiche relazionali a lungo termine.
• Danno implicito: La manipolazione avviene spesso attraverso meccanismi linguistici sottili (presupposizioni, implicature) che sono grammaticalmente innocui ma pragmaticamente coercitivi.
• Soggettività e memoria: La manipolazione si accumula nel tempo (es. rinforzo intermittente, gaslighting progressivo). Gli agenti AI basati su LLM soffrono di finestre di contesto limitate e "dimenticanza catastrofica", rendendo impossibile tracciare pattern longitudinali senza una memoria strutturata.

Il risultato è un "Divario di Consapevolezza" (Awareness Gap): una discrepanza misurabile tra la risposta emotiva di un individuo a un'interazione e la sua capacità cosciente di riconoscere l'intento manipolatorio.

2. Metodologia: Il Framework EchoGuard

EchoGuard è un framework di IA agenziale progettato per colmare questo divario. A differenza dei sistemi di moderazione dei contenuti che bloccano o etichettano, EchoGuard agisce come un "analista riflessivo" che guida l'utente verso l'autodiscoperta.

L'architettura si basa su un ciclo Log-Analyze-Reflect (Registrare-Analizzare-Riflettere) che integra un Agente ReAct con una Knowledge Graph (KG) come memoria episodica ed esterna.

Componenti Chiave dell'Architettura:

1. Memoria Strutturata (Knowledge Graph):

   • Sostituisce la finestra di contesto limitata dell'LLM con una memoria persistente e strutturata $G = (V, E)$.
   • Nodi: Utente, Altra Persona, Evento di Interazione, Emozione, Tattica, Frase.
   • Archi: Relazioni come partecipato_a, prodotto_emozione, usato_tattica, contiene_frase.
   • Questo permette di tracciare la storia interpersonale e calibrare le soglie di rilevamento in base al feedback dell'utente.

2. Fase 1: Log Strutturato e Arricchimento Episodico:

   • L'utente registra le interazioni problematiche tramite un questionario strutturato che cattura il contenuto comunicativo e lo stato emotivo (basato sulla ruota delle emozioni di Plutchik).
   • L'agente trasforma questa esperienza soggettiva in nodi e grafo (es. collegando un evento a un nodo Emozione:Auto-dubbio).
   • Viene calcolata una "firma computazionale" del divario di consapevolezza: eventi con alta angoscia emotiva ma bassa confidenza nella causa articolata.

3. Fase 2: Rilevamento dei Pattern (Ibridazione KG-Semantica):

   • L'agente esegue query complesse sul grafo episodico dell'utente incrociandole con una KG Semantica che definisce i marcatori psicologici di sei tattiche manipolatorie (es. Gaslighting, Induzione di Senso di Colpa, Ricatto Emotivo).
   • Utilizza un approccio ibrido:
     • Ragionamento su Grafo: Query multi-hop per trovare sottografi corrispondenti ai marcatori (es. evento -> auto-dubbio -> negazione della realtà).
     • Analisi Semantica: Uso di Sentence-BERT per confrontare le frasi dell'utente con banche dati di pattern validati da esperti.

4. Fase 3: Prompt Riflessivi Basati su KG:

   • Invece di fornire diagnosi o consigli diretti (che potrebbero causare resistenza psicologica), l'agente genera prompt socratici.
   • Vincoli di Sicurezza: Il prompt è vincolato da template che vietano linguaggio diagnostico (es. "sei vittima di un abusante") e consigli prescrittivi (es. "dovresti lasciare").
   • Grounding: L'LLM riceve solo i sottografi rilevanti (pattern, emozioni, frasi specifiche) come contesto, risolvendo il problema della finestra di contesto e garantendo che la riflessione sia basata sui dati reali dell'utente.

3. Contributi Chiave

Il lavoro presenta tre contributi principali:

1. Framework Agente-Nuovo: Un'architettura "Log-Analyze-Reflect" che utilizza una Knowledge Graph come memoria episodica esterna per modellare e rilevare computazionalmente i "Divari di Consapevolezza".
2. Metodo di Rilevamento Ibrido: Una combinazione di ragionamento basato su grafi (per la memoria a lungo termine) e analisi semantica (per la comprensione del linguaggio) per identificare sei categorie di tattiche manipolatorie.
3. Progettazione Etica e di Sicurezza: La realizzazione di un prototipo che dimostra la fattibilità di interventi LLM vincolati e basati su KG per applicazioni di sicurezza personale, privilegiando l'autonomia dell'utente rispetto al giudizio automatico.

4. Risultati e Strategia di Valutazione

Il paper non presenta risultati sperimentali definitivi (essendo una proposta di framework), ma delinea una strategia di valutazione rigorosa:

• Disegno Sperimentale: Un'Esperimento Controllato Randomizzato (RCT) multi-braccio che confronta EchoGuard completo contro: (1) solo log strutturato, (2) baseline di psicoeducazione generica, (3) task di riflessione di controllo.
• Metriche: Capacità di riconoscere le tattiche, selezione di prove frasali, valutazione dell'impatto emotivo, consapevolezza metacognitiva e trasferimento delle competenze.
• Confronti di Baseline:
  • Confronto con rilevatori di linguaggio tossico standard (per mostrare la capacità di catturare manipolazioni sottili).
  • Confronto con analisi prompt zero-shot (per valutare la sicurezza del metodo guidato).
  • Confronto tra agente basato su KG e agente basato su database vettoriale/piani log (per quantificare i guadagni in accuratezza e ragionamento strutturato).
• Analisi dei Fallimenti: Studio specifico sui falsi positivi (es. confondere comunicazione assertiva con manipolazione) e sull'impatto delle variazioni culturali.

5. Significato e Impatto Futuro

EchoGuard rappresenta un passo avanti significativo nell'intersezione tra IA agenziale e salute mentale/sicurezza personale:

• Scaffolding Cognitivo: Dimostra come l'IA possa supportare il giudizio umano in domini sociali complessi senza sostituirlo, aiutando gli utenti a elaborare esperienze emotive cariche.
• Gestione della Memoria a Lungo Termine: Risolve il problema della "dimenticanza catastrofica" negli agenti AI per scenari longitudinali, offrendo un modello per la memoria episodica strutturata tramite Knowledge Graph.
• Etica e Autonomia: Il design pone al centro l'autonomia dell'utente, evitando l'etichettatura e favorendo l'autodiscoperta, riducendo il rischio di resistenza psicologica e abuso del sistema (il sistema è progettato come strumento di auto-segnalazione, non di sorveglianza).

In sintesi, EchoGuard propone un paradigma in cui l'IA non agisce come un giudice, ma come uno specchio strutturato che aiuta gli individui a riconoscere pattern manipolatori complessi che altrimenti rimarrebbero invisibili a causa della sovraccarico cognitivo e della mancanza di memoria contestuale.