PEACE 2.0: Grounded Explanations and Counter-Speech for Combating Hate Expressions

1. Il Problema

L'aumento del volume di discorsi d'odio (Hate Speech - HS) sulle piattaforme online rappresenta una sfida sociale significativa. Sebbene la comunità di Natural Language Processing (NLP) abbia sviluppato metodi efficaci per il rilevamento automatico dell'odio, la generazione di risposte costruttive, note come contro-discorsi (Counter-Speech - CS), rimane una sfida aperta.
Le difficoltà principali includono:

• La natura sfumata dell'odio, che può essere implicito o sottile, basandosi su linguaggio codificato o dipendente dal contesto, rendendolo difficile da interpretare rispetto all'odio esplicito.
• La necessità di risposte che non si limitino alla rimozione dei contenuti, ma offrano alternative costruttive basate su fatti e prospettive diverse.
• La mancanza di sistemi esistenti che integrino analisi, spiegazione e generazione di risposte basate su evidenze fattuali, specialmente per l'odio implicito.

2. Metodologia: PEACE 2.0

Il paper presenta PEACE 2.0, un'estensione dello strumento PEACE originale, progettata come piattaforma interattiva unificata. Il sistema si basa su una pipeline Retrieval-Augmented Generation (RAG) che combina modelli di classificazione, recupero di informazioni e generazione linguistica.

Componenti Chiave e Funzionalità

1. Esplorazione e Visualizzazione Dati:

   • Supporta dataset di HS (esplicito e implicito) come IHC, ISHate, TOXIGEN, DYNA e SBIC.
   • Include dataset di contro-discorsi (CONAN, Twitter, YouTube, dati esperti umani e generati da RAG).
   • Utilizza diagrammi di Sankey, nuvole di parole e grafici di frequenza per analizzare target, strategie e topic (tramite LDA).

2. Rilevamento e Spiegazione dell'Odio:

   • Utilizza un classificatore BERT fine-tuned sul dataset ISHate per la classificazione binaria.
   • Genera spiegazioni in linguaggio naturale che giustificano le previsioni del modello.
   • Innovazione RAG: Le spiegazioni possono essere "grounded" (basate su evidenze). Il sistema recupera passaggi pertinenti da una base di conoscenza autorevole (diritti umani), li riassume e li integra nel prompt del LLM per generare spiegazioni fattuali e trasparenti.

3. Generazione di Contro-discorsi (CS) Basata su Evidenze:

   • È la funzionalità centrale di PEACE 2.0.
   • Pipeline RAG:
     1. Recupero: Il messaggio in input viene codificato con il transformer BGE-M3. Viene eseguita una ricerca di similarità (FAISS) su una base di conoscenza curata (32.792 documenti da UN Digital Library, Eur-Lex, FRA) per recuperare i 3 passaggi più rilevanti.
     2. Sintesi: I passaggi recuperati vengono riassunti in un contesto fattuale conciso.
     3. Generazione: Un LLM (Mistral, LLaMa o CommandR) genera una risposta rispettosa e persuasiva, combinando il messaggio originale e il riassunto delle evidenze.
   • Permette il confronto diretto tra risposte generate con e senza recupero (RAG vs No-RAG).

4. Data Augmentation:

   • Modifica i messaggi per preservare il significato d'odio implicito alterando elementi superficiali (sostituzione di entità, sinonimi, back-translation), utile per aumentare i dataset di addestramento.

3. Risultati Sperimentali

Gli esperimenti sono stati condotti su 100 esempi di HS (50 espliciti, 50 impliciti) generando spiegazioni e contro-discorsi sia con RAG che senza. La valutazione è stata effettuata tramite metriche automatiche e valutazione umana (3 annotatori per esempio).

Valutazione Umana (Scala Likert 1-5)

I risultati mostrano che l'output basato su RAG supera costantemente quello senza RAG in tutte le metriche:

• Informativezza (I): Il miglioramento è drastico, specialmente per l'odio implicito (es. Spiegazioni: 4.64 vs 2.72; CS: 4.80 vs 2.86).
• Persuasività (P): Le risposte RAG sono significativamente più persuasive (es. CS Esplicito: 4.68 vs 2.64).
• Coerenza (Soundness) e Specificità: Anche queste metriche mostrano guadagni sostanziali con l'uso delle evidenze.
• La fluidità (Fluency) e la coerenza logica rimangono comparabili, indicando che l'aggiunta di evidenze non compromette la leggibilità.

Metriche Automatiche

• Similarità Semantica: Gli output RAG mostrano una maggiore similarità semantica con il contesto.
• Fideltà (Faithfulness): Gli output RAG sono molto più fedeli alle evidenze recuperate (0.65 per CS vs non misurabile per No-RAG).
• Perplessità: I valori più bassi per RAG indicano output più fluenti e informativi.
• NLI (Entailment/Contradiction): Gli output RAG hanno un alto tasso di Hate-Entailment (affrontano l'odio) e basso Evidence-Contradiction (non contraddicono i fatti recuperati), dimostrando allineamento con le fonti autorevoli.

4. Contributi Chiave

1. Primo strumento unificato: PEACE 2.0 è l'unico strumento online che offre analisi approfondita e generazione di contro-discorsi basati su evidenze sia per l'odio esplicito che implicito.
2. Grounding delle Evidenze: Introduce una pipeline RAG specifica per il dominio dei diritti umani, permettendo di ancorare spiegazioni e risposte a fonti autorevoli (ONU, FRA, Eur-Lex).
3. Comparabilità: Offre la possibilità agli utenti di confrontare direttamente le prestazioni di modelli con e senza recupero di conoscenza, evidenziando l'impatto del grounding sulla fattualità e persuasività.
4. Trasparenza: Espone all'utente i paragrafi recuperati e i punteggi di similarità, rendendo il processo decisionale del modello interpretabile.

5. Significatività e Impatto

Il lavoro di PEACE 2.0 segna un passo avanti cruciale nella mitigazione dell'odio online:

• Transizione dalla Rilevazione all'Azione: Sposta il focus dal semplice rilevamento dell'odio alla generazione attiva di soluzioni (contro-discorsi).
• Affidabilità e Fiducia: L'uso di basi di conoscenza verificate riduce le allucinazioni dei LLM e aumenta la credibilità delle risposte, fondamentale per applicazioni di e-democrazia.
• Gestione dell'Odio Implicito: Dimostra che l'approccio basato su evidenze è particolarmente efficace per decodificare e rispondere all'odio sottile, dove il contesto fattuale è essenziale per smontare l'argomentazione.
• Futuro: Il sistema apre la strada a strategie di recupero adattive e aggiornamenti dinamici delle basi di conoscenza per mantenere l'efficacia nel tempo.

In sintesi, PEACE 2.0 rappresenta un ponte tra l'analisi analitica e la mitigazione pratica, fornendo uno strumento robusto per promuovere inclusività e equità negli spazi digitali.