PEACE 2.0: Grounded Explanations and Counter-Speech for Combating Hate Expressions

1. Problema

O volume crescente de discurso de ódio (DO) em plataformas online representa um desafio societal significativo. Embora a comunidade de Processamento de Linguagem Natural (NLP) tenha desenvolvido métodos eficazes para a detecção automática de discurso de ódio, a geração de respostas adequadas, conhecidas como contra-discurso (counter-speech), permanece um desafio aberto.

• Desafio Principal: O discurso de ódio não é apenas explícito; frequentemente aparece de forma implícita, sutil ou codificada, dependendo de contexto e linguagem indireta, o que torna difícil tanto a identificação quanto a formulação de respostas eficazes.
• Limitação Atual: Sistemas existentes geralmente tratam a detecção, explicação e geração de contra-discurso de forma isolada, focam principalmente em ódio explícito e carecem de mecanismos para fundamentar as respostas em fatos e evidências externas.

2. Metodologia

O PEACE 2.0 é uma evolução da ferramenta PEACE original, projetada como uma plataforma interativa que não apenas analisa e explica o discurso de ódio, mas também gera respostas automáticas fundamentadas. A arquitetura baseia-se em um pipeline de Geração Aumentada por Recuperação (RAG - Retrieval-Augmented Generation).

Componentes Principais:

• Base de Conhecimento: O sistema utiliza uma base de dados curada contendo 32.792 documentos de fontes autoritativas de direitos humanos (Biblioteca Digital da ONU, Eur-Lex e Agência Europeia para os Direitos Fundamentais), totalizando mais de 3 milhões de parágrafos tokenizados.
• Pipeline RAG:
  1. Recuperação: O texto de entrada (mensagem de ódio) é codificado usando o transformador de sentenças BGE-M3. O sistema realiza uma busca de similaridade (via FAISS) para recuperar os 3 parágrafos mais relevantes da base de conhecimento.
  2. Resumo: Os parágrafos recuperados são concatenados e resumidos em um contexto factual conciso usando um Modelo de Linguagem Grande (LLM).
  3. Geração: O LLM recebe a mensagem original e o resumo das evidências para gerar uma resposta de contra-discurso respeitosa e persuasiva.
• Modelos Utilizados:
  • Detecção: Classificador BERT fine-tuned no conjunto de dados ISHate.
  • Geração e Explicação: Suporte a LLMs de código aberto, incluindo Mistral-7B, LLaMa-3.1-8B e CommandR.
• Funcionalidades do Sistema:
  1. Geração de Contra-discurso Fundamentado: Permite comparar respostas geradas com e sem RAG.
  2. Explicações Fundamentadas em Evidências: Justifica as previsões do classificador BERT recuperando evidências que sustentam a decisão de rotulagem.
  3. Visualização e Análise de Dados: Ferramentas interativas (diagramas Sankey, nuvens de palavras) para explorar conjuntos de dados de discurso de ódio (explícito e implícito) e contra-discurso.
  4. Aumento de Dados: Geração de exemplos adversariais para discurso de ódio implícito, alterando elementos superficiais sem mudar a intenção.

3. Principais Contribuições

O PEACE 2.0 introduz três funcionalidades inovadoras:

1. Geração de Contra-discurso Baseada em Conhecimento: Diferencia-se ao ancorar as respostas em fontes de direitos humanos verificáveis, permitindo aos usuários comparar o impacto da fundamentação factual na relevância e persuasão.
2. Explicações Transparentes para Classificação: Utiliza o mesmo mecanismo RAG para justificar por que uma mensagem foi classificada como odiosa, melhorando a interpretabilidade do modelo.
3. Plataforma Unificada para Ódio Explícito e Implícito: É a única ferramenta online conhecida que oferece análise profunda e geração de respostas para ambas as formas de discurso de ódio, integrando análise e mitigação prática.

4. Resultados

Os autores realizaram experimentos comparando a geração com RAG (fundamentada) versus sem RAG (não fundamentada) em 100 exemplos de discurso de ódio (50 explícitos, 50 implícitos).

• Avaliação Humana:
  • O RAG superou consistentemente a geração não fundamentada em todas as métricas (Fluência, Informatividade, Persuasão, Coerência Lógica e Especificidade).
  • Informatividade: A melhoria foi mais drástica para conteúdo implícito (4,64 vs. 2,72 em explicações; 4,80 vs. 2,86 em contra-discurso).
  • Persuasão: O RAG aumentou significativamente a capacidade de convencer e fomentar empatia, especialmente em casos de ódio explícito (4,68 vs. 2,64).
• Métricas Automáticas:
  • As saídas com RAG apresentaram maior similaridade semântica, menor perplexidade (indicando maior fluidez) e maior fidelidade às evidências recuperadas.
  • Métricas de NLI (Inferência Natural de Linguagem) mostraram que o RAG evita contradições com as evidências e aborda o conteúdo original sem apoiá-lo.
• Significância Estatística: As diferenças observadas foram estatisticamente significativas (p < 0,05) segundo o teste de Wilcoxon.

5. Significância e Conclusão

O PEACE 2.0 representa um avanço crucial na mitigação de discurso de ódio online ao fechar a lacuna entre a detecção analítica e a ação prática.

• Impacto Social: Ao fornecer contra-discurso fundamentado em fatos, a ferramenta oferece uma alternativa construtiva à simples remoção de conteúdo ou censura, promovendo a inclusão e a justiça.
• Aplicabilidade: A ferramenta é adequada para aplicações de e-democracia, auxiliando moderadores de conteúdo e pesquisadores a entenderem nuances do ódio implícito e gerarem respostas que aumentam a confiança do usuário.
• Futuro: Trabalhos futuros visam integrar estratégias de recuperação adaptativa, atualizações dinâmicas da base de conhecimento e métricas de avaliação mais robustas para a qualidade do contra-discurso.

Em suma, o PEACE 2.0 demonstra que a integração de recuperação de conhecimento externo com geração de linguagem natural é essencial para criar sistemas de IA que não apenas detectam o ódio, mas que podem combatê-lo de forma informada, transparente e eficaz.