💻 computer science

Examining hate speech infection in social media using range constraints in multidimensional data structures

Este artigo propõe uma metodologia que combina a análise de séries temporais baseada em shapelets com estruturas de dados multidimensionais e restrições de intervalo para identificar precisamente as janelas temporais e os padrões de conectividade de usuários que impulsionam a propagação de discurso de ódio nas redes sociais, permitindo, assim, uma detecção e mitigação de eventos mais eficazes.

Autores originais: Eleanna Kafeza, Christos Makris, Gerasimos Rompolas, Georgios Mavris

Publicado 2026-07-15

📖 5 min de leitura🧠 Leitura aprofundada

CC BY 4.0

Autores originais: Eleanna Kafeza, Christos Makris, Gerasimos Rompolas, Georgios Mavris

Artigo original sob licença CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Imagine as redes sociais como uma festa gigante e agitada onde todos gritam seus pensamentos. Às vezes, a vibe fica amarga, e um tipo específico de "infecção tóxica" (discurso de ódio) começa a se espalhar. Os autores deste artigo, Eleanna Kafeza e sua equipe, queriam descobrir exatamente quando essa infecção começa e quem a está espalhando, em vez de apenas tentar pegar cada palavra ruim que voa por aí.

Pense na linha do tempo de um usuário não como uma lista de postagens, mas como um monitor de batimentos cardíacos. Em vez de olhar para as palavras em si, a equipe transformou a intensidade emocional de cada usuário em uma linha ondulada em um gráfico. Se um usuário está postando coisas raivosas e odiosas, seu "batimento cardíaco" apresenta picos de energia negativa.

O Kit de Ferramentas do Detetive: Shapelets e Suffix Trees
Para encontrar os maus atores, os pesquisadores usaram um truque inteligente chamado classificação por shapelets. Imagine que você está procurando por uma impressão digital específica em um monte de pegadas de lama. Um "shapelet" é como um pequeno pedaço distinto dessa pegada que prova quem a fez. Neste caso, a "impressão digital" é um padrão específico de picos emocionais que apenas usuários de discurso de ódio parecem ter.

Mas verificar cada passo contra cada impressão digital levaria uma eternidade. Por isso, a equipe construiu uma biblioteca super rápida chamada Suffix Tree (Árvore de Sufixos). Pense nisso como um arquivo organizado e mágico onde cada padrão possível de palavras é classificado instantaneamente. Em vez de ler todos os livros da biblioteca para encontrar uma história, você apenas pergunta ao arquivo: "Onde está a história que começa com 'raiva'?" e ele aponta você diretamente para a prateleira. Isso tornou a busca deles incrivelmente rápida, transformando uma tarefa que normalmente leva eras em algo que acontece num piscar de olhos.

O Filtro de Duas Etapas: Tempo e Influência
Encontrar o padrão era apenas o primeiro passo. A verdadeira magia aconteceu quando eles adicionaram dois filtros extras, como um segurança verificando dois IDs na porta: Tempo e Influência.

A Janela de Tempo: A equipe percebeu que o discurso de ódio costuma explodir logo após um evento específico, como o surgimento de uma notícia. Eles não apenas procuraram pelo padrão ruim; eles perguntaram: "Isso aconteceu agora?". Ao focar em janelas de tempo específicas (como uma janela de 13 horas), eles puderam localizar exatamente quando a "infecção" começou a se espalhar.
A Verificação de Influência: Eles também verificaram o quão "popular" ou "conectado" o usuário era. Eles descobriram algo surpreendente: o discurso de ódio nem sempre vinha das maiores celebridades. Na verdade, eles suspeitaram que usuários influentes são banidos rapidamente, então a infecção muitas vezes se espalha através de usuários comuns e menos conectados. Eles usaram uma ferramenta matemática chamada 2D Range Tree para verificar se as postagens de um usuário ocorreram no tempo certo e se seu nível de influência se encaixava em uma determinada faixa.

O Que os Números Dizem
A equipe testou isso em um conjunto massivo de dados de tweets coletados durante um mês (de 1º de fevereiro de 2022 a 1º de março de 2022). Eles analisaram 3.912 usuários que postaram discurso de ódio e o equilibraram com um conjunto de dados de 46.557 tweets de 7.824 usuários distintos.

Quando executaram seus experimentos, os resultados foram promissores, mas específicos à sua configuração:

Precisão: Sua melhor configuração encontrou os usuários de discurso de ódio com uma precisão média de 0,72 e um F1-score médio de 0,84.
Velocidade: Seu novo método foi absurdamente mais rápido que a forma antiga e "ingênua" de fazer as coisas. Enquanto o método antigo levava cerca de 0,12 × 10⁻² segundos para um teste pequeno, o novo método o fez em 2,15 × 10⁻⁶ segundos. Conforme os dados cresceram para 23.800 itens, o método deles permaneceu rápido (cerca de 2,97 × 10⁻⁶ segundos), enquanto o método antigo desacelerou significativamente.
O Ponto Ideal: Eles descobriram que a infecção do discurso de ódio era mais visível em uma janela de tempo específica de [0, 13] (horas) e entre usuários no percentil de influência [0, 17,5]. Isso sugere que a infecção frequentemente começa com um pequeno grupo de usuários que não são necessariamente os mais famosos, mas são muito ativos durante uma crise específica.

O Que Eles Não Alegam
É importante notar o que este artigo não diz. Os autores são cuidadosos ao apontar que não estão alegando ter "resolvido" o discurso de ódio para sempre. Eles argumentam explicitamente contra confiar apenas em listas de palavras simples ou apenas olhar para o texto sem contexto. Eles também observam que seu método funciona melhor quando você tem condições específicas (como um tempo de evento conhecido) para filtrar; não é uma varinha mágica que encontra o discurso de ódio no vácuo sem quaisquer dados extras.

O Panorama Geral
Ao transformar o caos emocional em formas de dados organizadas e usar uma biblioteca super rápida para encontrá-las, os autores mostraram que podemos capturar a "infecção" do discurso de ódio de forma mais precisa. Eles descobriram que, ao olhar para quando os picos de raiva ocorrem e quem os está espalhando, podemos identificar a fonte do problema muito mais rápido do que antes. Embora sugiram que isso possa ajudar as plataformas de redes sociais a tomar medidas imediatas, eles apresentam isso como uma ferramenta poderosa para o arsenal, não como uma cura definitiva. O objetivo é detectar a faísca antes que toda a floresta pegue fogo.

Resumo Técnico: Examinando a Infecção de Discurso de Ódio em Redes Sociais Usando Restrições de Intervalo em Estruturas de Dados Multidimensionais

Definição do Problema
O artigo aborda o desafio de detectar e analisar a "infecção" de discurso de ódio em plataformas de redes sociais como o Twitter. Os autores argumentam que o discurso de ódio não é meramente um problema de classificação estática de postagens individuais, mas um fenômeno dinâmico impulsionado por eventos de intensa carga emocional e propagado através de redes de usuários específicas. A literatura existente frequentemente foca na classificação de mensagens de ódio isoladamente ou baseia-se em modelos de aprendizado profundo (ex: BERT) que, embora eficazes, podem ser difíceis de interpretar e podem sofrer de sobreajuste (overfitting) de dados. Além disso, as abordagens tradicionais muitas vezes falham em integrar dimensões críticas, como a janela temporal de um evento e a influência social dos usuários envolvidos. O problema central é identificar não apenas quem posta discurso de ódio, mas quando e sob quais condições de rede (ex: níveis de influência) esse comportamento ocorre para facilitar a mitigação imediata.

Metodologia
A metodologia proposta trata a detecção de discurso de ódio como um problema integrado de "infecção", modelando o comportamento do usuário por meio de análise de séries temporais e utilizando estruturas de dados eficientes para correspondência de padrões e consultas de intervalo (range querying).

Modelagem de Séries Temporais de Emoção:
- O comportamento do usuário é modelado como uma série temporal que representa a intensidade de emoções negativas ao longo do tempo.
- O Léxico de Intensidade de Emoção NRC-Canada (NRC-EIL) é utilizado para identificar palavras negativas (raiva, nojo, medo, tristeza) e atribuir-lhes pontuações de intensidade de valor real.
- Para cada usuário, uma série temporal é construída onde o valor de cada intervalo de tempo é a soma dos pesos das palavras negativas em suas postagens durante aquele intervalo.
- Para lidar com variações de ortografia, a distância de Levenshtein é empregada como uma métrica de dissimilaridade.
Transformação Simbólica e Redução de Dimensionalidade:
- As séries temporais contínuas são transformadas em séries temporais simbólicas usando a Aproximação de Agregação de Símbolos (SAX - Symbolic Aggregate approXimation).
- O processo envolve a normalização z (z-Normalization), a Aproximação de Agregação por Partes (PAA) para segmentar a série, e o mapeamento de segmentos para um alfabeto (ex: $\Sigma = \{a, b, c, d, e\}$ ) com base em pontos de ruptura (breakpoints). Isso reduz a dimensionalidade enquanto preserva a forma geral da curva de intensidade emocional.
Classificação por Shapelets:
- O estudo utiliza a classificação baseada em shapelets, onde "shapelets" são subsequências discriminativas das séries temporais que atuam como impressões digitais para usuários de discurso de ódio.
- Em vez da distância euclidiana (inadequada para dados simbólicos), os autores utilizam a Distância de Edição com Peso de Alfabeto (Alphabet-weight Edit Distance). Esta métrica atribui pesos às substituições de caracteres com base em sua proximidade no alfabeto, refletindo a intuição de que intensidades emocionais semelhantes estão mais próximas do que distantes.
- Uma Árvore de Sufixos Generalizada (Generalized Suffix Tree) é construída a partir da série temporal simbólica de todos os usuários para permitir a busca eficiente por esses shapelets.
Restrições de Intervalo Multidimensionais:
- Para refinar a identificação de usuários de discurso de ódio, o framework introduz restrições de pós-processamento baseadas em tempo e influência do usuário.
- Restrição de Tempo: O sistema busca ocorrências de shapelets dentro de intervalos de tempo específicos (ex: durante um evento específico).
- Restrição de Influência: A influência do usuário é quantificada usando a centralidade de grau ponderada derivada do grafo de retweets. O modelo hipotetiza que usuários individuais menos influentes podem ser mais propensos a postar discurso de ódio (já que usuários influentes são frequentemente banidos rapidamente).
- Estruturas de Dados:
  - Uma Árvore Binária Balanceada é integrada à árvore de sufixos (via travessia de tour de Euler) para lidar eficientemente com consultas de intervalo 1D no tempo.
  - Uma Árvore de Intervalo 2D (2D Range Tree) é adicionada para lidar com consultas simultâneas de tempo e influência.
- Isso resulta em uma abordagem híbrida: um classificador de shapelets identifica candidatos potenciais, e as estruturas de dados multidimensionais filtram esses candidatos com base em restrições temporais e de influência.

Principais Contribuições

Representação de Séries Temporais: O artigo introduz o uso de séries temporais simbólicas para representar a intensidade emocional da presença de usuários em redes sociais para detecção de discurso de ódio.
Classificação por Shapelets com Árvores de Sufixos: Propõe um novo método de classificação que combina a descoberta de shapelets com árvores de sufixos generalizadas para recuperação rápida, utilizando a Distância de Edição com Peso de Alfabeto para séries simbólicas.
Framework de Restrições Multidimensionais: Os autores introduzem um framework que estende a classificação com busca de pós-processamento usando estruturas de dados multidimensionais (árvores de sufixos, árvores binárias balanceadas e árvores de intervalo). Isso permite a filtragem simultânea de usuários com base em janelas temporais e métricas de influência de rede.
Interpretabilidade: Ao contrário dos modelos de aprendizado profundo de "caixa preta", esta abordagem fornece "impressões digitais" (shapelets) interpretáveis e permite a exploração de janelas de tempo específicas e intervalos de influência de usuário que desencadeiam a difusão de discurso de ódio.

Resultados Experimentais

Conjunto de Dados: O estudo utilizou um conjunto de dados de tweets contendo a palavra-chave "@CNN" de fevereiro de 2022, resultando em um conjunto equilibrado de 46.557 tweets de 7.824 usuários.
Comparação com Baselines: Os modelos propostos foram comparados contra classificadores de shapelets ingênuos (NSC) e vários baselines de aprendizado profundo (BERT-base-uncased, fBERT, HateBERT).
Desempenho:
- Acurácia: A configuração ótima (comprimento de shapelet 8, 3 shapelets, distância de edição 2) alcançou uma acurácia média de 0,72 e um F1-score médio de 0,84.
- Escalabilidade: As estruturas de dados propostas (SSC, SSCAB, SSCAR) demonstraram tempos de execução significativamente menores em comparação com métodos ingênuos à medida que o tamanho do conjunto de dados aumentava. Por exemplo, enquanto a abordagem ingênua escalava linearmente com o tamanho dos dados, as abordagens baseadas em árvore de sufixos mantiveram tempos de consulta quase constantes ou logarítmicos ( $O(n + \log m + k)$ ).
- Análise Dimensional: Os experimentos identificaram que a difusão do discurso de ódio estava mais concentrada em janelas de tempo específicas (ex: [0, 13] horas) e entre usuários nos percentis inferiores de influência (0–17,5%), apoiando a hipótesia de que usuários individuais, menos influentes, impulsionam a infecção.
Visualização: Uma análise de nuvem de palavras dos usuários identificados no discurso de ódio revelou tópicos relacionados a política, vacinas e a guerra Rússia-Ucrânia, confirmando a capacidade do modelo de capturar o discurso negativo contextualmente relevante.

Significância e Alegações
O artigo alega que sua significância reside em fornecer uma abordagem híbrida que combina o poder de reconhecimento de padrões da classificação por shapelets com a eficiência de estruturas de dados avançadas para consultas multidimensionais.

Eficiência: O uso de árvores de sufixos e árvores de intervalo permite a identificação rápida de usuários de discurso de ódio que aderem a condições complexas (tempo e influência), sendo computacionalmente superior aos métodos de força bruta.
Insights Acionáveis: Ao isolar as janelas de tempo específicas e os níveis de influência de usuário associados à "infecção" por discurso de ódio, a metodologia permite que operadores de redes sociais tomem ações de mitigação direcionadas (ex: identificar o evento desencadeador e os grupos de usuários específicos envolvidos) em vez de depender apenas de filtragem de conteúdo ampla.
Interpretabilidade: A abordagem oferece um mecanismo transparente para entender por que um usuário é sinalizado (via o padrão de shapelet específico) e quando o comportamento ocorreu, abordando as limitações de "caixa preta" do aprendizado profundo.
Extensibilidade: O framework foi projetado para ser facilmente expandido para incluir dimensões adicionais (ex: outras métricas de rede ou características de conteúdo) sem alterar fundamentalmente a lógica central de classificação.

Os autores mantêm um tom modesto, reconhecendo que, embora os resultados sejam promissores, a abordagem depende de ajustes de parâmetros específicos e que trabalhos futuros poderiam explorar estruturas de indexação mais complexas (como árvores de sufixos de propriedades) para otimizar ainda mais o desempenho de espaço e tempo.

Mais como este