💻 computer science

Examining hate speech infection in social media using range constraints in multidimensional data structures

Cet article propose une méthodologie qui combine l'analyse de séries temporelles basée sur les shapelets avec des structures de données multidimensionnelles et des contraintes de plage afin d'identifier précisément les fenêtres temporelles et les modèles de connectivité des utilisateurs qui pilotent la propagation des discours de haine sur les médias sociaux, permettant ainsi une détection et une atténuation plus efficaces des événements.

Auteurs originaux : Eleanna Kafeza, Christos Makris, Gerasimos Rompolas, Georgios Mavris

Publié 2026-07-15

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Eleanna Kafeza, Christos Makris, Gerasimos Rompolas, Georgios Mavris

Article original sous licence CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez les réseaux sociaux comme une fête géante et animée où tout le monde crie ses pensées. Parfois, l'ambiance tourne au vinaigre, et un type particulier d'« infection toxique » (les discours de haine) commence à se propager. Les auteurs de cet article, Eleanna Kafeza et son équipe, ont voulu comprendre précisément quand cette infection commence et qui la propage, plutôt que de simplement essayer d'attraper chaque mot malveillant qui passe.

Considérez la chronologie d'un utilisateur non pas comme une liste de publications, mais comme un moniteur cardiaque. Au lieu de regarder les mots eux-mêmes, l'équipe a transformé l'intensité émotionnelle de chaque utilisateur en une ligne sinueuse sur un graphique. Si un utilisateur publie des choses coléreuses ou haineuses, son « rythme cardiaque » présente des pics d'énergie négative.

La boîte à outils du détective : Shapelets et Arbres de suffixes
Pour trouver les acteurs malveillants, les chercheurs ont utilisé une astuce ingénieuse appelée classification par shapelets. Imaginez que vous cherchez une empreinte digitale spécifique dans un tas d'empreintes de pieds boueux. Un « shapelet » est comme un petit fragment distinctif de cette empreinte qui prouve qui l'a faite. Dans ce cas, la « signature » est un motif spécifique de pics émotionnels que seuls les utilisateurs de discours de haine semblent posséder.

Mais vérifier chaque pas contre chaque empreinte prendrait une éternité. Ainsi, l'équipe a construit une bibliothèque super rapide appelée Arbre de suffixes. Considérez cela comme un classeur magique et organisé où chaque motif de mots est trié instantanément. Au lieu de lire tous les livres de la bibliothèque pour trouver une histoire, vous demandez simplement au classeur : « Où est l'histoire qui commence par "colère" ? » et il vous pointe directement vers l'étagère. Cela a rendu leur recherche incroyablement rapide, transformant une tâche qui prend habituellement des siècles en quelque chose qui se produit en un clin d'œil.

Le filtre en deux étapes : Temps et Influence
Trouver le motif n'était que la première étape. La véritable magie s'est produite lorsqu'ils ont ajouté deux filtres supplémentaires, comme un videur vérifiant deux pièces d'identité à l'entrée : le Temps et l'Influence.

La fenêtre de temps : L'équipe a réalisé que les discours de haine explosent souvent juste après un événement spécifique, comme la diffusion d'une information. Ils ne se sont pas contentés de chercher le mauvais motif ; ils ont demandé : « Ce motif s'est-il produit en ce moment même ? » En zoomant sur des fenêtres de temps spécifiques (comme une fenêtre de 13 heures), ils ont pu localiser précisément quand l'« infection » a commencé à se propager.
La vérification de l'influence : Ils ont également vérifié à quel point l'utilisateur était « populaire » ou « connecté ». Ils ont découvert quelque chose de surprenant : les discours de haine ne proviennent pas toujours des plus grandes célébrités. En fait, ils soupçonnent que les utilisateurs influents sont bannis rapidement, donc l'infection se propage souvent via des utilisateurs ordinaires, moins connectés. Ils ont utilisé un outil mathématique appelé Arbre de plages 2D pour vérifier si les publications d'un utilisateur se sont produites au bon moment et si son niveau d'influence correspondait à une certaine plage.

Ce que disent les chiffres
L'équipe a testé cela sur un ensemble massif de données de tweets collectées sur un mois (du 1er février 2022 au 1er mars 2022). Ils ont examiné 3 912 utilisateurs ayant publié des discours de haine et l'ont équilibré avec un ensemble de données de 46 557 tweets provenant de 7 824 utilisateurs distincts.

Lorsqu'ils ont lancé leurs expériences, les résultats étaient prometteurs mais spécifiques à leur configuration :

Précision : Leur meilleure configuration a trouvé les bons utilisateurs de discours de haine avec une précision moyenne de 0,72 et un score F1 moyen de 0,84.
Vitesse : Leur nouvelle méthode était incroyablement plus rapide que l'ancienne méthode « naïve ». Alors que l'ancienne méthode prenait environ 0,12 × 10⁻² secondes pour un petit test, leur nouvelle méthode l'a fait en 2,15 × 10⁻⁶ secondes. Lorsque les données passaient à 23 800 éléments, leur méthode restait rapide (environ 2,97 × 10⁻⁶ secondes), tandis que l'ancienne méthode ralentissait considérablement.
Le point d'équilibre : Ils ont trouvé que l'infection par le discours de haine était la plus visible dans une fenêtre de temps spécifique de [0, 13] (heures) et parmi les utilisateurs du [0, 17,5] percentile d'influence. Cela suggère que l'infection commence souvent avec un petit groupe d'utilisateurs qui ne sont pas nécessairement les plus célèbres, mais qui sont très actifs pendant une crise spécifique.

Ce qu'ils ne prétendent pas
Il est important de noter ce que cet article ne dit pas. Les auteurs soulignent avec prudence qu'ils ne prétendent pas avoir « résolu » le problème des discours de haine pour toujours. Ils soutiennent explicitement qu'il ne faut pas se fier uniquement à de simples listes de mots ou simplement regarder le texte sans contexte. Ils notent également que leur méthode fonctionne mieux lorsque vous avez des conditions spécifiques (comme un temps d'événement connu) pour filtrer ; ce n'est pas une baguette magique qui trouve les discours de haine dans le vide, sans aucune donnée supplémentaire.

La vue d'ensemble
En transformant le chaos émotionnel en formes de données organisées et en utilisant une bibliothèque super rapide pour les trouver, les auteurs ont montré que nous pouvons attraper l'« infection » des discours de haine de manière plus précise. Ils ont découvert qu'en regardant quand les pics de colère surviennent et qui les propage, nous pouvons identifier la source du problème bien plus rapidement qu'auparavant. Bien qu'ils suggèrent que cela pourrait aider les plateformes de réseaux sociaux à prendre des mesures immédiates, ils présentent cela comme un nouvel outil puissant dans la boîte à outils, et non comme un remède définitif. L'objectif est de repérer l'étincelle avant que toute la forêt ne brûle.

Résumé technique : Examen de l'infection par les discours de haine sur les réseaux sociaux à l'aide de contraintes de plage dans des structures de données multidimensionnelles

Énoncé du problème
L'article traite du défi de la détection et de l'analyse de l'« infection » par les discours de haine sur les plateformes de médias sociaux comme Twitter. Les auteurs soutiennent que le discours de haine n'est pas simplement un problème de classification statique de publications individuelles, mais un phénomène dynamique piloté par des événements émotionnellement intenses et propagé à travers des réseaux d'utilisateurs spécifiques. La littérature existante se concentre souvent sur la classification de messages de haine de manière isolée ou repose sur des modèles d'apprentissage profond (par exemple, BERT) qui, bien qu'efficaces, peuvent être difficiles à interpréter et peuvent subir un surapprentissage (overfitting) des données. De plus, les approches traditionnelles échouent souvent à intégrer des dimensions critiques telles que la fenêtre temporelle d'un événement et l'influence sociale des utilisateurs impliqués. Le problème central est d'identifier non seulement qui publie des discours de haine, mais aussi quand et sous quelles conditions de réseau (par exemple, niveaux d'influence) ce comportement se produit afin de faciliter une atténuation immédiate.

Méthodologie
La méthodologie proposée traite la détection des discours de haine comme un problème intégré d'« infection », modélisant le comportement des utilisateurs par l'analyse de séries temporelles et utilisant des structures de données efficaces pour la reconnaissance de formes et l'interrogation de plages.

Modélisation de la série temporelle de l'émotion :
- Le comportement de l'utilisateur est modélisé comme une série temporelle représentant l'intensité des émotions négatives au fil du temps.
- Le lexique d'intensité émotionnelle NRC-Canada (NRC-EIL) est utilisé pour identifier les mots négatifs (colère, dégoût, peur, tristesse) et leur attribuer des scores d'intensité de valeurs réelles.
- Pour chaque utilisateur, une série temporelle est construite où la valeur de chaque intervalle de temps est la somme des poids des mots négatifs dans leurs publications durant cet intervalle.
- Pour gérer les variations d'orthographe, la distance de Levenshtein est employée comme métrique de dissimilarité.
Transformation symbolique et réduction de la dimensionnalité :
- Les séries temporelles continues sont transformées en séries temporelles symboliques à l'aide de l'approximation de série temporelle symbolique (SAX).
- Le processus implique la z-Normalisation, l'Approximation de l'Agrégation par Morceaux (PAA) pour segmenter la série, et la mise en correspondance de segments avec un alphabet (par exemple, $\Sigma = \{a, b, c, d, e\}$ ) basé sur des points de rupture. Cela réduit la dimensionnalité tout en préservant la forme générale de la courbe d'intensité émotionnelle.
Classification par shapelets :
- L'étude emploie une classification basée sur les shapelets, où les « shapelets » sont des sous-séquences discriminantes des séries temporelles agissant comme des empreintes digitales pour les utilisateurs de discours de haine.
- Au lieu de la distance euclidienne (inadaptée aux données symboliques), les auteurs utilisent la Distance d'Édition à Poids d'Alphabet (Alphabet-weight Edit Distance). Cette métrique attribue des poids aux substitutions de caractères en fonction de leur proximité dans l'alphabet, reflétant l'intuition que des intensités émotionnelles similaires sont plus proches que des intensités distantes.
- Un Arbre de Suffixes Généralisé (Generalized Suffix Tree) est construit à partir de la série temporelle symbolique de tous les utilisateurs pour permettre une recherche efficace de ces shapelets.
Contraintes de plage multidimensionnelles :
- Pour affiner l'identification des utilisateurs de discours de haine, le cadre introduit des contraintes de post-traitement basées sur le temps et l'influence de l'utilisateur.
- Contrainte de temps : Le système recherche les occurrences de shapelets dans des intervalles de temps spécifiques (par exemple, lors d'un événement particulier).
- Contrainte d'influence : L'influence de l'utilisateur est quantifiée par la centralité de degré pondérée dérivée du graphe de retweet. Le modèle suppose que les utilisateurs individuels moins influents peuvent être plus enclins à publier des discours de haine (les utilisateurs influents étant souvent bannis rapidement).
- Structures de données :
  - Un Arbre Binaire Équilibré est intégré à l'arbre de suffixes (via le parcours de l'arbre d'Euler) pour gérer efficacement les requêtes de plage 1D sur le temps.
  - Un Arbre de Plage 2D (2D Range Tree) est ajouté pour gérer les requêtes simultanées sur le temps et l'influence.
- Cela aboutit à une approche hybride : un classificateur de shapelets identifie les candidats potentiels, et les structures de données multidimensionnelles les filtrent en fonction des contraintes temporelles et d'influence.

Principales contributions

Représentation de série temporelle : Le papier introduit l'utilisation de séries temporelles symboliques pour représenter l'intensité émotionnelle de la présence sur les médias sociaux des utilisateurs pour la détection des discours de haine.
Classification par shapelets avec arbres de suffixes : Il propose une nouvelle méthode de classification combinant la découverte de shapelets avec des arbres de suffixes généralisés pour une récupération rapide, utilisant la Distance d'Édition à Poids d'Alphabet pour les séries symboliques.
Cadre de contraintes multidimensionnelles : Les auteurs introduisent un cadre qui étend la classification par une recherche de post-traitement utilisant des structures de données multidimensionnelles (arbres de suffixes, arbres binaires équilibrés et arbres de plage). Cela permet de filtrer simultanément les utilisateurs selon des fenêtres temporelles et des métriques d'influence réseau.
Interprétabilité : Contra matter aux modèles de deep learning « boîte noire », cette approche fournit des « empreintes digitales » (shapelets) interprétables et permet l'exploration de fenêtres temporelles spécifiques et de plages d'influence d'utilisateurs qui déclenchent la diffusion de la haine.

Résultats expérimentaux

Jeu de données : L'étude a utilisé un ensemble de tweets contenant le mot-clé « @CNN » de février 2022, résultant en un ensemble équilibré de 46 557 tweets provenant de 7 824 utilisateurs.
Comparaison avec les bases de référence : Les modèles proposés ont été comparés à des classificateurs de shapelets naïfs (NSC) et à diverses bases de référence d'apprentissage profond (BERT-base-uncased, fBERT, HateBERT).
Performance :
- Précision (Accuracy) : La configuration optimale (longueur de shapelet 8, 3 shapelets, distance d'édition 2) a atteint une précision moyenne de 0,72 et un score F1 moyen de 0,84.
- Scalabilité : Les structures de données proposées (SSC, SSCAB, SSCAR) ont démontré des temps d'exécution nettement inférieurs aux méthodes naïves à mesure que la taille du jeu de données augmentait. Par exemple, alors que l'approche naïve évoluait linéairement avec la taille des données, les approches basées sur l'arbre de suffixes maintenaient des temps de requête quasi constants ou logarithmiques ( $O(n + \log m + k)$ ).
- Analyse dimensionnelle : Les expériences ont identifié que la diffusion des discours de haine était la plus concentrée dans des fenêtres temporelles spécifiques (par exemple, [0, 13] heures) et parmi les utilisateurs dans les percentiles inférieurs d'influence (0–17,5 %), soutenant l'hypothèse que les utilisateurs individuels, moins influents, pilotent l'infection.
Visualisation : L'analyse par nuage de mots des utilisateurs de discours de haine identifiés a révélé des sujets liés à la politique, aux vaccins et à la guerre en Russie et en Ukraine, confirmant la capacité du modèle à capturer un discours négatif contextuellement pertinent.

Signification et revendications
Le papier affirme que sa signification réside dans la fourniture d'une approche hybride qui combine la puissance de reconnaissance de formes de la classification par shapelets avec l'efficacité des structures de données avancées pour l'interrogation multidimensionnelle.

Efficacité : L'utilisation d'arbres de suffixes et d'arbres de plage permet l'identification rapide des utilisateurs de discours de haine qui respectent des conditions complexes (temps et influence), ce qui est informatiquement supérieur aux méthodes de force brute.
Informations exploitables : En isolant les fenêtres temporelles spécifiques et les niveaux d'influence des utilisateurs associés à l'« infection » par les discours de haine, la méthodologie permet aux opérateurs de médias sociaux de prendre des mesures d'atténuation ciblées (par exemple, identifier l'événement déclencheur et les groupes d'utilisateurs spécifiques impliqués) plutôt que de compter uniquement sur un filtrage de contenu large.
Interprétabilité : L'approche offre un mécanisme transparent pour comprendre pourquoi un utilisateur est signalé (via le motif de shapelet spécifique) et quand le comportement s'est produit, répondant ainsi aux limites de la « boîte noire » du deep learning.
Extensibilité : Le cadre est conçu pour être facilement étendu afin d'inclure des dimensions supplémentaires (par exemple, d'autres métriques de réseau ou des caractéristiques de contenu) sans modifier fondamentalement la logique de classification centrale.

Les auteurs maintiennent un ton modeste, reconnaissant que bien que les résultats soient prometteurs, l'approche dépend d'un réglage spécifique des paramètres et que les travaux futurs pourraient explorer des structures d'indexation plus complexes (comme les arbres de suffixes de propriétés) pour optimiser davantage les performances en espace et en temps.

Articles similaires