Cultural Targets, Structural Frames, Binding Morals: A Cross-Lingual Audit of Online Hate in Multicultural Singapore

Résumé Technique : Cibles Culturelles, Cadres Structurels, Morale de Liaison

Énoncé du Problème
La recherche sur la haine en ligne s'est traditionnellement concentrée sur des contextes monolingues et monoplateforme, traitant principalement la détection du point de vue de l'émetteur. Deux questions critiques restent sous-explorées : (1) si les composantes structurelles de la haine (cibles, cadres de menace, fondements moraux) sont partagées entre les publics linguistiques coexistants au sein d'une même société, ou si elles sont culturellement idiosyncrasiques ; et (2) si la haine produite par une communauté est la même que celle que son audience amplifie. De plus, le domaine est confronté à un défi méthodologique : les modèles de langage de grande taille (LLM) utilisés comme annotateurs présentent souvent des désaccords sur la prévalence absolue de la haine, rendant les comparaisons translinguistiques de taux bruts peu fiables.

Méthodologie
L'étude utilise un corpus centré sur Singapour datant de 2025, comprenant 31,0 millions d'éléments issus de Facebook, Reddit et YouTube. Le jeu de données inclut 1,76 million de commentaires mentionnant onze groupes minoritaires saillents à Singapour (ex. : ressortissants de la RPC, travailleurs migrants, groupes religieux, LGBTQ) en anglais, chinois simplifié et malais.

• Pipeline d'annotation : Les auteurs emploient un processus de classification en deux étapes. L'étape 1 utilise un filtre lexical et prototypique à haut rappel. L'étape 2 emploie une décision de haine binaire isolée utilisant des LLM, avec des hypothèses nulles explicites (ex. : mentions neutres, critique de politiques) pour éviter d'inflater la prévalence. La confirmation nécessite un consensus entre deux invites formulées de manière indépendante.
• Benchmarking des modèles : Huit LLM open-source ont été testés par rapport à un ensemble de référence "gold" de 211 éléments judiciarisés par des humains. Les plafonds d'accord se sont révélés faibles ($\kappa \approx 0,42$), indiquant que la prévalence absolue est mal définie au niveau de l'annotateur. Par conséquent, l'étude adopte Phi-4 (14 milliards de paramètres) comme étiqueteur principal en raison de son équilibre supérieur entre précision (0,95), $\kappa$ de Cohen (0,91) et rappel (1,00) sur un contrôle manuel indépendant. Tous les résultats sont répliqués à l'aide d'un second modèle indépendant (Qwen2.5) pour garantir la robustesse.
• Analyse : L'analyse se concentre sur les comparaisons structurelles relatives plutôt que sur les taux absolus. Elle mesure la divergence translinguistique à l'aide du $V$ de Cramér et de la distance de variation totale sur quatre axes : Saillance de la cible, Cadre de menace, Fondement moral et Émotion. La signification statistique est testée à l'aide de tests $\chi^2$ avec contrôle FDR de Benjamini–Hochberg. La résonance (amplification) est modélisée via des comparaisons appariées au sein des fils de discussion sur Facebook, en contrôlant le fil, la longueur et le temps.

Contributions Clés

1. Contingence Culturelle Étagée : L'article propose une thèse falsifiable selon laquelle la haine en ligne est structurée par la contingence culturelle. Il démontre que la divergence translinguistique diminue de manière monotone à mesure que l'on passe de ce qui est haï (cibles) à comment il est cadré (menaces) jusqu'à pourquoi il est haï (fondements moraux).
2. Dissociation Production-Résonance : L'étude met en avant le côté réception de la haine, montrant que l'amplification par l'audience est sélectivement nativiste et ne suit pas linéairement les volumes de production.
3. Validité de la Mesure : Elle établit que pour des construits contestés comme la haine, la prévalence absolue n'est pas bien définie entre les annotateurs LLM (plafonnant à $\kappa \approx 0,42$). L'article plaide pour le rapport de la structure relative comme unité d'analyse primaire, les taux absolus n'étant traités que comme des plages calibrées.

Résultats

• Cibles (Culturellement Spécifiques) : La saillance des cibles varie considérablement selon la langue ($V=0,25$). Le discours anglais est large (se concentrant sur les musulmans, la RPC, les LGBTQ) ; le discours chinois se centre sur l'axe Chinois-local/RPC ; le discours malais se concentre sur la religion et les LGBTQ.
• Cadres de Menace (Structurels) : Bien que les cibles diffèrent, la correspondance entre les cibles et les cadres de menace est robuste. Les groupes religieux sont cadrés via des menaces religieuses ; les migrants/ressortissants étrangers via des menaces économiques, de sécurité ou de remplacement ; et les Chinois locaux via le pouvoir politique. L'hostilité anti-musulmane montre la plus haute invariance translinguistique.
• Fondements Moraux (Quasi-Universels) : La grammaire morale de la haine est hautement partagée entre les langues ($V=0,08$). La haine est principalement pilotée par des fondements moraux de liaison (Sanctité/55–75 %, Loyauté, Autorité) plutôt que par des fondements individualisants (Équité).
• Expression : La haine est pilotée par le mépris (94–96 % à travers les langues) et la colère, avec une déshumanisation fréquente (21–35 %). Elle est principalement un grief envers l'extérieur (anti-immigration) plutôt qu'envers le système ; les positions anti-immigration et anti-establishment sont négativement associées.
• Résonance : Les commentaires haineux sont généralement amplifiés moins que les mentions neutres. Cependant, l'amplification est sélectivement nativiste : la haine anti-CECA, anti-RPC et anti-travailleurs migrants est préférentiellement amplifiée, tandis que la haine contre les groupes religieux et LGBTQ est supprimée.
• Réactivité aux Événements : Le volume de haine ne connaît pas de pic significatif autour des grands événements de 2025 à Singapour (ex. : élections, incidents raciaux), suggérant une base stable plutôt qu'une volatilité dictée par les événements.

Signification et Revendications
L'article affirme que traiter la « haine en ligne » comme une prévalence unique et monolithique occulte une structure par couches. La conclusion centrale est que si les cibles de la haine sont sélectionnées localement et sont culturellement plastiques, la grammaire de la haine (les cadres de menace et les fondements moraux de liaison) est partagée de manière translinguistique.

Cela a des implications directes pour la modération de contenu translinguistique :

• Transfert de Politiques : Les détecteurs ou les politiques basés sur les cadres de menace sont plus susceptibles de se transférer d'une langue à l'autre que ceux basés sur des cibles spécifiques, qui nécessitent une localisation.
• Objectifs de Modération : Réduire la production de haine est distinct de réduire sa portée. Puisque l'amplification est sélectivement nativiste, les stratégies de modération doivent tenir compte du fait que l'audience filtre la haine différemment de la façon dont elle est produite.
• Rigueur Méthodologique : L'étude met en garde contre la dépendance aux seules mesures de prévalence absolue de la haine issues des LLM, préconisant l'analyse structurelle relative et le calibrage ancré sur l'humain.

Les auteurs maintiennent un champ d'application modeste, notant que leurs conclusions sont spécifiques au contexte de Singapour (une société, une année) et que le corpus est sans acteur (analysant les commentaires, non les utilisateurs). Ils soulignent que leurs lentilles théoriques sont utilisées de manière descriptive, et non causale.