💬 NLP

Directed Social Regard: Surfacing Targeted Advocacy, Opposition, Aid, Harms, and Victimization in Online Media

Ce papier présente la Considération Sociale Dirigée (CSD), un nouveau cadre d'analyse de sentiment multidimensionnel utilisant des modèles basés sur les transformateurs pour identifier simultanément les cibles de sentiment et les évaluer le long de trois axes de considération sociale, capturant ainsi la coexistence de sentiments pro-sociaux et anti-sociaux dans les médias en ligne que les outils traditionnels négligent.

Auteurs originaux : Scott Friedman, Ruta Wheelock, Sonja Schmer-Galunder, Drisana Iverson, Jake Vasilakes, Joan Zheng, Jeffrey Rye, Vasanth Sarathy, Christopher Miller

Publié 2026-05-04

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Scott Friedman, Ruta Wheelock, Sonja Schmer-Galunder, Drisana Iverson, Jake Vasilakes, Joan Zheng, Jeffrey Rye, Vasanth Sarathy, Christopher Miller

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous marchiez dans une place de ville bondée et bruyante. Sur cette place, les gens se hurlent des messages les uns aux autres. Parfois, une seule personne crie une phrase qui est un mélange d'amour, de haine, de colère et de pitié, tout à la fois.

Par exemple, quelqu'un pourrait crier : "Comment peuvent-ils faire ça aux enfants ??"

Les anciens outils d'analyse du langage (comme les analyseurs de sentiments de base) sont comme un simple thermomètre. Ils regardent toute cette phrase et disent : « C'est Négatif ». C'est tout. Ils manquent la nuance. Ils ne vous disent pas qui est haï, qui est plaint, ou quelle action est condamnée.

Ce papier présente un nouvel outil, beaucoup plus intelligent, appelé Considération Sociale Dirigée (CSD). Imaginez la CSD non pas comme un thermomètre, mais comme un projecteur haute technologie doté de trois lentilles de couleurs différentes.

Les Trois Lentilles du Projecteur

Au lieu de simplement dire « Bien » ou « Mal », le projecteur CSD se concentre sur des mots spécifiques (ou des « segments ») dans une phrase et pose trois questions précises pour chacun d'eux :

La lentille « S'opposer vs. Soutenir » : Le locuteur essaie-t-il d'arrêter cette personne/chose, ou les encourage-t-il ?
- Dans notre exemple : Le locuteur S'oppose à « eux » et Soutient « les enfants ».
La lentille « Nuisible vs. Utile » : Le locuteur pense-t-il que cette personne/chose cause des dommages ou apporte de l'aide ?
- Dans notre exemple : « Eux » et l'action « faire ça » sont vus comme Nuisibles.
La lentille « Victime vs. Aidé » : Le locuteur voit-il cette personne/chose comme une victime qui a besoin d'être sauvée, ou comme quelqu'un qui reçoit de l'aide ?
- Dans notre exemple : Les « enfants » sont vus comme Victimisés.

Comment l'Outil Fonctionne (Le « Cerveau » et les « Mains »)

Les chercheurs ont construit un système d'apprentissage automatique en deux parties pour faire cela :

Les « Mains » (Reconnaissance de segments) : D'abord, le système lit le texte et agit comme un surligneur. Il trouve les parties importantes. Il surligne « ils » comme un personnage, « enfants » comme un personnage, et « faire ça » comme un sujet. Il connaît la différence entre une personne et un événement.
Le « Cerveau » (Évaluation de la considération) : Une fois les parties surlignées, le « Cerveau » attribue un score à chacune sur une échelle allant de -1 (fortement négatif) à +1 (fortement positif) pour chacune des trois lentilles mentionnées ci-dessus.

Pourquoi Cela Compte (Le « Pourquoi »)

Le papier explique qu'il ne s'agit pas seulement de mathématiques sophistiquées ; cela repose sur la psychologie humaine réelle.

Désengagement moral : Parfois, les gens justifient de blesser les autres en disant : « Ils l'ont mérité ». L'outil CSD peut saisir ce mélange complexe : il voit que le locuteur considère un groupe à la fois comme « Opposé » (nous les détestons) et « Nuisible » (ils sont mauvais), ce qui est une façon pour les humains de justifier un mauvais comportement.
Dynamiques de groupe : Cela nous aide à voir comment les groupes parlent de « Nous » par rapport à « Eux ». Par exemple, dans un ensemble de données qu'ils ont étudié (un groupe appelé la « Manosphère »), l'outil a découvert que les locuteurs se considéraient souvent comme des victimes (« Moi/Nous ») tout en considérant les femmes comme les « Nuisibles ». Dans un autre ensemble de données (sur le mouvement #MeToo), l'outil a inversé ce scénario, montrant les femmes comme « Victimisées » et les hommes comme « Nuisibles ».

La Preuve (Est-ce que ça a marché ?)

Les chercheurs ont testé leur outil de deux manières :

L'Essai routier : Ils lui ont fait avaler des milliers de publications sur les réseaux sociaux qu'ils avaient étiquetées manuellement par des humains. Le « surlignage » de l'outil était précis à environ 90-96 %, et son « scoring » correspondait très étroitement aux opinions humaines.
Le Test de réalité : Ils ont pris l'outil et l'ont fait fonctionner sur des ensembles de données existants d'autres chercheurs (comme des ensembles de données sur les discours de haine, les mouvements politiques et les débats en ligne).
- Résultat : Les scores de l'outil correspondaient parfaitement à ce que les experts humains avaient déjà trouvé. Par exemple, lorsqu'un ensemble de données était étiqueté « Indignation morale », l'outil CSD a correctement montré des scores d'« Opposition » élevés envers les cibles de cette indignation.

La Conclusion

Ce papier présente une nouvelle façon d'écouter les conversations en ligne. Au lieu d'entendre simplement « C'est un mauvais tweet », l'outil CSD nous permet d'entendre : « Ce tweet attaque le Groupe A pour avoir blessé le Groupe B, tout en exprimant une profonde sympathie pour le Groupe B. »

C'est un outil qui nous aide à comprendre les sentiments complexes, superposés et souvent contradictoires que les gens expriment lorsqu'ils tapent sur leurs téléphones. Les chercheurs ont construit le moteur, l'ont entraîné sur un ensemble de données massif de plus de 1 800 publications, et ont prouvé qu'il fonctionne mieux que les méthodes anciennes et plus simples pour repérer qui est blâmé, qui est sauvé et qui est encouragé.

1. Énoncé du problème

Les outils actuels de traitement du langage naturel (NLP) pour l'analyse de sentiments classent généralement un texte entier comme positif, négatif ou neutre, ou attribuent un seul score d'intensité. Ces approches échouent à résoudre deux complexités critiques dans les médias en ligne :

Sentiments coexistants : Un seul message contient souvent des sentiments mixtes (par exemple, plaider en faveur d'une victime tout en s'opposant à un agresseur) qui sont perdus lorsqu'ils sont agrégés en un score unique.
Ambiguïté de la cible : Les outils standards ne peuvent pas identifier qui ou quoi est la cible du sentiment (la cible), ni distinguer entre différents types de relations sociales (par exemple, la cible est-elle aidée, lésée, opposée ou victimaire ?).

Les cadres existants comme l'analyse de sentiments ciblée (TSA), l'analyse de sentiments basée sur les aspects (ABSA) et la détection de la position (Stance Detection) nécessitent souvent des cibles prédéfinies, reposent sur des étiquettes catégorielles ou manquent d'évaluation multidimensionnelle. Il existe un besoin d'un cadre capable d'extraire automatiquement des cibles et de les noter selon des dimensions continues et théoriquement fondées de considération sociale.

2. Méthodologie : Le cadre de la Considération Sociale Dirigée (DSR)

Les auteurs proposent la Considération Sociale Dirigée (DSR), une approche d'analyse de sentiments multidimensionnelle et multivalente ancrée dans les théories des sciences sociales (spécifiquement la Désengagement Moral et le Cadrage Moral).

A. Dimensions théoriques

La DSR définit le sentiment non pas comme une polarité unique, mais comme trois axes bipolaires indépendants (allant de -1 à +1) :

Opposé–Plaidé : Si l'auteur souhaite entraver ou défendre une cible.
Nuisible–Utile : Si l'auteur considère la cible comme une source de nuisance ou d'aide pour autrui.
Victimisé–Aidé : Si l'auteur considère la cible comme étant lésée ou aidée par autrui.

Ces dimensions permettent des représentations nuancées, telles qu'une cible étant simultanément « Opposée » et « Nuisible » (justifiant l'agression) ou « Plaidée » et « Victimisée » (exprimant l'empathie).

B. Construction du jeu de données

Sources de données : Les auteurs ont collecté 1 838 textes provenant de huit sources diverses d'Informations Publiquement Accessibles (PAI), notamment Reddit, les commentaires du New York Times, Gab, et des corpus spécifiques sur les discours de haine, la « Manosphère » et des événements politiques (par exemple, #MeToo, élections françaises).
Annotation : Des annotateurs humains ont identifié des segments (séquences de mots contigus représentant des personnages ou des sujets) et les ont notés sur les trois axes DSR en utilisant une interface à curseur (-1,0 à 1,0).
Échelle : Le jeu de données final contient 13 893 segments avec 26 779 scores d'intensité moyennés. L'accord inter-annotateurs (α de Krippendorff) était élevé (0,71–0,91).

C. Architecture du modèle

Le système DSR utilise un pipeline à deux étapes basé sur les transformateurs :

Reconnaissance de segments (Classification de tokens) :
- Utilise un Transformateur affiné (par exemple, DeBERTa-v3) pour identifier et classifier les segments comme étant soit des Personnages (personnes/groupes), soit des Sujets (événements/concepts).
- Sortie : Une liste de segments détectés avec leurs types.
Notation de la considération (Intensité au niveau du segment) :
- Prend les segments identifiés et le contexte complet du texte.
- Utilise un encodeur Transformateur (DeBERTa-v3) pour générer des plongements contextuels.
- Applique un Pooler de contexte pour normaliser les vecteurs de segments.
- Passe les vecteurs à travers des couches linéaires pour prédire trois scores de régression continus (-1 à 1) pour chaque segment : Opposé–Plaidé, Nuisible–Utile, et Victimisé–Aidé.
- Note : Le modèle est entraîné en utilisant une fonction de perte d'erreur quadratique moyenne (MSE).

3. Contributions clés

Cadre novateur : Introduction de la DSR, qui va au-delà du sentiment catégoriel pour aller vers une considération sociale continue, multidimensionnelle et spécifique à la cible.
Nouveau jeu de données : Création d'un jeu de données annoté à grande échelle et de haute qualité pour l'entraînement et l'évaluation de sentiments sociaux multidimensionnels au niveau des segments.
Intégration théorique : Opérationnalisation réussie de théories des sciences sociales (Désengagement Moral de Bandura, Politesse de Brown & Levinson) dans des tâches de NLP.
Découverte de cibles en zéro-shot : Contrairement à la détection de la position, la DSR ne nécessite pas de cibles pré-spécifiées ; elle découvre automatiquement les segments saillants dans le texte.

4. Résultats expérimentaux

A. Performance de reconnaissance de segments

Le modèle le plus performant (DeBERTa-v3-large-mnli) a obtenu un score F1 de 0,96 pour les segments de personnages et 0,74 pour les segments de sujets selon des critères d'appariement stricts.
Les métriques au niveau des tokens étaient plus élevées (F1 ~0,92), indiquant que le modèle identifie efficacement les limites des cibles de sentiments.

B. Performance de notation de la considération

Le modèle de notation a démontré une forte corrélation avec les annotations humaines.
Opposé–Plaidé : $R^2 = 0,85$ , RMSE = 0,20.
Victimisé–Aidé : $R^2 = 0,67$ , RMSE = 0,10.
Nuisible–Utile : $R^2 = 0,57$ , RMSE = 0,12.
Comparaison : Les modèles DeBERTa spécialisés ont nettement surpassé les grands modèles de langage (LLM) comme Llama 3.2 (affiné via LoRA) et GPT-4o (few-shot), suggérant que les modèles de régression conçus à cet effet sont plus efficaces pour cette tâche spécifique de prédiction numérique que les LLM génératifs.

C. Études d'application (Validation sur des jeux de données externes)

Les auteurs ont appliqué le modèle DSR entraîné à six jeux de données externes pour valider son utilité :

Benchmarks de pontage : Les scores DSR étaient fortement corrélés aux étiquettes au niveau du document. Une forte « Indignation morale » était corrélée à une forte opposition envers des cibles de 2e/3e personne, tandis que le « Respect » était corrélé au plaidoyer.
Corpus Twitter des Fondements Moraux (MFTC) : Les attributs DSR s'alignaient sur la théorie des fondements moraux. Les « Vertus » (par exemple, le Soin) étaient corrélées aux scores « Utile/Aidé », tandis que les « Vices » (par exemple, le Préjudice) étaient corrélés aux scores « Nuisible/Opposé ».
Comparaison de corpus :
- Manosphère vs Discours de haine : Le corpus de la Manosphère montrait un fort « Plaidoyer pour Toi » et « Victime|Moi/Nous » (auto-victimisation), tandis que le corpus de discours de haine montrait un fort « Plaidoyer pour le Préjudice ».
- MeToo : Montrait un fort « Victime|Femme » et « Nuisible|Homme », s'alignant sur les thèmes du mouvement.
- ALM vs Baltimore : Distinguait des points de vue opposés sur les forces de l'ordre ; « All Lives Matter » montrait un plaidoyer pour la police, tandis que les manifestations de « Baltimore » montraient une opposition.
Analyse par paires : Le modèle a extrait avec succès des micro-récits (par exemple, « Ils nuisent à Nous ») en visualisant les paires de préjudice/aide co-occurrentes, révélant des modèles structurels dans le discours communautaire.

5. Signification et implications

Granularité : La DSR offre une vue granulaire du discours en ligne, révélant comment les sentiments pro-sociaux et antisociaux coexistent au sein de messages uniques dirigés vers différentes cibles.
Utilité pour les sciences sociales : Elle offre un outil quantitatif aux chercheurs pour étudier le désengagement moral, la formation de l'identité de groupe et les mécanismes de radicalisation en ligne sans dépendre de mots-clés prédéfinis.
Sécurité des plateformes : Le cadre peut aider les plateformes à identifier des contenus nuisibles complexes (par exemple, plaider pour un préjudice contre un groupe spécifique) qui pourraient être manqués par des filtres de sentiments négatifs simples.
Perspectives futures : Les auteurs suggèrent d'utiliser la DSR pour la surveillance en temps réel des opérations d'influence, la compréhension des changements culturels dans le cadrage moral et l'amélioration de l'explicabilité de la modération de contenu pilotée par l'IA.

En conclusion, l'article présente un cadre NLP robuste et théoriquement fondé qui fait progresser significativement l'état de l'art de l'analyse de sentiments en capturant la direction, l'intensité et la multidimensionalité de la considération sociale dans les médias en ligne.