Strategies for preventing and reversing polarized online discourse

Résumé technique : Stratégies de prévention et de renversement de la polarisation des discours en ligne

Énoncé du problème
La polarisation politique pose des défis importants aux démocraties modernes, menaçant la cohésion sociale et le soutien institutionnel. Bien que les modèles mathématiques et computationnels de la dynamique des opinions aient proliféré pour expliquer ces phénomènes, ils reposent souvent sur des hypothèses simplificatrices qui les déconnectent de la compréhension empirique des sciences sociales. Les modèles traditionnels traitent généralement les agents comme possédant une attitude unique et stable, opérant sans mémoire, ou interagissant sur la base d'appartenances de groupe fixes ou de distances d'opinion statiques. Ces simplifications ne parviennent pas à capturer la complexité des environnements de médias sociaux contemporains, où les identités sont fluides, dépendantes du contexte et construites à travers des interactions dynamiques. Les auteurs abordent la nécessité d'un modèle plus réaliste sur le plan psychologique pour évaluer la capacité des interventions au niveau de la plateforme à prévenir ou à inverser la polarisation extrême.

Méthodologie
Les auteurs développent un modèle computationnel, basé sur des agents, ancré dans la psychologie sociale pour simuler le discours en ligne. Le modèle s'écarte des cadres standards de la dynamique des opinions par plusieurs extensions psychologiques clés :

1. Identités multidimensionnelles : Contrairement aux modèles dotés d'états internes unitaires, les agents possèdent plusieurs « aspects du soi » (dimensions identitaires, $D$). Un agent peut tenir des attitudes différentes sur un même sujet selon la dimension identitaire qui est active (par exemple, « parent » vs « féministe »).
2. Mémoire limitée et sensibilité au contexte : Les agents maintiennent des vecteurs de mémoire pour leurs propres attitudes exprimées (mémoire du soi) et pour les attitudes des autres (mémoire de l'autre). Les assignations à l'endogroupe et à l'exogroupe ne sont pas fixes mais sont déterminées dynamiquement à chaque étape sur la base de la distance moyenne entre l'attitude actuelle d'un agent et les attitudes détenues dans sa mémoire récente. Cela met en œuvre le principe de méta-contraste de la théorie de l'auto-catégorisation, où les frontières de groupe émergent du ratio entre les différences intergroupes et intragroupes au sein d'un contexte spécifique.
3. Mise à jour des attitudes basée sur l'utilité : Les agents mettent à jour leurs attitudes pour maximiser une fonction d'utilité équilibrant trois forces :
   • Cohérence du soi : Alignement avec ses propres attitudes récemment exprimées.
   • Attraction de l'endogroupe : Conformité à l'attitude moyenne de l'endogroupe dynamiquement assigné.
   • Poussée de l'exogroupe : Différenciation de l'exogroupe.
     Les mises à jour se produisent via un apprentissage myope et bruité, où les agents acceptent de manière probabiliste des perturbations qui augmentent l'utilité attendue.
4. Fenêtres d'Overton : Le modèle incorpore deux contraintes normatives :
   • Fenêtre d'Overton douce : Une plage dynamique basée sur les attitudes collectives de la population ; exprimer des vues en dehors de cette plage entraîne un coût d'utilité ($c_S$), simulant l'application des normes communautaires (ex: vote de désapprobation/down-voting).
   • Fenêtre d'Overton dure : Une plage fixe définie par les règles de la plateforme ; exprimer des vues en dehors de cette plage entraîne un coût d'utilité plus élevé ($c_H$), simulant la modération de la plateforme (ex: suppression de contenu).
5. Structure du discours : La simulation imite les conversations de type fil de discussion sur des plateformes comme X ou Reddit. Les agents décident de répondre ou non à des publications non lues (avec une probabilité diminuant selon la profondeur du fil) ou de commencer de nouveaux fils sur des sujets, régis par un paramètre de « biais d'attention » ($\alpha$) qui peut orienter la discussion vers des sujets spécifiques.

Contributions clés
Le document contribue à un cadre computationnel qui intègre des structures d'identité complexes, une mémoire temporelle et une formation de groupe dynamique dans la dynamique des opinions. Il classifie systématiquement les résultats du discours en trois états :

1. Consensus : Discours non polarisé contraint à l'intérieur de la fenêtre d'Overton dure.
2. Polarisation contrainte : Clusters d'attitudes distincts qui restent à l'intérieur de la fenêtre d'Overton dure.
3. Polarisation incontrôlée (Runaway) : Clusters distincts qui échappent à la fenêtre d'Overton dure, représentant des discours extrêmes qui violent les normes de la plateforme.

Les auteurs utilisent ce modèle pour simuler et évaluer quatre interventions spécifiques mises en œuvre au niveau de la plateforme :

1. Hausse du coût : Augmenter la pénalité ($c_H$) pour la transgression de la fenêtre d'Overton dure.
2. Optimisation de la fenêtre : Ajuster la largeur de la fenêtre d'Overton dure pour maximiser le consensus.
3. Équilibre de l'attention : Fixer le biais d'attention ($\alpha$) à zéro pour amplifier les sujets sous-discutés.
4. Élites modérées : Amplifier les voix influentes qui modélisent un discours non polarisé, augmentant ainsi l'« attraction de l'endogroupe » vers le centre.

Résultats
Les simulations révèlent des dynamiques distinctes concernant la prévention et le renversement de la polarisation :

• Prévention : Les interventions qui augmentent le coût de la violation des normes (Hausse du coût), équilibrent l'attention entre les sujets (Équilibre de l'attention) et amplifient les élites modérées sont hautement efficaces (80–100 % d'efficacité) pour prévenir la polarisation incontrôlée sur une large gamme de paramètres. Inversement, les tentatives d'« optimiser » la fenêtre d'Overton en contractant sa largeur déclenchent souvent un effet de retour de flamme (backfire effect), augmentant considérablement la probabilité de polarisation incontrôlée.
• Renversement : Une fois la polarisation incontrôlée installée, la plupart des interventions échouent à la renverser. Seules les interventions de Hausse du coût et des Élites modérées montrent une efficacité pour renverser la polarisation. L'intervention des Élites modérées est la plus robuste, réussissant à renverser la polarisation dans toutes les configurations de paramètres testées, tandis que l'intervention de Hausse du coût est sensible au nombre de dimensions identitaires et au moment de l'intervention.
• Extrémisme latent : Une conclusion critique est que même lorsque les interventions réussies renversent la polarisation exprimée, elles entraînent souvent un extrémisme latent. Les agents peuvent passer à l'expression d'attitudes associées à une autre dimension identitaire qui se situe dans la fenêtre d'Overton, tout en conservant des attitudes extrêmes dans la dimension identitaire supprimée. Cet extrémisme latent augmente linéairement avec le délai entre l'apparition de la polarisation et l'intervention.
• Complexité identitaire : Augmenter le nombre de dimensions identitaires ($D$) ne cause pas intrinsèquement la polarisation, mais renforce l'efficacité de certaines interventions, particulièrement celle de la Hausse du coût, en fournissant aux agents des voies identitaires alternatives pour exprimer des vues non extrêmes.

Signification et affirmations
Les auteurs présentent leur travail comme un outil de génération d'hypothèses plutôt que comme une preuve irréfutable, soulignant que leurs conclusions sont fondées sur des théories psychologiques établies concernant la complexité du soi, l'identité sociale et la perception des normes.

Le document affirme que restreindre la liberté d'expression en réduisant la plage du discours acceptable (contraction de la fenêtre d'Overton) est une stratégie inefficace et potentiellement contre-productive pour lutter contre la polarisation. Au lieu de cela, les auteurs suggèrent que l'atténuation efficace nécessite :

1. L'application des normes existantes : Augmenter les coûts de violation des règles de la plateforme.
2. Des incitations à l'attention : Diriger l'attention des utilisateurs vers des sujets sous-discutés.
3. Le modèle des élites : Amplifier les individus influents qui expriment des attitudes modérées et possèdent un attrait transversal.

Cependant, les auteurs émettent une mise en garde importante : bien que ces interventions puissent prévenir ou renverser l'expression de la polarisation, elles peuvent ne pas éliminer les attitudes sous-jacentes. La persistance de l'extrémisme latent suggère que les interventions réussies peuvent simplement déplacer le lieu de la polarisation vers différentes dimensions identitaires plutôt que de résoudre les divisions fondamentales. Ce travail souligne la nécessité de modéliser les individus comme des acteurs sensibles au contexte avec des identités structurées pour prédire avec précision les résultats des interventions sur les médias sociaux.