Résumé technique : La communication médiatisée par l'IA peut orienter l'opinion collective

Énoncé du problème

L'intelligence artificielle générative (IA), en particulier les grands modèles de langage (LLM), est de plus en plus intégrée aux plateformes en ligne pour médiatiser la communication entre humains. Des fonctionnalités telles que « Améliorer mon message » sur LinkedIn ou « Expliquer ce message » sur X modifient le contenu généré par les utilisateurs ou fournissent un contexte à celui-ci. Alors que des recherches antérieures ont établi que les LLM peuvent exprimer des opinions biaisées et influencer les individus lors d'interactions directes humain-IA, il existe un écart significatif dans la compréhension de la manière dont ces biais affectent la formation de l'opinion collective lorsque l'IA agit comme médiateur entre les humains. La question centrale abordée est la suivante : comment les biais introduits par un système d'IA dans la communication entre humains se propagent-ils à travers un réseau social pour modifier l'opinion collective d'une population ?

Méthodologie

Les auteurs emploient une méthodologie tripartite combinant analyse empirique, modélisation théorique et audit de plateforme.

1. Analyse empirique du biais directionnel

L'étude examine si les LLM introduisent des biais directionnels lors de la modification ou de la rédaction de messages sur les réseaux sociaux concernant des sujets controversés.

• Ensembles de données : Les auteurs ont utilisé le corpus UKP Sentential Argument Mining (8 sujets) et l'ensemble de données SemEval-2016 Task 6 (6 sujets), couvrant des questions telles que l'avortement, le contrôle des armes à feu et l'athéisme.
• Modèles : Quatre familles de LLM à poids ouverts ont été testées : Llama-3.1-8B-Instruct, Ministral-3-8B-Instruct-2512, gemma-3-12b-it et Qwen3-8B.
• Tâches : Deux scénarios ont été simulés : (i) la rédaction d'un message à partir d'un argument (argument $\to$ message) et (ii) l'amélioration d'un brouillon existant (message $\to$ message).
• Mesure : Les opinions ont été quantifiées sur une échelle continue $[0, 1]$ (0 = contre, 1 = en faveur) en utilisant un ensemble de cinq classificateurs basés sur différents modèles d'encodage de texte préentraînés. Le biais a été mesuré comme la différence ($\beta = y - x$) entre l'opinion humaine originale ($x$) et l'opinion transformée par le LLM ($y$).

2. Modélisation théorique de la dynamique de l'opinion

Pour analyser la propagation du biais, les auteurs ont étendu le modèle séminal de Friedkin-Johnsen sur la dynamique de l'opinion.

• Structure du modèle : Un réseau social est modélisé comme un graphe pondéré où les individus mettent à jour leurs opinions en fonction de leurs croyances innées et des opinions perçues de leurs voisins.
• Transformation par l'IA : Une fonction $f$ est introduite pour représenter la médiation par l'IA. L'opinion perçue d'un voisin $j$ est transformée de son opinion exprimée $x_j$ en $y_j = f(x_j)$.
• Analyse linéaire : Les auteurs ont d'abord analysé une transformation linéaire $f_{lin}(x) = mx + b$. Ils ont dérivé des expressions sous forme close pour l'état d'équilibre et prouvé que le système converge vers un équilibre unique.
• Insight clé : Le modèle traite l'IA comme un « voisin invisible » avec un point neutre persistant $\nu$. Les auteurs ont dérivé les conditions selon lesquelles le déplacement de l'opinion moyenne de la population à l'équilibre dépasse strictement le biais initial « ponctuel » introduit par l'IA sur les entrées individuelles.

3. Simulation et audit de plateforme

• Simulations : En utilisant des données de réseaux sociaux réels du dépôt SNAP (Twitter, Facebook, Google+), les auteurs ont simulé la dynamique de l'opinion sur 100 pas de temps. Ils ont appliqué des transformations non linéaires par l'IA, estimées à partir de leurs résultats empiriques (en utilisant la régression à noyau de Nadaraya–Watson), à une fraction d'utilisateurs (« adoptants de l'IA »).
• Audit de plateforme : Les auteurs ont audité la fonctionnalité « Expliquer ce message » de X, qui utilise le modèle Grok. Ils ont analysé 78 messages liés à l'avortement (39 pro-choix, 39 anti-avortement) pour déterminer si le contexte généré par l'IA s'alignait sur des positions spécifiques. Ils ont systématiquement ablaté les quatre directives de prompt de X pour identifier la source de tout biais observé.

Résultats clés

1. Biais directionnels systématiques dans les LLM

Les résultats empiriques démontrent que les LLM introduisent systématiquement des biais directionnels lors de la modification de textes humains, même lorsqu'ils sont instruits de préserver le sens original.

• Ampleur et direction : La plupart des modèles (Llama, Ministral, gemma) ont introduit un biais statistiquement significatif en faveur de la position « en faveur » sur la plupart des sujets (par exemple, contrôle des armes à feu, féminisme, changement climatique).
• Exceptions : Sur le sujet de l'athéisme, les modèles ont tendance à introduire un biais contre la position « en faveur », bien qu'ils expriment souvent une opinion positive lorsqu'ils sont interrogés directement. Cela suggère que les benchmarks mesurant les opinions directes des LLM sont insuffisants pour capturer les biais introduits lors de la médiation.
• Corrélation : Il existe une corrélation positive modérée entre l'opinion exprimée directement par un LLM et le biais qu'il introduit, suggérant que les données d'entraînement inhérentes du modèle « fuient » dans ses capacités de modification.

2. Amplification du biais dans les réseaux sociaux

Les résultats théoriques et de simulation confirment que les biais médiatisés par l'IA ne sont pas simplement additifs, mais sont amplifiés à travers le réseau.

• Déplacement d'équilibre : Dans le modèle linéaire, le déplacement de l'opinion moyenne de la population à l'équilibre peut être considérablement plus important que le biais moyen ponctuel introduit par l'IA.
• Résultats de simulation : Dans les simulations utilisant le réseau Twitter, le déplacement moyen de l'opinion à long terme était jusqu'à 9,2 fois plus important que le biais moyen introduit sur les opinions innées individuelles. L'effet d'amplification est le plus fort lorsque la population d'utilisateurs possède des opinions innées équilibrées mais une faible obstination (forte susceptibilité à l'influence).

3. Biais induit par la conception sur X

L'audit de la fonctionnalité « Expliquer ce message » de X a révélé un biais directionnel dans les sorties de Grok concernant l'avortement.

• Asymétrie : Grok était significativement plus susceptible de générer un contexte soutenant une position anti-avortement lors de l'explication d'un message anti-avortement, par rapport à la génération d'un contexte pro-choix pour un message pro-choix.
• Cause racine : En testant par ablation les directives de prompt, les auteurs ont identifié qu'une directive spécifique — « Fournir des informations véridiques et fondées, remettre en question les récits dominants si nécessaire, mais rester objectif » — était le principal moteur de ce biais anti-avortement. Le retrait de cette directive a éliminé le biais statistiquement significatif.

Importance et affirmations

L'article soutient que la communication médiatisée par l'IA représente un levier nouveau et puissant pour influencer l'opinion collective, avec des implications que les cadres réglementaires actuels pourraient ne pas réussir à traiter.

• Mécanisme d'amplification : La contribution théorique centrale est la démonstration que de petits biais au niveau individuel introduits par l'IA peuvent se cumuler et se propager à travers les réseaux sociaux, entraînant des déplacements à grande échelle de l'opinion collective qui dépassent largement l'ampleur du biais initial.
• Responsabilité de conception : L'audit de X démontre que ces biais ne sont pas des artefacts inévitables de l'entraînement des modèles, mais peuvent être directement attribués à des choix spécifiques de conception de plateforme (ingénierie de prompt). Cela suggère que les plateformes ont la capacité d'influencer la formation de l'opinion par le biais de la conception de leur interface.
• Lacunes réglementaires : Les auteurs soutiennent que la législation européenne existante, notamment la Loi sur l'IA (AIA) et le Règlement sur les services numériques (DSA), pourrait être insuffisante pour atténuer ces risques.
  • La classification « à haut risque » de l'AIA pour l'influence électorale pourrait ne pas s'appliquer si l'objectif explicite de l'IA n'est pas d'influencer le vote, même si l'effet est de déplacer les opinions.
  • Les définitions des risques systémiques du DSA concernant la désinformation ou les violations des droits de l'homme pourraient ne pas capturer les « sorties biaisées » qui ne sont pas factuellement fausses mais sont orientées directionnellement.
• Implications plus larges : Les auteurs mettent en garde que si les journalistes, les professionnels et le public s'appuient de plus en plus sur l'IA pour rédiger, affiner ou contextualiser l'information, ces systèmes pourraient façonner silencieusement le texte que les gens lisent et écrivent, érodant potentiellement la diversité des connaissances collectives et du discours démocratique.

L'article conclut en appelant à davantage de recherches sur les liens de causalité entre la médiation par l'IA et le comportement électoral, et à ce que les décideurs politiques prennent en compte les effets subtils et cumulatifs de l'IA sur la formation de l'opinion lors de l'élaboration de futures réglementations.