How fake news can turn against its spreader

1. Problématique

L'article aborde l'impact croissant de la désinformation (fake news) sur les processus démocratiques et la prise de décision rationnelle. Le problème central est de comprendre comment un récepteur rationnel, exposé à plusieurs sources d'information (dont certaines contiennent de la désinformation), traite ces données. L'hypothèse de travail est que, dans certaines conditions spécifiques de combinaison de sources, la désinformation ne parvient pas à manipuler l'opinion dans le sens souhaité par le diffuseur, mais produit au contraire un effet inverse, nuisant ainsi à l'objectif initial de celui qui la propage.

2. Méthodologie

Les auteurs utilisent un cadre théorique issu de la théorie de la communication et des processus stochastiques pour modéliser la réception de l'information.

• Modélisation de base : L'information est décomposée en un signal ($X$, la vérité ou le choix réel) et un bruit ($\epsilon$). L'information reçue est modélisée par la variable aléatoire $\xi = \sigma X + \epsilon$, où $\sigma$ représente le rapport signal-sur-bruit (SNR).
• Modélisation de la désinformation : La désinformation est introduite comme un biais inconnu ($f$) dans le terme de bruit. Le message devient $\xi = \sigma X + (\epsilon + f)$. Le récepteur, ignorant l'existence de $f$, interprète ce biais comme une partie du signal, ce qui déplace sa perception de $X$ vers $X + f/\sigma$.
• Fusion de sources : Le cœur de l'analyse réside dans la combinaison de deux sources d'information ($\xi_1$ et $\xi_2$) contenant des signaux sur le même sujet $X$, avec des rapports signal-sur-bruit $\sigma_1$ et $\sigma_2$, et des bruits corrélés avec un coefficient $\rho$.
• Approche mathématique :
  • Utilisation du théorème de Bayes pour mettre à jour les probabilités a posteriori ($\pi_k$) des différentes alternatives en fonction de l'information reçue.
  • Transformation linéaire des variables aléatoires pour réduire le système à deux sources à une source effective unique.
  • Extension du modèle en temps continu (mouvement brownien) pour simuler l'arrivée continue d'information, utilisant le filtre de Wonham.

3. Contributions Clés

A. L'Effet de Reversal (Retournement)

La contribution principale est la démonstration mathématique que la désinformation peut se retourner contre son diffuseur.

• Condition : Si un récepteur consomme deux sources d'information, l'une vraie ($\xi_1$) et l'autre fausse ($\xi_2$ avec un biais $f_2$), et si les conditions suivantes sont réunies :
  1. Le rapport signal-sur-bruit de la source vraie est suffisamment élevé ($\sigma_1$ est grand).
  2. Les termes de bruit des deux sources sont positivement corrélés ($\rho > 0$).
  3. La condition $\sigma_2 < \rho \sigma_1$ est satisfaite (la source de désinformation est "faible" par rapport à la source vraie, compte tenu de la corrélation).
• Mécanisme : Le récepteur, voyant une grande valeur dans la source de désinformation ($\xi_2$) mais une valeur modérée dans la source vraie ($\xi_1$), infère logiquement que le bruit associé à la source vraie doit être élevé (en raison de la corrélation positive). Pour que le signal $\xi_1$ reste modéré malgré un bruit élevé, le signal sous-jacent $X$ doit être faible.
• Résultat : L'intention du diffuseur de fausses nouvelles (pousser vers une valeur élevée de $X$) conduit le récepteur à conclure que $X$ est faible. La désinformation renforce la croyance opposée à celle visée.

B. L'Effet de Dépassement (Overshoot Effect)

Les auteurs identifient un deuxième phénomène où une désinformation excessive peut faire basculer l'opinion vers une extrémité du spectre politique, contournant la position intermédiaire visée par le diffuseur.

• Contexte : Si un parti politique de position intermédiaire (ex: $x_{n-1}$) diffuse trop de désinformation pour attirer les électeurs vers la droite, il peut pousser les électeurs au-delà de sa propre position, vers l'extrême droite ($x_n$).
• Explication mathématique : Les probabilités a posteriori des positions extrêmes ($x_1$ et $x_n$) sont non bornées (peuvent atteindre 1), tandis que celles des positions intermédiaires sont bornées par des valeurs strictement inférieures à 1. Un signal trop fort ($\xi$) fait décroître la probabilité de la position intermédiaire au profit de l'extrême.

4. Résultats Principaux

1. Formule de la déviation : La combinaison de deux messages avec des biais $f_1$ et $f_2$ entraîne un décalage du signal effectif donné par :
   $$\Delta X = \frac{\sigma_1 - \rho\sigma_2}{\sigma(1-\rho^2)} f_1 + \frac{\sigma_2 - \rho\sigma_1}{\sigma(1-\rho^2)} f_2$$
   Si $\sigma_2 < \rho\sigma_1$, le coefficient de $f_2$ devient négatif, inversant l'effet de la désinformation.
2. Stratégie de contournement : Pour contrer la désinformation, il est plus efficace de renforcer la clarté et la force du message vrai (augmenter $\sigma_1$) que de tenter de démentir activement les fausses nouvelles, à condition que la corrélation des bruits soit positive.
3. Limites de la stratégie : Cette inversion ne fonctionne que si le récepteur consomme toutes les sources. Les individus enfermés dans une "bulle de désinformation" (ne consommant que $\xi_2$) ne subissent pas cet effet de retournement.
4. Données statistiques : L'article suggère que la connaissance de la distribution statistique de la désinformation (même sans connaître la valeur exacte du biais $f$) permet aux récepteurs de neutraliser l'impact de la désinformation, rendant les données agrégées sur les fake news plus précieuses que le fact-checking individuel.

5. Signification et Implications

• Défense des processus démocratiques : L'article offre une perspective optimiste et mathématiquement fondée : la désinformation n'est pas toujours une arme à sens unique. Dans un environnement médiatique saturé et corrélé, la propagation de fausses nouvelles peut, paradoxalement, renforcer la position de la vérité si celle-ci est suffisamment robuste.
• Nouvelle stratégie de communication : Pour les acteurs démocratiques, la stratégie recommandée n'est pas nécessairement une lutte acharnée contre chaque fausse information, mais plutôt l'investissement dans la production d'informations claires, fortes et fiables (augmentation du SNR).
• Compréhension des dynamiques politiques : L'effet de "dépassement" explique pourquoi une rhétorique extrémiste peut parfois nuire à un parti modéré en radicalisant l'électorat vers un parti encore plus extrême, un phénomène observé dans des contextes récents (ex: le parti conservateur britannique et Reform UK).
• Limites : L'auteur note que les conditions nécessaires (notamment la corrélation positive des bruits et la consommation de multiples sources) ne sont pas toujours garanties, mais lorsque elles sont réunies, la théorie de la fusion de l'information fournit un outil puissant pour contrer la désinformation.

En conclusion, ce papier démontre que la rationalité du récepteur, couplée à la structure statistique de l'information, peut transformer la désinformation en un mécanisme d'auto-annulation ou de contre-productivité pour son diffuseur.