Résumé technique : Un cadre bayésien ancré dans la cognition pour la vulnérabilité à la désinformation

Énoncé du problème

Les approches actuelles de traitement du langage naturel (NLP) pour la détection de la désinformation traitent majoritairement le problème comme une tâche de classification de véracité : étant donné une affirmation, prédire si elle est vraie ou fausse. Bien qu'efficaces pour identifier le contenu faux, ces paradigmes sont réducteurs car ils ignorent les processus cognitifs du lecteur. Les modèles existants manquent d'une représentation de l'agent humain, échouant à prédire qui est vulnérable à des types spécifiques de désinformation, pourquoi ils y croient, ou comment différents profils cognitifs conduisent à des interprétations divergentes d'une même affirmation. De plus, les pratiques standards rejettent souvent les désaccords des annotateurs (par exemple, via un vote majoritaire), perdant ainsi des signaux précieux concernant l'ambiguïté inhérente ou l'incertitude épistémique d'une affirmation.

L'article soutient que la vulnérabilité à la désinformation n'est pas simplement un échec de la vérification des faits, mais une conséquence de la rationalité limitée. Les humains ne traitent pas le langage comme des agents bayésiens idéaux ; ils opèrent sous des contraintes telles qu'une mémoire de travail limitée, une dépendance aux raccourcis mentaux (heuristiques) et l'influence d'informations saillantes ou fréquemment répétées.

Méthodologie : L'auditeur pragmatique borné (BPL)

Les auteurs introduisent l'auditeur pragmatique borné (BPL), un cadre bayésien formel qui étend la théorie des Actes de Parole Rationnels (RSA). Le BPL modélise un agent mettant à jour ses croyances sur un état du monde $w$ (affirmation vraie/fausse) étant donné un énoncé $u$ (affirmation d'actualité), soumis à trois contraintes de ressources motivées cognitivement :

1. Limite de profondeur de récursion ($k$) :

   • Concept : Limite la profondeur du raisonnement de « théorie de l'esprit » (ToM). Il modélise combien de couches d'intention de l'énonciateur un agent peut suivre (par exemple, $k=0$ : accepter le contenu littéral ; $k=1$ : reconnaître qu'un énonciateur a fait une affirmation ; $k=2$ : raisonner sur l'intention de l'énonciateur de manipuler le consensus social).
   • Base cognitive : Fondée sur les limites de la mémoire de travail (Cowan, 2001) et des résultats empiriques montrant que les agents récusent rarement au-delà de la profondeur 2 dans les jeux stratégiques (Camerer et al., 2004).
   • Mécanisme : La profondeur effective est $k^* = \min(k, d+1)$, où $d$ est la profondeur épistémique de l'affirmation (imbrication des opérateurs d'attribution de croyance).

2. Paramètre de compression des a priori ($\beta$) :

   • Concept : Modélise la façon dont un agent préserve des croyances nuancées sur la crédibilité par rapport à leur effondrement en heuristiques grossières (par exemple, « source douteuse ») sous charge cognitive.
   • Base cognitive : Dérivé de la théorie du goulot d'étranglement de l'information (Tishby et al., 1999) et de la théorie du double processus (Système 1 vs Système 2).
   • Mécanisme : L'agent maintient une représentation compressée $\tilde{P}_\beta(w)$ via une variable de goulot d'étranglement $Z$ (schémas de crédibilité). Lorsque $\beta \to 0$, l'agent rejette les a priori (traitement heuristique) ; lorsque $\beta \to \infty$, l'agent préserve les a priori complets (traitement systématique). La crédibilité de la source $\gamma$ module cette compression.

3. Taille de l'échantillon de disponibilité ($N$) :

   • Concept : Modélise le nombre d'exemples similaires qu'un agent récupère mentalement pour évaluer une affirmation, opérationnalisant l'échantillonnage d'importance avec des poids de saillance.
   • Base cognitive : Basé sur l'heuristique de disponibilité (Tversky et Kahneman, 1973) et l'« effet de vérité illusoire » (Hasher et al., 1977).
   • Mécanisme : Au lieu de calculer des vraisemblances exactes, l'agent estime la vraisemblance par échantillonnage à partir d'une distribution de proposition $Q(u)$ pondérée par des facteurs de saillance psychologique : valence émotionnelle ($\nu$), nombre de répétitions ($r$) et récence ($\rho$). Une petite valeur de $N$ conduit à une surpondération systématique d'exemples vivants ou répétés.

Cartographie du désordre informationnel

Le cadre cartographie explicitement la taxonomie du désordre informationnel de Wardle et Derakhshan (2017) vers les paramètres du BPL :

• Désinformation (Mis-information) : Exploite des a priori compressés ($k=0$).
• Désinformation (Dis-information) : Exploite un raisonnement ToM superficiel ($k \ge 1$).
• Mal-information : Exploite une récursion profonde et un cadrage méta-épistémique ($k \ge 2$).

Cette cartographie conduit au Paradoxe du décalage de profondeur : Les agents avec une conscience pragmatique partielle ($k=1$) peuvent être plus vulnérables à la désinformation que ceux sans conscience ($k=0$), car ils reconnaissent l'attribution mais échouent à évaluer l'intention trompeuse qui la sous-tend.

Mise en œuvre et évaluation

Les auteurs ont implémenté le BPL en utilisant deux jeux de données : LIAR (affirmations de PolitiFact) et MultiFC (affirmations de vérification des faits multi-domaines).

• Population d'agents : Une population de neuf types d'agents canoniques couvrant l'espace paramétrique $(k, \beta, N)$ a été simulée.
• Ancrage par les LLM : Une version hybride a été développée où les grands modèles de langage (LLM, spécifiquement Gemini 2.5 Pro) ont été utilisés pour dériver des caractérisations sémantiquement riches des affirmations, incluant :
  • Des schémas verbaux pour la compression des a priori (remplaçant les tableaux manuellement conçus).
  • Des poids de saillance ($\phi$) basés sur l'intensité émotionnelle, la nouveauté, la mémorabilité et la partageabilité.
  • Une récupération de mémoire simulée pour l'échantillon de disponibilité.
• Métriques : Classification de véracité (AUC, F1), erreur de prédiction et calibration au niveau des composants (corrélation entre le rappel simulé et la vérité terrain).

Résultats clés

1. Classification de véracité

• Jeu de données LIAR : La « Surface Baseline » (utilisant les métadonnées de l'historique de l'énonciateur) a atteint un AUC parfait (1,000), mais cela a été attribué à une fuite de données où l'historique de l'énonciateur codait directement l'étiquette. Le modèle BPL Full (utilisant l'historique de l'énonciateur uniquement comme un a priori compressé, et non comme une fonctionnalité directe) a atteint un AUC de 0,930 et un F1 de 0,885, établissant une forte base de référence sans fuite de données. Un seul scalaire BPL (score de vulnérabilité) a atteint un AUC de 0,811 en utilisant uniquement le texte de l'affirmation et l'identité de l'énonciateur.
• Jeu de données MultiFC : BPL Full a atteint un AUC de 0,840 contre une base de référence de surface de 0,879. Bien que BPL n'ait pas amélioré la discrimination (AUC), la combinaison des fonctionnalités BPL avec les fonctionnalités de surface a amélioré le score F1 de 0,439 à 0,517, indiquant de meilleurs compromis précision-rappel cruciaux pour la vérification des faits à haut rappel.

2. Études d'ablation

• La compression des a priori est critique : Le retrait de la limite de compression des a priori ($\beta$) a causé la plus grande baisse de performance ($\Delta r = -0,064$), suggérant que modéliser la façon dont les humains compressent la crédibilité de la source est le facteur le plus significatif dans le succès du cadre.
• Effets de la limite de profondeur : Sur l'ensemble du jeu de données LIAR (92 % d'affirmations de profondeur 0), assouplir la limite de profondeur a eu des effets négligeables. Cependant, lorsqu'il est conditionné aux affirmations de profondeur 1, la limite de profondeur est devenue le principal moteur de la performance.

3. Le Paradoxe du décalage de profondeur

• Validation empirique : Les agents avec $k=1$ (conscience partielle) ont obtenu des résultats significativement pires sur les affirmations de profondeur 1 (erreur 0,510) que les agents $k=0$ (erreur 0,450).
• Interprétation : Les agents $k=1$ reconnaissent l'attribution mais ne peuvent pas évaluer l'intention trompeuse de l'énonciateur, les amenant à traiter l'affirmation comme une preuve positive faible. Les agents $k=0$ ignorent l'attribution et évaluent le contenu littéral (qui est souvent linguistiquement improbable), résultant en une croyance plus faible. Les agents $k=2$ infèrent correctement la tromperie, atteignant l'erreur la plus faible (0,340).

4. Ancrage par les LLM et calibration

• Gain de performance : Le LLM-BPL hybride a atteint un AUC de 0,868 sur un petit échantillon contre 0,695 pour une base de référence basée sur des fonctionnalités appariée.
• Canal épistémique : Les modèles LLM et basés sur des fonctionnalités ont montré une quasi-indépendance ($r=0,184$), suggérant que le LLM accède à un canal épistémique distinct (cohérence du cadrage sémantique) plutôt que de compter sur des métadonnées lexicales.
• Calibration de la disponibilité : Le rappel simulé par le LLM des affirmations fausses a fortement corrélé ($r=0,562$) avec la fausseté réelle des affirmations sans supervision, validant le mécanisme de disponibilité. Le modèle a naturellement récupéré plus d'exemples faux pour les affirmations fausses, supprimant efficacement la croyance en elles.

Importance et revendications

L'article positionne le BPL comme un travail en cours offrant une alternative ancrée dans la cognition aux méthodes standard de détection de la désinformation. Ses contributions principales sont :

1. Théorique : Une cartographie formelle des types de désordre informationnel vers des contraintes cognitives, prédisant le « paradoxe du décalage de profondeur » où une formation partielle peut augmenter la vulnérabilité.
2. Méthodologique : Un cadre probabiliste qui se réduit au RSA standard lorsque les contraintes sont assouplies, permettant la modélisation de profils cognitifs hétérogènes et la prédiction du désaccord des annotateurs comme variance a posteriori.
3. Empirique : Des preuves que la compression des a priori (modélisant la façon dont les humains simplifient la crédibilité de la source) est le facteur dominant dans la classification de véracité, et que l'ancrage par les LLM améliore considérablement les performances en simulant une récupération de mémoire et un cadrage sémantique à la manière humaine.

Les auteurs concluent que, bien que le BPL soit un classifieur puissant, sa véritable valeur réside dans sa capacité à expliquer pourquoi certains agents sont vulnérables. Ils mettent en garde contre le fait que l'architecture actuelle suppose une vérité binaire et repose sur des heuristiques simplistes pour l'extraction de la profondeur, notant que les travaux futurs devraient aborder la véracité graduée et un analyseur de dépendances plus sophistiqué. Le cadre suggère que les interventions se concentrant uniquement sur l'enseignement aux gens de remarquer l'attribution (sans enseigner l'évaluation de l'intention) pourraient involontairement augmenter la vulnérabilité à la désinformation.