Predicting, Evaluating, and Explaining Top Misinformation Spreaders via Archetypal User Behavior
Cet article propose un cadre pour prédire, évaluer et expliquer les principaux diffuseurs de désinformation en modélisant trois archétypes d'utilisateurs distincts (amplificateurs, super-diffuseurs et comptes coordonnés), démontrant que les traits des super-diffuseurs dominent les classements de premier rang tandis que la dynamique temporelle et l'IA explicable améliorent la précision prédictive et l'interprétabilité pour une modération de contenu proactive.
Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
Sur les réseaux sociaux, l'information voyage à la vitesse de la pensée, mais tout le monde ne joue pas le même rôle lors de son partage. Certains créent les histoires originales, tandis que d'autres se contentent de les transmettre, et quelques-uns travaillent ensemble pour s'assurer qu'un message atteigne le plus grand nombre de regards possible. Lorsque la fausse information se propage, ce n'est que rarement la faute d'une seule personne ; c'est plutôt le résultat d'un réseau complexe de comportements où différents types d'utilisateurs amplifient, coordonnent et lancent des récits. Comprendre qui sont ces personnes et comment elles opèrent est crucial car les fausses histoires peuvent fausser l'opinion publique, éroder la confiance envers la science et causer des dommages réels dans le monde physique. Le défi pour les plateformes est qu'au moment où une fausse histoire est signalée et supprimée, elle a souvent déjà voyagé trop loin pour être arrêtée. Pour stopper la propagation avant qu'elle ne prenne de l'élan, les chercheurs ont besoin d'un moyen d'identifier les comptes spécifiques les plus susceptibles de causer des dommages, non pas en devinant leurs intentions, mais en observant comment ils se comportent réellement.
Une équipe de chercheurs s'est donné pour mission de résoudre ce problème en examinant les empreintes numériques laissées par les utilisateurs qui propagent des contenus à faible crédibilité. Ils se sont concentrés sur trois modèles de comportement distincts, ou « archétypes », que ces utilisateurs ont tendance à suivre. Le premier groupe, qu'ils appellent les amplificateurs, crée rarement ses propres publications. Au lieu de cela, ils agissent comme un mégaphone, repartageant constamment du contenu créé par d'autres pour augmenter sa portée. Le deuxième groupe, connu sous le nom de super-diffuseurs, sont les créateurs originaux de contenus viraux. Ils écrivent des publications qui sont systématiquement partagées des milliers de fois, agissant comme l'étincelle qui déclenche un incendie. Le troisième groupe est composé de comptes coordonnés, qui sont des groupes d'utilisateurs travaillant de concert pour pousser le même message au même moment, créant ainsi l'illusion d'un large consensus public. Les chercheurs ont réalisé que ces rôles ne sont pas toujours distincts ; un utilisateur peut agir comme un super-diffuseur pour une histoire et comme un amplificateur pour une autre, ou un groupe peut coordonner ses actions pour imiter une voix unique et influente.
Pour tester l'efficacité de leur capacité à prédire qui diffuserait de la désinformation ensuite, les chercheurs ont analysé deux vastes collections de données provenant de Twitter pendant la pandémie. Un ensemble de données contenait des conversations provenant d'Italie, tandis que l'autre était une collection mondiale de publications dans de nombreuses langues. Ils ont d'abord étiqueté le contenu en fonction de la fiabilité des sites web liés dans les publications, en utilisant un système qui évalue les domaines d'actualités de zéro à cent. Ils ont ensuite construit différents modèles mathématiques pour classer les utilisateurs selon les trois archétypes comportementaux. Certains modèles comptaient le nombre de fois qu'un utilisateur repartageait de fausses histoires, tandis que d'autres examinaient la rapidité avec laquelle un utilisateur partageait une histoire après sa publication, ou à quel point l'activité d'un utilisateur correspondait étroitement à celle d'un autre dans un groupe coordonné. Ils ont également créé une nouvelle version sensible au temps d'un score d'influence classique, qui tient compte de la façon dont l'activité d'un utilisateur change au fil des jours et des semaines, plutôt que de se contenter d'un instantané unique.
Les résultats ont montré que la manière la plus efficace de trouver les plus gros fauteurs de troubles était de chercher les super-diffuseurs. Lorsque les chercheurs ont classé les utilisateurs en fonction de leur capacité à générer du contenu original que d'autres repartageraient, ces comptes sont systématiquement apparus tout en haut de la liste. Ce sont ces individus qui sont responsables de l'explosion initiale de viralité qui permet aux récits mensongers de s'installer. Cependant, alors que les chercheurs examinaient plus en détail la liste des utilisateurs influents, le tableau devenait plus complexe. Dans les rangs intermédiaires et inférieurs, le comportement des amplificateurs et des groupes coordonnés devenait beaucoup plus prédominant. Cela suggère que si quelques super-diffuseurs allument le feu, ce sont les amplificateurs qui le maintiennent brûlant et les groupes coordonnés qui attisent les flammes à travers le réseau.
Pour obtenir une image plus claire de la manière dont ces différents comportements travaillent ensemble, l'équipe a entraîné un modèle d'apprentissage automatique qui combine les trois archétypes en un seul système. Ils ont ensuite utilisé une technique qui explique comment le modèle prend ses décisions, leur permettant de voir quels comportements importaient le plus. Ils ont découvert que le modèle reposait fortement sur le nombre de fois qu'un utilisateur repartageait du contenu à faible crédibilité, un trait associé aux amplificateurs. C'était surprenant car on pourrait s'attendre à ce que les créateurs de contenus viraux soient le signal le plus important. Au lieu de cela, les données ont montré que l'acte de repartager est un indicateur de risque puissant. Le modèle a également confirmé que les super-diffuseurs, identifiés par leur capacité à générer un engagement constant, étaient critiques, surtout parmi les utilisateurs les mieux classés. À mesure que le classement descendait, l'influence du comportement coordonné et de la fréquence de repartage devenait plus forte, révélant un écosystème stratifié où différents types d'acteurs jouent différents rôles dans le même problème.
L'étude a également testé l'efficacité de ces méthodes lorsqu'il y a très peu de données disponibles, simulant un scénario où une plateforme doit prendre une décision rapidement après l'apparition d'une nouvelle histoire. Ils ont constaté que le score d'influence sensible au temps restait stable et précis même avec des informations limitées, surpassant les anciennes méthodes qui ne tenaient pas compte du moment de l'activité de l'utilisateur. Le modèle d'apprentissage automatique, cependant, avait des difficultés lorsqu'il était entraîné sur de très petites quantités de données, suggérant que si les modèles complexes sont puissants, ils ont besoin d'un historique suffisant pour apprendre les schémas. Les chercheurs ont conclu que la meilleure approche pour les plateformes est probablement une combinaison de ces outils : utiliser des scores simples et sensibles au temps pour identifier rapidement les comptes les plus dangereux, et utiliser des modèles plus détaillés pour comprendre toute la gamme de comportements qui soutiennent la propagation de la désinformation. En se concentrant sur ces schémas observables plutôt qu'en essayant de deviner l'intention d'un utilisateur, les plateformes peuvent intervenir plus tôt, en ciblant les comptes spécifiques qui causent le plus de tort avant que la fausse information ne devienne impossible à contenir.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.