Like Article, Like Audience: Enforcing Multimodal Correlations for Disinformation Detection

Imaginez l'internet comme une place de village immense et animée où tout le monde crie, partage et se dispute. Dans cette ville numérique, la « désinformation » est comme une machine à rumeurs qui fait tourner des histoires folles et fausses pour tromper les gens ou semer le trouble. Pendant longtemps, les scientifiques essayant d'arrêter ces rumeurs se sont principalement concentrés sur les mots eux-mêmes, examinant les articles de presse comme un détective examinant une simple feuille de papier pour y chercher des fautes d'orthographe ou des tournures suspectes. Mais ce document suggère que regarder seulement le papier ne suffit pas. Il propose une nouvelle idée : pour comprendre une histoire, vous devez aussi comprendre la foule qui l'aime. Le concept central ici est l'« apprentissage multimodal », ce qui est juste une façon sophistiquée de dire que nous devrions regarder différents types d'indices ensemble — comme le texte de l'article et le texte des personnes qui le partagent. La grande question que les chercheurs posent est simple : les personnes qui partagent une fausse histoire ont-elles l'air et le ton différents de celles qui partagent une histoire vraie ? Si nous pouvons apprendre à un ordinateur à remarquer cette connexion, peut-être pourra-t-il repérer les menteurs plus rapidement.

Les auteurs de ce document, travaillant avec des données de Twitter, ont décidé de construire un programme informatique intelligent qui agit comme un détective qui ne se contente pas de lire le titre, mais qui vérifie aussi les badges d'identité des personnes qui le tiennent. Ils ont créé un système qui apprend en regardant deux choses à la fois : l'article de presse lui-même et le « contenu généré par l'utilisateur » des personnes qui l'ont partagé. Le contenu généré par l'utilisateur est simplement ce que les gens ordinaires créent, comme la bio Twitter (description de profil) et leurs tweets récents. Les chercheurs ont remarqué que les gens ont généralement une personnalité en ligne cohérente ; si vous écrivez sur la musique dans votre bio, vous partagez probablement des articles de musique. Ils se sont demandé si un article de fausses informations attirerait un « type » de personne spécifique, et si ces personnes partageraient une ambiance similaire entre elles.

Pour tester cela, ils ont construit un algorithme d'apprentissage qui utilise trois règles spécifiques, ou « objectifs », pour entraîner l'ordinateur. Premièrement, l'ordinateur doit apprendre à faire la différence entre une histoire vraie et une histoire fausse, tout comme un détective normal. Deuxièmement, et c'est la partie ingénieuse, l'ordinateur est forcé d'apprendre que l'« ambiance » de l'article doit correspondre à l'« ambiance » des personnes qui l'ont partagé. Si un article faux est partagé, l'ordinateur apprend que l'article et les personnes qui le partagent doivent se ressembler dans un espace mathématique caché. Troisièmement, l'ordinateur apprend que les personnes partageant le même article doivent également se ressembler. C'est comme dire : « Si un groupe d'inconnus se précipite tous pour partager cette histoire étrange, ils ont probablement un point commun, alors assurons-nous que l'ordinateur voit cette connexion. »

Les chercheurs ont testé cette idée sur trois types de cerveaux informatiques différents (classificateurs neuronaux) en utilisant des données réelles provenant de sites de vérification des faits et de nouvelles concernant la COVID-19. Ils ont constaté que lorsqu'ils ajoutaient ces « indices sociaux » dans le processus d'entraînement, les ordinateurs devenaient meilleurs pour repérer les fausses informations. Les résultats ont montré que les modèles apprenaient à séparer plus clairement les vraies et les fausses histoires. En fait, lorsqu'ils ont examiné les mathématiques en coulisses, ils ont vu que les fausses histoires et les vraies histoires étaient poussées plus loin l'une de l'autre dans l'esprit de l'ordinateur lorsqu'il utilisait ces indices d'utilisateurs.

Cependant, le document comporte également quelques rebondissements qui permettent de rester ancré dans la réalité. Les chercheurs ont voulu voir s'il importait de savoir quelles personnes ils choisissaient. Ils pensaient peut-être que les toutes premières personnes à partager une histoire (les « adopteurs précoces ») seraient les meilleurs indices, mais, étonnamment, cela ne faisait pas une grande différence que l'on choisisse les premiers ou les derniers partages. Ils ont également essayé de tromper l'ordinateur en échangeant aléatoirement les articles avec les mauvais groupes de personnes. Même lorsque les connexions étaient faussées, l'ordinateur était toujours plus performant que s'il n'avait aucun indice d'utilisateur, ce qui suggère que la quantité même de données supplémentaires aide, même si les liens spécifiques ne sont pas parfaits.

Une découverte intéressante est venue de l'examen d'un exemple spécifique où l'ordinateur a obtenu la bonne réponse uniquement lorsqu'il regardait la bio de l'utilisateur, mais s'est trompé lorsqu'il regardait ses tweets. Les tweets étaient bruyants et parlaient de trop de choses différentes, tandis que la bio était ciblée. Cela suggère que si les données d'utilisateur sont utiles, elles peuvent être désordonnées, et que les travaux futurs pourraient avoir besoin de filtrer le bruit.

En fin de compte, le document suggère qu'en apprenant aux ordinateurs à respecter la relation entre une histoire et son public, nous pouvons construire de meilleurs outils pour lutter contre la désinformation. Les auteurs précisent avec prudence que cette méthode n'utilise les informations d'utilisateur que pendant que l'ordinateur apprend, et non lorsqu'il fait réellement une prédiction. Cela signifie que l'ordinateur n'a pas besoin de savoir qui vous êtes pour juger un article de presse ; il a juste besoin d'avoir appris des modèles de connexion entre les gens et les histoires. Bien que les résultats soient prometteurs et la méthode nouvelle, les auteurs admettent qu'avec le temps, les profils d'utilisateurs changent et les créateurs de fausses informations disparaissent, donc les données pourraient devenir obsolètes. Mais pour l'instant, c'est un rappel ludique et puissant que dans la lutte contre les fausses informations, parfois, la meilleure façon de repérer un mensonge est de regarder qui le raconte.