Early Detection of Misinformation for Infodemic Management: A Domain Adaptation Approach

Résumé technique : Détection précoce de la désinformation pour la gestion des infodémies : Une approche d'adaptation de domaine

Formulation du problème
L'article aborde le défi de la détection de la désinformation durant les premières étapes d'une infodémie — une période caractérisée par un volume écrasant d'informations vraies et fausses diffusées sur les plateformes médiatiques lors d'une épidémie. Une contrainte critique de ce scénario est l'absence de données étiquetées (c'est-à-dire d'informations vérifiées comme vraies ou fausses) au sein du domaine de l'infodémie elle-même. Les méthodes conventionnelles de détection de la désinformation échouent ici car elles nécessitent des données d'entraînement étiquetées provenant du domaine cible. Bien que les méthodes d'adaptation inter-domaine les plus avancées tentent de transférer des modèles entraînés sur des données étiquetées d'autres domaines (par exemple, la politique, le divertissement) vers le domaine de l'infodémie, elles obtiennent souvent des performances médiocres. Les auteurs soutiennent que cela s'explique par le fait que les méthodes existantes atténuent principalement le décalage de covariable (différences dans les distributions de caractéristiques, $p(x)$) mais négligent le décalage conceptuel (différences dans les schémas d'étiquetage ou les distributions conditionnelles, $p(y|x)$). Dans le contexte de la désinformation, une caractéristique (par exemple, la fréquence des points d'exclamation) peut avoir une corrélation différente avec l'étiquette (fausse vs vraie) dans le domaine de l'infodémie par rapport au domaine source.

Méthodologie : Adaptation de domaine avec alignement conceptuel (DACA)
Pour remédier à ces limites, les auteurs proposent une nouvelle méthode appelée Domain Adaptation with Concept Alignment (DACA) (Adaptation de domaine avec alignement conceptuel). La méthode repose sur une analyse théorique établissant une borne supérieure sur l'erreur du domaine cible, démontrant que la minimisation de cette erreur nécessite de réduire trois termes spécifiques : l'erreur source, le décalage de covariable et le décalage conceptuel.

L'architecture DACA se compose de trois modules principaux :

1. Module de classification : Un classificateur d'étiquettes standard entraîné sur des données étiquetées du domaine source pour minimiser l'erreur source ($\epsilon_S(h)$). Il prédit la probabilité qu'une instance soit de la désinformation.
2. Module d'alignement des covariables : Ce module atténue le décalage de covariable en apprenant des caractéristiques invariantes au domaine. Il emploie une approche d'entraînement adversaire de domaine (inspirée de Ganin et al., 2016) où un classificateur de domaine tente de distinguer les domaines source et cible, tandis que l'extracteur de caractéristiques est entraîné à tromper ce classificateur, alignant ainsi les distributions de caractéristiques ($p(x)$) entre les domaines.
3. Module d'alignement conceptuel (Nouveauté clé) : Ce module cible spécifiquement le décalage conceptuel. Il opère en deux sous-étapes :
   • Sous-module de fonction de similarité : En utilisant l'apprentissage contrastif supervisé, le modèle apprend une fonction de similarité dans un espace de représentation transformé. Cette fonction garantit que les instances ayant la même étiquette sont plus proches les unes des autres, tandis que celles ayant des étiquettes différentes sont plus éloignées.
   • Sous-module d'atténuation du décalage conceptuel : Pour chaque instance du domaine source, la méthode identifie son plus proche voisin dans le domaine cible sur la base de la fonction de similarité apprise. Elle minimise ensuite la différence entre les probabilités d'étiquettes prédites de l'instance source et celles de son voisin cible le plus proche. Cela aligne efficacement les distributions conditionnelles ($p(y|x)$), garantissant que des caractéristiques similaires produisent des prédictions d'étiquettes similaires à travers les domaines.

Le modèle est entraîné selon un processus en deux étapes : une phase de préchauffage pour apprendre la fonction de similarité et le classificateur d'étiquettes, suivie d'une étape d'optimisation conjointe minimisant la perte combinée de tous les modules.

Contributions principales
L'article revendique trois contributions principales :

1. Insight théorique : Il fournit une analyse théorique démontrant la nécessité de traiter à la fois les décalages de covariable et conceptuels pour une adaptation de domaine efficace dans la détection de la désinformation, offrant une borne formelle sur l'erreur cible incluant un terme pour le décalage conceptuel.
2. Innovation méthodologique : Il introduit la méthode DACA, qui opérationnalise les résultats théoriques en intégrant un module d'alignement conceptuel. Ce module est le premier à traiter explicitement le décalage conceptuel dans la détection inter-domaine de la désinformation, se distinguant des méthodes existantes qui se concentrent uniquement sur le décalage de covariable.
3. Validation empirique : L'étude valide la méthode en utilisant des ensembles de données réels (MM-COVID pour le domaine cible ; FakeNewsNet pour les domaines sources politique et divertissement), démontrant une performance supérieure par rapport aux références de l'état de l'art.

Résultats expérimentaux
Les auteurs ont évalué DACA contre un ensemble complet de références, incluant des méthodes de détection de la désinformation inter-domaine (MMD, CANMD, DANN) et des méthodes générales d'adaptation de domaine (MK-MMD, JAN, DALN, MCD, SDAT).

• Configuration Zero-Shot (Cible totalement non étiquetée) : Dans le scénario où le domaine COVID cible ne possède aucun article étiqueté, DACA a atteint un rappel de 0,745, surpassant significativement la meilleure référence (MMD) qui a obtenu 0,704. DACA a également montré des améliorations en précision (0,716 contre 0,676) et en score F1 (0,719 contre 0,678).
• Configuration partiellement étiquetée : À mesure que le nombre d'articles étiquetés dans le domaine cible augmentait (50, 100, 150), DACA a maintenu de manière constante une avance significative en rappel et en score F1 sur toutes les références.
• Études d'ablation : La suppression du module d'alignement conceptuel (spécifiquement à la fois le sous-module de fonction de similarité et le sous-module d'atténuation du décalage) a provoqué une baisse significative des performances (le rappel est passé de 0,745 à 0,658), confirmant que le mécanisme d'alignement conceptuel est le principal moteur du succès de la méthode.
• Robustesse : La méthode a démontré sa robustesse sur différents ensembles de données (articles de presse chinois, publications sur les réseaux sociaux), différents domaines cibles (finance) et différentes tâches (régression pour la prédiction du nombre de commentaires). Elle a également surpassé plusieurs approches basées sur les grands modèles de langage (LLM) (Ingénierie de prompt, RAG, ICL) malgré le fait que les LLMs puissent avoir accès à des données d'entraînement post-2020.

Signification et revendications
L'article situe son travail dans le domaine de la science de la conception computationnelle en systèmes d'information. Les auteurs affirment que leur méthode fournit une solution pratique pour la gestion des infodémies en permettant la détection automatique de la désinformation dès les tout premiers stages d'une épidémie, où les connaissances expertes sont rares et les données étiquetées inexistantes.

La signification réside dans la capacité à exploiter des données étiquetées provenant de domaines sans rapport (comme le divertissement ou la politique) pour protéger la santé publique durant une crise. En atténuant efficacement le décalage conceptuel, la méthode permet aux plateformes de signaler et de démentir la désinformation avant qu'elle ne devienne virale, réduisant ainsi la panique publique et augmentant l'adhésion aux consignes de santé. Les auteurs soulignent que leur approche est rentable, car elle évite le besoin d'un étiquetage expert coûteux et chronophage de la première vague de données d'infodémie. Ils concluent que leur méthode offre un outil théoriquement fondé et empiriquement validé pour gérer les effets néfastes des infodémies sur la santé publique.