VIGIL: An Extensible System for Real-Time Detection and Mitigation of Cognitive Bias Triggers

Le papier présente VIGIL, une extension de navigateur open-source innovante conçue pour détecter et atténuer en temps réel les déclencheurs de biais cognitifs dans les informations en ligne grâce à des fonctionnalités de reformulation par IA et une architecture extensible respectant la vie privée.

L'essentiel

Imaginez que votre cerveau est comme une voiture de course très rapide. Pour aller vite, il utilise des "autoroutes" de pensée : des raccourcis mentaux appelés biais cognitifs. C'est utile pour la vie quotidienne, mais sur internet, les publicitaires et les manipulateurs ont appris à poser des pièges sur ces autoroutes. Ces pièges sont des mots ou des phrases conçus pour vous faire réagir émotionnellement sans réfléchir, comme un panneau "STOP" qui vous ferait freiner brusquement alors que la route est libre.

Le papier que vous avez partagé présente Vigil, un nouvel outil qui agit comme un gardien virtuel pour votre navigateur web. Voici comment cela fonctionne, expliqué simplement :

1. Le Problème : Les Pièges Invisibles

Jusqu'à présent, il existait des outils pour vérifier qui a écrit un article (est-ce un journal fiable ?) ou ce qui est écrit (est-ce vrai ou faux ?). Mais personne ne surveillait comment c'est écrit.
C'est comme si vous aviez un garde du corps qui vérifie l'identité du chauffeur et la destination, mais qui ne regarde jamais si le chauffeur essaie de vous faire peur en criant "ACCIDENT !" alors qu'il n'y a rien. Ces techniques de manipulation exploitent nos faiblesses naturelles (comme la peur, la répétition ou le langage chargé d'émotion) pour nous faire croire des choses irrationnelles.

2. La Solution : Vigil, le "Chasseur de Pièges"

Vigil est une petite extension (un petit programme) que vous installez dans votre navigateur (comme Chrome). Voici ses super-pouvoirs :

• Le Détecteur de Mouvement (Détection en temps réel) :
  Imaginez que vous faites défiler votre fil d'actualité sur Twitter ou un site de news. Vigil regarde tout ce qui passe sous vos yeux. Dès qu'il repère un "piège" (un mot qui joue sur la peur, une répétition trompeuse), il s'arrête et vous le montre immédiatement. Il ne vous attend pas, il travaille pendant que vous lisez.

  • Analogie : C'est comme un surligneur magique qui s'allume tout seul sur les phrases douteuses pendant que vous lisez votre journal du matin.

• Le Traducteur de Vérité (Atténuation) :
  Si Vigil trouve un piège, il ne se contente pas de vous avertir. Il vous propose de réécrire la phrase. Il prend le texte manipulateur et le transforme en une version neutre et factuelle, tout en gardant le même sens.

  • Analogie : C'est comme si un ami sage vous chuchotait : "Attends, cette phrase essaie de t'énerver. Voici ce qu'elle dit vraiment, sans les cris." Et le mieux ? Vous pouvez toujours cliquer sur un bouton pour revenir à la version originale. C'est réversible, comme un bouton "Annuler".

• Le Caméléon de la Vie Privée (Confidentialité) :
  Vigil est conçu pour respecter votre vie privée comme un secret de famille. Il fonctionne à plusieurs niveaux :

  • Mode "Caveau" (Hors ligne) : Il peut analyser le texte directement sur votre ordinateur sans jamais envoyer une seule lettre à internet. C'est 100% privé.
  • Mode "Cloud" : Si vous voulez une analyse plus poussée, il peut utiliser des serveurs externes, mais vous avez le choix.
  • Analogie : C'est comme un détective privé qui peut travailler dans votre salon sans jamais appeler le commissariat, ou qui peut appeler le commissariat si vous lui donnez la permission.

3. Pourquoi c'est spécial ?

La plupart des outils actuels sont comme des panneaux de signalisation statiques : ils vous disent "Attention, ce site est dangereux" ou "Ce fait est faux".
Vigil est différent : c'est un co-pilote actif. Il vous aide à naviguer dans la tempête des émotions en temps réel, en vous montrant exactement où se cachent les manipulations dans les phrases que vous lisez maintenant.

En résumé

Vigil, c'est comme mettre des lunettes spéciales pour voir la "matrice" de la manipulation en ligne. Il vous aide à passer du mode "réaction rapide et émotionnelle" (le cerveau qui se fait piéger) au mode "réflexion lente et logique" (le cerveau qui comprend).

C'est un outil open-source (tout le monde peut voir comment il est fait) créé par des chercheurs de l'Université de Gand, avec pour but de rendre nos discussions en ligne plus saines et plus rationnelles.

Résumé technique

1. Problématique

L'article identifie une menace croissante pour l'intégrité de l'information en ligne et le discours civique : l'exploitation des biais cognitifs humains par des techniques de persuasion et de manipulation. Contrairement à la désinformation factuelle (fausses nouvelles), ce problème réside dans la façon dont l'information est présentée, exploitant des heuristiques rapides (système 1 de la théorie du double processus) pour contourner le raisonnement délibéré (système 2).

Les outils existants se concentrent sur deux dimensions, mais laissent un vide critique :

• Idéologie : Outils comme NewsGuard ou Ground News évaluent la source (qui parle).
• Factualité : Outils comme ClaimBuster ou Perspective API évaluent le contenu (ce qui est dit).
• Le vide : Aucun outil ne détecte ni ne mitige comment le texte est formulé pour activer des biais cognitifs (ex: langage chargé exploitant l'heuristique de l'affect, répétition déclenchant l'effet de vérité illusoire). De plus, les recherches académiques existantes (détection de propagande, analyse de moralisation) sont des outils hors ligne (batch) et non intégrés à l'expérience de navigation.

2. Méthodologie et Architecture

Les auteurs proposent Vigil, la première extension de navigateur conçue pour la détection et l'atténuation en temps réel des déclencheurs de biais cognitifs.

Architecture Technique :
Vigil est une extension basée sur Chromium avec un backend Python optionnel. L'architecture repose sur quatre composants communiquant via des messages typés :

1. Couche de contenu : Extraction du texte, suivi du viewport (zone visible) et rendu.
2. Routeur de messages : Coordonne les flux de données.
3. Panneau latéral (Sidepanel) : Interface utilisateur pour l'analyse, les paramètres et l'affichage des résultats.
4. Moteur d'inférence : Exécute les modèles (LLM) directement dans le navigateur via WebGPU/WebLLM, isolé de l'interface utilisateur.

Système de Plugins et Contract :
Le système est extensible via des plugins qui partagent un contrat commun d'objet « Finding » (type de déclencheur, sévérité, plage de texte, explication).

• Plugins Navigateur (In-process) :
  • cbt-regex : Correspondance de motifs sur une taxonomie de 14 types de biais cognitifs (latence nulle).
  • cbt-llm : Détection via LLM, mappe les techniques de propagande (SemEval-2020) aux biais cognitifs sous-jacents.
• Plugins Serveur :
  • moralization-llm : Détecte la moralisation basée sur la Moral Foundations Theory (anglais et allemand).

Niveaux de Confidentialité (Privacy-tiered) :
L'architecture offre quatre niveaux d'inférence pour équilibrer confidentialité et capacité :

1. Regex dans le navigateur (100% hors ligne).
2. LLM WebGPU dans le navigateur (ex: Llama 3.2 1B via WebLLM) : 100% hors ligne, aucune donnée ne quitte la machine.
3. API Ollama locale.
4. Endpoint Cloud (compatible OpenAI).
   Aucune donnée n'est persistée côté serveur ; les résultats sont mis en cache localement.

3. Contributions Clés

• Détection et Atténuation In-situ : Vigil fonctionne en temps réel pendant le défilement (scroll-synced). Il détecte les déclencheurs au niveau des segments de texte (span-level) sans nécessiter de sélection manuelle.
• Réversibilité et Mitigation : L'utilisateur peut cliquer sur « Réécrire » pour que le LLM reformule le texte de manière neutre tout en conservant le sens sémantique. L'original peut être restauré en un clic. Des options « Alternatives » et « Masquer » sont également disponibles.
• Extensibilité : Un système de plugins permet d'ajouter facilement de nouveaux types de déclencheurs.
• Intégration Navigateur : Contrairement aux outils académiques batch, Vigil est intégré directement dans le flux de navigation (optimisé pour Twitter/X et les sites d'actualités).

4. Résultats et Évaluation

L'évaluation combine la démonstration du framework et la performance des plugins sur des benchmarks établis :

• Détection de Propagande (SemEval-2020 Task 11) : Le plugin LLM atteint un Micro-F1 de 0,533 (avec une précision de 0,626), délibérément orienté vers la précision pour réduire les faux positifs.
• Analyse de Moralisation (Moralization Corpus) : Le plugin atteint un Macro-F1 de 0,789, surpassant les meilleurs résultats des auteurs du corpus (0,772).
• Latence :
  • Regex : 0,03 ms (instantané).
  • WebGPU (Llama 3.2) : 3,4 s.
  • Cloud : 3,9 s.
  • Le caching rend les vues répétées instantanées.
• Comparaison : Le tableau comparatif montre que Vigil est le seul système à combiner livraison in-situ, détection en temps réel et mitigation, spécifiquement dans la dimension du traitement cognitif.

5. Signification et Impact

Vigil représente une avancée majeure dans les outils de littératie médiatique et l'IA responsable :

• Changement de paradigme : Il passe de la vérification des faits/ sources à la protection de la cognition de l'utilisateur contre les manipulations rhétoriques.
• Vie privée par conception : Grâce aux niveaux d'inférence hors ligne (WebGPU), il garantit qu'aucune donnée sensible ne quitte l'appareil de l'utilisateur, résolvant un problème majeur des outils d'analyse de texte basés sur le cloud.
• Outil éducatif et défensif : En rendant les biais cognitifs visibles et en permettant leur neutralisation immédiate, Vigil aide les utilisateurs à passer d'un traitement heuristique (rapide et biaisé) à un traitement délibéré (lent et rationnel).
• Open Source : Le code est disponible publiquement, favorisant la transparence et l'amélioration collaborative par la communauté.

En résumé, Vigil comble un vide critique dans la défense contre la désinformation en s'attaquant non pas à la véracité du contenu, mais à la structure psychologique de sa présentation, le tout dans un environnement respectueux de la vie privée.