VIGIL: An Extensible System for Real-Time Detection and Mitigation of Cognitive Bias Triggers

Dit paper introduceert VIGIL, een open-source browserextensie die real-time cognitieve bias-triggers in online informatie detecteert en mitigeert via in-situ analyse en LLM-gestuurde herformulering.

De kern

Stel je voor dat je door een enorme, drukke markt loopt. Overal hangen borden met nieuws, meningen en verhalen. Sommige borden zijn eerlijk, maar andere zijn bedekt met flitsende neonverlichting, schreeuwerige tekens en trucjes die je brein op een automatische piloot zetten. Ze proberen je niet te overtuigen met feiten, maar met psychologische trucs die je snelle, instinctieve brein om de tuin leiden.

Dit artikel introduceert Vigil, een slimme digitale "hoed" die je op je computer zet om je te beschermen tegen deze trucs.

Hier is hoe het werkt, vertaald naar alledaags taal:

1. Het Probleem: De "Snelweg" van je Brein

Onze hersenen werken op twee manieren:

• Snel systeem: Instinctief, snel, maar vatbaar voor fouten (zoals het denken dat iets waar is omdat het vaak wordt herhaald).
• Langzaam systeem: Nadenken, analyseren, logisch redeneren.

Online content (zoals op Twitter/X of nieuwswebsites) is vaak ontworpen om je snel systeem te prikkelen. Ze gebruiken "cognitieve triggers": woorden die boosheid oproepen, herhalingen die leugens waar laten lijken, of moraliserende taal die je oordeel vertroebelt. Tot nu toe bestonden er tools die je vertelden wie iets schreef (ideologie) of of het waar was (feitencheck), maar geen tools die keken naar hoe het werd geschreven om je brein te hacken.

2. De Oplossing: Vigil, je Digitale Bodyguard

Vigil (afkorting voor Virtual GuardIan angeL) is een extensie voor je browser (zoals Chrome). Het is als een slimme bril die je op je computer zet en die in real-time meekijkt terwijl je scrollt.

Het doet drie belangrijke dingen:

• Het ziet de valstrikken (Detectie):
  Terwijl je scrollt, markeert Vigil direct de zinnen of woorden die je brein proberen te manipuleren. Het is alsof er een geel waarschuwingslichtje oplicht boven een tekst die zegt: "Pas op! Dit woord is gekozen om je boos te maken, niet om je te informeren."

  • Voorbeeld: Als een artikel een woord gebruikt dat direct emotie oproept (zoals "verrot" in plaats van "slecht"), krijgt dat woord een highlight.

• Het geeft je een tweede kans (Mitigatie):
  Als Vigil een truc ziet, kun je op een knop klikken om de tekst te herschrijven. De AI herschrijft de manipulatieve zin naar een neutrale, eerlijke versie, maar behoudt precies dezelfde betekenis.

  • Analogie: Het is alsof je een foto bekijkt die is bewerkt met een zware filter. Vigil haalt de filter eraf en laat je het originele, eerlijke plaatje zien. En het beste deel? Je kunt met één klik altijd terug naar de originele, gemanipuleerde tekst.

• Het respecteert je privacy (Privacy):
  Vigil is zo ontworpen dat je keuze hebt. Je kunt het volledig offline laten werken (alles gebeurt op je eigen computer, niets gaat het internet op) of, als je wilt, gebruikmaken van krachtige servers in de cloud. Het is als een auto met een "privé-modus" en een "sport-modus".

3. Hoe ziet het eruit in de praktijk?

Stel je voor dat je op Twitter kijkt:

1. Je scrollt door je tijdlijn.
2. Vigil kijkt mee. Zodra je stopt bij een post, ziet het "Currently Viewing" kaartje wat je nu leest.
3. Je klikt op "Analyseren". Plotseling zie je dat bepaalde zinnen zijn gemarkeerd.
4. Je leest de uitleg: "Deze zin gebruikt een 'affect-heuristiek' om je bang te maken."
5. Je klikt op "Herschrijven". De tekst verandert in een rustige, feitelijke versie. Je denkt: "Ah, zo klinkt het als je er niet door de emotie heen kijkt."

4. Waarom is dit uniek?

Vroeger waren er alleen tools die zeiden: "Deze bron is links/rechts" of "Deze stelling is onwaar". Vigil is de eerste die zegt: "Deze manier van schrijven is ontworpen om je brein te omzeilen."

Het is een open-source project (iedereen kan de code bekijken en verbeteren) en het werkt met "plug-ins". Dit betekent dat ontwikkelaars nieuwe soorten trucs kunnen toevoegen, net zoals je nieuwe apps op je telefoon installeert.

Kort samengevat:
Vigil is een digitale schil voor je brein. Het helpt je om niet alleen te kijken wat er staat, maar ook te begrijpen hoe het staat, zodat je niet onbewust wordt gemanipuleerd door slimme taaltrucs. Het geeft je de controle terug om met een koele kop te lezen, in plaats van met een opgewonden gevoel.

Technische samenvatting

Probleemstelling

De opkomst van generatieve AI vormt een toenemend risico voor de integriteit van online informatie en het burgerlijk debat. Hoewel er reeds tools bestaan om de feitelijke juistheid van informatie (fact-checking) en de ideologische kanteling van bronnen te beoordelen, wordt een subtielere maar potentieel net zo schadelijke bedreiging vaak genegeerd: het gebruik van overtuigingskracht die speelt in op menselijke cognitieve bias (vooroordelen) en beperkingen.

Volgens de dual-process theorie onderscheidt men snelle, heuristisch gedreven cognitie van langzame, bewuste redenering. Online content exploiteert systematisch de snelle systeem door "triggers" voor cognitieve bias te gebruiken (bijv. geladen taal die de affect-heuristiek activeert, of herhaling die het illusoire waarheidseffect triggert). Bestaande media-literatuurtools richten zich op wie de auteur is of wat er gezegd wordt, maar niet op hoe het wordt gepresenteerd. Er ontbrak tot nu toe een tool die deze triggers in real-time kan detecteren en mitigeren terwijl de gebruiker browsen.

Methodologie: Het Vigil-systeem

Vigil (VIrtual GuardIan angeL) is een browserextensie (Chromium-gebaseerd) met een optionele Python-backend, ontworpen voor real-time detectie en mitigatie. De architectuur bestaat uit vier hoofdcomponenten die communiceren via getypte berichten:

1. Content Layer: Verantwoordelijk voor tekstextractie, viewport-tracking (wat is zichtbaar op het scherm) en rendering.
2. Message Router: Coördineert de communicatie tussen componenten.
3. Sidepanel: Biedt de gebruikersinterface voor analyse-instellingen en toont gedetailleerde bevindingen.
4. Inference Runtime: Voert de AI-inferentie uit, gescheiden van de UI (bijv. via WebGPU in de browser).

Het Plugin-systeem:
Alle detectie is ingekapseld in plugins die voldoen aan een gedeeld Finding-contract (type trigger, ernst, tekstspan, uitleg).

• Browser-plugins: Draaien in-process.
  • cbt-regex: Voert patroonmatching uit op een taxonomie van 14 cognitieve bias-types met nul latentie.
  • cbt-llm: Gebruikt Large Language Models (LLM) in de browser om dezelfde types te detecteren, gekoppeld aan SemEval-2020 propaganda-technieken.
• Server-plugins:
  • moralization-llm: Detecteert morele framing gebaseerd op de Moral Foundations Theory (ondersteunt Engels en Duits).

Privacy-gelaagde Inferentie:
Het systeem biedt vier niveaus van privacy, variërend van volledig offline tot cloud:

1. In-browser regex (volledig offline).
2. In-browser WebGPU LLM (bijv. Llama 3.2 1B via WebLLM; verifieerbaar "zero-network").
3. Lokale Ollama API.
4. Cloud-endpoint (OpenAI-achtig).
   Geen data wordt opgeslagen op de server; resultaten worden lokaal gecachet.

Kernbijdragen

1. Eerste Browserextensie voor Cognitieve Bias: Vigil is, voor zover bekend, het eerste systeem dat real-time detectie en mitigatie van cognitieve bias-triggers biedt direct in de browser.
2. In-situ en Scroll-synced Detectie: Het systeem analyseert content terwijl de gebruiker scrollt (zonder handmatige selectie) en markeert specifieke tekstspanen (span-level) direct op de pagina.
3. Mitigatie en Herformulering: Gebruikers kunnen geselecteerde tekst laten herschrijven door een LLM naar een neutrale, semantisch equivalente versie. Dit proces is volledig omkeerbaar (met één klik terug naar de originele tekst).
4. Uitbreidbaarheid: Het systeem is ontworpen met een plugin-architectuur, waardoor nieuwe trigger-types eenvoudig kunnen worden toegevoegd.
5. Open Source: De code is beschikbaar gesteld en de plugins zijn gevalideerd tegen bestaande NLP-benchmarks.

Resultaten en Evaluatie

Het systeem is getest op Twitter/X-feeds en nieuwswebsites. De evaluatie toont de volgende prestaties:

• Detectiekwaliteit:
  • Op de SemEval-2020 Task 11 (propaganda-detectie) bereikte de productie-prompt een micro-F1-score van 0,533 (precisie = 0,626), wat een zeer competitief resultaat is, bewust gericht op hoge precisie.
  • De moralisatie-plugin bereikte een macro-F1 van 0,789 op het Moralization Corpus, wat beter is dan de beste resultaten van de auteurs van het corpus zelf (0,772).
• Latentie:
  • Regex: 0,03 ms (instant).
  • WebGPU LLM: 3,4 seconden.
  • Cloud-endpoint: 3,9 seconden.
  • Herhaalde weergaven zijn direct dankzij caching.
• Vergelijking: In tegenstelling tot bestaande tools (zoals NewsGuard voor ideologie of Perspective API voor feitelijke juistheid) is Vigil de enige die werkt op het niveau van cognitieve verwerking, met in-situ integratie en mitigatie (zie Tabel 1 in het paper).

Betekenis en Discussie

Vigil vult een cruciale leemte in de media-literatuur en verantwoordelijke AI. Waar bestaande tools kijken naar de bron of de feitelijke inhoud, richt Vigil zich op de vormgeving van informatie die irrationeel denken triggert.

• Verantwoordelijke AI: Het ontwerp is "privacy-by-design" (twee niveaus zijn volledig offline, geen telemetrie). Alle interventies zijn reversibel, wat de autonomie van de gebruiker respecteert.
• Beperkingen: Het systeem kan nog steeds false positives vertonen (opgelost door een "human-in-the-loop" ontwerp), maakt gebruik van proxy-benchmarks en heeft momenteel nog beperkte dekking van bias-types.
• Toekomst: Vigil biedt een platform voor onderzoek en ontwikkeling van nieuwe methoden om de rationaliteit van het publieke debat te beschermen tegen manipulatieve retorica, met name op platforms zoals X/Twitter en nieuwswebsites.