VIGIL: An Extensible System for Real-Time Detection and Mitigation of Cognitive Bias Triggers

Il documento presenta VIGIL, la prima estensione del browser open-source progettata per rilevare e mitigare in tempo reale i trigger dei bias cognitivi nel discorso online, offrendo funzionalità di riformulazione basate su LLM e un'architettura estensibile e rispettosa della privacy.

L'essenziale

Immagina di navigare su internet come se stessi camminando in una grande piazza affollata. Spesso, le persone che parlano in quella piazza non usano solo fatti, ma usano "trucchi mentali" per farti reagire d'istinto, senza pensare. Questi trucchi sono chiamati pregiudizi cognitivi.

Ad esempio, se qualcuno usa parole cariche di rabbia o paura, il tuo cervello si attiva subito (sistema veloce) e ignora la logica (sistema lento). Oppure, se una bugia viene ripetuta mille volte, il tuo cervello inizia a crederla vera solo perché la conosce.

Fino ad oggi, esistevano strumenti per dirti: "Attenzione, questa fonte è di sinistra" o "Questa notizia è falsa". Ma nessuno ti avvisava mentre leggevi: "Ehi, questa frase è costruita apposta per manipolarti usando la paura!".

Ecco che entra in gioco Vigil.

Cos'è Vigil? Il "Guardiano Silenzioso"

Vigil è come un super-eroe invisibile che vive dentro il tuo browser (il programma con cui navighi, come Chrome). È il primo strumento al mondo capace di fermarti mentre scorri la pagina (su Twitter/X o sui siti di notizie) e dirti: "Fermati! Qui c'è un trucco mentale".

Ecco come funziona, spiegato con delle metafore semplici:

1. Il Rilevatore di Trucchi (Come un metal detector)

Mentre leggi, Vigil scansiona le parole. Se trova una "trappola" (come un linguaggio che cerca di farti arrabbiare o una ripetizione ingannevole), lo fa notare subito.

• L'analogia: Immagina di camminare in un parco. Se vedi una buca nascosta, un cartello ti avvisa. Vigil è quel cartello, ma invece di dirti "c'è una buca", ti dice "c'è una frase che cerca di manipolarti".
• Cosa vedi: Le parole sospette vengono evidenziate. Se passi il mouse sopra, appare un piccolo foglietto (tooltip) che spiega: "Attenzione: questa frase usa la paura per farti agire d'impulso".

2. Il Traduttore della Verità (Come un filtro magico)

Se ti accorgi che una frase è manipolatoria, Vigil non si limita a dirtelo. Ti offre un'opzione magica: "Riscrivi".

• L'analogia: Immagina di leggere una lettera scritta in una lingua difficile e piena di insulti. Vigil agisce come un traduttore esperto che prende quella lettera, toglie gli insulti e la riscrive in modo neutro, mantenendo lo stesso significato ma senza la "polvere" emotiva.
• La sicurezza: Se non ti piace la versione riscritta, puoi premere un tasto e tornare istantaneamente alla versione originale. È come avere un tasto "Annulla" per la manipolazione.

3. Il Privato e il Potente (Come un'auto ibrida)

Vigil è molto intelligente riguardo alla tua privacy. Funziona come un'auto ibrida che può scegliere tra due modalità:

• Modalità "Silenzio Totale" (Offline): Tutto avviene dentro il tuo computer. Nessuna informazione esce mai dalla tua macchina. È come se Vigil fosse un assistente che vive solo nella tua testa.
• Modalità "Super Poteri" (Cloud): Se vuoi un'analisi più profonda, può usare un'intelligenza artificiale potente sul server, ma solo se tu lo decidi.
• Il punto forte: Puoi scegliere quanto essere "invasivo" con i tuoi dati. Se vuoi privacy assoluta, Vigil usa regole semplici e veloci che non hanno bisogno di internet.

4. Il Kit di Costruzione (Come i LEGO)

Vigil è progettato per crescere. È come un set di LEGO: gli sviluppatori possono aggiungere nuovi "mattoncini" (plugin) per riconoscere nuovi tipi di trappole mentali in futuro. Oggi riconosce la paura e la rabbia, domani potrebbe riconoscere la manipolazione morale o politica.

Perché è importante?

Prima di Vigil, gli strumenti per la "cittadinanza digitale" controllavano chi scriveva (es. "è un giornale di destra?") o cosa diceva (es. "è una notizia falsa?").
Vigil guarda come viene detto.

È come se, invece di controllare solo se il cibo è avvelenato (falsità), Vigil controllasse anche se il cibo è condito con spezie che ti fanno mangiare troppo velocemente senza saziarti (manipolazione cognitiva).

In sintesi, Vigil è il tuo scudo personale per navigare online con la mente più calma, aiutandoti a vedere i trucchi dietro le parole e a scegliere di pensare con la testa, non solo con le emozioni.

Sommario tecnico

1. Il Problema

La ricerca affronta una minaccia crescente per l'integrità dell'informazione online e il discorso civico: l'uso strategico della persuasione e della manipolazione che sfrutta i bias cognitivi umani e le limitazioni cognitive.
Mentre esistono strumenti consolidati per la verifica dei fatti (es. ClaimBuster) e per l'analisi dell'orientamento ideologico delle fonti (es. NewsGuard), questi si concentrano su chi parla o cosa viene detto. Manca invece uno strumento che analizzi come l'informazione viene presentata.
Il paper identifica i "trigger dei bias cognitivi" (es. linguaggio carico che sfrutta l'euristica dell'affetto, ripetizioni che innescano l'effetto della verità illusoria) come un meccanismo subdolo che porta gli utenti a elaborare le informazioni in modo irrazionale, attivando il "sistema veloce" del pensiero (euristico) invece di quello lento e deliberato. Ad oggi, non esistevano strumenti in grado di rilevare e mitigare questi trigger in tempo reale all'interno dell'esperienza di navigazione.

2. Metodologia e Architettura del Sistema

Il sistema proposto, chiamato Vigil (VIrtual GuardIan angeL), è un'estensione del browser Chromium progettata per essere estensibile e modulare.

• Architettura: Vigil è composta da quattro componenti principali che comunicano tramite messaggi tipizzati:

  1. Content Layer: Gestisce l'estrazione del testo, il tracciamento del viewport (ciò che è visibile a schermo) e il rendering.
  2. Message Router: Coordina il flusso dei dati tra i componenti.
  3. Sidepanel: Fornisce l'interfaccia utente per l'analisi, le impostazioni e la visualizzazione dei risultati.
  4. Inference Runtime: Esegue l'inferenza dei modelli (LLM) direttamente nel browser (tramite WebGPU) o su backend, isolata dall'interfaccia utente.

• Sistema di Plugin: Il cuore del sistema è un'architettura basata su plugin che condividono un contratto comune (Finding), definito da: tipo di trigger, gravità, span di testo e spiegazione.

  • Plugin Browser (In-process):
    • cbt-regex: Esegue il matching di pattern contro una tassonomia di 14 tipi di bias cognitivi con latenza zero.
    • cbt-llm: Utilizza modelli linguistici (LLM) per rilevare gli stessi tipi, mappando le tecniche di propaganda (es. SemEval-2020) sui bias cognitivi che sfruttano.
  • Plugin Server:
    • moralization-llm: Rileva la moralizzazione basata sulla Moral Foundations Theory, supportando inglese e tedesco.

• Livelli di Privacy (Privacy-tiered Inference): Vigil offre quattro livelli di elaborazione per bilanciare privacy e capacità:

  1. Regex nel browser (zero rete).
  2. LLM nel browser tramite WebGPU (es. Llama 3.2 1B via WebLLM) - zero rete.
  3. API Ollama locale.
  4. Endpoint cloud compatibile con OpenAI.
     I livelli (i) e (ii) sono verificabilmente "zero-network", garantendo che nessun dato lasci la macchina dell'utente.

• Mitigazione: Il sistema non si limita al rilevamento. Offre funzionalità di mitigazione in-situ:

  • Rewrite: Riformulazione del testo tramite LLM per neutralizzare il bias mantenendo il significato semantico.
  • Reversibilità: Possibilità di ripristinare il testo originale con un clic.
  • Alternative/Hide: Opzioni per mostrare alternative o nascondere il contenuto.

3. Contributi Chiave

1. Prima estensione browser in tempo reale: Vigil è il primo strumento che rileva e mitiga i trigger dei bias cognitivi direttamente durante la navigazione, con sincronizzazione dello scroll (analisi automatica delle parti visibili).
2. Architettura estensibile: Il sistema è progettato per integrare facilmente nuovi tipi di trigger tramite plugin, senza modificare il core del sistema.
3. Approccio "Privacy-by-Design": La possibilità di eseguire inferenze completamente offline (tramite WebGPU e regex) garantisce la massima privacy, evitando la persistenza dei dati sui server.
4. Integrazione in-situ: A differenza di strumenti offline o batch, Vigil opera all'interno del flusso di lettura, evidenziando i trigger mentre l'utente scorre la pagina (es. feed di Twitter/X o siti di notizie).

4. Risultati e Valutazione

Il sistema è stato valutato sia per le prestazioni tecniche che per la qualità del rilevamento:

• Performance di Rilevamento:
  • Su SemEval-2020 Task 11 (rilevamento propaganda), il plugin LLM ha raggiunto un micro-F1 di 0.533 (precisione = 0.626), con un approccio deliberatamente orientato alla precisione.
  • Su Moralization Corpus, il plugin di moralizzazione ha ottenuto un macro-F1 di 0.789, superando i risultati migliori degli autori del corpus (0.772).
• Latenza:
  • Regex: 0.03 ms (istantaneo).
  • WebGPU (LLM locale): 3.4 secondi.
  • Cloud: 3.9 secondi.
  • L'uso della cache rende le visualizzazioni ripetute istantanee.
• Confronto: La Tabella 1 del paper evidenzia che Vigil è l'unico sistema che combina rilevamento in-situ, tempo reale e mitigazione nella dimensione del "processo cognitivo", a differenza di strumenti esistenti focalizzati solo su ideologia o fattualità.

5. Significato e Implicazioni

Vigil rappresenta un passo avanti significativo verso un'IA Responsabile nel contesto della disinformazione.

• Empowerment dell'utente: Fornisce agli utenti strumenti immediati per riconoscere la manipolazione retorica, promuovendo una maggiore alfabetizzazione mediatica e un pensiero critico.
• Trasparenza e Controllo: La natura open-source, la reversibilità delle modifiche e l'assenza di telemetria pongono il controllo dell'utente al centro del design.
• Futuro della Ricerca: Il sistema dimostra come l'NLP possa essere integrato in modo pratico e sicuro nei browser per combattere non solo le notizie false, ma anche le tecniche persuasive che minano la razionalità del dibattito pubblico.

Il progetto è finanziato dall'UE (ERC) e dal programma di ricerca AI delle Fiandre, ed è disponibile come open-source su GitHub.