VIGIL: An Extensible System for Real-Time Detection and Mitigation of Cognitive Bias Triggers

O artigo apresenta o VIGIL, a primeira extensão de navegador de código aberto projetada para detectar e mitigar em tempo real gatilhos de viés cognitivo em informações online, oferecendo funcionalidades como reformulação por IA, reversibilidade total e opções de inferência que variam de totalmente offline a baseadas em nuvem.

O essencial

Imagine que a internet é como uma grande praça pública onde todos conversam. O problema é que, às vezes, algumas pessoas (ou robôs) não estão apenas compartilhando fatos, mas usando "truques de mágica" na linguagem para fazer você acreditar em coisas sem pensar direito. Eles exploram as "falhas" naturais do nosso cérebro, como a tendência de acreditar no que ouvimos muitas vezes ou o que nos faz sentir raiva imediata.

O artigo que você enviou apresenta uma nova ferramenta chamada Vigil (que significa "Vigilante" em inglês), criada por pesquisadores da Universidade de Ghent, na Bélgica.

Aqui está uma explicação simples do que é o Vigil e como ele funciona, usando analogias do dia a dia:

1. O Problema: O "Truque de Mágica" na Internet

Até hoje, existiam ferramentas que diziam: "Cuidado, esse site é de um partido político X" ou "Essa notícia é falsa". Elas olhavam quem escreveu ou o que foi dito.

Mas o Vigil foca em algo mais sutil: como a mensagem é entregue.

• Analogia: Imagine que você está comprando um carro.
  • As ferramentas antigas verificam a marca do carro (é uma Ford ou uma Toyota?) e se o carro tem um motor falso.
  • O Vigil é como um inspetor de vendas que fica ao seu lado e sussurra: "Ei, o vendedor está usando uma luz muito forte no painel para você não ver os arranhões" ou "Ele está repetindo 'é o melhor do mundo' dez vezes para você se sentir confiante sem pensar".

Esses "truques" são chamados de gatilhos de viés cognitivo. O Vigil os detecta em tempo real.

2. A Solução: O Vigil (Seu "Guardião Virtual")

O Vigil é uma extensão para o navegador (como o Chrome) que atua como um guarda-costas digital para o seu cérebro.

• Detecção em Tempo Real (O Radar):
  Enquanto você rola a página (no Twitter/X ou em sites de notícias), o Vigil lê o texto instantaneamente. Se ele encontrar uma frase manipuladora (como uma linguagem carregada de emoção ou repetição excessiva), ele ilumina essa parte do texto, como se fosse um marcador de texto brilhante.

  • Metáfora: É como se você estivesse lendo um livro e, toda vez que o autor tentasse te enganar, uma luz vermelha acendesse sobre a palavra, e um bilhete aparecesse explicando o truque.

• Mitigação (O "Botão de Rebobinar"):
  O Vigil não apenas aponta o problema; ele ajuda a consertar. Se você clicar em um botão, ele usa Inteligência Artificial para reescrever aquela frase manipuladora de forma neutra e honesta, mantendo o mesmo significado, mas sem a "mágica" de persuasão.

  • Analogia: É como ter um tradutor de "Linguagem de Vendedor" para "Linguagem Humana". Se o vendedor diz "Este é o produto mais incrível da história, você vai morrer se não comprar", o Vigil transforma em "Este é um produto de alta qualidade, mas a compra depende das suas necessidades". E o melhor: você pode clicar em "Restaurar" a qualquer momento para ver o original.

3. Privacidade: O "Segredo no seu Bolso"

Uma grande preocupação com IAs é que elas podem roubar seus dados. O Vigil foi feito para ser um camaleão de privacidade:

• Modo "Segredo Total": Ele pode funcionar 100% dentro do seu computador, sem enviar uma única palavra para a internet. É como se você tivesse um consultor particular que nunca sai da sua sala.
• Modo "Nuvem": Se você quiser, pode usar servidores mais potentes na internet, mas o sistema é desenhado para não guardar seus dados.
• Metáfora: Pense no Vigil como um cofre. Você pode escolher deixá-lo trancado no seu quarto (offline) ou usar um cofre bancário (nuvem), mas em nenhum caso o banco ou o Vigil abrem o cofre para ler o que tem dentro.

4. Por que isso é diferente?

O artigo compara o Vigil com outras ferramentas:

• Outras ferramentas: Dão notas para sites (Ideologia) ou verificam fatos (Verdade).
• O Vigil: Verifica a psicologia da mensagem. Ele é o primeiro a fazer isso enquanto você lê, dentro do próprio navegador, e permite que você mude a mensagem se quiser.

Resumo Final

O Vigil é como um óculos de realidade aumentada para a mente. Ele não muda o mundo ao seu redor, mas muda a forma como você vê o que está escrito. Ele tira a "máscara" da persuasão oculta, permitindo que você leia notícias e redes sociais com mais clareza, menos emoção manipulada e mais pensamento crítico.

É uma ferramenta de alfabetização midiática que não apenas te ensina a teoria, mas te ajuda na prática, no momento exato em que você precisa.

Resumo técnico

Visão Geral

O artigo apresenta o Vigil (VIrtual GuardIan angeL), a primeira extensão de navegador projetada para a detecção e mitigação em tempo real de gatilhos de viés cognitivo em informações online. Diferente das ferramentas existentes que focam na veracidade dos fatos ou na ideologia da fonte, o Vigil visa combater a manipulação retórica que explora limitações cognitivas humanas (como o efeito da verdade ilusória ou o viés de confirmação) para induzir a irracionalidade no discurso público.

1. O Problema

• Ameaça Subtil: Enquanto a desinformação factual é amplamente estudada, existe uma ameaça mais sutil: o uso de persuasão e manipulação que explora vieses cognitivos humanos (sistema de pensamento rápido, conforme a Teoria do Processo Duplo).
• Limitação das Ferramentas Atuais:
  • Ferramentas de Ideologia (ex: NewsGuard, Ground News) avaliam a fonte, não o conteúdo.
  • Ferramentas de Factualidade (ex: ClaimBuster, Perspective API) avaliam o que é dito, mas não como é apresentado.
  • Ferramentas Acadêmicas: Métodos de detecção de propaganda e moralização existem, mas são ferramentas offline em lote, não integradas à experiência de navegação.
• Gap Tecnológico: Não existiam ferramentas capazes de detectar e mitigar ativamente os gatilhos de viés cognitivo in-situ (no local de leitura) enquanto o usuário navega.

2. Metodologia e Arquitetura

O Vigil é uma extensão baseada em Chromium com um backend opcional em Python, projetada para ser extensível através de um sistema de plugins.

• Arquitetura de Componentes:
  • Camada de Conteúdo: Extrai texto, rastreia a posição de rolagem (viewport) e renderiza as intervenções.
  • Roteador de Mensagens: Coordena a comunicação entre componentes.
  • Painel Lateral (Sidepanel): Interface para análise e configurações.
  • Runtime de Inferência: Executa modelos de IA diretamente no navegador (WebGPU) ou em servidores externos.
• Sistema de Plugins:
  • Todos os detectores seguem um contrato comum (Finding), definindo tipo de gatilho, severidade, trecho de texto e explicação.
  • Plugins Navegador (In-process):
    • cbt-regex: Padrões de correspondência (regex) contra uma taxonomia de 14 tipos de viés cognitivo. Latência zero.
    • cbt-llm: Usa LLMs para mapear técnicas de propaganda (SemEval-2020) para os vieses cognitivos que exploram.
  • Plugins Servidor:
    • moralization-llm: Detecta moralização baseada na Teoria dos Fundamentos Morais (suporte a inglês e alemão).
• Arquitetura de Privacidade em Níveis (Privacy-tiered):
  O sistema oferece quatro níveis de inferência, equilibrando privacidade e capacidade:
  1. Regex no Navegador: Zero rede, verificação instantânea.
  2. WebGPU no Navegador: Executa LLMs locais (ex: Llama 3.2 1B via WebLLM) sem enviar dados para fora da máquina.
  3. API Local (Ollama): Execução local em máquina do usuário.
  4. Cloud: Endpoints compatíveis com OpenAI (para máxima capacidade, com dados saindo da máquina).
  • Nota: Os níveis 1 e 2 são "zero-network" verificáveis. Nenhum dado é persistido no servidor.

3. Funcionalidades Principais e Experiência do Usuário

O Vigil opera em quatro etapas principais durante a navegação (ex: Twitter/X, sites de notícias):

1. Rastreamento de Rolagem (Scroll-synced): O painel lateral atualiza automaticamente o conteúdo visível, sem necessidade de seleção manual.
2. Detecção: Ao clicar em "Analyze", o sistema identifica trechos específicos (nível de span) que contêm gatilhos. O texto é destacado na página com tooltips explicativos.
3. Mitigação:
   • Reescrita (Rewrite): Um LLM reformula o texto para neutralizar o viés, mantendo o significado semântico.
   • Reversibilidade: O usuário pode restaurar o texto original com um clique.
   • Alternativas/Esconder: Opções adicionais para gerenciar o conteúdo.
4. Configuração: Seleção de plugins, escolha do backend de inferência e modo de análise automática.

4. Resultados e Avaliação

O Vigil foi avaliado quanto à qualidade de detecção e latência:

• Desempenho em Benchmarks:
  • Detecção de Propaganda (SemEval-2020): O modelo alcançou um Micro-F1 de 0,533 (com precisão de 0,626), favorecendo deliberadamente a precisão para reduzir falsos positivos.
  • Detecção de Moralização (Moralization Corpus): Alcançou um Macro-F1 de 0,789, superando o melhor resultado anterior do corpus (0,772).
• Latência:
  • Regex: 0,03 ms (instantâneo).
  • WebGPU (LLM local): 3,4 segundos.
  • Cloud: 3,9 segundos.
  • O uso de cache torna visualizações repetidas instantâneas.
• Comparação: O Vigil é o único sistema que combina entrega in-situ, detecção em tempo real e mitigação na dimensão de processamento cognitivo (Tabela 1 do artigo).

5. Significado e Contribuições

• Inovação: É a primeira ferramenta a abordar a forma como a informação é apresentada (retórica manipulativa) em tempo real, preenchendo uma lacuna crítica entre a verificação de fatos e a alfabetização midiática.
• Privacidade e Ética: O design "privacy-by-design" com níveis de inferência permite que usuários com preocupações de privacidade utilizem o sistema totalmente offline. Todas as intervenções são reversíveis, evitando censura unilateral.
• Extensibilidade: A arquitetura baseada em plugins permite que a comunidade desenvolva novos detectores de gatilhos sem reescrever o núcleo do sistema.
• Impacto Social: Ao fornecer feedback imediato sobre vieses cognitivos, o Vigil visa capacitar os cidadãos a processar informações de forma mais deliberada (sistema lento), fortalecendo o discurso cívico racional.

O código-fonte do Vigil é aberto e disponível no GitHub, e o projeto é financiado pelo Conselho Europeu de Pesquisa (ERC) e pelo programa de Pesquisa em IA da Flandres.