A Browser-based Open Source Assistant for Multimodal Content Verification

Título: Um Assistente Baseado em Navegador de Código Aberto para Verificação de Conteúdo Multimodal

1. O Problema

A desinformação e o conteúdo falso gerados por Inteligência Artificial (IA) representam uma ameaça significativa para sociedades democráticas e para o trabalho de jornalistas e verificadores de fatos. O avanço rápido da IA generativa permite a criação de textos, imagens e vídeos plausíveis em segundos, aumentando o volume e a sofisticação das "notícias falsas".

• Desafio Atual: Embora existam muitos modelos de Processamento de Linguagem Natural (NLP) para detectar sinais de credibilidade (técnicas de persuasão, subjetividade, texto gerado por máquina), a maioria permanece inacessível a usuários não especialistas.
• Lacuna: As ferramentas existentes geralmente são modelos isolados que exigem expertise técnica ou focam em uma única funcionalidade (ex: apenas viés ou apenas propaganda), não estando integradas em fluxos de trabalho unificados de verificação.

2. Metodologia e Arquitetura

O artigo apresenta o VERIFICATION ASSISTANT, uma ferramenta baseada em navegador (extensão do Chrome) projetada para preencher essa lacuna entre pesquisa e prática. Ela atua como um componente central do "VERIFICATION PLUGIN", utilizado por mais de 140.000 usuários.

Arquitetura do Sistema:
O sistema funciona como uma "faca suíça" de verificação, composta por três partes principais:

1. Frontend (Interface): Desenvolvido em JavaScript (React Redux), distribuído como extensão do Chrome. Suporta 10 idiomas (Inglês, Francês, Espanhol, Grego, Italiano, Árabe, Alemão, Japonês, Português e Húngaro). O código é de código aberto (licença MIT).
2. Backend (Assistente): Um servidor Quart (Python) que atua como intermediário. Ele recebe URLs ou arquivos de mídia, faz o scraping (extração) do conteúdo (texto, metadados, imagens, vídeos, links) e despacha esses dados para os serviços de verificação.
3. Serviços de Verificação: Um conjunto de microserviços NLP que analisam o conteúdo extraído.

Fluxo de Trabalho:
O usuário envia uma URL ou faz upload de um arquivo. O sistema extrai o conteúdo e envia requisições paralelas para diversos classificadores, retornando os resultados em um painel unificado e explicável.

Componentes de Análise (Sinais de Credibilidade):
O sistema integra cinco sinais principais de credibilidade, além de outras ferramentas:

• Banco de Dados de Falsidades Conhecidas (DBKF): Compara o texto extraído com um banco de dados de desmentidos (ex: Snopes) para encontrar correspondências de alegações já refutadas.
• Análise de Domínio de URL: Avalia a credibilidade do domínio ou conta de mídia social, classificando-a como "Verificador de Fatos", "Mencionado em desmentido" ou "Aviso" (não confiável).
• Análise de Mídia: Oferece visualização de miniaturas de imagens/vídeos e recomenda ferramentas forenses (detecção de imagens sintéticas, metadados, OCR, geolocalização, C2PA). Imagens também são verificadas contra o DBKF.
• Sinais de Credibilidade Textual (5 Classificadores):
  1. Enquadramento (Framing/Topic): Identifica a perspectiva da notícia (ex: Economia, Saúde, Política).
  2. Gênero: Distingue entre reportagem objetiva, opinião ou conteúdo satírico.
  3. Técnicas de Persuasão: Detecta 23 técnicas de propaganda (ex: apelo à autoridade, medo, simplificação).
  4. Subjetividade: Mede o grau de opinião pessoal vs. fatos objetivos.
  5. Texto Gerado por Máquina (MGT): Detecta a probabilidade de o texto ter sido gerado por LLMs para fins maliciosos, diferenciando-o de traduções automáticas legítimas.
• Entidades Nomeadas: Extrai pessoas, locais e organizações, visualizando-as em nuvens de palavras conectadas ao DBpedia.
• Classificador de Posicionamento (Stance) em Comentários do YouTube: Analisa os comentários de vídeos para identificar se apoiam, negam ou questionam o título do vídeo.

3. Contribuições Chave

• Integração Unificada: A primeira ferramenta a integrar múltiplos microserviços de NLP de ponta em uma única interface acessível via navegador para jornalistas.
• Design Participativo: O conjunto de recursos foi desenvolvido através de sessões contínuas com jornalistas e verificadores de fatos, garantindo utilidade no mundo real.
• Multilinguismo: Foco explícito no suporte a múltiplos idiomas, essencial para o jornalismo global.
• Transparência e Explicabilidade: Em vez de apenas rótulos binários ("Fake/Real"), o sistema fornece "rótulos de nutrição da informação", destacando trechos específicos do texto que justificam as classificações (ex: quais frases contêm técnicas de persuasão).
• Código Aberto: Tanto o frontend quanto a documentação dos serviços são acessíveis, promovendo a reprodutibilidade e a colaboração.

4. Resultados e Avaliação

• Feedback de Usuários: Uma pesquisa quantitativa com 72 participantes (principalmente de organizações como AFP, Al Jazeera, Deutsche Welle) mostrou uma satisfação geral de 3,56 em 5. A frequência de uso foi de 3,75/5, com 41,67% dos usuários utilizando a ferramenta frequentemente.
• Avaliação Qualitativa: Sessões de design centrado no usuário (UCD) com verificadores profissionais confirmaram a utilidade prática da ferramenta. O feedback levou a refinamentos na interface, como a adição de pop-ups explicativos para interpretar os resultados dos classificadores.
• Desempenho Técnico:
  • Os classificadores de texto (Enquadramento, Gênero, Persuasão, Subjetividade, MGT) foram testados em idiomas vistos e não vistos durante o treinamento, demonstrando robustez.
  • Detecção de Texto Gerado por Máquina: O melhor modelo alcançou um F1 macro de 0,8480 e um F1 ponderado de 0,9400.
  • Estabilidade: Em 2025, apenas 14,50% das requisições resultaram em erros de servidor (a maioria devido a falhas de scraping de sites que mudam de estrutura). O volume de consultas cresceu consistentemente, atingindo 18.106 requisições no final do período analisado.

5. Significado e Trabalhos Futuros

O VERIFICATION ASSISTANT demonstra que é possível democratizar o acesso a tecnologias avançadas de NLP para combater a desinformação, integrando-as diretamente no fluxo de trabalho diário dos jornalistas.

• Desafios Futuros (Engenharia): Desenvolver soluções robustas para scraping contínuo de plataformas de mídia social e sites de notícias que alteram frequentemente suas estruturas.
• Desafios Futuros (Pesquisa): Integrar modelos de IA mais complexos e aumentar a transparência explicativa dos outputs para fortalecer a confiança do usuário.
• Expansão: Migração para a estrutura WXT para permitir compatibilidade com outros navegadores, com suporte ao Firefox em desenvolvimento.

Em suma, o trabalho representa um passo crucial na operacionalização da pesquisa acadêmica em NLP, transformando modelos teóricos em ferramentas práticas e acessíveis para a defesa da verdade factual na era da IA.