Resumo Técnico: ExTax – Detecção Explicável de Desinformação via Taxonomias de Persuasão, Emoção e Papéis Narrativos

Declaração do Problema

A democratização dos Modelos de Linguagem de Grande Escala (LLMs) acelerou a geração de desinformação altamente fluente, que depende menos de falsidade superficial e mais de manipulação cognitiva sofisticada. Esse conteúdo frequentemente combina retórica persuasiva, manipulação emocional e construção de papéis narrativos para influenciar a interpretação do leitor por meio de múltiplos caminhos. Os métodos de detecção existentes operam tipicamente de forma isolada, focando em sinais únicos, como sintaxe, conhecimento externo ou pistas afetivas isoladas. Consequentemente, eles lutam para capturar as intenções manipuladoras multifacetadas subjacentes à desinformação moderna e falham em fornecer explicações auditáveis por humanos. Além disso, nenhum corpus existente anota conjuntamente essas dimensões complementares, e atributos elicados de um único LLM frequentemente herdam vieses específicos do modelo.

Metodologia

Os autores propõem o ExTax, um framework alinhado a taxonomias projetado para unificar três facetas complementares de manipulação em um único sistema de detecção interpretável. A arquitetura consiste em três etapas principais:

1. Elicitação de Atributos Taxonômicos

Para abordar a falta de anotações conjuntas e mitigar o viés de modelo único, o ExTax emprega uma estratégia de Síntese de Atributos Divergentes.

• Consulta a Múltiplos LLMs: O sistema consulta quatro LLMs de ponta (GPT-5 mini, DeepSeek-V4-Flash, Qwen3.6 Flash e Grok 4.1 Fast Reasoning) usando prompts específicos de taxonomia para extrair características binárias para três dimensões:
  • Persuasão: 6 estratégias (ex.: Ataque à Reputação, Justificação, Simplificação).
  • Emoção: 5 métodos de manipulação (ex.: Medo, Raiva, Esperança, Ansiedade, Tristeza).
  • Papéis Narrativos: 6 categorias (ex.: Estabilizadores Éticos, Subversivos Enganosos, Tóxicos Institucionais).
• Suavização Dinâmica de Rótulos Impulsionada por Entropia: Para reconciliar discordâncias entre os LLMs, o sistema calcula a proporção de votos positivos ($p_{i,c}$) para cada categoria. Em seguida, computa a entropia binária ($H_{i,c}$) para medir a incerteza inter-modelo. O rótulo suave final ($y^{(i,c)}_{tax}$) é uma combinação ponderada da proporção de votos e um valor neutro (0,5), onde alta discordância (alta entropia) puxa o rótulo em direção a 0,5, e alto acordo preserva a proporção de votos. Isso transforma decisões rígidas ruidosas em supervisão suave calibrada.

2. Aprendizado de Representação Alinhado à Taxonomia

O framework mapeia o texto de entrada em um espaço taxonômico unificado de 17 dimensões.

• Pooling com Portão Adaptativo: Em vez do pooling médio padrão, o modelo usa um vetor de portão aprendível para atribuir pesos de importância a tokens individuais de um codificador LLM pré-treinado (RoBERTa-large).
• Projeção Específica por Faceta: Três cabeças independentes de Rede Neural Perceptron Multicamada (MLP) projetam a representação agrupada nos respectivos espaços taxonômicos (Persuasão, Emoção, Papéis Narrativos). O modelo é treinado usando a perda de Entropia Cruzada Binária contra os rótulos suaves suavizados derivados na primeira etapa.

3. Detecção de Desinformação Baseada em Taxonomia

A fase final de detecção integra os sinais taxonômicos aprendidos com codificações de texto contextual.

• Transformação de Recursos e Prompting: As representações de tokens são projetadas no espaço taxonômico de 17 dimensões. Um mecanismo de Prompt Taxonômico Aprendível concatena o vetor taxonômico previsto com prompts semânticos aprendíveis para recalibrar a importância dos recursos.
• Atenção Múltipla Heterogênea: Um mecanismo de atenção especializado é empregado, onde o número de cabeças de atenção e suas dimensões correspondem estritamente às três facetas taxonômicas ($d_1=6, d_2=5, d_3=6$). Isso garante um alinhamento rigoroso de um para um entre o mecanismo de atenção e as estratégias de manipulação específicas sendo modeladas.
• Previsão: A saída de atenção agregada é processada através de uma soma ponderada e uma MLP compacta para gerar a classificação binária final (Desinformação vs. Confiável).

Contribuições Principais

1. Modelagem Taxonômica Multifacetada: O artigo reformula a detecção de desinformação como raciocínio sobre três facetas cognitivas complementares (persuasão, emoção, papéis narrativos), instanciadas como uma representação taxonômica unificada de 17 dimensões.
2. Síntese de Atributos Robusta ao Ruído: Os autores introduzem um método para agregar saídas de múltiplos LLMs de ponta e regularizar suas discordâncias via suavização dinâmica de rótulos impulsionada por entropia, convertendo efetivamente a discordância inter-LLM em supervisão sintética confiável.
3. Detecção e Explicação Alinhadas à Taxonomia: Ao integrar sinais taxonômicos com codificações contextuais via atenção heterogênea, o framework permite detecção robusta enquanto expõe as evidências retóricas, afetivas e narrativas específicas subjacentes a cada previsão.

Resultados Experimentais

O ExTax foi avaliado em cinco benchmarks transversais a domínios e gêneros (CoAID, ECTF, ISOT Fake News, MultiDis e EUDisinfo), cobrindo tanto posts de formato curto quanto artigos de formato longo.

• Desempenho Geral: O ExTax alcançou um Macro F1 geral de 0,8456, superando a melhor base de LLM (RAEmoLLM) em +2,01 pontos e a melhor base de aprendizado profundo (RoBERTa-large) em +3,13 pontos.
• Robustez ao Desequilíbrio de Gênero: O framework demonstrou robustez significativa sob desequilíbrio severo de gênero (70% posts, 30% artigos). Enquanto a melhor base profunda (DRES) degradou de um Macro F1 de 0,9454 em posts para 0,6194 em artigos, o ExTax manteve desempenho consistente em ambos os gêneros, sugerindo que recursos alinhados à taxonomia capturam padrões de manipulação invariantes ao gênero.
• Estudos de Ablação: A abordagem híbrida de síntese de atributos divergentes e suavização impulsionada por entropia mostrou-se crítica. Enquanto a síntese de único LLM rendeu desempenho inferior na etapa de aprendizado de representação, a abordagem híbrida forneceu supervisão melhor calibrada para a etapa final de detecção, levando a pontuações F1 gerais superiores.

Significado e Alegações

O artigo alega que o ExTax leva a detecção de desinformação além de veredictos binários "falso/real" em direção a um diagnóstico interpretável e auditável de como conteúdo enganoso manipula leitores. Ao fundamentar previsões em um perfil de manipulação estruturado (ex.: identificar "Ataque à Reputação" emparelhado com "Raiva" e "Subversivos Enganosos"), o sistema oferece transparência que se assemelha ao processo analítico de verificadores de fatos humanos.

Os autores observam que, embora o ExTax melhore a robustez da detecção e a explicabilidade, ele depende de LLMs comerciais de ponta para elicitação de atributos, o que introduz custos de inferência e preocupações potenciais de reprodutibilidade conforme as APIs evoluem. Adicionalmente, a avaliação está atualmente limitada ao inglês e a corpora centrados no Ocidente, e as explicações estruturadas ainda não foram validadas por meio de estudos com usuários humanos envolvendo verificadores de fatos. Consequentemente, os autores posicionam o ExTax como uma ferramenta de apoio à decisão e não como um sistema de moderação totalmente automatizado, destinado a ser usado com supervisão humana.