Resumo Técnico: Um Framework Bayesiano Fundamentado Cognitivamente para Suscetibilidade à Desinformação

Declaração do Problema

As abordagens atuais de Processamento de Linguagem Natural (PLN) para detecção de desinformação tratam predominantemente o problema como uma tarefa de classificação de veracidade: dado um alegação, prever se é verdadeira ou falsa. Embora eficazes para identificar conteúdo falso, esse paradigma é redutor porque ignora os processos cognitivos do leitor. Os modelos existentes carecem de uma representação do agente humano, falhando em prever quem é suscetível a tipos específicos de desordem informacional, por que acreditam nela, ou como diferentes perfis cognitivos levam a interpretações divergentes da mesma alegação. Além disso, práticas padrão frequentemente descartam discordâncias entre anotadores (por exemplo, via voto majoritário), perdendo sinais valiosos sobre a ambiguidade inerente ou a incerteza epistêmica de uma alegação.

O artigo argumenta que a suscetibilidade à desinformação não é meramente uma falha de verificação de fatos, mas uma consequência da racionalidade limitada. Os humanos não processam a linguagem como ideais razoadores bayesianos; operam sob restrições como memória de trabalho limitada, dependência de atalhos mentais (heurísticas) e a influência de informações salientes ou frequentemente repetidas.

Metodologia: O Ouvinte Pragmático Limitado (BPL)

Os autores introduzem o Ouvinte Pragmático Limitado (BPL), um framework bayesiano formal que estende a teoria dos Atos de Fala Racionais (RSA). O BPL modela um agente atualizando crenças sobre um estado do mundo $w$ (alegação verdadeira/falsa) dada uma enunciação $u$ (alegação de notícia), sujeito a três restrições de recursos motivadas cognitivamente:

1. Limite de Profundidade de Recursão ($k$):

   • Conceito: Limita a profundidade do raciocínio de "Teoria da Mente" (ToM). Modela quantas camadas de intenção do falante um agente pode rastrear (por exemplo, $k=0$: aceitar conteúdo literal; $k=1$: reconhecer que um falante fez uma alegação; $k=2$: raciocinar sobre a intenção do falante de manipular o consenso social).
   • Base Cognitiva: Fundamentada em limites de memória de trabalho (Cowan, 2001) e achados empíricos de que agentes raramente recursam além da profundidade 2 em jogos estratégicos (Camerer et al., 2004).
   • Mecanismo: A profundidade efetiva é $k^* = \min(k, d+1)$, onde $d$ é a profundidade epistêmica da alegação (aninhamento de operadores de atribuição de crença).

2. Parâmetro de Compressão de Priori ($\beta$):

   • Conceito: Modela como um agente preserva crenças de credibilidade nuances versus colapsá-las em heurísticas grosseiras (por exemplo, "fonte duvidosa") sob carga cognitiva.
   • Base Cognitiva: Derivada da teoria do Gargalo de Informação (Tishby et al., 1999) e da teoria de processos duplos (Sistema 1 vs. Sistema 2).
   • Mecanismo: O agente mantém uma representação comprimida $\tilde{P}_\beta(w)$ através de uma variável de gargalo $Z$ (esquemas de credibilidade). À medida que $\beta \to 0$, o agente descarta priores (processamento heurístico); à medida que $\beta \to \infty$, o agente preserva priores completos (processamento sistemático). A credibilidade da fonte $\gamma$ modula essa compressão.

3. Tamanho da Amostra de Disponibilidade ($N$):

   • Conceito: Modela o número de exemplos semelhantes que um agente recupera mentalmente para avaliar uma alegação, operacionalizando a amostragem de importância com pesos de saliência.
   • Base Cognitiva: Baseada na heurística de disponibilidade (Tversky e Kahneman, 1973) e no "efeito da verdade ilusória" (Hasher et al., 1977).
   • Mecanismo: Em vez de calcular verossimilhanças exatas, o agente estima a verossimilhança via amostragem de uma distribuição proposta $Q(u)$ ponderada por fatores psicológicos de saliência: valência emocional ($\nu$), contagem de repetições ($r$) e recência ($\rho$). Um $N$ pequeno leva a um super-pesamento sistemático de exemplos vívidos ou repetidos.

Mapeamento da Desordem Informacional

O framework mapeia explicitamente a taxonomia de desordem informacional de Wardle e Derakhshan (2017) para parâmetros do BPL:

• Desinformação (Mis-information): Explora priores comprimidos ($k=0$).
• Desinformação (Dis-information): Explora raciocínio ToM raso ($k \ge 1$).
• Mal-informação: Explora recursão profunda e enquadramento meta-epistêmico ($k \ge 2$).

Este mapeamento leva ao Paradoxo do Descompasso de Profundidade: Agentes com consciência pragmática parcial ($k=1$) podem ser mais suscetíveis à desinformação do que aqueles sem consciência ($k=0$), pois reconhecem a atribuição, mas falham em avaliar a intenção enganosa por trás dela.

Implementação e Avaliação

Os autores implementaram o BPL usando dois conjuntos de dados: LIAR (alegações do PolitiFact) e MultiFC (alegações de verificação de fatos multi-domínio).

• População de Agentes: Uma população de nove tipos de agentes canônicos abrangendo o espaço de parâmetros $(k, \beta, N)$ foi simulada.
• Fundamentação por LLM: Uma versão híbrida foi desenvolvida onde Modelos de Linguagem de Grande Escala (LLMs, especificamente Gemini 2.5 Pro) foram usados para derivar caracterizações semanticamente ricas de alegações, incluindo:
  • Esquemas verbais para compressão de priori (substituindo tabelas criadas manualmente).
  • Pesos de saliência ($\phi$) baseados em intensidade emocional, novidade, memorabilidade e compartilhabilidade.
  • Recuperação de memória simulada para a amostra de disponibilidade.
• Métricas: Classificação de veracidade (AUC, F1), erro de previsão e calibração ao nível de componentes (correlação entre recuperação simulada e verdade fundamental).

Resultados Chave

1. Classificação de Veracidade

• Conjunto de Dados LIAR: A "Linha de Base de Superfície" (usando metadados de histórico do falante) alcançou AUC perfeito (1.000), mas isso foi atribuído a vazamento de dados onde o histórico do falante codificava diretamente o rótulo. O modelo BPL Completo (usando histórico do falante apenas como um priori comprimido, não como recurso direto) alcançou um AUC de 0.930 e F1 de 0.885, estabelecendo uma forte linha de base livre de vazamento. Um único escalar BPL (pontuação de suscetibilidade) alcançou um AUC de 0.811 usando apenas texto da alegação e identidade do falante.
• Conjunto de Dados MultiFC: O BPL Completo alcançou um AUC de 0.840 comparado a uma linha de base de superfície de 0.879. Embora o BPL não tenha melhorado a discriminação (AUC), combinar recursos do BPL com recursos de superfície melhorou a pontuação F1 de 0.439 para 0.517, indicando melhores compensações precisão-recall cruciais para verificação de fatos de alta recuperação.

2. Estudos de Ablação

• Compressão de Priori é Crítica: Remover o limite de compressão de priori ($\beta$) causou a maior queda de desempenho ($\Delta r = -0.064$), sugerindo que modelar como humanos comprimem a credibilidade da fonte é o fator mais significativo no sucesso do framework.
• Efeitos do Limite de Profundidade: No conjunto de dados LIAR completo (92% de alegações de profundidade-0), relaxar o limite de profundidade teve efeitos negligenciáveis. No entanto, quando condicionado a alegações de profundidade-1, o limite de profundidade tornou-se o principal motor de desempenho.

3. O Paradoxo do Descompasso de Profundidade

• Validação Empírica: Agentes com $k=1$ (consciência parcial) performaram significativamente pior em alegações de profundidade-1 (erro 0.510) do que agentes $k=0$ (erro 0.450).
• Interpretação: Agentes $k=1$ reconhecem a atribuição, mas não conseguem avaliar a intenção enganosa do falante, levando-os a tratar a alegação como evidência positiva fraca. Agentes $k=0$ ignoram a atribuição e avaliam o conteúdo literal (que é frequentemente linguisticamente implausível), resultando em menor crença. Agentes $k=2$ inferem corretamente a decepção, alcançando o menor erro (0.340).

4. Fundamentação por LLM e Calibração

• Ganho de Desempenho: O LLM-BPL Híbrido alcançou um AUC de 0.868 em uma pequena amostra comparado a 0.695 para uma linha de base baseada em recursos correspondente.
• Canal Epistêmico: Os modelos baseados em LLM e em recursos mostraram quase independência ($r=0.184$), sugerindo que o LLM acessa um canal epistêmico distinto (coerência de enquadramento semântico) em vez de depender de metadados lexicais.
• Calibração de Disponibilidade: A recuperação simulada por LLM de alegações falsas correlacionou-se fortemente ($r=0.562$) com a falsidade real da alegação sem supervisão, validando o mecanismo de disponibilidade. O modelo recuperou naturalmente mais exemplos falsos para alegações falsas, suprimindo efetivamente a crença nelas.

Significado e Alegações

O artigo posiciona o BPL como um trabalho em andamento que oferece uma alternativa fundamentada cognitivamente à detecção padrão de desinformação. Suas contribuições primárias são:

1. Teórica: Um mapeamento formal de tipos de Desordem Informacional para restrições cognitivas, prevendo o "paradoxo do descompasso de profundidade" onde treinamento parcial pode aumentar a vulnerabilidade.
2. Metodológica: Um framework probabilístico que se reduz ao RSA padrão quando as restrições são relaxadas, permitindo a modelagem de perfis cognitivos heterogêneos e a previsão de discordância entre anotadores como variância posterior.
3. Empírica: Evidência de que a compressão de priori (modelar como humanos simplificam a credibilidade da fonte) é o fator dominante na classificação de veracidade, e que a fundamentação por LLM melhora significativamente o desempenho ao simular recuperação de memória semelhante à humana e enquadramento semântico.

Os autores concluem que, embora o BPL seja um classificador forte, seu verdadeiro valor reside em sua capacidade de explicar por que certos agentes são suscetíveis. Eles alertam que a arquitetura atual assume verdade binária e depende de heurísticas simplificadas para extração de profundidade, notando que trabalhos futuros devem abordar veracidade graduada e análise de dependência mais sofisticada. O framework sugere que intervenções focadas exclusivamente em ensinar pessoas a notar atribuição (sem ensinar avaliação de intenção) poderiam inadvertidamente aumentar a suscetibilidade à desinformação.