A Causal Graph Approach to Oppositional Narrative Analysis

Este trabalho propõe uma abordagem baseada em grafos causais para analisar narrativas opositivas, superando métodos tradicionais ao modelar interações entre entidades e extrair subgrafos causais mínimos para classificação, resultando em desempenho superior.

O essencial

Imagine que você está tentando entender uma briga de vizinhos que está acontecendo no grupo de WhatsApp do prédio. Alguns vizinhos estão apenas reclamando do barulho (crítica legítima), enquanto outros estão espalhando a teoria de que o síndico está roubando o dinheiro e usando o barulho para encobrir um plano secreto (teoria da conspiração).

A maioria dos computadores hoje tenta ler essas mensagens como se fossem uma lista linear de palavras, procurando por "palavras-chave" suspeitas. O problema é que isso é como tentar entender a briga apenas lendo a lista de nomes, sem entender quem está discutindo com quem e por quê. Além disso, esses modelos são "caixas pretas": eles dizem "isso é uma conspiração", mas não explicam o porquê, e muitas vezes aprendem preconceitos humanos.

Este artigo apresenta uma nova maneira de fazer isso, que chamaremos de "O Detetive de Mapas Causais".

Aqui está como funciona, passo a passo, usando analogias simples:

1. O Mapa de Conexões (Grafos de Entidades)

Em vez de ler o texto linha por linha, o modelo transforma a mensagem em um mapa de conexões.

• As Entidades: Imagine que cada pessoa, lugar ou coisa mencionada (ex: "Governo", "Vacinas", "Torres 5G") é um nó (um ponto) no mapa.
• As Relações: As linhas que conectam esses pontos mostram como eles se relacionam. Se o texto diz "O Governo esconde a verdade sobre as Vacinas", o modelo desenha uma linha ligando "Governo" a "Vacinas".

Isso cria uma rede visual de quem está interagindo com quem, capturando a estrutura da história, não apenas as palavras soltas.

2. A Máquina de Decisão (O Classificador)

Com esse mapa em mãos, o modelo usa uma inteligência artificial especializada em redes (chamada HGT) para olhar para a estrutura inteira.

• Analogia: É como um detetive que não olha apenas para a arma do crime, mas para o mapa de quem estava onde, quem conhecia quem e quem tinha motivo. O modelo aprende que certas configurações de conexões (ex: um grupo pequeno de pessoas conectadas de forma agressiva a um alvo) são típicas de teorias da conspiração, enquanto outras são apenas críticas normais.

3. O Grande Truque: "O Que Aconteceria Se...?" (Causalidade)

Esta é a parte mais inovadora. A maioria dos modelos apenas diz "sim" ou "não". Este modelo vai além e pergunta: "Qual foi a contribuição real de cada ponto para a decisão?"

Para fazer isso, eles usam uma técnica chamada Distilação Causal:

• A Analogia do "Desligar a Luz": Imagine que você tem o mapa completo da conspiração. O modelo começa a "desligar" (esconder) um ponto de cada vez (ex: esconde a palavra "5G").
  • Se, ao esconder "5G", o modelo deixa de achar que é uma conspiração, então "5G" foi uma peça fundamental (alta causalidade).
  • Se esconder "5G" não muda nada, então aquela palavra era apenas um detalhe sem importância (baixa causalidade).
• O Resultado: O modelo consegue "podar" o mapa, removendo 75% das informações e mantendo apenas os pontos essenciais que realmente causaram a decisão. Isso torna o modelo transparente: ele mostra exatamente quais palavras foram os "vilões" da história.

4. Por que isso é melhor?

• Menos Viés: Como o modelo entende a estrutura e a causa, ele não é enganado tão facilmente por palavras que parecem suspeitas, mas não têm contexto real.
• Transparência: Ao contrário de outros modelos que são "caixas pretas", este pode mostrar um "sub-grafo mínimo". É como se ele entregasse um relatório dizendo: "Eu classifiquei isso como conspiração apenas porque estas 3 palavras estavam conectadas assim. O resto do texto foi irrelevante."
• Eficiência: O modelo é muito leve e rápido, usando menos memória que os concorrentes, mas obtendo resultados melhores (ficou em 1º lugar em um concurso internacional de detecção de narrativas).

Resumo Final

Pense nisso como a diferença entre um policial que prende alguém apenas porque ele "parece suspeito" (modelos antigos) e um detetive que monta um quadro de evidências, conecta os pontos e explica exatamente qual prova foi crucial para a condenação (este novo modelo).

O objetivo final é ajudar a identificar rapidamente quando grupos estão coordenando ataques ou espalhando desinformação (como durante a pandemia), mas fazendo isso de forma inteligente, explicável e sem preconceitos, permitindo que humanos entendam o "porquê" da decisão da máquina.

Resumo técnico

Aqui está um resumo técnico detalhado do artigo "A Causal Graph Approach to Oppositional Narrative Analysis", apresentado em português:

1. O Problema

As narrativas de conspiração e os ataques coordenados representam uma ameaça significativa à sociedade, influenciando a opinião pública e desestabilizando instituições. A identificação automática dessas narrativas é complexa devido à sutileza do contexto e ao uso de termos com intenções ocultas.

• Limitações Atuais: Os métodos existentes dependem frequentemente de dados anotados em ontologias pré-definidas e modelos de "caixa preta" (como LLMs ajustados para tarefas específicas de NER). Essas abordagens tendem a capturar padrões lineares não estruturados, introduzem viés humano e falham em modelar as interações estruturadas e difusas entre entidades que surgem naturalmente no discurso.
• Desafio: Distinguir entre discurso crítico legítimo e ataques coordenados requer a compreensão das relações entre entidades, não apenas a identificação de palavras-chave.

2. Metodologia Proposta

Os autores propõem um framework baseado em grafos que representa narrativas como grafos de interação entre entidades, incorporando inferência causal para explicar as decisões do modelo. A arquitetura segue as seguintes etapas:

• Extração de Entidades e Classificação de Spans:

  • Utiliza um modelo BERT (ajustado no conjunto de dados LOCO para domínio de conspiração e congelado) para gerar embeddings.
  • Implementa um algoritmo de extração de spans (fragmentos de texto) que considera a hierarquia de entidades (ex: se "Presidente Obama" é uma entidade, "Presidente" também é).
  • Classifica os spans em tipos de entidades ou como "nenhuma entidade".

• Construção do Grafo Bipartido (Hipergrafo):

  • As entidades extraídas formam um conjunto de vértices $V$.
  • Um conjunto pré-definido de nós de relação $E$ conecta essas entidades.
  • Um classificador binário (MLP + estimador Gumbel-Sigmoid) determina quais entidades estão conectadas a quais fatores relacionais, construindo uma matriz de incidência.
  • O grafo é tratado como um hipergrafo não direcionado, onde as relações ($E$) atuam como hiperarestas sobre as entidades ($V$).

• Classificação com HGT (Heterogeneous Graph Transformer):

  • Um Heterogeneous Graph Transformer (HGT) processa o grafo construído para realizar a classificação no nível do grafo (Conspiração vs. Crítica).
  • O HGT é escolhido por sua capacidade de modelar heterogeneidade estrutural e semântica, capturando padrões de influência específicos de cada tipo de nó e aresta.

• Destilação de Grafo Causal (HyperSCI):

  • Para explicar por que o modelo tomou uma decisão, o sistema utiliza o modelo HyperSCI para estimar o Efeito de Tratamento Individual (ITE).
  • Representação de Confundidores: Um MLP projeta as características dos nós em um espaço latente onde confundidores são controlados, utilizando regularização baseada na distância de Wasserstein para garantir invariância.
  • Modelagem de Interferência: Propaga informações de vizinhança (efeitos de transbordamento) através do hipergrafo.
  • Predição Contrafactual: O modelo estima a probabilidade de saída se um nó específico estiver presente ($\hat{Y}(1)$) ou ausente ($\hat{Y}(0)$). O ITE é calculado como $\hat{\tau}_i = \hat{Y}_i(1) - \hat{Y}_i(0)$.
  • Destilação Greedy: Os nós com maior ITE são mantidos, enquanto os demais são removidos iterativamente até que a classificação mude, gerando um subgrafo causal mínimo.

3. Principais Contribuições

1. Representação em Grafo Causal: Um pipeline que extrai grafos de interação de entidades sem depender de esquemas de papéis pré-definidos, permitindo uma representação contínua e difusa da participação.
2. Destilação de Grafo Causal Mínimo: Um procedimento para estimar o ITE dos nós, podando nós extranhos e extraindo o subgrafo causal mínimo responsável pela classificação. Isso oferece interpretabilidade ao revelar quais entidades realmente "dirigem" a narrativa de conspiração.
3. Método de Classificação com Atenção em Grafos: A integração de HGT e inferência causal resultou em um desempenho superior à tarefa de classificação de pensamento opositivo.

4. Resultados

O modelo foi testado no conjunto de dados PAN 2024 Oppositional Narratives (subconjunto em inglês de 1.000 amostras).

• Desempenho de Classificação:
  • F1-Score Macro: 0,93 (o melhor resultado na tarefa).
  • MCC (Matthews Correlation Coefficient): 0,8407 (1º lugar).
  • O modelo classificou corretamente 928 de 1.000 amostras, errando apenas 72.
• Eficiência de Parâmetros:
  • O modelo total possui ~109 milhões de parâmetros.
  • Aproximadamente 99,8% dos parâmetros estão no BERT (congelado). O componente de grafos e raciocínio adiciona menos de 200k parâmetros.
  • Isso é cerca de 1/3 do tamanho da segunda melhor solução (que usava DeBERTa-large com 304M parâmetros).
• Análise Causal e Interpretabilidade:
  • PEHE (Precisão na Estimativa de Efeito Heterogêneo): 0,2994.
  • Taxa de Compressão do Subgrafo Mínimo: Média de 75,2%. Isso significa que o modelo consegue fazer previsões corretas utilizando apenas cerca de 25% das entidades originais do texto, demonstrando uma atribuição causal eficaz.
  • Para textos de conspiração, a taxa de compressão foi ainda maior (79,6%), indicando que o modelo identifica com precisão os núcleos centrais da conspiração.

5. Significado e Conclusão

Este trabalho demonstra que a modelagem estruturada de interações entre entidades via grafos, combinada com inferência causal, supera as abordagens puramente baseadas em padrões lineares ou caixas-pretas para a detecção de narrativas de conspiração.

• Interpretabilidade: A grande vantagem é a capacidade de "abrir a caixa preta", mostrando quais entidades específicas (nós) e suas interações (arestas/hiperarestas) foram determinantes para classificar um texto como conspiração.
• Adaptação de Domínio: O uso do pré-treinamento no corpus LOCO (88 milhões de tokens) superou a limitação de dados escassos do conjunto de dados específico da tarefa.
• Limitações: A generalização para outros conjuntos de dados ainda não foi verificada, e os rótulos contrafactuais são sintéticos (baseados em Leave-One-Out), o que é uma aproximação e não um "ground truth" causal real.
• Considerações Éticas: Os autores alertam que essa tecnologia pode ser usada tanto para combater desinformação quanto para censura automatizada de discursos políticos indesejados.

Em suma, a proposta oferece um novo paradigma para a análise de discurso, onde a estrutura causal do texto é explicitamente modelada e utilizada tanto para classificação de alta precisão quanto para explicação transparente das decisões.