Angry but Accurate: Detecting and Profiling the Counter-Misinformation Ecosystem on Twitter

Declaração do Problema
Embora a desinformação nas redes sociais represente uma ameaça significativa ao discurso público, uma parte substancial da atividade online envolve usuários comuns combatendo ativamente alegações falsas. No entanto, o "ecossistema de contra-desinformação" — os usuários e conteúdos que corrigem falsidades — permanece subcaracterizado. Suposições dominantes no campo sugerem que a emoção negativa é uma assinatura primária da falsidade, implicando que o conteúdo corretivo seria mais neutro. Além disso, os métodos de detecção existentes frequentemente dependem de amostragem de URLs ou hashtags, o que ignora falsidades puramente textuais ou aquelas que carecem de tags específicas. Há uma necessidade de compreender as características linguísticas e de nível de conta daqueles que se opõem à desinformação em escala, especificamente para determinar se os perfis emocionais e estruturais dos posts corretivos diferem da desinformação que visam.

Metodologia
Os autores empregaram um pipeline de três estágios para detectar e perfilar o ecossistema de contra-desinformação usando um grande corpus de tweets sobre a COVID-19 de 2020–2021:

1. Recuperação e Pareamento de Dados: Os pesquisadores agregaram 15.374 alegações falsas únicas sobre a COVID-19, verificadas por agências de checagem (ex: PolitiFact, Snopes). Usando a recuperação BM25, eles vincularam essas alegações a um conjunto de dados público de larga escala do Twitter, gerando 1.537.400 pares candidatos de alegação-tweet.
2. Detecção de Postura (NLI): Um modelo de Inferência de Linguagem Natural (NLI) específico para o domínio, previamente ajustado com dados de desinformação sobre COVID-19 e aumentado com dados sintéticos gerados pelo GPT-4o (via Geração de Desinformação Controlável), foi aplicado aos pares candidatos. Este modelo classifica o texto como apoiando, opondo-se ou sendo neutro em relação a uma alegação. Após filtrar duplicatas e casos ambíguos, a amostra analítica final compreendeu 264.737 tweets (195.922 apoiando, 68.815 opondo-se).
3. Perfilamento e Comparação: O estudo comparou 23 características de nível de usuário e de texto entre os grupos pró-desinformação e anti-desinformação. As características incluíram:
   • Emoção: Pontuações para as seis emoções básicas de Ekman (raiva, nojo, medo, alegria, tristeza, surpresa) usando o modelo Demux.
   • Toxicidade: Sete pontuações de toxicidade via DeToxify.
   • Probabilidade de Bot: Pontuações da API Botometer X.
   • Atributos de Usuário/Texto: Idade da conta, número de seguidores, contagem de listas, comprimento do tweet e níveis de atividade.
   • Modelagem Preditiva: Classificadores de aprendizado de máquina (Random Forest, XGBoost, etc.) foram treinados para prever a postura baseando-se apenas nessas 23 características para avaliar a separabilidade.

Resultados Principais
O estudo rendeu várias descobertas contraintuitivas em relação aos perfis emocionais e estruturais do ecossistema de contra-desinformação:

• Tom Emocional: Contrariando a suposição de que a emoção negativa é uma marca registrada da falsidade, os posts que se opõem à desinformação exibiram níveis significativamente mais altos de emoção negativa do que os posts que a apoiam. Especificamente, os tweets anti-desinformação pontuaram mais alto em tristeza (Cliff's $\delta = -0,125$), raiva ($\delta = -0,098$) e nojo ($\delta = -0,097$). Por outro lado, os tweets pró-desinformação foram caracterizados por maior extensão e níveis mais altos de surpresa.
• Características do Usuário: Usuários que postam conteúdo anti-desinformação tenderam a ser mais "estabelecidos". Eles possuíam contas mais antigas, mais seguidores, contagens de listas mais altas e maior atividade geral (tweets/retweets) em comparação com usuários que espalham desinformação.
• Atividade de Bots: As pontuações de probabilidade de bot não diferenciaram significativamente entre os dois grupos, sugerindo que contas automatizadas não se concentram desproporcionalmente em nenhum dos lados da divisão neste conjunto de dados.
• Separabilidade Preditiva: Modelos de aprendizado de máquina treinados nestas características puderam distinguir entre posturas pró e anti-desinformação com uma precisão modesta, mas consistente, acima do acaso (Random Forest $F1 = 0,632$, Acurácia = 0,620). A análise SHAP confirmou que a tristeza, o nojo e o comprimento menor do tweet foram fortes preditores de uma postura de "oposição".

Significância e Alegações
O artigo afirma fornecer a primeira medição de emoção discreta em larga escala estabelecendo que os posts corretivos são frequentemente mais emocionalmente negativos do que a desificação que visam. Os autores argumentam que esta descoberta desafia a heurística prevalente de que a emoção negativa é um sinal confiável para desinformação.

A principal significância reside nas implicações para a governança de plataformas e moderação de conteúdo. Os autores alertam que sistemas projetados para sinalizar conteúdo emocionalmente carregado como potencial desinformação podem inadvertidamente suprimir o discurso corretivo legítimo e a base de usuários estabelecida que ancora o ecossistema de contra-desinformação. O estudo sugere que combater a desinformação requer a compreensão do conteúdo corretivo que emerge em resposta, em vez de focar apenas na supressão do conteúdo falso.

Limitações
Os autores observam diversas restrições: o estudo é limitado à COVID-19 no Twitter (2020–2021), o que pode limitar a generalização para outros tópicos ou eras. A dependicência de modelos pré-treinados para detecção de emoção e de bots introduz potenciais vieses. O classificador NLI, embora robusto, é imperfeito, e o uso de dados sintéticos gerados por LLM para treinamento carrega riscos de inversão de tarefa (task flipping) e sub-representação de certos tipos de conteúdo. Finalmente, as diferenças observadas no nível de grupo são modestas no nível de tweet individual, o que significa que estas características refletem tendências distributivas, e não sinais confiáveis por tweet.