Community Notes undermoderate polarizing content by design creating risks in electoral processes

O estudo revela que, embora o sistema de Notas da Comunidade do X seja eficaz em capturar dimensões polarizadoras e promover consensos bipartidários, ele foi projetado para submoderar sistematicamente conteúdos polarizantes, o que representa riscos significativos para os processos eleitorais e o discurso cívico em diversos países.

O essencial

🗳️ O "Sistema de Notas" do X (Twitter) e o Perigo nas Eleições

Imagine que o X (antigo Twitter) é uma praça pública gigante onde todo mundo grita notícias, opiniões e boatos. O problema é que, às vezes, alguém grita uma mentira que pode causar pânico ou confusão.

Para resolver isso, o X criou o Community Notes (Notas da Comunidade). A ideia é genial: em vez de ter apenas um "chefe" ou um "polícia" decidindo o que é verdade, o próprio público ajuda a corrigir os erros.

🧩 Como funciona a "Máquina de Acordo"

Imagine que você vê um post com uma mentira. Você escreve uma nota explicando o erro e coloca uma fonte confiável. Agora, milhares de outras pessoas vão ler sua nota e votar: "Isso é útil?" ou "Isso é besteira?".

Aqui está o truque do algoritmo (a "máquina"):

• Se apenas pessoas da esquerda acharem sua nota útil, ela não aparece.
• Se apenas pessoas da direita acharem útil, ela também não aparece.
• Para a nota aparecer para todo mundo, ela precisa ser aprovada tanto por pessoas de esquerda quanto de direita.

O algoritmo funciona como um filtro de "consenso". Ele só deixa passar o que todo mundo concorda que é útil, ignorando o que é apenas útil para um lado da briga.

🚨 O Problema: O "Filtro" que esconde as brigas

Os autores deste estudo (Paul Bouchaud e Pedro Ramaciotti) analisaram milhões de notas em 13 países (incluindo EUA, Brasil, França, etc.) e descobriram uma falha de design muito importante:

O sistema foi feito para evitar brigas, mas isso significa que ele ignora exatamente onde as brigas acontecem.

Pense assim:
Imagine que você tem um filtro de café. Ele é ótimo para tirar os grãos grandes e deixar a água limpa. Mas, se você tentar coar uma bomba de fumaça (algo que explode e gera muita fumaça/controversa), o filtro pode entupir ou simplesmente não conseguir processar a fumaça porque ela é muito densa e divide as pessoas.

No caso do X:

1. Tópicos "fáceis": Se alguém postar "O sol nasce no oeste" ou "Este site de golpes é falso", tanto a esquerda quanto a direita concordam que é mentira. O sistema funciona perfeitamente e corrige.
2. Tópicos "difíceis" (Políticos): Durante eleições, as pessoas estão divididas. O que a esquerda acha útil para corrigir, a direita pode achar que é censura. E vice-versa.
   • Como o sistema exige acordo de ambos os lados para mostrar a nota, ele não consegue moderar a maioria das mentiras políticas polarizadas.
   • Resultado: As mentorias sobre eleições ficam "invisíveis" ou demoram muito para aparecer, porque ninguém consegue chegar a um consenso.

🗳️ O Perigo nas Eleições

O estudo olhou para eleições recentes (EUA 2024, Reino Unido 2024, França 2024, Alemanha 2025) e viu o seguinte:

• Notas sobre golpes e fraudes (ex: "este site rouba seus dados") têm uma chance alta de serem aprovadas (cerca de 39%).
• Notas sobre política e eleições têm uma chance muito baixa de serem aprovadas (menos de 10-15%).

A analogia final:
Imagine que você está em uma sala de votação. Alguém está gritando mentiras sobre quem vai ganhar.

• O sistema de Notas da Comunidade age como um mediador que só fala se todos na sala concordarem.
• Mas, em uma eleição, ninguém concorda com nada.
• Então, o mediador fica calado. As mentiras continuam gritando, e o mediador (o sistema) não faz nada, porque "não houve consenso".

💡 Conclusão Simples

O sistema do X é ótimo para corrigir fatos óbvios que ninguém discute (como dados de saúde ou golpes financeiros). Mas, por design, ele é cego para as mentiras que mais importam: as que dividem a sociedade e decidem eleições.

O estudo alerta que, dependendo apenas desse sistema de "votação popular" para checar fatos durante eleições, corremos o risco de deixar as mentorias políticas mais perigosas circularem livremente, porque o sistema foi desenhado para evitar o conflito, e não para resolver a verdade em tempos de conflito.

Resumo em uma frase: O sistema tenta ser um "pacificador" exigindo que todos concordem, mas em momentos de guerra política (como eleições), essa exigência faz com que ele pare de funcionar exatamente quando mais precisamos dele.

Resumo técnico

Resumo Técnico: Community Notes e a Submoderação de Conteúdo Polarizante

1. O Problema

As plataformas de mídia social enfrentam um desafio persistente na disseminação de desinformação. Embora a verificação de fatos por especialistas seja eficaz, ela não escala para o volume de conteúdo gerado e pode ser percebida como tendenciosa ou causar efeitos de "backfire" (endurecimento de crenças polarizadas). Em resposta, o X (antigo Twitter) implementou o Community Notes (CN), um sistema de verificação de fatos crowdsourced onde os usuários colaboram para adicionar contexto a posts enganosos.

O mecanismo central do CN é projetado para exibir apenas notas que recebem apoio transpartidário (de usuários com diferentes ideologias). O sistema infere uma dimensão ideológica latente para notas e avaliadores, selecionando notas que atraem consenso entre espectros ideológicos opostos.

A Hipótese Central do Estudo: O artigo investiga se essa dependência de consenso ideológico, embora benéfica para a confiança, cria uma submoderação sistemática de conteúdo altamente polarizante (especialmente durante eleições), pois tais tópicos raramente geram consenso entre grupos opostos, independentemente da sua factualidade.

2. Metodologia

Os autores realizaram uma análise em larga escala combinando dados públicos do X com escalas ideológicas externas.

• Dados Utilizados:

  • Base de Dados do X: Até 1º de março de 2025, foram analisados 1,88 milhão de Community Notes propostos, recebendo 135,17 milhões de avaliações de 1,15 milhão de contribuidores.
  • Seleção de Dados: O estudo manteve notas com pelo menos 5 avaliações e contribuidores que avaliaram pelo menos 10 notas, resultando em 1,45 milhão de notas analisadas.
  • Contexto Eleitoral: Foco específico em quatro eleições recentes: EUA (2024), Reino Unido (2024), França (2024) e Alemanha (2025).

• Modelagem e Algoritmo:

  • Os autores replicaram o modelo de fatoração de matriz regularizada utilizado pelo X (baseado em Wojcik et al., 2022).
  • O modelo infere parâmetros latentes: viés global ($\beta_0$), viés do avaliador ($\beta_r$), viés da nota ($\beta_n$) e ideologias latentes de notas ($\theta_n$) e avaliadores ($\theta_r$).
  • A fórmula preditiva é: $\hat{\eta}_{rn} = \beta_0 + \beta_n + \beta_r + \theta_n \cdot \theta_r$.
  • Notas com alto $\beta_n$ (consenso amplo) e baixo $|\theta_n|$ (pouca dependência da ideologia do avaliador) são selecionadas para exibição ("Status Útil").

• Escalonamento Ideológico Externo:

  • Para validar a dimensão latente aprendida pelo X, os autores utilizaram dados de escalas ideológicas multidimensionais baseadas em redes de seguidores de parlamentares (MPs) em 23 países.
  • Utilizaram Análise de Correspondência para mapear usuários em um espaço latente e calibraram-no com dados do Global Party Survey (GPS), focando em duas dimensões principais: Esquerda-Direita e Anti-Elite (populismo/desconfiança nas instituições).
  • A análise cobriu 13 países com dados suficientes (EUA, UK, Japão, Espanha, França, Brasil, Canadá, Alemanha, Argentina, Israel, Austrália, Polônia e México).

3. Contribuições Principais

1. Validação Global do Modelo: Demonstrar que o eixo ideológico latente aprendido pelo algoritmo do X alinha-se consistentemente com as principais dimensões de polarização política (Esquerda-Direita e/ou Anti-Elite) em 13 países distintos, não apenas nos EUA.
2. Evidência de Submoderação por Design: Provar que o mecanismo de consenso do CN falha sistematicamente em moderar conteúdo polarizante. Conteúdo factual, mas politicamente divisivo, tende a não atingir o "Status Útil" porque não há acordo entre avaliadores de espectros opostos.
3. Risco Eleitoral: Quantificar a disparidade na moderação de notas relacionadas a eleições em comparação com outros tópicos, evidenciando um risco para a integridade da informação durante processos democráticos.

4. Resultados Chave

• Alinhamento Ideológico:

  • O modelo do X captura com precisão a divisão política estruturante em cada país. Nos EUA, o eixo aprendido correlaciona-se fortemente com a divisão Democrata-Republicana (AUC = 0,822).
  • Em outros países (ex: Brasil, Argentina), o eixo aprendido alinha-se mais fortemente com a dimensão Anti-Elite do que com a Esquerda-Direita tradicional, refletindo a natureza local da polarização.

• Taxas de Moderação (Status Útil):

  • Apenas 11,97% das notas propostas atingem o "Status Útil" (são exibidas publicamente).
  • Submoderação Eleitoral: As notas relacionadas a eleições têm taxas de sucesso significativamente menores do que a média geral:
    • EUA (2024): 6,9% (vs 14,7% da média).
    • Reino Unido (2024): 8,2% (vs 10,9%).
    • França (2024): 12,8% (vs 16,8%).
    • Alemanha (2025): 8,6% (vs 11,9%).
  • Em contraste, notas sobre golpes e fraudes (menos polarizantes ideologicamente) atingem taxas de sucesso de cerca de 39%.

• Viés de Exclusão:

  • Contas políticas divisivas (ex: Elon Musk, campanhas de Kamala Harris, Jair Bolsonaro) têm uma proporção muito menor de posts com notas "Úteis" em comparação com contas de entretenimento ou teorias da conspiração (que muitas vezes geram consenso sobre a falsidade de alegações).
  • O estudo observa que usuários de esquerda tendem a deletar posts que recebem notas "Úteis" com mais frequência do que usuários de direita, o que pode criar uma assimetria observada nos dados, mas a submoderação intrínseca do algoritmo permanece o fator dominante.

5. Significado e Conclusão

O estudo conclui que o sistema de Community Notes possui uma limitação intrínseca de design: ao priorizar o consenso ideológico em detrimento da factualidade pura, ele se torna ineficaz para moderar o tipo de conteúdo mais perigoso em contextos democráticos — a desinformação altamente polarizante que divide a sociedade.

• Implicações para a Integridade Eleitoral: Durante eleições, quando a polarização atinge o pico, o algoritmo tende a "silenciar" a moderação de fatos contestados, deixando a desinformação circulando sem o aviso contextual que o sistema é projetado para fornecer.
• Recomendação: O uso de moderação crowdsourced como substituto total da verificação de fatos por especialistas é arriscado. O estudo sugere que plataformas devem considerar abordagens complementares, onde a verificação por especialistas seja acionada para conteúdo altamente polarizante que falha em gerar consenso no crowdsourcing, para mitigar riscos aos processos eleitorais e ao discurso cívico.

Em suma, o artigo alerta que, embora o Community Notes aumente a confiança do usuário e reduza a polarização em tópicos gerais, ele falha sistematicamente exatamente onde é mais necessário: na moderação de disputas factuais que dividem a nação.