Beyond Community Notes: A Framework for Understanding and Building Crowdsourced Context Systems for Social Media

Título: Além das Community Notes: Um Framework para Compreender e Construir Sistemas de Contexto Crowdsourced para Mídias Sociais

1. O Problema

As plataformas de mídia social enfrentam um desafio crescente na gestão de conteúdo prejudicial, incluindo abuso, spam e desinformação. As abordagens tradicionais de moderação, como a verificação de fatos profissional (feita por terceiros ou pela própria plataforma), têm enfrentado críticas significativas por supostos vieses políticos, custos elevados e incapacidade de acompanhar a velocidade de publicação de conteúdo na internet.

Recentemente, surgiu uma nova abordagem: Sistemas de Contexto Crowdsourced (CCS). Pioneiros pela plataforma X (antigo Twitter) com o "Community Notes" (anteriormente Birdwatch), esses sistemas permitem que usuários forneçam contexto adicional (notas) para posts potencialmente enganosos, que são exibidos ao lado do conteúdo original. Grandes plataformas como Meta (Facebook, Instagram, Threads), TikTok e YouTube estão adotando ou pilotando sistemas semelhantes.

O problema central identificado pelos autores é a falta de um entendimento unificado sobre como esses sistemas funcionam, como são projetados e quais são suas implicações éticas e sociais. Não existe ainda um modelo teórico ou um espaço de design estruturado para analisar e comparar essas implementações, o que dificulta a pesquisa acadêmica e a criação de melhores sistemas.

2. Metodologia

Os autores empregaram uma abordagem mista, combinando revisão sistemática de literatura e análise de implementação no mundo real:

• Revisão Sistemática de Literatura (SLR):
  • Seguiu o protocolo PRISMA.
  • Buscou pesquisas sobre a primeira grande implementação de CCS (Birdwatch/Community Notes do X/Twitter).
  • Critérios de inclusão: estudos originais sobre o funcionamento do sistema, publicados a partir de 2021.
  • Fontes: Bancos de dados de HCI (ACM, IEEE, etc.) e preprints (arXiv).
  • Resultado: Uma amostra final de 56 artigos analisados.
• Análise de Implementações Reais:
  • Análise indutiva e diagramação de afinidade de quatro implementações principais: X (Community Notes), Meta (Community Notes), TikTok (Footnotes) e YouTube (Notes).
  • Baseado em documentação pública, comunicados oficiais e especificações de design das plataformas (coletadas em julho de 2025).
  • Objetivo: Extrair características de design e identificar variações entre as plataformas.

3. Principais Contribuições

O artigo oferece duas contribuições fundamentais para a comunidade de HCI (Interação Humano-Computador):

1. Um Modelo Teórico de CCS:

   • Define formalmente o que é um Sistema de Contexto Crowdsourced.
   • Diferencia os CCS de sistemas anteriores de moderação ou comentários, destacando quatro características centrais:
     1. Dependem de contribuições crowdsourced (dos usuários).
     2. São projetados especificamente para elicitar contexto que ajude na interpretação do post original (não apenas engajamento).
     3. Não removem o conteúdo, mas o suplementam com texto adicional (contra-discurso).
     4. São nativamente integrados à plataforma e operados por ela (diferente de comportamentos orgânicos de usuários).

2. Um Espaço de Design para CCS:

   • Desenvolveu um framework taxonômico que categoriza as decisões de design em seis aspectos principais, cada um com dimensões e opções específicas:
     • Participação: Quem pode usar o sistema, quem contribui, quem avalia e como são incentivados.
     • Inputs (Entradas): Formatos das contribuições (texto livre, links, assistência de IA) e restrições de conteúdo.
     • Curação: Como as notas são selecionadas para exibição (algoritmos de "ponte" bridging, maioria, júri digital, decisão editorial).
     • Apresentação: Onde e como as notas são exibidas (sobreposição, abaixo do post, anonimato do autor, notificações).
     • Tratamento pela Plataforma: Como o sistema trata posts com notas (penalização algorítmica, monetização, interação com outras ferramentas de moderação).
     • Transparência: O que é público (código-fonte, dados, processo de seleção de contribuidores).

4. Resultados e Descobertas

• Estado da Arte (Revisão de Literatura):

  • A maioria das pesquisas (n=24) foca no impacto do sistema, mostrando que notas podem reduzir a propagação e a credibilidade de posts enganosos.
  • Estudos sobre comportamento de contribuidores (n=16) revelam viés político na seleção de posts e nas avaliações, embora os algoritmos de "ponte" tentem mitigar isso.
  • Há uma lacuna significativa em pesquisas sobre o design do sistema e a percepção dos usuários finais (não contribuidores).
  • Um problema crítico identificado é a latência: o processo de curadoria (especialmente o algoritmo de bridging) é lento, muitas vezes impedindo que as notas apareçam antes que o conteúdo viral se espalhe.

• Análise Comparativa das Plataformas:

  • Embora todas as plataformas utilizem algoritmos baseados no código aberto do X, existem diferenças cruciais:
    • Transparência: Apenas o X mantém o código e os dados abertos; as outras (Meta, TikTok, YouTube) são "caixas pretas".
    • Participação: O TikTok e o YouTube têm restrições mais rígidas sobre quem pode contribuir ou avaliar (ex: YouTube usa terceiros pagos para avaliações, não usuários comuns).
    • Inputs: O Meta exige URLs de fontes, enquanto o X permite texto livre. O X também começou a integrar IA para escrita de notas.
    • Tratamento: Nenhuma das plataformas analisadas penaliza algoritmicamente posts que recebem notas (não há downranking), focando apenas na adição de contexto.

5. Significado e Implicações Normativas

Os autores discutem três preocupações normativas interconectadas que devem guiar o futuro design e pesquisa de CCS:

1. Informação do Usuário (User Informedness):

   • O objetivo principal é melhorar a compreensão do usuário. Há um trade-off entre velocidade/alcance e qualidade/confiabilidade. Os sistemas atuais priorizam a qualidade (evitando viés), o que resulta em baixa cobertura (apenas ~10% das notas sugeridas são publicadas) e lentidão, falhando em conter desinformação viral rápida.

2. Distribuição de Poder:

   • Embora os CCS prometam transferir poder da plataforma para a comunidade, na prática, as plataformas ainda controlam quem entra no sistema e quais algoritmos são usados. Algoritmos de bridging podem silenciar conteúdos polarizantes (que precisam de moderação) em favor de visões centristas, limitando a verdadeira empoderamento dos usuários nas extremidades ideológicas.

3. Justiça (Fairness):

   • Os sistemas não são isentos de viés. O viés pode surgir na seleção de contribuidores, na criação de notas e na curadoria. A falta de transparência (exceto no X) impede a auditoria externa sobre esses vieses. Além disso, a abordagem de "adicionar contexto" em vez de "remover conteúdo" pode ser mais justa para evitar falsos positivos, mas pode causar danos a grupos visados pelo conteúdo enganoso.

Conclusão

O papel estabelece que os Sistemas de Contexto Crowdsourced são uma ferramenta promissora, mas não devem ser vistos como substitutos diretos e completos para a verificação de fatos profissional ou para o conjunto completo de ferramentas de moderação de conteúdo. O framework proposto oferece uma base para pesquisadores de HCI investigarem essas áreas subexploradas, focando em melhorar a velocidade, a transparência e a equidade desses sistemas para que possam realmente impactar positivamente o ecossistema de informação.