Resumo Técnico: Previsão de Viralidade Pós com Atenção Cruzada Temporal sobre Sinais de Tendência

Declaração do Problema

Os modelos atuais para prever a viralidade em redes sociais dependem predominantemente de características textuais e estruturais estáticas (por exemplo, contagem de seguidores, horário de publicação, centralidade na rede e semântica do texto). Uma limitação crítica dessas abordagens é sua "cegueira temporal": elas não levam em conta a natureza dinâmica da atenção pública. Uma postagem sobre um tópico específico pode ter um potencial viral drasticamente diferente dependendo se esse tópico está atualmente em pico de interesse público ou se tem estado adormecido. Os autores hipotetizam que ignorar essas dinâmicas temporais leva a uma caracterização equivocada dos impulsionadores de engajamento e à redução da precisão preditiva. O problema central abordado é se sinais de atenção exógenos e do mundo real podem melhorar a previsão de viralidade além do que o texto da postagem sozinho revela.

Metodologia

Dados e Rotulagem

O estudo utiliza um conjunto de dados de 788.873 postagens do Reddit provenientes de 10 subreddits diversos (abrangendo notícias, tecnologia, finanças, ciência e entretenimento), coletadas entre janeiro de 2021 e dezembro de 2023.

• Definição de Viralidade: A viralidade é definida por meio de uma estratégia de rotulagem binária estratificada por subreddit para acomodar diferenças de escala entre as comunidades. Uma postagem é rotulada como viral ($y=1$) se sua pontuação de engajamento $v$ exceder o percentil 90 da distribuição do seu subreddit E sua pontuação bruta $s$ atender a um limite mínimo de 100.
• Pontuação de Engajamento: $v = s + 0,3 \cdot c$, onde $s$ é a pontuação da postagem (upvotes menos downvotes) e $c$ é a contagem de comentários. O peso $\beta=0,3$ reflete o esforço maior de comentar em comparação a votar.
• Sinais Exógenos: O modelo incorpora dados de visualizações de páginas da Wikipedia como proxy para o interesse público coletivo. Termos de "pico" são identificados diariamente com base na razão entre visualizações atuais e visualizações do dia anterior ($\rho \ge 2,0$) e aumentos absolutos de visualizações. Os 512 termos em tendência superiores por dia são retidos, filtrados quanto a ruído (por exemplo, páginas perenes) e codificados.

Arquitetura: ViralityNet

O ViralityNet é uma arquitetura de atenção cruzada projetada para fundir representações internas de postagens com sinais externos de tendências temporais.

1. Codificador de Postagem: Gera uma representação de postagem de 256 dimensões ($p$) fundindo quatro fluxos paralelos:

   • Título e Corpo: Codificados usando all-mpnet-base-v2 (768 dimensões). O texto do corpo é segmentado (400 caracteres), agrupado por média e renormalizado. Um embedding de preenchimento aprendido lida com postagens sem texto do corpo.
   • Características Estruturais: 9 características (hora de postagem, dia da semana, idades/comprimentos log-normalizados, tamanho do subreddit, etc.) projetadas para 64 dimensões.
   • Embedding do Subreddit: Um embedding aprendido de 32 dimensões para o subreddit específico.
   • Fusão: Esses fluxos são concatenados (1632 dimensões), projetados para 256 dimensões e fundidos com um embedding de ano aprendido ($e_y$) por meio de uma conexão residual para acomodar mudanças ano a ano nas normas de engajamento.

2. Bloco de Atenção Cruzada:

   • Matriz de Tendências ($T_d$): Uma janela deslizante de 7 dias dos 512 termos de pico da Wikipedia é construída para cada dia $d$. Esses termos são codificados em uma matriz de $512 \times 768$.
   • Mecanismo: A codificação da postagem $p$ atua como uma consulta de único token ($Q$) contra as chaves e valores da matriz de tendências ($K, V$). Um mecanismo de atenção multi-cabeça com 4 cabeças (MHA) permite que o modelo atenda seletivamente ao subconjunto de tópicos de interesse público recentes mais semanticamente alinhados com o conteúdo da postagem.
   • Saída: O vetor de contexto resultante $c$ (256 dimensões) captura o alinhamento entre a postagem e as tendências atuais.

3. Classificador: A concatenação da codificação da postagem e do vetor de contexto ($[p; c]$) é passada por uma Rede Neural Perceptron Multicamada (MLP) com duas camadas ocultas para produzir um logit viral. O modelo é treinado usando Perda Focal ($\alpha=0,25, \gamma=2,0$) para abordar o desequilíbrio severo de classes (taxa positiva de 9,7%).

Principais Contribuições

1. Sinal de Alinhamento de Tendência: Introdução de um sinal de alinhamento de tendência em nível de postagem derivado de picos de visualizações de páginas da Wikipedia, demonstrado ser estatisticamente significativo no nível individual da postagem.
2. Arquitetura ViralityNet: Uma arquitetura de atenção cruzada inovadora que condiciona representações de postagens em matrizes de tendências de janela deslizante diária, aumentada com embeddings aprendidos de ano e subreddit.
3. Ablação Sistemática: Um estudo que desvenda as contribuições do contexto temporal (embeddings de ano), tendências exógenas (atenção cruzada) e sua combinação.

Resultados

O modelo foi avaliado em um conjunto de teste retido de 118.331 postagens (11.459 virais). A métrica principal é AUC-PR, com AUC-ROC e F1 relatados em um limiar fixo de 0,31 (otimizado para F1).

• Ganhos de Desempenho: O modelo completo ViralityNet alcançou um AUC-PR de 0,3584 e um AUC-ROC de 0,8355.
• Comparação com Baselines:
  • Apenas Texto: AUC-PR 0,3431.
  • Texto + Ano: AUC-PR 0,3554 (+0,012 de melhoria).
  • Texto + Tendências: AUC-PR 0,3476 (+0,005 de melhoria).
  • Modelo Completo: AUC-PR 0,3584 (+0,015 de melhoria sobre Apenas Texto).
• Análise de Componentes: O embedding de ano contribuiu com o ganho mais significativo (+0,012), atribuído às mudanças nas normas de engajamento entre 2021 e 2023. A atenção cruzada de tendências forneceu um ganho complementar menor, mas consistente (+0,003 sobre a baseline Texto+Ano).
• Variância por Subreddit: O desempenho variou por comunidade. Subreddits com forte sobreposição temática com tendências da Wikipedia (por exemplo, r/technology, r/stocks) apresentaram o maior AUC-PR (>0,39). Comunidades impulsionadas por cultura interna (por exemplo, r/gaming, r/wallstreetbets) foram mais desafiadoras de prever usando sinais externos.
• Sensibilidade ao Limiar: Devido ao desequilíbrio de classes, o limiar padrão de 0,5 resultou em baixa recall (2,7%). Reduzir o limiar para 0,31 melhorou a recall para 53,0% com uma precisão de 31,9%, adequado para destacar postagens candidatas a virais para revisão.

Significado e Alegações

O artigo afirma que a incorporação de sinais de atenção externos produz melhorias mensuráveis sobre baselines de apenas texto, validando a hipótese de que a viralidade não é determinada apenas pelo conteúdo, mas pelo seu alinhamento com dinâmicas do mundo real.

• Evidência de Alinhamento: Os resultados sugerem que postagens semanticamente alinhadas com picos contemporâneos de atenção pública são mensuravelmente mais propensas a se tornarem virais.
• Complementaridade: Sinais exógenos (tendências da Wikipedia) atuam como um complemento útil a recursos dentro da plataforma, particularmente em comunidades onde a viralidade é impulsionada por eventos externos em vez de cultura interna.
• Modesto, mas Consistente: Os autores caracterizam os ganhos como "modestos, mas consistentes", observando que, embora o sinal de tendência sozinho não seja um fator dominante em comparação com o contexto temporal (ano), ele impulsiona o modelo completo até seu desempenho mais alto.
• Limitações: Os autores observam explicitamente que o modelo mede o alinhamento contemporâneo, não a previsão futura. Eles reconhecem limitações relacionadas à natureza estática dos dados de engajamento (falta de velocidade inicial), ao design heurístico do pipeline e a potenciais questões de generalizabilidade devido à seleção específica de subreddits. Eles também destacam a preocupação com o impacto mais amplo de que tais capacidades preditivas poderiam, teoricamente, ser mal utilizadas para otimizar a disseminação de conteúdo polarizado ou spam.