Resumo Técnico: Detecção de Anomalias com Supervisão Fraca e Pontuação de Risco de Privacidade em Threads de Mensagens Comunitárias

1. Definição do Problema

Plataformas de mensagens comunitárias enfrentam desafios significativos na detecção de interações de risco, que frequentemente evoluem lentamente através de contato persistente, respostas concentradas, compartilhamento repetido de links e escalada de conflitos, em vez de aparecerem em mensagens isoladas. Os métodos de detecção existentes sofrem de diversas limitações:

• Regras baseadas em palavras-chave carecem de generalização contra expressões veladas e propagação entre threads.
• Classificadores de segurança de conteúdo avaliam mensagens individuais, mas falham em aproveitar o feedback em cadeias de respostas, arestas de interação ou tendências de denúncia.
• Detecção baseada em denúncias frequentemente trata as denúnções dos usuários como verdade absoluta (ground truth), levando ao viés de rotulagem devido às variadas propensões de denúncia da comunidade e atividade de moderadores.

O problema central é detectar interações anômalas em threads e prever feedbacks negativos críveis (ex: exclusões, silenciamentos, saídas de membros) utilizando supervisão fraca, enquanto se corrige o viés de denúncia e preserva a privacidade do usuário.

2. Metodologia: RiskThread-LF

Os autores propõem o RiskThread-LF, um framework de supervisão fraca e preservação de privacidade que funde múltiplas fontes de dados em um único modelo computacional.

2.1 Estrutura de Dados e Pré-processamento

O sistema utiliza um conjunto de dados de 48,6 milhões de eventos de mensagens em 6,2 milhões de threads e 1,12 milhão de comunidades.

• Janela de Entrada: As características são derivadas dos 60 minutos que precedem um âncora de predição ($t_0$), seguidos por um intervalo de 5 minutos e uma janela de desfecho de 30 minutos.
• Rótulos Fracos: Denúncias comuns são tratadas como sinais fracos, não como verdade absoluta. Os desfechos de verdade absoluta são definidos por ações administrativas críveis (exclusão, silenciamento, aviso, restrição de thread) ou saídas de membros.
• Codificação de Trajetória: O comportamento da thread é convertido em uma representação temporal usando segmentos de 5 minutos com uma janela deslizante de 1 minuto. Seis estatísticas são monitoradas por segmento: incremento de mensagens, mudança no grau de entrada de respostas, proporção de links duplicados, proporção de respostas conflitantes, nós anônimos ativos e flutuação de status de membros. Uma "resposta conflitante" é identificada via um classificador DeBERTa-v3-base ajustado (fine-tuned).
• Encoder: Um codificador de trajetória comprime essas mudanças comportamentais em um vetor dinâmico usando uma soma ponderada pelo decaimento temporal de características mapeadas por MLP.

2.2 Fusão de Rótulos Fracos

Em vez de tratar qualquer fonte de feedback única como o rótulo final, o modelo emprega um modelo de rótulo probabilístico com seis funções de rotulagem:

1. Denúncias
2. Intervenções de administradores
3. Duplicação de links
4. Agrupamentos de respostas anormais
5. Atrição de membros
6. Benchmarks históricos da comunidade

Essas funções produzem $\{-1, 0, 1\}$ (negativo, abstenção, positivo). O modelo estima parâmetros de confiabilidade e coeficientes de dependência (ex: entre denúncias e intervenções administrativas) usando Expectation-Maximization (EM) para maximizar a log-verossimilhança marginal. Isso produz uma probabilidade posterior de risco latente ($p_u$) que calibra sinais ruidosos e correlacionados.

2.3 Correção de Viés de Denúncia (Report-Calib)

Para evitar que a propensão de denúncia distorça as pontuações de risco, um módulo de torre dupla Report-Calib é introduzido:

• Torre de Comportamento: Mapeia as características da thread para uma representação $b_u$.
• Torre de Benchmark: Mapeia estatísticas da comunidade (ex: taxa de denúncia de 7 dias, razão de nós ativos) para uma representação de propensão $s_u$.
• Residualização: A representação de comportamento é ortogonalizada contra a direção da propensão ($b_u$ é projetada para remover o componente alinhado com $s_u$). Isso garante que a pontuação de risco final dependa de interrupções de interação e ações administrativas, em vez do volume bruto de denúncias.

2.4 Grafo de Interação Anônima e Privacidade Diferencial

O modelo constrói um grafo de interação anônimo (nós com hash, arestas de resposta/citação/coparticipação) para cada thread.

• Encoder de Grafo: Utiliza uma arquitetura GraphSAGE-64 com amostragem de vizinhança de 2 saltos (2-hop).
• Proteção de Privacidade: A Privacidade Diferencial (DP) é aplicada durante a agregação. Ruído de Laplace é adicionado aos vetores de subgrafos de threads para evitar ataques de inferência de membros, preservando as relações estruturais locais.

2.5 Pontuação de Risco e Alerta Antecipado

A pontuação de risco final combina o vetor de trajetória, a representação de grafo anonimizada e a posterior de risco de rótulo fraco. Uma restrição de incremento de propagação é aplicada para evitar que picos isolados disparem alarmes, exigendo uma tendência de alta sustentada e múltiplos sinais anormais. O sistema gera um nível de risco (Baixo, Médio, Alto) e fornece alertas antecipados.

3. Principais Resultados

O modelo foi avaliado em 6,2 milhões de threads usando tanto divisões padrão de nível de thread quanto um protocolo temporal de grupos disjuntos mais rigoroso (garantindo que as comunidades de teste não fossem vistas durante o treinamento).

• Desempenho: O RiskThread-LF alcançou um AUC de 0,891 e Macro-F1 de 0,817 na divisão comum, e AUC de 0,862 / Macro-F1 de 0,783 na divisão temporal de grupos disjuntos.
• Comparação: Superou sistemas de regex de palavras-chave, classificadores fortes de segurança de conteúdo (RoBERTa-large, Longformer), modelos de grafos temporais (TGAT) e moderação por LLM (Llama-3.1-8B). Especificamente, melhorou o AUC em 0,045 sobre o TGAT.
• Validação por Especialistas: Contra rótulos de referência de especialistas independentes (validados por três anotadores com $\kappa=0,812$), o modelo alcançou um AUC de 0,903, sugerindo que captura padrões anômalos genuínos em vez de apenas o viés do administrador.
• Alerta Antecipado: O sistema detecta threads de alto risco, em média, 12,4 minutos antes que ocorra um feedback negativo crível, com um AUPRC de 0,734.
• Estudos de Ablação:
  • Remover a fusão de rótulos fracos reduziu o Macro-F1 em 0,052.
  • Remover a correção de viés de denúncia aumentou a Taxa de Falsos Positivos (FPR) em 0,061 (aumento relativo de 51,7%) em comunidades com alta atividade de denúncia.
  • Remover a representação de grafo anônimo reduziu o AUPRC em 0,053.
• Privacidade: Sob privacidade diferencial com $\epsilon=3,0$, o AUC permaneceu alto (0,862), enquanto a taxa de sucesso do ataque de inferência de membros (TPR@1%FPR) diminuiu de 0,214 para 0,128.

4. Significância e Alegações

O artigo alega que a detecção confiável de riscos comunitários requer a modelagem conjunta do comportamento da thread, do feedback fraco e do viés de denúncia, em vez de depender apenas de texto, palavras-chave ou contagens de denúncias.

• Contribuição Metodológica: O framework demonstra que a supervisão fraca, quando combinada com correção de viés e aprendizado de grafo preservador de privacidade, pode identificar eficazmente riscos evolutivos em threads de comunidades.
• Impacto Prático: A capacidade de fornecer alertas antecipados (12,4 minutos antes da intervenção) permite uma moderação proativa. O mecanismo de correção de viés de denúncia aborda especificamente o problema de falsos positivos em comunidades com alta atividade de denúncia.
• Utilidade de Privacidade: O estudo estabelece um ponto operacional viável ($\epsilon=3,0$) onde uma proteção significativa contra ataques de inferência de membros é alcançada com degradação mínima no desempenho de detecção.

Os autores reconhecem limitações relativas a grupos de baixa atividade, threads de curta duração e potenciais mudanças no comportamento das comunidades ao longo do tempo, sugerindo trabalhos futuros em aprendizado incremental online e treinamento federado.