💬 NLP

ValueGraph: Value-Signal Guided Graph Pre-training for Contextualized User Representation

O artigo propõe o ValueGraph, um framework de pré-treinamento de grafos que utiliza sinais de valores morais inferidos como restrições suaves para aprimorar representações contextuais de usuários, demonstrando melhorias consistentes de desempenho em tarefas de detecção de postura e detecção de bots sobre os baselines existentes baseados em texto, em grafos e em LLMs.

Autores originais: Yitong Han, Wei Gao, Yi Zhao, Prasanta Bhattacharya, Fengzhu Zeng, Mohammad Amanlou

Publicado 2026-09-02

📖 6 min de leitura🧠 Leitura aprofundada

CC BY 4.0

Autores originais: Yitong Han, Wei Gao, Yi Zhao, Prasanta Bhattacharya, Fengzhu Zeng, Mohammad Amanlou

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Na vasta e ruidosa paisagem das redes sociais, compreender por que as pessoas agem da maneira que agem é um desafio central para qualquer pessoa que tente dar sentido à vida online. Durante anos, cientistas da computação tentaram construir perfis digitais de usuários observando o que eles dizem e com quem conversam. Se duas pessoas postam palavras semelhantes ou respondem aos mesmos tópicos, os sistemas tradicionais assumem que elas são parecidas. No entanto, essa abordagem frequentemente ignora uma camada crucial do comportamento humano: os valores morais subjacentes que impulsionam essas interações. As pessoas podem se envolver com a mesma notícia controversa por razões inteiramente diferentes — uma por preocupação genuína, outra por raiva e uma terceira pelo desejo de espalhar confusão. Essas motivações ocultas moldam como os usuários se comportam, mas os modelos de computador padrão costumam tratá-las como invisíveis. Para entender verdadeiramente um usuário, os pesquisadores precisam de uma maneira de capturar não apenas a superfície de sua atividade, mas a bússola moral que a guia.

Uma equipe de pesquisadores da Universidade de Gestão de Singapura e do A*STAR desenvolveu um novo método chamado ValueGraph para resolver este problema. Em vez de tentar adivinhar as verdadeiras crenças interiores de uma pessoa, o que é impossosível de saber com certeza, o sistema usa uma ferramenta para inferir um "sinal de valor" de suas postagens públicas. Este sinal baseia-se num quadro psicológico bem conhecido chamado Teoria das Fundações Morais, que decompõe o raciocínio moral em dez dimensões distintas, tais como cuidado, justiça, lealdade e autoridade. Os pesquisadores treinaram um programa de computador para ler milhares de postagens de redes sociais e atribuir uma pontuação a cada uma delas com base nestes dez temas morais. Ao calcular a média dessas pontuações em todas as postagens escritas por um único usuário, o sistema cria um perfil aproximado de dez pontos do enquadramento moral desse usuário. Os pesquisadores são cuidadosos ao notar que isto não é um diagnóstico psicológico perfeito; é um sinal agregado e ruidoso que captura o sabor geral da linguagem moral de um usuário, em vez de sua alma exata.

A inovação central do ValueGraph reside em como utiliza estes sinais inferidos para ensinar um computador a reconhecer diferentes tipos de usuários. O sistema opera em duas etapas principais. Primeiro, constrói um mapa de como as pessoas interagem, tratando cada postagem e resposta como uma conexão numa vasta teia. Aprende a compreender a estrutura destas conversas e o significado do texto dentro delas, criando uma impressão digital digital básica para cada usuário. Na segunda etapa, introduz os sinais de valor moral. O sistema observa os perfis morais inferidos de diferentes usuários e agrupa aqueles com sinais de valor semelhantes, enquanto afasta aqueles com sinais muito diferentes. Faz isso tratando os sinais morais como um conjunto de regras suaves ou incentivos gentis durante o processo de aprendizagem, em vez de como fatos absolutos. Isso permite que o computador aprenda uma representação de um usuário que combina o que ele diz, com quem ele fala e o tom moral de sua expressão.

Os pesquisadores testaram esta nova abordagem em duas tarefas difíceis: determinar a posição de um usuário sobre uma questão política e detetar se um usuário é um bot, ou uma conta automatizada desenhada para imitar um humano. No primeiro teste, o sistema teve de descobrir se um usuário apoiava, se opunha ou era neutro em relação a um tópico específico. No segundo, teve de distinguir entre humanos reais e bots automatizados. Os resultados mostraram que o ValueGraph superou consistentemente os métodos existentes. Na tarefa de deteção de posição, alcançou uma precisão de 63 por cento num conjunto de dados e 77 por cento noutro, vencendo fortes concorrentes que dependiam apenas de texto ou apenas da estrutura da rede. Para a tarefa de deteção de bots, o sistema melhorou a capacidade de identificar contas automatizadas, particularmente quando combinado com outros dados. Numa configuração específica, a capacidade do sistema de identificar corretamente os bots melhorou significativamente, com a taxa de "recall" — a capacidade de encontrar os bots quando eles estão lá — saltando de 62,5 por cento para 81,0 por cento ao utilizar o novo método.

O que torna estes resultados particularmente interessantes é que o sistema não precisa de ser informado sobre quais utilizadores são bots ou qual a posição correta durante o seu treino inicial. Ele aprende estes padrões observando os sinais morais e a estrutura das conversas por conta própria. Os pesquisadores descobriram que o sistema funcionava melhor quando combinava a aprendizagem estrutural com a orientação do valor moral. Se remover o sinal moral, o desempenho do sistema cai. Se utilizarem apenas os sinais morais sem a estrutura da conversa, também não alcança o mesmo nível de precisão. Isto sugere que o sinal de valor moral atua como um guia útil, ajudando o computador a ver padrões que são invisíveis quando se olha apenas para o texto ou para as conexões. Por exemplo, ao visualizar os dados, os pesquisadores viram que o novo método criava uma separação muito mais clara entre utilizadores humanos e bots do que os métodos anteriores. Os bots tendiam a agrupar-se com uma linguagem moral repetitiva e polarizada, enquanto os humanos mostravam expressões mais variadas e sensíveis ao contexto.

A equipa enfatiza que o seu método não afirma conhecer os verdadeiros valores psicológicos de um usuário. As pontuações morais são derivadas do texto e são tratadas como dados imperfeitos e ruidosos. O sistema utiliza estas imperfeições como uma ferramenta de aprendizagem, encontrando as diferenças relativas entre os usuários, em vez de tentar determinar uma verdade absoluta. Esta abordagem evita as armadilhas de tentar rotular as pessoas com perfis psicológicos definitivos, o que pode ser eticamente problemático e tecnicamente pouco fiável. Em vez disso, utiliza o enquadramento moral do seu discurso público como uma ferramenta prática para construir representações digitais melhores e mais matizadas. O sucesso do ValueGraph sugere que a incorporação destes sinais de valor informados pela teoria fornece uma forma poderosa de melhorar a forma como os computadores compreendem o comportamento humano online, oferecendo uma base mais robusta para tarefas que vão desde a moderação de conteúdo até recomendações personalizadas. Ao reconhecer que os usuários são moldados não apenas pelo que dizem, mas pela lente moral através da qual o dizem, os pesquisadores abriram um novo caminho para dar sentido ao complexo mundo social da internet.

Resumo Técnico: ValueGraph

Definição do Problema
Os métodos existentes de representação de usuários em análise de redes sociais baseiam-se primordialmente em comportamentos observáveis, tais como conteúdo textual, mídia visual ou estruturas de interação de rede. Essas abordagens frequentemente assumem que usuários com padrões de interação ou exposição de conteúdo semelhantes compartilham motivações subjacentes similares. No entanto, os autores argumentam que essa similaridade superficial é frágil; usuários podem se engajar nos mesmos eventos devido à exposição compartilhada ou controvérsia, enquanto mantêm atitudes e valores fundamentalmente diferentes. Essa limitação pode levar a associações comportamentais espúrias em tarefas de jusante (ex: sistemas de recomendação reforçando a polarização), porque os modelos convencionais falham em capturar os fatores morais e de valor latentes que impulsionam o comportamento do usuário. Além disso, os métodos de pré-treinamento de grafos existentes raramente incorporam sinais de valores ou dimensões motivacionais como vieses indutivos explícitos.

Metodologia: Estrutura ValueGraph
O artigo propõe o ValueGraph, uma estrutura de pré-treinamento de grafos projetada para aprender representações de usuários contextualizadas, integrando sinais de valores morais inferidos automaticamente como supervisão auxiliar ruidosa. A estrutura opera em grafos de postagem-resposta e procede em duas etapas:

Etapa 1: Pré-treinamento de GNN de Fundação
- Entrada: Um grafo de postagem-resposta construído onde os nós representam postagens e as arestas representam interações de resposta.
- Codificação: As postagens são codificadas usando ModernBERT para lidar com textos de redes sociais ruidosos.
- Objetivo: O modelo passa por um pré-treinamento não supervisionado usando um paradigma de autoencodificação mascarada (baseado em GraphMAE2). Os atributos dos nós são mascarados e o modelo os reconstrói. Esta etapa aprende representações semânticas e estruturais resilientes ao ruído das postagens, que são então agregadas em embeddings iniciais de usuários.
Etapa 2: Pré-treinamento Guiado por Valores
- Derivação de Sinal de Valor: A estrutura utiliza o MoralBERT (um modelo de linguagem ajustado baseado na Teoria dos Fundamentos Morais) para inferir pontuações de valores morais para cada postagem em 10 dimensões (ex: cuidado, dano, justiça, lealdade). Essas pontuações ao nível da postagem são agregadas para criar um vetor de sinal de valor de 10 dimensões para cada usuário. Crucialmente, esses vetores são tratados como sinais auxiliares ruidosos, em vez de rótulos psicológicos de padrão ouro.
- Construção de Pares Contrastivos: Usuários são pareados com base na similaridade de seus vetores de valor inferidos. Uma estratégia simétrica baseada em percentis define pares positivos (alta similaridade de valor) e negativos (baixa similaridade de valor).
- Objetivo Hierárquico: A estrutura otimiza os embeddings de usuário usando uma combinação de duas funções de perda:
  - Perda Contrastiva de Nível de Usuário ( $\mathcal{L}_{user}$ ): Uma perda InfoNCE que aproxima os embeddings de usuários com perfis de valor semelhantes e afasta usuários dissimilar.
  - Perda de Agrupamento ( $\mathcal{L}_{cls}$ ): Um regularizador global que realiza periodicamente o agrupamento K-means nos embeddings de usuário. Inclui um termo de compacidade (encorajando usuários a permanecerem próximos de seu centroide de cluster) e um termo de margem (impondo separação entre centroides de clusters distintos).
- Perda Total: O objetivo final é uma soma ponderada: $\mathcal{L} = \mathcal{L}_{user} + \lambda \mathcal{L}_{cls}$ . Este design garante que o modelo aprenda representações que satisfaçam tanto a consistência de valor pareada local quanto a coerência estrutural global, atuando como regularizadores mútuos para filtrar o ruído.

Principais Contribuições

Estrutura ValueGraph: Uma nova abordagem de pré-treinamento de grafos que aproveita sinais de valores morais inferidos como supervisão auxiliar ruidosa para aprimorar o aprendizado de representação de usuário contextualizada.
Design de Objetivo Hierárquico: Uma estratégia de treinamento que combina autoencodificação de grafo mascarada com aprendizado contrastivo guiado por valores e agrupamento para capturar conjuntamente informações semânticas, estruturais e relevantes para o valor.
ista de análise de mecanismo: Caracterização teórica demonstrando como os objetivos preservam a ordenação de similaridade do sinal de valor e promovem grupos de usuários compactos e separados no espaço de embedding.
Validação Empírica: Experimentos abrangentes mostrando que o ValueGraph supera fortes baselines em tarefas de jusante sem exigir rótulos de valor explícitos para as próprias tarefas de jusante.

Resultados Experimentais
Os autores avaliaram o ValueGraph em duas tarefas de jusante: Detecção de Postura (Stance Detection) e Detecção de Bots no Twitter.

Detecção de Postura: Avaliado nos benchmarks MT_CSD e RumourEval19.
- O ValueGraph alcançou 63% de acurácia e 58% de macro-F1 no MT_CSD, superando o baseline pré-treinado mais forte (GraphMAE2) em 5% de acurácia e 5,5% de macro-F1.
- No RumourEval19, alcançou 77% de acurácia e 71% de macro-F1, representando uma melhoria relativa de 20,3% em macro-F1 sobre o melhor baseline de PLM (ModernBERT) e uma melhoria de 57,8% sobre o melhor baseline baseado em grafos (GTN).
- O desempenho foi consistente entre baselines baseados em grafos, baseados em texto e LLMs (incluindo GPT-5.4).
Detecção de Bots no Twitter: Avaliado no dataset TwiBot-22 usando várias arquiteturas de baseline (RoBERTa, BotGCN, BotGAT, BotRGCN).
- Substituir os embeddings de texto ou de grafo dos baselines por embeddings do ValueGraph melhorou consistentemente o desempenho.
- Por exemplo, em um cenário apenas de texto com RoBERTa, o macro-F1 aumentou de 54,8% para 64,3%, e o recall melhorou de 62,5% para 81,0%.
- Em cenários multimodais (Texto + Rede + Características), os embeddings do ValueGraph ainda proporcionaram ganhos estatisticamente significativos, particularmente em macro-F1 e Coeficiente de Correlação de Matthews (MCC), sugerindo que os sinais de valor capturam pistas complementares para distinguir bots de humanos.
Estudos de Ablação: Remover tanto a perda contrastiva ( $\mathcal{L}_{user}$ ) quanto a perda de agrupamento ( $\mathcal{L}_{cls}$ ) resultou em desempenho inconsistente, muitas vezes melhorando a acurácia ao custo do macro-F1. O modelo completo, integrando ambos, produziu os melhores resultados, validando a necessidade do design de objetivo duplo.
Visualização: Visualizações t-SNE mostraram que os embeddings do ValueGraph produziram uma separação mais clara entre usuários bot e humanos em comparação com encoders apenas de texto ou de grafos padrão.

Significância e Alegações
O artigo alega que a orientação por sinais de valor serve como um útil viés indutivo para a modelagem de usuários socialmente informada. Ao tratar os valores morais inferidos como restrições suaves em vez de verdade absoluta, o ValueGraph aprende representações que capturam não apenas o que os usuários dizem ou com quem eles interagem, mas as tendências subjacentes de comportamento impulsionadas por valores.

Os autores enfatizam que sua abordagem não tenta prever os valores psicológicos "reais" dos usuários. Em vez disso, utiliza sinais baseados em teoria (Teoria dos Fundamentos Morais), inferidos automaticamente, para regularizar o processo de aprendizado de representação. Os resultados sugerem que mesmo sinais de valor agregados e ruidosos podem melhorar significativamente a robustez e a generalização dos embeddings de usuário para tarefas como detecção de postura e identificação de bots, abordando a fragilidade de modelos que dependem exclusivamente de similaridade de interação.

Mais como este