ValueGraph: Value-Signal Guided Graph Pre-training for Contextualized User Representation
Le papier propose ValueGraph, un cadre de pré-entraînement de graphes qui exploite des signaux de valeurs morales inférés comme contraintes souples pour améliorer les représentations contextuelles d'utilisateurs, démontrant des améliorations de performance constantes dans les tâches de détection de position et de détection de bots par rapport aux bases de référence textuelles, basées sur les graphes et les LLM existantes.
Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
Dans le vaste et bruyant paysage des réseaux sociaux, comprendre pourquoi les gens agissent comme ils le font est un défi central pour quiconque tente de donner un sens à la vie en ligne. Depuis des années, les informaticiens tentent de construire des profils numériques d'utilisateurs en observant ce qu'ils disent et avec qui ils discutent. Si deux personnes publient des mots similaires ou répondent aux mêmes fils de discussion, les systèmes traditionnels supposent qu'elles se ressemblent. Cependant, cette approche passe souvent à côté d'une couche cruciale du comportement humain : les valeurs morales sous-jacentes qui dictent ces interactions. Les gens peuvent s'engager dans la même actualité controversée pour des raisons totalement différentes — l'un par une réelle préoccupation, un autre par la colère, et un troisième par le désir de semer la confusion. Ces motivations cachées façonnent le comportement des utilisateurs, pourtant les modèles informatiques standards les traitent souvent comme invisibles. Pour comprendre véritablement un utilisateur, les chercheurs ont besoin d'un moyen de capturer non seulement la surface de son activité, mais aussi la boussole morale qui la guide.
Une équipe de chercheurs de la Singapore Management University et d'A*STAR a développé une nouvelle méthode appelée ValueGraph pour résoudre ce problème. Au lieu d'essayer de deviner les véritables croyances intérieures d'une personne, ce qui est impossible à connaître avec certitude, le système utilise un outil pour inférer un « signal de valeur » à partir de ses publications publiques. Ce signal est basé sur un cadre psychologique bien connu appelé la Théorie des Fondements Moraux, qui décompose le raisonnement moral en dix dimensions distinctes, telles que le soin, l'équité, la loyauté et l'autorité. Les chercheurs ont entraîné un programme informatique pour lire des milliers de publications sur les réseaux sociaux et attribuer un score à chacune d'elles selon ces dix thèmes moraux. En faisant la moyenne de ces scores sur l'ensemble des publications écrites par un seul utilisateur, le système crée un profil approximatif, en dix points, du cadrage moral de cet utilisateur. Les chercheurs précisent avec prudence qu'il ne s'agit pas d'un diagnostic psychologique parfait ; c'est un signal agrégé et bruité qui capture la « saveur » générale du langage moral d'un utilisateur plutôt que son âme exacte.
L'innovation fondamentale de ValueGraph réside dans la manière dont il utilise ces signaux inférés pour apprendre à un ordinateur à reconnaître différents types d'utilisateurs. Le système fonctionne en deux étapes principales. Premièrement, il construit une carte de la manière dont les gens interagissent, traitant chaque publication et chaque réponse comme une connexion dans une immense toile. Il apprend à comprendre la structure de ces conversations et la signification du texte qu'elles contiennent, créant ainsi une empreinte numérique de base pour chaque utilisateur. Dans la deuxième étape, il introduit les signaux de valeur morale. Le système observe les profils moraux inférés de différents utilisateurs et regroupe ceux qui partagent des signaux de valeur similaires, tout en éloignant ceux qui ont des signaux très différents. Il y parvient en traitant les signaux moraux comme un ensemble de règles souples ou de légères incitations durant le processus d'apprentissage, plutôt que comme des faits absolus. Cela permet à l'ordinateur d'apprendre une représentation d'un utilisateur qui combine ce qu'il dit, avec qui il discute et le ton moral de son expression.
Les chercheurs ont testé cette nouvelle approche sur deux tâches difficiles : déterminer la position d'un utilisateur sur un enjeu politique et détecter si un utilisateur est un bot, ou un compte automatisé conçu pour imiter un humain. Dans le premier test, le système devait déterminer si un utilisateur soutenait, s'opposait ou était neutre vis-à-vis d'un sujet spécifique. Dans le second, il devait distinguer les humains réels des comptes automatisés (bots). Les résultats ont montré que ValueGraph surpasse systématiquement les méthodes existantes. Pour la tâche de détection de position, il a atteint une précision de 63 % sur un ensemble de données et de 77 % sur un autre, battant de sérieux concurrents qui ne reposaient que sur le texte ou uniquement sur la structure du réseau. Pour la tâche de détection de bots, le système a amélioré la capacité à repérer les comptes automatisés, particulièrement lorsqu'il est combiné à d'autres données. Dans une configuration spécifique, la capacité du système à identifier correctement les bots s'est considérablement améliorée, le taux de « rappel » — la capacité à trouver les bots lorsqu'ils sont présents — passant de 62,5 % à 81,0 % grâce à la nouvelle méthode.
Ce qui rend ces résultats particulièrement intéressants, c'est que le système n'a pas besoin qu'on lui indique quels utilisateurs sont des bots ou quelle position est correcte lors de son entraînement initial. Il apprend ces schémas en observant les signaux moraux et la structure des conversations par lui-même. Les chercheurs ont constaté que le système fonctionnait mieux lorsqu'il combinait l'apprentissage structurel avec le guidage par la valeur morale. S'ils retiraient les signaux moraux, les performances du système chutaient. S'ils utilisaient uniquement les signaux moraux sans la structure de la conversation, il échouait également à atteindre le même niveau de précision. Cela suggère que le signal de valeur morale agit comme un guide utile, aidant l'ordinateur à percevoir des schémas invisibles lorsqu'on ne regarde que le texte ou les connexions. Par exemple, en visualisant les données, les chercheurs ont vu que la nouvelle méthode créait une séparation beaucoup plus nette entre les utilisateurs humains et les bots que les méthodes précédentes. Les bots avaient tendance à se regrouper avec un langage moral répétitif et polarisé, tandis que les humains montraient des expressions plus variées et sensibles au contexte.
L'équipe souligne que sa méthode ne prétend pas connaître les véritables valeurs psychologiques d'un utilisateur. Les scores moraux sont dérivés du texte et sont traités comme des données imparfaites et bruitées. Le système utilise ces imperfections comme un outil d'apprentissage, cherchant les différences relatives entre les utilisateurs plutôt que de tenter de définir une vérité absolue. Cette approche évite les pièges consistant à étiqueter les gens avec des profils psychologiques définitifs, ce qui peut être éthiquement délicat et techniquement peu fiable. Au lieu de cela, elle utilise le cadrage moral de leur discours public comme un outil pratique pour construire de meilleures représentations numériques, plus nuancées. Le succès de ValueGraph suggère que l'intégration de ces signaux de valeur fondés sur la théorie offre un moyen puissant d'améliorer la façon dont les ordinateurs comprennent le comportement humain en ligne, offrant une base plus robuste pour des tâches allant de la modération de contenu aux recommandations personnalisées. En reconnaissant que les utilisateurs sont façonnés non seulement par ce qu'ils disent, mais aussi par le prisme moral à travers lequel ils le disent, les chercheurs ont ouvert une nouvelle voie pour donner un sens au monde social complexe d'Internet.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.