ValueGraph: Value-Signal Guided Graph Pre-training for Contextualized User Representation
Das Papier schlägt ValueGraph vor, ein Graph-Pre-training-Framework, das inferierte moralisch-wertorientierte Signale als Soft-Constraints nutzt, um kontextualisierte Nutzerrepräsentationen zu verbessern, wobei es konsistente Leistungssteigerungen bei Stance-Detection- und Bot-Detection-Aufgaben gegenüber bestehenden textbasierten, graphbasierten und LLM-basierten Baselines demonstriert.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
In der weiten, lauten Landschaft der sozialen Medien ist das Verständnis darüber, warum Menschen so handeln, wie sie es tun, eine zentrale Herausforderung für jeden, der versucht, das Online-Leben zu begreifen. Jahrelang haben Informatiker versucht, digitale Profile von Nutzern zu erstellen, indem sie untersuchen, was diese sagen und mit wem sie kommunizieren. Wenn zwei Personen ähnliche Wörter verwenden oder auf dieselben Threads antworten, nehmen traditionelle Systeme an, dass sie sich ähnlich sind. Dieser Ansatz übersieht jedoch eine entscheidende Ebene menschlichen Verhaltens: die zugrunde liegenden moralischen Werte, die diese Interaktionen antreiben. Menschen können sich aus völlig unterschiedlichen Gründen mit derselben kontroversen Nachricht befassen – der eine aus echter Besorgnis, ein anderer aus Wut und ein dritter aus dem Wunsch heraus, Verwirrung zu stiften. Diese verborgenen Motivationen prägen das Verhalten der Nutzer, doch Standard-Computermodelle behandeln sie oft als unsichtbar. Um einen Nutzer wirklich zu verstehen, müssen Forscher einen Weg finden, nicht nur die Oberfläche seiner Aktivitäten, sondern auch den moralischen Kompass zu erfassen, der sie leitet.
Ein Forschungsteam der Singapore Management University und A*STAR hat eine neue Methode namens ValueGraph entwickelt, um dieses Problem zu lösen. Anstatt zu versuchen, die wahren inneren Überzeugungen einer Person zu erraten, was mit Sicherheit unmöglich zu wissen ist, nutzt das System ein Werkzeug, um ein „Wertesignal“ aus deren öffentlichen Beiträgen abzuleleiten. Dieses Signal basiert auf einem bekannten psychologischen Rahmenwerk namens Moral Foundations Theory, das moralisches Denken in zehn verschiedene Dimensionen unterteilt, wie etwa Fürsorge, Fairness, Loyalität und Autorität. Die Forscher trainierten ein Computerprogramm, um tausende von Social-Media-Beiträgen zu lesen und jedem Beitrag basierend auf diesen zehn moralischen Themen einen Wert zuzuweisen. Durch die Mittelung dieser Werte über alle Beiträge eines einzelnen Nutzers erstellt das System ein grobes, zehndimensionales Profil des moralischen Rahmens dieses Nutzers. Die Forscher weisen vorsichtig darauf hin, dass dies keine perfekte psychologische Diagnose ist; es ist ein verrauschtes, aggregiertes Signal, das den allgemeinen Charakter der moralischen Sprache eines Nutzers erfasst, anstatt dessen exakte Seele.
Die Kerninnovation von ValueGraph liegt darin, wie es diese abgeleiteten Signale nutzt, um einem Computer beizubringen, verschiedene Arten von Nutzern zu erkennen. Das System arbeitet in zwei Hauptschritten. Zuer das baut es eine Karte davon auf, wie Menschen interagieren, indem es jeden Post und jede Antwort als Verbindung in einem riesigen Netz behandelt. Es lernt, die Struktur dieser Gespräche und die Bedeutung des Textes darin zu verstehen, und erstellt so einen grundlegenden digitalen Fingerabdruck für jeden Nutzer. Im zweiten Schritt bringt es die moralischen Wertsignale ein. Das System betrachtet die abgeleiteten moralischen Profile verschiedener Nutzer und gruppiert diejenigen mit ähnlichen Wertsignalen zusammen, während es diejenigen mit sehr unterschiedlichen Signalen voneinander wegdrängt. Dies geschieht, indem es die moralischen Signale als eine Reihe von „weichen“ Regeln oder sanften Anstößen während des Lernprozesses behandelt, statt als absolute Fakten. Dies ermöglicht es dem Computer, eine Repräsentation eines Nutzers zu lernen, die kombiniert, was er sagt, mit wem er spricht und den moralischen Ton seiner Ausdrucksweise.
Die Forscher testeten diesen neuen Ansatz bei zwei schwierigen Aufgaben: der Bestimmung der Haltung eines Nutzers zu einem politischen Thema und der Erkennung, ob ein Nutzer ein Bot oder ein automatisierter Account ist, der darauf ausgelegt ist, einen Menschen nachzuahmen. Beim ersten Test musste das System entscheiden, ob ein Nutzer ein Thema unterstützte, ablehnte oder neutral gegenüberstand. Beim zweiten Test musste es zwischen echten Menschen und automatisierten Bots unterscheiden. Die Ergebnisse zeigten, dass ValueGraph bestehende Methoden konsistent übertraf. Bei der Aufgabe der Haltungsdetektion erreichte es eine Genauigkeit von 63 Prozent auf einem Datensatz und 77 Prozent auf einem anderen, womit es starke Konkurrenten schlug, die sich nur auf Text oder nur auf die Netzwerkstruktur stützten. Bei der Bot-Erkennung verbesserte das System die Fähigkeit, automatisierte Accounts zu identifizieren, insbesondere in Kombination mit anderen Daten. In einer spezifischen Konfiguration verbesserte sich die Fähigkeit des Systems, Bots korrekt zu identifizieren, signifikant, wobei die „Recall“-Rate – die Fähigkeit, die Bots zu finden, wenn sie vorhanden sind – von 62,5 Prozent auf 81,0 Prozent sprang, als die neue Methode verwendet wurde.
Was diese Ergebnisse besonders interessant macht, ist, dass das System während seines initialen Trainings nicht explizit gesagt bekommen muss, welche Nutzer Bots sind oder welche Haltung korrekt ist. Es lernt diese Muster, indem es die moralischen Signale und die Struktur der Gespräche selbstständig beobachtet. Die Forscher fanden heraus, dass das System am besten funktionierte, wenn es das strukturelle Lernen mit der moralischen Wertführung kombinierte. Wenn sie die moralischen Signale entfernten, sank die Leistung des Systems. Wenn sie nur die moralischen Signale ohne die Gesprächsstruktur verwendeten, erreichte es ebenfalls nicht dasselbe Niveau an Genauigkeit. Dies deutet darauf hin, dass das moralische Wertsignal als nützlicher Wegweiser fungiert, der dem Computer hilft, Muster zu erkennen, die unsichtbar sind, wenn man nur Text oder Verbindungen betrachtet. Beispielsweise sahen die Forscher bei der Visualisierung der Daten, dass die neue Methode eine viel klarere Trennung zwischen menschlichen Nutzern und Bots erzeugte als bisherige Methoden. Die Bots neigten dazu, sich mit repetitiver, polarisierter moralischer Sprache zu gruppieren, während Menschen eine vielfältigere und kontextsensitivere Ausdrucksweise zeigten.
Das Team betont, dass ihre Methode nicht beansprucht, die wahren psychologischen Werte eines Nutzers zu kennen. Die moralischen Scores werden aus Texten abgeleitet und als unvollkommene, verrauschte Daten behandelt. Das System nutzt diese Unvollkommenheiten als Lernwerkzeug, indem es die relativen Unterschiede zwischen Nutzern findet, anstatt zu versuchen, eine absolute Wahrheit festzulegen. Dieser Ansatz vermeidet die Fallstricke, Menschen mit definitiven psychologischen Profilen zu etikettieren, was ethisch problematisch und technisch unzuverlässig sein kann. Stattdessen nutzt er die moralische Rahmung ihrer öffentlichen Diskurse als praktisches Werkzeug, um bessere, nuanciertere digitale Repräsentationen aufzubauen. Der Erfolg von ValueGraph legt nahe, dass die Einbeziehung dieser durch Theorien fundierten Wertsignale eine leistungsstarke Möglichkeit bietet, das Verständnis von menschlichem Verhalten im Internet zu verbessern, und eine robustere Grundlage für Aufgaben bietet, die von der Inhaltsmoderation bis hin zu personalisierten Empfehlungen reichen. Indem sie anerkennen, dass Nutzer nicht nur durch das geprägt werden, was sie sagen, sondern durch die moralische Linse, durch die sie es sagen, haben die Forscher einen neuen Weg eröffnet, um die komplexe soziale Welt des Internets begreifbar zu machen.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.