ValueGraph: Value-Signal Guided Graph Pre-training for Contextualized User Representation
Il documento propone ValueGraph, un framework di pre-addestramento su grafi che sfrutta segnali di valori morali inferiti come vincoli deboli per migliorare le rappresentazioni contestualizzate degli utenti, dimostrando miglioramenti costanti delle prestazioni nei compiti di rilevamento della posizione e di rilevamento dei bot rispetto ai baseline esistenti basati su testo, su grafi e su LLM.
Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo
Nel vasto e rumoroso panorama dei social media, comprendere perché le persone agiscano in un certo modo è una sfida centrale per chiunque cerchi di dare un senso alla vita online. Per anni, gli scienziati informatici hanno cercato di costruire profili digitali degli utenti osservando ciò che dicono e con chi parlano. Se due persone pubblicano parole simili o rispondono agli stessi thread, i sistemi tradizionali assumono che siano simili. Tuttavia, questo approccio spesso tralascia uno strato cruciale del comportamento umano: i valori morali sottostanti che guidano tali interazioni. Le persone possono interagire con la stessa notizia controversa per ragioni del tutto diverse: una per genuina preoccupazione, un'altra per rabbia e una terza per il desiderio di diffondere confusione. Queste motivazioni nascoste plasmano il modo in cui gli utenti si comportano, eppure i modelli informatici standard spesso le trattano come invisibili. Per comprendere veramente un utente, i ricercatori hanno bisogno di un modo per catturare non solo la superficie della sua attività, ma la bussola morale che la guida.
Un team di ricercatori della Singapore Management University e dell'A*STAR ha sviluppato un nuovo metodo chiamato ValueGraph per risolvere questo problema. Invece di cercare di indovinare le vere convinzioni interiori di una persona, il che è impossibile da conoscere con certezza, il sistema utilizza uno strumento per inferire un "segnale di valore" dai loro post pubblici. Questo segnale si basa su un noto quadro psicologico chiamato Moral Foundations Theory, che suddivide il ragionamento morale in dieci dimensioni distinte, come cura, equità, lealtà e autorità. I ricercatori hanno addestrato un programma informatico per leggere migliaia di post sui social media e assegnare a ciascuno di essi un punteggio basato su questi dieci temi morali. Calcolando la media di questi punteggi attraverso tutti i post scritti da un singolo utente, il sistema crea un profilo approssimativo a dieci punti della formulazione morale di quell'utente. I ricercatori sottolineano con cura che questa non è una diagnosi psicologica perfetta; è un segnale rumoroso e aggregato che cattura il "gusto" generale del linguaggio morale di un utente piuttosto che la sua anima esatta.
L'innovazione principale di ValueGraph risiede nel modo in cui utilizza questi segnali inferiti per insegnare a un computer a riconoscere diversi tipi di utenti. Il sistema opera in due fasi principali. Primo, costruisce una mappa di come le persone interagiscono, trattando ogni post e risposta come una connessione in una gigantesca rete. Impara a comprendere la struttura di queste conversazioni e il significato del testo al loro interno, creando un'impronta digitale di base per ogni utente. Nella seconda fase, introduce i segnali di valore morale. Il sistema osserva i profili morali inferiti di diversi utenti e raggruppa quelli con segnali di valore simili, allontanando al contempo quelli con segnali molto diversi. Lo fa trattando i segnali morali come un insieme di regole morbide o lievi spinte durante il processo di apprendimento, piuttosto che come fatti assoluti. Ciò consente al computer di apprendere una rappresentazione di un utente che combina ciò che dice, con chi parla e il tono morale della sua espressione.
I ricercatori hanno testato questo nuovo approccio su due compiti difficili: determinare la posizione di un utente su un tema politico e rilevare se un utente sia un bot, ovvero un account automatizzato progettato per imitare un essere umano. Nel primo test, il sistema doveva capire se un utente fosse favorevole, contrario o neutrale rispetto a un determinato argomento. Nel secondo, doveva distinguere tra esseri umani reali e bot automatizzati. I risultati hanno mostrato che ValueGraph supera costantemente i metodi esistenti. Nel compito di rilevamento della posizione (stance detection), ha raggiunto un'accuratezza del 63 percento su un dataset e del 77 percento su un altro, battendo forti concorrenti che si affidavano solo al testo o solo alla struttura della rete. Nel compito di rilevamento dei bot, il sistema ha migliorato la capacità di individuare account automatizzati, in particolare quando combinato con altri dati. In una specifica configurazione, la capacità del sistema di identificare correttamente i bot è migliorata significamente, con il tasso di "recall" — la capacità di trovare i bot quando sono presenti — che è passato dal 62,5 percento all'81,0 percento utilizzando il nuovo metodo.
Ciò che rende questi risultati particolarmente interessanti è che il sistema non ha bisogno di sapere quali utenti siano bot o quale posizione sia corretta durante il suo addestramento iniziale. Esso apprende questi schemi osservando i segnali morali e la struttura delle conversazioni in modo autonomo. I ricercatori hanno scoperto che il sistema funzionava meglio quando combinava l'apprendimento strutturale con la guida del valore morale. Se rimuovevano i segnali morali, le prestazioni del sistema diminuivano. Se utilizzavano solo i segnali morali senza la struttura della conversazione, il sistema non riusciva a raggiungere lo stesso livello di accuratezza. Ciò suggerisce che il segnale del valore morale agisca come una guida utile, aiutando il computer a vedere schemi che sono invisibili quando si guarda solo il testo o le connessioni. Ad esempio, visualizzando i dati, i ricercatori hanno visto che il nuovo metodo creava una separazione molto più netta tra gli utenti umani e i bot rispetto ai metodi precedenti. I bot tendevano a raggrupparsi con un linguaggio morale ripetitivo e polarizzato, mentre gli umani mostravano espressioni più varie e sensibili al contesto.
Il team sottolinea che il loro metodo non pretende di conoscere i veri valori psicologici di un utente. I punteggi morali derivano dal testo e sono trattati come dati imperfetti e rumorosi. Il sistema utilizza queste imperfezioni come uno strumento di apprendimento, trovando le differenze relative tra gli utenti piuttosto che cercare di definire una verità assoluta. Questo approccio evita le insidie del tentativo di etichettare le persone con profili psicologici definitivi, che può essere eticamente problematico e tecnicamente inaffidabile. Al contrario, utilizza la formulazione morale del loro discorso pubblico come uno strumento pratico per costruire rappresentazioni digitali migliori e più sfumate. Il successo di ValueGraph suggerisce che l'integrazione di questi segnali di valore basati sulla teoria fornisca un modo potente per migliorare il modo in cui i computer comprendono il comportamento umano online, offrendo una base più robusta per compiti che vanno dalla moderazione dei contenuti alla personalizzazione dei suggerimenti. Riconoscendo che gli utenti sono plasmati non solo da ciò che dicono, ma anche dalla lente morale attraverso la quale lo dicono, i ricercatori hanno aperto una nuova strada per dare un senso al complesso mondo sociale di Internet.
Sommerso dagli articoli nel tuo campo?
Ricevi digest giornalieri degli articoli più recenti corrispondenti alle tue parole chiave di ricerca — con riassunti tecnici, nella tua lingua.