Predicting, Evaluating, and Explaining Top Misinformation Spreaders via Archetypal User Behavior
Questo articolo propone un framework per prevedere, valutare e spiegare i principali diffusori di disinformazione modellando tre distinti archetipi di utenti (amplificatori, super-diffusori e account coordinati), dimostrando che i tratti dei super-diffusori dominano le prime posizioni in classifica, mentre la dinamica temporale e l'intelligenza artificiale spiegabile migliorano l'accuratezza predittiva e l'interpretabilità per una moderazione proattiva dei contenuti.
Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo
Sui social media, l'informazione viaggia alla velocità di un pensiero, ma non tutti coloro che la condividono svolgono lo stesso ruolo. Alcune persone creano le storie originali, mentre altre si limitano a trasmetterle, e alcune lavorano insieme per fare in modo che un messaggio raggiunga il maggior numero possibile di occhi. Quando la falsa informazione si diffonde, raramente è colpa di una singola persona; è invece il risultato di un complesso intreccio di comportamenti in cui diversi tipi di utenti amplificano, coordinano e lanciano narrazioni. Comprendere chi sono queste persone e come operano è fondamentale perché le storie false possono distorcere l'opinione pubblica, erodere la fiducia nella scienza e causare danni reali nel mondo fisico. La sfida per le piattaforme è che, nel momento in cui una storia falsa viene segnalata e rimossa, ha spesso già viaggiato troppo lontano per essere fermata. Per bloccare la diffusione prima che acquisti slancio, i ricercatori hanno bisogno di un modo per identificare gli account specifici più propensi a causare danni, non indovinando le loro intenzioni, ma osservando come si comportano realmente.
Un team di ricercatori si è posto l'obiettivo di risolvere questo problema osservando le impronte digitali lasciate dagli utenti che diffondono contenuti a bassa credibilità. Si sono concentrati su tre distinti schemi di comportamento, o "archetipi", che questi utenti tendono a seguire. Il primo gruppo, che chiamano amplificatori (amplifiers), raramente crea i propri post. Al contrario, agiscono come un megafono, ricondividendo costantemente contenuti creati da altri per aumentarne la portata. Il secondo gruppo, noto come super-diffusori (super-spreaders), sono i creatori originali di contenuti virali. Scrivono post che vengono condivisi costantemente migliaia di volte, agendo come la scintilla che accende un incendio. Il terzo gruppo è composto da account coordinati, ovvero gruppi di utenti che lavorano in sincronia per spingere lo stesso messaggio nello stesso momento, creando l'illusione di un ampio consenso pubblico. I ricercatori si sono resi conto che questi ruoli non sono sempre separati; un singolo utente può agire come un super-diffusore per una storia e come un amplificatore per un'altra, oppure un gruppo può coordinare le proprie azioni per imitare una singola voce influente.
Per testare quanto bene potessero prevedere chi avrebbe diffuso disinformazione successivamente, i ricercatori hanno analato due enormi collezioni di dati da Twitter durante la pandemia. Un set di dati conteneva conversazioni dall'Italia, mentre l'altro era una collezione globale di post in molte lingue. Hanno prima etichettato il contenuto in base all'affidabilità dei siti web collegati nei post, utilizzando un sistema che valuta i domini di notizie da zero a cento. Hanno poi costruito diversi modelli matematici per classificare gli utenti in base ai tre archetipi comportamentali. Alcuni modelli contavano quante volte un utente ricondivideva storie false, mentre altri osservavano quanto presto un utente condivideva una storia dopo la sua pubblicazione, o quanto strettamente l'attività di un utente corrispondesse a quella di un altro all'interno di un gruppo coordinato. Hanno anche creato una nuova versione del classico punteggio di influenza, sensibile al tempo, che tiene conto di come l'attività di un utente cambi nel corso di giorni e settimane, piuttosto che limitarsi a guardare un singolo istante nel tempo.
I risultati hanno mostrato che il modo più efficace per trovare i più grandi scontentatori era cercare i super-diffusori. Quando i ricercatori hanno classificato gli utenti in base alla loro capacità di generare contenuti originali che altri ricondividerebbero, questi account sono apparsi costantemente in cima alla lista. Questi sono gli individui responsabili della scarica iniziale di viralità che permette alle narrazioni false di attecchire. Tuttavia, man mano che i ricercatori esaminavano più in basso nella lista degli utenti influenti, il quadro diventava più complesso. Nei ranghi medi e inferiori, il comportamento degli amplificatori e dei gruppi coordinati diventava molto più prominente. Ciò suggerisce che, sebbene pochi super-diffusori accendano l'incendio, sono gli amplificatori a mantenerlo acceso e i gruppi coordinati a alimentare le fiamme attraverso la rete.
Per ottenere un quadro più chiaro di come questi diversi comportamenti lavorino insieme, il team ha addestrato un modello di machine learning che combina tutti e tre gli archetipi in un unico sistema. Hanno poi utilizzato una tecnica che spiega come il modello prenda le sue decisioni, permettendo loro di vedere quali comportamenti fossero più importanti. Hanno scoperto che il modello faceva affidamento pesantemente sul numero di volte in cui un utente ricondivideva contenuti a bassa credibilità, un tratto associato agli amplificatori. Questo è stato sorprendente perché si potrebbe pensare che i creatori di contenuti virali siano i più importanti segnali. Invezione, i dati hanno mostrato che l'atto di ricondividere è un potente indicatore di rischio. Il modello ha anche confermato che i super-diffusori, identificati dalla loro capacità di generare un coinvolgimento costante, erano critici, specialmente tra gli utenti classificati ai vertici. Man mano che la classifica scendeva, l'influenza del comportamento coordinato e della frequenza di ricondivisione cresceva, rivelando un ecosistema stratificato dove diversi tipi di attori svolgono ruoli differenti nello stesso problema.
Lo studio ha anche testato quanto bene funzionino questi metodi quando ci sono pochissimi dati a disposizione, simulando uno scenario in cui una piattaforma debba prendere una decisione rapidamente dopo la comparsa di una nuova storia. Hanno scoperto che il punteggio di influenza sensibile al tempo rimaneva stabile e accurato anche con informazioni limitate, superando i metodi più vecchi che non tenevano conto della tempistica dell'attività dell'utente. Il modello di machine learning, tuttavia, faticava quando addestrato su quantità molto piccole di dati, suggerendo che, sebbene i modelli complessi siano potenti, abbiano bisogno di una storia sufficiente per apprendere i pattern. I ricercatori hanno concluso che il miglior approccio per le piattaforme è probabilmente una combinazione di questi strumenti: utilizzare punteggi semplici e consapevoli del tempo per identificare rapidamente gli account più pericolosi, e utilizzare modelli più dettagliati per comprendere l'intera gamma di comportamenti che sostengono la diffusione della disinformazione. Concentrandosi su questi pattern osservabili piuttosto che cercare di indovinare l'intento di un utente, le piattaforme possono intervenire prima, prendendo di mira gli account specifici che guidano il maggior danno prima che la falsa informazione diventi impossibile da contenere.
Sommerso dagli articoli nel tuo campo?
Ricevi digest giornalieri degli articoli più recenti corrispondenti alle tue parole chiave di ricerca — con riassunti tecnici, nella tua lingua.