Beyond Content: Behavioral Policies Reveal Actors in Information Operations
Questo articolo introduce un framework agnostico rispetto alla piattaforma che supera i metodi tradizionali basati sul contenuto nel rilevare operazioni di influenza malevola, modellando l'attività dell'utente come processi decisionali sequenziali per identificare politiche comportamentali stabili, ottenendo una maggiore accuratezza e un rilevamento più precoce anche con dati limitati o contenuti sintetici.
Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo
Immaginate internet come una gigantesca e caotica piazza digitale. Per anni, le guardie di sicurezza che cercavano di individuare i malintenzionati (come bot o troll coordinati) si sono concentrate principalmente su due cose: cosa dicevano le persone (il contenuto) e chi fossero i loro amici (la rete). Era come cercare di catturare un borseggiatore leggendo il suo portafoglio o controllando la sua rubrica. Ma ultimamente, i borseggiatori sono diventati più intelligenti. Possono scrivere frasi perfette usando l'intelligenza artificiale e hanno imparato a nascondere le loro liste di amici. Questo ha reso meno efficace il vecchio metodo del "guardare le parole".
Per risolvere questo problema, gli scienziati stanno iniziando a guardare qualcos'altro: il ritmo delle azioni di una persona. Pensatelo come a una danza. Anche se un ballerino cambia costume o musica, il suo modo unico di fare passi, girare e pause spesso rimane lo stesso. Nel mondo dell'informatica, questo è chiamato "politica comportamentale" (behavioral policy). È l'idea che il modo e il momento in cui qualcuno interagisce con una piattaforma siano un'impronta digitale molto più difficile da falsificare rispetto a ciò che effettivamente dice. La grande domanda che i ricercatori si pongono è: possiamo catturare i cattivi semplicemente osservando le loro mosse di danza, anche se non possiamo leggere i loro testi?
Questo articolo, intitolato "Oltre il contenuto: le politiche comportamentali rivelano gli attori nelle operazioni informative", approfondisce questa domanda usando Reddit come il suo campo di gioco. I ricercatori hanno studiato oltre 12.000 utenti, inclusi 99 account che Reddit ha ufficialmente segnalato come collegati alla Internet Research Agency russa (i "troll") e migliaia di utenti regolari (gli "organici"). Non si sono limitati a leggere i post; hanno trattato ogni cronologia utente come una sequenza di decisioni, come un videogioco in cui il giocatore sceglie di "iniziare un nuovo thread", "rispondere a un commento" o "aspettare una risposta".
Il team ha utilizzato un trucco matematico astuto chiamato "Apprendimento per Rinforzo Inverso" (Inverse Reinforcement Learning). Immaginate di osservare un grande chef mentre cucina. Non conoscete la ricetta, ma osservando come taglia, mescola e assaggia, potete indovinare le regole segrete che sta seguendo. I ricercatori hanno fatto la stessa cosa: hanno osservato come i troll e gli utenti regolari agivano e hanno cercato di fare l'ingegneria inversa della "regola" (o politica) seguita da ciascun gruppo. Hanno scoperto che i troll avevano una routine di danza molto specifica e rigida. Pubblicavano in raffiche rapide durante ore specifiche (come la mattina presto negli Stati di Uniti), creavano molti nuovi thread di discussione e raramente partecipavano a scambi di battute avanti e indietro. Gli utenti regolari, invece, avevano un ritmo più rilassato e vario, spesso iniziando rispondendo a conversazioni già esistenti.
I risultati sono stati sorprendenti. Quando i ricercatori hanno costruito un rilevatore basato su queste "mosse di danza" (politiche comportamentali), questo è stato molto più bravo a individuare i troll rispetto ai rilevatori basati sul testo dei post. Il miglior modello comportamentale ha identificato correttamente i troll il 94,9% delle volte, mentre il modello basato sul testo ha ottenuto solo il 91,2%. Ancora più impressionante, il rilevatore comportamentale funzionava bene anche quando vedeva solo una piccolissima fetta della cronologia dell'utente: solo tre azioni. Ciò suggerisce che l'impronta digitale di un troll è visibile quasi immediatamente, molto prima che abbia pubblicato abbastanza parole per essere intercettato dall'analisi del testo.
L'articolo ha anche testato quanto questi rilevatori resistessero quando i cattivi cercavano di imbrogliare. Hanno simulato scenari in cui un account troll veniva "dirottato" (mescolato con il comportamento di una persona reale) o quando i dati venivano intenzionalmente confusi con del rumore. I rilevatori comportamentali erano molto più resilienti; degradavano con grazia, il che significa che continuavano a funzionare ragionevolmente bene anche quando i dati erano disordinati, mentre i rilevatori basati sul testo faticavano di più. Tuttavia, gli autori sottolineano che questo non è un rimedio magico. Hanno trovato alcuni "super-troll" che erano così bravi a imitare le persone normali che persino i loro avanzati rilevatori rimanevano confusi, scambiandoli per utenti normali.
In breve, questa ricerca suggerisce che nell'era del testo generato dall'IA e delle reti nascoste, il modo migliore per individuare una campagna informativa coordinata potrebbe non essere leggere ciò che dicono, ma osservare come si muovono. Modellando gli utenti come decisori con abitudini specifiche, possiamo trovare i modelli nascosti di manipolazione che le parole da sole potrebbero celare. Sebbene lo studio sia specifico per Reddit e per il periodo 2015–2018, offre uno strumento promettente per mantenere le nostre piazze digitali sicure: prestate attenzione al ritmo, non solo alla rima.
Sommerso dagli articoli nel tuo campo?
Ricevi digest giornalieri degli articoli più recenti corrispondenti alle tue parole chiave di ricerca — con riassunti tecnici, nella tua lingua.