💻 computer science

Examining hate speech infection in social media using range constraints in multidimensional data structures

Questo articolo propone una metodologia che combina l'analisi delle serie temporali basata su shapelet con strutture dati multidimensionali e vincoli di intervallo per identificare con precisione le finestre temporali e i modelli di connettività degli utenti che guidano la propagazione dell'hate speech sui social media, consentendo così un rilevamento e una mitigazione degli eventi più efficaci.

Autori originali: Eleanna Kafeza, Christos Makris, Gerasimos Rompolas, Georgios Mavris

Pubblicato 2026-07-15

📖 5 min di lettura🧠 Approfondimento

CC BY 4.0

Autori originali: Eleanna Kafeza, Christos Makris, Gerasimos Rompolas, Georgios Mavris

Articolo originale sotto licenza CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). ✨ Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo

Immaginate i social media come una festa gigantesca e frenetica dove tutti urlano i propri pensieri. A volte, l'atmosfera diventa sgradevole e un tipo specifico di "infezione tossica" (hate speech) inizia a diffondersi. Gli autori di questo articolo, Eleanna Kafeza e il suo team, volevano capire esattamente quando questa infezione inizia e chi la sta diffondendo, piuttosto che cercare solo di catturare ogni singola brutta parola che vola via.

Pensate alla timeline di un utente non come a un elenco di post, ma come a un monitor del battito cardiaco. Invece di guardare le parole stesse, il team ha trasformato l'intensità emotiva di ogni utente in una linea ondulata su un grafico. Se un utente pubblica contenuti arrabbiati e d'odio, il suo "battito cardiaco" presenta dei picchi di energia negativa.

Il kit degli attrezzi del detective: Shapelets e Suffix Trees
Per trovare i malintenzionati, i ricercatori hanno usato un trucco astuto chiamato classificazione tramite shapelet. Immaginate di cercare un'impronta digitale specifica in un mucchio di impronte di piedi infangati. Uno "shapelet" è come un piccolo frammento distintivo di quell'impronta che ne prova l'origine. In questo caso, l'impronta digitale è un particolare modello di picchi emotivi che sembra avere solo gli utenti che diffondono odio.

Ma controllare ogni singolo passo contro ogni singola impronta digitale richiederebbe troppo tempo. Così, il team ha costruito una libreria super veloce chiamata Suffix Tree. Pensatela come a un archivio magico e organizzato dove ogni possibile modello di parole è smistato istantaneamente. Invece di leggere ogni libro della biblioteca per trovare una storia, basta chiedere all'armadio: "Dove si trova la storia che inizia con 'arrabbiato'?" e l'armadio vi indicherà direttamente lo scaffale. Questo ha reso la loro ricerca incredibilmente veloce, trasformando un compito che solitamente richiede ere in qualcosa che avviene in un battito di ciglia.

Il filtro a due fasi: Tempo e Influenza
Trovare il modello era solo il primo passo. La vera magia è avvenuta quando hanno aggiunto due filtri extra, come un buttafuori che controlla due documenti d'identità all'ingresso: Tempo e Influenza.

La finestra temporale: Il team ha realizzato che l'hate speech spesso esplode subito dopo un evento specifico, come la diffusione di una notizia. Non si sono limitati a cercare il brutto modello; hanno chiesto: "Questo modello è accaduto proprio ora?". Zoomando su specifiche finestre temporali (come una finestra di 13 ore), sono riusciti a individuare esattamente quando l' "infezione" ha iniziato a diffondersi.
Il controllo dell'influenza: Hanno anche controllato quanto un utente fosse "popolare" o "connesso". Hanno scoperto una cosa sorprendente: l'hate speech non proveniva sempre dalle grandi celebrità. In realtà, sospettavano che gli utenti influenti vengano bannati rapidamente, quindi l'infezione spesso si diffonde attraverso utenti comuni, meno connessi. Hanno usato uno strumento matematico chiamato 2D Range Tree per verificare se i post di un utente avvenivano nel momento giusto e se il suo livello di influenza rientrava in un certo intervallo.

Cosa dicono i numeri
Il team ha testato questo metodo su un enorme dataset di tweet raccolti durante un mese (dal 1° febbraio 2022 al 1° marzo 2022). Hanno esaminato 3.912 utenti che pubblicavano hate speech, bilanciandoli con un dataset di 46.557 tweet provenienti da 7.824 utenti distinti.

Quando hanno eseguito i loro esperimenti, i risultati sono stati promettenti ma specifici per la loro configurazione:

Accuratezza: La loro migliore configurazione ha trovato gli utenti che pubblicavano hate speech con un'accuratezza media di 0,72 e un F1-score medio di 0,84.
Velocità: Il loro nuovo metodo era incredibilmente più veloce del vecchio modo "naif" di fare le cose. Mentre il vecchio metodo impiegava circa 0,12 × 10⁻² secondi per un piccolo test, il loro nuovo metodo lo faceva in 2,15 × 10⁻⁶ secondi. Man mano che i dati crescevano fino a 23.800 elementi, il loro metodo rimaneva veloce (intorno a 2,97 × 10⁻⁶ secondi), mentre il vecchio metodo rallentava significativamente.
Il punto ideale: Hanno scoperto che l'infezione da hate speech era più visibile in una specifica finestra temporale di [0, 13] (ore) e tra utenti nel [0, 17,5] percentile di influenza. Ciò suggerisce che l'infezione spesso parte da un piccolo gruppo di utenti che non sono necessariamente i più famosi, ma sono molto attivi durante una crisi specifica.

Cosa non dichiarano
È importante notare cosa questo articolo non dice. Gli autori sottolineano con cura di non pretendere di aver "risolto" l'hate speech per sempre. Argomentano esplicitamente contro l'affidarsi solo a semplici liste di parole o al semplice guardare il testo senza contesto. Notano anche che il loro metodo funziona meglio quando si hanno condizioni specifiche (come un tempo di un evento noto) da usare come filtro; non è una bacchetta magica che trova l'hate speech nel vuoto senza alcun dato aggiuntivo.

Il quadro generale
Trasformando il caos emotivo in forme di dati organizzate e usando una libreria super veloce per trovarle, gli autori hanno dimostrato che possiamo catturare l' "infezione" dell'hate speech in modo più preciso. Hanno scoperto che guardando quando i picchi di rabbia si verificano e chi li sta diffondendo, possiamo identificare la fonte del problema molto più velocemente rispetto al passato. Sebbene suggeriscano che questo possa aiutare le piattaforme di social media a prendere azioni immediate, lo presentano come uno strumento potente nel loro arsenale, non come una cura definitiva. L'obiettivo è individuare la scintilla prima che l'intera foresta prenda fuoco.

Sintesi Tecnica: Esame dell'infezione da Hate Speech nei Social Media utilizzando Vincoli di Intervallo in Strutture Dati Multidimensionali

Definizione del Problema
Il documento affronta la sfida di rilevare e analizzare l' "infezione" da hate speech (discorso d'odio) sulle piattaforme di social media come Twitter. Gli autori sostengono che l'hate speech non sia semplicemente un problema di classificazione statica di singoli post, ma un fenomeno dinamico guidato da eventi emotivamente intensi e propagato attraverso specifiche reti di utenti. La letteratura esistente si concentra spesso sulla classificazione di messaggi d'odio in isolamento o si affida a modelli di deep learning (ad es., BERT) che, pur essendo efficaci, possono essere difficili da interpretare e soggetti a overfitting dei dati. Inoltre, gli approcci tradizionali spesso non riescono a integrare dimensioni critiche come la finestra temporale di un evento e l'influenza sociale degli utenti coinvolti. Il problema centrale è identificare non solo chi pubblica hate speech, ma quando e sotto quali condizioni di rete (ad es., livelli di influenza) si verifica questo comportamento per facilitare una mitigazione immediata.

Metodologia
La metodologia proposta tratta il rilevamento dell'hate speech come un problema integrato di "infezione", modellando il comportamento dell'utente attraverso l'analisi delle serie temporali e utilizzando strutture dati efficienti per il pattern matching e le query di intervallo.

Modellazione delle Serie Temporali dell'Emozione:
- Il comportamento dell'utente è modellato come una serie temporale che rappresenta l'intensità delle emozioni negative nel tempo.
- Viene utilizzato il NRC-Canada Emotion Intensity Lexicon (NRC-EIL) per identificare le parole negative (rabbia, disgusto, paura, tristezza) e assegnare loro punteggi di intensità a valori reali.
- Per ogni utente, viene costruita una serie temporale in cui il valore di ogni intervallo di tempo è la somma dei pesi delle parole negative presenti nei loro post durante quell'intervallo.
- Per gestire le variazioni ortografiche, viene impiegata la distanza di Levenshtein come metrica di dissimilarità.
Trasformazione Simbolica e Riduzione della Dimensionalità:
- Le serie temporali continue vengono trasformate in serie temporali simboliche utilizzando la Symbolic Aggregate approXimation (SAX).
- Il processo prevede la z-Normalizzazione, la Piece-wise Aggregation Approximation (PAA) per segmentare la serie e la mappatura dei segmenti a un alfabeto (ad es., $\Sigma = \{a, b, c, d, e\}$ ) basata su breakpoint. Questo riduce la dimensionalità preservando al contempo la forma generale della curva di intensità emotiva.
Classificazione basata su Shapelet:
- Lo studio impiega la classificazione basata su shapelet, dove le "shapelet" sono sottosequenze discriminanti delle serie temporali che agiscono come impronte digitali per gli utenti che diffondono hate speech.
- Inveù della distanza Euclidea (non adatta ai dati simbolici), gli autori utilizzano la Alphabet-weight Edit Distance. Questa metrica assegna pesi alle sostituzioni di caratteri in base alla loro vicinanza nell'alfabeto, riflettendo l'intuizione che intensità emotive simili siano più vicine tra loro rispetto a quelle distanti.
- Un Generalized Suffix Tree viene costruito a partire dalla serie temporale simbolica di tutti gli utenti per consentire una ricerca efficiente di queste shapelet.
Vincoli di Intervallo Multidimensionali:
- Per raffinare l'identificazione degli utenti che diffondono hate speech, il framework introduce vincoli di post-elaborazione basati su tempo e influenza dell'utente.
- Vincolo di Tempo: Il sistema cerca le occorrenze delle shapelet all'interno di specifici intervalli temporali (ad es., durante un evento specifico).
- Vincolo di Influenza: L'influenza dell'utente è quantificata tramite la weighted degree centrality derivata dal grafo dei retweet. Il modello ipotizza che gli utenti individuali meno influenti possano essere più propensi a pubblicare hate speech (poiché gli utenti influenti vengono spesso bannati rapidamente).
- Strutture Dati:
  - Un Albero Binario Bilanciato viene integrato con il suffix tree (tramite l'attraversamento dell'Euler tour) per gestire in modo efficiente le query di intervallo 1D sul tempo.
  - Un 2D Range Tree viene aggiunto per gestire query simultanee su tempo e influenza.
- Ciò risulta in un approccio ibrido: un classificatore di shapelet identifica i candidati potenziali, e le strutture dati multidimensionali li filtrano in base ai vincoli temporali e di influenza.

Contributi Chiave

Rappresentazione delle Serie Temporali: Il paper introduce l'uso di serie temporali simboliche per rappresentare l'intensità emotiva della presenza sui social media degli utenti per il rilevamento dell'hate speech.
Classificazione Shapelet con Suffix Trees: Propone un nuovo metodo di classificazione che combina la scoperta di shapelet con generalized suffix trees per un recupero rapido, utilizzando l'Alphabet-weight Edit Distance per le serie simboliche.
Framework di Vincoli Multidimensionali: Gli autori introducono un framework che estende la classificazione con la ricerca di post-elaborazione utilizzando strutture dati multidimensionali (suffix trees, alberi binari bilanciati e range trees). Ciò consente il filtraggio simultaneo degli utenti in base a finestre temporali e metriche di influenza di rete.
Interpretabilità: A differenza dei modelli di deep learning "black box", questo approccio fornisce "impronte digitali" interpretabili (shapelet) e consente l'esplorazione di specifici intervalli temporali e range di influenza dell'utente che innescano la diffusione dell'hate speech.

Risultati Sperimentali

Dataset: Lo studio ha utilizzato un dataset di tweet contenenti la parola chiave "@CNN" del febbraio 2022, risultando in un set bilanciato di 46.557 tweet da 7.824 utenti.
Confronto con Baseline: I modelli proposti sono stati confrontati con classificatori di shapelet ingenui (NSC) e varie baseline di deep learning (BERT-base-uncased, fBERT, HateBERT).
Prestazioni:
- Accuratezza: La configurazione ottimale (lunghezza shapelet 8, 3 shapelet, edit distance 2) ha raggiunto un'accuratezza media di 0,72 e un F1-score medio di 0,84.
- Scalabilità: Le strutture dati proposte (SSC, SSCAB, SSCAR) hanno dimostrato tempi di esecuzione significativamente inferiori rispetto ai metodi ingenui all'aumentare della dimensione del dataset. Ad esempio, mentre l'approccio ingenuo scalava linearmente con la dimensione dei dati, gli approcci basati su suffix tree hanno mantenuto tempi di query quasi costanti o logaritmici ( $O(n + \log m + k)$ ).
- Analisi Dimensionale: Gli esperimenti hanno identificato che la diffusione dell'hate speech era più concentrata in specifiche finestre temporali (ad es., [0, 13] ore) e tra utenti nei percentili inferiori di influenza (0–17,5%), supportando l'ipotesi che gli utenti individuali, meno influenti, guidino l'infezione.
Visualizzazione: L'analisi delle nuvole di parole degli utenti identificati come diffusori di hate speech ha rivelato temi relativi alla politica, ai vaccini e alla guerra Russia-Ucraina, confermando la capacità del modello di catturare discorsi negativi contestualmente rilevanti.

Significatività e Rivendicazioni
Il paper sostiene che la sua significatività risieda nel fornire un approccio ibrido che combina il potere di riconoscimento dei pattern della classificazione shapelet con l'efficienza di strutture dati avanzate per le query multidimensionali.

Efficienza: L'uso di suffix trees e range trees consente l'identificazione rapida degli utenti di hate speech che aderiscono a condizioni complesse (tempo e influenza), risultando computazionalmente superiore ai metodi brute-force.
Intuizioni Azionabili: Isolando le specifiche finestre temporali e i livelli di influenza degli utenti associati all'infezione da hate speech, la metodologia consente agli operatori dei social media di intraprendere azioni di mitigazione mirate (ad es., identificando l'evento scatenante e i gruppi di utenti specifici coinvolti) piuttosto che affidarsi esclusivamente al filtraggio dei contenuti generico.
Interpretabilità: L'approccio offre un meccanismo trasparente per comprendere perché un utente viene segnalato (tramite la specifica forma della shapelet) e quando si è verificato il comportamento, affrontando i limiti di "scatola nera" del deep learning.
Estendibilità: Il framework è progettato per essere facilmente espandibile per includere dimensioni aggiuntive (ad es., altre metriche di rete o caratteristiche di contenuto) senza alterare fondamentalmente la logica di classificazione principale.

Gli autori mantengono un tono modesto, riconoscendo che, sebbene i risultati siano promettenti, l'approccio dipende da una specifica regolazione dei parametri e che il lavoro futuro potrebbe esplorare strutture di indicizzazione più complesse (come i property suffix trees) per ottimizzare ulteriormente le prestazioni di spazio e tempo.

Articoli simili