Cultural Targets, Structural Frames, Binding Morals: A Cross-Lingual Audit of Online Hate in Multicultural Singapore

Sintesi Tecnica: Target Culturali, Cornici Strutturali, Morali Vincolanti

Problematica
La ricerca sull'odio online si è tradizionalmente concentrata su contesti monodimensionali (singola lingua, singola piattaforma), affrontando principalmente il rilevamento dal punto di la prospettiva del mittente. Rimangono due questioni critiche sottesplorate: (1) se le componenti strutturali dell'odio (target, cornici di minaccia, fondamenta morali) siano condivise tra i pubblici linguistici coesistenti all'interno di una singola società, o se siano culturalmente idiosincratiche; e (2) se l'odio prodotto da una comunità sia lo stesso odio che il suo pubblico amplifica. Inoltre, il campo affronta una sfida metodologica: i Large Language Models (LLM) utilizzati come annotatori spesso divergono sulla prevalenza assoluta dell'odio, rendendo inaffidabili i confronti cross-lingua sui tassi grezzi.

Metodologia
Lo studio utilizza un corpus centrato su Singapore del 2025, composto da 31,0 milioni di elementi su Facebook, Reddit e YouTube. Il dataset include 1,76 milioni di commenti che menzionano undici out-group salienti per Singapore (ad es. cittadini della RPC, lavoratori migranti, gruppi religiosi, LGBTQ) in inglese, cinese semplificato e malese.

• Pipeline di Annotazione: Gli autori impiegano un processo di classificazione a due stadi. Lo Stadio 1 utilizza un filtro lessicale e prototipico ad alta recall. Lo Stadio 2 impiega una decisione binaria isolata sull'odio tramite LLM, con esplicite ipotesi nulle (ad es. menzioni neutrali, critica alle politiche) per evitare di gonfiare la prevalenza. La conferma richiede il consenso tra due prompt formulati in modo indipendente.
• Benchmarking del Modello: Otto LLM open-source sono stati sottoposti a benchmarking rispetto a un "gold set" umano-giudicato di 211 elementi "difficili". I soffitti di accordo sono risultati bassi ($\kappa \approx 0,42$), indicando che la prevalenza assoluta è mal definita a livello di annotatore. Di conseguenza, lo studio adotta Phi-4 (14 miliardi di parametri) come labeler primario per il suo equilibrio superiore tra accuratezza (0,95), Cohen's $\kappa$ (0,91) e recall (1,00) su un controllo manuale indipendente. Tutti i risultati sono replicati utilizzando un secondo modello indipendente (Qwen2.5) per garantirne la robustezza.
• Analisi: L'analisi si concentra sui confronti strutturali relativi piuttosto che sui tassi assoluti. Misura la divergenza cross-lingua utilizzando il $V$ di Cramér e la distanza di variazione totale su quattro assi: Salienza del Target, Cornice di Minaccia, Fondamenta Morali ed Emozione. La significatività statistica è testata tramite test $\chi^2$ con controllo FDR di Benjamini–Hochberg. La risonanza (amplificazione) è modellata tramite confronti accoppiati all'interno dei thread su Facebook, controllando per thread, lunghezza e tempo.

Contributi Chiave

1. Contingenza Culturale Stratificata: Il paper propone una tesi falsificabile secondo cui l'odio online è strutturato dalla contingenza culturale. Dimostra che la divergenza cross-lingua diminuisce monotonicamente passando da cosa viene odiato (target) al come viene inquadrato (minacce) al perché viene odiato (fondamenta morali).
2. Dissociazione Produzione-Risonanza: Lo studio pone l'accento sul lato della ricezione dell'odio, mostrando che l'amplificazione del pubblico è selettivamente nativista e non segue linearmente i volumi di produzione.
3. Validità della Misurazione: Stabilisce che per costrutti contestati come l'odio, la prevalenza assoluta non è ben definita tra gli annotatori LLM (soffitto a $\kappa \approx 0,42$). Il paper sostiene l'importanza di riportare la struttura relativa come unità primaria di analisi, trattando i tassi assoluti solo come intervalli calibrati.

Risultati

• Target (Culturalmente Specifici): La salienza dei target varia significamente per lingua ($V=0,25$). Il discorso in inglese è ampio (focalizzato su musulmani, RPC, LGBTQ); il discorso in cinese si centra sull'asse locale-cinese/RPC; il discorso malese si concentra su religione e LGBTQ.
• Cornici di Minaccia (Strutturali): Sebbene i target differiscano, la mappatura tra target e cornici di minaccia è robusta. I gruppi religiosi sono inquadrati tramite minacce religiose; migranti/cittadini stranieri tramite minacce economiche, di sicurezza o di sostituzione; e i cinesi locali tramite potere politico. L'ostilità anti-musulmana mostra la più alta invarianza cross-lingua.
• Fondamenta Morali (Quasi Universali): La grammatica morale dell'odio è altamente condivisa tra le lingue ($V=0,08$). L'odio è prevalentemente guidato da fondamenta morali di tipo vincolante (Sacralità/55–75%, Lealtà, Autorità) piuttosto che da fondamenta individualizzanti (Equità).
• Espressione: L'odio è guidato dal disprezzo (94–96% tra le lingue) ed è rabbioso, con frequente deumanizzazione (21–35%). È principalmente un lamento verso l'out-group (anti-immigrazione) piuttosto che un lamento anti-sistema; le posizioni anti-immigrazione e anti-establishment sono negativamente associate.
• Risonanza: I commenti d'odio sono generalmente amplificati meno delle menzioni neutrali. Tuttavia, l'amplificazione è selettivamente nativista: l'odio anti-CECA, anti-RPC e anti-lavoratori migranti è preferenzialmente amplificato, mentre l'odio contro i gruppi religiosi e LGBTQ è soppresso.
• Reattività agli Eventi: Il volume dell'odio non presenta picchi significativi attorno ai principali eventi del 2025 a Singapore (ad es. elezioni, incidenti razziali), suggerendo una linea di base costante piuttosto che una volatilità guidata dagli eventi.

Significato e Rivendicazioni
Il paper sostiene che trattare l'"odio online" come una singola prevalenza monolitica occulta una struttura stratificata. La scoperta centrale è che, mentre i target dell'odio sono selezionati localmente e sono culturalmente plastici, la grammatica dell'odio (le cornici di minaccia e le fondamenta morali vincolanti) è condivisa cross-lingualmente.

Ciò ha implicazioni dirette per la moderazione dei contenuti cross-lingua:

• Trasferimento di Policy: I detector o le policy basate sulle cornici di minaccia hanno maggiori probabilità di trasferirsi tra le lingue rispetto a quelli basati su target specifici, che richiedono localizzazione.
• Obiettivi di Moderazione: Ridurre la produzione di odio è distinto dal ridurne la portata. Poiché l'amplificazione è selettivamente nativista, le strategie di moderazione devono tenere conto del fatto che il pubblico filtra l'odio diversamente da come esso viene prodotto.
• Rigore Metodologico: Lo studio mette in guardia dal fare affidamento esclusivamente su metriche di prevalenza assoluta dell'odio derivate da LLM, raccomandando un'analisi strutturale relativa e una calibrazione ancorata all'uomo.

Gli autori mantengono un ambito modesto, notando che le loro scoperte sono specifiche per il contesto di Singapore (una società, un anno) e che il corpus è privo di attori (analizza commenti, non utenti). Enfatizzano che le loro lenti teoriche sono utilizzate in modo descrittivo, non causale.