Causality Guided Representation Learning for Cross-Style Hate Speech Detection

Technische Samenvatting: Causality Guided Representation Learning voor Cross-Style Haatspraakdetectie (CADET)

Probleemdefinitie
De proliferatie van haatspraak online vormt een aanzienlijke uitdaging voor contentmoderatie, met name met betrekking tot de detectie van impliciete haatspraak. Terwijl expliciete haatspraak wordt gekenmerkt door overtollige beledigingen en directe aanvallen, leunt impliciete haat op sarcasme, ironie, stereotypen en gecodeerde taal, wat het voor modellen die getraind zijn op oppervlakkige linguïstische kenmerken moeilijk maakt om dit te detecteren. Huidige detectiesystemen lijden onder een slechte generalisatie over diverse stilistische variaties en platforms heen. Modellen vertrouwen vaak op spuriële correlaties tussen specifieke stilistische kenmerken (bijv. specifieke scheldwoorden of platformspecifieke syntaxis) en haatlabels, waardoor ze falen wanneer ze geconfronteerd worden met impliciete expressies of wanneer ze worden ingezet op platforms met verschillende demografische en moderatiecontexten. Het kernproblef is het onderscheiden van de werkelijke haatintentie (de causale factor) van de stilistische manifestatie (de verwarrende factor/confounder) die varieert tussen domeinen.

Methodologie: Het CADET-framework
De auteurs stellen CADET voor (Causality Guided Representation Learning for Cross-Style Hate Speech Detection), een framework dat is geworteld in een hypothetische causale graaf van haatspraakgeneratie.

1. Causale Hypothese: De generatie van haatspraak wordt gemodelleerd als een proces dat bestaat uit:

   • Contextuele Omgeving ($U$): Een niet-geobserveerde confounder (bijv. platformbeleid, demografie) die de motivatie van de maker, de selectie van het doelwit en de stilistische keuzes beïnvloedt.
   • Latente Factoren:
     • Maker-motivatie ($M$): De intentie om schade toe te brengen.
     • Doelwit ($T$): De groep of het individu dat het doelwit is.
     • Stijl ($S$): De linguïstische expressie (expliciet versus impliciet).
   • Ware Motivatie ($M^*$): Een domein-invariabele latente variabele die de werkelijke haatintentie vertegenwoordigt, onafhankelijk van de contextuele omgeving $U$.
   • Label ($Y$): Bepaald door de ware motivatie $M^*$ en de context $U$.

2. Architectuurcomponenten:

   • Causaal-Gealigneerde Ontrafeling (Disentanglement): Het model gebruikt een pre-trained encoder (RoBERTa) om tekst in een latente ruimte te mappen. Vervolgens ontrafelt het deze representatie in vier latente factoren: continue variabelen voor motivatie ($z_m$) en confounder ($z_u$), en discrete variabelen voor doelwit ($z_t$) en stijl ($z_s$) met behulp van Gumbel-Softmax.
   • Mitigatie van de Confounder: Om te voorkomen dat de latente factoren spuriële correlaties met de context coderen, gebruikt het framework:
     • Adversariële Confounder Reconstructie: Een Gradient Reversal Layer (GRL) wordt gebruikt waarbij discriminatoren proberen de confounder $U$ te reconstrueren uit de samengevoegde latente factoren. De encoder wordt getraind om deze reconstructie te minimaliseren, wat effectief $U$ uit de causale factoren verwijdert.
     • Orthogonaliteitsrestricties: Projecties zorgen ervoor dat de latente factoren ($M, T, S, U$) wederzijds orthogonaal zijn, wat statistische onafhankelijkheid afdwingt.
     • Input Reconstructie: Een decoder reconstrueert de oorspronkelijke tekst vanuit de gefuseerde latente factoren om te garanderen dat de ontrafeling de semantische betekenis behoudt.
   • Latente Counterfactual Redenering: Om stijl-invariantie af te dwingen, grijpt het model in op de stijl-latente variabele ($S$) binnen de latente ruimte. Een "style flipping network" keert de stijl om (bijv. expliciet naar impliciet) terwijl de motivatie en het doelwit constant blijven. Het model wordt getraind om ervoor te zorgen dat de haatvoorspelling consistent blijft, ongeacht de stijlinterventie (Counterfactual Consistency Loss).

3. Trainingsdoelstelling: Het model wordt geoptimaliseerd met een multi-objective loss functie die de taakverlies (haatclassificatie), doelwit/stijl classificatie, orthogonaliteit, adversariële deconfounding, reconstructie en counterfactual consistency losses combineert. Een gestaffeld trainingscurriculum wordt toegepast om de optimalisatie van deze concurrerende doelstellingen te stabiliseren.

Belangrijkste Bijdragen

• Geprincipeerde Causale Graaf: Het artikel introduceert een formeel causaal model dat het generatieve proces van haatspraak expliciet scheidt in interpreteerbare latente factoren (motivatie, doelwit, stijl, context), waardoor expliciete en impliciete haatdetectie worden verenigd.
• CADET Framework: De implementatie van een representatieleer-framework die deze graaf operationaliseert door gebruik te maken van counterfactual redenering en adversariële deconfounding om haatintentie te isoleren van stilistische artefacten.
• Empirische Validatie: Uitgebreide experimenten op vier real-world datasets (IsHate, IHC, AbuseEval, DynaHate) tonen superieure prestaties aan in cross-style generalisatie-taken vergeleken met state-of-the-art baselines, inclus\u{00ad}rijkelijk traditionele NLP-modellen, gespecialiseerde haatspraakdetectoren en LLM-gebaseerde modellen.

Resultaten

• Cross-Style Generalisatie: CADET bereikt een gemiddelde macro-F1 van 0,81 in expliciet-naar-impliciet transfer-taken, wat een relatieve verbetering van 13% is ten opzichte van de sterkste baseline. In impliciet-naar-expliciet transfer behoudt het een sterke gemiddelde F1 van 0,885.
• Robuustheid: In tegenstelling tot conventionele modellen die vaak een hoge recall maar lage precisie vertonen in impliciete settings (of vice versa), behoudt CADET een gebalanceerde prestatie. Het presteert significant beter dan causale baselines (PEACE, HateWATCH) en LLM-gebaseerde detectoren (ShieldGemma, Llama Prompt Guard), die wisselvallige prestaties of falen vertonen in cross-style scenario's.
• Ablatie-studies: Het verwijderen van de counterfactual loss ($L_{cf}$) resulteert in de meest significante prestatiedaling (een afname van 24 punten in F1), wat de cruciale rol van stijlinterventie bevestigt bij het leren van invariante representaties.
• Visualisatie: t-SNE visualisaties bevestigen dat de motivatie-latente ruimte ($z_m$) haatvolle van niet-haatvolle posts duidelijk scheidt, terwijl de doelwit-, stijl- en confounderruimtes dat niet doen, wat de succesvolle ontrafeling van de causale factoren valideert.

Betekenis
Het artikel stelt dat CADET een geprincipeerde oplossing biedt voor de uitdaging van stijl-invariante haatspraakdetectie. Door de focus te verschuiven van oppervlakkige linguïstische patronen naar de onderliggende causale intentie, adresseert het framework de broosheid van huidige modellen tegenover impliciete haat en domeinverschuivingen. Het werk benadrukt het potentieel van causale ontrafeling en counterfactual redenering voor het creëren van robuustere, interpreteerbare en generaliseerbare contentmoderatiesystemen, wat een pad biedt naar veiligere online omgevingen die kunnen adapteren aan evoluerende vormen van haatspraak.