💻 computer science

Cultural Targets, Structural Frames, Binding Morals: A Cross-Lingual Audit of Online Hate in Multicultural Singapore

Deze studie van een Singaporees corpus van sociale media uit 2025 onthult dat hoewel specifieke doelwitten van haat variëren tussen de Engelse, Chinese en Maleise taalgemeenschappen, de onderliggende morele kaders en dreigingsstructuren van online haat opmerkelijk consistent blijven, wat suggereert dat grensoverschrijdende moderatiestrategieën prioriteit moeten geven aan gedeelde morele en emotionele patronen boven cultuurspecifieke doelwitten.

Oorspronkelijke auteurs: Emilio Ferrara

Gepubliceerd 2026-06-23

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Emilio Ferrara

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Het Grote Plaatje: Een Taart met Drie Lagen van Haat

Stel je Singapore voor als een enorme, multiculturele potluck-dinner. Mensen zitten aan drie verschillende tafels en spreken Engels, Chinees en Maleis. Ze praten allemaal over dezelfde groep "buitenstaanders" (zoals immigranten, verschillende religieuze groepen of mensen uit het vasteland van China), maar ze doen dat in hun eigen taal.

De onderzoekers wilden weten: Is de haat aan deze drie tafels totaal verschillend, of is er een verborgen patroon?

Ze ontdekten dat online haat lijkt op een taart met drie lagen. De lagen veranderen naarmate je van de bovenste naar de onderste laag gaat:

De Bovenste Laag (De "Wie"): Deze is cultureel specifiek. Het is als het menu. De Engelse tafel klaagt vooral over moslims en LGBTQ+-groepen. De Chinese tafel richt zich op de spanning tussen lokale Chinezen en mensen uit het vasteland van China. De Maleise tafel richt zich op religie en LGBTQ+-kwesties. Waarover mensen haten, hangt volledig af van aan welke taaltafel ze zitten.
De Middelste Laag (De "Hoe"): Deze is gedeeld. Dit is het recept voor de klacht. Ongeacht de taal: als iemand een migrant bekritiseert, wordt dit geframed als een "economische dreiging" (banen stelen). Als ze een religieuze groep haten, framen ze dat als een "religieuze dreiging". De manier waarop ze aanvallen is verrassend vergelijkbaar over alle drie de talen heen.
De Onderste Laag (De "Waarom"): Dit is universeel. Dit is de morele basis. De onderzoekers ontdekten dat haat meestal niet gaat over "eerlijkheid" (zoals "dit is onrechtvaardig"). In plaats daarvan gaat het bijna altijd over zuiverheid (heiligheid) en loyaliteit (verraad). Het is het gevoel dat "jij vies bent" of "jij hoort niet bij ons". Deze morele grammatica is bijna identiek in het Engels, Chinees en Maleis.

De Belangrijkste Conclusie: Het doelwit van de haat is lokaal en specifiek, maar de grammatica (de structurering en morele redenering) van de haat is een gedeelde taal die iedereen spreekt, ongeacht de woorden die ze gebruiken.

Het "Versterker"-Probleem: Wat Gehoord Wordt versus Wat Er Gezegd Wordt

De studie keek ook naar wat er gebeurt nadat iemand een haatdragende reactie plaatst. Negeren mensen het, of versterken ze het (zoals delen of reageren)?

Denk aan het internet als een gigantisch geluidssysteem.

Productie: Dit is hoeveel mensen iets zeggen.
Resonantie: Dit is hoe hard het geluidssysteem het terugspeelt.

De onderzoekers ontdekten een vreemde discrepantie:

Het Geluidssysteem is "Nativistisch": Hoewel mensen haat uiten tegen veel verschillende groepen, zet het "geluidssysteem" (het algoritme en menselijke betrokkenheid) alleen het volume omhoog voor anti-immigranten-haat.
De Stilte: Haat tegen religieuze groepen of LGBTQ+-personen wordt wel gepost, maar wordt niet evenzeer versterkt. Het is alsof iemand in een microfoon schreeuwt waarvan het volume laag staat.
Het Resultaat: Wat een gemeenschap produceert, is niet hetzelfde als wat een gemeenschap versterkt. Het publiek versterkt selectief klachten over immigranten, terwijl ze andere vormen van haat op de achtergrond laten vervagen.

Het "Meetlint"-Probleem: Waarom We Niet Precies Aantallen Kunnen Tellen

Een van de belangrijkste technische bevindingen gaat over meting.

Stel je voor dat je probeert te tellen hoeveel "rode" appels er in een mand zitten met behulp van acht verschillende kleurenblinde robots.

De onderzoekers vroegen aan acht verschillende AI-modellen om "haat" te tellen.
Het Resultaat: De robots konden het niet met elkaar eens worden. De ene robot kan een reactie als haat bestempelen; een andere kan zeggen dat het gewoon een sterke mening is. Zelfs de beste robots waren het in de lastigste gevallen slechts voor 42% met elkaar eens.
De Les: Omdat de "meetlat" (de AI) wankel is, zegt het paper dat we niet het exacte aantal haatreacties kunnen vertrouwen (bijv. "Er zijn precies 5.000 haatreacties").
De Oplossing: In plaats van het totaal aantal te tellen, richtten de onderzoekers zich op de structuur. Ze keken naar de patronen (bijv. "Haat tegen Groep A wordt altijd geframed als een economische dreiging"). Deze patronen waren duidelijk en consistent, zelfs als de exacte aantallen vaag waren.

De "Event"-Test: Piekt Haat Tijdens Groot Nieuws?

Ten slotte controleerden de onderzoekers of de haat explodeerde tijdens grote gebeurtenissen in Singapore in 2025, zoals verkiezingen, arrestaties of religieuze spanningen.

De Verwachting: Je zou denken dat wanneer er een groot nieuwsbericht naar buiten komt, de haatreacties zouden pieken als een golf.
De Realiteit: Het volume van de haat was een constante, vlakke lijn. Het schoot niet omhoog tijdens verkiezingen of arrestaties.
De Analogie: Het is als een rivier die met een constante snelheid stroomt. Een grote steen (een nieuwsgebeurtenis) die erin wordt gegooid, kan voor een spat zorgen, maar het verandert de snelheid van de rivier niet. De haat is een constante achtergrondruis, geen reactie op specifieke nieuwscycli.

Samenvatting van de Belangrijkste Bevindingen

Doelwitten zijn lokaal, maar de "grammatica" van haat is globaal. (Wie ze haten verandert per taal; hoe en waarom ze haten blijft hetzelfde).
Haat wordt gedreven door "zuiverheid" en "loyaliteit", niet door eerlijkheid.
Het publiek is selectief. Ze versterken haat tegen immigranten, maar negeren haat tegen andere groepen.
We kunnen haat niet perfect tellen. AI-tools zijn te oneens over de exacte aantallen, dus moeten we ons richten op de patronen van haat in plaats van de cijfers.
Haat is constant, niet reactief. Het piekt niet simpelweg omdat er groot nieuws is.

Technische Samenvatting: Culturele Doelwitten, Structurele Kaders, Bindende Moraal

Probleemstelling
Onderzoek naar online haat heeft zich traditioneel gericht op contexten met één taal en één platform, waarbij de nadruk primair ligt op detectie vanuit het perspectief van de zender. Twee cruciale vragen blijven onderbelicht: (1) of de structurele componenten van haat (doelwitten, dreigingskaders, morele fundamenten) gedeeld worden binnen co-existente talige publieken binnen een enkele samenleving, of dat ze cultureel idiosyncratisch zijn; en (2) of de haat die een gemeenschap produceert, dezelfde haat is die haar publiek versterkt. Bovendien staat het vakgebied voor een methodologische uitdaging: Large Language Models (LLM's) die als annotatoren worden gebruikt, verschillen vaak van mening over de absolute prevalentie van haat, wat cross-linguale vergelijkingen van ruwe cijfers onbetrouwbaar maakt.

Methodologie
De studie maakt gebruik van een Singapore-gecentreerde corpus uit 2025, bestaande uit 31,0 miljoen items afkomstig van Facebook, Reddit en YouTube. De dataset bevat 1,76 miljoen reacties waarin elf voor Singapore relevante out-groups worden genoemd (bijv. PRC-nationalen, migranten, religieuze groepen, LGBTQ) in het Engels, Vereenvoudigd Chinees en Maleis.

Annotatie-pipeline: De auteurs hanteren een tweetraps classificatieproces. Fase 1 gebruikt een lexicale en prototypische filter met een hoge recall. Fase 2 gebruikt een geïsoleerde binaire haatbeslissing met behulp van LLM's, met expliciete nulhypothesen (bijv. neutrale vermeldingen, beleidskritiek) om inflatie van de prevalentie te voorkomen. Bevestiging vereist consensus over twee onafhankelijk geformuleerde prompts.
Model Benchmarking: Acht open-source LLM's werden gebenchmarkt tegen een door mensen beoordeelde "harde" gouden set van 211 items. De overeenstemmingplafonds bleken laag ( $\kappa \approx 0,42$ ), wat aangeeft dat absolute prevalentie op annotatorniveau slecht gedefinieerd is. Bijgevolg hanteert de studie Phi-4 (14B parameters) als de primaire labeler vanwege de superieure balans tussen nauwkeurigheid (0,95), Cohen's $\kappa$ (0,91) en recall (1,00) op een onafhankelijke handmatige controle. Alle bevindingen zijn gereproduceerd met een tweede onafhankelijk model (Qwen2.5) om robuustheid te waarborgen.
Analyse: De analyse richt zich op relatieve structurele vergelijkingen in plaats van absolute cijfers. Het meet cross-linguale divergentie met behulp van Cramér's $V$ en Total Variation distance over vier assen: Target Salience (doelwit-salientie), Threat Frame (dreigingskader), Moral Foundation (moreel fundament) en Emotie. Statistische significantie wordt getest met $\chi^2$ -testen met Benjamini–Hochberg FDR-controle. Resonantie (amplificatie) wordt gemodelleerd via binnen-thread gepaarde vergelijkingen op Facebook, waarbij gecorrigeerd wordt voor thread, lengte en tijd.

Belangrijkste Bijdragen

Gelaagde Culturele Contingentie: Het artikel stelt een falsifieerbare stelling voor dat online haat gestructureerd wordt door culturele contingentie. Het demonstreert dat cross-linguale divergentie monotoon afneemt naarmate men beweegt van wat er gehaat wordt (doelwitten) naar hoe het geframed wordt (dreigingen) naar waarom het gehaat wordt (morele fundamenten).
Productie-Resonantie Dissociatie: De studie legt de nadruk op de receptiezijde van haat, en laat zien dat publieke amplificatie selectief nativistisch is en niet lineair correleert met productievolumes.
Meetvaliditeit: Het stelt vast dat voor betwiste constructen zoals haat, de absolute prevalentie niet goed gedefinieerd is over LLM-annotatoren heen (plafond bij $\kappa \approx 0,42$ ). Het artikel pleit voor het rapporteren van relatieve structuur als de primaire eenheid van analyse, waarbij absolute cijfers slechts als gekalibreerde bereiken worden behandeld.

Resultaten

Doelwitten (Cultureel Specifiek): De salientie van doelwitten varieert significant per taal ( $V=0,25$ ). Het Engelse discours is breed (gericht op moslims, PRC, LGBTQ); het Chinese discours centreert zich rond de lokale-Chinese/PRC-as; het Maleise discours focust op religie en LGBTQ.
Dreigingskaders (Structureel): Hoewel de doelwitten verschillen, is de mapping tussen doelwitten en dreigingskaders robuust. Religieuze groepen worden geframed via religieuze dreigingen; migranten/buitenlandse nationalen via economische, veiligheids- of vervangingsdreigingen; en lokale Chinezen via politieke macht. Anti-moslim vijandigheid vertoont de hoogste cross-linguale invariantie.
Morele Fundamenten (Bijna Universeel): De morele grammatica van haat is sterk gedeeld over talen ( $V=0,08$ ). Haat wordt voornamelijk gedreven door bindende morele fundamenten (Heiligheid/55–75%, Loyaliteit, Autoriteit) in plaats van individualiserende fundamenten (Rechtvaardigheid).
Expressie: Haat wordt gedreven door minachting (94–96% over alle talen) en woede, met frequente dehumanisering (21–35%). Het is primair een out-group grieven (anti-immigratie) in plaats van een anti-systeem grieven; anti-immigratie en anti-establishment standpunten zijn negatief gecorreleerd.
Resonantie: Haatdragende reacties worden over het algemeen minder versterkt dan neutrale vermeldingen. Echter, amplificatie is selectief nativistisch: haat tegen anti-CECA, anti-PRC en anti-migrantenwerkers wordt bij voorkeur versterkt, terwijl haat tegen religieuze groepen en LGBTQ-groepen wordt onderdrukt.
Event Reactiviteit: Het volume aan haat stijgt niet significant rond belangrijke Singapore-gebeurtenissen in 2025 (bijv. verkiezingen, raciale incidenten), wat wijst op een stabiele baseline in plaats van event-gestuurde volatiliteit.

Betekenis en Claims
Het artikel claimt dat het behandelen van "online haat" als een enkele, monolithische prevalentie een gelaagde structuur maskeert. De centrale bevinding is dat terwijl de doelwitten van haat lokaal geselecteerd en cultureel plastisch zijn, de grammatica van haat (de dreigingskaders en bindende morele fundamenten) cross-linguaal gedeeld is.

Dit heeft directe implicaties voor cross-linguale contentmoderatie:

Beleidsoverdracht: Detectoren of beleidsregels die gekoppeld zijn aan dreigingskaders zijn waarschijnlijker in staat om over talen heen te worden overgedragen dan die gekoppeld zijn aan specifieke doelwitten, welke lokalisatie vereisen.
Moderatie Doelen: Het verminderen van de productie van haat is iets anders dan het verminderen van de reikwijdte ervan. Omdat amplificatie selectief nativistisch is, moeten moderatiestrategieën rekening houden met het feit dat het publiek haat anders filtert dan deze wordt geproduceerd.
Methodologische Rigor: De studie waarschuwt tegen het vertrouwen op absolute prevalentiecijfers van LLM's alleen, en pleit voor relatieve structurele analyse en menselijke verankerde kalibratie.

De auteurs houden een bescheiden scope aan door te merken dat hun bevindingen specifiek zijn voor de Singaporese context (één samenleving, één jaar) en dat de corpus actor-loos is (het analyseert reacties, niet gebruikers). Ze benadrukken dat hun theoretische lenzen beschrijvend worden gebruikt, niet causaal.