Technische Samenvatting: SoftHateBench

Probleemdefinitie

Huidige systemen voor online contentmoderatie zijn grotendeels geoptimaliseerd voor het detecteren van "harde haatspraak"—expliciete misbruik gekenmerkt door beledigingen, dreigementen en expliciete toxiciteit. Hoewel deze systemen redelijk presteren op het gebied van expliciete vijandigheid, hebben ze moeite met "zachte haatspraak" (soft hate speech). Zachte haat wordt gedefinieerd als discours dat aan de oppervlakte redelijk lijkt, waarbij gebruik wordt gemaakt van neutrale inkadering en waardegebaseerde argumenten (bijv. beroep op veiligheid, traditie of rechtvaardigheid) om publiek te sturen naar het uitsluiten of beschuldigen van een doelgroep.

Het kernprobleem dat is geïdentificeerd, is dat bestaande benchmarks niet systematisch het gat meten tussen het detecteren van expliciete toxiciteit en het detecteren van redeneringsgestuurde vijandigheid. Gevolgelijkelijk falen moderatiemodellen vaak bij het signaleren van content die qua beleid strikt genomen voldoet (het ontbreken van expliciete beledigingen), maar een discriminerende standpunt draagt via impliciete inferentieketens. Dit creëert een kwetsbaarheid waarbij vijandigheid die gecodeerd is in redenering in plaats van vocabulaire, huidige filters omzeilt.

Methodologie

Theoretisch Kader

Het artikel integreert twee complementaire theorieën om zachte haat te modelleren en te genereren:

1. Argumentum Model of Topics (AMT): Biedt een formele structuur voor weerlegbare redenering. Een argument wordt gedecomposeerd in:
   • Zichtbaar Oppervlak: Endoxon ($E$, gedeelde overtuigingen) en Datum ($D$, specifieke claims).
   • Impliciete Mechanica: Premise ($P$, intermediaire conclusie), Locus ($L$, abstract redeneerpatroon), Maxim ($M$, geïnstantieerde regel) en Standpoint ($S$, uiteindelijke vijandige conclusie).
     Zachte haat steunt op het feit dat het publiek $P$ en $S$ afleidt uit $E$ en $D$ zonder dat deze stappen expliciet worden vermeld.
2. Relevance Theory (RT): Stuurt de generatie aan om "Effect" (overtuigingskracht via gedeelde waarden) te maximaliseren terwijl "Kosten" (cognitieve inspanning) worden geminimaliseerd. Dit zorgt ervoor dat de gegenereerde tekst vloeiend, plausibel en ontkenbaar is, wat het natuurlijke menselijke discours nabootst.

SoftHateBench Generatie Pipeline

De auteurs introduceren SoftHateBench, een generatieve benchmark die wordt geconstrueerd via een vierfasige pipeline:

1. Seed Extractie: Aggregeert 265.959 haatgerelateerde posts uit publieke corpora (bijv. HateXplain, Gab Hate Corpus) en filtert deze tot 16.426 hoogwaardige instanties. Standpoints ($S$) en doelgroepen ($[TG]$) worden geëxtraheerd met behulp van DeepSeek-V3.1.
2. Reverse AMT Generatie: In plaats van haat vanaf nul te genereren, werkt het systeem achterwaarts vanuit een bekende vijandige standpoint ($S$) en doelgroep. Het gebruikt Reverse AMT Generatie om de volledige argumentatieketen ($E, D, P, L, M, S$) te construeren.
   • Het proces begint met $(S, L)$, instantiëert een Maxim ($M$) om een Premise ($P$) af te leiden, en deconstrueert vervolgens $P$ in oppervlakkige beweringen $(E, D)$.
   • Alleen $(E, D)$ worden gepresenteerd in de uiteindelijke tekst; de procedurele componenten blijven latent.
3. RT-Gestuurde Beam Search: Om de gegenereerde tekst overtuigend en beleidsconform te maken, gebruiken de auteurs een beam search die wordt gestuurd door een relevantie-gebaseerde beloningsfunctie.
   • Beloningsmodellering: De score is gebaseerd op $\text{Rel} \propto \text{Effect} / \text{Kosten}$.
   • Effect: Geschat via Natural Language Inference (NLI) entailment-waarschijnlijkheden tussen premissen en conclusies.
   • Kosten: Geschat via meerdere LLM-signalen inclusief surprisal (negatieve log-likelihood), predictive uncertainty (entropie), resistance (tegenspraak) en redundancy.
   • De zoektocht selecteert paden die relevantie maximaliseren terwijl ze voldoen aan veiligheidsrestricties (geen expliciete beledigingen).
4. Difficulty Augmentation: Om een spectrum van subtiliteit te creëren, worden de basisinstanties uitgebreid naar twee extra niveaus:
   • GroupVague (SoftGV): Vervangt expliciete vermeldingen van doelgroepen door gecodeerde referenties of vage beschrijvingen.
   • HostilityVague (SoftHV): Transformeert de tekst naar naturalistische social media posts met zelfverdedigende disclaimers, sarcasme of morele waarschuwingen om de vijandigheid verder te maskeren.

Dataset Statistieken

De uiteindelijke benchmark bestaat uit 18.980 instanties:

• 4.745 Hard Hate: Originele broncomments.
• 4.745 SoftBase: De kern van de AMT-afgeleide zachte haatinstanties.
• 9.490 Soft Variants: GroupVague en HostilityVague versies van de kerninstanties.
• Dekking: Beslaat 7 socioculturele domeinen (bijv. etniciteit, religie, gender) en 28 specifieke doelgroepen.

Belangrijkste Bijdragen

1. Theorie-Gegrondde Benchmark: SoftHateBench is de eerste benchmark die systematisch zachte haat genereert en evalueert door generatie te funderen in AMT-argumentstructuren en RT pragmatische principes, waarmee het verder gaat dan eenvoudige parafrasering of sjabloon-gebaseerde augmentatie.
   2.Controleerbare Generatie: De introductie van Reverse AMT Generatie met RT-gestuurde beam search maakt de constructie van redenering-expliciete instanties met gekalibreerde subtiliteit mogelijk. Deze methode behoudt het vijandige standpunt terwijl een oppervlakkig neutrale tekst wordt gegenereerd, wat de moeilijkheid aanpakt van het genereren van haat zonder tijdens het generatieproces zelf de veiligheidsrichtlijnen te schenden.
2. Uitgebreide Evaluatie: Het artikel biedt een rigoureuze stresstest voor encoder-gebaseerde detectoren, algemene purpose LLM's (proprietary en open-source) en safety-aligned modellen over het spectrum van hard naar soft.

Experimentele Resultaten

Prestatiedegradatie

Evaluatie over alle modelcategorieën laat een consistente en scherpe daling zien in detectiecapaciteit naarmate de content beweegt van hard naar soft:

• Gemiddelde Totaal: De Hate Success Rate (HSR) daalt van 76,8% op Hard hate naar 43,5% op SoftBase, 32,9% op SoftGV, en 21,2% op SoftHV.
• Encoder-gebaseerde Modellen: Modellen zoals HateBERT en HateRoBERTa, die vertrouwen op oppervlakkige lexicale aanwijzingen, lijden onder catastrofaal falen op SoftHV, met een gemiddelde HSR die daalt naar 6,8%.
• LLM's en Safety Modellen: Hoewel LLM's (bijv. GPT-5-mini, DeepSeek-V3.1) beter presteren op Hard hate (HSR > 87%), ervaren ze nog steeds significante degradatie op SoftHV (HSR ~21–50%). Opvallend genoeg lossen redeneringsgerichte modellen het probleem niet automatisch op; generieke chain-of-thought is onvoldoende voor het detecteren van beleidsconforme redeneringsgestuurde vijandigheid.

De Rol van Redenerings-scaffolds

Een kritische ablatie-studie testte of modellen falen door een onvermogen om haat te herkennen of een onvermogen om de redeneringsketen te reconstrueren.

• Methode: Modellen werden geprompt met de oppervlakkige tekst ($E, D$) alleen, daarna met de oppervlakte plus de geïnferred Premise ($P$), en tot slot met de Premise plus de Maxim ($M$).
• Resultaat: Het verstrekken van de tussenliggende AMT-stappen ($P$ en $M$) verbeterde de detectie drastisch. Bijvoorbeeld, Qwen3-4B* verbeterde de HSR op SoftHV van 23,0% (alleen oppervlakte) naar 94,2% wanneer de volledige redeneringsketen ($E, D, P, M$) werd gegeven.
• Implicatie: De primaire faalmodus van huidige systemen is niet een gebrek aan "haatherkenning", maar een falen om de impliciete inferentiële links te reconstrueren die neutrale ogende premissen verbinden met discriminerende conclusies.

Menselijke Verificatie

Menselijke evaluatie bevestigde de kwaliteit van de benchmark:

• Structurele Getrouwheid: 85,0% van de SoftBase-instanties werd geverifieerd als logisch coherente AMT-ketens.
• Perceptuele Validiteit: Annotatoren konden tussen vijandige en niet-vijandige instanties onderscheiden met 85,7% overeenstemming.
• Ecologische Validiteit: In een blinde discriminatietaak konden annotatoren gegenereerde zachte haat slechts met 57,1% nauwkeurigheid onderscheiden van echte wereldvoorbeelden, wat aangeeft dat de gegenereerde tekst het werkelijke online discours nauwgezet nabootst.

Betekenis en Claims

Het artikel claimt dat SoftHateBench een kritiek blinde vlek in huidige contentmoderatie blootlegt: systemen die geoptimaliseerd zijn voor oppervlakkige toxiciteit zijn niet robuust tegen redeneringsgestuurde vijandigheid. De auteurs stellen dat de kloof tussen "beleidsconforme" tekst en "schadelijke" content wordt overbrugd door inferentie, niet alleen door vocabulaire.

De betekenis van het werk ligt in het aantonen dat:

1. Huidige modellen zijn kwetsbaar: Zelfs geavanceerde LLM's en safety-modellen falen bij het detecteren van zachte haat wanneer dit wordt geframed als gezond verstand of waardegebaseerde redenering.
2. Redeneringsbewuste detectie noodzakelijk is: De aanzienlijke prestatiewinsten waargenomen bij het verstrekken van tussenliggende redeneringsstappen ($P$ en $M$) suggereren dat toekomstige moderatiesystemen in staat moeten zijn om argumentatieve structuren te reconstrueren, in plaats van alleen oppervlakkige tekst te classificeren.
3. Een nieuwe benchmark vereist is: Bestaande datasets zijn onvoldoende om deze specifieke bedreigingsvector te evalueren. SoftHateBench biedt een gecontroleerde, theoretisch gefundeerde omgeving om redeneringsbewuste moderatie-instrumenten te testen en te ontwikkelen.

De auteurs concluderen dat zonder aandacht te besteden aan het vermogen om redeneringsgestuurde, beleidsconforme vijandigheid te detecteren, moderatiesystemen ineffectief zullen blijven tegen het evoluerende landschap van online haat.