💬 NLP

AIWizards at MULTIPRIDE: A Hierarchical Approach to Slur Reclamation Detection

In dit paper presenteren AIWizards een hiërarchische aanpak voor het detecteren van heroverwoorde scheldwoorden in het kader van de MultiPRIDE-taak, waarbij ze eerst de waarschijnlijkheid van LGBTQ+-lidmaatschap van gebruikers schatten om deze sociolinguïstische context te integreren in een model voor het onderscheiden van hatelijke en heroverwoerde taal.

Oorspronkelijke auteurs: Luca Tedeschini, Matteo Fasulo

Gepubliceerd 2026-02-16

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Luca Tedeschini, Matteo Fasulo

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

De Kernvraag: Is het een scheldwoord of een knuffel?

Stel je voor dat je een woord hoort dat vroeger gebruikt werd om mensen pijn te doen, zoals een zeer scherpe steen. Maar in een bepaalde groep vrienden wordt diezelfde steen nu gebruikt als een grappig, liefdevol symbool van saamhorigheid.

In de taal van sociale media is dit een groot probleem voor computers. Als een computer een woord ziet, weet hij niet of het iemand beledigt of juist troost. Het hangt volledig af van wie het zegt en aan wie.

Voorbeeld: Als iemand uit de LGBTQ+-gemeenschap het woord "frocio" (een Italiaans scheldwoord voor homo's) gebruikt, kan het betekenen: "Ik ben trots op mezelf."
Maar: Als iemand anders datzelfde woord gebruikt, kan het betekenen: "Jij bent een smerige homo."

De computer ziet alleen de letters. Hij mist de context.

Het Probleem: De Computer is een Blinde Kunstenaar

Tot nu toe keken slimme computerprogramma's (AI) alleen naar de tekst van een berichtje (tweet). Ze probeerden te raden of het een scheldwoord was. Maar dat is als proberen te raden of een grapje grappig is, terwijl je de gezichtsuitdrukking van de verteller niet ziet. Soms is de tekst hetzelfde, maar is de bedoeling totaal anders.

De Oplossing: Twee Detectives in Eén Team

De onderzoekers van dit papier (AIWizards) hebben een slimme oplossing bedacht. Ze hebben een systeem gebouwd dat werkt als een team van twee detectives die samenwerken om de waarheid te achterhalen.

Detective 1: De Woorden-Expert

Deze detective kijkt alleen naar de tekst van de tweet. Hij is gespecialiseerd in het herkennen van boze taal, scheldwoorden en agressieve zinnen. Hij is als een woordenboek dat weet welke woorden vaak in een slechte context worden gebruikt.

Detective 2: De Mensen-Expert (De Nieuwe Speler)

Deze detective kijkt naar de profielbeschrijving van de persoon die de tweet heeft geplaatst.

Wat staat er in zijn bio?
Gebruikt hij specifieke emoji's?
Noemt hij zichzelf met bepaalde termen?

Deze detective probeert te begrijpen: "Is deze persoon waarschijnlijk lid van de groep waarover het gaat?"

Als de bio zegt: "Hij/Hij, trots lid van de gemeenschap", dan is de kans groot dat hij het scheldwoord gebruikt als een knuffel.
Als de bio zegt: "Ik haat die gemeenschap", dan is de kans groot dat hij het gebruikt om te kwetsen.

Hoe Werken Ze Samen? (De "Slimme Schakelaar")

In het oude systeem keek je alleen naar Detective 1. In dit nieuwe systeem werken ze samen via een slimme schakelaar.

De Training: Eerst leren ze Detective 2 om te raden of iemand tot een bepaalde groep hoort, puur op basis van wat hij online schrijft. Dit is niet om mensen te "uitlekken" of te oordelen, maar om de computer te leren wat "groepsgevoel" eruit ziet.
De Samenvoeging: Als er een nieuwe tweet binnenkomt, kijken beide detectives.
- Detective 1 zegt: "Dit woord klinkt agressief!"
- Detective 2 zegt: "Maar de persoon die het schrijft, hoort bij de groep die dit woord als een knuffel gebruikt."
De Beslissing: De slimme schakelaar weegt deze twee meningen af. Als Detective 2 sterk genoeg is, kan hij Detective 1 overtuigen: "Nee, wacht even, dit is geen haat, dit is saamhorigheid."

Wat Vonden Ze?

De onderzoekers hebben dit getest in het Italiaans en het Spaans.

Het Resultaat: Hun nieuwe systeem deed het even goed als de beste systemen die er nu al waren. Het was niet beter in cijfers, maar het was net zo goed.
Waarom is dat belangrijk? Omdat ze bewezen hebben dat het mogelijk is om de "menselijke context" (wie schrijft het?) toe te voegen zonder dat het systeem in de war raakt. Het is als het toevoegen van een extra lens aan een camera: de foto wordt niet per se scherper, maar je ziet nu ook de achtergrond.

De Grootte van de Uitdaging

Soms maakt het systeem nog fouten. Soms denkt de computer dat een boze, haatdragende tekst eigenlijk een knuffel is, alleen omdat de persoon die het schrijft ergens anders in zijn profiel lijkt te passen.

Metafoor: Het is alsof je denkt dat iemand een grapje maakt omdat hij een grappig T-shirt draagt, terwijl hij eigenlijk heel boos is. De "kleding" (profiel) liet je afleiden van de "stem" (tekst).

Conclusie: Een Nieuwe Bouwsteen

De belangrijkste boodschap van dit papier is niet dat ze een perfect systeem hebben gemaakt dat alle fouten oplost. Het is dat ze een modulair raamwerk hebben gebouwd.

Stel je voor dat je een huis bouwt. Tot nu toe bouwden ze alleen muren (tekst). Nu hebben ze laten zien dat je ook een fundering voor de menselijke context kunt leggen zonder dat het huis instort. In de toekomst kunnen ze daar nog meer bij bouwen, zoals foto's of vriendenlijsten, om de computer nog slimmer te maken.

Kortom: Ze hebben laten zien dat AI niet alleen naar de woorden moet kijken, maar ook moet begrijpen wie er achter het scherm zit. Dat is de sleutel om te weten of een woord een steen is of een bloem.

Hieronder volgt een gedetailleerde technische samenvatting van het paper "AIWizards at MULTIPRIDE: A Hierarchical Approach to Slur Reclamation Detection" in het Nederlands.

1. Het Probleem

Het automatisch detecteren van haatzaaiende taal op sociale media is een complexe uitdaging, vooral bij het onderscheiden van hergebruikte scheldwoorden (slur reclamation). Scheldwoorden die historisch gezien als beledigend zijn, worden binnen bepaalde gemeenschappen (zoals de LGBTQ+-gemeenschap) vaak hergebruikt in een positieve, bekrachtigende of groepsintern context.

De Kernuitdaging: Dezelfde lexicale items kunnen zowel als kwetsend als als solidaire uitdrukking fungeren, afhankelijk van de sociale identiteit van de auteur en de context.
Beperking van bestaande modellen: Traditionele tekstclassificatiemodellen (zoals standaard BERT) missen vaak de extra-linguïstische context (bijv. de identiteit van de spreker) die nodig is om de intentie achter een scheldwoord te interpreteren.
Opdracht: Dit paper richt zich op Subtask B van de EVALITA 2026 MultiPRIDE shared task, waarbij modellen tweettekst en gebruikersprofielen (biografieën) moeten gebruiken om te bepalen of een LGBTQ+-gerelateerd term hergebruikt (reclamatory) of beledigend (non-reclamatory) wordt gebruikt.

2. Methodologie

De auteurs stellen een hiërarchische, dual-encoder architectuur voor die de taak decomposeert in twee fasen, gebaseerd op de hypothese dat leden van de LGBTQ+-gemeenschap scheldwoorden vaker hergebruiken dan niet-leden.

A. Data en Proxy-Labeling

Dataset: Bestaat uit tweets in het Italiaans en Spaans, met een sterke onbalans (ongeveer 80% niet-hergebruikt vs. 20% hergebruikt).
LLM-gestuurde Proxy-labels: Omdat echte identiteit niet direct bekend is, gebruiken de auteurs een Large Language Model (DeepSeek-V3.2) om zwakke supervisie te genereren. Het model analyseert de combinatie van tweet en gebruikersbiografie en genereert een binair "proxy-label" (wel/niet geassocieerd met de LGBTQ+-gemeenschap).
- Doel: Dit label dient niet om identiteit te verifiëren, maar om een signaal te creëren dat het model kan leren om sociolinguïstische context te coderen.

B. Architectuur: Dual-Encoder met Gating

Het voorgestelde model bestaat uit twee parallelle BERT-achtige encoders die dezelfde input (tweet + biografie) verwerken, maar met verschillende trainingsdoelen:

Tekst-Encoder (Primary Task): Gefinetuned op de hoofdtaken (herkenning van hergebruik vs. haat).
Gebruiker-Encoder (Auxiliary Task): Gefinetuned op de LLM-genereren proxy-labels (LGBTQ+-affiliatie). Dit model leert latentere representaties van sociolinguïstische signalen en groepsidentiteit.

Fusie Mechanisme:
De output van beide encoders ( $h_{text}$ en $h_{user}$ ) wordt gecombineerd via een leerbaar gating mechanisme:

Een gate-vector $g$ wordt berekend op basis van de geconcateneerde hidden states.
De finale representatie is een gewogen som: $h_{fused} = g \odot h_{text} + (1 - g) \odot h_{user}$ .
Dit stelt het model in staat om dynamisch per voorbeeld te beslissen hoeveel gewicht het moet geven aan de tekstinhoud versus de gebruikerscontext.

C. Trainingsstrategie

LPFT (Linear Probing – Fine-Tuning): Eerst worden de fusie- en classificatielagen getraind met ingevroren encoders, gevolgd door gezamenlijke finetuning van het hele model.
Loss Function: Cross Entropy (Focal Loss bleek niet consistent beter te presteren).
Twee-staps proces: Eerst trainen van de proxy-taak, daarna integratie in de hoofdtaken.

3. Belangrijkste Resultaten

De resultaten zijn getest op zowel een ontwikkelset (dev set) als de officiële testset voor Italiaans en Spaans.

Prestatie: Het voorgestelde dual-encoder model presteert statistisch gelijkwaardig aan een sterke BERT-baseline (p-waarde > 0.05).
- Italiaans: Baseline F1 ~0.90 vs. Dual Encoder F1 ~0.88.
- Spaans: Baseline F1 ~0.67 vs. Dual Encoder F1 ~0.64.
Geen significante verbetering: Hoewel het model de prestaties niet significant verhoogt, bewijst het dat het toevoegen van complexe gebruikerscontext de nauwkeurigheid niet verslechtert.
Foutanalyse: Het model faalt soms bij duidelijk vijandige tweets die scheldwoorden bevatten, waarbij het de context van de gebruiker (die mogelijk geassocieerd is met de gemeenschap) te zwaar weegt ten opzichte van de directe vijandige intentie in de tekst.

4. Kernbijdragen

Hiërarchische Modellering: Een nieuwe aanpak die de taak decomposeert in het modelleren van gebruikersidentiteit en tekstuele intentie, in plaats van alles in één model te proberen.
Modulair Framework: Het biedt een uitbreidbaar raamwerk om sociolinguïstische context (via proxy-labels) te integreren in haatzaaiende detectie zonder de basisprestaties te riskeren.
Zwakke Supervisie: Het succesvol demonstreren van het gebruik van LLM-genereren proxy-labels voor het trainen van een gebruiker-encoder, wat een ethisch verantwoorde manier is om identiteitssignalen te benutten zonder directe identificatie.
Open Source: De code is vrijgegeven voor herbruikbaarheid.

5. Betekenis en Conclusie

Dit paper benadrukt dat de detectie van hergebruikte scheldwoorden niet alleen een taak van tekstanalyse is, maar ook van contextuele en sociale kennis.

Waarom dit belangrijk is: Hoewel de huidige prestaties niet dramatisch stijgen boven de beste baselines, is de architecturale validatie cruciaal. Het bewijst dat het mogelijk is om "user-oriented" signalen te coderen en te fuseren met tekstuele signalen.
Toekomstperspectief: De auteurs betogen dat deze modulaire aanpak de weg vrijmaakt voor toekomstige verbeteringen, zoals het integreren van multimodale data (afbeeldingen) of sociale netwerkstructuren. De huidige beperkingen (zoals het overschatten van hergebruik bij vijandige tweets) kunnen worden opgelost door betere regularisatie of contrastieve doelen.

Kortom, het werk biedt een robuust, uitbreidbaar fundament voor het modelleren van de complexe relatie tussen sprekeridentiteit en taalgebruik in de strijd tegen haatzaaiende taal.