💬 NLP

Mimicking How Humans Interpret Out-of-Context Sentences Through Controlled Toxicity Decoding

Dit artikel presenteert een decodingstrategie die de menselijke interpretatie van zinnetjes zonder context nabootst door de toxiciteit van gegenereerde interpretaties gecontroleerd te variëren, waardoor de alignering met menselijke interpretaties verbetert en de voorspellingonzekerheid afneemt.

Oorspronkelijke auteurs: Maria Mihaela Trusca, Liesbeth Allein

Gepubliceerd 2026-04-17

📖 4 min leestijd☕ Koffiepauze-leesvoer

CC BY 4.0

Oorspronkelijke auteurs: Maria Mihaela Trusca, Liesbeth Allein

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een grappige grap hoort van een vriend. In de context van jullie gesprek is het duidelijk een grap. Maar als iemand die grap op Facebook zet zonder de context, kunnen mensen het verkeerd begrijpen. Sommigen vinden het grappig, anderen denken dat het boosaardig of beledigend is.

Dit artikel van Maria Mihaela Trusca en Liesbeth Allein probeert precies dit fenomeen na te bootsen met kunstmatige intelligentie (AI). Ze willen een computer leren om te begrijpen hoe mensen een zin kunnen interpreteren als de context weg is, en vooral: hoe de "toxiciteit" (de giftigheid of boosheid) van die zin de interpretatie beïnvloedt.

Hier is een simpele uitleg van hoe ze dit doen, met een paar creatieve vergelijkingen:

1. Het Probleem: De Verloren Context

Wanneer een zin uit zijn verband wordt gehaald (zoals op sociale media), kan de betekenis verschuiven. Een zin die neutraal klinkt, kan voor de ene lezer onschuldig zijn en voor de andere een aanval lijken. De auteurs willen een AI-systeem bouwen dat kan zeggen: "Als deze zin giftig is, hoe kunnen mensen dat dan op verschillende manieren opvatten?"

2. De Oplossing: De "Toxiciteit-Regelaar"

Stel je de AI voor als een chef-kok die een gerecht (een zin) moet bereiden. Normaal gesproken volgt de chef het recept (de taal) en hoopt hij dat het lekker wordt. Maar deze chef wil iets anders: hij wil de smaak (de toxiciteit) van het gerecht precies regelen, afhankelijk van wat er in de ingrediënten zit.

De auteurs hebben een nieuwe manier bedacht om de AI te sturen tijdens het "koken" (het genereren van tekst). Ze noemen dit een decoding-strategie. In plaats van de hele keuken (het model) te verbouwen, voegen ze gewoon een speciaal kruidenrek toe dat ze tijdens het koken gebruiken.

Deze strategie werkt met drie simpele regels:

Regel 1: De Smaak moet Kloppen
Als de originele zin al een beetje "scherp" (giftig) is, mag de interpretatie niet plotseling heel mild worden, en andersom. De AI moet de intensiteit van de originele zin respecteren.
- Vergelijking: Als je een pittige curry eet, mag de vertaling daarvan niet ineens smaken als melk. De "hitte" moet behouden blijven.
Regel 2: Hoe Giftiger, Hoe Vrijer
De onderzoekers merkten iets interessants op: als een zin al heel giftig is, hebben mensen vaak heel verschillende meningen over hoe ze dat zien. Sommigen vinden het erg erg, anderen vinden het nog erger.
- Vergelijking: Stel je voor dat je een zeer giftige slang vasthoudt. Dan zijn er veel verschillende manieren om daarover te praten (angst, verontwaardiging, ironie). De AI krijgt daarom meer "ruimte" om te variëren naarmate de originele zin giftiger wordt. Ze maken de regels iets losser voor giftige zinnen.
Regel 3: De Balans van Diversiteit
De AI moet niet steeds hetzelfde zeggen. Als de vorige interpretatie al heel giftig was, moet de volgende iets milder zijn, en andersom.
- Vergelijking: Het is alsof je een DJ bent die een playlist maakt. Als je net een heel zware, donkere track hebt gedraaid, draai je daarna iets lichts, zodat de luisteraar niet in één modus blijft hangen. Zo krijg je een breed scala aan mogelijke reacties.

3. Wat Levert Dit Op?

Door deze regels toe te passen, bleek de AI veel beter te worden in het nabootsen van hoe echte mensen reageren.

Minder twijfel: De AI was zekerder van wat ze schreef (minder "verwarring" in de statistieken).
Betere vertaling: De zinnen die de AI schreef, leken meer op wat echte mensen zouden schrijven, zowel qua grammatica als qua betekenis.

4. Waarom is dit nuttig? (En waarom is het niet gevaarlijk?)

Je zou kunnen denken: "Waarom willen we een AI leren om giftige teksten te maken?"

De auteurs leggen uit dat dit niet gaat om het verspreiden van haat, maar om begrip en detectie.

De Brandweerman: Stel je voor dat je een brandweerman bent. Je moet weten hoe brand kan ontstaan en hoe mensen erop reageren, om branden te kunnen voorkomen of te blussen.
Content Moderatie: Door te weten hoe een zin op verschillende manieren kan worden opgevat (en hoe giftig die opvattingen kunnen zijn), kunnen systemen online beter detecteren wat echt schadelijk is en wat slechts een misverstand is.
Aanpasbaarheid: Het systeem is zo gemaakt dat je de "giftigheid" ook kunt verlagen. Je kunt de AI dus ook gebruiken om giftige teksten om te zetten in vriendschappelijke interpretaties.

Conclusie

Kortom: deze onderzoekers hebben een slimme "knop" bedacht voor AI. Deze knop zorgt ervoor dat de AI niet alleen tekst produceert, maar ook begrijpt hoe mensen die tekst kunnen opvatten, afhankelijk van hoe boos of giftig de originele zin was. Het helpt ons online beter te begrijpen waarom mensen ruzie maken, en helpt systemen om gevaarlijke taal beter te herkennen.

Probleemstelling

Interpretaties van een enkele zin kunnen sterk variëren, vooral wanneer de context verloren gaat (een veelvoorkomend fenomeen op sociale media). Dit leidt vaak tot misverstanden en verhitte discussies omdat de bedoeling van de auteur niet overeenkomt met wat de lezer afleidt. Bestaande methoden voor tekstgeneratie hebben vaak moeite om deze variatie in menselijke interpretaties na te bootsen, met name wanneer het gaat om de nuance van toxiciteit (giftigheid). Mensen interpreteren zinnen met verschillende niveaus van oppervlaktetoxiciteit op uiteenlopende manieren: sommige lezers zien het als onschuldig, anderen als extreem giftig. Het paper stelt dat we dit menselijke interpretatiegedrag moeten simuleren om misverstanden te anticiperen en verborgen giftige betekenissen bloot te leggen.

Methodologie

De auteurs stellen een nieuwe decodestrategie voor die de toxiciteit van gegenereerde interpretaties expliciet controleert zonder de onderliggende taalmodel-architectuur te hoeven aanpassen (een "plug-and-play" oplossing). De methode werkt door de softmax-scores van het taalmodel tijdens het generatieproces te kalibreren op basis van drie kernobjectieven:

Objectief 1: Toxiciteitsmatching
De toxiciteit van de gegenereerde interpretatie moet overeenkomen met die van de inputzin. Omdat tekstgeneratie sequentieel is, wordt na elke tijdstap $t$ de toxiciteit van de tot nu toe gegenereerde tekst ( $y_{<t}$ ) vergeleken met de toxiciteit van de inputzin ( $s$ ).
- Als de gegenereerde tekst minder toxisch is dan de input, worden de scores voor toxische tokens verhoogd.
- Als de gegenereerde tekst toxischer is, worden de scores verlaagd.
- Dit gebeurt via een aanpassing van de scores: $score(y_t|y_{<t}) = score(y_t|y_{<t}) \pm \lambda \cdot tox(y_t)$ .
Objectief 2: Geleidelijke versoepeling bij hoge toxiciteit
Empirisch onderzoek toont aan dat menselijke interpretaties van zeer toxische zinnen een bredere spreiding (hogere standaarddeviatie) in toxiciteitsniveaus hebben dan interpretaties van minder toxische zinnen.
- Om dit na te bootsen, wordt de controleparameter $\lambda$ dynamisch aangepast: $\lambda = 1 / (tox(s) \cdot 100)$ .
- Hoe toxischer de inputzin, hoe lager $\lambda$ wordt, waardoor de beperkingen op de generatie worden versoepeld en meer variatie in toxiciteit mogelijk wordt.
Objectief 3: Diversiteit door alternatie
Om een diverse set interpretaties te genereren (niet allemaal even toxisch), wordt een heuristische regel toegepast. Als de vorige gegenereerde interpretatie minder toxisch was dan de input, wordt de volgende interpretatie gestuurd om toxischer te zijn, en vice versa.
- De doeltoxiciteit van de input ($tox(s)$) wordt na elke gegenereerde interpretatie ( $y'$ ) bijgewerkt om de volgende generatie in de tegenovergestelde richting te duwen.

De toxiciteit wordt gemeten met het BERT-HateXplain-model. De strategie wordt toegepast tijdens het decoding-fase (bijv. via nucleus sampling) en vereist geen hertraining van het model.

Belangrijkste Bijdragen

Nieuwe Decodestrategie: Een methode die toxiciteit als controlefactor gebruikt om een diverse set van menselijke interpretaties te genereren voor zinnen zonder context.
Drie Objectieven: Een gestructureerde aanpak die toxiciteitsmatching, adaptieve controle op basis van input-toxiciteit en diversiteit in de output combineert.
Plug-and-Play Integratie: De methode werkt met bestaande open-source taalmodellen (BART, T5, LLAMA) zonder architecturale wijzigingen.
Mogelijkheid tot Moderatie: De strategie kan ook worden gebruikt om toxiciteit te reduceren door de toxiciteitsscore van de input kunstmatig te verlagen, wat nuttig is voor contentmoderatie.

Resultaten

De methode werd geëvalueerd op het OrigamIM-dataset (9.851 menselijke interpretaties van Reddit-zinnen) met modellen BART, T5 en LLAMA. De resultaten tonen aan dat de controleerde decodestrategie de prestaties significant verbetert ten opzichte van de basismodellen:

Syntactische en Semantische Alignement: De gegenereerde interpretaties komen beter overeen met menselijke interpretaties.
- METEOR (syntaxis): Verbetering in syntactische gelijkenis, vooral door Objectief 1.
- COMET (semantiek): Substantiële toename in semantische gelijkenis. Bijvoorbeeld, bij LLAMA steeg de score met 5,54% wanneer alle drie de objectieven werden toegepast.
Onzekerheid (Perplexity): De strategie verlaagt de perplexiteit, wat aangeeft dat het model minder onzeker is bij het voorspellen van de interpretaties.
Correlatie: Er is een hogere Spearman-correlatie tussen de toxiciteitsscores van de gegenereerde interpretaties en die van menselijke interpretaties.
Variabele vs. Vaste $\lambda$ : Experimenten tonen aan dat een variabele $\lambda$ (zoals voorgesteld in Objectief 2) beter presteert dan een vaste waarde, wat leidt tot een betere manipulatie van het toxiciteitsniveau.

Betekenis en Toekomst

Dit werk is significant omdat het inzicht geeft in hoe AI-systemen menselijke interpretatievariatie kunnen simuleren, wat essentieel is voor het begrijpen van online communicatie en het detecteren van impliciete vijandigheid.

Toepassingen: De methode kan helpen bij het anticiperen op misverstanden, het verklaren van lezersreacties en het verbeteren van contentfilteringssystemen door giftige taal expliciet te markeren.
Ethische Overwegingen: Hoewel de methode soms toxiciteit "versterkt" om menselijk gedrag te simuleren, is dit niet per se negatief. Het stelt systemen in staat om de volledige bandbreedte van menselijke interpretaties te begrijpen, wat cruciaal is voor het trainen van betere moderatie-tools.
Beperkingen: De kwaliteit van de toxiciteitscontrole is afhankelijk van de externe classifier (BERT-HateXplain) en de data waarop die is getraind.
Toekomstig Onderzoek: De auteurs suggereren dat toekomstig werk ook andere factoren dan toxiciteit moet modelleren, zoals culturele achtergrond en persoonlijke ervaringen, om menselijke interpretatie volledig na te bootsen.