Improving Neural Argumentative Stance Classification in Controversial Topics with Emotion-Lexicon Features

Probleemstelling

Argumentatiemining omvat diverse subtaken, waarbij standpuntbepaling (stance classification) zich richt op het identificeren van het standpunt (voor of tegen) dat in een tekst wordt ingenomen ten opzichte van een specifiek controversieel onderwerp. Hoewel argumenten, vooral over controversiële thema's, vaak een beroep doen op emoties (Pathos), hebben eerdere studies deze expliciete, fijnmazige emotie-analyse niet systematisch geïntegreerd om de prestaties te verbeteren.

Bestaande onderzoek naar standpuntbepaling heeft vaak de volgende beperkingen:

• Het is voornamelijk gericht op niet-argumentatieve teksten.
• Het is beperkt tot specifieke domeinen of onderwerpen, wat de generaliseerbaarheid beperkt.
• Er wordt vaak gebruikgemaakt van simpele sentimentanalyse (positief/negatief) in plaats van gedetailleerde emotionele categorieën, wat kan leiden tot misleidende interpretaties in complexe argumentatieve contexten.

Methodologie

De auteurs presenteren een end-to-end neurale framework voor argumentatieve standpuntbepaling dat een uitgebreid emotie-lexicon integreert. De aanpak bestaat uit twee hoofdcomponenten:

1. Ontwikkeling van eNRC (Expanded NRC Lexicon)

Om de dekking van emoties in moderne argumentatieve teksten te vergroten, hebben de auteurs het bestaande Bias-Corrected NRC Emotion Lexicon uitgebreid tot eNRC.

• Embedding-based Expansie: Ze gebruiken DistilBERT-embeddings om woorden in een 768-dimensionale ruimte te projecteren.
• Clustering: Na het reduceren van de dimensies met PCA (Principal Component Analysis), wordt een Gaussian Mixture Model (GMM) met drie componenten toegepast. Dit identificeert drie semantisch dichte clusters binnen het lexicon.
• Normalisatie: Om variaties in dichtheid tussen clusters te compenseren, worden gelijkenis-scores genormaliseerd binnen elk cluster. Dit voorkomt dat woorden uit verschillende semantische gebieden ten onrechte dezelfde emotie-labels krijgen.
• Drempelgebaseerde Uitbreiding: Een kandidaat-woord krijgt een emotie-label toegewezen als de genormaliseerde gelijkenis met een bestaand lexicon-woord een bepaalde drempelwaarde ($\theta$) overschrijdt. De optimale drempel werd bepaald op 0.4, wat een balans biedt tussen dekking en semantische precisie.

2. Neurale Architectuur voor Standpuntbepaling (NASCA)

Het model voor standpuntbepaling is gebaseerd op een BERT-encoder met een specifieke invoerstructuur:

• Input: De tekst wordt geconstrueerd als [CLS] Topic: t [SEP] Argument: x [SEP], waardoor het model de context van het onderwerp en het argument gezamenlijk encodeert.
• Feature Integratie: De [CLS]-representatie van BERT wordt geconcateneerd met een emotie-feature vector ($f_{emo}$) afgeleid van het eNRC-lexicon.
• Classificatie: De gecombineerde vector wordt door een classificatielaag (twee verborgen lagen met ReLU-activatie en dropout) gevoerd om een binair resultaat (Voor/Tegen) te voorspellen.

Experimenten en Data

De methode werd geëvalueerd op vijf diverse corpora die controversiële onderwerpen behandelen:

1. AMT1 & AMT2: Argumentatieve microteksten (kort, gestructureerd).
2. Persuasive Essays (PE): Studentenopstellen met complexe argumentatiestructuren.
3. UKP: Webdiscussies met lange, complexe argumenten.
4. IBM: Claims uit debatdata.

De datasets werden voorverwerkt om een consistente "Voor/Tegen" (For/Against) labelstructuur te creëren. Als baselines werden een meerderheidsklasse-baseline (MajC), een standaard NRC-lexicon, en een state-of-the-art Large Language Model (Qwen2.5-7B) gebruikt.

Belangrijkste Resultaten

De resultaten tonen aan dat het integreren van emotionele lexicale features de prestaties consistent verbetert:

• Prestatieverbetering: De eNRC-variant overtreft zowel de baseline zonder emotiefeatures (noNRC) als het originele NRC-lexicon op alle vijf datasets.
  • De grootste winst werd behaald op het Persuasive Essays (PE) dataset: een stijging van +6,2% in F1-score ten opzichte van de noNRC-baseline.
  • Op de UKP-dataset werd de hoogste absolute F1-score bereikt (68,4%).
• Vergelijking met LLMs: Het voorgestelde model presteerde beter dan de grote taalmodel Qwen2.5-7B op bijna alle corpora. Dit benadrukt dat gespecialiseerde, lexicon-gestuurde benaderingen effectiever kunnen zijn dan generieke LLMs voor deze specifieke taak, vooral bij argumentatieve teksten.
• Robuustheid: De optimale drempelwaarde ($\theta = 0.4$) bleek robuust over verschillende datasets.
• Efficiëntie: Een opmerkelijke bevinding is dat het model met eNRC features minder afhankelijk is van het "unfreezen" (finetunen) van de volledige BERT-encoder. Met gefixeerde BERT-weights en eNRC-features werden vergelijkbare resultaten behaald, wat de rekenefficiëntie voor implementatie verbetert.

Bijdragen en Relevantie

De belangrijkste bijdragen van dit werk zijn:

1. eNRC Lexicon: Een systematische, reproduceerbare methode om bestaande emotie-lexica uit te breiden met contextuele embeddings, waardoor nieuwe, emotioneel geladen termen worden geïdentificeerd zonder de semantische structuur te verliezen.
2. Framework voor Controversiële Onderwerpen: Een nieuw neurale framework dat specifiek is ontworpen voor argumentatieve standpuntbepaling, waarbij emotie als een cruciale feature wordt gebruikt om onderliggende standpunten te onthullen die puur propositionalle inhoud missen.
3. Generaliseerbaarheid: In tegenstelling tot veel eerder werk dat zich beperkte tot één corpus of domein, valideerden de auteurs hun aanpak op vijf verschillende datasets, wat bewijst dat de methode breed toepasbaar is.
4. Open Source: Alle bronnen, inclusief het eNRC-lexicon, de aangepaste corpora en de modelcode, zijn openbaar gemaakt om herhaalbaarheid en verdere onderzoek te stimuleren.

Conclusie:
Dit artikel demonstreert dat het systematisch integreren van een uitgebreid, contextueel gevoelig emotie-lexicon (eNRC) de prestaties van neurale modellen voor argumentatieve standpuntbepaling aanzienlijk verbetert. Het biedt een efficiëntere en nauwkeurigere alternatief voor zowel traditionele baselines als grote taalmodellen bij het analyseren van controversiële publieke discoursen.