Robust Fake News Detection using Large Language Models under Adversarial Sentiment Attacks

Technische Samenvatting: Robuuste detectie van nepnieuws met behulp van Large Language Models onder adversariële sentimentaanvallen

Probleemstelling
Misinformatie en nepnieuws vormen een aanzienlijke maatschappelijke uitdaging, wat behoefte geeft aan betrouwbare geautomatiseerde detectiemethoden. Hoewel eerder onderzoek heeft vastgesteld dat sentiment een cruciaal signaal is voor het onderscheid tussen echt en nep nieuws, creëert deze afhankelijkheid een kwetsbaarheid. Adversariën kunnen de emotionele toon van tekst manipuleren om detectie te omzeilen, een risico dat wordt verergerd door de komst van Large Language Models (LLM's) die in staat zijn inhoud te herschrijven met gecontroleerd sentiment terwijl de feitelijke juistheid behouden blijft. Hoewel sommige studies de nadruk hebben gelegd op stilistische kenmerken (bijv. schrijfstijl) in plaats van sentiment bij adversariële aanvallen op detectoren voor nepnieuws, blijft de specifieke kwetsbaarheid van detectoren voor door LLM gegenereerde sentimentmanipulatie grotendeels onverkend.

Methodologie
Het artikel stelt AdSent voor, een sentiment-robuust detectiekader ontworpen om consistente waarheidsgetrouwe voorspellingen te behouden voor zowel originele als sentiment-gewijzigde nieuwsartikelen. Het kader bestaat uit twee primaire componenten:

1. Sentiment-gericht Adversarieel Benchmarking:

   • De auteurs gebruiken LLM's als "vervalsers" om gecontroleerde adversariële aanvallen te genereren.
   • Voor elk nieuwsdocument herschrijft de LLM de tekst om een positief, negatief of neutraal sentiment over te brengen, waarbij de feitelijke inhoud en coherentie strikt worden behouden.
   • Dit proces creëert een benchmark om de robuustheid van state-of-the-art detectoren tegen sentimentverschuivingen te evalueren, waarbij detectoren worden behandeld als black-box classificatoren.

2. Sentiment-agnostische Trainingsstrategie:

   • Om de bias die wordt geïntroduceerd door sentimentuele aanwijzingen te mitigeren, stellen de auteurs een trainingsstrategie voor waarbij het detectiemodel wordt gefinetuned op sentiment-geneutraliseerde varianten van de trainingsdata.
   • Een LLM (specifiek LLaMA-3.1-8B-Instruct) wordt gebruikt om de trainingsartikelen te herschrijven naar een neutrale toon.
   • Het detectiemodel wordt vervolgens getraind op deze geneutraliseerde versies, waardoor het gedwongen wordt om te vertrouwen op feitelijke inhoud in plaats van emotionele toon om de waarheidsgetrouwheid te bepalen.
   • Tijdens de inferentie worden de inputartikelen eerst geneutraliseerd door de vervalser voordat ze aan de detector worden doorgegeven.

Belangrijkste Bijdragen

1. Adversariële Benchmarking: De auteurs introduceren een reeks gecontroleerde sentimentgebaseerde aanvallen met behulp van LLM's. Ze demonstreren dat huidige state-of-the-art detectoren aanzienlijke prestatievermindering ondervinden wanneer zij worden geconfronteerd met sentimentmanipulatie.
2. Ontdekking van Modelbias: De studie onthult een kritieke bias in bestaande modellen: ze hebben de neiging om artikelen met een neutrale toon als "echt" te classificeren en niet-neutrale (emotionele) artikelen als "nep". Deze bevinding spreekt de initiële hypothese tegen dat nepnieuws inherent negatiever is; in plaats daarvan blijkt de manipulatie van sentiment naar een neutrale toon de meest uitdagende adversariële scenario te zijn.
3. AdSent Framework: Het artikel introduceert AdSent, een nieuwe aanpak die de robuustheid verbetert door te trainen op sentiment-geneutraliseerde data. Dit zorgt voor voorspellingsconsistentie ongeacht de emotionele inkadering van het artikel.

Experimentele Resultaten
De auteurs hebben AdSent geëvalueerd op drie benchmark-datasets: PolitiFact, GossipCop en Labeled Unreliable News (LUN).

• Kwetsbaarheid van Baselines: Onder sentimentmanipulatie ervoeren standaarddetectoren (inclusief gefinetunede RoBERTa en SheepDog) substantiële prestatiedalingen, waarbij de F1-scores met wel 21,51% daalden op de PolitiFact-dataset. Zero-shot LLM's vertoonden eveneens significante degradatie.
• Impact van Sentimentverschuivingen: Analyse van voorspellingsomklapingen gaf aan dat het converteren van nepnieuws naar een neutrale toon de hoogste mate van misclassificatie veroorzaakte (false negatives), waarbij nepnieuws onterecht als echt werd gelabeld. Omgekeerd was echt nieuws minder waarschijnlijk om als nep te worden misgeclassificeerd wanneer het werd geneutraliseerd.
• Prestatie van AdSent: AdSent presteerde aanzienlijk beter dan alle baselines op geneutraliseerde testsets, met macro F1-scores van 87,76 op PolitiFact en 78,56 op GossipCop.
• Generalisatie:
  • Cross-Attack: AdSent demonstreerde robuustheid niet alleen tegen sentimentaanvallen, maar generaliseerde ook effectief naar stijlgebaseerde adversariële aanvallen (bijv. het imiteren van specifieke uitgevers), waarbij het de gespecialiseerde SheepDog-baseline in die scenario's overtrof.
  • Cross-Dataset: Wanneer getraind op PolitiFact en getest op de onbekende LUN-dataset, behield AdSent een superieure prestatie vergeleken met SheepDog, wat aangeeft dat adversariële sentimenttraining overdraagbare kenmerken oplevert.

Significantie en Claims
Het artikel claimt dat de afhankelijkheid van huidige detectoren voor nepnieuws van sentimentuele aanwijzingen een kritieke zwakte is die LLM's gemakkelijk kunnen exploiteren. Door aan te tonen dat neutraal sentiment de meest effectieve adversariële perturbatie is, benadrukken de auteurs een fundamentele bias in bestaande modellen. De significantie van AdSent ligt in het vermogen om de detectie van waarheidsgetrouwheid te ontkoppelen van de emotionele toon, waardoor een robuuster verdedigingsmechanisme wordt gecreëerd tegen geavanceerde, door LLM gedreven desinformatiecampagnes. De auteurs concluderen dat hun aanpak zowel de nauwkeurigheid als de robuustheid aanzienlijk verbetert en goed generaliseert naar onbekende datasets en diverse adversariële scenario's.

Toekomstige Richtingen
De auteurs merken op dat toekomstig werk zich zal richten op het uitbreiden van AdSent naar multimodale desinformatiedetectie, waarbij wordt onderzocht hoe visuele signalen (bijv. emotionele expressies in afbeeldingen) interageren met tekstueel sentiment. Ze plannen ook om adversariële perturbaties te onderzoeken die gericht zijn op andere journalistieke nieuwswaarden, zoals nabijheid, nieuwheid en prominentie.