Technische Samenvatting: Een Cognitief Gebaseerd Bayesiaans Kader voor Kwetsbaarheid voor Desinformatie

Probleemstelling

Huidige benaderingen voor Natural Language Processing (NLP) voor het detecteren van desinformatie behandelen het probleem voornamelijk als een taak voor waarheidsclassificatie: gegeven een bewering, voorspel of deze waar of onwaar is. Hoewel dit effectief is voor het identificeren van valse inhoud, is dit paradigma reductief omdat het de cognitieve processen van de lezer negeert. Bestaande modellen missen een representatie van het menselijk subject, waardoor ze niet kunnen voorspellen wie vatbaar is voor specifieke soorten informatie-ontregeling, waarom ze erin geloven, of hoe verschillende cognitieve profielen leiden tot uiteenlopende interpretaties van dezelfde bewering. Bovendien worden bij standaardpraktijken vaak meningsverschillen tussen annotatoren verworpen (bijvoorbeeld via meerderheidsstemming), waardoor waardevolle signalen over de inherente ambiguïteit of epistemische onzekerheid van een bewering verloren gaan.

Het artikel betoogt dat kwetsbaarheid voor desinformatie niet louter een falen van feitencontrole is, maar een gevolg van gebonden rationaliteit. Mensen verwerken taal niet als ideale Bayesiaanse redenaars; ze opereren onder beperkingen zoals beperkt werkgeheugen, afhankelijkheid van mentale kortsluitingen (heuristieken) en de invloed van opvallende of frequent herhaalde informatie.

Methodologie: De Gebonden Pragmatische Luisteraar (BPL)

De auteurs introduceren de Gebonden Pragmatische Luisteraar (BPL), een formeel Bayesiaans kader dat de Rational Speech Acts (RSA) theorie uitbreidt. BPL modelleert een agent die overtuigingen bijwerkt over een wereldtoestand $w$ (bewering waar/onwaar) gegeven een uiting $u$ (nieuwsbewering), onderworpen aan drie cognitief gemotiveerde hulpbronbeperkingen:

1. Dieptegrens voor Recursie ($k$):

   • Concept: Beperkt de diepte van "Theory of Mind" (ToM) redenering. Het modelleert hoeveel lagen van sprekerintentie een agent kan volgen (bijv. $k=0$: acceptatie van letterlijke inhoud; $k=1$: herkennen dat een spreker een bewering doet; $k=2$: redeneren over de intentie van de spreker om sociale consensus te manipuleren).
   • Cognitieve Basis: Gebaseerd op beperkingen van het werkgeheugen (Cowan, 2001) en empirische bevindingen dat agenten zelden recursie vertonen dieper dan niveau 2 in strategische spellen (Camerer et al., 2004).
   • Mechanisme: De effectieve diepte is $k^* = \min(k, d+1)$, waarbij $d$ de epistemische diepte van de bewering is (nesting van toewijzingen van geloof).

2. Parameter voor Priorcompressie ($\beta$):

   • Concept: Modelleert hoe een agent genuanceerde geloofwaardigheidsopvattingen behoudt versus deze samenvoegt tot grove heuristieken (bijv. "verdachte bron") onder cognitieve belasting.
   • Cognitieve Basis: Afgeleid van de Information Bottleneck theorie (Tishby et al., 1999) en dual-process theorie (Systeem 1 versus Systeem 2).
   • Mechanisme: De agent onderhoudt een gecomprimeerde representatie $\tilde{P}_\beta(w)$ via een bottleneckvariabele $Z$ (geloofwaardigheidsschema's). Als $\beta \to 0$, verwerpt de agent priors (heuristische verwerking); als $\beta \to \infty$, behoudt de agent volledige priors (systematische verwerking). De geloofwaardigheid van de bron $\gamma$ moduleert deze compressie.

3. Beschikbaarheid Steekproefgrootte ($N$):

   • Concept: Modelleert het aantal vergelijkbare voorbeelden dat een agent mentaal ophaalt om een bewering te beoordelen, waarbij importance sampling wordt geoperationaliseerd met salientiegewichten.
   • Cognitieve Basis: Gebaseerd op de beschikbaarheidsheuristiek (Tversky en Kahneman, 1973) en het "illusory truth effect" (Hasher et al., 1977).
   • Mechanisme: In plaats van exacte waarschijnlijkheden te berekenen, schat de agent de waarschijnlijkheid via bemonstering uit een voorstelverdeling $Q(u)$ gewogen door psychologische salientiefactoren: emotionele valentie ($\nu$), aantal herhalingen ($r$) en recentheid ($\rho$). Een kleine $N$ leidt tot systematische overgewichting van levendige of herhaalde voorbeelden.

Mapping van Informatie-ontregeling

Het kader mapt expliciet de taxonomie van informatie-ontregeling van Wardle en Derakhshan (2017) naar BPL-parameters:

• Mis-informatie: Exploiteert gecomprimeerde priors ($k=0$).
• Dis-informatie: Exploiteert ondiepe ToM-redenering ($k \ge 1$).
• Mal-informatie: Exploiteert diepe recursie en meta-epistemische framing ($k \ge 2$).

Deze mapping leidt tot het Diepte-mismatch Paradox: Agenten met gedeeltelijk pragmatisch bewustzijn ($k=1$) kunnen meer vatbaar zijn voor dis-informatie dan diegenen zonder bewustzijn ($k=0$), omdat ze toewijzing herkennen maar het bedrieglijke intentie erachter niet kunnen evalueren.

Implementatie en Evaluatie

De auteurs hebben BPL geïmplementeerd met twee datasets: LIAR (PolitiFact-beweringen) en MultiFC (meerdomein feitencontrole-beweringen).

• Agentpopulatie: Een populatie van negen canonieke agenttypes die de $(k, \beta, N)$-parameterruimte beslaan, werd gesimuleerd.
• LLM-grounding: Een hybride versie werd ontwikkeld waarbij Large Language Models (LLM's, specifiek Gemini 2.5 Pro) werden gebruikt om semantisch rijke karakterisering van beweringen af te leiden, waaronder:
  • Verbaal schema's voor priorcompressie (ter vervanging van handgemaakte tabellen).
  • Salientiegewichten ($\phi$) gebaseerd op emotionele intensiteit, nieuwheid, memorabiliteit en deelbaarheid.
  • Gesimuleerde geheugenophaal voor de beschikbaarheidssteekproef.
• Metrieken: Waarheidsclassificatie (AUC, F1), voorspellingsfout, en kalibratie op componentniveau (correlatie tussen gesimuleerde recall en ground truth).

Belangrijkste Resultaten

1. Waarheidsclassificatie

• LIAR Dataset: De "Surface Baseline" (met gebruik van metadata van sprekerhistorie) behaalde een perfecte AUC (1.000), maar dit werd toegeschreven aan datalekken waarbij sprekerhistorie direct het label codeerde. Het BPL Full model (met gebruik van sprekerhistorie alleen als gecomprimeerde prior, niet als direct kenmerk) behaalde een AUC van 0.930 en een F1 van 0.885, waarmee een sterke lek-vrije baseline werd gevestigd. Een enkele BPL-scalar (kwetsbaarheidsscore) behaalde een AUC van 0.811 met alleen beweringstekst en sprekeridentiteit.
• MultiFC Dataset: BPL Full behaalde een AUC van 0.840 vergeleken met een surface baseline van 0.879. Hoewel BPL de discriminatie (AUC) niet verbeterde, verbeterde het combineren van BPL-kenmerken met surface-kenmerken de F1-score van 0.439 naar 0.517, wat wijst op betere precisie-recall trade-offs die cruciaal zijn voor feitencontrole met hoge recall.

2. Ablatiestudies

• Priorcompressie is cruciaal: Het verwijderen van de priorcompressiegrens ($\beta$) veroorzaakte de grootste prestatiedaling ($\Delta r = -0.064$), wat suggereert dat het modelleren van hoe mensen geloofwaardigheid van bronnen comprimeren de belangrijkste factor is in het succes van het kader.
• Effecten van dieptegrens: Op de volledige LIAR-dataset (92% diepte-0 beweringen) had het versoepelen van de dieptegrens verwaarloosbare effecten. Echter, wanneer geconditioneerd op diepte-1 beweringen, werd de dieptegrens de primaire drijver van de prestaties.

3. Het Diepte-mismatch Paradox

• Empirische Validatie: Agenten met $k=1$ (gedeeltelijk bewustzijn) presteerden significant slechter op diepte-1 beweringen (fout 0.510) dan $k=0$ agenten (fout 0.450).
• Interpretatie: $k=1$ agenten herkennen toewijzing maar kunnen de bedrieglijke intentie van de spreker niet evalueren, wat hen ertoe brengt de bewering als zwak positief bewijs te behandelen. $k=0$ agenten negeren de toewijzing en evalueren de letterlijke inhoud (die vaak taalkundig onwaarschijnlijk is), wat resulteert in een lager geloof. $k=2$ agenten leiden correct bedrog af, wat resulteert in de laagste fout (0.340).

4. LLM-grounding en Kalibratie

• Prestatiewinst: De Hybride LLM-BPL behaalde een AUC van 0.868 op een kleine steekproef vergeleken met 0.695 voor een overeenkomende op kenmerken gebaseerde baseline.
• Epistemisch Kanaal: De LLM- en op kenmerken gebaseerde modellen toonden bijna onafhankelijkheid ($r=0.184$), wat suggereert dat de LLM toegang heeft tot een distinct epistemisch kanaal (semantische framing coherentie) in plaats van te vertrouwen op lexicaal metadata.
• Beschikbaarheidskalibratie: De door de LLM gesimuleerde recall van onware beweringen correleerde sterk ($r=0.562$) met de daadwerkelijke onwaarheid van beweringen zonder supervisie, wat het beschikbaarheidsmechanisme valideert. Het model haalde van nature meer onware voorbeelden op voor onware beweringen, waardoor geloof daarin effectief werd onderdrukt.

Betekenis en Aanspraken

Het artikel positioneert BPL als een werk in uitvoering dat een cognitief gebaseerd alternatief biedt voor standaard desinformatiedetectie. De primaire bijdragen zijn:

1. Theoretisch: Een formele mapping van typen Informatie-ontregeling naar cognitieve beperkingen, waarbij het "diepte-mismatch paradox" wordt voorspeld waarbij gedeeltelijke training de kwetsbaarheid kan vergroten.
2. Methodologisch: Een probabilistisch kader dat reduceert tot standaard RSA wanneer beperkingen worden versoepeld, wat modellering van heterogene cognitieve profielen en het voorspellen van meningsverschillen tussen annotatoren als posterior variantie mogelijk maakt.
3. Empirisch: Bewijs dat priorcompressie (modelleren hoe mensen geloofwaardigheid van bronnen vereenvoudigen) de dominante factor is in waarheidsclassificatie, en dat LLM-grounding de prestaties aanzienlijk verbetert door mensachtige geheugenophaal en semantische framing te simuleren.

De auteurs concluderen dat hoewel BPL een sterke classifier is, zijn ware waarde ligt in het vermogen om uit te leggen waarom bepaalde agenten vatbaar zijn. Ze waarschuwen dat de huidige architectuur uitgaat van binaire waarheid en vertrouwt op simplistische heuristieken voor dieptevergunning, en merken op dat toekomstig werk zich moet richten op graduele waarheid en meer geavanceerde dependency parsing. Het kader suggereert dat interventies die zich uitsluitend richten op het leren van mensen om toewijzing op te merken (zonder intentie-evaluatie te leren), per ongeluk de kwetsbaarheid voor dis-informatie kunnen vergroten.