Technische Samenvatting: RW-Post – Auditabele, Evidentie-Gebaseerde Multimodale Feitencontrole in de Praktijk

1. Probleemstelling

De proliferatie van sociale media heeft de verspreiding van overtuigende multimodale desinformatie versneld, waarbij afbeeldingen en video's worden gemanipuleerd of hergebruikt om misleidende tekst te versterken, wat aanzienlijke risico's oplevert voor de volksgezondheid en sociaal gedrag. Hoewel generatieve AI de kosten voor het produceren van realistische misleidende content verder verlaagt, staan bestaande geautomatiseerde verificatiesystemen voor kritieke beperkingen:

• Oppervlakkig Gebruik van Evidentie: Huidige benaderingen vertrouwen vaak op oppervlakkige matching of missen een trouwe grounding in verifieerbare bronnen.
• Gebrek aan Auditabele Benchmarks: Er is een schaarste aan benchmarks die gezamenlijk multimodale claims uit de echte wereld, auditabele redeneersporen en expliciet gekoppelde bewijsstukken bieden.
• Verlies van Context: Veel datasets behouden de oorspronkelijke context van socialemediaposts niet, wat cruciaal is voor accurate verificatie.
• Evaluatiekloven: Bestaande methoden kampen met problemen rond "trouwheid", waarbij modellen vloeiende maar gehallucineerde rationales genereren die niet worden ondersteund door verifieerbare bronnen, met name in open-webomgevingen.

2. Methodologie

A. De RW-Post Benchmark

De auteurs introduceren RW-Post, een post-gealigneerde tekst-afbeelding benchmark ontworpen voor multimodale feitencontrole in de echte wereld met auditabele annotaties.

• Dataconstructie: De dataset is afgeleid van 13.000 Snopes-feitencontroleartikelen (2017–2024).
• Extractiepijplijn: Een door een LLM ondersteunde extractie- en auditiepijplijn converteert HTML-artikelen naar een "tekst-met-ge-tagde-URL"-representatie. Dit behoudt de contextuele positie van links, waardoor het model kan onderscheiden tussen de oorspronkelijke post, afbeeldingen, redenering en externe bewijsstukken.
• Annotatiestructuur: Elke instantie koppelt:
  1. De oorspronkelijke socialemediapost (tekst en afbeelding).
  2. Gestructureerde redeneersporen (logica en kernpunten).
  3. Expliciet gekoppelde bewijsstukken (met stabiele ID's en bron-URL's) afgeleid van door mensen geschreven feitencontroleartikelen.
• Kwaliteitscontrole: De pijplijn omvat multimodale relevantiefiltratie (verwijdering van claims waarbij afbeeldingen irrelevant zijn), filtratie op watermerklekken (verwijdering van afbeeldingen met "nep" of "vals" labels) en menselijke validatie om de uitlijning van redenering en bewijs te waarborgen.
• Evaluatiescenario's: RW-Post ondersteunt drie complementaire evaluatiesettingen:
  1. Gesloten boek: Modellen observeren alleen de post en afbeelding.
  2. Evidentie-beperkt: Modellen ontvangen de post plus een vaste set oracle-bewijsstukken.
  3. Open web: Modellen halen bewijs op via webzoekopdrachten onder een gestandaardiseerd, lekgecontroleerd protocol (filtering van bekende feitencontrolesites en bronnen met een latere datum dan de post).

B. Referentieverificatiepijplijn: AgentFact

Om baselines te vestigen, stellen de auteurs AgentFact voor, een modulair, agent-gebaseerd verificatiekader dat strategieplanning, bewijsopsporing, visuele analyse, redenering en generatie van uitleg integreert.

• Agent-SP (Strategieplanning): Genereert een verificatieplan, inclusief validatielijsten en zoekintenties.
• Agent-TR (Tekstbewijsopsporing): Haalt tekstuele bewijsstukken op en filtert deze, en beoordeelt de betrouwbaarheid van de bron (betrouwbaar, onbetrouwbaar, satire, onzeker).
• Agent-IR (Afbeeldingopsporing & Analyse): Voert omgekeerde afbeeldingzoekopdrachten uit om visuele manipulatie, verkeerde bijschriften en deepfakes te detecteren.
• Agent-R (Redenering): Voert het verificatieplan stap voor stap uit, baseert redenering op opgehaald bewijs en beoordeelt het vertrouwen.
• Agent-EG (Generatie van Uitleg): Produceert een gestructureerde uitleg met expliciete citaties van bewijs-ID's.
• Werkstroom: Het systeem werkt volgens een iteratieve opsporing-redenering-lus, waarbij het afwisselt tussen bewijsacquisitie en op bewijs gebaseerde redenering totdat een waarheidsvoorspelling wordt bereikt.

3. Belangrijkste Bijdragen

1. RW-Post Benchmark: Een nieuwe benchmark voor uitlegbare multimodale feitencontrole met post-gealigneerde claims, redeneersporen en op bronnen gebaseerd bewijs, waarmee de kloof in bestaande datasets wordt aangevuld die de oorspronkelijke context of auditabele bewijskoppelingen missen.
2. Extractiepijplijn: Een door een LLM ondersteunde pijplijn voor het extraheren en auditeren van redenering en bewijs uit door mensen geschreven feitencontroleartikelen, waardoor gestructureerde en verifieerbare annotaties worden gewaarborgd.
3. AgentFact Kader & Baselines: Een referentieverificatieagent en een uitgebreide benchmarking van krachtige open-source Large Vision-Language Models (LVLM's) onder gecontroleerde gesloten-boek, evidentie-beperkte en open-webprotocollen.

4. Experimentele Resultaten

A. Open-Web End-to-End Prestaties

• Feitencontrole (3-klasse): AgentFact behaalde de beste prestaties onder feitencontrolesystemen op RW-Post, ClaimReview2024+ en Mocheg in termen van Macro-F1, Weighted-F1 en Nauwkeurigheid. Het toonde een superieure omgang met class-imbalance in vergelijking met retrieval-versterkte baselines zoals LEMMA en DEFAME.
• OOC-detectie (Binair): Op de NewsCLIPpings-dataset presteerden gespecialiseerde OOC-detectoren (CCN, Sniffer) beter dan algemene feitencontrolesystemen, wat de onderscheidende aard van detectie van contextverlies versus open-web feitencontrole benadrukt.

B. Gecontroleerde Benchmarking (LVLM's)

• Impact van Evidentie: Het verstrekken van bewijs (T+E) verbeterde de prestaties voor alle modellen aanzienlijk. Zo steeg de Weighted-F1 van GPT-4o-mini van 25,4 (gesloten boek) naar 85,1 (evidentie-beperkt). Open-source LVLM's (LLaVA-1.5, Qwen2-VL-Chat) zagen ook significante winsten, maar bleven ver onder gesloten-bron baselines.
• Uitdagingen bij Visuele Grounding: Het toevoegen van afbeeldingen aan de invoer (T+I of T+I+E) leverde beperkte of zelfs negatieve winsten op in evidentie-beperkte settingen. Dit suggereert dat huidige LVLM's moeite hebben om visuele signalen effectief te integreren met tekstueel bewijs, en vaak falen in het grondig verankeren van visuele analyse in de geboden context.
• Refutatie en Onzekerheid: Modellen presteerden beter bij het bevestigen van ondersteunde claims (Waar) dan bij het weerleggen van desinformatie (Vals) of het behandelen van "Onbewezen" gevallen, wat wijst op moeilijkheden bij gekalibreerde onthouding.
• Formatconformiteit: Open-source LVLM's vertoonden significant lagere Format Success Rates (50–86%) in vergelijking met GPT-4o-mini (100%), wat aangeeft dat het genereren van gestructureerde, op bewijs gebaseerde outputs een niet-triviale uitdaging blijft.

C. Uitlegbaarheid en Menselijke Evaluatie

Menselijke evaluatie van 40 geselecteerde instanties onthulde:

• Ground Truth: Menselijk geannoteerde rationales behaalden bijna perfecte scores voor trouwheid (0,94–1,00).
• Modelprestaties: AgentFact presteerde significant beter dan LEMMA in redeneertrouwheid, bewijsgebruik en rechtvaardiging van labels (p < 10⁻⁵).
• Foutmodi: Casestudies benadrukten "zwakke contextuele grounding", waarbij modellen relevante klinkende tekst ophaalden maar faalden in het vangen van de ware context op gebeurtenisniveau van afbeeldingen (bijvoorbeeld het verkeerd identificeren van het specifieke evenement of de deelnemers).

D. Ablatiestudie

Het verwijderen van de Tekstbewijsopsporingsagent (Agent-TR) veroorzaakte de grootste daling in prestaties, wat bevestigt dat dit het meest kritieke component is. Het verwijderen van de Strategieplanningsagent of de Afbeeldinganalyse-agent resulteerde ook in meetbare dalingen, wat de complementaire rollen van de modulaire agents valideert.

5. Betekenis en Claims

Het artikel stelt dat RW-Post een noodzakelijke testomgeving biedt voor het bevorderen van onderzoek naar bewijsbewuste multimodale feitencontrole. De experimenten tonen aanzienlijke "ruimte voor verbetering" aan voor huidige modellen:

• Evidentie is Dominant: Betrouwbaar bewijs is de primaire drijvende kracht achter prestaties; zonder dit hebben zelfs sterke modellen moeite.
• Visuele Grounding is Moeilijk: Ondanks de multimodale aard van de taak, slagen huidige LVLM's er niet in om visuele signalen effectief te benutten wanneer deze worden gecombineerd met tekstueel bewijs, en vertrouwen ze vaak op oppervlakkige tekstmatching.
• Trouwheid Maakt Uit: De benchmark blootlegt de prevalentie van gehallucineerde redenering en misbruik van bewijs in huidige systemen, en benadrukt de behoefte aan evaluatieprotocollen die de link tussen redenering en verifieerbare bronnen auditeren.

De auteurs concluderen dat hoewel evidentie-beperkte evaluatie de nauwkeurigheid en trouwheid verbetert, robuuste multimodale verificatie in de praktijk een open uitdaging blijft, met name wat betreft visuele grounding en de omgang met onzekerheid.