Technische Samenvatting: RW-Post en AgentFact

Probleemstelling

De proliferatie van sociale media heeft de verspreiding van overtuigende multimodale desinformatie versneld, waarbij gemanipuleerde of hergebruikte afbeeldingen worden ingezet om misleidende tekst te versterken, wat aanzienlijke risico's met zich meebrengt voor de volksgezondheid en het sociale gedrag. Hoewel recente doorbraken in generatieve AI de kosten voor het produceren van misleidende inhoud hebben verlaagd, staan bestaande geautomatiseerde verificatiesystemen voor kritieke beperkingen. Huidige benaderingen richten zich vaak op smalle deeltaken (bijvoorbeeld detectie van afbeeldingen die uit hun context zijn gehaald of deepfake-detectie) of vertrouwen op Large Language Models (LLMs) en Large Vision-Language Models (LVLMs) met een oppervlakkig gebruik van bewijsmateriaal. Een primaire uitdaging is trouw: modellen genereren vaak vloeiende redeneringen die hallucineren of bewijsmateriaal verkeerd toepassen, zonder verankering in verifieerbare bronnen. Bovendien ontbreekt het in dit vakgebied aan benchmarks die gezamenlijk real-world multimodale claims, controleerbare redeneersporen en expliciet gekoppeld bewijsmateriaal bieden, afgeleid van menselijke feitencontrole-artikelen.

Methodologie

1. RW-Post: Een multimodale benchmark voor feitencontrole die is afgestemd op berichten

Om de lacune in bestaande datasets aan te pakken, introduceren de auteurs RW-Post, een benchmark die is ontworpen voor uitlegbare, bewijsgebaseerde multimodale feitencontrole.

• Dataverzameling: De dataset is samengesteld uit 13.000 feitencontrole-artikelen van Snopes (2017–2024). De auteurs maken gebruik van een LLM-ondersteund extractie- en auditproces om HTML-artikelen te herformateren naar een representatie van "tekst met gelabelde URL's". Dit behoudt de contextuele positie van links, waardoor LLM's betrouwbaar originele sociale media-berichten, afbeeldingen, redeneersporen en bewijsmateriaal kunnen extraheren.
• Annotatie en Kwaliteitscontrole:
  • Hernummering: De originele Snopes-labels zijn samengevoegd tot vijf overkoepelende categorieën (Waar, Onwaar, Onbewezen, Mengeling, Verouderd) om consistentie te waarborgen.
  • Filtering: Geautomatiseerde en menselijke verificatiestappen verwijderen artikelen met onvoldoende tekst, afbeeldingen met lage resolutie of "labellekage" (bijvoorbeeld afbeeldingen met watermerken zoals "nep" of "onwaar").
  • Bewijsafstemming: De dataset koppelt expliciet kernpunten van de redenering aan specifieke bewijsitems (tekst, afbeeldingen, video's) met stabiele ID's en URL's.
• Evaluatieregimes: RW-Post ondersteunt drie complementaire evaluatiemodi:
  1. Closed-book: Modellen observeren alleen de tekst en afbeelding van het bericht.
  2. Evidence-bounded: Modellen ontvangen het bericht plus een vast aantal oracle-bewijsitems uit de dataset.
  3. Open-web: Modellen halen bewijsmateriaal op via webzoekopdrachten onder een gestandaardiseerd protocol met controle op lekken (filtering van bekende feitencontrolesites en bronnen die na de datum van het bericht zijn gepubliceerd).

2. AgentFact: Een referentie-verificatiepijplijn

De auteurs stellen AgentFact voor, een modulaire, agent-gebaseerde framework die dient als referentiebasislijn voor open-webverificatie. Het decomposeert de verificatietaken in vijf gespecialiseerde agenten die werken in een iteratieve retrieve-reason-workflow:

1. Strategy Planning Agent (Agent-SP): Genereert een verificatieplan, inclusief redeneringsstappen, een validatielijst en zoekintenties.
2. Text Evidence Retrieval Agent (Agent-TR): Haalt webbewijs op, filtert resultaten en beoordeelt de betrouwbaarheid van bronnen (categoriseren als betrouwbaar, onbetrouwbaar, satire of onzeker).
3. Image Retrieval and Analysis Agent (Agent-IR): Voert omgekeerde afbeeldingzoekopdrachten uit om visuele inconsistenties te detecteren, waaronder bijna-duplicates, afbeeldingen van hetzelfde evenement, visuele manipulatie en verkeerde bijschriften.
4. Reasoning Agent (Agent-R): Integreert de claim, de context van het bericht en het opgehaalde bewijsmateriaal om stapsgewijze redenering uit te voeren, waarbij een waarheidslabel en een betrouwbaarheidsscore worden gegenereerd.
5. Explanation Generation Agent (Agent-EG): Synthetiseert de redenering en het bewijsmateriaal tot een gestructureerde uitleg met expliciete citaten.

Belangrijkste Bijdragen

1. RW-Post Benchmark: De introductie van een real-world multimodale benchmark voor feitencontrole die claims afstemt op originele berichten en controleerbare redeneersporen en bron-gebaseerd bewijsmateriaal biedt. Het is de eerste die expliciete bewijs-redenering-afstemming biedt voor auditing.
2. Extractiepijplijn: Een innovatieve LLM-ondersteunde pijplijn voor het extraheren en auditen van redenering en bewijsmateriaal uit menselijk geschreven feitencontrole-artikelen, waardoor hoogwaardige, gestructureerde annotaties worden gewaarborgd.
3. AgentFact Framework & Basislijnen: Het aanbieden van AgentFact als een referentie-verificatieagent en het benchmarken van krachtige open-source en gesloten-source LVLM's onder uniforme closed-book, evidence-bounded en open-web-protocollen.

Experimentele Resultaten

De auteurs evalueerden AgentFact en diverse LVLM-basislijnen (LLaVA-1.5, Qwen2-VL-Chat, GPT-4o-mini) over meerdere datasets, waaronder RW-Post, Mocheg, CLAIMREVIEW2024+ en NewsCLIPpings.

• Open-Web Prestaties: AgentFact behaalde de beste prestaties onder feitencontrolesystemen op RW-Post en CLAIMREVIEW2024+ wat betreft Macro-F1, Weighted-F1 en Nauwkeurigheid, en presteerde beter dan retrieval-versterkte basislijnen zoals LEMMA en DEFAME.
• Invloed van Bewijsmateriaal: In gecontroleerde evaluaties op RW-Post verbeterde het verstrekken van bewijsmateriaal (Evidence-bounded setting) de prestaties voor alle modellen aanzienlijk. Zo steeg de Weighted-F1 van GPT-4o-mini van 25,4 (closed-book) naar 85,1 (evidence-bounded).
• Visuele Verankeringsuitdagingen: Het toevoegen van afbeeldingen aan de invoer (T+I of T+I+E) leverde beperkte of negatieve winst op in vergelijking met alleen tekst of tekst-plus-bewijsmateriaal als invoer. Dit suggereert dat huidige LVLM's moeite hebben om visuele signalen effectief te integreren met tekstueel bewijsmateriaal, en vaak falen om de afbeelding te gebruiken voor verificatie wanneer bewijsmateriaal beschikbaar is.
• Trouw en Hallucinatie: Menselijke evaluatie onthulde dat, hoewel grondwaarheid-redeneringen zeer trouw zijn, modeloutputen lijden aan hallucinaties in redenering en bewijsgebruik. AgentFact presteerde aanzienlijk beter dan LEMMA op trouwscores, maar bleef echter achter bij menselijke annotaties.
• Formaatconformiteit: Open-source LVLM's vertoonden aanzienlijk lagere Format Success Rates (FSR) in vergelijking met GPT-4o-mini, wat aangeeft dat het genereren van gestructureerde, bewijsgebaseerde outputs een niet-triviale uitdaging blijft voor open modellen.

Betekenis en Claims

Het artikel betoogt dat RW-Post aanzienlijke "ruimte voor verbetering" blootlegt voor onderzoek naar multimodale verificatie. De experimenten tonen aan dat, hoewel huidige modellen moeite hebben met trouw bewijsverankering en visueel geïnformeerde redenering, de evidence-bounded evaluatie zowel de nauwkeurigheid als de trouw aanzienlijk verbetert. De auteurs claimen dat RW-Post een noodzakelijke testomgeving biedt voor het systematisch diagnosticeren van visuele verankering en bewijsgebruik, en dat het verder gaat dan oppervlakkige matching naar rigoureuze, controleerbare feitencontrole. Het werk benadrukt dat betrouwbaar bewijsmateriaal de dominante factor is in verificatieprestaties, terwijl robuuste multimodale weerlegging en contextuele verankering open uitdagingen blijven. De dataset en de code zijn vrijgegeven om toekomstig onderzoek in bewijsbewuste multimodale feitencontrole te faciliteren.