PRISMM-Bench: A Benchmark of Peer-Review Grounded Multimodal Inconsistencies

Dit paper introduceert PRISMM-Bench, het eerste benchmark gebaseerd op door reviewers geïdentificeerde inconsistenties in wetenschappelijke papers, waarmee wordt aangetoond dat huidige grote multimodale modellen moeite hebben met het betrouwbaar detecteren en oplossen van subtiele tegenstrijdigheden tussen tekst, figuren, tabellen en formules.

De kern

Titel: De "Vakjury" voor AI: Waarom slimme computers nog steeds fouten in wetenschappelijke papers over het hoofd zien

Stel je voor dat je een gigantische, super-slimme robot hebt die alles kan lezen, zien en begrijpen. Deze robot kan diagrammen analyseren, formules oplossen en lange teksten samenvatten. Hij is als een universitair professor die in één seconde duizenden boeken heeft gelezen.

Maar, zoals bij elke nieuwe technologie, is er een groot vraagteken: Kan deze robot echt begrijpen wat hij ziet, of leest hij alleen maar oppervlakkig?

Dit is precies wat de onderzoekers van dit paper (PRISMM-Bench) wilden testen. Ze hebben een nieuwe "proef" bedacht om te zien of deze robots echt slim zijn, of dat ze gewoon slimme gokkers zijn.

Hier is hoe het werkt, vertaald naar alledaagse taal:

1. Het Probleem: De "Verkeerde Kaart"

In de wetenschap schrijven mensen papers (onderzoeksrapporten). Soms maken ze onbedoelde fouten. Bijvoorbeeld:

• In de tekst staat: "Onze auto rijdt 100 km/u."
• Maar in de foto (de figuur) staat: "Snelheid: 10 km/u."

Voor een mens is dit een duidelijke fout. Maar voor een AI kan dit verwarrend zijn. De AI kijkt misschien alleen naar de tekst en negeert de foto, of andersom. Ze zien de tegenstelling niet.

2. De Oplossing: Een "Vakjury" van Mensen

Vroeger maakten onderzoekers zelf nep-fouten om AI's te testen. Dat was als een leraar die zelf fouten in een proefwerk maakt om leerlingen te testen. Dat werkt niet goed, want die fouten zijn vaak te makkelijk of te raar.

In plaats daarvan hebben deze onderzoekers een slimme truc bedacht: Ze hebben gekeken naar echte beoordelingen van echte mensen.

• De Analogie: Stel je voor dat wetenschappelijke papers worden ingediend bij een grote conferentie (zoals een groot festival voor wetenschappers). Er zit een "vakjury" (reviewers) die elke paper nakijkt.
• Deze juryleden schrijven vaak op: "Hé, in figuur 1 staat iets anders dan in de tekst!"
• De onderzoekers van dit paper hebben duizenden van deze echte opmerkingen verzameld. Ze hebben een database gemaakt van 384 echte fouten die door echte mensen zijn gevonden. Dit noemen ze PRISMM-Bench.

3. De Test: Drie Soorten Vragen

Ze hebben deze database gebruikt om drie soorten vragen te maken voor de AI's:

1. De Detectie: "Wat is er mis?" (Zoek de fout op).
2. De Oplossing: "Hoe maak je het goed?" (Wat moet je veranderen?).
3. De Match: "Welke twee onderdelen kloppen niet met elkaar?" (Zoek de verkeerde partner).

4. De Valstrik: De "Woorden-truc"

Hier wordt het interessant. De onderzoekers merkten iets raars op.
Wanneer ze de AI's een meerkeuzevraag gaven met lange, mooie zinnen, haalden ze hoge scores. Maar als ze de tekst weglieten en alleen de antwoorden gaven, haalden ze nog steeds hoge scores!

• De Analogie: Het is alsof je een quiz geeft. De AI's zeggen niet: "Ik heb de tekst gelezen en de foto bekeken." Nee, ze zeggen: "Ik weet dat antwoord C altijd het langste is, dus dat is wel het juiste." Ze gebruiken woord-trucs in plaats van echt nadenken. Ze zijn als een gokker die de patronen van de kaarten kent, maar niet weet wat er op de kaarten staat.

Om dit te fixen, hebben de onderzoekers de antwoorden veranderd in een strakke, saaie lijst (een JSON-formaat). Geen mooie zinnen, alleen feiten.

• Het Effect: Zodra de mooie zinnen weg waren, zakte de score van de AI's drastisch. Ze konden de truc niet meer gebruiken. Ze moesten nu echt kijken naar de foto en de tekst.

5. Het Resultaat: De AI's zijn nog niet klaar

Toen ze de beste AI's ter wereld (zoals GPT-5 en Gemini) op deze nieuwe, eerlijke test zetten, was het resultaat schokkend:

• Zelfs de slimste AI's haalden maar een 50-54%. Dat is net iets beter dan gokken, maar verre van perfect.
• Mensen (die als proefpersonen meededen) haalden veel hogere scores, vooral als ze de hele paper konden bekijken.

Wat betekent dit?
Het betekent dat onze huidige "super-intelligente" robots nog niet betrouwbaar genoeg zijn om als assistent voor wetenschappers te werken. Ze kunnen tekst lezen en plaatjes zien, maar ze kunnen die twee nog niet goed met elkaar verbinden en de subtiele fouten vinden die een mens eruit zou halen.

Conclusie

Dit paper is een waarschuwing en een hulpmiddel.

• Waarschuwing: Vertrouw niet blind op AI voor kritisch wetenschappelijk werk; ze maken nog te veel fouten door niet echt te "denken".
• Hulpmiddel: Ze hebben een nieuwe "trainingsbaan" (PRISMM-Bench) gebouwd waar AI's in de toekomst kunnen oefenen om echt slim te worden, in plaats van alleen maar slimme antwoorden te gissen.

Kortom: De AI's zijn nog steeds leerlingen die moeten leren dat kijken en lezen samen moeten werken, en niet alleen apart.

Technische samenvatting

Probleemstelling

Grote Multimodale Modellen (LMMs) worden steeds vaker ingezet voor wetenschappelijk onderzoek, maar het is onduidelijk of ze de complexe multimodale structuur van wetenschappelijke papers werkelijk kunnen begrijpen en redeneren. Een centraal probleem is het detecteren en oplossen van inconsistenties tussen verschillende modaliteiten binnen een paper, zoals tekst, figuren, tabellen en vergelijkingen.

Deze inconsistenties zijn vaak subtiel, domeinspecifiek en ontstaan door fouten zoals copy-paste-missers, verouderde resultaten of inconsistent notatiegebruik. Bestaande benchmarks missen dit aspect omdat ze:

1. Vaak slechts één modaliteit isoleren.
2. Afhankelijk zijn van synthetische (kunstmatige) fouten die de complexiteit van de realiteit niet weergeven.
3. Geen rekening houden met de context van volledige papers.

Dit ondermijnt de duidelijkheid, reproduceerbaarheid en het vertrouwen in wetenschappelijke publicaties.

Methodologie: PRISMM-Bench

De auteurs introduceren PRISMM-Bench (Peer-Review-sourced Inconsistency Set for Multimodal Models), het eerste benchmark dat is gebaseerd op echte, door reviewers gemarkeerde inconsistenties in wetenschappelijke papers.

Datacollectie en Pipelines:
De dataset is opgebouwd via een zes-staps pipeline:

1. Review Sourcing: Reviews van ICLR 2024 en 2025 (via OpenReview) werden verzameld. Om te zorgen dat de inconsistenties nog aanwezig waren in de PDF's, werd gefocust op papers die werden afgewezen of ingetrokken zonder weerwoord (rebuttal).
2. LLM-filtering: Een LLM (Mistral Nemo) filterde reviews om potentiële inconsistenties te identificeren.
3. Handmatige Annotatie: Menselijke annotatoren verifieerden de inconsistenties, markeerden de relevante tekst- en visuele delen in de PDF, en categoriseerden ze. Dit resulteerde in 384 gevalideerde inconsistenties uit 353 papers.
4. Taakgeneratie: Op basis van deze inconsistenties werden meerkeuzevragen (MCQ) gegenereerd.
5. Verificatie: Handmatige controle om de kwaliteit van de gegenereerde vragen te waarborgen.
6. Debiasing: Om te voorkomen dat modellen antwoorden gissen op basis van taalpatronen in de antwoordopties, werden de antwoorden omgezet naar een gestructureerde JSON-indeling. Dit minimaliseert linguïstische biases.

De drie evaluatietaken:

1. Inconsistency Identification: Het detecteren van wat de inconsistentie is.
2. Inconsistency Remedy: Het bepalen hoe de inconsistentie moet worden opgelost.
3. Inconsistency Pair Match: Het koppelen van twee visuele elementen die met elkaar in strijd zijn (zonder tekstuele hints).

Contextniveaus:
Modellen werden getest op drie niveaus van context:

• Focused: Alleen de geëxtraheerde delen (bijv. de figuur en de specifieke zin).
• Page: De volledige pagina als afbeelding.
• Document: Het volledige paper (gesplitst in collageën).

Belangrijkste Bijdragen

1. Eerste Review-gebaseerde Dataset: Een dataset van echte, door experts gemarkeerde multimodale inconsistenties, in plaats van synthetische fouten.
2. Drie-laags Benchmark Suite: Een set van taken die detectie, correctie en relationeel redeneren evalueert.
3. JSON-gebaseerde Debiasing: Een innovatieve methode om MCQ-antwoorden om te zetten naar gestructureerde JSON, waardoor modellen gedwongen worden om de inhoud te analyseren in plaats van taalpatronen in de antwoordopties te exploiteren.
4. Uitgebreide Evaluatie: Het benchmarken van 21 state-of-the-art LMMs, waaronder grote open-weight modellen (bijv. GLM-4.5V, InternVL3) en proprietaire modellen (Gemini 2.5 Pro, GPT-5).

Resultaten

De resultaten tonen aan dat zelfs de meest geavanceerde modellen moeite hebben met wetenschappelijk multimodaal redeneren:

• Algemene Prestaties: De prestaties zijn opvallend laag, variërend van 27,8% tot 53,9%. Zelfs het beste model (GPT-5 met hoge redeneringscapaciteit) bereikte slechts 53,9% gemiddelde nauwkeurigheid.
• Open vs. Proprietary: Proprietary modellen presteerden over het algemeen beter dan open-weight modellen, maar zelfs de beste open-weight modellen (GLM-4.5V 106B) bleven aanzienlijk achter (42,5%).
• Invloed van Context: De prestaties daalden aanzienlijk naarmate de context breder werd (van Focused naar Document), wat wijst op problemen met afleiding en langdurig redeneren in dichte documenten.
• Redenering (Chain-of-Thought): Modellen met redeneringscapaciteit (CoT) presteerden significant beter dan hun niet-redenerende tegenhangers. Het uitschakelen van redenering leidde tot een daling van tot wel 25,7% in nauwkeurigheid.
• Taalbias: Zonder context behaalden modellen hoge scores op de natuurlijke taalversie van de vragen (tot 70%), wat aangeeft dat ze op taalpatronen gokten. De JSON-indeling verlaagde deze "no-context" scores tot het niveau van menselijke prestaties (rond 25-30%), wat aantoont dat de bias effectief is weggenomen.

Betekenis en Conclusie

PRISMM-Bench bloot de ernstige beperkingen van huidige LMMs als betrouwbare wetenschappelijke assistenten. De studie toont aan dat:

1. Multimodaal redeneren in complexe wetenschappelijke documenten nog een enorme uitdaging is.
2. Synthetische benchmarks onvoldoende zijn om de echte complexiteit van wetenschappelijke fouten te meten.
3. Evaluatiemethoden moeten worden aangepast (bijv. via gestructureerde JSON-antwoorden) om te voorkomen dat modellen "trucs" gebruiken in plaats van echt te redeneren.

De auteurs concluderen dat toekomstige vooruitgang vereist dat modellen niet alleen fouten kunnen detecteren, maar ook begrijpend redeneren en correcties kunnen voorstellen, ondersteund door robuuste debiasing-strategieën en langere context-handeling.