💬 NLP

Are Reasoning Vision-Language Models Robust to Semantic Visual Distractions?

Dit artikel introduceert Distract-Bench, een nieuwe benchmark die aantoont dat Reasoning Vision-Language Modellen aanzienlijk kwetsbaarder zijn voor semantische visuele afleidingen—betekenisvolle maar irrelevante aanwijzingen—dan voor traditionele perceptuele corrupties, aangezien deze afleidingen de redeneerprocessen van de modellen vaak misleiden ondanks correcte visuele perceptie.

Oorspronkelijke auteurs: Yizheng Sun, Mochuan Zhan, Yanan Ma, Jia Tong See, Yifan Wang, Ziyi Wang, Hao Li, Yang Cui, Wenhao Cai, Jingyu Sun, Chenghua Lin, Riza Batista-Navarro, Jingyuan Sun

Gepubliceerd 2026-06-09

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Yizheng Sun, Mochuan Zhan, Yanan Ma, Jia Tong See, Yifan Wang, Ziyi Wang, Hao Li, Yang Cui, Wenhao Cai, Jingyu Sun, Chenghua Lin, Riza Batista-Navarro, Jingyuan Sun

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Het Grote Idee: Slimme Studenten vs. Afleidende Klaslokalen

Stel je voor dat je een zeer slimme student hebt (een Reasoning Vision-Language Model of VLM). Deze student is erg goed in het bekijken van een afbeelding en een vraag, het stap voor stap doordenken van het probleem, en het geven van het juiste antwoord. Ze zijn als een wiskundig genie dat complexe meetkundige problemen kan oplossen door alleen naar een diagram te kijken.

Lange tijd hebben onderzoekers getest hoe "taai" deze studenten waren door het klaslokaal rommelig te maken. Ze zouden:

De krijtbord vervagen (blur).
Het licht uitdoen (ruis).
De camera laten schudden (weereffecten).

Dit wordt Perceptuele Robuustheid genoemd. Het vraagt: "Kan de student nog steeds het antwoord zien als het zicht wazig is?"

Dit paper introduceert een nieuw, slimmere probleem.

In plaats van het zicht wazig te maken, hielden de onderzoekers het krijtbord kristalhelder. Maar ze voegden een afleider toe: een papiertje dat op het bord is geplakt met een ware feit dat niets te maken heeft met de vraag.

De Vraag: "Hoeveel appels zitten er in de mand?"
De Afbeelding: Een mand met 3 appels.
De Afleider: Een felrood bordje dat naast de mand is geplakt met de tekst: "Er liggen 5 sinaasappels in de volgende kamer." (Dit is een waar feit, maar het is irrelevant).

De onderzoekers noemen dit Semantische Afleiding. Ze wilden zien: Als de student duidelijk kan zien, zal hij dan in de war worden gebracht door de irrelevante informatie?

Het Experiment: Distract-Bench

Het team bouwde een test genaamd Distract-Bench.

De Opzet: Ze namen 506 echte vragen en afbeeldingen (zoals wiskundeproblemen, grafieken en alledaagse scènes).
De Truc: Ze gebruikten AI en menselijke experts om "afleiders" aan de afbeeldingen toe te voegen. Deze afleiders waren:
- Feitelijk Waar: Het bordje zei echt "5 sinaasappels".
- Visueel Geloofwaardig: Het zag eruit alsof het op het bord thuishoorde.
- Totaal Irrelevant: Het hielp niet bij het beantwoorden van de vraag over de appels.
- Antwoord-Behoudend: Het juiste antwoord (3 appels) veranderde niet.

Vervolgens testten ze 10 verschillende modellen (sommige zijn "reasoning" modellen die stap voor stap nadenken, en sommige zijn standaard modellen) om te zien hoe ze met deze trucs omgingen.

De Verrassende Bevindingen

De resultaten waren contra-intuïtief en onthulden een verborgen zwakte in "slimme" modellen.

1. De "Blur"-test vs. de "Afleider"-test

Wanneer de afbeelding wazig was (Perceptuele Robuustheid): Gedroegen de "slimme" reasoning-modellen zich bijna exact hetzelfde als hun "dommere" basisversies. Als het basismodel niet door de waas heen kon kijken, kon het slimme model dat ook niet. Ze erfden dezelfde visuele beperkingen.
Wanneer de afbeelding een afleider had (Semantische Robuustheid): Presteerden de "slimme" reasoning-modellen zelfs slechter dan de basismodellen! Ondanks dat ze beter waren in denken, werden ze makkelijker misleid door de irrelevante feiten.

Analogie: Stel je een student voor die geweldig is in wiskunde, maar wordt afgeleid door een vlieg die rondjes vliegt in de kamer. Een simpelere student zou de vlieg misschien gewoon negeren en zich op de cijfers concentreren. De "slimme" student begint echter te denken: "Wacht even, is die vlieg een symbool? Betekent dit dat ik 1 bij het antwoord moet optellen?" Hun vermogen om te veel na te denken, werkte hen tegen.

2. De Redeneringsval
De onderzoekers keken naar waarom de modellen faalden. Ze ontdekten dat de "slimme" modellen niet alleen fout gokten; ze verwerkten de afleider in hun logica.

De Foutmodus: Het model ziet het rode bordje met "5 sinaasappels", behandelt dit als bewijs, en bouwt een lange, logische keten van redeneringen op basis van die verkeerde aanwijzing.
Het Resultaat: Ze produceerden een zeer zelfverzekerd, goed uitgelegd, maar volkomen fout antwoord. Het "redeneergedeelte" van het model versterkte de fout.

3. De "Schadelijke Referentie"
De studie mat hoe vaak de modellen de afleider noemden in hun uiteindelijke antwoord.

Slimme modellen noemden de irrelevante feiten veel vaker dan de basismodellen.
Wanneer ze het antwoord fout hadden, verwezen ze bijna altijd naar de afleider als bewijs voor hun fout.

De Conclusie

Het paper concludeert dat goed zijn in redeneren je niet immuun maakt voor afleidingen. Sterker nog, voor deze AI-modellen kan het vermogen om lange ketens van gedachten te genereren hen soms juist kwetsbaarder maakt voor irrelevante informatie.

Oude Visie: We hoeven ons alleen zorgen te maken als de afbeelding wazig of ruizig is.
Nieuwe Visie: We moeten ons ook zorgen maken als de afbeelding "te veel waarheid" bevat. Als een model een feit ziet dat waar maar irrelevant is, kan het zich eraan vastklampen en het hele denkproces ontsporen.

De Belangrijkste Les: Om deze AI-modellen betrouwbaar te maken in de echte wereld, moeten we ze niet alleen leren beter te zien; we moeten ze ook leren om dingen te negeren die er niet toe doen, zelfs als die er belangrijk en feitelijk juist uitzien.

(Opmerking: Deze uitleg is uitsluitend gebaseerd op de bevindingen die in het paper worden gepresenteerd. De auteurs bespreken geen specifieke klinische toepassingen of toekomstige commerciële toepassingen in deze tekst, dus deze zijn niet opgenomen.)

Technische Samenvatting: Zijn Reasoning Vision-Language Modellen Robuust tegen Semantische Visuele Afleidingen?

Probleemdefinitie

Hoewel Reasoning Vision-Language Modellen (VLM's) sterke prestaties hebben getoond op complexe multimodale taken, blijft hun betrouwbaarheid in real-world toepassingen onbewezen. Bestaande evaluaties van robuustheid richten zich primair op perceptuele robuustheid, waarbij modellen worden getest tegen inputcorrupties zoals ruis, onscherpte en weereffecten. Deze corrupties verslechteren de zichtbaarheid van bewijslast, maar introduceren geen nieuwe semantische inhoud.

Dit artikel identificeert een cruciale, onderbelichte foutmodus: semantische visuele afleidingen (semantic visual distractions). In real-world scenario's bevatten inputs vaak feitelijk correcte maar taakonrelevante visuele aanwijzingen (bijv. extra objecten, misleidende annotaties of contextuele details). Een model kan het relevante bewijs correct waarnemen, maar toch de aandacht richten op deze plausibele maar irrelevante aanwijzingen, deze opnemen in zijn redeneerketen en de fout voortplanten naar een onjuist definitief antwoord. Dit is bijzonder zorgwekkend voor reasoning-enhanced VLM's, waar langdurige redeneerprocessen de impact van aanvankelijk irrelevante details kunnen versterken, waardoor ze veranderen in coherente maar onjuiste redeneerpaden.

Methodologie

1. Distract-Bench Benchmark

Om dit gat te dichten, introduceren de auteurs Distract-Bench, een door mensen geverifieerde benchmark die ontworpen is om de robuustheid van VLM's tegen antwoord-behoudende semantische afleidingen te evalueren. De constructie van de dataset volgt een vierfasige pijplijn:

Verzameling van Ruwe Samples: 800 beeld-vraagparen werden verzameld uit gevestigde, zwaar op redeneren gebaseerde benchmarks (MathVision, MathVista) en algemene domein-benchmarks (MMMU).
Door Experts Ontworpen Seed Distractoren: Menselijke annotatoren creëerden 100 seed-voorbeelden door semantische distractoren in afbeeldingen te injecteren. Deze distractoren moesten voldoen aan de eisen: (1) semantisch duidelijk, (2) feitelijk correct en visueel plausibel, (3) irrelevant voor de query (het behouden van het grondwaarheid-antwoord), en (4) in staat om tot plausibele foutieve antwoorden te leiden.
Schaalbare Synthetische Expansie: Gebruikmakend van deze seed-voorbeelden als kennisbasis, gebruikten de auteurs GPT-5.5 om bewerkingsinstructies voor de overige samples te genereren en GPT-Image2 om de bewerkte afbeeldingen te synthetiseren. Dit proces zorgde ervoor dat de oorspronkelijke inhoud en het antwoord ongewijzigd bleven terwijl de distractor werd toegevoegd.
Menselijke Kwaliteitsverificatie: Experts verifieerden alle gegenereerde samples tegen de vier criteria, wat resulteerde in een definitieve dataset van 506 hoogwaardige samples verspreid over diverse domeinen (grafieken, wiskunde, dagelijkse scènes, medisch, etc.).

2. Experimentele Opstelling

De studie evalueerde 10 VLM's, waaronder:

Open-Source Reasoning Modellen: R1-OneVision, Vision-R1, MMR1, MM-Eureka, OpenVLThinker, en Qwen3-VL-Thinking.
Bijbehorende Niet-Reasoning Base Modellen: Qwen2.5-VL (Base), Qwen3-VL (Base), etc., om gecontroleerde gepaarde vergelijkingen mogelijk te maken.
Closed-Source Modellen: GPT-4o en GPT-5.

Modellen werden getest onder drie condities:

Clean Inputs: Baseline prestaties.
Conventionele Visuele Corrupties: 20 soorten perceptuele degradaties (ruis, onscherpte, weer, etc.).
Distract-Bench: Inputs met geïnjecteerde semantische distractoren.

3. Metrieken

Relatieve Robuustheid (RR): Het deel van de schone prestaties dat behouden blijft na perturbatie ( $RR = P_{O}/P_{I}$ ).
Retentie (Retention): De snelheid waarmee een model correct blijft op samples die het in de schone setting correct beantwoordde.
Distraction Reference Rate (DRR): De frequentie van expliciete vermeldingen van de geïnjecteerde distractor in modeloutputs.
Harmful Reference Rate (HFR): De frequentie van distractorvermeldingen geassocieerd met onjuiste antwoorden.

Belangrijkste Resultaten

1. Afwijkende Foutmodi

De studie onthult dat semantische afleiding een robuustheidsfout blootlegt die verschillend is van conventionele visuele corruptie.

Visuele Corruptie: Reasoning VLM's erven grotendeels de robuustheidspatronen van hun niet-reasoning base modellen. Onder perceptuele degradatie zijn de relatieve robuustheid en de foutoverlap tussen base en reasoning varianten sterk uitgelijnd (bijv. een gemiddelde Pearson correlatie van 0,978 voor de Qwen2.5-VL familie).
Semantische Afleiding: Reasoning VLM's vertonen consistent lagere robuustheid vergeleken met hun base modellen wanneer ze worden geconfronteerd met semantische afleidingen. Bijvoorbeeld, in de Qwen2.5-VL familie behield het base model 92,1% relatieve robuustheid op Distract-Bench, terwijl de reasoning varianten daalden naar 84,4%–90,3%. Dit geeft aan dat reasoning-capaciteiten geen immuniteit bieden tegen irrelevante semantische aanwijzingen; ze kunnen ze zelfs verergeren.

2. Gevoeligheid voor Taakonrelevante Aanwijzingen

Ondanks sterke prestaties op schone data, zijn reasoning VLM's zeer gevoelig voor taakonrelevante semantische aanwijzingen. De daling in nauwkeurigheid voor reasoning modellen op Distract-Bench (8,1–12,8 procentpunten) was aanzienlijk groter dan voor hun niet-reasoning tegenhangers (6,3 procentpunten). Dit suggereert dat betrouwbaar redeneren onder schone inputs onvoldoende is om robuuste bewijsvoering te garanderen wanneer plausibele maar irrelevante visuele aanwijzingen aanwezig zijn.

3. Distractoren Betreden het Redeneerproces

Analyse op outputniveau bevestigt dat fouten geen willekeurige antwoordwisselingen zijn, maar worden gedreven door de integratie van distractoren in de redeneerketen.

Hogere Referentieratest: Reasoning modellen refereerden vaker aan distractoren dan base modellen (hogere DRR).
Schadelijke Integratie: De Harmful Reference Rate (HFR) was consequent hoger voor reasoning modellen. In gevallen van fouten behandelden modellen de distractor vaak als geldig bewijs en gebruikten ze dit om onjuiste conclusies te rechtvaardigen.
Kwalitatief Bewijs: Casestudies (bijv. geometrie problemen met geïnjecteerde hoekannotaties) lieten zien dat modellen de distractor expliciet zouden citeren (bijv. "Er wordt gezegd dat hoek ODC 30 graden is...") en op basis daarvan een foutief antwoord afleiden, terwijl base modellen de aanwijzing eerder negeerden of er onschadelijk naar verwezen.

Betekenis en Claims

Het artikel stelt dat Distract-Bench de evaluatie van robuustheid voor reasoning VLM's herkadert. De auteurs argumenteren dat het veld de focus moet verschuiven van puur gedegradeerde perceptie (kan het model het bewijs zien?) naar semantische afleiding (kan het model irrelevante maar plausibele informatie negeren?).

Belangrijke claims zijn onder meer:

Sterker redeneren betekent niet automatisch sterkere betrouwbaarheid: Het verbeteren van reasoning-capaciteiten via reinforcement learning of supervised traces maakt modellen niet noodzakelijkerwijs robuuster tegen distributieverschuivingen die betrokken zijn bij semantische ruis; het kan ze zelfs vatbaarder maken voor "redeneervallen".
Het "Reasoning Amplification" Effect: Langdurig redeneren kan de impact van irrelevante informatie versterken. Zodra een distractor is geselecteerd als onderdeel van de bewijsketen, kan het redeneerproces een coherent maar onjuist narratief construeren, wat leidt tot zelfverzekerde, foutieve antwoorden.
Noodzaak van Nieuwe Evaluatie: Betrouwbare real-world VLM's vereisen evaluatie onder misleidende semantische afleidingen, niet alleen onder perceptuele corrupties.

De auteurs concluderen dat het ontwikkelen van VLM's die zowel in staat zijn tot redeneren als robuust zijn, een cruciale toekomstige richting blijft, wat mogelijk vraat om verbeterde mechanismen voor bewijskeuze, afleiding-bewuste training of verificatie tijdens de inferentie. Ze stellen expliciet dat hun werk diagnostisch is: het brengt deze risico's in kaart zonder een specifieke mitigatiemethode voor te stellen.