INFACT: A Diagnostic Benchmark for Induced Faithfulness and Factuality Hallucinations in Video-LLMs

Deze paper introduceert INFACT, een diagnostische benchmark met bijna 10.000 vragen om hallucinaties in Video-LLMs te evalueren op zowel trouw aan video-inhoud als feitelijke juistheid onder diverse verstoordingscondities, waarbij experimenten aantonen dat hoge prestaties in schone omstandigheden niet garanderen dat modellen betrouwbaar blijven bij visuele degradatie of tijdsinterventies.

De kern

Stel je voor dat Video-LLMs (Video-Grote Taalmodellen) als slimme, maar soms dromerige tolken zijn. Je laat ze een video zien en vraagt: "Wat gebeurt er hier?" of "Is dit logisch?". Vaak geven ze het perfecte antwoord, maar soms beginnen ze te fantaseren. Ze zeggen dat een man een vliegtuig bestuurt, terwijl hij in de video gewoon een auto rijdt, of ze beweren dat een recept werkt, terwijl de stap-voor-stap instructies in de video totaal onzin zijn. Dit noemen we hallucinaties.

Deze paper introduceert een nieuwe test, genaamd INFACT, om te zien hoe goed deze "tolken" echt zijn, en vooral: hoe ze reageren als we ze een beetje in de war sturen.

Hier is de uitleg in simpele taal, met een paar creatieve vergelijkingen:

1. Het Probleem: De "Zuivere" Test is niet genoeg

Tot nu toe hebben we de modellen getest in een stille, schone kamer (de "Base" modus). Daar presteren ze geweldig. Maar in het echte leven is het niet altijd stil en schoon.

• De vergelijking: Stel je voor dat je een student test in een stil lokaal. Hij haalt een 10. Maar als je hem in een drukke kroeg zet met flitsende lichten en iemand die tegen hem schreeuwt, valt hij misschien door de mand. INFACT test niet alleen of de student slim is, maar of hij niet van zijn stuk raakt als de omstandigheden slecht worden.

2. Wat is INFACT? Een "Diagnose-Apparaat"

INFACT is een enorme verzameling van bijna 10.000 vragen over video's. Het is verdeeld in twee hoofdsoorten "waanzin":

• Getrouwheid (Faithfulness): "Kijk je wel goed naar de video?"
  • Voorbeeld: De video toont een blauwe auto, maar het model zegt: "Het is een rode fiets."
  • Analogie: Dit is alsof je een schilderij bekijkt en iemand zegt: "Dat is een foto van een hond." Het model negeert wat het echt ziet.
• Feitelijkheid (Factuality): "Weet je ook hoe de wereld werkt?"
  • Voorbeeld: De video toont iemand die een auto-reparatie doet, maar de volgorde van de stappen is onlogisch (eerst de motor eruit, dan pas de wielen). Het model zegt: "Ja, dat klopt."
  • Analogie: Dit is alsof iemand een recept voor een taart leest en zegt: "Ja, dat is logisch," terwijl je eerst de eieren moet bakken voordat je ze in het mengsel doet. Het model kent de regels van de echte wereld niet.

3. De Vier Manieren om ze te "Prikken" (De Test)

INFACT test de modellen op vier manieren, alsof je een auto op de proef stelt:

1. De Rustige Test (Base): De video is perfect, de vraag is duidelijk. Dit is de basisprestatie.
2. De Ruisende Camera (Visuele Degradatie): We maken de video wazig, voegen ruis toe of maken hem wazig alsof de camera trilt.
   • Doel: Zie je nog steeds wat er gebeurt, of raak je in paniek en verzinnen je dingen?
3. De Leugenaar in de Hoek (Bewijsvervalsing): We voegen ondertitels toe die leugens vertellen. Bijvoorbeeld: de video toont iemand die een deur opent, maar de ondertitel zegt: "Hij sluit de deur."
   • Doel: Luistert het model naar wat het ziet (de video), of naar wat er geschreven staat (de tekst)? Veel modellen luisteren te veel naar de tekst en vergeten hun ogen te gebruiken.
4. De Tijdreis (Temporale Interventie): We draaien de video op zijn kop of wisselen de beelden door elkaar. Een dans die eerst "links-rechts" was, wordt nu "rechts-links".
   • Doel: Begrijpt het model dat tijd belangrijk is? Als het model na het draaien nog steeds zegt: "Ja, dat was een logische dans," dan is het tijd-ongevoelig. Het kijkt niet naar de volgorde, maar raadt alleen maar.

4. Wat hebben ze ontdekt? (De Resultaten)

De onderzoekers hebben 14 verschillende modellen getest. Hier zijn de belangrijkste bevindingen, vertaald naar alledaags Nederlands:

• Slim zijn in de klas betekent niet slim zijn in de storm: Modellen die een 10 haalden in de "Rustige Test", vielen vaak door de mand toen de video wazig was of de ondertitels liegen.
• De "Tijds-Verlamming": Dit is de meest verrassende ontdekking. Veel modellen (vooral de open-source versies) hebben een tijdsverlamming. Als je de volgorde van de video verwisselt, zeggen ze nog steeds hetzelfde antwoord alsof er niets gebeurd is.
  • Analogie: Het is alsof je een film achterstevoor afspeelt en de kijker zegt: "Ja, dat verhaal klopt nog steeds." Ze kijken niet naar de beweging, maar naar statische beelden. Ze missen het gevoel voor tijd.
• Tekst is een valstrik: Modellen zijn erg gevoelig voor leugenachtige ondertitels. Als de tekst zegt "De auto is rood", zelfs als de auto blauw is, geloven ze de tekst sneller dan hun eigen ogen.

5. Waarom is dit belangrijk?

Voor nu zijn deze modellen geweldig voor het maken van grappige filmpjes of het samenvatten van nieuws. Maar als je ze wilt gebruiken voor veiligheid (bijvoorbeeld: een robot die een operatie doet, of een auto die zelfstandig rijdt), mag je geen hallucinaties hebben.

INFACT is als een medische scan voor deze AI's. Het laat zien waar ze "ziek" zijn:

• Ze zijn soms te lui om goed naar de video te kijken (ze vertrouwen te veel op tekst).
• Ze begrijpen niet hoe tijd werkt (ze vergeten dat een gebeurtenis eerst moet gebeuren voordat de volgende komt).

Kortom: INFACT zegt ons: "Hé, deze modellen zijn slim, maar ze zijn nog niet betrouwbaar genoeg om in het echte, rommelige leven te werken zonder dat ze gaan fantaseren."

Technische samenvatting

1. Het Probleem

Video Large Language Models (Video-LLMs) hebben recentelijk grote stappen gemaakt in het begrijpen van video's, maar ze blijven onbetrouwbaar door hallucinaties. Deze hallucinaties manifesteren zich op twee manieren:

• Faithfulness (Getrouwheid): De output van het model staat in tegenspraak met het visuele bewijs in de video (bijv. het verkeerd beschrijven van een object of actie).
• Factuality (Feitelijkheid): De output staat in tegenspraak met verifieerbare wereldkennis (bijv. fysische wetten, historische feiten of procedures), zelfs als de video zelf correct wordt geïnterpreteerd.

Bestaande benchmarks hebben twee belangrijke tekortkomingen:

1. Ze focussen voornamelijk op faithfulness-hallucinaties en bestuderen factuality-hallucinaties onvoldoende.
2. Ze evalueren modellen vaak alleen in "schone" (clean) omstandigheden. Hoge nauwkeurigheid in schone scenario's garandeert niet dat een model betrouwbaar is; modellen kunnen namelijk "shortcuts" gebruiken (zoals taalkennis of statische aanwijzingen) in plaats van daadwerkelijk naar de video te kijken.

2. Methodologie: INFACT Benchmark

De auteurs introduceren INFACT, een diagnostisch benchmark dat bestaat uit 9.800 vraag-antwoordparen (QA instances) die zowel echte als synthetische video's omvatten.

Taxonomie

INFACT classificeert hallucinaties in twee hoofdcategorieën met fijne granulariteit:

• Faithfulness: Gebaseerd op visueel bewijs.
  • Statische Entiteiten & Attributen: Objectherkenning, telling, kleur, tekst in de scène.
  • Dynamische Acties & Bewegingen: Actieherkenning, tellen van herhalingen, bewegingsrichting.
  • Spatio-temporele Relaties: Ruimtelijke relaties, tijdsrelaties, statieveranderingen, tijdslokaliseren.
• Factuality: Gebaseerd op wereldkennis.
  • Domeinkennis (Know-WHAT): Culturele evenementen, historische achtergronden, geografische locaties, entertainment.
  • Procedurele Kennis (Know-HOW): Logica van stappenreeksen (elektronica, mechanica, huishouden, klinisch).
  • Fysische Kennis (Know-WHY): Toepassing van natuurwetten (mechanica, vloeistoffen, materiaaleigenschappen).

Evaluatiemodi (Inductie van Hallucinaties)

Om de robuustheid te testen, worden vier evaluatiemodi gebruikt waarbij de vragen constant blijven maar de video-input wordt gemanipuleerd:

1. Base (Modus I): Schone, onveranderde video (baseline).
2. Visual Degradation (Modus II): Visuele verstoringen zoals Gaussisch ruis, bewegingsonscherpte (motion blur) en compressie-artefacten. De juiste antwoordlabel blijft gelijk.
3. Evidence Corruption (Modus III): Introductie van misleidende externe signalen.
   • Caption Injection: Ondertitels die in conflict zijn met de video (bijv. video toont "deur openen", tekst zegt "deur sluiten").
   • Subtitle Corruption: Verkeerde ASR/OCR-uitvoer.
   • Adversarial Noise: Black-box perturbaties op de visuele encoder.
   • De juiste antwoordlabel blijft hier ook gelijk.
4. Temporal Intervention (Modus IV): De temporale structuur wordt bewust vernietigd (frames worden geschud of omgekeerd) voor vragen waarbij de volgorde cruciaal is. Hierdoor wordt de oorspronkelijke ground truth ongeldig.

Metrieken

• Resist Rate (RR): Meet de stabiliteit bij Modus II en III. Het is het percentage van de correcte Base-antwoorden dat behouden blijft onder degradatie of corruptie.
• Temporal Sensitivity Score (TSS): Meet de gevoeligheid bij Modus IV. Het is het percentage van de correcte Base-antwoorden dat verandert nadat de tijdsorde is verstoord. Een lage TSS duidt op "temporale inertie" (het model negeert de volgorde en vertrouwt op statische priors).

3. Belangrijkste Resultaten

De auteurs hebben 14 representatieve Video-LLMs geëvalueerd, waaronder gesloten systemen (GPT-5.1, Gemini3-flash) en open-source modellen (Qwen, InternVL, PLLaVA, etc.).

• Correlatie vs. Betrouwbaarheid: Er is een sterke correlatie tussen Base-nauwkeurigheid en algemene betrouwbaarheid, maar de rangschikkingen verschillen aanzienlijk. Modellen met vergelijkbare Base-scores presteren heel verschillend onder gestoorde omstandigheden.
• Kwetsbaarheid voor Misleidende Signalen: Modellen zijn kwetsbaarder voor Evidence Corruption (vooral misleidende ondertitels) dan voor puur visuele degradatie. Dit suggereert dat modellen vaak te veel vertrouwen op tekstuele hints in plaats van visueel bewijs.
• Temporale Inertie: Veel open-source baselines vertonen een TSS van bijna nul op feitelijkheidsvragen. Dit betekent dat ze niet reageren op het verstoren van de tijdsorde; ze geven hetzelfde antwoord, zelfs als de video's volgorde onzin is geworden. Dit wijst op een gebrek aan echte tijdsgebonden redenering.
• Factuality vs. Faithfulness: Modellen presteren over het algemeen slechter op factuality (vooral procedurele en fysische redenering) dan op faithfulness.
• Frame Sampling: Het verhogen van het aantal gesamplede frames (van 8 naar 32) verbetert de Base-nauwkeurigheid, maar leidt niet tot een consistente verbetering in de betrouwbaarheid (RR) of tijdsgevoeligheid (TSS) onder gestoorde omstandigheden.

4. Bijdragen

De paper levert drie belangrijke bijdragen:

1. INFACT Benchmark: Een uitgebreid dataset van 9.800 items met een fijne taxonomie voor zowel getrouwheid als feitelijkheid, inclusief synthetische video's voor fysische tests.
2. Evaluatieprotocol: Een uniek vier-modus protocol (Base, Visuele Degradatie, Bewijscorruptie, Temporele Interventie) met gepaarde metrieken (RR en TSS) om de stabiliteit en tijdsgevoeligheid kwantitatief te meten.
3. Systematische Analyse: Een evaluatie van 14 modellen die aantoont dat hoge schone scores niet gelijkstaan aan hoge betrouwbaarheid, en dat veel modellen nog steeds afhankelijk zijn van statische priors in plaats van dynamische video-evidence.

5. Betekenis en Conclusie

INFACT biedt een kritisch inzicht in de huidige beperkingen van Video-LLMs. Het paper benadrukt dat het simpelweg trainen op schone data niet voldoende is voor betrouwbare toepassingen. De resultaten tonen aan dat modellen vaak "hallucineren" door te vertrouwen op taalkennis of statische cues in plaats van de video dynamisch te analyseren, vooral bij complexe procedurele of fysische vragen.

De benchmark is essentieel voor het ontwikkelen van toekomstige modellen die niet alleen "slimmer" lijken in schone tests, maar ook robuust zijn tegen misleidende signalen en echt begrijpen hoe tijd en causale relaties in video's werken. Het stelt onderzoekers in staat om specifiek te werken aan het verminderen van tijdsinertie en het verbeteren van de prioriteit van visueel bewijs boven tekstuele hints.