Technische Samenvatting: MLLMs Get It Right, Then Get It Wrong: Sporen en Corrigeren van Laat-Lagen Textuele Bias

1. Probleemstelling

Multimodale Large Language Models (MLLMs) vertonen een consistente bias naar tekstuele informatie wanneer deze in strijd is met visueel bewijs. Zelfs wanneer een afbeelding duidelijk bewijs levert van een feit (bijv. een rode auto), geven MLLMs vaak het antwoord dat door de conflicterende tekst wordt gesuggereerd (bijv. "blauwe auto"). Deze "textuele override" vormt aanzienlijke risico's voor veiligheidskritische toepassingen zoals medische diagnose of autonoom rijden, waarbij het vertrouwen in foutieve tekst boven visuele perceptie tot ernstige fouten kan leiden.

Eerder werk heeft dit fenomeen gedocumenteerd, maar heeft niet verhelderd wat de onderliggende mechanismen zijn. Het blijft onduidelijk of de fout voortkomt uit slechte initiële visuele codering, informatieverlies tijdens cross-modale fusie, of de correcte verwerking van visuele data gevolgd door de daaropvolgende overschrijving ervan door tekstuele priors in diepere lagen.

2. Methodologie en Analyse

2.1 Laag-gewijze Sporing en Modal Dominance Ratio (MDR)

Om het falingsmechanisme te onderzoeken, traceren de auteurs de voorspellingspaden over de lagen van het model. Ze projecteren verborgen toestanden (hidden states) op elke laag $l$ naar output-waarschijnlijkheden met behulp van de taalmodel-kop. Ze introduceren de Modal Dominance Ratio (MDR) om de voorkeur voor visuele ($w_{vis}$) versus tekstuele ($w_{text}$) antwoorden op elke laag te kwantificeren:
$$\text{MDR}^{(l)} = \log \frac{P^{(l)}_t(w_{vis})}{P^{(l)}_t(w_{text})}$$

• Positieve MDR: Voorkeur voor het visuele antwoord.
• Negatieve MDR: Voorkeur voor het tekstuele antwoord.

2.2 Het "Late-Layer Textual Override" Fenomeen

Analyse van Conflict-Incorrect monsters (waarbij het model faalt) onthult een verrassend patroon:

1. Initiële Correctheid: In de intermediaire lagen kent het model een hogere waarschijnlijkheid toe aan het correcte visuele antwoord (Positieve MDR).
2. De Override: In latere lagen klapt de MDR om naar negatief, en verschuift het model zijn voorkeur naar het incorrecte tekstuele antwoord.
3. Conclusie: De visuele informatie wordt succesvol gecodeerd, maar slaagt er niet in om de volledige forward pass te overleven vanwege verwerking in de latere lagen.

2.3 Directional Signature van Correctheid

De auteurs observeren dat voorspellingsverschuivingen optreden in zowel succesvolle als falende gevallen. Echter, de richting van de verschuiving onderscheidt deze:

• Falen (Conflict-Incorrect): 85% van de transities verschuift naar tekst ($\Delta \text{MDR} < 0$).
• Succes (Conflict-Correct & Non-Conflict): 89–91% van de transities verschuift naar visie of blijft stabiel ($\Delta \text{MDR} > 0$).

Deze directionele asymmetrie suggereert dat latere lagen soms voorspellingen verfijnen (benefiek), maar soms visueel bewijs onderdrukken (schadelijk).

2.4 Conflict-Aware Layer Reference Decoding (CALRD)

Op basis van deze bevindingen stellen de auteurs CALRD voor, een training-vrije interventiemethode tijdens de inferentie. Het vereist geen externe kennis of hertraining.

Detectiemechanisme:
CALRD identificeert "schadelijke overrides" met behulp van twee signalen afgeleid van de transitielaag ($L_{trans}$), gedefinieerd als de laag met de scherpste distributionele verschuiving (gedetecteerd via Jensen-Shannon Divergentie):

1. Anchor Confidence ($D_{conf}$): De waarschijnlijkheid van de top-voorspelling op de transitielaag. Hoge betrouwbaarheid duidt op een sterke intermediaire voorkeur.
2. Prediction Retention ($\rho$): De ratio van de waarschijnlijkheid van de laatste laag ten opzichte van de waarschijnlijkheid van de transitielaag voor hetzelfde token. Lage retentie geeft aan dat de voorspelling werd onderdrukt.

Interventielogica:
Een correctiekracht $\lambda$ wordt berekend als:
$$\lambda = D_{conf} \cdot (1 - \rho)$$

• Als er een betrouwbare voorspelling bestaat ($D_{conf}$ hoog) maar deze wordt onderdrukt ($\rho$ laag), wordt $\lambda$ groot.
• Als de voorspelling stabiel of onzeker is, blijft $\lambda$ nabij nul.

Decoding Strategie:
De uiteindelijke output-logits worden aangepast door de logits van de transitielaag te mengen met de logits van de laatste laag:
$$\phi'_t = (1 - \lambda) \cdot \phi^{(N)}_t + \lambda \cdot \phi^{(L_{trans})}_t$$
Dit herstelt het visueel gegronde antwoord dat aanwezig was in de intermediaire lagen, maar werd overschreven in de finale output.

3. Belangrijkste Bijdragen

1. Mechanistische Ontdekking: Het artikel identificeert "late-layer textual override" als de primaire oorzaak van visueel-tekstuele conflict-fouten, en demonstreert dat modellen vaak eerst "het goed hebben" voordat ze van mening veranderen.
2. Directional Predictor: De auteurs tonen aan dat de richting van voorspellingsverschuivingen (naar tekst vs. naar visie) een betrouwbare voorspeller is van correctheid, waarbij ze schadelijke overrides onderscheiden van begunstige verfijningen.
3. CALRD Methode: Een training-vrije decodingstrategie die selectief overschreven voorspellingen herstelt met behulp van interne model-signalen, waarbij de standaardprestaties behouden blijven terwijl conflicten worden gecorrigeerd.
4. Conflict-VQA Benchmark: De constructie van een nieuwe diagnostische benchmark (5.969 monsters) met expliciete visuele-tekstuele annotaties om mechanistische analyse van conflictresolutie te faciliteren.

4. Experimentele Resultaten

De auteurs evalueerden CALRD op vijf MLLMs (InstructBLIP, LLaVA-1.5/1.6, Qwen2.5-VL, Qwen3-VL) over verschillende architecturen heen.

• Conflict Benchmarks: CALRD bereikte tot wel 9,4% absolute verbetering op conflict-taken (bijv. PhD-icc en Conflict-VQA).
  • Op PhD-icc verbeterde LLaVA-1.5 van 27,72% naar 36,35% (+8,63%).
  • Verbeteringen waren over het algemeen groter voor zwakkere modellen, aangezien sterkere modellen al meer conflicten correct oplossen in hun latere lagen.
• Standaard Benchmarks (Non-Conflict): CALRD behield grotendeels de prestaties of verbeterde licht op standaard hallucinatie-benchmarks (POPE en CHAIR), wat aantoont dat de methode de prestaties op niet-conflict taken niet indiscriminately verslechtert.
• Vergelijking: CALRD presteerde beter dan bestaande laag-gebaseerde methoden zoals DoLa en DeCo, die vaak uniforme correcties toepassen en de prestaties kunnen verslechteren wanneer latere laag-verwerking eigenlijk gunstig is.
• Efficiëntie: CALRD voegt minimale overhead toe (~1,5ms/token en 80MB geheugen) vergeleken met vanilla decoding, wat het praktisch maakt voor implementatie.

5. Betekenis en Claims

Het artikel claimt een verschuiving in perspectief voor het verbeteren van de betrouwbaarheid van MLLMs: in plaats van uitsluitend te focussen op het leren van modellen om "beter te zien" (betere visuele codering), kan betrouwbaarheid worden verbeterd door modellen te helpen behouden wat ze al hebben gezien.

De auteurs benadrukken dat hun methode bescheiden is in omvang:

• Het adresseert een specifieke foutmodus (late-layer override) in plaats van alle hallucinaties.
• Het vertrouwt op de eigen interne representaties van het model, zonder externe kennisbases of extra trainingsdata te vereisen.
• De interventie is adaptief; het activeert alleen wanneer de specifieke signatuur van een schadelijke override (hoge betrouwbaarheid + lage retentie) wordt gedetecteerd, waardoor ervoor wordt gezorgd dat begunstige verwerking in latere lagen niet wordt verstoord.

Het werk suggereert dat het "blinde vertrouwen in tekst" dat bij MLLMs wordt waargenomen, niet noodzakelijkerwijs een gebrek aan visueel begrip is, maar een falen van informatiebehoud door de netwerkdiepte. CALRD biedt een mechanisme om deze verloren gegane informatie te herstellen.