VCE: A zero-cost hallucination mitigation method of LVLMs via visual contrastive editing

Probleemstelling: Object-Hallucinatie in LVLM's

Grote Visueel-Taalmodellen (Large Vision-Language Models, LVLM's) lijden vaak aan object-hallucinatie (Object Hallucination, OH). Dit is het fenomeen waarbij het model beschrijvingen genereert die objecten bevatten die niet daadwerkelijk in de invoerafbeelding aanwezig zijn.

• Oorzaak: Het paper stelt dat dit voornamelijk voortkomt uit taalkundige priors (language priors). Tijdens het vooraf trainen leren modellen statistische co-occurrences tussen woorden (bijv. "bord" en "vork"), waardoor ze deze objecten genereren op basis van taalkundige waarschijnlijkheid in plaats van visuele bewijzen.
• Gevolg: Dit leidt tot onnauwkeurigheden met ernstige gevolgen in kritieke domeinen zoals medische beeldvorming (verkeerde diagnoses) en autonoom rijden (niet-bestaande voetgangers detecteren).
• Bestaande oplossingen: Huidige methoden vereisen vaak gelabelde data, extra inferentiestappen (wat de rekentijd verhoogt) of finetuning, wat ze minder schaalbaar en praktisch maakt voor gebruik in resource-beperkte omgevingen.

Methodologie: Visual Contrastive Editing (VCE)

De auteurs stellen VCE voor, een post-hoc (na-training) methode die hallucinaties onderdrukt zonder extra training of inferentiekosten. De aanpak bestaat uit drie hoofdstappen:

1. Constructie van Contrastieve Paren:

   • In plaats van handmatige annotatie, genereert VCE automatisch positieve en negatieve voorbeelden.
   • Voor een originele afbeelding $I$ wordt een verstoord (perturbed) beeld $I'$ gegenereerd met behulp van een forward diffusion proces. Deze verstoring verandert lokale visuele kenmerken terwijl de globale semantiek behouden blijft.
   • Het model wordt zowel op de originele als de verstoord afbeelding ingevoerd met dezelfde tekstprompt.

2. Identificatie van Hallucinatie-Subruimtes:

   • Het paper analyseert de logit-verschuivingen (veranderingen in waarschijnlijkheid) en de verborgen toestanden (hidden states) van het model tussen de originele en verstoord afbeelding.
   • Tokens die sterk reageren op de visuele verstoring (grote logit-verschillen) worden geïdentificeerd als potentieel hallucinerend.
   • Een gewichtingsvector wordt berekend op basis van een robuuste z-score methode om tokens met hoge hallucinatie-kansen zwaarder te wegen.
   • Het verschil in verborgen toestanden tussen de positieve en negatieve samples wordt geaggregeerd tot een vector die de "taal-prior subruimte" vertegenwoordigt.

3. Model Editing via SVD:

   • Met behulp van Singular Value Decomposition (SVD) wordt de subruimte geïsoleerd die verantwoordelijk is voor hallucinaties (de "HalluSpace").
   • De modelgewichten ($W_l$) van de geselecteerde lagen worden offline geprojecteerd op het nulpunt (null space) van deze hallucinatie-subruimte.
   • Formule: $W^{edited}_l = W_l (I - S_k^l (S_k^l)^\top)$.
   • Dit proces verwijdert de componenten die hallucinaties veroorzaken, zonder de inferentie-snelheid te beïnvloeden, omdat de wijziging plaatsvindt in de modelparameters zelf, niet tijdens de inferentie.

Belangrijkste Bijdragen

1. Label-vrij Kader: VCE vereist geen gelabelde data of handmatige hallucinatie-annotaties; het gebruikt gecontroleerde visuele verstoringen om de "handtekening" van hallucinaties bloot te leggen.
2. Subruimte Model Editing: Het introduceert een lichtgewicht, op SVD gebaseerde methode om modelparameters direct te bewerken, waardoor hallucinaties worden onderdrukt zonder post-training of finetuning.
3. Praktische Efficiëntie: De methode introduceert geen extra inferentiekosten (zero-cost). In tegenstelling tot methoden die meerdere inferentiestapjes vereisen (zoals VCD), behoudt VCE de oorspronkelijke rekentijd van het model.

Resultaten

De auteurs hebben VCE getest op drie populaire LVLM's (LLaVA-1.5, MiniGPT-4, mPLUG-Owl2) en twee benchmarks: CHAIR (voor hallucinatie-ratio) en POPE (voor object-aanwezigheid).

• CHAIR Benchmark: VCE presteerde overtuigend beter dan state-of-the-art methoden zoals DoLa, OPERA, VCD en Woodpecker. Het bereikte de laagste CHAIRS/CHAIRI scores (minder hallucinaties) en behield tegelijkertijd de hoogste BLEU-scores (kwaliteit van de tekstgeneratie).
  • Voorbeeld (LLaVA-1.5): CHAIRS daalde van 19.3 (Greedy) naar 15.4 (VCE), terwijl de BLEU-score steeg van 16.12 naar 17.25.
• POPE Benchmark: VCE leverde de hoogste nauwkeurigheid, precisie en F1-scores op voor het detecteren van objecten, wat aantoont dat het model beter leert onderscheid te maken tussen wat er wel en niet in de afbeelding staat.
• Efficiëntie: Zoals weergegeven in Tabel 3, heeft VCE dezelfde tijdscomplexiteit ($O(n^2)$) als standaard zoekstrategieën, terwijl methoden zoals VCD en OPERA aanzienlijk langzamer zijn door hun extra inferentiestapjes.

Betekenis en Impact

Dit paper biedt een schalbare en praktische oplossing voor een van de grootste veiligheidsproblemen in multimodale AI.

• Zero-Cost: De mogelijkheid om hallucinaties te onderdrukken zonder extra rekenkracht tijdens het gebruik maakt de methode ideaal voor real-time toepassingen (zoals autonome voertuigen of medische hulpmiddelen).
• Mechanistisch Inzicht: Het paper benadrukt dat hallucinaties voortkomen uit diepgewortelde taalkundige biases die in de modelgewichten zijn opgeslagen, en dat deze direct kunnen worden "geëditeerd" in plaats van alleen via inferentie te worden gepatcht.
• Toekomstperspectief: Omdat de methode model-agnostisch is, kan deze eenvoudig worden toegepast op verschillende LVLM-architecturen en mogelijk worden uitgebreid naar andere modaliteiten.

Kortom, VCE is een doorbraak in het creëren van betrouwbaardere visueel-taalmodellen door de fundamentele oorzaken van hallucinaties aan te pakken in plaats van alleen de symptomen te behandelen.