Technische Samenvatting: Naar het verminderen van hallucinaties in Large Vision-Language Models door tekstuele embeddings te verfijnen

1. Probleemstelling

Large Vision-Language Models (LVLMs) lijden frequent aan hallucinaties: outputs die taalkundig vloeiend zijn, maar feitelijk onjuist of niet ondersteund door de visuele input. Deze fouten manifesteren zich als object-hallucinaties (het verzinnen van niet-bestaande items), attribuut-hallucinaties (het verkeerd identificeren van kleuren of eigenschappen), relatie-hallucinaties (het fabriceren van ruimtelijke relaties) en temporele hallucinaties (het verzinnen van acties in video).

De auteurs hypothetiseren dat een primaire bron van deze hallucinaties een modaliteits-imbalans is, geworteld in het heersende architecturale paradigma. De meeste LVLMs (bijv. Video-LLaVA, LLaVA) werken door visuele embeddings toe te voegen aan de input-tokenstroom van een vooraf getraind Large Language Model (LLM). Omdat de LLM-backbone uitsluitend op tekst is getraind, bezit het een inherente bias naar taalgestuurde redenering. Tijdens fine-tuning heeft het model de neiging om te veel te vertrouwen op tekstuele priors en visuele embeddings onderbenut te gebruiken, waarbij visuele tokens als secundair worden behandeld. Dit leidt tot een asymmetrische aandachtverdeling waarbij het model zwaar focust op tekstuele tokens bij de grenzen van de sequentie en de visuele tokens daartussen verwaarloost, wat resulteert in outputs die semantisch plausibel maar visueel ongegrond zijn.

2. Methodologie: VisAlign

Om deze onbalans aan te pakken, stellen de auteurs VisAlign voor, een methode die tekstuele embeddings verfijnt door globale visuele context te integreren voordat de tokens de transformer-lagen ingaan. In tegen tegenstelling tot benaderingen die het aandachtmechanisme tijdens de inferentie wijzigen of complexe cross-attention modules toevoegen, opereert VisAlign op representatieniveau om gebalanceerde cross-modale redenering tijdens de training te stimuleren.

De kernmechanisme omvat drie stappen:

1. Globale Visuele Aggregatie: De geprojecteerde visuele embeddings ($V_{proj}$) worden gemiddeld met behulp van een parameter-vrije pooling-operatie om een enkele globale visuele samenvattingsvector ($\hat{V}$) te creëren.
2. Tekstuele Embedding Verfijning: Deze globale visuele vector wordt geconcateneerd met de originele tekstuele embeddings ($T$) langs de embedding-dimensie. Een lineaire projectielaag brengt deze gefuseerde representatie vervolgens terug naar de originele LLM-embeddingdimensie, wat resulteert in visueel gegronde tekstuele embeddings ($\hat{T}$).
3. Reconstructie: De sequentie wordt gereconstrueerd door de verfijnde tekstuele embeddings ($\hat{T}$) en de originele visuele embeddings ($V_{proj}$) toe te voegen in de standaardvolgorde die door het baseline-model wordt gebruikt.

Belangrijke Ontwerpprincipes:

• Injectie op Representatieniveau: Visuele informatie wordt direct in de taalrepresentatie geïnjecteerd, waardoor het model wordt gedwongen embeddings te leren die zowel tekstuele als visuele semantiek dragen.
• Architectuur-Agnostisch: De methode wijzigt de LLM-backbone architectuur niet en vereist geen complexe cross-attention mechanismen; het wijzigt simpelweg de input-tokensequentie.
• Trainingsstrategie: VisAlign wordt getraind naast de standaard pre-training en fine-tuning fasen van het baseline LVLM (bijv. Video-LLaVA). In de pre-training fase worden de projectie- en lineaire lagen getraind terwijl de LLM bevroren is; in de fine-tuning fase wordt het volledige model end-to-end getraind.

3. Belangrijkste Bijdragen

• Systematische Analyse van Modaliteits-imbalans: Het paper levert empirisch bewijs (via visualisatie van aandachtsscores) dat standaard LVLMs een sterke bias vertonen naar tekstuele tokens, wat leidt tot gefragmenteerde aandacht op visuele inhoud.
• Een Eenvoudige, Effectieve Mitigatiestrategie: VisAlign biedt een lichtgewicht oplossing die de aandacht herbalanceert door visuele context direct in tekstuele tokens in te bedden, waardoor de uitlijning verschuift van de aandachtsfase naar de embeddingfase.
• Generaliseerbaarheid: De methode wordt bewezen effectief te zijn, niet alleen voor Video-LLaVA, maar ook voor andere state-of-the-art modellen zoals LLaVA 1.5 en Open-Qwen2VL.
• Complementariteit: De aanpak wordt getoond als orthogonaal aan inferentie-tijd decoding-strategieën (bijv. Visual Contrastive Decoding), waardoor gecombineerde verbeteringen mogelijk zijn.

4. Experimentele Resultaten

De auteurs evalueerden VisAlign over meerdere hallucinatie-benchmarks en rapporteerden consistente en statistisch significante winsten:

• MMVP-MLLM: Behaalde een verbetering van +9,33% in nauwkeurigheid, wat duidt op een verbeterde fijnmazige visuele discriminatie.
• POPE (A-OKVQA): Verbeterde de nauwkeurigheid met +2,99%, precisie met +1,76% en de F1-score met +1,18%, wat wijst op een reductie van object-niveau hallucinaties.
• Merlin: Toonde verbeteringen van tot +3,4% in feitelijke consistentie en object-existentie verificatie.
• HallusionBench: Behaalde een verbetering van +3% op de hard-data split, met name in taken die visuele grounding vereisen boven geïnformeerde kennis (bijv. Kaart, OCR, Tabel).
• Mementos: Demonstreerde winsten in de Robotica-domeinen voor zowel object (+1,13%) als actie (+0,97%) hallucinaties, hoewel de verbeteringen bescheidener waren in complexe domeinen zoals Comics en Daily Life.
• Generalisatie: Wanneer toegepast op LLaVA 1.5 en Open-Qwen2VL, reduceerde VisAlign consistent hallucinaties en verbeterde het de prestaties op de POPE benchmark.
• Vergelijking: VisAlign presteerde beter dan de inferentie-tijd methode Visual Contrastive Decoding (VCD) alleen. Het combineren van VisAlign met VCD leverde de hoogste algehele prestaties op, wat hun complementaire aard bevestigt.

5. Betekenis en Claims

Het paper claimt dat hallucinaties in LVLMs fundamenteel verbonden zijn met de structurele asymmetrie van huidige architecturen, waarbij pre-trained LLM's het redeneerproces domineren. Door tekstuele embeddings te verfijnen om globale visuele context te bevatten, dwingt VisAlign het model om meer gelijkwaardig aandacht te besteden aan visueel bewijs, waardoor de afhankelijkheid van linguïstische priors wordt verminderd.

De auteurs positioneren VisAlign als een eenvoudige maar principiële benadering die de visuele grounding verbetert zonder dat er architecturale overhaals of externe supervisie nodig is. Ze merken op dat hoewel de methode de prestaties op visuele grounding-taken aanzienlijk verhoogt, dit kan leiden tot lichte prestatie-trade-offs in kennis-zware categorieën (bijv. landmerken, beroemdheden) waar afhankelijkheid van geïnformeerde wereldkennis gunstig is. Het werk beoogt verdere research te inspireren naar representatie-niveau uitlijning om de betrouwbaarheid van multimodale redenering in veiligheidskritische toepassingen te vergroten.