Technische Samenvatting: Het corrigeren van visuele wazigheid veroorzaakt door aandachtsverspreiding om hallucinaties te verminderen

1. Probleemstelling

Multimodale Grootte Taalmodellen (MLLM's) lijden vaak aan objecthallucinaties, waarbij ze zelfverzekerde maar onjuiste beschrijvingen van visuele input genereren (bijvoorbeeld het toeschrijven van niet-bestaande objecten of onjuiste attributen). Hoewel er bestaande mitigatiestrategieën zijn – variërend van externe kennisretrieval en fine-tuning tot aanpassing van aandacht en contrastief leren – lijden deze vaak aan drie grote beperkingen:

1. Ressourcenafhankelijkheid: Veel methoden zijn afhankelijk van hulpbronnen, grote datasets of uitgebreide verwerkingstijden (bijvoorbeeld retrospectie-gebaseerde decoding).
2. Onvoldoende mechanistisch inzicht: De visuele perceptiemechanismen die ten grondslag liggen aan hallucinaties blijven slecht onderzocht. Eerdere werken schrijven hallucinaties vaak uitsluitend toe aan taalkantige bias (bijvoorbeeld tekst-inertie), en negeren vervormingen in visuele interpretatie.
3. Ruimtelijk-temporele en theoretische hiaten: Weinig studies onderzoeken hallucinaties gezamenlijk door de lens van ruimtelijke aandachtsdynamiek en temporale degradatie. Bovendien is de theoretische link tussen aandachtsverspreiding en het generalisatievermogen van het model onderkarakteriseerd.

De auteurs stellen dat hallucinaties sterk geassocieerd zijn met een menselijk aandachtsverspreidingsfenomeen, waarbij een verdeelde focus leidt tot een afgenomen visuele helderheid. In MLLM's manifesteert dit zich als ruimtelijke inconsistentie in multi-head aandacht en temporeel vervagen van aandacht voor beeldtokens tijdens autoregressieve decoding.

2. Methodologie: Aandachtsgerichte Benadering voor Verbeterde Beeldperceptie (AFIP)

Het artikel stelt AFIP voor, een trainingsvrij, plug-and-play framework dat is ontworpen om aandachtsverspreiding te corrigeren zonder extra inferentie-overhead. De methode werkt op twee hoofdvlakken:

A. Correctie van Aandachtsverspreiding op Kop-niveau (Ruimtelijke Consistentie)

Gebaseerd op de bevinding dat gehallucineerde tokens diffuse aandacht en hoge inconsistentie tussen koppen vertonen, aggregeert AFIP informatie uit meerdere aandachtkoppen om betrouwbare perceptuele aanwijzingen te identificeren.

• Mechanisme: Voor elke laag selecteert de methode de top-$k$ aandachtkoppen die de sterkste respons vertonen op beeldtokens.
• Correctie: Het berekent het gemiddelde ($Avg$) en de variantie ($Var$) van de aandachtsscores over deze geselecteerde koppen. De aandachtsscores worden vervolgens aangepast door nuttige informatie te verrijken en inconsistente responsen te bestraffen:
  $$\hat{B}^{(l,h)}_t(at, i) = B^{(l,h)}_t(at, i) + Avg^{(l)} - \alpha Var^{(l)}$$
  waarbij $\Delta^{(l)}_1 = Avg^{(l)} - \alpha Var^{(l)}$ dient als regularisatieterm om inconsistente aandacht te onderdrukken en de focus te concentreren op opvallende visuele gebieden.

B. Dynamische Historische Aandachtsversterking (Temporele Consistentie)

Om de progressieve degradatie van visuele aandacht (temporeel vervagen) tijdens langere generatie te adresseren, integreert AFIP historische visuele informatie opnieuw.

• Mechanisme: Een venster met vaste lengte slaat visuele aandachtsscores op uit eerdere decoding-stappen. De methode identificeert de meest relevante historische teksttoken en voegt de bijbehorende historische visuele aandacht samen met de huidige staat:
  $$\tilde{B}^{(l,h)}_t(at, j) = \hat{B}^{(l,h)}_t(at, j) + \gamma C^{(l,h)}_{t-1-r^{(l,h)}_t}(s+j)$$
  waarbij $\Delta^{(l,h)}_2$ de term voor historische versterking vertegenwoordigt.
• Dynamische Gating: Om overmatige aanpassing te voorkomen die vloeiende generatie zou kunnen verstoren of noodzakelijke tekstuele context zou kunnen negeren, wordt een dynamisch gating-mechanisme toegepast. Dit berekent de kloof ($D^{(l,h)}_t$) tussen de maximale aandachtsscore over visuele gebieden en de maximale score over tekstuele gebieden. Als tekstuele aandacht significant domineert ($D^{(l,h)}_t \geq \tau$), wordt de aanpassing onderdrukt om interferentie met tekstgedreven redenering te voorkomen.

C. Theoretische Grondslag

Het artikel biedt theoretische inzichten die aandachtsverspreiding koppelen aan modelcomplexiteit.

• Rademacher-complexiteit: De auteurs leiden een bovengrens af voor de Rademacher-complexiteit van de Transformer-architectuur. Ze tonen aan dat deze grens wordt geminimaliseerd wanneer aandachtkoppen uniform bijdragen (d.w.z. $a_1 = \dots = a_H = \bar{a}$). Afwijkingen van deze uniformiteit (toegenomen heterogeniteit) vergroten de complexiteitsgrens, waardoor generalisatiegaranties verzwakken.
• Generalisatiefout: Theoretische analyse suggereert dat sterke generalisatie ontstaat wanneer meerdere koppen een hoogst consistente semantische focus handhaven. Inconsistenties tussen koppen impaireren discriminatie op token-niveau, waardoor de kans op hallucinatie toeneemt.

3. Belangrijkste Bijdragen

1. Nieuwe Analogie: Het artikel is het eerste dat een sterke analogie blootlegt tussen machinehallucinaties en menselijke visuele wazigheid veroorzaakt door aandachtsverspreiding, en dit fenomeen ontleedt in ruimtelijke inconsistentie (divergentie tussen meerdere koppen) en temporele attenuatie (visueel vervagen) binnen MLLM's.
2. Theoretisch Inzicht: Het stelt theoretisch vast dat discrepanties tussen aandachtkoppen de modelcomplexiteit verhogen en discriminatie op token-niveau impaireren, wat de algehele generalisatieprestaties vermindert.
3. AFIP Framework: De voorstelling van AFIP, een trainingsvrije module die aandachtsverspreiding corrigeert via verrijking over koppen heen en dynamische historische versterking. Het vereist geen extra training en brengt geen extra inferentielatentie met zich mee.

4. Experimentele Resultaten

Uitgebreide experimenten werden uitgevoerd op meerdere benchmarks (CHAIR voor langere generatie, POPE voor binaire objectexistentie) over vijf modellen (LLaVA-1.5-7B/13B, Shikra-7B, MiniGPT-4-7B, Qwen-VL).

• Prestaties: AFIP presteerde consistent beter dan gangbare baselines, waaronder Greedy/Beam decoding, OPERA, VCD (Contrastive Decoding), HGAI (Attention Intervention) en MemVR (Hidden-state intervention).
  • Op CHAIR behaalde AFIP state-of-the-art resultaten, waarbij het hallucinatiepercentage op zinsniveau (CS) met meer dan 50% werd verminderd ten opzichte van standaard decodingstrategieën op LLaVA-1.5 en Qwen-VL.
  • Op POPE behaalde AFIP toonaangevende nauwkeurigheid en F1-scores in Random, Popular en Adversarial instellingen voor de meeste modellen.
• Robuustheid: De methode toonde robuustheid over variërende generatielengtes (64 tot 256 tokens), met name significante winsten latend zien in taken met lange sequenties waar temporale vervaging het meest uitgesproken is.
• Ablatiestudies: Het verwijderen van een component (ruimtelijke correctie, historische versterking of dynamische gating) leidde tot prestatiedegradatie, wat de noodzaak van het volledige framework bevestigt.
• Parametersensitiviteit: De methode bleek grotendeels ongevoelig voor de regularisatiecoëfficiënt voor variantie ($\alpha$) en de coëfficiënt voor historische versterking ($\gamma$), met optimale prestaties die over het algemeen worden bereikt wanneer de selectie van de top-$k$ koppen tussen 5,5 en 7,5 ligt en de gating-drempel ($\tau$) tussen 0,4 en 0,6.

5. Betekenis en Claims

Het artikel stelt dat AFIP de worteloorzaken van hallucinatie aanpakt door de "visuele wazigheid" te corrigeren die wordt veroorzaakt door aandachtsverspreiding. Door de interne aandachtsmechanismen van het model af te stemmen op de principes van gefocuste visuele perceptie (geconcentreerde ruimtelijke aandacht en aanhoudende temporele focus), verbetert AFIP de visuele verankering aanzienlijk.

De auteurs benadrukken dat hun benadering een lichtgewicht, inferentie-tijd interventie biedt die geen hertraining of externe databases vereist, waardoor het geschikt is voor realtime implementatie in risicosensitieve toepassingen. Het werk overbrugt de kloof tussen menselijke perceptiepsychologie en MLLM-architectuur, en biedt zowel een praktische oplossing als een theoretisch kader voor het begrijpen en mitigeren van hallucinaties.