Technische Samenvatting: MHSA – Een Lichtgewicht Kader voor het Mitigeren van Hallucinaties via Gestuurde Attention in LVLMs

1. Probleemstelling

Grote Visueel-Taalmodellen (LVLMs) hebben uitzonderlijke capaciteiten aangetoond in multimodale taken zoals het beantwoorden van visuele vragen (VQA) en het genereren van afbeeldingsbeschrijvingen. Ze lijden echter aan hallucinaties, waarbij ze inhoud genereren die niet overeenkomt met of afwezig is in de visuele input. Deze manifesteren zich als object-, attribuut- of relationele hallucinaties, wat de betrouwbaarheid van het model ernstig ondermijnt.

Bestaande mitigatiestrategieën staan voor aanzienlijke beperkingen:

• Op training gebaseerde methoden (bijv. RLHF, instructietuning) vereisen aanzienlijke rekenkracht en hoogwaardige geannoteerde data, en verbeteringen zijn vaak gebonden aan specifieke trainingsdistributies.
• Methoden op het moment van inferentie vertrouwen vaak op handgemaakte, vaste heuristische regels (bijv. straffuncties, statische herweging) die niet kunnen adapteren aan de specifieke hallucinatiesignaturen van individuele invoermonsters.
• Contrastieve decoding-benaderingen (bijv. VCD, ICD) verdubbelen doorgaans de inferentiekosten door meerdere forward passes te vereisen.

Recent werk, DHCP (Detecting Hallucinations by Cross-modal Attention Pattern), stelde vast dat gehallucineerde en niet-gehallucineerde monsters onderscheidende cross-modale attentionpatronen vertonen. DHCP is echter beperkt tot detectie alleen en werkt voornamelijk op zinsniveau, zonder een mechanisme te bieden voor mitigatie.

2. Methodologie: MHSA Kader

De auteurs stellen MHSA (Mitigating Hallucinations via Steered Attention) voor, een lichtgewicht, trainingsvrij kader dat de kloof tussen detectie en mitigatie overbrugt door te leren cross-modale attentionpatronen te corrigeren.

Core Architectuur

MHSA werkt via een tweestaps "detecteer-en-corrigeer"-pijplijn zonder de parameters van de LVLM-backbone te wijzigen:

1. Discriminator ($D$): Een vooringestelde, lichtgewicht twee-laags MLP (oorspronkelijk van DHCP) die fungeert als een token-level detector. Deze analyseert cross-modale attentiongewichten om hallucinatoire patronen te identificeren.
2. Generator ($G$): Een lichtgewicht drie-laags MLP die de originele cross-modale attentiontensor ($A$) als input neemt en een correctieterm ($\Delta A$) produceert.
3. Stuurmechanisme: De gecorrigeerde attention wordt berekend als $A' = A + \Delta A$. Tijdens inferentie, als $D$ een hallucinatie detecteert, genereert $G$ $\Delta A$, en gebruikt de LVLM $A'$ in plaats van $A$ om de uiteindelijke output te produceren.

Trainingsdoelen

De generator $G$ wordt getraind met een doelbestek van drie componenten om effectieve en stabiele correctie te waarborgen:

1. Detector-geleide Loss ($\mathcal{L}_{dg}$): Een adversariële loss die de generator aanmoedigt hallucinatoire attentionpatronen om te vormen naar niet-hallucinatoire patronen, zoals beoordeeld door de discriminator $D$.
2. Regularisatie Loss ($\mathcal{L}_{reg}$): Een beperking op de grootte van $\Delta A$ ($\|\Delta A\|_2^2$) om ervoor te zorgen dat correcties minimaal en lokaal zijn, waardoor de originele attentionsemantiek behouden blijft en artefacten worden voorkomen.
3. LVLM Output Kwaliteit Loss ($\mathcal{L}_{LVLM}$): Een cross-entropy loss die garandeert dat de gecorrigeerde attention de kwaliteit van de gegenereerde output van de LVLM behoudt of verbetert ten opzichte van de ground truth.

Adaptatie aan Generatieve Taken

Hoewel DHCP oorspronkelijk op zinsniveau werkte, breidt MHSA dit uit tot token-level correctie voor generatieve taken (bijv. afbeeldingsbeschrijvingen).

• De detector en generator worden getraind op per-token cross-modale attentiontensors die tijdens het genereren van afbeeldingsbeschrijvingen worden geëxtraheerd.
• Tijdens inferentie evalueert het systeem de attention bij elke decodeerstap. Als het attentionpatroon van een specifiek token als hallucinatoire wordt gemarkeerd, past de generator een correctie toe voordat dat token wordt gesampled.

3. Belangrijkste Bijdragen

1. Eerste Data-gedreven Mitigatie Kader: MHSA is het eerste kader dat hallucinaties in LVLMs mitigeert door monster-adaptieve correcties van cross-modale attentionpatronen te leren, verdergaand dan vaste heuristische regels.
2. Token-level Uitbreiding: De auteurs breiden attention-gebaseerde detectie uit van zinsniveau naar token-niveau, wat mitigatie mogelijk maakt in zowel discriminatieve (VQA) als generatieve (beschrijvingen) taken.
3. Lichtgewicht en Efficiënt: Het kader wijzigt geen LVLM-backbone parameters. Het traint alleen een kleine MLP-generator en maakt gebruik van een vooringestelde detector, wat marginale rekenoverhead introduceert ten opzichte van de inferentiekosten van de LVLM.
4. Uitgebreide Evaluatie: De methode is gevalideerd op meerdere state-of-the-art LVLMs (Qwen2.5-VL, InternVL2, LLaVA-v1.5) en diverse datasets (MSCOCO, Objects365, OpenImages, Flickr30k).

4. Experimentele Resultaten

Discriminatieve Taken (POPE Benchmark)

• Prestatie: MHSA bereikt consistente en significante verbeteringen in F1-scores voor alle geteste modellen en datasets. Bijvoorbeeld, op Qwen2.5-VL-7B met MSCOCO verbeterde MHSA de F1-score met +7,42 punten (van 85,55 naar 92,97) en Recall met +15,78 punten.
• Generalisatie: De methode toont sterke generalisatie over verschillende modelarchitecturen en datasets. Cruciaal toont het robuuste out-of-distribution (OOD) prestaties; modellen getraind op één dataset (bijv. Objects365) mitigeren effectief hallucinaties bij testen op een andere (bijv. COCO), wat suggereert dat de geleerde correcties fundamentele hallucinatiesignaturen vangen in plaats van dataset-specifieke artefacten.

Generatieve Taken (Afbeeldingsbeschrijvingen)

• Reductie van Hallucinaties: Op de Flickr30k-dataset verlaagde MHSA zowel de hallucinatiepercentages op zinsniveau ($CHAIR_s$) als op instantieniveau ($CHAIR_i$) met 44%, met slechts een lichte daling in Recall (3,9%).
• Trade-off: De methode slaagt erin hallucinatierepressie in evenwicht te brengen met inhoudbehoud, waardoor de ernstige dalingen in Recall worden vermeden die worden gezien bij agressieve heuristische methoden.

Efficiëntie

• Latentie: MHSA introduceert een geamortiseerde latentietoename van slechts 0,43× op de POPE-COCO-benchmark. Dit komt omdat de lichtgewicht detector alle monsters screenen, en de generator alleen wordt aangeroepen voor de minderheid van de monsters die als gehallucineerd worden gemarkeerd (ongeveer 12,3% in de adversariële POPE-instelling). Dit is aanzienlijk efficiënter dan contrastieve decoding-methoden die een vaste overhead van ongeveer 1,0× vereisen voor elk monster.

5. Betekenis en Claims

Het artikel beweert dat MHSA een nieuw perspectief biedt op hallucinatieonderzoek door cross-modale attentionmechanismen uit te breiden van louter detectie naar actieve mitigatie.

• Mechanistisch Inzicht: Visualisaties bevestigen dat MHSA fungeert als een gerichte correctiemechanisme. Het concentreert de attention op taakrelevante regio's en vermindert ruimtelijke entropie, waardoor het model effectief wordt "gestuurd" weg van hallucinatoire patronen zonder brede verstoring van de attentionstructuur.
• Praktijktoepasbaarheid: Door volledige modelfine-tuning te vermijden en de inferentie-overhead te minimaliseren, presenteert MHSA een praktische, inzetbare oplossing voor het verbeteren van de betrouwbaarheid van LVLMs in real-world toepassingen.
• Beperkingen: De auteurs merken op dat hoewel MHSA de metrieken significant verbetert, het geen wondermiddel is; toekomstig werk is nodig om expressievere generatorarchitecturen en bredere modeldekking te verkennen.

Kortom, MHSA maakt gebruik van de correlatie tussen attentionpatronen en hallucinaties om een lichtgewicht, data-gedreven kader te creëren dat effectief hallucinaties reduceert in zowel discriminatieve als generatieve LVLM-taken, en dat bestaande heuristische en op training gebaseerde benaderingen overtreft op het gebied van efficiëntie en generaliseerbaarheid.