Mitigating Multimodal LLMs Hallucinations via Relevance Propagation at Inference Time

Technische Samenvatting: Het Mitigeren van Hallucinaties bij Multimodale LLM's via Relevantiepropagatie tijdens Inference

Probleemstelling
Multimodale Grote Taalmodellen (MLLM's) hebben aanzienlijke capaciteiten aangetoond in het integreren van taal met perceptuele inputs zoals afbeeldingen en audio. Een kritieke beperking blijft echter bestaan: deze modellen lijden frequent aan hallucinaties, waarbij outputs worden gegenereerd die inconsistent zijn met of niet worden ondersteund door de verstrekte perceptuele bewijzen. De auteurs stellen dat dit fenomeen voortkomt uit een inherente onbalans in modale gebruik tijdens inference. Specifiek hebben tekstuele tokens de neiging om het generatieproces te domineren, terwijl visuele of auditieve tokens onvoldoende aandacht krijgen. Bijgevolg vertrouwen modellen vaak op sterke tekstuele taalpriors in plaats van op verankerde perceptuele bewijzen, wat leidt tot plausibele maar feitelijk onjuiste beschrijvingen van niet-bestaande objecten of gebeurtenissen.

Methodologie: Het Leren van Modale Versterking tijdens Inference (LIME)
Om deze onbalans aan te pakken zonder de onderliggende modelparameters te wijzigen of extra trainingsdata te vereisen, stellen de auteurs LIME voor, een trainingsvrij raamwerk dat werkt tijdens inference. De methode is gebaseerd op een interpreteerbaarheidsanalyse met behulp van Layer-wise Relevance Propagation (LRP).

1. LRP-analyse: De auteurs maken gebruik van LRP om modelvoorspellingen te decomponeren in additieve bijdragen van individuele inputtokens. Hun analyse onthult een systematische bias waarbij tekstuele tokens aanzienlijk hogere relevantiescores krijgen dan modale tokens, zelfs in taken die kritiek afhankelijk zijn van perceptuele input.
2. Optimalisatie tijdens Inference: LIME grijpt direct in in de key-value (KV) representaties van het model tijdens het decodeerproces. In plaats van gewichten te fine-tunen, optimaliseert het iteratief additieve updates ($\Delta K, \Delta V$) voor de key- en value-tensors bij elke decodeerstap.
3. Doelfunctie: De optimalisatie beoogt de aandacht van het model te verschuiven naar modale tokens, terwijl de oorspronkelijke taalpriors van het model behouden blijven. Dit wordt bereikt door een samengestelde verliesfunctie te minimaliseren:
   • Relevantiedoel ($\mathcal{L}_{rel}$): Geïnspireerd door Noise Contrastive Estimation (NCE) en contrastief leren, behandelt deze term modale tokens als positief bewijs en tekstuele tokens als concurrerende alternatieven. Het maximaliseert de relevantie die aan modale tokens wordt toegewezen, relatief tot de totale relevantie van alle tokens.
   • KL-Divergentie Regularisator ($\mathcal{L}_{KL}$): Deze term beperkt de bijgewerkte verdeling om dicht bij de verdeling van het oorspronkelijke model te blijven, waardoor wordt voorkomen dat het model te ver afwijkt van zijn voorgetrainde gedrag en wordt gezorgd voor decodeer-stabiliteit.
4. Uitvoering: De updates worden berekend via gradient-based optimalisatie (met Adam) voor een klein aantal stappen bij elke decodeerstap en worden daarna verworpen, waardoor de interventie lokaal blijft en niet in de loop van de tijd ophoopt.

Belangrijkste Bijdragen
Het artikel schetst drie primaire bijdragen:

1. Interpreteerbaarheidsanalyse: Een op LRP gebaseerde analyse die aantoont dat hallucinaties in MLL's direct geassocieerd zijn met het onderbenutten van modale specifieke tokens tijdens inference.
2. LIME-raamwerk: Een nieuw, trainingsvrij, relevantiegeleid raamwerk voor inference dat hallucinaties mitigeert door expliciet de bijdrage van modale tokens te verhogen ten opzichte van tekstuele inputs via aanpassingen van KV-representaties.
3. Empirische Validatie: Demonstratie van de effectiviteit en generaliseerbaarheid van de methode over meerdere state-of-the-art multimodale modellen (inclusief LLaVA, Qwen-VL, SALMONN en Qwen2-Audio) en benchmarks in zowel het visuele als het auditieve domein.

Resultaten
De auteurs hebben LIME geëvalueerd op diverse benchmarks en rapporteren consistente verbeteringen in verankering en reducties van hallucinaties:

• Visuele Benchmarks: Op de POPE-benchmark (MSCOCO en A-OKVQA) behaalde LIME de hoogste gemiddelde nauwkeurigheid en F1-scores onder trainingsvrije baselines (zoals OPERA, VCD, ICD, MemVR, V-ITI), met name met een robuustheid op adversarial splits. Op de CHAIR-benchmark verlaagde LIME consistent de rate van gehallucineerde objectvermeldingen (lagere CHAIRS- en CHAIRI-scores) terwijl een concurrerend recall-niveau werd behouden.
• Auditieve Benchmarks: Op Audio Hallucination QA en AIR-Bench verbeterde LIME de nauwkeurigheid en F1-scores over de domeinen spraak, geluid en muziek, en presteerde het beter dan de Audio-Aware Decoding (AAD)-baseline.
• Relevantieanalyse: Kwantitatieve analyse bevestigde dat LIME de modale afhankelijkheid (het aandeel relevantie dat wordt toegeschreven aan perceptuele tokens) verhoogt en de ruimtelijke/temporale verankering (de concentratie van relevantie op ground-truth objectregio's) verbetert. Kwalitatieve visualisaties tonen aan dat relevantie-heatmaps onder LIME meer gelokaliseerd worden en semantisch beter aligneren met de inputbewijzen.
• Rekenkundige Overhead: De methode introduceert extra latentie (ongeveer 9-10x vertraging) en een bescheiden geheugenoverhead vanwege de optimalisatie per stap, waardoor het geschikt is voor offline of hoog-nauwkeurigheidsinstellingen in plaats van real-time low-latency toepassingen.

Betekenis en Claims
Het artikel claimt dat het direct controleren van modale gebruik tijdens inference een effectieve strategie is om de betrouwbaarheid van MLL's te versterken. Door gebruik te maken van LRP-signalen om de invloed van tekstuele en perceptuele tokens te herbekijken, biedt LIME een generaliseerbare oplossing voor hallucinaties die niet de rekenkundige kosten van hertraining of fine-tuning vereist. De auteurs concluderen dat hallucinaties niet uitsluitend het gevolg zijn van onvoldoende trainingsdata, maar ook voortkomen uit suboptimale interne redenering en informatiintegratie tijdens decoding, wat kan worden gecorrigeerd via interventie tijdens inference. De methode wordt gepresenteerd als een praktische aanpak voor het verbeteren van multimodale verankering, terwijl de generatieve kwaliteit van het oorspronkelijke model behouden blijft.