Logit Lens Supervision for Patch-Level Explanations in Vision-Language Models

Technische Samenvatting: Logit Lens Toezicht voor Patch-Niveau Verklaringen in Vision-Language Modellen

Probleemstelling
Moderne autoregressieve Vision-Language Modellen (VLM's), zoals LLaVA en Qwen-VL, combineren visuele encoders met Large Language Models (LLM's) om vloeiende tekst te genereren. Echter, naarmate visuele tokens door de aandachtlagen van het LLM propageren, ondergaan ze een significante transformatie en vermenging met taal-tokens. De auteurs stellen dat deze "ongecontroleerde modaliteitsvermixing" ervoor zorgt dat visuele embeddings hun directe correspondentie met de specifieke beeldregio's (patches) waaruit ze voortkwamen, verliezen. Bijgevolg wordt de verbinding tussen een visuele token en de semantische inhoud van de bronpatch verdund. Dit leidt tot twee primaire problemen:

1. Zwakke Patch-Niveau Verklaarbaarheid: Standaard Logit Lens-visualisaties (die embeddings projecteren naar vocabulaire-waarschijnlijkheden) slagen er vaak niet in om scherpe, gelokaliseerde betrouwbaarheidskaarten te produceren, met name in nieuwere VLM's zoals Qwen2.5-VL.
2. Hallucinatie en Grondingsdegradatie: Visuele tokens kunnen effectief genegeerd worden of hun informatie kan volledig worden overgedragen naar taal-tokens, waardoor modellen objectbeschrijvingen kunnen hallucineren zelfs wanneer het bijbehorende visuele bewijs verwijderd of afwezig is.

Methodologie: Logit Lens Loss (LLL)
Om de ontkoppeling van visuele tokens van hun bronbeeldregio's aan te pakken, stellen de auteurs Logit Lens Loss (LLL) voor, een lichtgewicht hulp-doelfunctie toegepast tijdens fine-tuning.

• Kernconcept: De methode maakt gebruik van de Logit Lens-techniek, die tussenliggende layer-embeddings ($h_l$) projecteert door de unembedding-matrix ($U_\theta$) van het LLM om een waarschijnlijkheidsverdeling over de vocabulaire te genereren.
• Mechanisme: In tegen tegenstelling tot de standaard Next-Token Prediction (NTP) loss, die alleen de generatie van tekst-tokens superviseert, superviseert LLL direct visuele tokens.
  • Voor visuele tokens ($s$) die overeenkomen met beeldpatches binnen een grondwaarheid bounding box van een doelobject (verzameling $\mathcal{P}'$), maximaliseert de loss de waarschijnlijkheid van de vocabulaire-token die dat object beschrijft (bijv. <cat>).
  • Voor visuele tokens buiten de objectregio (verzameling $\mathcal{P} \setminus \mathcal{P}'$), minimaliseert de loss de waarschijnlijkheid van die specifieke vocabulaire-token.
• Formulering: De totale loss wordt gedefinieerd als $L_{total} = L_{NTP} + \lambda L_{LLL}$, waarbij $\lambda$ empirisch op 0,5 is ingesteld. De LLL-term is een cross-entropy loss toegepast op de vocabulaire-verdeling afgeleid van de visuele token-embeddings in de laatste LLM-layer.
• Belangrijkste onderscheid: De aanpak vereist geen architecturale wijzigingen (geen mask-decoders, lokalisatie-heads of bounding box voorspellingsmodules). Het vertrouwt uitsluitend op bestaande visuele token-embeddings en de vocabulaire projectie-head. Het toezichtsignaal wordt afgeleid van bounding box annotaties om te identificeren welke patches overeenkomen met het doelconcept, maar het model wordt niet getraind om coördinaten uit te voeren; het wordt eerder getraind om de interne representatie van de patch af te stemmen op het semantische concept.

Belangrijkste Bijdragen

1. Nieuw Visueel Grondingsverlies: Introductie van LLL, dat expliciet visuele token-embeddings dwingt om semantisch uitgelijnd te blijven met de taalconcepten die hun beeldregio's beschrijven terwijl ze door de LLM-lagen passeren.
2. Intrinsieke Lokalisatie: In tegen tegenstelling tot eerdere werken die bounding boxes of masks voorspellen als externe outputs, embedt LLL lokalisatiebewustzijn direct in de diepe embeddings van visuele tokens. Dit creëert een intrinsieke link tussen visuele patches en tekstuele concepten zonder de modelarchitectuur te wijzigen.
3. Verbeterde Verklaarbaarheid: De methode verbetert de kwaliteit van de Logit Lens object-betrouwendheidskaarten aanzienlijk. Modellen die zijn gefinetuned met LLL produceren scherpere, meer gelokaliseerde kaarten die accuraat reflecteren welke beeldpatches het model associeert met specifieke tekstuele concepten.
4. Direct Gradiëntsignaal: De auteurs demonstreren dat LLL een direct gradiëntsignaal biedt aan visuele tokens, terwijl het signaal van standaard NTP vaak via de aandachtlagen moet propageren, wat vaak resulteert in een zwak signaal voor visuele tokens.

Experimentele Resultaten
De auteurs hebben LLL geëvalueerd op LLaVA-v1.5-7B en Qwen2.5-VL-7B over verschillende metrieken:

• Referring Expression Segmentation (RES): Door Logit Lens-kaarten te gebruiken om segmentatie-masks te genereren (via drempelwaarden of het prompten van een bevroren SAM), vertoonden LLL-gefinetunde modellen significante verbeteringen in cIoU-scores ten opzien van base en NTP-only modellen. Met SAM post-processing bereikte Qwen2.5-VL+LLL prestaties die vergelijkbaar zijn met SOTA gespecialiseerde grounding-modellen.
• Object Hallucinatie (POPE): Op de POPE-benchmark verminderde LLL object-hallucinaties, wat de "Ja/Nee" nauwkeurigheid verhoogde. Opvallend genoeg vertoonden modellen die alleen op RefCOCO (lokalisatiegegevens) zijn gefinetuned en geëvalueerd op POPE, een verbeterde nauwkeurigheid met LLL, terwijl NTP-only fine-tuning de prestaties verslechterde ten opzien van het base-model.
• Zero-Shot Pointing: Modellen die met LLL op RefCOCO zijn gefinetuned, vertoonden een sterke transfer naar de PixMo-Points dataset (onbekende objectcategorieën), waarbij ze lagere mediane lokalisatiefouten behaalden dan verschillende propriëtaire baselines en taakspecifieke modellen die getraind zijn met expliciete coördinaten-supervisie.
• Visual Question Answering (VQA): LLL behield of verbeterde de prestaties op de VQAv2 en GQA benchmarks licht, wat aangeeft dat het verbeteren van visuele grounding de taalgeneratie-capaciteiten van het model niet in gevaar brengt.
• Visualisatie: Kwalitatieve resultaten (Fig. 2) lieten zien dat LLL schaarse, verwarrende Logit Lens-signalen transformeert in scherpe, object-uitgelijnde betrouwendheidskaarten.

Betekenis en Claims
Het artikel claimt dat LLL een eenvoudige, effectieve methode biedt om de "lokaliteit" van visuele informatie binnen autoregressieve VLM's te behouden zonder de complexiteit van het toevoegen van nieuwe architecturale componenten. Door visuele embeddings direct in de vocabulaire-ruimte te gronden, maakt de methode fundamentele VLM's interpreteerbaarder (via getrouwe Logit Lens-kaarten) en robuuster tegen hallucinaties. De auteurs benadrukken dat LLL niet probeert nieuwe concepten te leren, maar eerder bedoeld is om de degradatie van bestaande gelokaliseerde beeldbegrip tijdens het taalmodelleringproces te voorkomen. De resultaten suggereren dat betere interne grounding bereikbaar is door middel van hulp-supervisie die visuele tokens afstemt op hun semantische beschrijvingen, wat leidt tot modellen die zowel effectiever als beter verklaarbaar zijn.