Technische Samenvatting: Ontwarren van Hallucinaties via Orthogonale Semantische Projectie

Probleemstelling

Nu Vision-Language Models (VLM's) en multimodale diffusiemodellen worden ingezet in veiligheidskritische toepassingen, wordt de betrouwbaarheid van hun verklaringen van cruciaal belang. Bestaande XAI-methoden (Explainable AI) voor deze modellen lijden echter vaak aan semantische hallucinatie. In dit fenomeen markeren attributiemaps (saliency maps) beeldregio's die overeenkomen met objecten die niet aanwezig zijn in de afbeelding wanneer er specifieke tekstuele beschrijvingen worden gebruikt. Bijvoorbeeld, een model kan een hond markeren wanneer de prompt "kat" is, of een schaap markeren wanneer de prompt "kat" is en er geen schaap aanwezig is.

Het artikel stelt dat dit probleem niet louter een gebrek is in specifieke architecturen, maar een fundamenteel gevolg van Lineaire Semantische Lekkage binnen hoogdimensionale embedding-ruimtes. In modellen zoals CLIP en SigLIP bevinden tekst- en beeldembeddings zich in een gedeelde ruimte waar semantisch gerelateerde maar onderscheidende concepten (bijv. "kat" en "hond") niet orthogonaal zijn. Ze delen gemeenschappelijke directionele componenten. Wanneer saliency-methoden attributies berekenen op basis van deze niet-orthogonale embeddings, veroorzaken de gedeelde componenten dat de methode irrelevante regio's markeert, wat leidt tot "ghost signals" of gehallucineerde verklaringen. Het artikel stelt dat het model correct kan lijken, maar eigenlijk "goed is om de verkeerde redenen".

Methodologie: Orthogonale Semantische Projectie (OSP)

Om dit aan te pakken, stellen de auteurs Orthogonale Semantische Projectie (OSP) voor, een geometrische interventie die ontworena is om unieke semantische signalen te scheiden van gedeelde concepten voordat saliency-kaarten worden berekend.

Theoretisch Kader

De auteurs formaliseren het probleem via het Linear Semantic Attribution (LSA) kader. Ze demonstreren dat de meeste multimodale saliency-methoden (inclusief GradCAM, LeGrad, CheferCAM en DAAM) kunnen worden uitgedrukt als lineaire (of lokaal lineaire) functies van de tekst-embedding.

• Lemma 1 (Lineaire Semantische Lekkage): Als de hoek tussen de tekst-embedding van de doelklasse $A$ en een distractor-klasse $B$ niet nul is (d.w.z. ze zijn niet orthogonaal), zal de saliency-map voor $B$ een component bevatten die proportioneel is aan de ware saliency-map van $A$. Dit "ghost signal" wordt direct gecontroleerd door de cosinus-gelijkenis tussen de embeddings.

Het OSP-algoritme

OSP maakt gebruik van Orthogonal Matching Pursuit (OMP) om een ijle (sparse) decompositie van de tekst-embedding uit te voeren. Het proces omvat:

1. Constructie van de Dictionary: Een dictionary van semantiek ($\mathbf{D}$) wordt gecreëerd, bestaande uit "distractor"-concepten die semantisch of visueel gerelateerd zijn aan het doel. De auteurs verkennen vier strategieën hiervoor: ImageNet-klassen, ImageNet + WordNet-relaties, en dictionaries gegenereerd door LLM's (Gemini 3 Flash en GPT-OSS 120B).
2. Sparse Decompositie: De doel-tekst-embedding ($\mathbf{a}^{\text{txt}}_{\text{target}}$) wordt behandeld als een signaal dat benaderd moet worden door de dictionary-atomen.
3. Residu-extractie: Het algoritme selecteert iteratief de atomen die het meest gecorreleerd zijn met het huidige residu en werkt de actieve set bij. Cruciaal is dat het uiteindelijke residu ($\mathbf{r}$) strikt orthogonaal is aan alle geselecteerde distractor-atomen.
4. Projectie: Het residu $\mathbf{r}$ vertegenwoordigt de "unieke semantische richting" van het doelconcept, gestript van gedeelde componenten met de distractoren.
5. Toepassing: Dit gezuiverde residu vervangt de oorspronkelijke tekst-embedding in de saliency-berekening. Voor discriminatieve modellen gebeurt dit direct op de query-embedding. Voor diffusiemodellen (zoals Stable Diffusion) wordt OSP toegepast op de key-vectoren in de cross-attention mechanisme vóór de softmax-operatie.

De methere is plug-and-play, waarbij geen hertraining van het onderliggende VLM of diffusiemodel vereist is.

Belangrijkste Bijdragen

1. Geometrische Analyse van Hallucinatie: Het artikel biedt een formeel wiskundig kader dat grondingsfouten koppelt aan de niet-orthogonaliteit van semantische embedding-richtingen. Het karakteriseert hallucinatie als een functie van lineaire semantische lekkage en biedt een geometrische interpretatie van hoe deze fouten zich voortplanten.
2. Een Universele XAI-techniek: OSP wordt gepresenteerd als een gegeneraliseerd framework dat compatibel is met meerdere architecturen (CLIP, SigLIP, Diffusiemodellen) en diverse saliency-methoden (GradCAM, LeGrad, CheferCAM, AttentionCAM, DAAM).
3. Uitgebreide Validatie: De methode wordt geëvalueerd over drie fundamentele modellen, vijf XAI-methoden en meerdere datasets (ImageNet-Segmentation, MS COCO).
4. Mensgerichte Evaluatie: Een gebruikersstudie met 200 deelnemers demonstreert dat OSP de identificatienauwkeurigheid, het vertrouwen en het vertrouwen van mensen in modelverklaringen verbetert.

Experimentele Resultaten

De auteurs evalueerden OSP op de ImageNet-Segmentation en MS COCO datasets met metrieken zoals mean Intersection-over-Union (mIoU), mean Average Precision (mAP) en Area Under the ROC Curve (AUROC).

• Onderdrukking van Hallucinatie: OSP vergroot consistent de kloof tussen positieve prompts (doel aanwezig) en negatieve prompts (doel afwezig). Specifiek verbetert het de AUROC aanzienlijk, wat duidt op een betere discriminatie tussen aanwezige en afwezige concepten.
• Lokalisatiegetrouwheid: De methode verbetert of behoudt de lokalisatieprestaties (mIoU) voor positieve prompts, terwijl het onnauwkeurige heatmaps voor negatieve prompts onderdrukt.
• Robuustheid: De verbeteringen houden stand bij verschillende dictionary-constructiestrategieën, inclusief die gegenereerd door LLM's en die gebaseerd zijn op statische datasets zoals ImageNet en WordNet.
• Efficiëntie: De computationele overhead van OSP is verwaarloosbaar (minder dan één seconde), wat het praktisch maakt voor interventie tijdens de inferentie.
• Gebruikersstudie: Deelnemers die gebruikmaakten van OSP-verbeterde heatmaps vertoonden een hogere nauwkeurigheid bij het identificeren van de focus van het model, een hoger zelfvertrouwen in hun antwoorden en een groter vertrouwen in de verklaringen vergeleken met baseline-methoden.

Betekenis en Claims

Het artikel claimt dat OSP een fundamenteel nieuw paradigma voor interpreteerbaarheid vertegenwoordigt. In tegenstelling tot eerdere benaderingen die proberen beeld-embeddings te deconstrueren om visuele concepten te vinden, deconstrueert OSP wiskundig de tekst-embeddingruimte om zuivere semantische richtingen te isoleren.

De auteurs stellen dat door de kernoorzaak van hallucinatie aan te pakken — de niet-orthogonaliteit van embeddings in de representatieruimte — zij een theoretisch onderbouwde en empirisch gevalideerde oplossing bieden. Zij benadrukken dat deze geometrische interventie attributiemaps betrouwbaarder maakt voor eindgebruikers, wat theoretische gronding vertaalt naar meetbare verbeteringen in menselijke interpreteerbaarheid. Het werk suggereert dat het geometrische perspectief veelbelovende richtingen opent voor het uitbreiden van robuuste interpreteerbaarheid naar grootschalige generatieve architecturen en bredere betrouwbare AI-toepassingen.