Sintesi Tecnica: Disgiungere le Allucinazioni tramite Proiezione Semantica Ortogonale

Definizione del Problema

Con l'impiego dei modelli Vision-Language (VLM) e dei modelli di diffusione multimodali in applicazioni critiche per la sicurezza, l'affidabilità delle loro spiegazioni diventa fondamentale. Tuttavia, i metodi esistenti di Explainable AI (XAI) per questi modelli soffrono frequentemente di allucinazione semantica. In questo fenomeno, le mappe di attribuzione (mappe di salienza) evidenziano regioni dell'immagine corrispondenti a oggetti che non sono presenti nell'immagine quando si utilizza un prompt testuale specifico. Ad esempio, un modello potrebbe evidenziare un cane quando il prompt è "gatto", o evidenziare una pecora quando il prompt è "gatto" e non esiste alcuna pecora.

Il documento sostiene che questo problema non sia semplicemente un difetto di specifiche architetture, ma una conseguenza fondamentale della Perdita Semantica Lineare (Linear Semantic Leakage) all'interno degli spazi di embedding ad alta dimensione. In modelli come CLIP e SigLIP, gli embedding testuali e di immagine risiedono in uno spazio condiviso dove concetti semanticamente correlati ma distinti (ad esempio, "gatto" e "cane") non sono ortogonali. Essi condividono componenti direzionali comuni. Quando i metodi di salienza calcolano le attribuzioni basandosi su questi embedding non ortogonali, le componenti condivise causano l'evidenziazione di regioni irrilevanti, portando a "segnali fantasma" o spiegazioni allucinate. Il documento postula che il modello possa apparire corretto, ma sia in realtà "giusto per i motivi sbagliati".

Metodologia: Proiezione Semantica Ortogonale (OSP)

Per affrontare questo problema, gli autori propongono la Proiezione Semantica Ortogonale (OSP), un intervento geometrico progettato per disgiungere i segnali semantici unici dai concetti condivisi prima di calcolare le mappe di salienza.

Framework Teorico

Gli autori formalizzano il problema attraverso il framework della Attribuzione Semantica Lineare (LSA). Dimostrano che la maggior parte dei metodi di salienza multimodale (inclusi GradCAM, LeGrad, CheferCAM e DAAM) può essere espressa come funzioni lineari (o localmente lineari) dell'embedding testuale.

• Lemma 1 (Perdita Semantica Lineare): Se l'angolo tra l'embedding testuale della classe target $A$ e una classe distrattrice $B$ è diverso da zero (ovvero, non sono ortogonali), la mappa di salienza per $B$ conterrà una componente proporzionale alla vera mappa di salienza di $A$. Questo "segnale fantasma" è direttamente controllato dalla similarità del coseno tra gli embedding.

L'Algoritmo OSP

OSP utilizza la Ricerca Ortogonale per Parti (Orthogonal Matching Pursuit - OMP) per eseguire una decomposizione sparsa dell'embedding testuale. Il processo prevede:

1. Costruzione del Dizionario: Viene creato un dizionario di semantica ($\mathbf{D}$), composto da concetti "distrattori" che sono semanticamente o visivamente correlati al target. Gli autori esplorano quattro strategie per questo: classi ImageNet, relazioni ImageNet + WordNet e dizionari generati da LLM (Gemini 3 Flash e GPT-OSS 120B).
2. Decomposizione Sparsa: L'embedding testuale target ($\mathbf{a}^{\text{txt}}_{\text{target}}$) viene trattato come un segnale da approssimare tramite gli atomi del dizionario.
3. Estrazione del Residuo: L'algoritmo seleziona iterativamente gli atomi più correlati al residuo corrente e aggiorna l'insieme attivo. Fondamentalmente, il residuo finale ($\mathbf{r}$) è strettamente ortogonale a tutti gli atomi distrattori selezionati.
4. Proiezione: Il residuo $\mathbf{r}$ rappresenta la "direzione semantica unica" del concetto target, depurata dalle componenti condivise con i distrattori.
5. Applicazione: Questo residuo purificato sostituisce l'originale embedding testuale nel calcolo della salienza. Per i modelli discriminativi, ciò avviene direttamente sull'embedding di query. Per i modelli di diffusione (come Stable Diffusion), OSP è applicato ai vettori "key" nel meccanismo di cross-attention prima dell'operazione softmax.

Il metodo è plug-and-play, non richiede il riaddestramento del VLM o del modello di diffusione sottostante.

Contributi Chiave

1. Analisi Geometrica dell'Allucinazione: Il documento fornisce un framework matematico formale che collega i fallimenti di grounding alla non-ortogonalità delle direzioni degli embedding semantici. Caratterizza l'allucinazione come una funzione della perdita semantica lineare e offre un'interpretazione geometrica di come questi errori si propagano.
2. Una Tecnica XAI Universale: OSP è presentato come un framework generalizzato compatibile con molteplici architetture (CLIP, SigLIP, modelli di diffusione) e vari metodi di salienza (GradCAM, LeGrad, CheferCAM, AttentionCAM, DAAM).
3. Validazione Estensiva: Il metodo è valutato su tre modelli fondamentali, cinque metodi XAI e molteplici dataset (ImageNet-Segmentation, MS COCO).
4. Valutazione Centrata sull'Uomo: Uno studio sugli utenti coinvolgendo 200 partecipanti dimostra che OSP migliora l'accuratezza dell'identificazione, la fiducia e la fiducia degli esseri umani nelle spiegazioni del modello.

Risultati Sperimentali

Gli autori hanno valutato OSP sui dataset ImageNet-Segmentation e MS COCO utilizzando metriche come mean Intersection-over-Union (mIoU), mean Average Precision (mAP) e Area Under the ROC Curve (AUROC).

• Soppressione delle Allucinazioni: OSP aumenta costantemente il divario tra i prompt positivi (target presente) e i prompt negativi (target assente). Nello specifico, migliora significativamente l'AUROC, indicando una migliore discriminazione tra concetti presenti e assenti.
• Fedeltà di Localizzazione: Il metodo migliora o mantiene le prestazioni di localizzazione (mIoU) per i prompt positivi, sopprimendo al contempo le heatmap inaccurate per i prompt negativi.
• Robustezza: I miglioramenti si mantengono attraverso diverse strategie di costruzione del dizionario, inclusi quelli generati da LLM e quelli basati su dataset statici come ImageNet e WordNet.
• Efficienza: L'overhead computazionale di OSP è trascurabile (meno di un secondo), rendendolo pratico per l'intervento durante l'inferenza.
• Studio sugli Utenti: I partecipanti che utilizzavano le heatmap potenziate da OSP hanno mostrato una maggiore accuratezza nell'identificare il focus del modello, una maggiore fiducia nelle proprie risposte e una maggiore fiducia nelle spiegazioni rispetto ai metodi baseline.

Significato e Rivendicazioni

Il documento afferma che OSP rappresenta un paradigma fondamentalmente nuovo per l'interpretabilità. A differenza degli approcci precedenti che tentano di scomporre gli embedding delle immagini per trovare concetti visivi, OSP decompone matematicamente lo spazio degli embedding testuali per isolare direzioni semantiche pure.

Gli autori sostengono che, affrontando la causa radice dell'allucinazione — la non-ortogonalità degli embedding nello spazio di rappresentazione — forniscano una soluzione teoricamente solida ed empiricamente validata. Sottolineano che questo intervento geometrico rende le mappe di attribuzione più affidabili per gli utenti finali, traducendo il grounding teorico in miglioramenti misurabili dell'interpretabilità umana. Il lavoro suggerisce che la prospettiva geometrica apra direzioni promettenti per estendere l'interpretabilità robusta ad architetture generative su scala maggiore e ad applicazioni più ampie di AI affidabile.