Sintesi Tecnica: La Geometria dei Fallimenti Rappresentazionali nei Modelli Vision-Language

1. Definizione del Problema

I modelli Vision-Language (VLM) mostrano fallimenti sistematici nei compiti visivi multi-oggetto, tra cui l'errore nel conteggio degli oggetti, la confusione nel legame tra attributi e oggetti (ad esempio, attribuire il colore errato a una forma) e la generazione di "congiunzioni illusorie". Sebbene questi errori rispecchino i limiti cognitivi umani come il "Problema del Legame" (Binding Problem), i meccanismi interni che guidano tali fallimenti nei sistemi artificiali rimangono scarsamente compresi.

Il documento postula che questi fallimenti non siano semplici artefatti comportamentali, ma derivino da un interferenza geometrica rappresentazionale. Nello spazio latente ad alta dimensionalità condiviso dai VLM, i vettori che codificano concetti distinti (ad esempio, "rosso" e "quadrato") possono sovrapporsi o scontrarsi quando vengono elaborati più oggetti simultaneamente. A differenza della visione biologica, che mitiga questo fenomeno attraverso l'attenzione seriale, gli attuali VLM devono risolvere tutti i concetti in un unico passaggio feedforward, portando a una inevitabile fusione delle caratteristiche quando le rappresentazioni non sono sufficientemente ortogonali.

2. Metodologia

Gli autori propongono un framework per estrarre, validare e analizzare la geometria rappresentazionale di VLM open-weight (nello specifico Qwen2.5-VL, InternVL2.5 e Gemma 3).

A. Estrazione dei Vettori di Concetto

Lo studio confronta due metodi primari per distillare i "vettori di concetto" ($v_c$) che codificano le caratteristiche visive (colori, forme e le loro congiunzioni):

1. Metodo Basato su Probe: Addestramento di classificatori lineari (probe di attenzione) per distinguere la presenza o l'assenza di un concetto. Il vettore di attenzione appreso funge da vettore di concetto candidato.
2. Metodo Basato sul Centroide: Calcolo del centroide degli embedding dei token da immagini contenenti uno specifico concetto, quindi proiezione di tale centroide sul sottospazio ortogonale alla media globale delle attivazioni per isolare i segnali specifici del concetto.
3. Regolarizzazione Strutturale (PCA-Probe): Per affrontare la possibilità che i probe apprendano "scorciatoie discriminative", gli autori applicano l'Analisi delle Componenti Principali (PCA) ai vettori dei probe. Ciò costringe i vettori ad allinearsi con l'assunto struttura fattoriale dei concetti (ad esempio, separando gli assi di colore e forma), agendo come regolarizzatore geometrico.

B. Validazione Causale tramite Steering delle Attivazioni

Per verificare che i vettori estratti siano causalmente attivi e non meri correlati, gli autori impiegano lo steering delle attivazioni (activation steering).

• Meccanismo: Per un'immagine contenente il concetto $A$, la componente del vettore di attivazione allineata con $A$ viene sottratta, e una componente allata con il concetto $B$ viene iniettata.
• Intervento: $h'_t = h_t - (h_t^\top \hat{v}_A)\hat{v}_A + (h_t^\top \hat{v}_A)\hat{v}_B$.
• Metrica: Il successo è misurato dal fatto che l'output del modello passi dal descrivere $A$ al descrivere $B$ (ad esempio, percepire un fiore rosso come blu) senza interrompere le informazioni visive non correlate.

C. Analisi Geometrica

Gli autori analizzano la similarità del coseno tra i vettori di concetto per mappare il manifold rappresentazionale. Investigano:

• Struttura Composizionale: Se le congiunzioni colore-forma si fattorizzano in assi indipendenti di colore e forma.
• Struttura Semantica: La geometria degli spazi di colore continui (100 tonalità) per identificare gli "effetti accordion" (compressione all'interno della categoria e separazione tra le categorie).
• Correlazione con gli Errori: Collegare la sovrapposizione geometrica (similarità del coseno) tra i vettori target e quelli distruttori (distractor) all'accuratezza del modello nei compiti di ricerca visiva e stima della similarità.

3. Risultati Chiave

A. Efficacia del Metodo di Estrazione

• Superiorità del Centroide: L'estrazione basata sul centroide supera costantemente il naive probing nei compiti di steering causale. Per lo steering del colore in immagini naturali, i centroidi hanno raggiunto un'accuratezza dell'84,7%–95,7% tra i modelli, mentre i naive probe spesso fallivano (<4% su Qwen/Gemma).
• Ruolo della Regolarizzazione: La regolarizzazione PCA ha migliorato significativamente le prestazioni dei probe per alcuni modelli (ad esempio, InternVL ha raggiunto il 92,0%), ma è rimasta inconsistente tra le diverse architetture.
• Legame Composizionale: Per le congiunzioni colore-forma, i vettori del centroide hanno ottenuto il massimo successo nello steering (78,1% per Qwen, 75,3% per Gemma), suggerendo che il meccanismo di legame interno sia additivo e si allinei con la media aritmetica delle attivazioni.

B. Geometria Rappresentazionale

• Manifold Composizionali: I vettori di concetto per le coppie colore-forma formano manifold strutturati dove la similarità dipende strettamente dalle caratteristiche condivise. Gli oggetti che condividono un colore o una forma si raggruppano distintamente, confermando che colore e forma sono codificati lungo assi indipendenti.
• Deformazione Semantica: Lo spazio del colore continuo non è una mappa fisica fedele, ma una mappa semantica deformata dallo spazio di token discreti dell'LLM. Presenta una "percezione categorica", dove le tonalità all'interno di una categoria linguistica (ad esempio, "verde") sono compresse, mentre i confini tra le categorie sono espansi.
• Profilo "Cappello Messicano" (Mexican Hat): I profili di similarità semantica mostrano un decadimento monotonico per le distanze locali, ma un aumento della similarità per le tonalità distanti (interferenza distale), indicando una risoluzione rappresentazionale finita e un potenziale di interferenza non locale.
• Universalità: L'Analisi della Similarità Rappresentazionale (RSA) rivela strutture geometriche quasi identiche tra Qwen, InternVL e Gemma ($r > 0,93$), suggerendo che questi vincoli siano fondamentali al paradigma VLM piuttosto che artefatti specifici dell'architettura.

C. Correlazione con i Fallimenti Comportamentali

• Ricerca Visiva: L'accuratezza del modello nei compiti di ricerca visiva diminuisce monotonicamente all'aumentare della similarità del coseno tra i vettori di concetto del target e del distruttore. L'elevata sovrapposizione geometrica predice tassi di errore più alti (falsi negativi quando il target è presente; falsi positivi/congiunzioni illusorie quando è assente).
• Giudizi di Similarità: La confidenza del modello (separazione dei logit) nei compiti di similarità del colore è meglio predetta dalla similarità del coseno dei vettori di concetto rispetto alla distanza percettiva HSV. Ciò indica che l'incertezza del modello è governata dalla geometria rappresentazionale piuttosto che dalla distanza percettiva.

4. Significato e Rivendicazioni

Il documento sostiene di fornire un insight meccanicistico nei fallimenti dei VLM, inquadrandoli come il costo matematico della compressione di ricche informazioni visive in rappresentazioni riutilizzabili e generalizzabili.

• "La Maledizione della Generalizzazione": Gli autori sostengono che le stesse strutture geometriche che permettono una flessibile generalizzazione (ad esempio, associare il "rosso" a uno spettro continuo di sfumature) introducono la suscettibilità all'interferenza tra concetti. Questo compromesso è particolarmente acuto per i sistemi di elaborazione parallela come i VLM, che mancano dei meccanismi di attenzione seriale della visione biologica.
• Potere Predittivo: La geometria dei vettori di concetto non è meramente descrittiva ma predittiva. La similarità del coseno tra i vettori correla fortemente con la confidenza del modello ($r > 0,77$) e l'accuratezza ($|r| > 0,83$) nei compiti multi-oggetto a valle.
• Validità Causale: Lo studio dimostizza che i vettori di concetto derivati da dati sintetici sono causalmente attivi, capaci di manipolare in modo affidabile la percezione del modello in immagini naturali.
• Parallelo Cognitivo: Le scoperte tracciano un parallelo tra i fallimenti dei VLM e le "congiunzioni illusorie" umane, suggerendo che entrambi i sistemi affrontino vincoli simili quando mappano spettri continui in categorie discrete senza attenzione seriale.

Gli autori concludono che la comprensione di queste firme geometriche offre un framework quantitativo fondato per anticipare i fallimenti dei modelli, informando potenzialmente lo sviluppo di sistemi più robusti e una migliore calibrazione della confidenza del modello in applicazioni critiche per la sicurezza.