Sintesi Tecnica: Verso la mitigazione delle allucinazioni nei Large Vision-Language Models attraverso il raffinamento dei textual embedding

1. Definizione del problema

I Large Vision-Language Models (LVLM) soffrono frequentemente di allucinazioni: output che sono linguisticamente fluidi ma fattualmente errati o non supportati dall'input visivo. Questi errori si manifestano come allucinazioni di oggetti (inventare elementi inesistenti), allucinazioni di attributi (identificare erroneamente colori o proprietà), allucinazioni di relazioni (fabricare relazioni spaziali) e allucinazioni temporali (inventare azioni nei video).

Gli autori ipotizzano che una fonte primaria di queste allucinazioni sia lo squilibrio di modalità radicato nel paradigma architettonico prevalente. La maggior parte degli LVLM (ad esempio, Video-LLaVA, LLaVA) opera concatenando gli embedding visivi al flusso di token testuali di un Large Language Model (LLM) pre-addestrato. Poiché il backbone dell'LLM è addestrato esclusivamente su testo, esso possiede un pregiudizio intrinseco verso il ragionamento guidato dal linguaggio. Durante il fine-tuning, il modello tende a fare un eccessivo affidamento sui priori testuali e a sottoutilizzare gli embedding visivi, trattando i token visivi come secondari. Ciò porta a una distribuzione asimmetrica dell'attenzione in cui il modello si concentra pesantemente sui token testuali ai confini della sequenza, trascurando i token visivi nel mezzo, con il risultato di output semanticamente plausibili ma visivamente privi di fondamento.

2. Metodologia: VisAlign

Per affrontare questo squilibrio, gli autori propongono VisAlign, un metodo che raffina i textual embedding integrando un contesto visivo globale prima che i token entrino nei layer del transformer. A differenza degli approcci che modificano il meccanismo di attenzione durante l'inferenza o aggiungono complessi moduli di cross-attention, VisAlign opera a livello di rappresentazione per incoraggiare un ragionamento cross-modale bilanciato durante l'addestramento.

Il meccanismo centrale prevede tre passaggi:

1. Aggregazione Visiva Globale: Gli embedding visivi proiettati ($V_{proj}$) vengono mediati tramite un'operazione di pooling priva di parametri per creare un singolo vettore di riepilogo visivo globale ($\hat{V}$).
2. Raffinamento dei Textual Embedding: Questo vettore visivo globale viene concatenato con gli originali textual embedding ($T$) lungo la dimensione dell'embedding. Un livello di proiezione lineare mappa quindi questa rappresentazione fusa nuovamente alla dimensione originale dell'embedding dell'LLM, producendo textual embedding visivamente radicati ($\hat{T}$).
3. Ricostruzione: La sequenza viene ricostruita concatenando i raffinati textual embedding ($\hat{T}$) e gli originali visual embedding ($V_{proj}$) nell'ordine standard utilizzato dal modello baseline.

Principi di Design Chiave:

• Iniezione a Livello di Rappresentazione: L'informazione visiva viene iniettata direttamente nella rappresentazione linguistica, costringendo il modello a imparare embedding che portino sia la semantica testuale che quella visiva.
• Agnostico rispetto all'Architettura: Il metodo non altera l'architettura del backbone dell'LLM né richiede complessi meccanismi di cross-attention; modifica semplicemente la sequenza di token di input.
• Strategia di Addestramento: VisAlign è addestrato insieme alle fasi standard di pre-training e fine-tuning del baseline LVLM (ad esempio, Video-LLaVA). Nella fase di pre-training, la proiezione e i livelli lineari vengono addestrati mentre l'LLM è congelato; nella fase di fine-tuning, l'intero modello viene addestrato end-to-end.

3. Contributi Chiave

• Analisi Sistematica dello Squilibrio di Modalità: Il paper fornisce prove empiriche (tramite la visualizzazione degli score di attenzione) che gli standard LVLM esibiscono un forte pregiudizio verso i token testuali, portando a un'attenzione frammentata sul contenuto visivo.
• Una Strategia di Mitigazione Semplice ed Efficace: VisAlign offre una soluzione leggera che riequilibra l'attenzione inserendo il contesto visivo direttamente nei token testuali, spostando l'allineamento dallo stadio di attenzione allo stadio di embedding.
• Generalizzabilità: Il metodo dimostra di essere efficace non solo su Video-LLaVA, ma anche su altri modelli allo stato dell'arte come LLaVA 1.5 e Open-Qwen2VL.
• Complementarità: L'approccio si dimostra ortogonale alle strategie di decoding durante l'inferenza (ad esempio, Visual Contrastive Decoding), permettendo miglioramenti combinati.

4. Risultati Sperimentali

Gli autori hanno valutato VisAlign attraverso molteplici benchmark di allucinazione, riportando guadagni consistenti e statisticamente significativi:

• MMVP-MLLM: Ha ottenuto un miglioramento dell'accuratezza del +9,33%, dimostrando una discriminazione visiva fine-grained potenziata.
• POPE (A-OKVQA): Ha migliorato l'accuratezza del +2,99%, la precisione del +1,76% e l'F1-score del +1,18%, indicando una riduzione delle allucinazioni a livello di oggetto.
• Merlin: Ha mostrato miglioramenti fino al +3,4% nella coerenza fattuale e nella verifica dell'esistenza degli oggetti.
• HallusionBench: Ha ottenuto un miglioramento del +3% sulla partizione hard-data, particolarmente in compiti che richiedono il grounding visivo rispetto alla conoscenza memorizzata (es. Mappe, OCR, Tabelle).
• Mementos: Ha dimostrato guadagni nel dominio della Robotica sia per le allucinazioni di oggetti (+1,13%) che di azioni (+0,97%), sebbene i miglioramenti siano stati più modesti in domini complessi come Comics e Daily Life.
• Generalizzazione: Applicato a LLaVA 1.5 e Open-Qwen2VL, VisAlign ha ridotto costantemente le allucinazioni e migliorato le prestazioni sul benchmark POPE.
• Confronto: VisAlign ha superato il metodo di inferenza Visual Contrastive Decoding (VCD) da solo. Combinare VisAlign con VCD ha prodotto le prestazioni complessive più elevate, confermando la loro natura complementare.

5. Significato e Rivendicazioni

Il paper sostiene che le allucinazioni negli LVLM siano fondamentalmente legate all'asimmetria strutturale delle attuali architetture, dove gli LLM pre-addestrati dominano il processo di ragionamento. Raffinando i textual embedding per includere il contesto visivo globale, VisAlign costringe il modello ad prestare attenzione in modo più equo alle evidenze visive, riducendo così la dipendenza dai priori linguistici.

Gli autori posizionano VisAlign come un approccio semplice ma fondato che migliora il grounding visivo senza richiedere revisioni architettoniche o supervisione esterna. Notano che, sebbene il metodo aumenti significativamente le prestazioni nei compiti di grounding visivo, può portare a lievi compromessi nelle prestazioni in categorie ricche di conoscenza (es. monumenti, celebrità) dove la dipendenza dalla conoscenza del mondo memorizzata è benefica. Il lavoro mira a ispirare ulteriori ricerche sull'allineamento a livello di rappresentazione per migliorare l'affidabilità del ragionamento multimodale in applicazioni critiche per la sicurezza.