Prefill-Time Intervention for Mitigating Hallucination in Large Vision-Language Models

1. Enunciato del Problema

I Large Vision-Language Models (LVLM) soffrono di allucinazioni, ovvero generano descrizioni dei input visivi fattualmente errate o inconsistenti (ad esempio, oggetti immaginari, attributi errati o relazioni inesistenti).

• Limitazioni delle Soluzioni Attuali: I metodi state-of-the-art esistenti utilizzano principalmente Intervento al Tempo di Decodifica (DTI). Questi metodi applicano vettori di guida agli stati nascosti in modo continuo durante la fase di generazione dei token (decodifica).
• Il Problema Centrale: Gli autori identificano un difetto critico nel DTI: sebbene possa ridurre la frequenza delle allucinazioni, aggrava involontariamente la gravità degli errori residui. Una volta che si verifica un errore iniziale, la natura autoregressiva degli LLM fa sì che questi errori si accumulino e "valanghino", portando a output che si degradano progressivamente. Il DTI agisce in modo reattivo (dopo che l'errore è stato calcolato) e spesso utilizza vettori agnostici rispetto alla modalità che non riescono a risolvere la causa radice del disallineamento tra rappresentazioni visive e testuali.

2. Metodologia: Intervento al Tempo di Pre-caricamento (PTI)

Gli autori propongono PTI, un nuovo paradigma che sposta l'intervento dalla fase di decodifica alla fase di pre-caricamento (prefill). Invece di correggere gli errori mentre si verificano, PTI modella lo stato iniziale del modello prima che inizi la generazione.

Principi Fondamentali

1. Quando Intervenire: PTI interviene una sola volta durante la fase di pre-caricamento (quando viene costruito la cache iniziale Chiave-Valore, KV). Questo previene l'accumulo di errori prima dell'avvio del ciclo autoregressivo.
2. Cosa Colpire: Invece di stati nascosti a grana grossa, PTI prende di mira la cache KV a grana fine. La cache KV è la memoria attiva che detta i meccanismi di attenzione nei passaggi successivi.
3. Come Intervenire (Consapevole della Modalità e Disaccoppiato): PTI deriva direzioni di guida distinte per le modalità visiva e testuale e disaccoppia l'intervento per le Chiavi (che determinano dove prestare attenzione) e i Valori (che determinano cosa aggregare).

Flusso di Lavoro Tecnico

Il metodo opera in due fasi:

Fase I: Estrazione della Direzione dell'Oggetto (Senza Addestramento)
Utilizzando un dataset come MSCOCO, gli autori costruiscono coppie contrastive per isolare i segnali degli oggetti dal rumore di fondo:

• Estrazione Visiva:
  • Campione Positivo: Immagine contenente solo l'oggetto target (con lo sfondo mascherato).
  • Campione Negativo: Immagine contenente solo lo sfondo (con l'oggetto mascherato).
  • Risultato: Calcola la differenza nelle cache KV per derivare i Vettori di Guida Visiva ($S_{k,img}, S_{v,img}$).
• Estrazione Testuale:
  • Campione Positivo: Didascalia contenente parole chiave (i nomi degli oggetti).
  • Campione Negativo: Didascalia con le parole chiave mascherate (solo contesto).
  • Risultato: Calcola la differenza per derivare i Vettori di Guida Testuale ($S_{k,txt}, S_{v,txt}$).
• Nota: Viene applicata l'analisi delle componenti principali (PCA) per rimuovere il rumore da questi vettori.

Fase II: Intervento a Valle
Durante l'inferenza su un nuovo compito:

1. Il modello elabora il prompt di input per generare la cache KV iniziale.
2. Intervento Visivo: I vettori di guida visiva vengono aggiunti alle cache di Chiave e Valore alle posizioni dei token visivi.
   • Chiavi: Guidate per focalizzare l'attenzione su oggetti ancorati visivamente.
   • Valori: Guidati per filtrare il rumore di fondo.
3. Intervento Testuale: I vettori di guida testuali vengono aggiunti alle cache di Chiave e Valore alla specifica posizione del token testuale (solitamente l'ultimo token).
   • Questo orienta la rappresentazione linguistica verso concetti ancorati agli oggetti.
4. Il modello procede con la decodifica autoregressiva standard utilizzando questa cache iniziale potenziata.

3. Contributi Chiave

• Nuovo Paradigma: Introduce l'Intervento al Tempo di Pre-caricamento, il primo metodo che affronta le allucinazioni modificando la cache KV iniziale invece di reagire durante la decodifica.
• Disaccoppiamento Consapevole della Modalità: A differenza dei metodi precedenti che utilizzano vettori uniformi, PTI deriva direzioni distinte per input visivi e testuali e guida separatamente le Chiavi (focalizzazione dell'attenzione) e i Valori (aggregazione delle informazioni).
• Ortogonalità: PTI è ortogonale ai metodi esistenti di fase di decodifica, permettendo di essere combinato ("plug-and-play") con altre tecniche per ulteriori guadagni prestazionali.
• Efficienza: Poiché l'intervento avviene una sola volta all'inizio, PTI introduce un sovraccarico computazionale trascurabile rispetto ai metodi che richiedono più passaggi in avanti o un intervento continuo.

4. Risultati Sperimentali

Gli autori hanno valutato PTI su tre diverse architetture LVLM (LLaVA-1.5, Qwen-VL-Chat, DeepSeek-VL-Chat) attraverso molteplici benchmark.

• Allucinazione di Oggetti (Benchmark CHAIR):
  • PTI ha ridotto significativamente sia il tasso di allucinazione a livello di frase (CHAIRS) che a livello di istanza (CHAIRI).
  • Ha superato i metodi state-of-the-art senza addestramento (VISTA, VTI, PAI) attraverso strategie di Greedy, Beam Search e Nucleus Sampling.
  • Crucialmente, PTI ha ridotto l'"effetto valanga", prevenendo la propagazione degli errori iniziali.
• Benchmark Completi:
  • POPE: PTI ha raggiunto accuratezza e punteggi F1 superiori, in particolare nella divisione "Adversarial" impegnativa.
  • AMBER: Miglioramento delle prestazioni nel rilevamento di esistenza, attributi e relazioni.
  • MMHal-Bench & MME: PTI ha mostrato guadagni significativi in compiti di ragionamento complesso (conteggio, relazioni spaziali, attributi), dimostrando un miglior ancoraggio visivo a grana fine.
• Efficienza: PTI ha mantenuto un throughput quasi senza perdite (0,98x–0,99x rispetto alla versione originale) e latenza, mentre i metodi di decodifica contrastiva (come VCD) hanno quasi raddoppiato la latenza.

5. Significato e Impatto

• Insight Teorico: Il paper sfida la visione prevalente secondo cui la mitigazione delle allucinazioni deve avvenire durante la decodifica. Dimostra che modellare lo stato iniziale (cache KV) è più efficace della correzione reattiva.
• Utilità Pratica: PTI offre una soluzione senza addestramento, plug-and-play ed efficiente dal punto di vista computazionale. Questo la rende altamente adatta al deployment nel mondo reale dove latenza e vincoli di risorse sono critici.
• Generalizzabilità: Il metodo funziona su diverse architetture di modelli e strategie di decodifica, e i vettori di guida estratti mostrano trasferibilità tra modelli, suggerendo che catturano meccanismi universali per l'ancoraggio degli oggetti.

In sintesi, PTI risolve il problema delle allucinazioni "pulendo la fonte" (la cache KV iniziale) piuttosto che "riparando la perdita" (il flusso di decodifica), fermando efficacemente l'effetto valanga degli errori prima che inizino.