Focus Matters: Phase-Aware Suppression for Hallucination in Vision-Language Models

1. Il Problema: Allucinazioni negli LVLM

I Large Vision-Language Models (LVLM) hanno ottenuto progressi notevoli nel ragionamento multimodale e nella generazione di linguaggio basato su immagini. Tuttavia, soffrono ancora di un problema critico: le allucinazioni di oggetti. Questo fenomeno si verifica quando il modello genera descrizioni di oggetti che non sono presenti nell'immagine di input, minando l'affidabilità del sistema in applicazioni che richiedono un'ancoraggio visivo preciso.

Le soluzioni esistenti per mitigare le allucinazioni si dividono principalmente in due categorie:

• Interventi a livello di decoder: Modificano le probabilità dei token durante la generazione del testo. Tuttavia, non correggono le informazioni visive errate estratte in precedenza.
• Interventi a livello di encoder visivo: Tentano di sopprimere i segnali visivi inaffidabili. Un metodo recente, l'Adversarial Uncertainty Estimation (AUE), utilizza ottimizzazione avversaria iterativa (basata su PGD) per identificare e mascherare token incerti. Sebbene efficace, AUE richiede aggiornamenti iterativi per ogni immagine, introducendo una latenza di inferenza proibitiva che ne limita l'uso in scenari reali o su larga scala.

2. Metodologia: Dinamiche dell'Attenzione e Soppressione Fase-Specifica

Gli autori hanno analizzato le dinamiche interne dell'attenzione all'interno degli encoder visivi di diversi LVLM, scoprendo una struttura coerente a tre fasi nel processo di elaborazione delle informazioni visive:

1. Fase di Diffusione (Diffusion): Nelle prime layer, l'attenzione è distribuita ampiamente su molti token.
2. Fase di Focalizzazione (Focus): Nelle layer intermedie, l'attenzione si concentra fortemente su un piccolo sottoinsieme di token, mentre la maggior parte degli altri riceve un'attenzione trascurabile.
3. Fase di Ridiffusione (Rediffusion): Nelle layer finali, l'attenzione si ridistribuisce nuovamente mentre le rappresentazioni si propagano.

L'Intuizione Chiave:
Attraverso esperimenti controllati, gli autori hanno scoperto che il comportamento allucinatorio è particolarmente sensibile ai token che ricevono un'attenzione bassa durante la Fase di Focalizzazione. Sopprimere questi token riduce le allucinazioni, mentre amplificarli le aumenta.

La Proposta: Focus Matters
Il paper propone un metodo di intervento leggero e senza training (training-free) che opera al momento dell'inferenza:

• Identificazione della Fase: Utilizza statistiche di un singolo passaggio in avanti (forward pass) per identificare le layer corrispondenti alla fase di "Focus".
• Selezione dei Token: Utilizza un Processo a Punti Determinantale (DPP) per selezionare i token da sopprimere. A differenza di una semplice selezione "Top-k" basata sul ranking, il DPP considera sia l'importanza del token che la diversità (riducendo la ridondanza), preservando così segnali visivi diversificati.
• Mascheramento: Durante la fase di Focus, i token selezionati (quelli a bassa attenzione ma potenzialmente rumorosi) vengono mascherati (soppressi) tramite un'operazione di hard masking.
• Efficienza: Il metodo non richiede ottimizzazione iterativa o gradienti inversi, operando con un costo computazionale quasi nullo rispetto all'inferenza standard.

3. Contributi Principali

1. Intervento di Inferenza a Basso Sovraccarico: Un metodo training-free che sopprime selettivamente i token visivi nell'encoder senza ottimizzazione avversaria, raggiungendo prestazioni simili a metodi complessi con costi computazionali minimi.
2. Analisi delle Dinamiche di Attenzione: Identificazione di una struttura a tre fasi (Diffusione, Focalizzazione, Ridiffusione) coerente attraverso diverse architetture LVLM (LLaVA, Shikra, Qwen, InternVL).
3. Correlazione Fase-Specifica: Dimostrazione empirica che la soppressione dei token durante la fase di "Focus" è direttamente correlata alla riduzione delle allucinazioni.
4. Meccanismo di Bias Linguistico: Analisi del Visual Attention Ratio (VAR) che mostra come la soppressione dei token rumorosi durante il Focus aumenti la dipendenza del modello linguistico dalle evidenze visive, riducendo il bias verso i prior linguistici.

4. Risultati Sperimentali

Gli esperimenti sono stati condotti su molteplici backbone (LLaVA-1.5, Shikra, Qwen-2.5-VL, InternVL-2.5) e strategie di decoding.

• Riduzione delle Allucinazioni: Il metodo riduce costantemente le metriche CHAIR (CHAIRs e CHAIRI) su diversi modelli. Ad esempio, su LLaVA-1.5-7B, CHAIRs scende da 45.0 a 28.8, con prestazioni comparabili o superiori a AUE.
• Qualità della Descrizione: Il metodo mantiene o migliora la fedeltà delle didascalie (misurata tramite F1 score e POPE), dimostrando che non degrada la capacità di riconoscere oggetti reali.
• Efficienza Computazionale (Latency): Questo è il vantaggio decisivo.
  • AUE: Su Qwen-2.5-VL, aumenta il tempo di inferenza totale da ~2.6s a ~33.5s (overhead di ~30s) a causa dell'ottimizzazione iterativa.
  • Focus Matters: Aumenta il tempo totale di soli ~0.2s (da 2.6s a 2.8s), rendendolo pratico per l'uso reale.
• Analisi Qualitativa: Le didascalie generate con il metodo proposto sono più coerenti con il contenuto visivo reale, eliminando oggetti fantasma (es. "un gatto in un lavandino" quando non c'è) senza perdere dettagli rilevanti.

5. Significato e Impatto

Il lavoro "Focus Matters" offre una nuova prospettiva sulla gestione delle allucinazioni negli LVLM, spostando il focus dalla correzione post-hoc o dall'ottimizzazione costosa alla comprensione delle dinamiche temporali interne dell'encoder visivo.

Dimostrando che l'intervento nella fase di "Focalizzazione" è cruciale, il paper introduce un approccio pratico, scalabile ed efficiente per migliorare l'affidabilità dei sistemi multimodali. La capacità di ottenere mitigazioni delle allucinazioni paragonabili a metodi avanzati come AUE, ma con un overhead di latenza trascurabile, rende questa tecnica immediatamente applicabile in scenari reali che richiedono risposte rapide e accurate, come l'assistenza robotica, l'analisi medica o l'interazione uomo-macchina in tempo reale.