Hallucination-aware intermediate representation edit in large vision-language models

1. Il Problema: Allucinazioni nei Modelli Vision-Language (LVLM)

I Large Vision-Language Models (LVLM) hanno dimostrato capacità eccezionali nel ragionamento multimodale e nella comprensione di scene complesse. Tuttavia, soffrono di un problema critico noto come allucinazione: il modello genera risposte che contraddicono i fatti visivi reali (es. descrivere oggetti che non sono presenti nell'immagine).

Le soluzioni esistenti si dividono in due categorie principali, entrambe con limitazioni significative:

• Metodi di Riaddestramento (Retraining): Richiedono la costruzione di dataset specializzati e il fine-tuning (parziale o completo) del modello. Questo comporta costi computazionali elevati e un onere significativo nella raccolta dei dati, limitando l'applicabilità pratica.
• Decodifica Contrastiva (Contrastive Decoding - CD): Mitigano le allucinazioni durante l'inferenza confrontando le probabilità dei token di una risposta originale con quelle di una variante "indebolita". Sebbene non richiedano riaddestramento, introducono un doppio costo computazionale (due passaggi in avanti per ogni inferenza) e applicano un aggiustamento uniforme a tutti i token, anche a quelli innocui (es. preposizioni), danneggiando potenzialmente la coerenza del testo.

Inoltre, la maggior parte dei metodi attuali manca di controllabilità: non permettono di regolare il grado di allucinazione, il che è problematico in scenari dove una certa creatività (e quindi una lieve allucinazione) è desiderabile.

2. Metodologia: HIRE (Hallucination-aware Intermediate Representation Edit)

Gli autori propongono HIRE, un framework che opera a livello di rappresentazioni intermedie (feature editing) senza modificare i pesi del modello LVLM originale. L'approccio si basa sull'ipotesi che nello spazio latente le rappresentazioni "veritiere" e quelle "allucinate" siano chiaramente separabili.

Il framework HIRE è composto da tre componenti principali:

A. Editor (Modulo di Editing)

L'obiettivo è identificare e isolare le componenti legate alle allucinazioni preservando al contempo l'informazione semantica.

• Architettura: Utilizza un autoencoder a doppio encoder ($G_\phi$) composto da un Semantic Encoder ($E_{sem}$) e un Hallucinatory Encoder ($E_{hal}$), un modulo di attenzione multi-testa ($f_{attn}$) e un Decoder ($D$).
• Funzionamento: Per ogni token $t$ nello strato $l$, gli encoder separano le rappresentazioni in componenti semantiche ($h_{sem}$) e allucinate ($h_{hal}$).
• Direzione di Editing: Il sistema calcola una direzione di riduzione dell'allucinazione ($\delta_l$) analizzando la divergenza tra rappresentazioni autentiche e allucinate nello spazio delle allucinazioni. Questa direzione viene poi fusa con le informazioni semantiche per ottenere una direzione di editing specifica per il token ($\Delta_{tl}$).
• Apprendimento: Viene utilizzato l'Apprendimento Contrastivo per ottimizzare gli encoder, massimizzando la similarità tra rappresentazioni semantiche equivalenti e separando i segnali di allucinazione indipendentemente dal contenuto semantico.

B. Router (Modulo di Selezione)

Per evitare costi computazionali inutili, non tutti i token necessitano di editing.

• Funzionamento: Un modulo leggero basato su MLP analizza la rappresentazione del primo strato del Transformer ($h_{t0}$) e produce una decisione binaria ($c$).
• Logica: Se $c=1$, l'Editor viene attivato per tutti gli strati successivi; se $c=0$, non viene applicata alcuna modifica.
• Apprendimento: Il Router viene addestrato utilizzando Direct Preference Optimization (DPO), imparando a selezionare le strategie di editing che massimizzano la fedeltà alla realtà visiva basandosi su dati di preferenza a coppie.

C. Hallucination Regulator (Regolatore)

Introduce un parametro iperparametrico $\alpha$ (con $-1 \le \alpha \le 1$) che controlla l'intensità e la direzione dell'editing:

• $\alpha > 0$: Sopprime le allucinazioni (spingendo le feature verso direzioni a bassa allucinazione).
• $\alpha < 0$: Amplifica le allucinazioni (utile per compiti creativi).
• $\alpha = 0$: Nessun editing.
  Questo permette un controllo dinamico e flessibile del livello di allucinazione in base alle esigenze dell'utente.

3. Contributi Chiave

1. Nuovo Paradigma: HIRE introduce un approccio di mitigazione delle allucinazioni che non richiede riaddestramento del modello né raddoppio dei costi di inferenza, operando invece tramite l'editing delle rappresentazioni intermedie.
2. Efficienza e Controllabilità: Il framework è altamente efficiente grazie al modulo Router (che evita editing non necessari) e offre un controllo granulare sul grado di allucinazione tramite il parametro $\alpha$.
3. Prestazioni SOTA: Il metodo ha raggiunto lo stato dell'arte (State-of-the-Art) su tre benchmark principali, dimostrando una capacità superiore di eliminare le allucinazioni mantenendo l'integrità semantica.

4. Risultati Sperimentali

Gli esperimenti sono stati condotti su modelli come LLaVA-1.5 e InstructBLIP utilizzando i benchmark CHAIR, POPE e AMBER.

• Benchmark CHAIR (Generazione di didascalie):
  • Riduzione delle allucinazioni a livello di frase (CHAIRS) di circa il 40% e a livello di istanza (CHAIRI) di circa il 50% rispetto ai baseline.
  • Su LLaVA-1.5 (max tokens 512), HIRE ha ottenuto un CHAIRI di 9.7 (rispetto a 16.8 del baseline) e un CHAIRS di 30.2 (rispetto a 51.3), superando metodi come VCD, OPERA e Octopus.
• Benchmark POPE (Domande e Risposte):
  • Miglioramenti significativi in accuratezza e punteggio F1 rispetto allo stato dell'arte (es. +1.48/3.79 su LLaVA-1.5 rispetto a Octopus).
• Benchmark AMBER:
  • HIRE ha ottenuto i punteggi più alti, con un miglioramento di 7.54 punti su LLaVA-1.5 rispetto al baseline.
• Efficienza Computazionale:
  • A differenza dei metodi CD che richiedono due passaggi in avanti, HIRE introduce un overhead di inferenza minimo (circa 1.25 TFLOPs in più su InstructBLIP, contro i 16+ TFLOPs di altri metodi avanzati), grazie alla natura leggera del Router e dell'Editor.
• Controllabilità:
  • Gli esperimenti con il parametro $\alpha$ hanno dimostrato una correlazione lineare e prevedibile: valori positivi riducono le allucinazioni, valori negativi le aumentano, permettendo un controllo preciso.

5. Significato e Impatto

Il lavoro HIRE rappresenta un passo avanti significativo verso l'uso pratico e sicuro dei LVLM.

• Praticità: Elimina la barriera dei costi computazionali elevati legati al riaddestramento e al doppio inferenza, rendendo la mitigazione delle allucinazioni accessibile anche con risorse limitate.
• Flessibilità: La capacità di regolare dinamicamente il livello di allucinazione apre nuove possibilità di applicazione, adattando il modello sia a compiti critici (dove la precisione è assoluta) sia a compiti creativi.
• Generalizzazione: Il metodo si dimostra robusto su diversi modelli (Qwen, TinyLLaVA) e dataset, confermando che la separazione delle rappresentazioni nel latent space è una proprietà intrinseca sfruttabile per migliorare l'affidabilità dei modelli multimodali.

In sintesi, HIRE offre una soluzione elegante ed efficiente che sposta il focus dall'addestramento massivo alla manipolazione intelligente delle rappresentazioni interne, risolvendo il dilemma tra performance, costo e controllabilità nella mitigazione delle allucinazioni.