AFTER: Mitigating the Object Hallucination of LVLM via Adaptive Factual-Guided Activation Editing

Il paper propone AFTER, un metodo che mitiga le allucinazioni degli oggetti nei Large Vision-Language Models tramite un'editing adattiva delle attivazioni guidata da fatti, combinando un'orientazione delle attivazioni potenziata da dati fattuali e un'ottimizzazione adattiva specifica per la query.

L'essenziale

Immagina di avere un assistente visivo molto intelligente, un "super-cervello" che guarda le foto e ti racconta cosa sta succedendo. Questo assistente è chiamato LVLM (Large Vision-Language Model). È bravissimo, ma ha un difetto: a volte allucina.

Cosa significa? Significa che, invece di fidarsi di ciò che vede davvero nella foto, si fida troppo di ciò che crede di sapere. È come se un amico ti dicesse: "Vedo un cane!" in una foto dove c'è un gatto, solo perché nella sua testa "quando c'è un prato, c'è sempre un cane". Questo errore si chiama bias linguistico: il modello ascolta più la sua "voce interna" (i dati testuali) che gli occhi (l'immagine).

Gli autori di questo paper, chiamati AFTER, hanno trovato un modo geniale per correggere questo comportamento senza dover riaddestrare l'intero cervello da zero (cosa che richiederebbe anni e montagne di soldi).

Ecco come funziona, spiegato con una metafora semplice:

Il Problema: Il Navigatore Sbagliato

Immagina che il modello LVLM sia un navigatore GPS.

• La situazione: Il GPS sta guidando un'auto (l'immagine).
• L'errore: Il GPS è così abituato a certi percorsi che, quando vede una strada sterrata, dice: "Stai andando sulla 5ª Strada", anche se il cartello dice chiaramente "Sentiero del Bosco". Il GPS ignora la realtà visiva per seguire la sua memoria.
• I metodi vecchi: I tentativi precedenti cercavano di correggere il GPS "abbagliando" la telecamera o rendendo la strada sfocata per costringere il GPS a guardare meglio. Funzionava un po', ma era come guidare con gli occhiali da sole: non vedevi tutto chiaramente.

La Soluzione: AFTER (Il Correttore Fattuale)

Gli autori propongono AFTER, che agisce come un copilota esperto che interviene direttamente sui comandi del motore mentre guidate, senza fermare l'auto.

AFTER usa due trucchi principali:

1. FAS: La "Bussola della Verità" (Guida Fattuale)

Invece di dire al GPS "guarda meglio", il copilota gli dice: "Ehi, ecco esattamente cosa c'è qui".

• Prende i dati reali della foto (es. "c'è un guanto", "c'è un casco", "il casco è bianco") e li trasforma in una descrizione testuale perfetta.
• Poi, confronta ciò che il modello pensa di vedere con questa descrizione perfetta.
• L'analogia: È come se il copilota prendesse la mappa corretta e la mettesse sotto il naso del GPS, dicendogli: "Smetti di immaginare, leggi questo: c'è un guanto, non una sciabola". Questo sposta l'attenzione del modello dalla sua immaginazione alla realtà fattuale.

2. QAO: Il "Radar Adattivo" (Ottimizzazione per la Domanda)

Qui sta la vera magia. Non tutte le domande sono uguali.

• Se chiedi "Cosa c'è nella foto?", il GPS ha bisogno di una correzione generale.
• Se chiedi "Quanti guanti ci sono?", il GPS ha bisogno di una correzione specifica per il conteggio.
• L'analogia: I metodi vecchi usavano lo stesso "aggiustamento" per tutte le domande, come se usassi lo stesso tipo di olio motore per guidare in città e in montagna. QAO invece è un sistema che capisce cosa stai chiedendo e calcola l'aggiustamento perfetto per quella specifica domanda. Se chiedi dei guanti, il sistema calcola esattamente quanto spostare l'attenzione sui guanti, ignorando il resto.

Perché è così speciale?

1. È veloce: Non serve fermare il motore per fare manutenzione (riaddestramento). Si applica mentre l'auto è in corsa (durante l'uso normale).
2. È preciso: Non è un "tappeto magico" che copre tutti gli errori, ma un chirurgo che tocca solo il punto giusto.
3. Risultati: Hanno provato questo metodo su tre modelli diversi e ha funzionato benissimo. Su un test famoso (AMBER), hanno ridotto le allucinazioni del 16,3%. È come se il GPS avesse smesso di inventare strade inesistenti.

In Sintesi

AFTER è come dare al tuo assistente visivo un libro di verità da consultare in tempo reale e un sistema di navigazione intelligente che sa esattamente quale pagina aprire in base alla domanda che gli fai. Invece di lasciarlo vagare nella sua immaginazione, lo ancoriamo saldamente ai fatti, rendendolo molto più affidabile per compiti importanti (come la medicina o la sicurezza), senza però renderlo lento o stupido.

È un modo elegante per dire: "Ascolta i tuoi occhi, non solo la tua memoria".

Sommario tecnico

1. Il Problema: Allucinazione degli Oggetti e Bias Linguistico

I Large Vision-Language Models (LVLM) hanno ottenuto progressi significativi, ma soffrono ancora di un problema critico noto come allucinazione degli oggetti. Questo fenomeno si verifica quando il modello genera risposte che non corrispondono agli oggetti visivi reali presenti nell'immagine.

Le cause principali sono identificate nel bias linguistico: i modelli tendono a privilegiare la conoscenza testuale interna (addestrata su grandi corpus di testo) rispetto agli input visivi esterni. Il paper classifica le allucinazioni in tre categorie principali:

1. Categorica: Identificazione errata della classe dell'oggetto (es. scambiare uno zaino per una tavola da snowboard a causa di associazioni linguistiche con lo sci).
2. Attributiva: Errori nelle proprietà dell'oggetto, come il conteggio (es. assumere che i guanti siano sempre in coppia).
3. Relazionale: Errori nelle relazioni spaziali o d'azione (es. dire che un uomo "indossa" un casco quando in realtà lo "sta tenendo").

Le soluzioni esistenti (basate su ri-addestramento o correzioni iterative durante l'inferenza) sono spesso troppo costose in termini di risorse computazionali o richiedono più passaggi di inferenza. I metodi di editing delle attivazioni esistenti, pur essendo efficienti, spesso degradano le semantica visiva (es. aggiungendo rumore) senza sfruttare attivamente le informazioni fattuali testuali per guidare il modello verso la verità.

2. Metodologia: AFTER

Gli autori propongono AFTER (Adaptive Factual-guided Visual-Textual Editing foR hallucination mitigation), un approccio che modifica le attivazioni interne del modello durante l'inferenza per allinearle alla semantica fattuale. Il metodo si compone di due fasi principali:

A. Factual-Augmented Activation Steering (FAS)

Questa fase mira a stabilire una direzione di editing generale e positiva basata sui fatti.

• Trasformazione in Fatti: Le annotazioni "ground-truth" delle immagini (da dataset come COCO) vengono convertite in fatti testuali strutturati:
  • Categorie: Liste di oggetti presenti.
  • Attributi: Colore, forma e conteggio (derivati da statistiche dei pixel e geometria).
  • Relazioni: Posizioni spaziali relative (es. "sopra", "accanto").
• Generazione di Descrizione Fattuale: Un LVLM esterno (usato solo per l'addestramento, non per l'inferenza finale) integra questi fatti in una descrizione testuale coerente e fattuale ($t^+$).
• Costruzione del Vettore di Steering: Il sistema crea coppie di campioni "fidati" (descrizione testuale $t^+$ + domanda) e "non fidati" (immagine originale $x$ + domanda). Calcolando la differenza tra le attivazioni interne generate da questi due input, si ottiene un vettore di steering generale ($\bar{d}$) che spinge le attivazioni verso la semantica fattuale.

B. Query-Adaptive Offset Optimization (QAO)

Poiché una direzione di editing generica potrebbe non essere sufficiente per ogni specifica domanda, viene introdotta una fase adattiva.

• Stima dell'Offset: Viene addestrato un estimatore leggero (un singolo strato MLP) che analizza la domanda specifica e le attivazioni visive per stimare un offset specifico per la query ($o_i$).
• Adattamento: L'offset viene aggiunto al vettore generale. Questo permette di modellare le associazioni visivo-testuali specifiche per la domanda, gestendo la diversità delle richieste (es. focalizzarsi su un oggetto specifico menzionato nella domanda).
• Applicazione: Durante l'inferenza, le attivazioni vengono modificate come: $h^{l+1} = h^l + \text{Concat}(z^{l,k} + \alpha \cdot [G(z^{l,k}) + \bar{d}])$, dove $G$ è l'estimatore e $\alpha$ l'intensità.

3. Contributi Chiave

1. Proposta di AFTER: Un metodo di editing delle attivazioni che guida adattivamente le attivazioni originali verso semantica testuale arricchita da fatti, riducendo il bias linguistico.
2. FAS (Factual-Augmented Activation Steering): Un meccanismo innovativo che trasforma le annotazioni di ground-truth in fatti testuali espliciti (categorici, attributivi, relazionali) per fornire una guida positiva e affidabile all'editing.
3. QAO (Query-Adaptive Offset Optimization): Un approccio per personalizzare l'editing in base alla domanda specifica, superando i limiti dei vettori di steering medi e statici utilizzati in lavori precedenti.
4. Efficienza e Generalizzazione: Il metodo non richiede il ri-addestramento del LVLM e mantiene un costo di inferenza minimo, dimostrando forte capacità di generalizzazione su dataset non visti.

4. Risultati Sperimentali

Il metodo è stato valutato su tre LVLM popolari: LLaVA-v1.5, InstructBLIP e Shikra, utilizzando benchmark standard come POPE, MME e AMBER.

• Riduzione delle Allucinazioni:
  • Su AMBER (benchmark generativo), AFTER ha ottenuto una riduzione delle allucinazioni fino al 16.3% rispetto alla baseline su Shikra, superando di gran lunga i metodi SOTA come VTI e ICT.
  • Su POPE (discriminativo), ha mostrato miglioramenti medi del 4.1% in accuratezza e del 2.6% in F1-score rispetto alle baseline.
  • Su MME, ha ottenuto guadagni significativi nella sottosezione dedicata alle allucinazioni degli oggetti.
• Performance Generali: A differenza di altri metodi che degradano le capacità generali del modello, AFTER ha migliorato anche le prestazioni nelle capacità percettive e cognitive generali (aumento medio di 130.7 punti su MME).
• Efficienza: Il metodo mantiene la velocità di inferenza più alta tra i metodi di mitigazione (29.7 token al secondo) e un uso della memoria moderato (16.3 GB), rendendolo adatto al deployment pratico.
• Analisi: Le visualizzazioni delle attivazioni confermano che l'editing sposta le attivazioni visive originali (che divergono dai fatti) verso il cluster delle attivazioni testuali fattuali, riducendo il divario visivo-testuale.

5. Significato e Impatto

Il lavoro AFTER rappresenta un passo avanti significativo nella creazione di LVLM affidabili.

• Paradigma Shift: Sposta l'attenzione dalla semplice degradazione delle immagini (per forzare il modello a guardare meglio) all'uso attivo di semantica fattuale testuale per guidare il modello.
• Costo-Beneficio: Offre una soluzione a basso costo computazionale che non richiede il ri-addestramento massiccio dei modelli, rendendo la mitigazione delle allucinazioni accessibile per applicazioni reali.
• Limitazioni e Futuro: L'approccio dipende dall'accesso alle attivazioni interne (limitando l'uso su modelli chiusi) e potrebbe richiedere dati specifici di dominio per settori specializzati come la medicina. Tuttavia, apre la strada a futuri lavori su domini verticali e sull'estensione a modelli proprietari.

In sintesi, AFTER dimostra che correggere le allucinazioni non richiede necessariamente di "insegnare" di nuovo al modello, ma di guidare strategicamente le sue attivazioni interne verso la verità fattuale attraverso un editing adattivo e intelligente.