💬 NLP

Do We Really Need External Tools to Mitigate Hallucinations? SIRA: Shared-Prefix Internal Reconstruction of Attribution

SIRA è un framework di decodifica contrastiva interna senza addestramento che mitiga le allucinazioni nei grandi modelli visione-linguaggio generando un riferimento controfattuale dominato dal prior linguistico all'interno dello stesso trasformatore mediante attenzione mascherata negli strati successivi, riducendo così la dipendenza da strumenti esterni e passaggi in avanti aggiuntivi pur preservando la copertura descrittiva.

Autori originali: Tian Qin, Junzhe Chen, Yuqing Shi, Tianshu Zhang, Qiang Ju, Lijie Wen

Pubblicato 2026-05-15

📖 4 min di lettura☕ Lettura da pausa caffè

CC BY 4.0

Autori originali: Tian Qin, Junzhe Chen, Yuqing Shi, Tianshu Zhang, Qiang Ju, Lijie Wen

Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo

Immagina di avere un assistente molto intelligente e colto (un Large Vision-Language Model) che sta cercando di descrivere un'immagine che gli hai appena mostrato. A volte, questo assistente diventa un po' troppo sicuro di ciò che pensa di vedere, piuttosto che di ciò che è effettivamente presente. Potrebbe dire: "Vedo una bicicletta rossa", quando l'immagine è in realtà solo una forma sfocata che potrebbe essere una bicicletta, oppure potrebbe inventare dettagli perché ha letto così tante storie sulle biciclette che il suo cervello colma le lacune. Questo fenomeno è chiamato allucinazione.

Il documento introduce un nuovo espediente intelligente chiamato SIRA per impedire che ciò accada, senza bisogno di riaddestrare l'assistente o assumere una seconda persona per verificare il lavoro.

Il problema dei vecchi espedienti

In passato, per impedire all'assistente di mentire, i ricercatori provavano un metodo come questo:

Mostrare all'assistente l'immagine originale.
Poi, mostrargli una versione sfocata o alterata della stessa immagine.
Confrontare le due risposte. Se l'assistente cambia versione quando l'immagine è sfocata, forse stava indovinando.

Il difetto: È come chiedere a qualcuno di descrivere un dipinto e poi chiedergli di descrivere lo stesso dipinto indossando occhiali appannati. La versione con gli "occhiali appannati" non è un confronto equo perché gli occhiali stessi distorcono l'immagine. È disordinato, richiede il doppio del tempo (bisogna guardare l'immagine due volte separate) e la distorsione potrebbe creare nuovi errori.

La soluzione SIRA: il "Prefisso Condiviso"

SIRA adotta un approccio diverso. Invece di manipolare l'immagine, manipola il processo di pensiero interno dell'assistente mentre sta ancora pensando.

Immagina il cervello dell'assistente come una catena di montaggio con molte stazioni (strati) che elaborano l'immagine e la domanda.

L'inizio condiviso: L'assistente inizia guardando l'immagine e la domanda insieme. Costruisce una comprensione solida della scena nelle prime stazioni della catena. Questo è il "Prefisso Condiviso". SIRA assicura che entrambe le versioni dell'assistente concordino su questa comprensione iniziale.
Il bivio: Dopo che è stata formata la comprensione iniziale, SIRA divide il processo in due tracce parallele che corrono all'interno dello stesso cervello:
- Traccia A (La visione completa): L'assistente continua a guardare i dettagli dell'immagine mentre finisce la frase.
- Traccia B (La visione "cieca"): L'assistente continua dallo stesso punto di partenza esatto, ma nelle stazioni successive è ** bendato** rispetto ai dettagli specifici dell'immagine. Può fare affidamento solo sulla sua conoscenza generale e sulla frase che ha già iniziato a scrivere.

Come corregge la menzogna

Ora, SIRA confronta le due tracce ad ogni passo della scrittura della frase:

Se l'assistente dice: "Vedo un cane", e sia la Traccia A (che vede il cane) sia la Traccia B (bendata) dicono "cane" con alta fiducia, SIRA sa che è probabilmente solo un'ipotesi basata sul linguaggio comune (forse i cani sono comuni nelle storie). Abbassa il punteggio per "cane" perché la versione bendata non aveva bisogno dell'immagine per dirlo.
Se l'assistente dice: "Vedo un elefante viola", e la Traccia A dice "elefante viola" (perché lo vede) ma la Traccia B dice "impossibile, non è nella storia" (perché non può vederlo), SIRA sa che l'immagine è l'unica ragione di questa affermazione. Aumenta il punteggio per "elefante viola".

Perché è meglio

Nessun passaggio extra: Non deve guardare l'immagine due volte. Fa tutto in un'unica soluzione, semplicemente dividendo il processo di pensiero interno.
Nessuna distorsione disordinata: Non sfoca l'immagine. Disattiva semplicemente temporaneamente l'input visivo per una versione del processo di pensiero, mantenendo il resto del contesto perfettamente allineato.
Nessun addestramento necessario: Funziona immediatamente sui modelli esistenti. Non devi insegnare nulla di nuovo al modello.

Il risultato

Nei test, SIRA ha impedito con successo agli assistenti di inventare oggetti che non erano presenti (come una "banana" che non è nella foto), permettendo loro al contempo di descrivere accuratamente le cose reali. È come avere un "controllo di realtà" integrato che avviene istantaneamente all'interno del cervello stesso del modello, assicurando che ciò che dicono sia effettivamente supportato da ciò che vedono, non solo da ciò che si aspettano di vedere.

Riepilogo Tecnico: SIRA – Ricostruzione Interna dell'Attribuzione con Prefisso Condiviso

Enunciato del Problema

I Modelli Visivo-Linguistici su Grande Scala (LVLM) soffrono frequentemente di allucinazioni, in cui il modello genera descrizioni di oggetti, attributi o relazioni linguisticamente plausibili ma non supportate dall'input visivo. Questo problema è particolarmente acuto quando l'evidenza visiva è debole o ambigua, permettendo a priori linguistici ad alta probabilità di dominare la previsione dei token.

Le strategie di mitigazione esistenti, in particolare il decodifica contrastiva, tentano di affrontare questo problema confrontando la previsione del modello sull'immagine originale con una previsione di riferimento derivata da un input degradato o perturbato (ad esempio, immagini sfocate o mascherate). Tuttavia, gli autori identificano due limitazioni critiche in questi approcci esterni:

Sovraccarico Computazionale: Richiedono tipicamente un secondo passaggio in avanti completo attraverso il modello.
Artifatti Fuori dalla Varietà (Off-Manifold): La perturbazione dell'immagine di input può introdurre artefatti non rappresentativi della vera distribuzione visiva. Di conseguenza, le discrepanze dei logit risultanti possono riflettere mismatch causati dalla perturbazione stessa piuttosto che un'attribuzione pulita dell'evidenza visiva rispetto ai priori linguistici.

Il documento ipotizza che un riferimento controfattuale efficace non debba essere costruito esternamente nello spazio di input. Invece, sostiene che il requisito chiave sia un riferimento allineato che riveli come lo stesso stato multimodale evolverebbe se l'accesso all'evidenza visiva granulare fosse limitato nelle fasi successive di elaborazione.

Metodologia: SIRA

Gli autori propongono SIRA (Ricostruzione Interna dell'Attribuzione con Prefisso Condiviso), un framework di decodifica contrastiva interno e privo di addestramento. SIRA costruisce un riferimento controfattuale all'interno della stessa traiettoria di inferenza LVLM manipolando il flusso di informazioni all'interno dei livelli del transformer, invece di alterare l'immagine di input.

Meccanismo Principale

SIRA opera mantenendo due rami di decodifica sincronizzati che condividono un comune "prefisso" e divergono solo dopo un specifico confine di divisione ( $b$ ):

Prefisso Condiviso ($0 $a$ b-1$): Sia il Ramo Completo (inferenza standard) che il Ramo Controfattuale condividono lo stesso prompt, i parametri del modello, la cronologia di decodifica, la struttura posizionale e i calcoli dei livelli iniziali. Questo garantisce che entrambi i rami ereditino un'interpretazione multimodale identica e stabile e un ancoraggio visivo iniziale prima della divisione.
Diramazione Tardiva ( $b$ a $L-1$ ): Dopo il livello di confine $b$ $b$ , i rami divergono:
- Il Ramo Completo continua l'inferenza multimodale standard, permettendo l'attenzione ai token immagine.
- Il Ramo Controfattuale applica una maschera di attenzione specifica ( $M_{cf}$ ) che blocca l'accesso alle posizioni dei token immagine. In questo ramo, i token immagine non possono essere letti dalle query, né possono produrre query che alimentano il flusso di testo.
Contrasto Interno: Ad ogni passo di decodifica, SIRA calcola i logit per entrambi i rami ( $z_{full}$ $z_{f u l l}$ e $z_{cf}$ $z_{c f}$ ). Il logit finale di decodifica ( $z_{cd}$ $z_{c d}$ ) è calcolato come:
$z_{cd}(v) = (1 + \alpha)z_{full}(v) - \alpha z_{cf}(v)$
Dove $\alpha$ $α$ controlla la forza del contrasto.
- I token che rimangono forti nel Ramo Controfattuale (mancando l'accesso visivo) vengono penalizzati, poiché sono probabilmente guidati da priori linguistici.
- I token che guadagnano un vantaggio specificamente nel Ramo Completo sono favoriti, poiché la loro probabilità dipende dall'evidenza visiva continua.

Efficienza

A differenza dei metodi che richiedono due passaggi in avanti completi (ad esempio, VCD), SIRA condivide il calcolo per i primi $b$ livelli. Sostiene solo il costo degli ultimi $K$ livelli per il ramo controfattuale. Ciò risulta in un rapporto di costo ideale per token di $1 + K/L$ (circa $1.5\times$ per una divisione a livello medio), significativamente inferiore al costo $2\times$ dei metodi contrastivi esterni.

Contributi Chiave

Prospettiva sul Flusso di Informazioni: Il documento rivaluta la mitigazione delle allucinazioni sostenendo che i riferimenti efficaci devono preservare l'ancoraggio multimodale iniziale mentre limitano l'accesso successivo ai token immagine, piuttosto che affidarsi a perturbazioni di input esterne.
Framework SIRA: La proposta di un metodo di decodifica contrastiva interno e privo di addestramento che costruisce un riferimento controfattuale tramite diramazione tardiva con prefisso condiviso e mascheramento dei token immagine post-confine.
Validazione Empirica: Esperimenti completi che dimostrano come SIRA riduca le allucinazioni preservando la copertura descrittiva e sostenendo un sovraccarico inferiore rispetto ai metodi a due passaggi.

Risultati Sperimentali

Gli autori hanno valutato SIRA su Qwen2.5-VL e LLaVA-v1.5 attraverso tre benchmark: POPE (allucinazione a livello di oggetto), CHAIR (allucinazione nella descrizione) e AMBER (descrizione multidimensionale).

POPE: SIRA ha ottenuto i migliori risultati su tutte le 36 metriche (combinazioni di architettura di base, dataset e strategia di campionamento negativo). Ha migliorato l'accuratezza in media di +5.4 punti su Qwen2.5-VL e +4.9 punti su LLaVA-v1.5 rispetto ai decoder di base, superando basi solide come DoLa, OPERA e VCD. Notevolmente, i miglioramenti sono stati coerenti anche nelle divisioni "Adversarial" dove i priori linguistici sono forti.
CHAIR: SIRA ha ridotto sia i tassi di allucinazione a livello di frase (CHAIRs) che a livello di istanza (CHAIRi). Ad esempio, su LLaVA-v1.5, CHAIRs è sceso da 31.5 a 23.1 alla lunghezza 64, indicando una riduzione di menzioni spurie di oggetti piuttosto che una semplice omissione.
AMBER: SIRA ha ridotto le metriche di allucinazione (Hal, Cog) mentre preservava o aumentava la copertura descrittiva (Cover). Ciò contrasta con basi come OPERA e VCD, che spesso riducevano le allucinazioni accorciando o attenuando le descrizioni (eccessiva cautela). SIRA ha ridotto specificamente le allucinazioni "Cognitive" (Cog), che sono strettamente accoppiate ai priori linguistici.
Efficienza: SIRA ha sostenuto un sovraccarico di latenza di circa 1.4–1.5 $\times$ rispetto alla decodifica standard, significativamente inferiore a VCD ( $\sim2.1\times$ ) e OPERA ( $\sim5.9\times$ ).

Significato e Limitazioni

Significato:
Il documento afferma che SIRA offre un proxy di attribuzione a livello di token più diretto e pulito rispetto ai riferimenti costruiti esternamente. Mantenendo il ramo controfattuale sulla stessa varietà del modello e condividendo lo stato semantico iniziale, SIRA isola il contributo dell'evidenza visiva senza introdurre artefatti di perturbazione. Raggiunge una riduzione delle allucinazioni allo stato dell'arte senza richiedere il riaddestramento del modello, verificatori esterni o input perturbati, rendendolo applicabile a LVLM con pesi aperti e accesso white-box.

Limitazioni:
Gli autori riconoscono due limitazioni primarie:

Sovraccarico: Sebbene inferiore rispetto ai metodi a due passaggi, SIRA sostiene ancora un costo di decodifica per passo non nullo a causa della rivalutazione del ramo controfattuale.
Requisiti di Accesso: La costruzione del contrasto interno richiede accesso white-box agli stati nascosti, alle maschere di attenzione e agli stati della cache, limitando la sua applicazione a LVLM con pesi aperti o controllabili piuttosto che a API black-box.