Riepilogo Tecnico: Punteggio Instruction Lens per il Rilevamento di Allucinazioni di Oggetti

Enunciato del Problema

I Modelli Linguistici Multimodali su Larga Scala (MLLM) hanno dimostrato capacità significative nella comprensione e nel ragionamento visivo. Tuttavia, una barriera critica per il loro affidabile dispiegamento è l'allucinazione di oggetti (OH), in cui i modelli generano descrizioni di oggetti non presenti nelle immagini di input. I metodi di rilevamento esistenti affrontano due limitazioni principali:

1. Dipendenza da Modelli Ausiliari: I metodi che si basano su modelli esterni (ad esempio, GPT-4) o su rilevatori dedicati di allucinazioni comportano un sostanziale sovraccarico computazionale e richiedono un addestramento aggiuntivo.
2. Vulnerabilità a Segnali Visivi Fuorvianti: I punteggi di rilevamento basati sulla visione (ad esempio, pesi di attenzione, similarità locale) spesso soffrono di un'alta confidenza spuria quando i codificatori visivi introducono informazioni fuorvianti o quando i pattern visivi locali degli oggetti allucinati assomigliano a quelli reali (ad esempio, texture simili per cucchiai e coltelli).

Metodologia: Punteggio Instruction Lens (InsLen)

Il documento propone il Punteggio Instruction Lens (InsLen), un rilevatore senza addestramento e plug-and-play che sfrutta gli embedding interni dei token di istruzione per filtrare le informazioni visive fuorvianti. L'idea centrale è che gli embedding delle istruzioni codifichino implicitamente informazioni visive radicate nell'immagine, sopprimendo efficacemente i segnali errati introdotti dagli embedding visivi.

Il metodo utilizza la tecnica Logit Lens per proiettare gli embedding degli strati intermedi nello spazio del vocabolario al fine di analizzare le distribuzioni di confidenza. InsLen comprende due componenti complementari:

1. Punteggio Locale Calibrato ($S_{cls}$)

Questa componente affronta il problema della sovracconfidenza spuria nei punteggi basati sulla visione.

• Meccanismo: Introduce una Confidenza di Calibrazione ($S_{cafe}$) misurando la massima confidenza assegnata a un token oggetto attraverso tutti gli embedding delle istruzioni.
• Logica: Poiché gli embedding delle istruzioni filtrano i segnali visivi fuorvianti, gli oggetti allucinati ricevono una confidenza inferiore in questa proiezione.
• Fusione: $S_{cafe}$ viene fusa moltiplicativamente con i punteggi visivi esistenti (ad esempio, Punteggio di Similarità Locale, Confidenza Interna) per calibrare le evidenze visive locali:
  $$S_{cls}(o) = S_{cafe}(o) \cdot S_{local}(o)$$

2. Punteggio di Coerenza Contestuale ($S_{ccs}$)

Questa componente affronta la limitazione degli embedding visivi a livello di patch, che potrebbero non riuscire a distinguere oggetti con texture locali simili.

• Meccanismo: Aggrega gli embedding delle istruzioni che assegnano un'alta probabilità al token oggetto per formare una rappresentazione contestuale globale ($\bar{z}$).
• Logica: Gli embedding delle istruzioni catturano il contesto globale dell'oggetto. La coerenza tra l'embedding del token oggetto generato ($h_o$) e il contesto delle istruzioni aggregate ($\bar{z}$) viene misurata utilizzando una distanza $\ell_2$ normalizzata.
• Ponderazione: Il punteggio di coerenza è ponderato dalla confidenza media degli embedding delle istruzioni selezionati per garantire l'affidabilità:
  $$S_{ccs}(o) = S_{con}(o) \cdot p(o|\{\hat{z}_1, ..., \hat{z}_m\})$$

Punteggio Finale

Il punteggio finale InsLen è una combinazione ponderata del Punteggio Locale Calibrato e del Punteggio di Coerenza Contestuale:
$$S_{Ins}(o) = \omega \cdot S_{cls}(o) + (1 - \omega) \cdot S_{ccs}(o)$$
dove $\omega$ è un iperparametro.

Contributi Chiave

1. Analisi degli Embedding delle Istruzioni: Gli autori rivelano che gli embedding delle istruzioni negli MLLM codificano implicitamente semantica visiva affidabile e possono filtrare efficacemente le informazioni fuorvianti originanti dagli embedding visivi, una capacità precedentemente trascurata per il rilevamento di allucinazioni.
2. Rilevatore Proposto (InsLen): Un rilevatore innovativo e senza addestramento che integra evidenze visive calibrate con la coerenza contestuale basata sulle istruzioni, senza richiedere modelli ausiliari o addestramento aggiuntivo.
3. Valutazione Completa: Esperimenti estesi su molteplici benchmark (MSCOCO, Objects365, POPE, CLEVR) e diverse architetture MLLM (LLaVA-1.5, InstructBLIP, mPLUG-Owl3, Qwen3-VL, LLaVA-OneVision) dimostrano l'efficacia del metodo.

Risultati Sperimentali

• Prestazioni: InsLen supera costantemente i metodi esistenti all'avanguardia (ad esempio, GLSIM, SVAR, Confidenza Interna) su tutti i benchmark e le architetture di modelli testati.
  • Sul benchmark MSCOCO con Qwen3-VL, InsLen ha migliorato l'AUROC del 7,70% rispetto alla baseline più forte (GLSIM).
  • Sul benchmark POPE, ha raggiunto un AUROC fino al 13,81% superiore rispetto alle baseline per LLaVA-1.5.
  • Sul benchmark CLEVR (che testa allucinazioni di attributi e relazioni), InsLen ha mostrato prestazioni superiori, in particolare su modelli più potenti come Qwen3-VL (77,72% AUROC contro il 73,01% di SVAR).
• Robustezza: Il metodo rimane efficace su modelli post-addestrati (ad esempio, LLaVA-RLHF, LLaVA-RLAIF-V) e dimostra stabilità attraverso diverse lunghezze di istruzione di input e impostazioni degli iperparametri ($\omega$, $m$, $\tau$).
• Efficienza: Sebbene introduca un sovraccarico computazionale leggermente superiore rispetto ad alcune baseline (ad esempio, ~104ms contro 95ms per LLaVA-1.5), il costo è minimo rispetto alla generazione della risposta e significativamente inferiore rispetto ai metodi che richiedono modelli ausiliari o operazioni di azzeramento (ad esempio, EAZY).

Significato e Affermazioni

Il documento afferma che il Punteggio Instruction Lens fornisce un segnale prezioso e poco esplorato per migliorare l'affidabilità della generazione degli MLLM. Dimostrando che gli embedding delle istruzioni possono sopprimere efficacemente le informazioni visive fuorvianti, il lavoro offre una nuova prospettiva sul rilevamento di allucinazioni che non dipende da risorse esterne o dal riaddestramento. Gli autori posizionano InsLen come una soluzione robusta e plug-and-play che aumenta l'affidabilità degli MLLM nelle applicazioni del mondo reale in cui l'allucinazione di oggetti comporta rischi significativi.