Riepilogo Tecnico: MHSA – Un Framework Leggero per Mitigare le Allucinazioni tramite Attenzione Guidata negli LVLM

1. Enunciato del Problema

I Large Vision-Language Models (LVLM) hanno dimostrato capacità eccezionali in compiti multimodali come la risposta a domande visive (VQA) e la descrizione di immagini (image captioning). Tuttavia, soffrono di allucinazioni, generando contenuti incoerenti con o assenti dall'input visivo. Queste si manifestano come allucinazioni di oggetti, attributi o relazioni, minando gravemente l'affidabilità del modello.

Le strategie di mitigazione esistenti presentano limitazioni significative:

• I metodi basati sull'addestramento (es. RLHF, instruction tuning) richiedono risorse computazionali sostanziali e dati annotati di alta qualità, e i miglioramenti sono spesso vincolati a distribuzioni di addestramento specifiche.
• I metodi in fase di inferenza spesso si affidano a regole euristiche fisse e progettate manualmente (es. funzioni di penalità, riponderazione statica) che non riescono ad adattarsi alle firme specifiche delle allucinazioni dei singoli campioni di input.
• Gli approcci di decodifica contrastiva (es. VCD, ICD) raddoppiano tipicamente i costi di inferenza richiedendo molteplici passaggi in avanti.

Un lavoro recente, DHCP (Detecting Hallucinations by Cross-modal Attention Pattern), ha stabilito che i campioni allucinati e non allucinati esibiscono pattern di attenzione cross-modale distinguibili. Tuttavia, DHCP è limitato alla sola rilevazione e opera principalmente a livello di frase, offrendo nessun meccanismo per la mitigazione.

2. Metodologia: Framework MHSA

Gli autori propongono MHSA (Mitigating Hallucinations via Steered Attention), un framework leggero e privo di addestramento che colma il divario tra rilevazione e mitigazione imparando a correggere i pattern di attenzione cross-modale.

Architettura Principale

MHSA opera tramite una pipeline in due fasi "rileva-poi-correggi" senza modificare i parametri del backbone dell'LVLM:

1. Discriminatore ($D$): Un MLP leggero a due strati pre-addestrato (originariamente da DHCP) che funge da rilevatore a livello di token. Analizza i pesi di attenzione cross-modale per identificare pattern allucinatori.
2. Generatore ($G$): Un MLP leggero a tre strati che prende in input il tensore originale di attenzione cross-modale ($A$) e produce un termine di correzione ($\Delta A$).
3. Meccanismo di Guida: L'attenzione corretta è calcolata come $A' = A + \Delta A$. Durante l'inferenza, se $D$ rileva un'allucinazione, $G$ genera $\Delta A$, e l'LVLM utilizza $A'$ invece di $A$ per produrre l'output finale.

Obiettivi di Addestramento

Il generatore $G$ è addestrato utilizzando un obiettivo a tre componenti per garantire una correzione efficace e stabile:

1. Perdita Guidata dal Discriminatore ($\mathcal{L}_{dg}$): Una perdita avversariale che incoraggia il generatore a trasformare i pattern di attenzione allucinatori in pattern non allucinatori, come giudicato dal discriminatore $D$.
2. Perdita di Regolarizzazione ($\mathcal{L}_{reg}$): Un vincolo sulla magnitudine di $\Delta A$ ($\|\Delta A\|_2^2$) per garantire che le correzioni siano minime e localizzate, preservando la semantica originale dell'attenzione e prevenendo artefatti.
3. Perdita di Qualità dell'Output LVLM ($\mathcal{L}_{LVLM}$): Una perdita di entropia incrociata che garantisce che l'attenzione corretta mantenga o migliori la qualità dell'output generato dall'LVLM rispetto alla verità fondamentale.

Adattamento ai Compiti Generativi

Mentre DHCP operava originariamente a livello di frase, MHSA estende questo alla correzione a livello di token per compiti generativi (es. descrizione di immagini).

• Il rilevatore e il generatore sono addestrati su tensori di attenzione cross-modale per token estratti durante la descrizione di immagini.
• Durante l'inferenza, il sistema valuta l'attenzione a ogni passo di decodifica. Se il pattern di attenzione di un token specifico viene segnalato come allucinatorio, il generatore applica una correzione prima di campionare quel token.

3. Contributi Chiave

1. Primo Framework di Mitigazione Basato sui Dati: MHSA è il primo framework a mitigare le allucinazioni degli LVLM imparando correzioni adattive al campione dei pattern di attenzione cross-modale, superando le regole euristiche fisse.
2. Estensione a Livello di Token: Gli autori estendono la rilevazione basata sull'attenzione dal livello di frase al livello di token, abilitando la mitigazione sia in compiti discriminativi (VQA) che generativi (descrizione).
3. Leggero ed Efficiente: Il framework non modifica i parametri del backbone dell'LVLM. Addestra solo un piccolo generatore MLP e utilizza un rilevatore pre-addestrato, introducendo un sovraccarico computazionale marginale rispetto al costo di inferenza dell'LVLM.
4. Valutazione Completa: Il metodo è validato su molteplici LVLM all'avanguardia (Qwen2.5-VL, InternVL2, LLaVA-v1.5) e dataset diversificati (MSCOCO, Objects365, OpenImages, Flickr30k).

4. Risultati Sperimentali

Compiti Discriminativi (Benchmark POPE)

• Prestazioni: MHSA ottiene miglioramenti consistenti e significativi nei punteggi F1 su tutti i modelli e dataset testati. Ad esempio, su Qwen2.5-VL-7B con MSCOCO, MHSA ha migliorato il punteggio F1 di +7.42 punti (da 85.55 a 92.97) e il Recall di +15.78 punti.
• Generalizzazione: Il metodo dimostra una forte generalizzazione attraverso diverse architetture di modelli e dataset. Crucialmente, mostra prestazioni robuste fuori distribuzione (OOD); modelli addestrati su un dataset (es. Objects365) mitigano efficacemente le allucinazioni quando testati su un altro (es. COCO), suggerendo che le correzioni apprese catturano firme fondamentali delle allucinazioni piuttosto che artefatti specifici del dataset.

Compiti Generativi (Descrizione di Immagini)

• Riduzione delle Allucinazioni: Sul dataset Flickr30k, MHSA ha ridotto i tassi di allucinazione a livello di frase ($CHAIR_s$) e a livello di istanza ($CHAIR_i$) del 44% con un calo minimo del Recall (3.9%).
• Compromesso: Il metodo bilancia con successo la soppressione delle allucinazioni con la preservazione del contenuto, evitando i drastici cali di Recall osservati nei metodi euristici aggressivi.

Efficienza

• Latenza: MHSA introduce un aumento di latenza ammortizzato di solo 0.43× sul benchmark POPE-COCO. Questo perché il rilevatore leggero setaccia tutti i campioni, e il generatore viene invocato solo per la minoranza di campioni segnalati come allucinati (circa il 12.3% nell'impostazione avversariale POPE). Ciò è significativamente più efficiente dei metodi di decodifica contrastiva che richiedono un sovraccarico fisso di circa 1.0× per ogni campione.

5. Significato e Affermazioni

Il documento afferma che MHSA offre una nuova prospettiva sulla ricerca delle allucinazioni estendendo i meccanismi di attenzione cross-modale dalla mera rilevazione alla mitigazione attiva.

• Insight Meccanicistico: Le visualizzazioni confermano che MHSA funziona come un meccanismo di correzione mirato. Concentra l'attenzione sulle regioni rilevanti per il compito e riduce l'entropia spaziale, "guidando" efficacemente il modello lontano dai pattern allucinatori senza un'ampia perturbazione della struttura dell'attenzione.
• Praticità: Evitando il fine-tuning completo del modello e minimizzando il sovraccarico di inferenza, MHSA presenta una soluzione pratica e distribuibile per migliorare l'affidabilità degli LVLM nelle applicazioni del mondo reale.
• Limitazioni: Gli autori notano che, sebbene MHSA migliori significativamente le metriche, non è una panacea; sono necessari lavori futuri per esplorare architetture di generatori più espressive e una copertura di modelli più ampia.

In sintesi, MHSA sfrutta la correlazione tra pattern di attenzione e allucinazioni per creare un framework leggero e basato sui dati che riduce efficacemente le allucinazioni sia nei compiti discriminativi che generativi degli LVLM, superando gli approcci euristici e basati sull'addestramento esistenti in termini di efficienza e generalizzabilità.