Riepilogo Tecnico: QK Product Steering Spettrale per la Mitigazione delle Allucinazioni nei VLM senza Addestramento

Definizione del Problema

I modelli visione-linguaggio (VLM) soffrono frequentemente di allucinazione di oggetti, in cui i modelli generano descrizioni fluide che contengono oggetti non presenti nell'immagine di input. Questo problema deriva da una competizione tra l'evidenza visiva e i forti priori visione-linguaggio appresi durante il pre-addestramento (ad esempio, schemi di co-occorrenza di oggetti). Quando questi priori dominano, il modello produce output plausibili ma visivamente non supportati. Le strategie di mitigazione esistenti rientrano generalmente in due categorie:

1. Metodi basati sull'addestramento: Richiedono dati aggiuntivi, supervisione e un calcolo significativo (ad esempio, instruction tuning, ottimizzazione delle preferenze).
2. Interventi al tempo di inferenza: Modificano i processi di decoding (ad esempio, contrastive decoding, logit adjustment, riponderazione dell'attenzione), introducendo un overhead computazionale ad ogni step di generazione.

Esiste la necessità di una soluzione senza dati, senza addestramento e con costo di inferenza nullo che mitighi le allucinazioni senza alterare il percorso di decoding standard o richiedere il fine-tuning.

Metodologia: QK Product Steering

Gli autori propongono il QK Product Steering, un metodo di editing dei pesi "one-shot" che modifica direttamente il meccanismo di attenzione interna del modello per sopprimere i pattern che inducono allucinazioni.

Meccanismo Centrale

Il metodo prende di mira il prodotto Query-Key (QK) ($M_h = W_{q,h}^\top W_{k,g}$), l'operatore bilineare responsabile della generazione dei logit di attenzione pre-softmax. L'ipotesi è che i modi singolari dominanti di questo prodotto codifichino "generici priori visione-linguaggio" che sovrastano l'evidenza visiva.

Il processo prevede tre fasi principali:

1. Analisi Spettrale e Soppressione:

   • Per le teste di attenzione selezionate negli strati medi, viene calcolata la SVD (Singular Value Decomposition) sottile del prodotto QK.
   • Vengono identificati i primi $k$ modi singolari dominanti (che rappresentano le direzioni di attenzione ad alta energia).
   • Questi modi vengono soppressi (smorzati) da un fattore $\alpha$, riducendo efficacemente l'influenza di queste specifiche direzioni guidate dai priori.
   • L'editing viene eseguito sulla componente simmetrica ($S_h$) del prodotto QK, che cattura i pattern di somiglianza di contenuto reciproca, mentre la componente antisimmetrica ($\Omega_h$) è lasciata sostanzialmente intatta o risulta essere meno rilevante per l'allucinazione.

2. Recupero della Query GQA-Safe:

   • I moderni VLM utilizzano spesso la Grouped-Query Attention (GQA), dove più teste di query condividono una singola testa key/value. Modificare direttamente i pesi della chiave condivisa è rischioso poiché influisce su più teste.
   • Per preservare i pesi della chiave condivisa ($W_k$), il metodo risolve un problema di ottimizzazione vincolata per trovare l'aggiornamento minimo dei pesi della query ($W_q$) che realizzi il prodotto QK editato ($M_h^\star$).
   • Ciò avviene tramite un aggiornamento a forma chiusa e stabilizzato tramite ridge:
     $$\Delta W_{q,h} = (W_{k,g}W_{k,g}^\top + \lambda I)^{-1} W_{k,g} \Delta M_h^\top$$
   • Questo assicura che l'edit sia compatibile con le architetture GQA e lasci invariato il procedimento di inferenza.

3. Selezione dello Strato:

   • Il metodo prende di mira gli strati medi della rete. L'analisi empirica mostra che gli strati iniziali sono troppo concentrati nel rango (modificarli causa il collasso della generazione), mentre gli strati tardivi hanno un impatto insufficiente sull'allucinazione. Gli strati medi offrono un punto di intervento "chirurgico" dove i modi dominanti costituiscono una piccola frazione dell'energia totale dell'operatore.

Decomposizione Simmetrica vs Antisimmetrica

Gli autori decompongono il prodotto QK in componenti simmetriche ($S_h$) e antisimmetriche ($\Omega_h$).

• Simmetrica ($S_h$): Cattura la somiglianza di contenuto reciproca (attenzione reciproca).
• Antisimmetrica ($\Omega_h$): Cattura i pattern di attenzione direzionale.
• Risultato: I segnali di allucinazione sono localizzati principalmente nel canale simmetrico. Smorzare i modi simmetrici riduce l'allucinazione, mentre smorzare i modi antisimmetrici non riduce l'allucinazione e può degradare le capacità generali.

Contributi Chiave

1. QK Product Steering: Un nuovo metodo di editing dei pesi, senza dati e senza addestramento, che mitiga l'allucinazione di oggetti tramite un edit one-shot del prodotto query-key.
2. Proiezione Compatibile con GQA: Un meccanismo di aggiornamento della sola query a forma chiusa che realizza il prodotto QK editato mantenendo fissi i pesi della chiave condivisa, rendendo il metodo applicabile ai moderni VLM basati su GQA.
3. Interpretabilità Meccanicistica: Attraverso la decomposizione simmetrica/antisimmetrica e gli studi di ablazione, il documento dimostra che l'allucinazione è specifica ai modi QK dominanti ed è guidata principalmente dal canale di attenzione reciproca simmetrica.

Risultati Sperimentali

Il metodo è stato valutato su tre VLM basati su GQA: Qwen2.5-VL-7B, InternVL3-8B e Pixtral-12B.

• Riduzione delle Allucinazioni: In tutti e tre i modelli, il QK Product Steering ha ottenuto una riduzione media relativa di CHAIRs del 4.0%.
  • Su Qwen2.5-VL-7B, CHAIRs è sceso da 31.44 (Baseline) a 28.56.
  • Su InternVL3-8B, CHAIRs è sceso da 33.81 a 33.23.
  • Su Pixtral-12B, CHAIRs è sceso da 34.14 a 33.81.
• Esperimenti di Controllo:
  • Controlli sui Modi Casuali: Lo smorzamento di modi singolari casuali (con rango corrispondente) ha prodotto cambiamenti trascurabili, confermando che l'effetto è specifico per i modi dominanti, non per perturbazioni a basso rango arbitrarie.
  • Simmetrico vs Antisimmetrico: L'editing del solo canale simmetrico ha catturato la maggior parte della riduzione delle allucinazioni. L'editing del solo canale antisimmetrico non ha ridotto l'allucinazione e ha spesso degradato le prestazioni su altri benchmark.
• Preservazione delle Capacità: Le capacità multimodali generali (misurate tramite MME e MMMU) sono state ampiamente preservate entro il budget di rumore dei controlli casuali. L'unico costo sistematico nelle capacità è stato osservato in Pixtral-12B in configurazioni specifiche, suggerendo un compromesso che può essere gestito tramite il tuning degli iperparametri.
• Ablazioni:
  • Sensibilità dello Strato: Gli edit negli strati medi sono stati l'unica configurazione in grado di ridurre l'allucinazione senza far collassare la generazione (strati iniziali) o fallire nell'impatto sull'allucinazione (strati tardivi).
  • Forza di Smorzamento: Una forza di smorzamento di $\alpha=1$ (rimozione completa dei top modi) con $k=3$ modi ha fornito il miglior equilibrio tra riduzione dell'allucinazione e preservazione delle capacità.

Significato e Rivendicazioni

Il documento sostiene che il QK Product Steering offre un alternativa pratica agli interventi al tempo di decoding. La sua importanza risiede nel:

• Costo di Inferenza Zero: A differenza dei metodi che alterano il decoding (ad esempio, il contrastive decoding), questo metodo modifica i pesi del modello una sola volta, lasciando il percorso di decoding greedy standard completamente invariato durante l'inferenza.
• Nessun Overhead di Addestramento: Non richiede dati aggiuntivi, fine-tuning o ottimizzazione delle preferenze.
• Intuizione Meccanicistica: Fornisce una chiara spiegazione meccanicistica dell'allucinazione, identificandola come il risultato di modi di attenzione simmetrici dominanti che codificano priori generici. Smorzando chirurgicamente questi modi, il metodo indebolisce il comportamento guidato dai priori preservando al contempo la capacità di calcolo generale del modello.
• Scalabilità: Il metodo è leggero e compatibile con architetture moderne ed efficienti come la GQA.

Gli autori concludono che, sebbene il metodo non migliori la percezione sottostante del modello né aggiunga nuova conoscenza visiva, esso mitiga efficacementamente il fallimento specifico dell'allucinazione di oggetti, guidando il meccanismo di attenzione lontano da un eccessivo affidamento sui priori appresi.