Sintesi Tecnica: SpurLens: Rilevamento Automatico di Indizi Spuri in Modelli Linguistici Multimodali (MLLM)

Definizione del Problema

Sebbene sia ben documentato che i modelli di visione unimodali si affidino a correlazioni spurie (attributi di input non essenziali), l'entità con cui i Modelli Linguistici Multimodali (MLLM) mostrino pregiudizi simili rimane incerta, nonostante la loro supervisione linguistica. Gli autori ipotizzano che molti fallimenti critici negli MLLM, specificamente l'allucinazione di oggetti (generazione di contenuti fattualmente errati) e i fallimenti nel riconoscimento degli oggetti, derivino da un affidamento su indizi spuri piuttosto che su un vero riconoscimento dell'oggetto.

I metodi esistenti per rilevare questi pregiudizi spesso richiedono la supervisione umana, sono limitati a caratteristiche predefinite o si affidano ad analisi di co-occorrenza di didascalie computazionalmente costose. Inoltre, non è chiaro se questi pregiudizi siano fondamentali per l'encoder di visione, il modello linguistico o la loro fusione, e se semplici strategie di prompting possano mitigarli.

Metodologia: Pipeline SpurLens

Il documento introduce SpurLens, una pipeline automatizzata e non supervisionata progettata per identificare indizi visivi spuri e quantificare il loro impto sulle prestazioni degli MLLM. La pipeline opera in tre fasi principali:

1. Proposta di Caratteristiche Spurie:

   • Per un dato oggetto target $t$, il sistema sfrutta GPT-4 per generare un elenco di potenziali indizi spuri (oggetti o elementi di sfondo) che co-occorrono comunemente con $t$.
   • L'elenco generato viene sottoposto a un rigoroso filtraggio tramite GPT-4 per garantire che le caratteristiche siano:
     • Fisiche e visivamente discernibili.
     • Non parte dell'oggetto target stesso (es. "schermo" non è un indizio per "laptop").
     • Non inseparabili dall'oggetto target.
     • Rilevabili da detector di oggetti open-set.

2. Identificazione e Classificazione delle Immagini:

   • Un detector di oggetti open-set (OWLv2) viene utilizzato per scansionare un ampio dataset di immagini alla ricerca della presenza dei proposti indizi spuri.
   • Le immagini vengono classificate in base ai punteggi di confidenza degli indizi spuri rilevati. Questo crea una classificazione di "spuriosità" per ogni caratteristica, consentendo al sistema di selezionare le immagini con la massima presenza di un indizio (Top-K) e la minima presenza (Bottom-K).

3. Calcolo dei Gap Spuri:

   • Le immagini classificate vengono inserite nel target MLLM con prompt binari (es. "C'è un [oggetto target] nell'immagine?").
   • Vengono calcolate due metriche fondamentali:
     • Gap di Accuratezza di Percezione (PA Gap): La differenza nell'accuratezza di riconoscimento tra le immagini contenenti l'indizio spuro e quelle senza di esso. Un ampio gap positivo indica un eccessivo affidamento sull'indizio.
     • Gap del Tasso di Allucinazione (HR Gap): La differenza nei tassi di allucinazione (falsi positivi) tra le immagini contenenti l'indizio e le immagini di base. Un ampio gap positivo indica che l'indizio innesca allucinazioni.
   • La caratteristica che genera il gap più elevato viene identificata come l'indizio spuro più influente per quella classe.

Contributi Chiave

• Scoperta Automatica: A differenza del lavoro precedente che richiede annotazione umana o set di caratteristiche fissi, SpurLens scopre automaticamente indizi spuri interpretabili attraverso una vasta gamma di oggetti e dataset senza supervisione umana.
• Analisi dei Modelli di Fallimento Duale: Lo studio quantifica sistematicamente due distinti modi di fallimento causati dal pregiudizio spurio:
  1. Sovra-affidamento: Le prestazioni calano significativamente quando gli indizi spuri vengono rimossi.
  2. Amplificazione delle Allucinazioni: Gli indizi spuri innescano allucinazioni di oggetti a tassi significativamente più alti rispetto alla baseline.
• Profondità Diagnostica: Il framework isola la fonte del pregiudizio attraverso studi di ablazione, esaminando se il pregiudizio origini nell'encoder di visione, nel modello linguistico o nel processo di fusione, e testa l'efficacia di varie strategie di mitigazione.

Risultati Sperimentali

Gli autori hanno valutato cinque MLLM (Qwen2-VL, Qwen-3.5, Llama-3.2, LLaVA-v1.6 e GPT-4o-mini) su tre dataset (HardImageNet, ImageNet Subset e COCO).

1. Fallimenti nel Riconoscimento degli Oggetti

• La rimozione degli indizi spuri porta a cali significativi di accuratezza in tutti i modelli.
• Esempio: L'accuratezza di GPT-4o-mini su COCO è scesa dall'88.0% (con indizi) al 67.6% (senza indizi), una diminuzione del 20.4%.
• L'entità del calo varia per modello e dataset, con LLaVA-v1.6 che mostra un gap del 16.0% su COCO.

2. Allucinazione di Oggetti

• Gli indizi spuri amplificano drammaticamente i tassi di allucinazione.
• Esempio: In COCO, il tasso di allucinazione per GPT-4o-mini è aumentato dall'1.4% (senza indizi) all'11.2% (con indizi), un aumento di 9.8 volte.
• Nel subset di ImageNet, l'aumento è stato ancora più pronunciato, con alcuni modelli che mostrano fino a un aumento di 18 volte nei tassi di allucinazione in presenza di indizi spuri.

3. Studi di Ablazione e Mitigazione

• Rimozione dei Token (Token Dropping): Anche quando i token visivi corrispondenti all'oggetto target venivano rimosse artificialmente, i modelli continuavano ad allucinare la presenza dell'oggetto ad alti tassi (es. HR > 30% per alcuni modelli), suggerendo che il pregiudizio non dipende esclusivamente dalle prove visive.
• Isolamento dell'Encoder di Visione: L'addestramento di classificatori binari solo sugli embedding dell'encoder di visione ha rivelato significativi gap spuri, indicando che il pregiudizio esiste all'interno della rappresentazione visiva stessa, indipendentemente dal modello linguistico.
• Strategie di Prompting: Gli autori hanno testato diverse tecniche di mitigazione, tra cui l'ensembling di prompt, il ragionamento Chain-of-Thought (CoT) e l'informare esplicitamente il modello dei potenziali indizi spuri.
  • Risultato: Sebbene alcune strategie offrissero lievi miglioramenti situazionali, nessuna ha ridotto significativamente il Gap Spurio. Persino "barare" fornendo al modello l'esatto indizio sporio più forte identificato da SpurLens non è riuscito a eliminare il pregiudizio.

Significato e Rivendicazioni

Il documento sostiene che il pregiudizio spurio è un problema profondamente radicato e fondamentale negli attuali MLLM che persiste attraverso diverse architetture e dataset. Gli autori affermano che:

1. Gli attuali MLLM sono altamente suscettibili alle correlazioni spurie, portando a fallimenti sistematici sia nella ricezione che nella generazione.
2. Le semplici strategie di mitigazione sono insufficienti. Gli interventi basati sul linguaggio (prompting) non possono risolvere completamente l'affidamento sottostante agli indizi spuri, poiché il pregiudizio sembra incorporato nello spazio delle caratteristiche dell'encoder di visione.
3. È necessaria una valutazione rigorosa. La persistenza di questi pregiudizi richiede metodi di valutazione più robusti e strategie di mitigazione che vadano oltre le attuali tecniche di prompting per garantire l'affidabilità degli MLLM nelle applicazioni del mondo reale.

Lo studio conclude che SpurLens fornisce uno strumento scalabile e interpretabile per diagnosticare questi fallimenti, ma le cause profonde richiedono molto più di semplici aggiustamenti superficiali al prompting del modello.