CounterCount: A Diagnostic Framework for Counting Bias in Vision Language Models

Riepilogo Tecnico: CounterCount: Un Framework Diagnostico per il Bias di Conteggio nei Modelli Linguistici Visivi

Enunciato del Problema
I Modelli Linguistici Visivi (VLM) hanno dimostrato forti capacità nel ragionamento multimodale, sfruttando in larga misura i Modelli Linguistici di Grande Dimensione (LLM) come colonne portanti testuali. Tuttavia, rimane un'ambiguità critica: quando un VLM risponde a una domanda visiva, la previsione è fondata su evidenze visive specifiche o è guidata da regolarità statistiche e "priori canonici" appresi da corpora testuali? Questa questione è particolarmente acuta nei compiti di conteggio. Sebbene il conteggio appaia semplice, richiede ai modelli di identificare entità, distinguerle dai distrattori e aggregare evidenze visive. I VLM attuali spesso faticano nel conteggio e analisi precedenti suggeriscono che, anche quando gli oggetti rilevanti ricevono attenzione, i modelli potrebbero non utilizzare correttamente tale evidenza, ricorrendo invece a conoscenze prototipiche (ad esempio, assumendo che un coniglio abbia due orecchie indipendentemente dal contenuto dell'immagine). I benchmark esistenti spesso confondono errori di conteggio con altri fattori come il bias del prompt o l'ambiguità semantica, rendendo difficile isolare i fallimenti guidati specificamente dal conflitto tra evidenza visiva e priori linguistici.

Metodologia
Per affrontare ciò, gli autori introducono CounterCount, un framework diagnostico progettato per isolare i conflitti tra evidenza visiva e priori a livello di oggetto.

1. Costruzione del Dataset:

   • Coppie Controfattuali: Il dataset è composto da 168 coppie di immagini (336 in totale) che coprono 10 categorie semantiche (ad esempio, mammiferi, trasporti, valuta). Ogni coppia include un'immagine "fattuale" con attributi canonici degli oggetti e un'immagine "controfattuale" (CF) in cui un attributo rilevante per il conteggio (ad esempio, numero di orecchie, ruote o pale) è alterato sistematicamente utilizzando modelli di editing delle immagini (Nano-Banana Pro).
   • Localizzazione: A differenza dei benchmark standard, CounterCount fornisce annotazioni a livello di regione. Per ogni immagine CF, gli autori generano maschere di segmentazione e riquadri di delimitazione (BB) per gli attributi modificati. Questi sono mappati sulla griglia di token visivi del codificatore visivo per creare regioni "Mask-BB", isolando i token visivi specifici richiesti per il conteggio.
   • Formati di Valutazione: Ogni istanza è valutata utilizzando prompt a Risposta Aperta (OE) e Domande a Scelta Multipla (MCQ) con distrattori bilanciati per distinguere tra errori di conteggio generici ed errori guidati dai priori.

2. Analisi Diagnostica:

   • Gli autori valutano recenti VLM a pesi aperti (Qwen3-VL, Gemma3) e un modello a sorgente chiusa (Claude-haiku-4.5).
   • Analizzano i meccanismi di attenzione per determinare se i fallimenti derivino da una mancanza di localizzazione o da un fallimento nel ponderare l'evidenza localizzata. I risultati indicano che, sebbene i modelli spesso prestino attenzione alle regioni rilevanti, soppesano questi token meno rispetto allo sfondo o al contesto irrilevante durante il ragionamento.

3. Strategia di Intervento:

   • Il documento propone una strategia di Modulazione Unificata dell'Attenzione al Momento dell'Inferenza. Questo metodo opera sui logit di attenzione grezzi del backbone LLM prima del layer softmax.
   • Consente l'amplificazione ($\alpha > 1$), la soppressione ($0 < \beta < 1$) o la mascheratura ($\beta = 0$) di specifici insiemi di token visivi (Target), mentre simultaneamente smorza i token di sfondo.
   • Questa formulazione unifica vari interventi (amplificazione, soppressione, mascheratura) in un unico spazio continuo di modulazione dei logit, consentendo un riequilibrio mirato dei contributi delle modalità senza riaddestramento.

Contributi Chiave

• Dataset CounterCount: Un dataset diagnostico controllato che presenta immagini fattuali e controfattuali appaiate con annotazioni localizzate (maschere e riquadri di delimitazione), progettato specificamente per testare l'ancoraggio visivo contro i priori canonici.
• Insight Diagnostico: Evidenza empirica che mostra come i VLM esibiscano prestazioni elevate su immagini fattuali ma subiscano un degrado costante dell'accuratezza su immagini controfattuali. Ciò conferma una dipendenza da priori a livello di oggetto anche quando è presente evidenza visiva contraddittoria.
• Analisi dell'Attenzione: Dimostrazione che i fallimenti nel conteggio non sono dovuti esclusivamente alla mancanza di evidenza visiva o a una scarsa localizzazione; piuttosto, i modelli prestano attenzione alle regioni rilevanti ma non le ponderano sufficientemente rispetto ai priori linguistici e al rumore di fondo.
• Intervento Senza Addestramento: Una strategia unificata di modulazione dell'attenzione che migliora l'accuratezza del conteggio controfattuale fino all'8% su più VLM, riponderando i token visivi rilevanti per il conteggio al momento dell'inferenza.

Risultati

• Calo delle Prestazioni: Sulle immagini fattuali, i modelli raggiungono un'alta accuratezza (ad esempio, Qwen3-VL-32B: ~87%, Gemma3: ~66–81%). Tuttavia, sulle immagini controfattuali, l'accuratezza cala significativamente (ad esempio, Qwen3-VL-32B: ~48%, Gemma3: ~34–38%), con alti tassi di bias verso il conteggio canonico.
• Efficacia della Modulazione: L'applicazione della modulazione dell'attenzione (in particolare amplificando i token target e smorzando/mascherando i token di sfondo) migliora l'accuratezza controfattuale. Ad esempio, Qwen3-VL-32B ha registrato un miglioramento dell'8,26% nell'accuratezza a Risposta Aperta.
• Riduzione del Bias: L'intervento sposta con successo le previsioni dai priori canonici verso l'evidenza visiva, riducendo il tasso di bias in diverse configurazioni.
• Generalizzazione: I risultati valgono per diverse scale di modelli (da 4B a 32B) e per architetture sia a pesi aperti che a sorgente chiusa, suggerendo un problema sistemico nel ragionamento attuale dei VLM.
• Stabilità Fattuale: Le strategie di modulazione generalmente non degradano le prestazioni sulle immagini fattuali e, in alcuni casi, le migliorano, indicando che il metodo potenzia il focus sui token semanticamente rilevanti senza danneggiare la comprensione generale.

Significato
Il documento afferma che CounterCount espone un fallimento persistente nel ragionamento dei VLM attuali, in cui le previsioni di conteggio sono guidate dalla conoscenza precedente piuttosto che dall'evidenza visiva, anche quando l'evidenza visiva è esplicita e localizzata. Il significato risiede in:

1. Isolamento della Modalità di Fallimento: Fornire un contesto controllato per distinguere tra limitazioni percettive e squilibrio delle modalità (il sottoutilizzo dell'evidenza visiva a favore dei priori linguistici).
2. Insight Meccanicistico: Mostrare che i fallimenti si verificano non perché i modelli non riescono a "vedere" il conteggio, ma perché non danno priorità ai token visivi associati al conteggio durante il processo di ragionamento.
3. Guida alla Progettazione: Offrire un meccanismo senza addestramento, al momento dell'inferenza, per sondare e mitigare questi bias, fornendo una via per progettare futuri VLM con un ancoraggio visivo più forte. Gli autori notano che, sebbene l'intervento migliori l'accuratezza, non elimina completamente il bias, suggerendo che potrebbero essere necessari cambiamenti architetturali più profondi per un ancoraggio visivo robusto.