💬 NLP

Small Vision-Language Models Know When They Are Wrong But Cannot Say So: A Two-Model Study of Stated versus Internal Confidence Under Realistic Image Degradation

Questo studio rivela che, sebbene i piccoli modelli visione-linguaggio possiedano una conoscenza interna accurata dei propri errori in condizioni di degradazione realistica delle immagini, essi non riescono a verbalizzare tale incertezza, rendendo la probabilità interna dei token un segnale superiore per il differimento rispetto alla confidenza dichiarata, sebbene entrambi i segnali diventino inaffidabili in condizioni di scarsa illuminazione severa.

Autori originali: M M Asif Ferdous

Pubblicato 2026-07-27

📖 5 min di lettura🧠 Approfondimento

CC BY 4.0

Autori originali: M M Asif Ferdous

Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo

Immagina di camminare attraverso una città frenetica con una piccola guida robotica molto intelligente. Questo robot ha una telecamera per occhi e una voce per parlare. Il suo compito è guardare le cose intorno a te e dirti cosa sono. Ma c'è un problema: la città è disordinata. A volte il sole è troppo luminoso, a volte è buio pesto, e a volte l'obiettivo della tua telecamera è sporco o traballante. Nel mondo dell'intelligenza artificiale, queste immagini "disordinate" vengono chiamate immagini degradate.

Quando un robot come questo si confonde a causa di una brutta immagine, deve sapere quando dire: "Non lo so, chiedi a un essere umano", invece di indovinare con sicurezza la risposta sbagliata. Questa capacità di sapere quando non si è sicuri è chiamata incertezza. Ci sono due modi in cui un robot può mostrare questa incertezza. Il primo è la fiducia verbalizzata: il robot dice semplicemente ad alta voce, "Sono sicuro al 90%!". Il secondo è la fiducia interna: un segnale segreto e silenzioso dentro il cervello del robot che misura quanto siano traballanti i suoi pensieri, anche se non dice una parola. La maggior parte delle persone assume che se un robot dichiara di essere fiducioso, probabilmente lo sia. Ma se il robot fosse solo un pessimo bugiardo? Questa è la grande domanda che questo articolo pone.

La storia del segnale silenzioso

In questo studio, i ricercatori hanno sottoposto due piccole guide robotiche open-source (chiamate Qwen2-VL e SmolVLM) a un test rigoroso. Non hanno mostrato loro solo foto pulite e perfette. Al contrario, hanno preso 100 foto di cibo e le hanno deliberatamente rovinate in sei modi diversi: riducendone la qualità come un file JPEG, sfocandole con il movimento, oscurando le luci finché non sono quasi buie, aggiungendo un bagliore accecante, inclinando la telecamera, o rimpicciolendole e deformandole. Hanno fatto questo a tre livelli di gravità per ogni tipo di rovina.

I robot dovevano indovinare che tipo di cibo fosse in ogni singola foto rovinata. Poi, i ricercatori hanno controllato due cose:

Il robot ha detto "Sono fiducioso!" o "Non sono sicuro"? (Il Segnale Verbalizzato)
Qual era il punteggio segreto e interno del robot su quanto fosse probabile che avesse ragione? (Il Segnale Interno)

La grande sorpresa: Il robot che non vuole ammettere di avere torto

I risultati sono stati un po' come guardare un mago che è terribile nel suo lavoro ma continua a inchinarsi e dire: "È stato perfetto!".

Il Segnale Verbalizzato (La bocca del robot):
Quando veniva chiesto di dichiarare la propria fiducia, i robot erano incredibilmente testardi. Non importava quanto la foto fosse terribile, non importava quanto fosse sfocata o buia, continuavano a dire di essere sicuri circa l'87% - 90%. Anche quando la foto era così buia che il robot stava praticamente tirando a indovinare (indovinando la risposta solo il 22% delle volte), diceva comunque con sicurezza: "Sono sicuro all'87%!". Era come se il robot avesse un cursore della fiducia rotto, bloccato su "Alto". In effetti, per uno dei robot, chiedergli di fornire un numero di fiducia era così difficile che per lo più si rifiutava di rispondere, fornendo solo il nome del cibo senza alcun numero.

Il Segnale Interno (Il cervello del robot):
Tuttavia, quando i ricercatori hanno sbirciato dentro il cervello del robot per vedere le sue "probabilità dei token" segrete (un modo elaborato per misurare quanto fosse sicura la matematica del robot), hanno scoperto qualcosa di totalmente diverso. Il segnale interno del robot era in realtà molto onesto! Quando la foto era nitida, il punteggio interno era alto. Quando la foto era sfocata o buia, il punteggio interno scendeva significativamente. Questo segnale segreto era molto bravo a individuare gli errori e poteva distinguere tra una risposta giusta e una sbagliata con un'accuratezza del 92% - 99%.

La trappola della "luce bassa"

C'è stato però un momento spaventoso nella storia. Quando i ricercatori hanno reso le foto estremamente buie (il livello di "grave sottoesposizione"), entrambi i segnali sono falliti. L'accuratezza dei robot è crollata (scendendo dal 99% al 22%) e persino l'onesto segnale interno ha smesso di funzionare. Non riusciva più a distinguere tra una risposta giusta e una sbagliata. Era come se l'oscurità fosse così densa che persino il segreto cervello del robot si fosse annebbiato.

Cosa significa per te

Quindi, cosa hanno imparato i ricercatori?

Non fidarti della bocca del robot. Se chiedi a un piccolo robot guida quanto è sicuro, probabilmente mentirà e dirà di essere molto sicuro, anche quando è completamente perso. L'articolo mostra che questa "fiducia dichiarata" è inutile per sapere quando fermarsi e chiedere aiuto a un essere umano.
Fidati del cervello del robot (per la maggior parte). La matematica interna segreta è molto migliore. Sa quando è confuso e può segnalarlo a un sistema informatico, permettendo al sistema di dire: "Ok, non sono sicuro, facciamo controllare da un umano".
Ma attenzione al buio. Anche l'onesto segnale interno si rompe quando le immagini sono troppo buie. Se utilizzi questi robot in una stanza buia o di notte, non puoi fare affidamento sul fatto che il robot ti avvisi del suo fallimento. Hai bisogno di un "controllo di sicurezza" separato per assicurarti che l'immagine non sia troppo buia prima ancora che il robot provi a guardare.

In breve, i piccoli robot IA sanno quando sbagliano nel profondo del loro codice, ma semplicemente non lo dicono ad alta voce. Sono come uno studente che sbaglia una domanda di un test ma alza comunque la mano e dice: "Sono assolutamente sicuro di questa!". L'unico modo per coglierli è guardare i loro fogli di brutta copia segreti, non ascoltare ciò che dicono.

Riepilogo Tecnico: I piccoli modelli Vision-Language sanno quando sbagliano, ma non possono dirlo

Definizione del Problema

Man mano che i modelli Vision-Language (VLM) vengono sempre più implementati su hardware consumer e dispositivi edge, essi incontrano frequentemente immagini di input degradate da condizioni reali come compressione, sfocatura da movimento (motion blur), scarsa illuminazione e riflessi. In questi ambienti vincolati, l'accuratezza grezza è insufficiente per un deployment sicuro; un sistema richiede un segnale di incertezza affidabile per determinare quando delegare il compito a un essere umano piuttosto che fornire una risposta potenzialmente errata.

Sebbene i VLM generativi offrano due potenziali strade per la stima dell'incertezza — la fiducia verbalizzata (il modello che esprime un punteggio di confidenza in linguaggio naturale) e la fiducia interna (la probabilità media dei token generati) — la relazione tra questi segnali sotto degradazione d'immagine realistica non è stata esaminata sistematicamente per i modelli piccoli e open-weight. Il lavoro precedente sui modelli proprietari non poteva accedere alle probabilità interne dei token, lasciando un vuoto nella comprensione se i modelli piccoli possiedano una consapevolezza di sé utilizzabile che il loro output testuale non riesce a esprimere.

Metodologia

Lo studio valuta due piccoli VLM open-weight istruiti (instruction-tuned): Qwen2-VL-2B-Instruct e SmolVLM-Instruct. Entrambi i modelli sono stati eseguiti in fp16 su una singola GPU NVIDIA T4 utilizzando la decodifica greedy.

Configurazione Sperimentale:

Dataset: Un sottoinsieme di 100 elementi del test set di Food101, formattato come domande a scelta multipla con quattro opzioni.
Degradazioni: Sei famiglie di degradazioni fotografiche realistiche sono state applicate con tre livelli di severità ciascuna:
1. Compressione JPEG
2. Sfocatura da movimento (Motion Blur)
3. Scarsa illuminazione (riduzione della luminosità + rumore)
4. Riflesso (amplificazione della luminosità)
5. Rotazione
6. Ricampionamento (downscale/upscale)
Predizioni Totali: 3.800 predizioni (1.900 per modello attraverso 19 condizioni, incluso il baseline pulito).

Segnali di Confidenza:

Fiducia Verbalizzata: I modelli sono stati istruiti per produrre un punteggio di confidenza intero $[0, 100]$ , normalizzato a $[0, 1]$ .
Fiducia Interna: Calcolata come la probabilità media assegnata a ciascun token emesso durante la generazione dello span della risposta ( $c_{int} = \frac{1}{T} \sum p_\theta(y_t | y_{<t}, x)$ ).

Metriche:
La metrica primaria per valutare l'utilità dell'incertezza è stata l'AUROC di Rilevamento dell'Errore (la probabilità che una risposta corretta scelta casualmente riceva un punteggio di confidenza più alto di una risposta errata scelta casualmente). Le metriche secondarie includono Accuratezza, Errore di Calibrazione Attesa (ECE) e punteggio di Brier.

Risultati Chiave

1. Degradazione dell'Accuratezza

Entrambi i modelli hanno dimostrato robustezza alla maggior parte delle degradazioni (compressione, sfocatura, riflesso, rotazione, ricampionamento), mantenendo un'alta accuratezza. Tuttavia, condizioni di scarsa illuminazione severa hanno causato un collasso catastrofico delle prestazioni:

Qwen2-VL-2B: L'accuratezza è scesa da 0,99 (pulito) a 0,22 (scarsa illuminazione severa).
SmolVLM: L'accuratezza è scesa da 0,97 (pulito) a 0,42 (scarsa illuminazione severa).

2. La Fiducia Verbalizzata non è Informativa

Qwen2-VL-2B: La fiducia verbalizzata è rimasta quasi costante (media 0,87–0,90) in tutte le condizioni, indipendentemente dall'accuratezza. Anche quando l'accuratezza è crollata a 0,22, il modello dichiarava una confidenza di 0,87. Di conseguenza, la fiducia verbalizzata ha performato al livello del caso o vicino ad esso (AUROC $\approx$ 0,50) nel rilevamento dell'errore.
SmolVLM: La fiducia verbalizzata era in gran parte non ottenibile. Attraverso tre template di prompt, solo un tentativo su cinque di un test pilota ha prodotto un valore di confidenza analizzabile; il modello restituiva tipicamente solo le risposte, ignorando l'istruzione di dichiarare la confidenza.

3. La Fiducia Interna Rileva gli Errori

In netto contrasto con l'output verbalizzato, la probabilità interna del token ha fornito un segnale forte per il rilevamento dell'errore:

Qwen2-VL-2B: L'AUROC interna variava da 0,92 a 0,99 nelle condizioni pulite e moderatamente degradate, superando significativamente la fiducia verbalizzata.
SmolVLM: L'AUROC interna era sopra il livello del caso (0,54–0,92) nella maggior parte delle condizioni, sebbene il segnale fosse più rumoroso e debole rispetto a quello di Qwen2-VL.

4. Fallimento sotto Scarsa Illuminazione Severa

Entrambi i segnali di confidenza sono falliti proprio quando erano più necessari. Sotto una condizione di sottoesposizione severa (dove l'accuratezza è crollata), l'AUROC interna è scesa ai livelli del caso (0,62 per Qowen2-VL, 0,54 per SmolVLM). Sebbene la fiducia interna fosse leggermente più reattiva ai cali di accuratezza rispetto alla fiducia verbalizzata, nessuno dei due segnali è riuscito a rilevare in modo affidabile il fallimento catastrofico.

5. Metriche di Calibrazione vs Utilità Diagnostica

L'Errore di Calibrazione Attesa (ECE) era basso per entrambi i segnali nella maggior parte delle condizioni, creando un'impressione fuorviante di affidabilità. Lo studio dimostra che l'ECE è meno diagnostico in questo contesto perché un segnale di confidenza quasi costante può apparire ben calibrato se il modello è generalmente accurato, anche se il segnale non trasporta alcuna informazione su errori specifici. L'AUROC di rilevamento dell'errore è identificata come la metrica superiore per valutare l'utilità della delega.

Significato e Rivendicazioni

Il documento conclude che i piccoli VLM codificano una conoscenza di sé utilizzabile che il loro output verbalizzato non esprime.

Per il Deployment: Gli operatori non dovrebbero fare affidamento sulla confidenza dichiarata per la delega nei piccoli VLM open-weight, poiché è o al livello del caso o non ottenibile. Inveve, la probabilità interna del token dovrebbe essere utilizzata come segnale di delega, poiché è gratuita da calcolare, non richiede riaddestramento e fornisce un utile rilevamento dell'errore sotto degradazione lieve o moderata.
Limite di Sicurezza: Nessuno dei due segnali dovrebbe essere considerato affidabile in condizioni di scarsa illuminazione severa, poiché entrambi non riescono a tracciare il crollo dell'accuratezza. I sistemi di deployment che affrontano tali condizioni richiedono controlli preventivi sulla qualità dell'immagine piuttosto che soglie di confidenza a valle.
Contributo Metodologico: Lo studio evidenzia che la fiducia verbalizzata e la probabilità interna sono quantità distinte che divergono nettamente sotto degradazione. Sostiene che il lavoro futuro sulla fiducia verbalizzata nei piccoli VLM dovrebbe dare priorità all'AUROC di rilevamento dell'errore rispetto alle misure di errore di calibrazione.

Gli autori osservano che le loro conclusioni sono specifiche per la classe di parametri ~2B e che il divario tra fiducia verbalizzata e fiducia interna a scale maggiori rimane una questione aperta. Inoltre, lo studio è limitato a un singolo dataset (Food101) e a degradazioni sintetiche che approssimano gli artefatti del mondo reale.