Can we trust our models? Epistemic calibration in second-order classification

Sintesi Tecnica: Calibrazione Epistemica nella Classificazione di Secondo Ordine

Enunciato del Problema

Sebbene la stima dell'incertezza sia fondamentale per l'impiego di modelli di apprendimento automatico in ambienti ad alto rischio (ad es. guida autonoma, applicazioni mediche), le metriche di valutazione attuali sono insufficienti. La calibrazione classica valuta l'affidabilità delle probabilità predette (Livello-1), assicurando che una probabilità predetta $p$ corrisponda a una frequenza empirica di $p$. Tuttavia, questo non valuta se le stime dell'incertezza epistemica (Livello-2) siano esse stesse affidabili.

I modelli di classificazione di secondo ordine (ad es. metodi bayesiani, ensemble, deep learning evidenziale) producono una distribuzione sulle predizioni piuttosto che una singola stima puntuale. Esiste un divario significativo nella letteratura riguardante se l'incertezza epistemica riportata (la dispersione di queste predizioni) rifletta fedelmente la reale dispersione delle predizioni del modello attorno alla verità fondamentale (ground truth). I metodi esistenti spesso non riescono a distinguere tra un modello che esita a causa della difficoltà intrinseca dei dati (incertezza aleatoria) rispetto a una mancanza di dati di addestramento (incertezza epistemica), e le metriche standard non possono rilevare specifici modi di fallimento in cui le stime dell'incertezza sono mal calibrate nonostante buone prestazioni predittive medie.

Metodologia e Framework

Il documento introduce la Calibrazione Epistemica, un criterio rigoroso per i modelli di secondo ordine. A differenza della calibrazione classica, che si concentra sulla media della predizione, la calibrazione epistemica richiede che l'incertezza riportata (varianza della distribuzione di secondo ordine) corrisponda all'errore quadratico medio effettivo dei singoli modelli campionati da tale distribuzione.

Definizioni Chiave e Risultati Teorici:

1. Calibrazione Epistemica (Definizione 5): Un predittore di secondo ordine $\Pi$ è epistemicamente calibrato se, per qualsiasi distribuzione di predizioni $\Psi$, la probabilità della vera etichetta data la distribuzione è uguale alla media di tale distribuzione. Crucialmente, ciò implica che la dispersione (varianza) della distribuzione non fornisce informazioni aggiuntive sulla vera etichetta oltre a quanto già codificato dalla media (Teorema 2).
2. Teorema di Impossibilità: Gli autori collegano il loro lavoro alla letteratura esistente sulla decomposizione bias-varianza. Dimostrano che per un modello epistemicamente calibrato, la dispersione non può codificare il bias rispetto alla verità fondamentale; se un modello è epistemicamente calibrato, la sua stima dell'incertezza deve riflettere strettamente la varianza delle predizioni attorno alla verità, non un bias sistematico.
3. Errore di Calibrazione Epistemica Atteso (EECE): Per operazionalizzare questo concetto, gli autori propongono l'EECE. Questa metrica quantifica la discrepanza tra l'incertezza epistemica riportata e l'errore quadratico medio empirico delle ipotesi campionate all'interno di regioni binate dello spazio di predizione congiunto.
   • Consistenza: Il documento dimostra (Teorema 3) che l'EECE è uno stimatore consistente del Vero Errore di Calibrazione Epistemica (TECE), convergendo al valore reale all'aumentare del numero di bin e di campioni.

Setup Sperimentale:
La metodologia è valutata attraverso due gruppi di metodi:

• Metodi Attivi: Teoricamente compatibili con il framework basato sulla varianza, inclusi la Regressione Logistica Bayesiana, il Deep Learning Bayesiano (Approssimazione di Laplace), i Deep Ensembles, le Random Forest, DropConnect e MC-Dropout.
• Metodi Illustrativi: Approcci basati su centroidi, verosimiglianza e k-nearest neighbor, che non sono progettati per la decomposizione basata sulla varianza e servono come baseline per la malcalibrazione attesa.

Gli esperimenti sono condotti su:

• Un Dataset Simulato (Toy Dataset) (miscela di Gaussiane) per controllare la verità fondamentale e analizzare i comportamenti attesi (ad es. sensibilità al rumore e dimensione del set di addestramento).
• Dataset di Visione ad Alta Dimensionalità (MNIST e CIFAR-10), dove i dati sono proiettati in uno spazio latente tramite auto-encoder e trattati come 10 compiti di classificazione binaria "uno-contro-tutti".

Risultati Chiave

1. Distinzione dalla Calibrazione Classica: Gli esperimenti rivelano che i modelli possono essere classicamente calibrati (predizioni medie affidabili) pur essendo epistemicamente mal calibrati (stime dell'incertezza inaffidabili). Ad esempio, le Random Forest hanno mostrato una scarsa calibrazione epistemica nonostante buone prestazioni predittive, mentre la Regressione Logistica Bayesiana ha performato bene su dati gaussiani linearmente separabili ma ha faticato su dati reali complessi.
2. Validazione Comportamentale: Sul Toy Dataset, l'EECE si è comportato come teoricamente previsto:
   • L'errore di calibrazione epistemica è aumentato significativamente all'aumentare del rumore nel set di addestramento.
   • L'EECE è diminuito all'aumentare della dimensione del set di addestramento, stabilizzandosi man mano che il modello diventava più certo.
3. Confronto tra Metodi:
   • Deep Ensembles e MC-Dropout hanno dimostrato una forte calibrazione epistemica nel compito CIFAR-10.
   • Random Forest hanno costantemente esibito l'errore di calibrazione epistemica più elevato tra i metodi basati sulla varianza.
   • I metodi illustrativi (basati su centroidi/verosimiglianza) sono stati scarsi, confermando che i metodi non radicati in distribuzioni di secondo ordine o nella diversità degli ensemble falliscono nel soddisfare il criterio di calibrazione epistemica.
4. Dipendenza dal Bias Induttivo: I risultati evidenziano che la calibrazione epistemica dipende fortemente dal bias induttivo del modello. I modelli performano bene quando le loro assunzioni corrispondono alla struttura dei dati (ad es. Regressione Logistica Bayesiana su dati linearmente separabili) ma degradano quando applicati a dati reali complessi e non lineari.

Significatività e Rivendicazioni

Il documento sostiene di fornire una base principistica per la fiducia nei modelli di classificazione di secondo ordine. Introducendo la calibrazione epistemica, gli autori sostengono che ricercatori e professionisti possono ora valutare se la "fiducia" di un modello nella propria incertezza sia valida.

• Concetto Più Forte: La calibrazione epistemica è stabilita come una condizione strettamente più forte della calibrazione classica.
• Rilevamento dei Modi di Fallimento: La metrica EECE cattura modalità di fallimento invisibili alle metriche standard, come quando un modello riporta un'alta incertezza che non corrisponde alla reale dispersione delle predizioni.
• Utilità Pratica: Il lavoro colma il divario tra l'incertezza teorica e le richieste di affidabilità dei sistemi critici per la sicurezza. Suggerisce che, affinché un modello sia veramente affidabile in contesti ad alto rischio, non deve solo predire correttamente in media, ma anche riportare accuratamente la dispersione della propria distribuzione predittiva.

Gli autori rimangono modesti, osservando che, sebbene la calibrazione epistemica sia una proprietà naturale per modelli ben specificati (come la Regressione Logistica Bayesiana su dati gaussiani), essa non è universalmente soddisfatta da tutti i metodi di quantificazione dell'incertezza, specialmente su dataset reali complessi. Il documento non propone nuovi algoritmi di addestramento, bensì un nuovo framework di valutazione per identificare quali metodi esistenti siano affidabili.