🤖 machine learning

Evaluating Epistemic Uncertainty: Beyond OOD Detection and Active Learning

Questo articolo propone un quadro decisionale-teorico per valutare l'incertezza epistemica basato sulla minimizzazione del rimpianto piuttosto che sui tradizionali compiti proxy, dimostrando che le metriche di correlazione standard non riescono a predire l'utilità operativa e rivelando discrepanze significative tra le classifiche dei metodi di incertezza basate sulla teoria delle decisioni e quelle basate sui compiti proxy.

Autori originali: Jakub Paplhám, Willem Waegeman, Eyke Hüllermeier, Vojtěch Franc

Pubblicato 2026-07-17

📖 5 min di lettura🧠 Approfondimento

CC BY 4.0

Autori originali: Jakub Paplhám, Willem Waegeman, Eyke Hüllermeier, Vojtěch Franc

Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo

Immagina di essere il capitano di un'astronave che naviga attraverso una nebulosa caotica. Il computer della tua nave è incredibilmente intelligente, ma deve riportarti due tipi distinti di "incertezza". Il primo è l'incertezza aleatoria: è la "nebbia di guerra", ovvero il rumore nei sensori, l'interferenza sulla radio, il fatto che la nebulosa stessa sia semplicemente disordinata e imprevedibile. Non importa quanto diventi bravo il tuo computer, quel rumore ci sarà sempre; è il caos irreducibile dell'universo. La seconda è l'incertezza epistemica: è la "ignoranza" del computer. È la sensazione che il computer prova quando osserva una regione dello spazio che non ha mai visto prima e pensa: "Non ho idea di cosa ci sia là fuori perché non ho ancora studiato questa zona". Questo tipo di incertezza è riducibile; se il computer impara di più, quella paura svanisce.

Per molto tempo, gli scienziati che cercavano di costruire un'IA migliore sono stati ossessionati dall'insegnare ai computer la differenza tra la "nebbia" e la propria "ignoranza". Perché? Perché se un computer sa di essere ignorante, può dire: "Non lo so, non chiedermelo", ed evitare di commettere un errore pericoloso. Ma ecco la parte complicata: come si fa a testare se un computer è effettivamente bravo a individuare la propria ignoranza? Tradizionalmente, i ricercatori hanno utilizzato due "test proxy" principali. Uno è il rilevamento Out-of-Distribution (OOD), che chiede: "Riesci a capire quando stai guardando qualcosa di totalmente strano che non hai mai visto?". L'altro è l'Active Learning, che chiede: "Se potessi scegliere un nuovo pezzo di dati da studiare, quale ti insegnerebbe di più?". La grande domanda è: questi test ci dicono davvero se un computer è bravo a individuare la propria ignoranza, o stanno testando qualcos'altro interamente?

Questo articolo, intitolato "Evaluating Epistemic Uncertainty: Beyond OOD Detection and Active Learning", sostiene che stiamo giocando alla partita sbagliata. Gli autori, un team di ricercatori provenienti dalle università di Praga, Gand e Monaco, hanno scoperto che la risposta matematica "perfetta" per individuare dati strani (OOD) o per scegliere il materiale di studio migliore (Active Learning) è in realtà completamente diversa dalla risposta "perfetta" per individuare l'ignoranza (Regret/Rimpianto).

Per capire questo, immagina di essere un insegnante che valuta uno studente.

Il Test OOD è come chiedere all'insegnante: "Puoi capire se questa domanda è stata scritta da un alieno?". La risposta perfetta dipende solo dall'aspetto della domanda, non dal fatto che lo studente conosca la risposta o meno.
Il Test di Active Learning è come chiedere: "Quale domanda dovremmo porre successivamente per aiutare lo studente a imparare di più?". La risposta perfetta dipende da quanto migliorerà la conoscenza futura dello studente.
Il Test del Regret (Incertezza Epistemica) consiste nel chiedere: "Per questa specifica domanda proprio ora, quanto è probabile che lo studente sbagli perché semplicemente non conosce la materia?".

L'articolo dimostra matematicamente che queste tre "risposte perfette" spesso indicano direzioni completamente diverse. Un computer potrebbe essere eccezionale nel riconoscere domande aliene (OOD), ma terribile nello capire quando sta per fallire in un problema di matematica specifico (Regret). Infatti, gli autori hanno costruito un semplice mondo "sandbox" monodimensionale (ispirato a una funzione chiamata funzione di Rossellini) per mostrare che la migliore strategia per il rilevamento OOD potrebbe dirti di rifiutare una specifica regione dello spazio, mentre la migliore strategia per minimizzare il regret ti dice di accettare quella stessa regione. Sono fondamentalmente disallineate.

A causa di questo disallineamento, gli autori sostengono che usare il rilevamento OOD o l'Active Learning come "proxy" per giudicare quanto un modello comprenda la propria ignoranza sia fallace. Mostrano che i metodi che si classificano al n. 1 nei test OOD possono classificarsi al n. 10 nei test di regret, e viceversa. Ad esempio, nei loro test sul dataset CIFAR-10H (una collezione di immagini con molte opinioni umane su di esse), un metodo chiamato "Evidential Networks" era terribile nel riconoscere dati strani (OOD) ma era il migliore in assoluto nell'identificare quando era ignorante e propenso a sbagliare. Al contrario, i "Deep Ensembles" erano ottimi nel riconoscere dati strani ma fallivano nel minimizzare il regret.

L'articolo affronta anche un'idea popolare nel campo chiamata "disentanglement" (disgiunzione). Recentemente, alcuni ricercatori hanno sostenuto che se i punteggi di "nebbia" e di "ignoranza" di un computer sono altamente correlati (salgono e scendono insieme), il computer ha fallito nel separare i due concetti. Gli autori contestano questo punto. Mostrano che, anche se i punteggi sono altamente correlati, il computer potrebbe comunque essere in grado di prendere decisioni perfette. Invece di limitarsi a controllare se i punteggi sono correlati, propongono un test più pratico: il Pareto-gap.

Pensa al Pareto-gap come a una "mappa decisionale". Immagina un grafico 3D dove puoi scambiare il numero di domande a cui rispondi (Copertura), quanti errori commetti (Rischio) e quanta "ignoranza" eviti (Regret). Il computer "perfetto" disegna una curva ideale e fluida su questa mappa. Gli autori misurano quanto la curva di un vero computer sia vicina a questa linea perfetta. Hanno scoperto che i metodi con un'alta correlazione tra i loro punteggi (che alcuni pensavano fossero un segno negativo) potevano in realtà disegnare curve molto vicine alla linea perfetta, il che significa che erano operativamente utili.

In breve, gli autori dimostrano che non possiamo limitarci a guardare quanto bene un modello individua dati strani o sceglie argomenti di studio per vedere se comprende la propria ignoranza. Forniscono un nuovo quadro che tratta l'incertezza come uno strumento per prendere decisioni migliori, mostrando che i vecchi modi di testare spesso ci portano alle conclusioni sbagliate su quali modelli di IA siano effettivamente sicuri e affidabili. Le loro scoperte si basano su rigorose prove matematiche e ampi benchmark su dataset reali con dense annotazioni umane, suggerendo che il settore debba smettere di fare affidamento su questi test proxy, comodi ma fuorvianti, e iniziare a misurare l'incertezza in base al regret effettivo che essa aiuta ad evitare.

Sintesi Tecnica: Valutare l'Incertezza Epistemica Oltre il Rilevamento OOD e l'Active Learning

Problematica
La valutazione attuale dell'incertezza epistemica (ignoranza del modello) si basa pesantemente su compiti surrogati come il rilevamento Out-of-Distribution (OOD) e l'Active Learning. Tuttavia, gli autori sostengono che le strategie decisionali Bayes-ottimali per questi compiti surrogati non si allineano matematicamente con i punteggi utilizzati per quantificare l'incertezza epistemica per la distribuzione. Il rilevamento OOD ottimizza i rapporti di verosimiglianza degli input indipendentemente dalla perdita predittiva, mentre l'Active Learning ottimizza la riduzione globale dell'errore, laddove l'incertezza epistemica in un contesto di distribuzione è definita come l'errore locale riducibile (regret). Questo disallineamento teorico porta a una situazione in cui i metodi classificati elevatamente nei compiti proxy possono performare scarsamente quando valutati sulla loro effettiva utilità operativa: la minimizzazione del regret. Inoltre, la letteratura recente critica il disaccoppiamento dell'incertezza basandosi su alte correlazioni di rango tra le componenti aleatoriche ed epistemiche apprese, una metrica che gli autori sostengono non catturi l'utilità funzionale.

Metodologia
Il documento propone un framework unificato per valutare l'incertezza epistemica misurando direttamente la sua capacità di identificare il regret, anziché fare affidamento su compiti proxy.

Unificazione Teorica: Gli autori unificano la classificazione selettiva standard (incertezza totale) e l'opzione di rifiuto epistemico in un unico framework di ottimizzazione vincolata. Formulano la predizione selettiva come un problema di ottimizzazione su copertura ( $\rho$ ), rischio atteso ($Ri$) e regret ($Re$).
Selettore Ottimale: Dimostrano (Teorema 1) che il selettore ottimale per qualsiasi combinazione di questi vincoli è una combinazione convessa soggetta a soglia delle incertezze aleatoriche ( $A^*$ ) ed epistemiche ( $E^*$ ) reali. Il punteggio ottimale assume la forma $(1-\lambda)A^* + \lambda E^*$ , dove $\lambda \in [1/2, 1]$ .
Metrica Diagnostica (Pareto-gap): Invece di affidarsi alla correlazione di rango per valutare il disaccoppiamento, gli autori propongono di misurare la distanza tra la superficie ottenibile di un metodo nello spazio (Copertura, Rischio, Regret) e la superficie teorica Pareto-ottimale ( $S^*$ ). Questa distanza, denominata "Pareto-gap", funge da diagnostica per determinare se le componenti apprese contengano congiuntamente l'informazione necessaria per decisioni di distribuzione ottimali.
Benchmarking Empirico: Per aggirare l'incomputabilità del vero regret nei normali setting a etichetta singola, gli autori utilizzano dataset con annotazioni umane dense (es. CIFAR-10H, APPA-REAL, suite DCIC) per approssimare la vera distribuzione dei dati generatori $p^*(y|x)$ . Ciò consente il calcolo esatto del predittore Bayes-ottimale e del vero regret frequentista. Mettono in dibattito i metodi standard di quantificazione dell'incertezza (MC-Dropout, Deep Ensembles, DDU, Reti Evidenziali) contro queste verità di base e confrontano i risultati con i compiti proxy (rilevamento OOD, Active Learning).

Contributi Chiave

Disallineamento Teorico: Il documento dimostra che i punteggi Bayes-ottimali per l'OOD detection, l'Active Learning (BALD, EER) e la minimizzazione del regret affrontano regioni fondamentalmente diverse dello spazio degli input. Un metodo ottimizzato per un criterio può fallire sotto un altro.
Framework Unificato: Gli autori forniscono una prova matematica che la regola decisionale ottimale per minimizzare l'eccesso di rischio sotto vincoli di copertura è sempre una soglia su una combinazione convessa delle incertezze aleatoriche ed epistemiche.
Nuova Diagnostica: Mettono in discussione l'uso della correlazione di rango per valutare il disaccoppiamento dell'incertezza. Dimostrano che un alto rango di correlazione non indica necessariamente un fallimento del disaccoppiamento se le componenti possono ancora formare un confine decisionale ottimale tramite combinazione lineare. Introducono il Pareto-gap come una metrica più operativamente rilevante.
Evidenza Empirica: Attraverso un esteso benchmarking su dataset con distribuzioni annotate da umani, gli autori mostrano che i ranking decision-theoretic (basati sul regret) spesso divergono sostanzialmente dai ranking dei compiti proxy. In particolare, osservano inversioni di rango a coppie in cui i metodi classificati ai vertici in OOD o Active Learning sono classificati in fondo nel regret, e viceversa.

Risultati

Inversioni di Rango: Sul dataset CIFAR-10H, le Reti Evidenziali hanno ottenuto la migliore utilità epistemica pura (minimo AuReC) e il più piccolo Pareto-gap, nonostante abbiano performato scarsamente nei benchmark di rilevamento OOD e Active Learning. Al contrario, Deep Ensembles e DDU, che hanno dominato l'OOD detection, sono risultati scarsi nell'isolare l'errore riducibile (regret).
Correlazione vs. Utilità: Su CIFAR-10H, le Reti Evidenziali hanno esibito una correlazione di rango quasi perfetta ( $\rho_S = 0.999$ ) tra le loro componenti aleatoriche ed epistemiche apprese. Le metriche tradizionali classificherebbero questo come un fallimento del disaccoppiamento. Tuttavia, queste stesse componenti hanno raggiunto la minima distanza dalla soluzione teorica ottimale (Pareto-gap = 0.0379), dimostrando che un'alta correlazione non preclude l'utilità operativa.
Correlazione della Verità di Base: Gli autori hanno anche notato che anche le incertezze aleatoriche ed epistemiche reali ( $A^*, E^*$ ) possono esibire un'alta correlazione di rango (fino a 0.882 su CIFAR-10H), suggerendo che un'alta correlazione nelle componenti apprese possa riflettere il processo di generazione dei dati piuttosto che un fallimento metodologico.

Significatività
Il documento sostiene che l'affidamento del campo al rilevamento OOD e all'Active Learning come proxy per l'incertezza epistemica sia teoricamente errato e porti a conclusioni fuorvianti su quali stimatori di incertezza siano utili per la distribuzione. Spostando il focus della valutazione sulla capacità di minimizzare il regret e introducendo il Pareto-gap come diagnostica per l'utilità operativa congiunta, gli autori forniscono una base più rigorosa per valutare la quantificazione dell'incertezza. Sostengono che i ricercatori debbano esplicitamente definire l'azione a valle (ad esempio, astenersi da predizioni rischiose) piuttosto che affidarsi a nozioni ambigue di ignoranza o a compiti surrogati che ottimizzano obiettivi matematici differenti. Il lavoro evidenzia come le metriche di valutazione standard possano selezionare modelli che sono subottimali per l'obiettivo reale di ridurre l'errore riducibile nella distribuzione reale.

Articoli simili