📊 statistics

Subjective Risk Decomposition: A New View for Uncertainty Quantification

Questo articolo propone un nuovo framework per la quantificazione dell'incertezza in cui le misure di incertezza epistemica e aleatoria sono derivate come conseguenze della decomposizione di un rischio soggettivo basato su una perdita strettamente propria, unificando così le metriche esistenti e stabilendo una base per un approccio di apprendimento teorico alla UQ.

Autori originali: Raghad Alamri, Michele Caprio, Gavin Brown

Pubblicato 2026-07-17

📖 6 min di lettura🧠 Approfondimento

CC BY 4.0

Autori originali: Raghad Alamri, Michele Caprio, Gavin Brown

Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo

Il Mistero della Sfera di Cristallo

Immagina di cercare di prevedere il futuro. Magari stai indovinando il punteggio di una partita di calcio, il meteo di domani o cosa dirà un tuo amico dopo. Nel mondo dell'informatica, specificamente in un campo chiamato Machine Learning, costruiamo "sfere di cristallo" digitali (modelli) per fare queste previsioni. Ma ecco la parte complicata: un modello può essere sicuro di sé eppure sbagliare. Ecco perché gli scienziati si curano profondamente della Quantificazione dell'Incertezza. Non si tratta solo di dare la risposta giusta; si tratta di sapere quanto il modello è sicuro.

Per capire questo articolo, dobbiamo conoscere due tipi principali di "non sapere". Primo, c'è l'incertezza aleatoria. Pensala come al rumore nel sistema: le cose che semplicemente non puoi controllare, come una folata di vento improvvisa che cambia la traiettoria di un pallone da calcio. È la confusione "irreducibile" del mondo reale. Secondo, c'è l'incertezza epistemica. Questo è il tipo di "non so cosa non so". È l'incertezza che deriva dal modello stesso, forse perché non ha visto abbastanza dati o è confuso sulle regole. Per molto tempo, gli scienziati hanno discusso accanitamente su come misurare questi due tipi di incertezza, cercando di scrivere regole rigide (assiomi) per definirli.

La Grande Idea dell'Articolo: Smettere di Discutere, Iniziare a Decomporre

Questo articolo, intitolato "Subjective Risk Decomposition", suggerisce che tutta questa discussione potrebbe mancare il punto. Gli autori, Raghad Alamri, Michele Caprio e Gavin Brown, propongono un nuovo modo di guardare al problema. Invece di cercare di definire l'incertezza come un oggetto misterioso e autonomo, suggeriscono che l'incertezza sia in realtà solo una conseguenza di come scegliamo di valutare i nostri modelli.

Immagina di essere un insegnante che valuta il saggio di uno studente. Hai una rubrica specifica (un insieme di regole) per assegnare i punti. Se cambi la rubrica, il voto cambia, anche se il saggio rimane lo stesso. Gli autori sostengono che l' "incertezza" sia come quel voto. Non è un numero magico che fluttua nell'aria; è il risultato di un calcolo specifico basato su una specifica "rubrica" (che loro chiamano perdita strettamente propria o strictly proper loss).

L'articolo introduce il concetto di Rischio Soggettivo. In termini semplici, questo è un modo per chiedere: "Se il modello crede che il mondo sia in un certo modo, quanto sarebbe grave se il mondo reale si rivelasse diverso?". Gli autori dimostrano che se prendi questo "Rischio Soggettivo" e lo scomponi (decomponi), i pezzi che ottieni sono esattamente i diversi tipi di incertezza che gli scienziati hanno cercato di definire per anni.

Come Funziona il Trucco Magico

Gli autori utilizzano uno strumento matematico chiamato divergenza di Bregman (pensala come un tipo speciale di righello che misura la distanza tra due modi diversi di vedere il mondo). Quando applicano questo righello al "Rischio Soggettivo", esso divide naturalmente l'incertezza in tre parti distinte:

Bias (L'Errore Sistematico): Questa è la parte in cui la credenza media del modello è semplicemente sbagliata rispetto alla realtà. È come una bussola che punta sempre leggermente a nord invece che al vero nord. L'articolo sostiene che questo non sia "incertezza" nel modo in cui la intendiamo di solito; è solo un errore nel radicamento del modello.
Varianza (La Parte Epistemica): Questa è la parte del "sono confuso". Misura quanto le previsioni del modello saltellano quando vede dati leggermente diversi. Se il modello è uno studente nervoso e saltellante che dà una risposta diversa ogni volta che gli chiedi, questo numero è alto. Gli autori dimostrano che misure famose come l'Informazione Mutua (un termine matematico complesso per indicare quanto lo stato interno del modello ci dice sulla sua previsione) sono solo versioni speciali di questa varianza.
Entropia (La Parte Aleatoria): Questa è la parte del "rumore". È la casualità intrinseca della situazione che nessun quantitativo di dati può correggere. È la "folata di vento" nella nostra analogia del calcio.

Perché Questo Cambia Tutto

L'articolo suggerisce che tutte le diverse formule che gli scienziati hanno inventato negli anni non sono in realtà nemici in competizione. Sono solo gusti diversi della stessa ricetta fondamentale.

Il Metodo "Gal": Un modo famoso per misurare l'incertezza (tramite un ricercatore di nome Gal) utilizza un tipo specifico di matematica chiamata "log-loss". Gli autori mostrano che se usi questa specifica perdita, la tua decomposizione ti darà naturalmente la famosa formula dell' "Informazione Mutua".
Il Metodo "Sale": Un altro gruppo di ricercatori utilizza una matematica diversa (perdita al quadrato). Gli autori mostrano che se usi quella perdita, ottieni una formula diversa (basata sulla varianza), che è comunque valida, ma per un tipo diverso di problema.

L'articolo argomenta esplicitamente contro l'idea che abbiamo bisogno di scrivere nuove regole (assiomi) per decidere quale misura di incertezza sia "corretta". Inveve, dicono che la misura "corretta" è semplicemente quella che emerge naturalmente dalla specifica funzione di perdita che hai scelto per il tuo problema. Se scegli una perdita che si concentra sull'essere "mode-seeking" (focalizzarsi sul risultato più probabile), ottieni un tipo di incertezza. Se scegli una perdita che si concentra sull'essere "mean-seeking" (fare la media di tutto), ne ottieni un altro.

La Connessione con la Teoria dell'Apprendimento

Gli autori vanno oltre e collegano questa idea alla Teoria dell'Apprendimento Statistico, ovvero la matematica dietro il modo in cui le macchine imparano dai dati. Introducono nuovi termini come "Gap di Approssimazione Soggettivo" ed "Errore di Stima Soggettivo".

Scoprono che l' "Incertezza Epistemica" (la parte riducibile) è in realtà un mix di due cose:

Quanto il modello è in disaccordo con se stesso (la parte di varianza/Informazione Mutua).
Quanto il modello è limitato dal tipo specifico di modello che è (il gap di approssimazione).

Questa è un'intuzione cruciale. Suggerisce che quando diciamo che un modello ha un' "alta incertezza epistemica", potremmo confondere due problemi diversi: il modello è solo confuso (varianza), oppure il modello è lo strumento sbagliato per il compito (approssimazione). L'articolo suggerisce che la famosa misura dell' "Informazione Mutua" cattura solo la prima parte (la confusione) e potrebbe sottostimare l'incertezza totale "riducibile" perché ignora la seconda parte.

In Breve

In breve, questo articolo non inventa un nuovo modo per calcolare l'incertezza. Al contrario, fornisce una mappa unificata. Ci dice che le molte mappe che abbiamo usato finora sono tutte corrette, ma stanno solo guardando la stessa montagna da angolazioni diverse.

Gli autori suggeriscono che dovremmo smettere di trattare l'incertezza come un misterioso elemento primitivo che deve essere definito da zero. Inveve, dovremmo guardare al Rischio Soggettivo — il costo di sbagliare secondo le nostre convinzioni — e scomporlo. I pezzi che troviamo sono le misure di incertezza che abbiamo cercato per tutto questo tempo. È un passaggio dal "Cos'è l'incertezza?" al "Come abbiamo scelto di misurarla?".

L'articolo sottolinea con cura che questo è un quadro teorico. Spiega perché esistono diverse misure e come sono correlate, ma non pretende di aver risolto ogni problema pratico nel campo. È una nuova lente che rende il panorama esistente molto più chiaro, suggerendo che i disaccordi nel campo sono spesso solo differenze nei "righelli" (funzioni di perdita) che le persone usano, piuttosto che contraddizioni nella natura stessa dell'incertezza.

Sintesi Tecnica: Decomposizione del Rischio Soggettivo: Una Nuova Prospettiva per la Quantificazione dell'Incertezza

Problema
Il campo della Quantificazione dell'Incertezza (UQ) soffre attualmente di una proliferazione di definizioni contrastanti per l'incertezza aleatoria (irreducibile) ed epistemica (riducibile). Sebbene framework come quello di Gal (2016) forniscano influenti decomposizioni informazione-teoriche, la letteratura contiene numerosi altri indicatori motivati da differenti assunzioni di modellazione e domini applicativi. Ciò ha portato a dibattiti sulle fondamenta assiomatiche dei termini di UQ e sulla validità stessa della dicotomia aleatoria/epistemica. Gli approcci esistenti spesso trattano le misure di incertezza come oggetti primitivi che richiedono una giustificazione indipendente, oppure si affidano a strategie di "tutte le combinazioni" che generano misure candidate senza spiegare perché specifiche misure si comportino diversamente o quale sia la più appropriata per un dato scenario.

Metodologia
Gli autori propongono un framework unificato in cui le misure di incertezza non sono primitive ma conseguenze di decisioni di modellazione di livello superiore, specificamente la scelta di una funzione di perdita strettamente propria e la valutazione del rischio.

Il Rischio Soggettivo come Fondamento: Il documento adotta la nozione decisionale di rischio soggettivo (Savage, 1971), definito come il rischio atteso di un modello $q$ valutato rispetto a una distribuzione vera $p$ , ma dove l'aspettativa è calcolata sulle proprie credenze del modello ( $q$ ) piuttosto che sul vero processo generatore di dati ( $p$ ). Formalmente, per una perdita $\ell$ strettamente propria, il rischio soggettivo è $R_q(p) = \mathbb{E}_{\hat{Y} \sim q}[\ell(p, \hat{Y})]$ .
- A differenza del rischio obiettivo ( $\mathbb{E}_{Y \sim p}[\ell(q, Y)$ ]), che risponde alla domanda "quanto è corretto il modello?", il rischio soggettivo risponde alla domanda "quanto è realistico il modello?", penalizzando il modello per l'assegnazione di massa a esiti che la distribuzione vera ritiene implausibili.
- Questa formulazione utilizza l'argomento inverso della perdita (valutando $p$ sotto $q$ ), il che corrisponde alla cross-entropia inversa o alla divergenza KL inversa nel caso della log-loss.
Decomposizione tramite Divergenze di Bregman: Sfruttando le proprietà delle perdite strettamente proprie, gli autori dimostrano che il rischio soggettivo atteso ammette una decomposizione inversa bias-varianza.
- Il rischio soggettivo atteso viene scomposto in tre termini:
  $\mathbb{E}_\theta [R_{q_\theta}(p)] = \underbrace{B_\phi(\bar{q}, p)}_{\text{Bias}} + \underbrace{\mathbb{E}_\theta [B_\phi(q_\theta, \bar{q})]}_{\text{Varianza}} + \underbrace{\mathbb{E}_\theta [H_\ell(q_\theta)]}_{\text{Entropia Generalizzata}}$
- Qui, $\bar{q}$ è il centroide di Bregman destro (la miscela delle distribuzioni predittive), $B_\phi$ è la divergenza di Bregman indotta dalla perdita, e $H_\ell$ è l'entropia generalizzata.
- Il termine di Varianza è identificato come la misura dell'incertezza epistemica, e il termine di Entropia Generalizzata è identificato come incertezza aleatoria.
Estensione alla Teoria dell'Apprendimento: Gli autori estendono questo framework alla teoria dell'apprendimento statistico definendo analoghi soggettivi dei concetti standard:
- Rischio Soggettivo in Eccesso: La differenza tra il rischio soggettivo atteso di un modello e il miglior modello della classe in termini di rischio soggettivo.
- Gap di Approssimazione Soggettivo: L'errore dovuto al fatto che la classe di ipotesi non contiene il modello soggettivo ottimale (analogo all'errore di approssimazione).
- Errore di Stima Soggettivo: L'errore dovuto ai dati finiti e all'incertezza dei parametri (analogo all'errore di stima).

Contributi Chiave e Risultati

Unificazione delle Misure Esistenti: Il documento dimostra che numerosi indicatori di incertezza esistenti sono casi speciali di questa decomposizione, derivati scegliendo specifiche funzioni di perdita e classi di ipotesi:
- Misure Informazione-Teoriche (Gal, 2016): Utilizzando la log-loss su distribuzioni categoriche, la decomposizione recupera l'incertezza epistemica di Gal come informazione mutua $I(\hat{Y}; \Theta)$ (la varianza di Bregman) e l'incertezza aleatoria come entropia condizionale $H(\hat{Y}|\Theta)$ .
- Regressione Gaussiana: Per modelli gaussiani con media e varianza ignote, il framework recupera i termini di entropia differenziale e informazione mutua utilizzati nella UQ per regressione.
- Incertezza per Etichetta (Label-wise): Utilizzando la perdita dell'errore quadratico (Brier score) su distribuzioni di Bernoulli, si recuperano le misure di incertezza "per etichetta" proposte da Sale et al. (2024).
Spiegazione della Divergenza: Il framework spiega perché diverse misure (ad esempio, basate sull'entropia vs. basate sulla varianza) si comportino diversamente. Queste differenze non sono contraddizioni ma conseguenze della geometria della funzione di perdita. Le perdite con alta curvatura vicino al confine del simplesso di probabilità (come la log-loss) sono più sensibili alle "allucinazioni" (assegnare massa a eventi implausibili) rispetto alle perdite con geometrie più piatte (come la squared loss).
Approfondimenti sulla Teoria dell'Apprendimento:
- Gli autori mostrano che l'informazione mutua (la misura epistemica di Gal) è una sottostima sistematica del vero errore di stima soggettiva. L'informazione mutua cattura solo la componente di varianza (disaccordo della distribuzione posteriore) ma ignora l'errore aggiuntivo indotto dal restringere le predizioni a una specifica classe di ipotesi.
- Stabiliscono le condizioni sotto le quali il modello "migliore nella classe" per il rischio obiettivo coincide con quello per il rischio soggettivo, collegando l'ottimalità del modello rispetto alla realtà all'ottimalità rispetto alle credenze interne.
Analisi delle Varianti Epistemiche: Il documento analizza varie proposte per l'incertezza epistemica (ad esempio, Expected Pairwise KL, Reverse Mutual Information) e mostra come si relazionino alle componenti simmetriche e asimmetriche della decomposizione dell'informazione mutua.

Significato e Rivendicazioni
Il documento sostiene di fornire una "nuova visione" per la quantificazione dell'incertezza, spostando la prospettiva dalla definizione di assiomi per le primitive dell'incertezza alla loro derivazione come conseguenze delle scelte di modellazione.

Fondamento Teorico: Gli autori sostengono che le misure di incertezza non devono essere oggetto di dibattito come primitive indipendenti. Al contrario, esse sono naturalmente indotte una volta fissata una funzione di perdita strettamente propria e uno scenario di modellazione. Ciò fornisce un fondamento teorico comune per misure disparate nella letteratura.
Collegamento tra UQ e Teoria dell'Apprendimento: Introducendo analoghi soggettivi di eccesso di rischio, errore di approssimazione ed errore di stima, il documento pone le basi per un quadro completo di UQ basato sulla teoria dell'apprendimento. Chiarisce la relazione tra incertezza epistemica e concetti standard della teoria dell'apprendimento come l'errore di stima.
Implicazione Pratica: L'approccio suggerisce una nuova metodologia per i professionisti: dato uno specifico scenario di modellazione e una scelta di funzione di perdita strettamente propria, i corrispondenti termini epistemici e aleatori sono automaticamente indotti dalla decomposizione del rischio, eliminando la necessità di scegliere tra definizioni competitive e ad hoc.

Gli autori posizionano questo lavoro come un primo passo verso un framework completo, sottolineando che esso unifica le proposte esistenti piuttosto che proporre una singola "migliore" misura, e evidenzia il ruolo della geometria della perdita nel determinare il comportamento della quantificazione dell'incertezza.