Bayes with No Shame: Admissibility Geometries of Predictive Inference

Questo articolo dimostra che l'ammissibilità nell'inferenza predittiva è irriducibilmente relativa al criterio scelto, delineando quattro geometrie distinte e non annidate (dominanza di Blackwell, validità *anytime*, copertura marginale e admissibilità CAA) che, pur condividendo un modello di ottimizzazione comune, operano su spazi e vincoli geometricamente incompatibili.

L'essenziale

Bayes senza Vergogna: Quando la "Perfezione" dipende dalle Regole del Gioco

Immagina di essere un allenatore di calcio. Il tuo obiettivo è vincere. Ma cosa significa "vincere"?

• Per il Presidente del Club, vincere significa avere il miglior attacco possibile (massimizzare i gol).
• Per il Direttore Sportivo, vincere significa non subire mai un gol (minimizzare la difesa).
• Per lo Spettatore, vincere significa che la partita è stata emozionante e non truccata.

Il problema è che non esiste un unico modo per essere "il migliore". Un allenatore perfetto per il Presidente potrebbe essere disastroso per il Direttore Sportivo.

Questo è il cuore del paper di Polson e Zantedeschi. Loro dicono che in statistica e nell'intelligenza artificiale esistono quattro modi diversi di essere "ottimi", e questi modi non si possono mescolare. Se provi a usare le regole di uno per giudicare l'altro, ti sentirai "in colpa" (o "vergognoso"). Ma se usi le regole giuste per quel contesto, non avrai vergogna.

Ecco le quattro "geometrie" (o mondi) che descrivono come un algoritmo può essere perfetto.

---

1. Il Mondo di Blackwell: Il "Saggio con la Bussola"

Il concetto: Admissibilità di Blackwell (Dominio del Rischio)
La metafora: Immagina un navigatore che ha una mappa perfetta e una bussola (un Prior).
In questo mondo, un algoritmo è "senza vergogna" se non esiste nessun altro algoritmo che fa meglio in tutte le situazioni possibili. È come dire: "Non c'è nessun altro modo di guidare che sia più sicuro e veloce di questo, punto".

• Il certificato di onestà: Una "bussola" (una distribuzione di probabilità iniziale). Se il tuo algoritmo è il migliore possibile dato che parti da questa bussola, allora sei "senza vergogna".
• Il problema: Funziona solo se sai già qualcosa sul mondo (la bussola). Se la tua bussola è sbagliata, il tuo algoritmo potrebbe fallire.

2. Il Mondo "Anytime-Valid": Il "Giocatore d'Azzardo Onesto"

Il concetto: Admissibilità Anytime-Valid (Processi E)
La metafora: Immagina un giocatore d'azzardo che scommette su una serie di eventi.
In questo mondo, l'obiettivo non è prevedere il futuro, ma non perdere mai soldi (o non accumulare prove false contro un'ipotesi) in qualsiasi momento decida di smettere di giocare.

• La regola: Il giocatore deve essere un "martingala non negativa". Significa che, se il mondo è onesto, il suo capitale non può crescere magicamente. Se il capitale esplode, significa che ha trovato un trucco nel mondo.
• Il certificato di onestà: La struttura matematica stessa (la "martingala"). Se il tuo algoritmo rispetta questa struttura, puoi fermarti in qualsiasi secondo e dire: "Ho controllato tutto, non ho mai ingannato nessuno".
• Differenza: Non ti dice quanto sei bravo a prevedere, ma ti garantisce che non stai barando mentre guardi i dati.

3. Il Mondo della Copertura: Il "Paracadutista Sicuro"

Il concetto: Validità della Copertura Marginale (Conformal Prediction)
La metafora: Immagina di dover lanciare un paracadute su un gruppo di persone.
Non ti importa se il paracadute atterra esattamente sulla testa di ogni singola persona (quello è impossibile). Ti importa che, su 100 lanci, almeno 95 atterrino vicino alle persone.

• La regola: Devi garantire che il tuo "cerchio di sicurezza" (il paracadute) copra la verità almeno il 95% delle volte, senza sapere come sono distribuiti i paracadutisti.
• Il certificato di onestà: L'"scambio" (Exchangeability). Se mescoli i dati, il risultato deve rimanere lo stesso.
• Differenza: Qui non cerchi la previsione perfetta del singolo punto, ma la sicurezza del gruppo. Un algoritmo perfetto per il "Saggio" (Mondo 1) potrebbe non garantire mai questo paracadute sicuro.

4. Il Mondo CAA: Il "Corridore di Fondo"

La metafora: Un corridore che non deve essere il più veloce al primo giro, ma deve arrivare alla fine della maratona con una media perfetta.
Il concetto: Admissibilità CAA (Approccio di Cesàro)

• La regola: Non importa se sbagli la prima ora di gara o se fai una previsione sbagliata oggi. L'importante è che, guardando la media di tutti i tuoi errori dopo 10 anni, tu sia arrivato al limite minimo possibile.
• Il certificato di onestà: Un "punto fisso" matematico. Non serve una bussola iniziale, basta che col tempo ti allinei alla perfezione.
• Differenza: È come un algoritmo che impara "a forza di tentativi" (come un'IA che gioca a scacchi contro se stessa). Non è perfetto al primo colpo, ma col tempo diventa imbattibile in media.

---

Il Grande Scoperta: Non c'è un "Super-Algoritmo"

Il paper dimostra una cosa fondamentale: Questi quattro mondi non si sovrappongono.

• Puoi avere un algoritmo che è perfetto nel Mondo 1 (Bussola) ma che fallisce nel Mondo 2 (Giocatore d'Azzardo).
• Puoi avere un algoritmo che è perfetto nel Mondo 3 (Paracadute) ma che è terribile nel Mondo 1.
• Puoi avere un algoritmo che è perfetto nel Mondo 4 (Corridore) ma che non ha mai una "bussola" che lo giustifica.

Perché "Senza Vergogna"?
L'autore usa la parola "vergogna" in modo filosofico.

• Se usi un algoritmo "dominato" (cioè esiste un altro algoritmo migliore per le stesse regole), allora hai "vergogna". Dovresti sapere che potevi fare meglio.
• Ma se scegli le regole giuste per il tuo compito (es. "Voglio solo sicurezza, non precisione"), allora il tuo algoritmo è "senza vergogna", anche se fallisce in altri compiti.

L'esempio del "Plug-in" (L'algoritmo ingenuo):
Immagina un algoritmo che dice: "Se ho visto 10 teste di fila, la prossima sarà testa al 100%".

• Nel Mondo 1 (Bussola): È vergognoso. Perché assegna probabilità zero a cose possibili (es. che esca croce), creando un errore infinito.
• Nel Mondo 2 (Giocatore d'Azzardo): È vergognoso. Perché se il mondo è onesto, il suo "capitale" potrebbe esplodere in modo sospetto.
• Ma se lo usi in un contesto dove le regole sono diverse, potrebbe sembrare ok. Il punto è: non puoi usare le regole di un mondo per giudicare l'altro.

In Sintesi: Cosa dobbiamo imparare?

Quando qualcuno ti dice "Il mio algoritmo è il migliore", chiedi: "Secondo quali regole?"

1. Vuoi la bussola perfetta? (Mondo Blackwell)
2. Vuoi la sicurezza di non barare mai, anche se ti fermi a metà? (Mondo Anytime-Valid)
3. Vuoi la garanzia che il tuo paracadute copra la maggior parte delle persone? (Mondo Conformal)
4. Vuoi la media perfetta dopo anni di corsa? (Mondo CAA)

Non esiste un algoritmo che vince in tutte e quattro le categorie contemporaneamente. Ogni scelta è un compromesso. Se scegli le regole giuste per il tuo problema, non hai nulla di cui vergognarti. Se cerchi di applicare le regole di un mondo all'altro, allora sì, avrai vergogna.

Il messaggio finale: La statistica non è una ricerca della "verità assoluta" unica, ma la scelta consapevole di quale "geometria" (quale insieme di regole) usare per il tuo compito specifico.

Sommario tecnico

Ecco una sintesi tecnica dettagliata del paper "Bayes with No Shame: Admissibility Geometries of Predictive Inference" di Nicholas G. Polson e Daniel Zantedeschi.

1. Il Problema

Il lavoro affronta una questione fondamentale nella teoria della decisione statistica e nell'apprendimento automatico: l'ammissibilità di un metodo di previsione non è una proprietà assoluta, ma dipende dal criterio di ottimalità scelto.

Attualmente, esistono quattro paradigmi di ricerca attivi che utilizzano tutti il linguaggio dell'"ottimalità", ma operano su spazi, ordini parziali e certificati di validità diversi:

1. Regole di scoring adeguate (Bayes/Blackwell).
2. Inferenza sequenziale valida in qualsiasi momento (Anytime-valid inference, basata su e-process).
3. Previsione conformale (Conformal prediction, basata sulla copertura marginale).
4. Apprendimento online e forecasting difensivo (basato sull'avvicinamento di Cesàro).

Il problema centrale è che questi quattro approcci sono geometricamente incompatibili. Un metodo che è "ottimo" (ammissibile) secondo un criterio può essere "dominato" (inammissibile) secondo un altro. Il paper dimostra che non esiste un singolo algoritmo che sia ottimale sotto tutti e quattro i criteri simultaneamente, sfatando l'idea di una gerarchia unificata dell'ottimalità.

2. Metodologia

Gli autori adottano un quadro decisionale statistico esteso che permette rischi infiniti (necessario per regole di scoring adeguate come la log-loss). La metodologia si basa su:

• Geometria dello spazio dei rischi: Definizione dell'insieme dei rischi $R$ come immagine dello spazio delle decisioni. Un metodo è ammissibile se il suo vettore di rischio giace sul confine inferiore ($\partial^-R$) di questo insieme convesso.
• Separazione dei Criteri: L'analisi mostra che ogni criterio di ammissibilità corrisponde a una diversa "geometria" vincolante:
  • Blackwell: Dominio su tutto lo spazio dei parametri $\Theta$.
  • Anytime-Valid (AV): Vincolo di essere un supermartingala non negativa su ogni tempo di arresto.
  • Copertura (Coverage): Vincolo di validità marginale sotto scambiabilità.
  • CAA (Cesàro Approachability Admissibility): Convergenza del rischio medio temporale al confine inferiore.
• Teoremi di Separazione Costruttiva: Gli autori costruiscono esempi espliciti (nel modello Bernoulli e Gaussiano) di procedure che soddisfano un criterio ma falliscono gli altri, dimostrando che le classi di procedure ammissibili sono a due a due non nidificate (pairwise non-nested).
• Formulazione Bayesiana Vincolata: Viene proposto un template unificato di ottimizzazione: minimizzare il rischio Bayesiano soggetto a un vincolo di fattibilità ($F$). Ogni geometria corrisponde a una diversa scelta del vincolo $F$.

3. Le Quattro Geometrie di Ammissibilità

Il paper classifica l'ottimalità in quattro categorie distinte, ciascuna con il proprio "certificato" di ottimalità:

1. Geometria Blackwell (B):

   • Obiettivo: Minimizzare il rischio su tutto $\Theta$.
   • Certificato: Un prior di supporto (iperpiano di supporto).
   • Caratteristica: Un metodo è "senza vergogna" (no-shame) se è Bayesiano rispetto a qualche prior. È punto per punto (per round).
   • Esempio: Previsione Bayesiana con prior Beta.

2. Geometria Anytime-Valid (A):

   • Obiettivo: Controllo dell'errore di Tipo I a ogni tempo di arresto arbitrario.
   • Certificato: Proprietà di supermartingala non negativa (e-process).
   • Caratteristica: L'ammissibilità è equivalente all'essere una martingala non negativa sotto l'ipotesi nulla.
   • Esempio: Processi e (e-processes) basati su likelihood ratio.

3. Geometria della Copertura (C):

   • Obiettivo: Garantire che l'intervallo di previsione contenga il valore vero con probabilità $1-\alpha$.
   • Certificato: Rango di scambiabilità (exchangeability rank).
   • Caratteristica: Non richiede un modello probabilistico sottostante, solo scambiabilità.
   • Esempio: Intervalli di previsione conformali.

4. Geometria CAA (Cesàro Approachability Admissibility) (D):

   • Obiettivo: Convergenza del rischio medio temporale al confine inferiore.
   • Certificato: Argomento di steering di Cesàro (punto fisso/minimax).
   • Caratteristica: Non richiede un prior esplicito a ogni round; garantisce solo la calibrazione asintotica.
   • Esempio: Forecasting difensivo (Defensive Forecasting).

4. Risultati Chiave

• Teorema di Separazione dei Criteri (Theorems 5.9 e 6.6): Le quattro classi di procedure ammissibili ($B, A, C, D$) sono a due a due non nidificate.
  • Un predittore Bayesiano ottimo (B) non è necessariamente un e-process valido (A) né produce set di copertura validi (C).
  • Un e-process (A) non minimizza alcuna funzione di perdita adeguate (B).
  • Un set conformale (C) non è un predittore puntuale Bayesiano (B) né un e-process (A).
  • Un forecasting difensivo (D) raggiunge il confine asintoticamente ma non è Bayesiano a nessun passo finito.
• Ruolo della Coerenza Martingala: La coerenza martingala è necessaria per l'ammissibilità Blackwell e sufficiente per l'ammissibilità Anytime-Valid (entro gli e-process), ma non è sufficiente per l'ammissibilità Blackwell (es. il MLE plug-in è una martingala ma è inammissibile sotto log-loss perché assegna probabilità zero a eventi possibili, generando rischio infinito) e non è necessaria per la validità della copertura o per CAA.
• Il Paradosso del MLE Plug-in: Viene dimostrato che il Maximum Likelihood Estimator (MLE) plug-in, sebbene coerente e calibrato sotto la sua stessa legge predittiva, è strettamente dominato dalla previsione Bayesiana sotto log-loss a causa del rischio infinito quando assegna probabilità zero a eventi reali.
• Separazione Strutturale: La non-nidificazione non è un artefatto di approssimazione o di "gusto" filosofico, ma una conseguenza strutturale delle diverse condizioni di fattibilità e degli ordini parziali su cui operano i criteri.

5. Significato e Implicazioni

• Pluralismo Morale Statistico: Il paper introduce una metafora filosofica ("senza vergogna" vs "vergogna") per spiegare che l'inammissibilità è relativa al criterio scelto. Un metodo non è "sbagliato" in assoluto, ma è "dominato" solo rispetto a un obiettivo specifico.
• Design di Algoritmi: Suggerisce un nuovo paradigma di progettazione: Bayesiano Vincolato. Invece di cercare un'unica soluzione universale, l'analista deve prima specificare il vincolo di validità desiderato (es. controllo anytime, copertura conformale) e poi ottimizzare il rischio Bayesiano all'interno di quel vincolo.
• Implicazioni per l'IA e l'LLM:
  • La calibrazione (coerenza martingala) di un Large Language Model non garantisce l'ammissibilità o l'ottimalità Bayesiana.
  • I wrapper conformali possono garantire la copertura anche su predittori "neri" non ammissibili, ma questo non rende il predittore di base ottimale sotto altri criteri.
• Sperimentazione Clinica: Chiarisce perché un test ottimale Neyman-Pearson non è necessariamente un processo e valido in qualsiasi momento, e viceversa. La scelta del criterio determina la strategia di monitoraggio.

In sintesi, il paper dimostra che l'ottimalità statistica è irriducibilmente relativa al criterio. Non esiste un "Santo Graal" algoritmico che soddisfi contemporaneamente la dominanza del rischio, la validità anytime, la copertura marginale e la calibrazione di Cesàro. La scelta del metodo deve essere guidata dalla specifica esigenza di validità (il vincolo $F$) che l'utente intende imporre.