A categorical formalization of epistemic uncertainty frameworks

Il paper introduce una definizione categoriale generale dei calcoli epistemici per modellare le incertezze, sviluppando un processo di cambiamento di arricchimento che unifica concetti come la teoria della possibilità e i fattori di certezza, e dimostrando che l'aggiornamento bayesiano e la condizionamento possibilistico ne sono casi particolari.

L'essenziale

Immagina di essere un detective che deve risolvere un caso. Ogni volta che raccoglie un indizio, la sua certezza sul colpevole cambia. A volte è sicuro al 100%, a volte è perplesso, a volte pensa che sia impossibile. Questo è ciò che chiamiamo incertezza epistemica: non è che il mondo sia casuale (come il lancio di una moneta), ma è che noi non sappiamo tutto.

Il paper di Torgeir Aambø è come una "cassetta degli attrezzi matematica" per capire come funzionano questi dubbi e come possiamo cambiarli. Ecco la spiegazione semplice, divisa in concetti chiave con delle metafore.

1. La Cassetta degli Attrezzi: I "Calcoli" dell'Incertezza

Fino a ora, gli scienziati usavano regole diverse per gestire l'incertezza. Alcuni usavano la probabilità classica (come le quote delle scommesse), altri la teoria della possibilità (come dire "è possibile che piova" senza dare una percentuale esatta), e altri ancora usavano i fattori di certezza (tipici dei vecchi sistemi esperti di intelligenza artificiale).

Il problema? Ognuno di questi metodi parla una "lingua" diversa. Se vuoi passare da uno all'altro, è come cercare di tradurre un libro dall'italiano al cinese usando solo un dizionario di parole singole: perdi il senso della frase.

L'autore propone di creare una grammatica universale (usando la teoria delle categorie, che è come la matematica delle relazioni e delle connessioni) per descrivere tutte queste lingue. Invece di guardare cosa significa un numero (es. "70% di probabilità"), guarda come i numeri si comportano quando li unisci.

2. L'Analogia del "Fusione di Credenze"

Immagina di avere due amici che ti danno informazioni su un evento.

• Amico A: "Penso che pioverà."
• Amico B: "Sono quasi sicuro che pioverà."

Come unisci queste due opinioni?

• Nel mondo della Probabilità, li moltiplichi o li aggiungi in modo complesso.
• Nel mondo della Possibilità, prendi il "minimo" (se uno è dubbioso, l'insieme è dubbioso).
• Nel mondo dei Fattori di Certezza, usi una formula strana (come sommare velocità nella relatività).

Il paper dice: "Fermiamoci un attimo. Non importa quale formula usiamo, ma quali regole seguono".
L'autore definisce un "Calcolo Epistemico" come una scatola con delle regole precise su come mescolare le certezze. È come avere diverse ricette per fare un cocktail: alcune usano ghiaccio, altre no, ma tutte devono rispettare certe leggi della fisica (o della logica) per non esplodere.

3. Le Regole Filosofiche (I "Comportamenti" della Scatola)

Il paper esplora diverse "personalità" filosofiche che questi calcoli possono avere. Immagina che ogni calcolo sia un personaggio:

• L'Ottimista vs. Lo Scettico:
  • L'Ottimista (come la teoria della possibilità) pensa che ci sia sempre un limite massimo di certezza (il "tetto" è 1).
  • Lo Scettico radicale non ha un tetto: può sempre dubitare di più.
• Il Conservatore (L'Eco-Camera):
  • Immagina una persona che, una volta che ha una credenza, non la cambia mai, anche se le portano nuove prove contrarie. Questo è il "conservativismo forte". Il paper dimostra matematicamente che se un sistema è troppo conservatore, non può essere anche "chiuso" (cioè capace di calcolare tutto) e "cancellativo" (capace di annullare errori). È come dire: "Se non vuoi mai cambiare idea, non puoi mai essere perfettamente logico".
• Il Fallibilista:
  • È la persona che dice: "Potrei sbagliare su tutto". Il paper prova che se il tuo sistema è completo (sa calcolare tutto), allora deve per forza ammettere di poter sbagliare. Non puoi avere un sistema perfetto che non può mai essere corretto.

4. Cambiare Lingua: Il Traduttore

Una delle parti più belle è come il paper spiega come passare da un calcolo all'altro.
Immagina di avere un sistema che usa la Possibilità (dove le cose sono "possibili" o "impossibili") e vuoi trasformarlo in un sistema di Probabilità a Intervalli (dove dici "la probabilità è tra il 20% e il 50%").

L'autore usa dei "funzioni di traduzione" (chiamate functori) che agiscono come traduttori.

• Traduttore Conservativo: Traduce le informazioni senza creare nuova certezza dal nulla. Se eri incerto, rimani incerto (o meno).
• Traduttore Liberale: Traduce permettendo di perdere un po' di certezza, ma non di crearne di nuova dal nulla.

Il paper scopre una cosa incredibile: la Teoria della Possibilità Bipolare (che distingue tra "quanto è possibile" e "quanto è impossibile") e le Probabilità a Intervalli sono, matematicamente, la stessa cosa! Sono come due vestiti diversi fatti con lo stesso tessuto. Se sai tradurli l'uno nell'altro, hai due modi diversi di guardare la stessa realtà.

5. Aggiornare le Credenze: Il Motore Bayesiano

Finora abbiamo parlato di come unire le informazioni. Ma come le aggiorniamo quando arriva una nuova prova?
Il famoso Teorema di Bayes (usato per aggiornare le probabilità) è stato a lungo visto come un'isola a sé stante.
L'autore mostra che il Teorema di Bayes è solo un caso speciale di un processo più grande chiamato "Aggiornamento Epistemico".

• Metafora: Immagina di avere una mappa del mondo (le tue credenze). Arriva un nuovo indizio (es. "Ho visto un uccello blu").
  • Nel calcolo classico (Bayes), aggiungi l'indizio alla mappa usando la divisione e la moltiplicazione.
  • Nel calcolo della Possibilità, usi il "minimo" per aggiustare la mappa.
  • Il paper dice: "Tutti questi metodi sono la stessa cosa, solo che usano strumenti diversi per fare lo stesso lavoro: ricalibrare la mappa in base alla nuova prova".

In Sintesi

Questo paper è come un architetto che disegna le fondamenta comuni per tutti i modi in cui gli esseri umani (e le macchine) gestiscono il dubbio.

1. Ci dice che non importa quale "lingua" usi per l'incertezza, tutte seguono regole logiche simili.
2. Ci mostra quali "atteggiamenti filosofici" (ottimismo, scetticismo, conservatorismo) sono compatibili tra loro e quali no.
3. Ci dà un modo sicuro per tradurre da un sistema all'altro senza perdere il senso.
4. Ci dimostra che il famoso aggiornamento di Bayes è solo un caso particolare di un meccanismo universale di apprendimento.

È un lavoro che unisce la filosofia (come pensiamo alla conoscenza) con la matematica più astratta, per creare un linguaggio comune che possa aiutare sia gli scienziati dei dati che i filosofi a capire meglio come funziona l'incertezza.

Sommario tecnico

Ecco una sintesi tecnica dettagliata del paper "A categorical formalization of epistemic uncertainty frameworks" di Torgeir Aambø, presentata in italiano.

1. Il Problema

L'incertezza epistemica nasce dalla mancanza di conoscenza completa sullo stato di un sistema. Esistono molteplici framework matematici per quantificare tale incertezza (spesso chiamati teorie delle probabilità imprecise), come la teoria della possibilità, i fattori di certezza e le probabilità intervallari. Tuttavia, questi approcci sono spesso frammentati, con sintassi e semantica legate in modo specifico a ciascun modello.
Il problema centrale affrontato dal paper è l'isolamento della sintassi matematica dell'incertezza dalla sua semantica, al fine di definire un concetto astratto di "calcolo dell'incertezza" (uncertainty calculus). L'obiettivo è creare un fondamento unificato che permetta di:

• Confrontare assiomaticamente diverse posizioni filosofiche (es. ottimismo, scetticismo, fallibilismo) all'interno dei vari calcoli.
• Studiare le relazioni, le contraddizioni e le sinergie tra questi framework.
• Formalizzare un metodo generale per l'aggiornamento delle credenze (belief updating) che generalizzi casi noti come l'aggiornamento bayesiano.

2. Metodologia

L'autore adotta un approccio basato sulla teoria delle categorie, in particolare utilizzando:

• Categorie posetali simmetriche monoidali: I calcoli dell'incertezza sono definiti come categorie dove gli oggetti sono valori epistemici, i morfismi rappresentano il confronto d'ordine ($\leq$) e il prodotto monoidale ($\otimes$) rappresenta la fusione delle evidenze.
• Categorie arricchite (Enriched Category Theory): Per modellare l'incertezza all'interno di sistemi complessi (semantica), l'autore arricchisce categorie di ipotesi con un calcolo dell'incertezza. Questo permette di mantenere costante il livello semantico mentre si cambia il livello sintattico di quantificazione.
• Functori Lax e Op-lax: Utilizzati per modellare i cambiamenti tra diversi calcoli dell'incertezza, distinguendo tra cambiamenti conservativi (che non creano certezza) e liberali (che non perdono certezza).

3. Contributi Chiave

A. Definizione Generale di Calcolo Epistemico

L'autore definisce un calcolo epistemico come una categoria posetale simmetrica monoidale non banale $(V, \leq, \otimes, 1)$, dove:

• $1$ rappresenta l'incertezza epistemica totale.
• $\otimes$ è l'operazione di fusione delle credenze.
• Vengono introdotti assiomi filosofici formali (E1-E8) per caratterizzare le proprietà dei calcoli:
  • Ottimismo/Scetticismo (E1): Esistenza di un elemento massimo ($\top$).
  • Completezza (E2): Esistenza di tutti i join (supremi).
  • Chiusura (E4): Esistenza di un "internal hom" (generalizzazione della residuazione).
  • Conservativismo forte (E5): La fusione non riduce mai la credenza.
  • Idempotenza (E6): La fusione di una credenza con se stessa non la cambia.
  • Fallibilismo (E7): È sempre possibile aggiornare una credenza verso una meno forte.
  • Cancellatività (E8): La fusione con la stessa evidenza non altera il rapporto di forza relativo tra due valori.

B. Esempi Formalizzati

Il framework viene applicato a diversi modelli esistenti:

1. Fattori di Certezza (CF): Basati sulla somma iperbolica (isomorfa alla moltiplicazione su $(0, \infty)$ tramite la trasformazione di Minkowski).
2. Teoria della Possibilità (PT): Basata sull'operatore minimo (t-norma Gödel).
3. Teoria della Possibilità Bipolare (PTbi): Introduce coppie $(x, x')$ per separare grado di rifiuto e grado di possibilità, evitando l'equivalenza tra assenza di prova e prova di assenza.
4. Probabilità Intervallari (IP): Basate sull'intersezione di intervalli chiusi.

C. Teoremi di Incompatibilità e Relazioni

Il paper dimostra teoremi fondamentali sulle incompatibilità tra proprietà filosofiche:

• Teorema A: Un calcolo epistemico completo non può essere contemporaneamente chiuso, fortemente conservativo e cancellativo. La chiusura e la cancellatività richiedono l'esistenza di credenze negative, incompatibili con il conservativismo forte.
• Teorema B: Un calcolo completo è fallibile se e solo se è chiuso.
• Isomorfismo: Viene dimostrato che la teoria della possibilità bipolare (PTbi) e la probabilità intervallare (IP) sono equivalenti come calcoli epistemici tramite un funtore bilanciato (conservativo e liberale).

D. Aggiornamento delle Credenze (Belief Updating)

L'autore risolve il problema dell'aggiornamento (tipicamente non simmetrico, come in Bayes) utilizzando categorie arricchite su calcoli chiusi.

• Viene definito un processo generale di aggiornamento $V$-updating.
• Teorema B (Aggiornamento):
  • Se $V$ è l'ordine su $(0, \infty)$ con moltiplicazione, l'aggiornamento $V$-aggiornamento corrisponde alla forma delle probabilità a posteriori (odds) di Bayes.
  • Se $V$ è la teoria della possibilità, si recupera il condizionamento possibilistico di Dubois-Prade.
  • Anche i fattori di certezza emergono come caso particolare di questo schema generale.

4. Risultati Principali

1. Unificazione Sintattica: È stato creato un linguaggio comune (categorie posetali monoidali) per descrivere framework di incertezza eterogenei, permettendo di mappare le loro proprietà algebriche e ordinative.
2. Limiti Filosofici: È stato provato che certe combinazioni di atteggiamenti filosofici (es. conservativismo forte + cancellatività + chiusura) sono logicamente incompatibili in un sistema completo.
3. Equivalenza Strutturale: La teoria della possibilità bipolare e le probabilità intervallari sono state dimostrate isomorfe a livello sintattico, nonostante le loro interpretazioni semantiche diverse.
4. Generalizzazione dell'Aggiornamento: L'aggiornamento bayesiano e il condizionamento possibilistico non sono più visti come regole ad hoc, ma come istanze specifiche di un unico processo categorico di cambiamento di arricchimento (change of enrichment).

5. Significato e Implicazioni

Il lavoro di Aambø offre un contributo significativo alla logica fuzzy, alla teoria della probabilità e alla filosofia della scienza:

• Ponte tra Filosofia e Matematica: Fornisce un modo rigoroso per tradurre posizioni filosofiche (come lo scetticismo o il fallibilismo) in proprietà algebriche precise.
• Flessibilità nei Sistemi Complessi: La metodologia basata sull'arricchimento permette di cambiare il "motore" di quantificazione dell'incertezza in un sistema (es. un modello di linguaggio o un sistema di sensori) senza dover riscrivere l'intera architettura semantica. Questo è cruciale per applicazioni come l'IA, dove si può passare da un modello probabilistico a uno possibilistico a seconda del contesto.
• Fondamento per l'IA: L'autore suggerisce che questo approccio potrebbe aiutare a risolvere problemi come il "posterior collapse" nei Large Language Models (LLM) offrendo alternative sintattiche all'uso esclusivo della probabilità bayesiana.

In sintesi, il paper stabilisce una fondazione categoriale robusta che eleva lo studio dell'incertezza epistemica da una collezione di modelli specifici a una teoria unificata, capace di analizzare criticamente le assunzioni filosofiche sottostanti e di fornire strumenti matematici per la loro manipolazione e trasformazione.