🤖 machine learning

Bayesian 3D Steerable CNNs: Enabling Equivariance and Uncertainty Quantification Simultaneously

Questo articolo introduce un framework Bayesian Steerable-CNN che preserva l'esatta equivarianza SE(3) consentendo al contempo la quantificazione simultanea dell'incertezza attraverso l'inferenza variazionale, ottenendo così una robustezza superiore ai cambiamenti distribuzionali e prestazioni migliorate tramite predizioni guidate dall'incertezza.

Autori originali: Abhishek Keripale, Ponkrshnan Thiagarajan, Susanta Ghosh

Pubblicato 2026-06-16

📖 5 min di lettura🧠 Approfondimento

CC BY 4.0

Autori originali: Abhishek Keripale, Ponkrshnan Thiagarajan, Susanta Ghosh

Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo

Immagina di cercare di insegnare a un robot a riconoscere oggetti 3D, come sedie, letti o toilette, semplicemente guardandoli. La parte difficile è che questi oggetti possono essere ruotati in qualsiasi direzione. Un robot standard potrebbe confondersi se una sedia viene girata di lato, pensando che sia un oggetto completamente diverso.

Per risolvere questo problema, gli scienziati utilizzano qualcosa chiamato CNN Steerabili (o orientabili). Immaginale come un set speciale di "lenti intelligenti" che comprendono la rotazione. Non importa quanto l'oggetto venga fatto ruotare, il robot lo riconosce come la stessa cosa. È come avere una mappa che ruota automaticamente insieme a te, così non ti perdi mai.

Tuttavia, c'è un problema con queste lenti intelligenti: sono deterministiche. Ciò significa che sono come un robot rigido che fornisce un'unica risposta con il 100% di fiducia, anche se è sbagliata. Non hanno il concetto di "non ne sono sicuro". Nel mondo reale, specialmente con dati rumorosi o disordinati, sapere quanto sei sicuro è importante tanto quanto ottenere la risposta corretta.

L'idea principale: Il robot "Sicuro ma Umile"

Gli autori di questo articolo hanno creato una nuova versione di queste lenti intelligenti chiamata CNN 3D Steerabili Bayesiane. Sono riusciti a dare al robot due superpoteri contemporaneamente:

Consapevolezza della Rotazione: Capisce ancora che una sedia ruotata è ancora una sedia.
Consapevolezza dell'Incertezza: Può ora dire: "Sono abbastanza sicuro che questa sia una sedia", oppure "Sono molto confuso, potrebbe essere una sedia o un tavolo strano".

Come ci sono riusciti? (L'analogia della cucina)

Per capire il loro trucco, immagina una ricetta per una torta (il "kernel" che riconosce l'oggetto).

Vecchio Metodo (Deterministico): La ricetta è scritta nella pietra. "Aggiungi esattamente 2 tazze di farina". Se la segui, ottieni sempre la stessa torta.
Il Problema: Se gli ingredienti sono scadenti (dati rumorosi), la torta potrebbe fallire, ma la ricetta non lo sa.
Il Nuovo Metodo (Bayesiano): Invece di scrivere "2 tazole", la ricetta dice: "Aggiungi tra 1,8 e 2,2 tazze di farina, in base a una probabilità".
- Gli autori hanno mantenuto la struttura della ricetta (la "base steerabile") rigida, in modo che comprenda ancora la rotazione.
- Ma hanno reso gli importi (i coefficienti) flessibili e casuali.
- Ogni volta che il robot guarda un oggetto, campiona una versione leggermente diversa della ricetta. A volte aggiunge un po' più di farina, a volte un po' meno.

Facendo questo, il robot non fornisce solo una risposta; ti dà una gamma di risposte. Se tutte le diverse versioni della ricetta concordano, il robot è sicuro. Se danno tutte risultati diversi, il robot sa di essere incerto.

Cosa hanno scoperto?

I ricercatori hanno testato questo nuovo robot su un dataset di modelli 3D chiamato ModelNet10 (che include oggetti come vasche da bagno, scrivanie e divani). Ecco cosa è successo:

È bravo quanto gli altri a indovinare: Il nuovo robot "incerto" era bravo quanto il vecchio robot "rigido" nell'identificare gli oggetti.
È migliore nel gestire il rumore: Quando hanno aggiunto "disturbo" o "rumore" alle immagini (come rendere l'immagine granulosa), il robot rigido ha iniziato a fallire rapidamente. Il nuovo robot, invece, era molto più resistente. Ha mantenuto la sua precisione anche quando il rumore era molto alto, superando il vecchio robot di circa il 6%. È come se il robot con la ricetta flessibile fosse ancora riuscito a cuocere una torta decente anche con ingredienti scadenti, mentre quello rigido l'avesse bruciata.
Sa quando sbaglia: La parte più eccitante è che il "punteggio di incertezza" del robot era effettivamente significativo. Quando il robot diceva "Non sono sicuro", di solito aveva ragione a non esserlo. Quando diceva "Sono sicuro al 100%", di solito aveva ragione a esserlo.
- Hanno trovato un modello chiaro: più il robot era incerto, più era probabile che commettesse un errore. Questo dimostra che il robot non sta solo tirando a indovinare casualmente; comprende effettivamente i propri limiti.
Calibrazione: La fiducia del robot corrispondeva perfettamente alla realtà. Se diceva di essere sicuro al 90%, ci azzeccava il 90% delle volte.

Il compromesso

C'è un piccolo costo. Poiché il robot deve tenere traccia di tutte queste diverse "variazioni della ricetta" (probabilità) invece di una singola ricetta fissa, utilizza il doppio della memoria e impiega un po' più di tempo per pensare. È come portare con sé un intero ricettario di variazioni invece di una semplice scheda indice.

Riassunto

L'articolo presenta un modo per creare sistemi di riconoscimento di oggetti 3D che siano sia resistenti alla rotazione (funzionano indipendentemente da come l'oggetto è girato) sia umili (sanno quando non sono sicuri). Trattando la matematica interna del sistema come un intervallo di possibilità anziché come un singolo numero fisso, hanno creato un modello che è più robusto contro i dati disordinati e fornisce punteggi di fiducia affidabili, senza rompere le regole della simmetria che rendono questi sistemi efficaci.

Sintesi Tecnica: Reti CNN 3D Steerable Bayesiane

Problematica
Le Reti Neurali Convoluzionali Steerable (Steerable-CNN) si sono affermate come un potente paradigma per l'elaborazione di dati 3D, garantendo l'equivarianza SE(3) parametrizzando i kernel convoluzionali come combinazioni lineari di funzioni base steerable. Questo vincolo architettonico assicura che la trasformazione dell'input (ad esempio, tramite rotazione 3D) produca un output corrispondentemente trasformato, riducendo significativamente lo spazio delle ipotesi e migliorando la generalizzazione in domini come il riconoscimento di forme e la predizione delle proprietà molecolari. Tuttavia, le attuali Steerable-CNN sono interamente deterministiche. Esse producono stime puntuali singole senza misure di confidenza associate, rendendole inadatte per applicazioni critiche per la sicurezza (ad esempio, imaging medico, sistemi autonomi) dove la quantificazione dell'incertezza (UQ) è essenziale.

Una sfida primaria nello sviluppo di Steerable-CNN Bayesiane è che l'introduzione ingenua di stocasticità nei pesi della rete tipicamente rompe la proprietà di equivarianza. Se i kernel convoluzionali vengono campionati casualmente, essi generalmente violano il vincolo di "intertwiner" o di steerability, il che significa che le risultanti realizzazioni stocastiche non sarebbero equivarianti, anche se la loro media lo è.

Metodologia
Gli autori propongono un framework di Steerable-CNN Bayesiana che risolve questo conflitto ponendo distribuzioni a posteriori sui coefficienti scalari delle funzioni base steerable, piuttosto che sulle matrici dei kernel stesse.

Kernel Equivarianti Stocastici: Il kernel convoluzionale $K(x)$ è definito come una combinazione lineare di funzioni base steerable deterministiche e pre-calcolate $\{\kappa_b(x)\}$ (derivate dalle matrici D di Wigner per SO(3)):
$K(x; w) = \sum_{b=1}^{B} w_b \kappa_b(x)$
Le funzioni base $\kappa_b$ sono fisse e soddisfano il vincolo di steerability per costruzione. I coefficienti $w = (w_1, \dots, w_B)$ sono trattati come variabili casuali.
Preservazione dell'Equivarianza: Il documento dimostra (Proposizione 1) che se le funzioni base soddisfano il vincolo di steerability, qualsiasi combinazione lineare di esse — indipendentemente dal fatto che i coefficienti siano deterministici o campionati da una distribuzione di probabilità — rimane equivariante. Ciò consente l'uso di kernel stocastici senza modifiche architettoniche per imporre l'equivarianza.
Inferenza Variazionale: Il modello impiega l'approccio Bayes-by-Backpropagation. Si assume una distribuzione a posteriori gaussiana a campo medio $q(w|\theta)$ sui coefficienti, parametrizzata da una media $\mu$ e una log-varianza $\rho$ . Il modello viene addestrato massimizzando l'Evidence Lower Bound (ELBO), che consiste in un termine di perdita cross-entropy e un termine di divergenza di Kullback-Leibler (KL) che regolarizza la distribuzione a posteriori rispetto a una prior gaussiana.
Decomposizione dell'Incertezza: In fase di inferenza, il modello esegue $N$ $N$ passaggi in avanti (forward passes) stocastici. L'incertezza predittiva totale è decomposta in:
- Incertezza Aleatoria: Rumore inerente ai dati (catturato dalla media dell'entropia delle singole predizioni).
- Incertezza Epistemica: Incertezza del modello dovuta a dati limitati (catturata dalla varianza delle predizioni attraverso i $N$ campioni).

Contributi Chiave

Nuova Formulazione Bayesiana: La prima integrazione dell'inferenza stocastica con le convoluzioni steerable, ottenendo la distribuzione a posteriori dei coefficienti delle basi dei kernel mantenendo l'esatta SE(3)-equivarianza.
Dimostrazione Teorica: Una prova formale che dimostra come la stocasticità nello spazio dei coefficienti non violi il vincolo di intertwiner, garantendo che ogni kernel campionato rimanga equivariante.
Incertezza Decomponibile: Un framework che fornisce stime di incertezza calibrate e decomponibili (epistemica vs aleatoria) per modelli equivarianti 3D.

Risultati Sperimentali
Il modello è stato valutato sul dataset ModelNet10 (modelli CAD 3D) utilizzando un'architettura basata sulla libreria escnn.

Performance di Classificazione: Il modello bayesiano ha raggiunto un'accuratezza di test dell'86,34%, risultando competitivo con le controparti deterministiche.
Calibrazione: Il modello ha dimostrato un'eccellente calibrazione con un Errore di Calibrazione Atteso (ECE) di 0,0263, indicando che i punteggi di confidenza predetti corrispondono strettamente all'accuratezza empirica.
Robustezza al Cambio di Distribuzione: Sotto rumore gaussiano additivo, il modello bayesiano ha mostrato una robustezza superiore rispetto al baseline deterministico. Con un livello di rumore elevato ( $\epsilon_{noise} = 0,9$ ), il modello bayesiano ha mantenuto un'accuratezza dell'81,83%, superando il modello deterministico (75,66%) del 6,17%.
Utilità dell'Incertezza:
- Predizione Selettiva: Filtrando i campioni con alta incertezza, il modello ha ottenuto un guadagno di accuratezza di circa il 4% sull'84% del dataset di test (campioni con incertezza al di sotto di una specifica soglia).
- Significato Semantico: È stata trovata una correlazione di rango di Spearman negativa statisticamente significativa (-0,3989) tra l'incertezza epistemica e l'errore di predizione, confermando che un'incertezza maggiore predice in modo affidabile un errore di classificazione più elevato.
- Convergenza dell'Incertezza: Durante l'addestramento, l'incertezza totale è diminuita costantemente, mentre l'incertezza epistemica è rimasta costantemente bassa, suggerendo che il modello sia diventato sicuro della sua distribuzione dei pesi appresa.

Significatività e Rivendicazioni
Il documento afferma di unificare la quantificazione dell'incertezza bayesiana con il bias induttivo delle CNN equivarianti. Gli autori sottolineano che questo è il primo lavoro che integra con successo l'inferenza stocastica e le convoluzioni steerable in un singolo modello discriminativo. La significatività risiede nel consentire un processo decisionale consapevole del rischio nei domini 3D: il modello non solo rispetta le simmetrie geometriche, ma fornisce anche stime di confidenza deponibili e basate su principi. Ciò consente ai professionisti di distinguere tra l'ambiguità inerente ai dati (aleatoria) e la mancanza di conoscenza del modello (epistemica), facilitando un raffinamento mirato del modello e un impiego più sicuro in applicazioni sensibili alla sicurezza. Il framework ottiene questi benefici senza sacrificare le garanzie di equivarianza che rendono le Steerable-CNN efficaci per i dati 3D.