Riepilogo Tecnico: bispectrum: Bispettri G-Selectivi Resi Pratici

Enunciato del Problema

Molti compiti di apprendimento automatico richiedono l'invarianza rispetto a specifiche azioni di gruppo (ad esempio, traslazioni, rotazioni 2D/3D). Mentre le reti neurali equivarianti impongono ciò mantenendo mappe di caratteristiche equivarianti, il passaggio finale richiede la mappatura di queste caratteristiche in rappresentazioni invarianti per la previsione. I metodi di pooling invariante esistenti (norm pooling, gated pooling, max pooling) sono computazionalmente efficienti ma incompleti: scartano le informazioni di fase, il che significa che segnali distinti che condividono lo stesso spettro di potenza ma differiscono per le fasi relative vengono mappati in descrittori identici.

Il G-bispettro offre un invariante completo e fondato su principi che conserva tutte le informazioni del segnale a meno dell'azione del gruppo. Tuttavia, la sua adozione nell'apprendimento profondo è stata ostacolata da:

1. Elevato costo computazionale: I bispettri completi scalano quadraticamente ($O(|G|^2)$) per gruppi finiti e cubicamente ($O(L^3)$) per rotazioni sferiche.
2. Implementazioni frammentate: Le costruzioni esistenti sono sparse in articoli teorici senza una libreria unificata, differenziabile e pronta per GPU.
3. Mancanza di valutazione empirica: Non esiste un benchmark unificato che confronti il pooling bispettrale con le alternative standard nelle pipeline di apprendimento profondo moderne.

Metodologia

Gli autori presentano bispectrum, una libreria open-source PyTorch che implementa bispettri G-selectivi come layer nn.Module differenziabili. La metodologia centrale coinvolge tre pilastri tecnici:

1. Costruzione del Bispettro Selettivo

Invece di calcolare l'intero bispettro (che contiene informazioni ridondanti), la libreria calcola un sottoinsieme selettivo di coefficienti che rimane completo per segnali generici.

• Gruppi Finiti: Sfruttando una ricerca in ampiezza (breadth-first search) sulla tabella del prodotto di Kronecker delle rappresentazioni irriducibili (irreps), la libreria seleziona $O(|G|)$ coefficienti invece di $O(|G|^2)$.
• Rotazioni Planari (Disco): Implementa il bispettro selettivo del disco, riducendo i coefficienti da $O(m^3)$ a $O(m)$ mantenendo la completezza sotto condizioni di genericità.
• Rotazioni Sferiche (SO(3) su $S^2$): Gli autori introducono un nuovo bispettro selettivo aumentato.
  • Costruiscono un invariante $\Phi_{sel}$ di dimensione $\Theta(L^2)$ (riducendo dal completo $\Theta(L^3)$).
  • La costruzione utilizza un blocco "seed" per gradi bassi e blocchi "bootstrap" per gradi più alti.
  • Per garantire la completezza su segnali reali (dove il bispettro scalare standard può essere carente di rango a causa di vincoli di parità), arricchiscono le voci bispettrali con scalari CG-power (norme quadrate di prodotti tensoriali proiettati).
  • Questo risulta in un invariante di dimensione $\Theta(L^2)$ che è empiricamente completo.

2. Progettazione e Implementazione della Libreria

La libreria fornisce un'API uniforme per sette coppie gruppo/dominio (ad esempio, $C_n$ su $C_n$, $SO(3)$ su $S^2$, Gruppo ottaedrico).

• Differenziabilità: Tutti i moduli sono completamente differenziabili, consentendo l'addestramento end-to-end.
• Efficienza: La pre-computazione delle matrici e dei kernel di Clebsch-Gordan garantisce passaggi in avanti (forward passes) nell'ordine di frazioni di millisecondo su GPU.
• Inversione: La libreria supporta la ricostruzione del segnale (a meno dell'azione del gruppo) dal bispettro, fungendo da prova di completezza.

3. Valutazione Sperimentale

Gli autori valutano la libreria su tre benchmark, confrontando il pooling bispettrale con norm pooling, gated pooling, Fourier-ELU pooling, max pooling e baseline non equivarianti con aumento dei dati:

1. PatchCamelyon (PCam): Classificazione istopatologica 2D sotto simmetria $C_8$.
2. OrganMNIST3D: Classificazione di organi 3D sotto il gruppo ottaedrico chirale $O$.
3. Spherical MNIST: Classificazione di cifre sotto rotazioni $SO(3)$ sulla sfera.

Risultati Chiave

Prestazioni Computazionali

• Velocità: I passaggi in avanti selettivi sono nell'ordine di frazioni di millisecondo su una GPU NVIDIA H100 (ad esempio, 0,48 ms per $SO(3)$ con limite di banda $L=16$).
• Riduzione: La selettività riduce il conteggio dei coefficienti fino a $512\times$ (ad esempio, per $|G|=1024$) e riduce la complessità sferica da $O(L^3)$ a $\Theta(L^2)$.

Completezza Empirica (Spherical MNIST)

• Ricostruzione: L'invariante selettivo aumentato $\Phi_{sel}$ ricostruisce con successo i segnali a meno di rotazione con residui bassi ($\sim 10^{-3}$), fornendo prove empiriche di completezza.
• Invarianza: Il modello raggiunge un'invarianza $SO(3)$ quasi esatta ($\sigma_{rot} \sim 10^{-4}$), mentre le CNN standard collassano sotto rotazioni non viste.
• Completezza vs Capacità: Lo spettro di potenza (invariante incompleto) si stabilizza a un'accuratezza di $\sim 78\%$ anche quando scalato per corrispondere al conteggio dei parametri del modello bispettrale ($95\%$), confermando che il divario di prestazioni è dovuto all'incompletezza, non alla capacità del modello.

Efficienza dei Dati

• Regime a Bassi Dati: In tutti e tre i benchmark, il layer di pooling bispettrale supera costantemente le alternative quando i dati di addestramento sono scarsi (ad esempio, l'1% del dataset).
  • Su PCam (1% dati), il bispettro ha raggiunto un AUC di 0,912 contro 0,873 per NormReLU.
  • Su OrganMNIST3D (5% dati), il bispettro ha raggiunto un'accuratezza del 33,2% contro il 18,9% del max pooling.
• Regime ad Alta Capacità: All'aumentare della capacità del modello e della dimensione dei dati, il vantaggio dell'invariante completo si riduce, e i metodi incompleti (come il max pooling) possono eguagliare o superare le prestazioni bispettrali.

Significato e Affermazioni

Il documento afferma di colmare il divario tra l'appeal teorico dei G-bispettri e la loro utilità pratica nell'apprendimento profondo moderno.

• Deploy Pratico: Fornendo una libreria unificata, differenziabile ed efficiente, gli autori rendono i bispettri G-selectivi accessibili come layer "drop-in" per qualsiasi architettura equivariante.
• Contributo Teorico: L'introduzione dell'invariante SO(3) selettivo aumentato sulla sfera è un passo teorico significativo, riducendo la complessità dei bispettri sferici a $\Theta(L^2)$ mentre dimostra empiricamente la completezza.
• Bias Induttivo: I risultati suggeriscono che gli invarianti completi forniscono un bias induttivo più forte rispetto a quelli incompleti, in particolare nei regimi a bassi dati e capacità moderata, sostituendo efficacemente gli esempi di addestramento mancanti.

Gli autori rimangono modesti riguardo allo status teorico della costruzione sferica, notando che, sebbene la ricostruzione empirica suggerisca la completezza, una prova formale rimane aperta. Riconoscono inoltre che ad alte capacità, il sovraccarico computazionale degli invarianti completi potrebbe non essere giustificato rispetto a strategie di pooling più semplici e incomplete.