Riepilogo Tecnico: Equivarianza alla Normalizzazione per Backbone Arbitrari

Enunciato del Problema

Nei compiti di previsione da immagine a immagine, in particolare nella denoising cieca delle immagini, le reti neurali soffrono spesso di spostamenti di distribuzione quando il livello di rumore al momento del test differisce dal livello di rumore utilizzato durante l'addestramento. Sebbene l'Equivarianza alla Scala (SE) ($f(ay) = af(y)$) e l'Equivarianza alla Normalizzazione (NE) ($f(ay + b\mathbf{1}) = af(y) + b\mathbf{1}$), che è strettamente più forte, siano note per migliorare la robustezza a tali spostamenti, l'imposizione di queste proprietà nelle moderne architetture di deep learning presenta sfide significative.

I metodi esistenti impongono la NE vincolando i livelli interni della rete a specifiche famiglie compatibili con la NE (ad esempio, convoluzioni vincolate affine, non linearità di ordinamento e residui affini). Questo approccio, sebbene teoricamente solido, presenta due principali svantaggi:

1. Incompatibilità Architettonica: Esclude componenti standard onnipresenti nei backbone moderni, come i meccanismi di attenzione (softmax) e LayerNorm, che non commutano con le trasformazioni affini.
2. Sovraccarico Computazionale: L'imposizione dell'equivarianza attraverso vincoli sui livelli interni introduce costi computazionali significativi, con alcune basi architetturali che mostrano un rallentamento fino a 1,6 volte rispetto ai modelli standard.

Metodologia: Il Wrapper Equivariante alla Normalizzazione (WNE)

Gli autori propongono un metodo che impone la NE a livello di ingresso-uscita piuttosto che a livello dei livelli interni. Questo approccio si basa su una caratterizzazione completa della classe di funzioni NE.

Caratterizzazione Teorica

Il documento stabilisce la Caratterizzazione 1, dimostrando che una funzione $f: \mathbb{R}^d \to \mathbb{R}^d$ è equivariante alla normalizzazione se e solo se ammette una fattorizzazione normalizza-elabora-denormalizza. Nello specifico, per qualsiasi input $y$ con deviazione standard $\text{std}(y) > 0$:
$$f(y) = \text{std}(y) \cdot g(T_{NE}(y)) + \mu(y)\mathbf{1}$$
Dove:

• $\mu(y)$ e $\text{std}(y)$ sono la media e la deviazione standard dell'istanza.
• $T_{NE}(y) = \frac{y - \mu(y)\mathbf{1}}{\text{std}(y)}$ è la mappa di normalizzazione che proietta $y$ sulla varietà normalizzata $\mathcal{M}$ (media zero, deviazione standard unitaria).
• $g: \mathcal{M} \to \mathbb{R}^d$ è una funzione arbitraria che agisce sull'input normalizzato.

Questa caratterizzazione implica che imporre la NE non richiede di limitare l'architettura interna; si tratta di una riparametrizzazione equivalente della classe di funzioni.

Il Wrapper WNE

Basandosi su questa teoria, gli autori introducono WNE, un wrapper privo di parametri che può essere applicato a qualsiasi backbone esistente $g_\theta$ (inclusi CNN e Transformer) senza modificare i suoi pesi o livelli interni. Il passaggio in avanti è definito come:
$$f^{WNE}_\theta(y) = \text{std}(y) \cdot g_\theta(T_{NE}(y)) + \mu(y)\mathbf{1}$$

• Input: Immagine rumorosa $y$.
• Normalizzazione: Calcolare le statistiche dell'istanza $\mu(y), \text{std}(y)$ e normalizzare in $\tilde{y} = T_{NE}(y)$.
• Elaborazione: Passare $\tilde{y}$ attraverso il backbone arbitrario $g_\theta$.
• Denormalizzazione: Ricostruire l'output scalando e spostando: $\hat{x} = \text{std}(y)g_\theta(\tilde{y}) + \mu(y)\mathbf{1}$.

Questa costruzione garantisce la NE esatta indipendentemente dai componenti interni del backbone (ad esempio, attenzione, LayerNorm, BatchNorm). Per la stabilità numerica, viene aggiunto un piccolo $\epsilon$ alla deviazione standard quando è vicina a zero.

Contributi Chiave

1. Metodo: Un wrapper privo di parametri, pronto all'uso (WNE) che impone un'equivarianza esatta alla normalizzazione ingresso-uscita su qualsiasi backbone, inclusi i transformer, senza modificare i livelli interni.
2. Teoria: Una caratterizzazione completa che dimostra come la fattorizzazione normalizza-elabora-denormalizza sia sia necessaria che sufficiente per la NE, trasformando il problema da un vincolo architettonico interno a una riparametrizzazione ingresso-uscita.
3. Esperimenti e Analisi:
   • Dimostrazione di una robustezza migliorata al disallineamento del livello di rumore nella denoising cieca per backbone sia CNN (DnCNN) che Transformer (SwinIR, Restormer).
   • Analisi che mostra un sovraccarico GPU trascurabile rispetto alle basi architetturali.
   • Un'analisi delle coordinate normalizzate che spiega il meccanismo di robustezza: sotto NE, il disallineamento del livello di rumore sposta principalmente la distribuzione della "difficoltà" (distanza nelle coordinate normalizzate) piuttosto che cambiare il problema di regressione stesso, permettendo al modello di operare in un regime di interpolazione attraverso i livelli di rumore.

Risultati Sperimentali

Gli autori hanno valutato WNE utilizzando un diagnostico di disallineamento a singolo rumore, addestrando modelli a un livello di rumore fisso ($\sigma_{train} \in \{10, 25, 50\}$) e testando su un'ampia gamma di $\sigma_{test}$.

• Robustezza: WNE supera significativamente le basi non avvolte in caso di disallineamento del livello di rumore. Per SwinIR, la base degrada severamente quando $\sigma_{test} \neq \sigma_{train}$, mentre WNE mantiene prestazioni stabili. WNE corrisponde da vicino alle tendenze di robustezza delle basi NE architetturali (NE-arch) che richiedono estese modifiche interne.
• Prestazioni a Rumore Corrispondente: A livelli di rumore corrispondenti ($\sigma_{test} = \sigma_{train}$), WNE rimane competitivo con la base non avvolta, mostrando nessun degrado significativo nel picco PSNR.
• Efficienza Temporale: Su GPU, WNE aggiunge un sovraccarico trascurabile (rapporto $\approx 1,00\times$) rispetto alla base. Al contrario, le basi NE architetturali (NE-arch) subiscono un rallentamento fino a 1,6× a causa del costo dell'imposizione dell'equivarianza nei livelli interni.
• Generalizzazione: I benefici si estendono a:
  • Backbone diversi (Restormer).
  • Immagini a colori (3 canali).
  • Rumore del sensore reale (dataset SIDD).
  • Corruzioni non gaussiane (Uniforme, Laplace, Rayleigh, JPEG).
  • Riuso iterativo in problemi inversi (denoiser addestrati con Noise2Noise utilizzati nell'inpainting vincolato), dove WNE permette una ricostruzione stabile da inizializzazioni ad alto rumore che causano il fallimento dei modelli non avvolti.

Significato e Affermazioni

Il documento afferma che imporre l'equivarianza alla normalizzazione non è semplicemente un'approssimazione o una restrizione dello spazio delle funzioni, ma una riparametrizzazione equivalente che può essere ottenuta senza vincoli architettonici.

Il significato principale risiede nel disaccoppiare i benefici di robustezza della NE dalle limitazioni architettoniche dei metodi precedenti. Spostando l'imposizione dell'equivarianza al confine ingresso-uscita tramite un wrapper, gli autori abilitano l'uso di componenti standard ad alte prestazioni (come attenzione e LayerNorm) mantenendo al contempo le garanzie teoriche della NE. Questo approccio offre una soluzione pratica per migliorare la robustezza nella denoising cieca e in problemi inversi correlati senza incorrere nelle penalità computazionali associate ai vincoli sui livelli interni. Gli autori notano che questa prospettiva fornisce anche una chiara spiegazione geometrica della robustezza: stabilizza il problema di regressione nelle coordinate normalizzate, garantendo che la sovrapposizione tra addestramento e test in termini di "difficoltà" sia mantenuta anche sotto significativi spostamenti del livello di rumore.