Resumo Técnico: Equivariância de Normalização para Backbones Arbitrários

Declaração do Problema

Em tarefas de previsão imagem-para-imagem, particularmente na remoção cega de ruído de imagens, as redes neurais frequentemente sofrem com deslocamentos de distribuição quando o nível de ruído no momento do teste difere do nível de ruído de treinamento. Embora a Equivariância de Escala (SE) ($f(ay) = af(y)$) e a Equivariância de Normalização (NE) estritamente mais forte ($f(ay + b\mathbf{1}) = af(y) + b\mathbf{1}$) sejam conhecidas por melhorar a robustez a tais deslocamentos, impor essas propriedades em arquiteturas modernas de aprendizado profundo apresenta desafios significativos.

Os métodos existentes impõem a NE restringindo as camadas internas da rede a famílias específicas compatíveis com NE (por exemplo, convoluções com restrições afins, não-linearidades de ordenação e resíduos afins). Essa abordagem, embora teoricamente sólida, apresenta duas desvantagens principais:

1. Incompatibilidade Arquitetural: Ela exclui componentes padrão ubíquos em backbones modernos, como mecanismos de atenção (softmax) e LayerNorm, que não comutam com transformações afins.
2. Sobrecarga de Tempo de Execução: Impor equivariância através de restrições de camadas internas introduz custos computacionais significativos, com algumas bases arquitetônicas mostrando um atraso de até 1,6× em comparação com modelos padrão.

Metodologia: O Wrapper de Equivariância de Normalização (WNE)

Os autores propõem um método que impõe a NE no nível de entrada-saída em vez do nível de camada interna. Essa abordagem baseia-se em uma caracterização completa da classe de funções NE.

Caracterização Teórica

O artigo estabelece a Caracterização 1, provando que uma função $f: \mathbb{R}^d \to \mathbb{R}^d$ é equivariante à normalização se e somente se admitir uma fatorização normalizar-processar-desnormalizar. Especificamente, para qualquer entrada $y$ com desvio padrão $\text{std}(y) > 0$:
$$f(y) = \text{std}(y) \cdot g(T_{NE}(y)) + \mu(y)\mathbf{1}$$
Onde:

• $\mu(y)$ e $\text{std}(y)$ são a média e o desvio padrão da instância.
• $T_{NE}(y) = \frac{y - \mu(y)\mathbf{1}}{\text{std}(y)}$ é o mapa de normalização que projeta $y$ na variedade normalizada $\mathcal{M}$ (média zero, desvio padrão unitário).
• $g: \mathcal{M} \to \mathbb{R}^d$ é uma função arbitrária atuando sobre a entrada normalizada.

Essa caracterização implica que impor a NE não requer restringir a arquitetura interna; é uma reparametrização equivalente da classe de funções.

O Wrapper WNE

Com base nessa teoria, os autores introduzem o WNE, um wrapper sem parâmetros que pode ser aplicado a qualquer backbone existente $g_\theta$ (incluindo CNNs e Transformers) sem modificar seus pesos ou camadas internas. A passagem direta é definida como:
$$f^{WNE}_\theta(y) = \text{std}(y) \cdot g_\theta(T_{NE}(y)) + \mu(y)\mathbf{1}$$

• Entrada: Imagem ruidosa $y$.
• Normalização: Calcular estatísticas da instância $\mu(y), \text{std}(y)$ e normalizar para $\tilde{y} = T_{NE}(y)$.
• Processamento: Passar $\tilde{y}$ através do backbone arbitrário $g_\theta$.
• Desnormalização: Reconstruir a saída escalando e deslocando: $\hat{x} = \text{std}(y)g_\theta(\tilde{y}) + \mu(y)\mathbf{1}$.

Essa construção garante NE exata independentemente dos componentes internos do backbone (por exemplo, atenção, LayerNorm, BatchNorm). Para estabilidade numérica, um pequeno $\epsilon$ é adicionado ao desvio padrão quando este está próximo de zero.

Contribuições Principais

1. Método: Um wrapper sem parâmetros, pronto para uso (drop-in) (WNE) que impõe equivariância exata de normalização entrada-saída em qualquer backbone, incluindo transformers, sem modificar camadas internas.
2. Teoria: Uma caracterização completa mostrando que a fatoração normalizar-processar-desnormalizar é necessária e suficiente para NE, transformando o problema de uma restrição arquitetônica interna em uma parametrização de entrada-saída.
3. Experimentos e Análise:
   • Demonstração de robustez aprimorada ao desajuste de nível de ruído na remoção cega de ruído para backbones CNN (DnCNN) e Transformer (SwinIR, Restormer).
   • Análise mostrando sobrecarga de GPU negligenciável em comparação com bases arquitetônicas.
   • Uma análise de coordenadas normalizadas explicando o mecanismo de robustez: sob NE, o desajuste de nível de ruído desloca principalmente a distribuição de "dificuldade" (distância em coordenadas normalizadas) em vez de alterar o próprio problema de regressão, permitindo que o modelo opere em um regime de interpolação através dos níveis de ruído.

Resultados Experimentais

Os autores avaliaram o WNE usando um diagnóstico de desajuste de ruído único, treinando modelos em um nível de ruído fixo ($\sigma_{train} \in \{10, 25, 50\}$) e testando em uma ampla faixa de $\sigma_{test}$.

• Robustez: O WNE supera significativamente as bases sem wrapper sob desajuste de nível de ruído. Para o SwinIR, a base degrada-se severamente quando $\sigma_{test} \neq \sigma_{train}$, enquanto o WNE mantém desempenho estável. O WNE corresponde de perto às tendências de robustez das bases NE arquitetônicas (NE-arch) que exigem extensas modificações internas.
• Desempenho em Ruído Correspondente: Em níveis de ruído correspondidos ($\sigma_{test} = \sigma_{train}$), o WNE permanece competitivo com a base sem wrapper, não mostrando degradação significativa no PSNR de pico.
• Eficiência de Tempo de Execução: Na GPU, o WNE adiciona sobrecarga negligenciável (razão $\approx 1,00\times$) em comparação com a base. Em contraste, as bases NE arquitetônicas (NE-arch) incorrem em até 1,6× de atraso devido ao custo de impor equivariância em camadas internas.
• Generalização: Os benefícios estendem-se a:
  • Diferentes backbones (Restormer).
  • Imagens coloridas (3 canais).
  • Ruído de sensor real (conjunto de dados SIDD).
  • Corrupções não gaussianas (Uniforme, Laplace, Rayleigh, JPEG).
  • Reutilização iterativa em problemas inversos (removedores de ruído treinados com Noise2Noise usados em inpainting restrito), onde o WNE permite reconstrução estável a partir de inicializações de alto ruído que causam falha em modelos sem wrapper.

Significado e Alegações

O artigo afirma que impor equivariância de normalização não é meramente uma aproximação ou uma restrição do espaço de funções, mas uma reparametrização equivalente que pode ser alcançada sem restrições arquitetônicas.

O significado principal reside em desacoplar os benefícios de robustez da NE das limitações arquitetônicas dos métodos anteriores. Ao mover a imposição de equivariância para o limite de entrada-saída através de um wrapper, os autores permitem o uso de componentes padrão de alto desempenho (como atenção e LayerNorm) enquanto retêm as garantias teóricas da NE. Essa abordagem oferece uma solução prática para melhorar a robustez na remoção cega de ruído e em problemas inversos relacionados, sem incorrer nas penalidades computacionais associadas a restrições de camadas internas. Os autores observam que essa perspectiva também fornece uma explicação geométrica clara para a robustez: ela estabiliza o problema de regressão em coordenadas normalizadas, garantindo que a sobreposição treino-teste em "dificuldade" seja mantida mesmo sob deslocamentos significativos de nível de ruído.