Provably Contractive and High-Quality Denoisers for Convergent Restoration

Título: Denoisers Contrativos Prováveis e de Alta Qualidade para Restauração Convergente

1. Problema e Motivação

A restauração de imagens visa recuperar imagens limpas a partir de medições degradadas (ruído, desfoque, super-resolução, etc.). Embora as redes neurais convolucionais e baseadas em transformers (como DnCNN e Restormer) tenham alcançado desempenho de última geração (SOTA) em tarefas de restauração, elas carecem de garantias de estabilidade.

• Fragilidade: Modelos existentes são sensíveis a pequenas perturbações nos dados de entrada (ex: compressão JPEG leve, subamostragem de crominância), o que pode levar a artefatos amplificados e degradação da qualidade de restauração.
• Trade-off Robustez-Acurácia: Existe uma crença comum na literatura de que impor restrições de estabilidade (como a condição de Lipschitz) degrada inevitavelmente a qualidade da saída.
• Convergência em Plug-and-Play (PnP): Em algoritmos iterativos de restauração (como PnP-FBS), a falta de garantias de contração no denoiser pode levar à divergência do algoritmo, tornando a reconstrução instável.

O objetivo do trabalho é desenvolver denoisers que sejam provavelmente contrativos (com constante de Lipschitz global $L < 1$) sem sacrificar a qualidade de restauração, fechando a lacuna entre modelos robustos e modelos de alta performance.

2. Metodologia

Os autores propõem uma arquitetura de rede neural projetada para satisfazer estritamente a condição de contração global, composta por camadas construídas a partir de técnicas de "desdobramento" (unfolding) de algoritmos de otimização.

A. Fundamentos Teóricos

• Contração: Uma função $f$ é contrativa se $\|f(x) - f(y)\| \leq L \|x - y\|$ com $L < 1$. Isso garante que perturbações na entrada sejam atenuadas na saída.
• Plug-and-Play (PnP): O denoiser atua como um operador de regularização em algoritmos como Forward-Backward Splitting (FBS). Se o denoiser é contrativo, o algoritmo PnP é garantido para convergir.

B. Arquitetura Proposta

O modelo é construído pela composição de camadas contrativas, cada uma composta por três blocos principais:

1. Bloco Gradiente e Proximal-Ondícula (Prox-Wavelet):
   • Baseado em uma única iteração do algoritmo FBS para um problema de regularização baseado em wavelets.
   • Realiza um passo de gradiente seguido por um limiar suave (soft-thresholding) apenas nos coeficientes de alta frequência da transformada wavelet.
   • É matematicamente provado que este bloco é contrativo sob certas condições de passo ($\alpha$) e limiares ($\Lambda$).
2. Camada de Convolução Escalada:
   • Utiliza convoluções convencionais, mas com um mecanismo de normalização exata no domínio da frequência (usando FFT).
   • O kernel de convolução é normalizado pelo seu maior valor singular (norma espectral) para garantir que a camada seja não-expansiva ($L \leq 1$).
   • Um fator de escala adicional é aplicado para garantir que a camada inteira seja estritamente contrativa.
3. Composição da Rede:
   • A rede final é uma composição de $M$ camadas contrativas. Pelo lema da composição de funções Lipschitz, a rede inteira herda a propriedade de contração.
   • A profundidade padrão é $M=30$, utilizando transformadas wavelet ortogonais (Haar, dB4, Sym4) ciclicamente.

C. Implementação

• Os parâmetros (passo $\alpha$, limiares $\Lambda$ e kernels de convolução) são aprendidos via backpropagation, mas com restrições estritas aplicadas após cada atualização de gradiente (ex: clipping de $\alpha$ para $(0,1)$, normalização espectral exata dos kernels).
• O treinamento utiliza patches de imagens BSD500 com aumento de dados.

3. Contribuições Principais

1. Arquitetura Contrativa Provável: Primeira demonstração de um denoiser de imagem que é estritamente contrativo (globalmente $L < 1$) e competitivo com modelos SOTA não restritos.
2. Robustez Certificada: O modelo garante que perturbações de entrada de magnitude $\epsilon$ resultem em alterações de saída de no máximo $\epsilon$. Isso foi validado empiricamente contra perturbações como compressão JPEG e subamostragem de cor, onde modelos como Restormer e DnCNN falharam.
3. Convergência em PnP: Ao ser utilizado como prior em algoritmos Plug-and-Play, o denoiser garante a convergência do processo iterativo, ao contrário de denoisers não restritos que podem divergir.
4. Quebra do Trade-off: Demonstra empiricamente que é possível obter alta qualidade de restauração (PSNR/SSIM) mantendo garantias de estabilidade estritas, desafiando a suposição de que restrições de Lipschitz degradam a performance.

4. Resultados Experimentais

Os experimentos foram realizados em tarefas de Denoising, Deblurring (remoção de desfoque) e Super-resolução.

• Denoising (Ruído Gaussiano):

  • O modelo proposto superou todos os outros denoisers com restrição de Lipschitz (como D-FBS, D-DRS, e variantes 1-Lipschitz do DnCNN).
  • A diferença de desempenho em relação aos modelos não restritos (Restormer, DnCNN) foi mínima (geralmente < 1 dB de PSNR e < 0.06 de SSIM), enquanto os modelos não restritos eram instáveis a perturbações.
  • Visualmente, o modelo preservou texturas finas e bordas, evitando o over-smoothing (suavização excessiva) comum em modelos 1-Lipschitz anteriores.

• Restauração Iterativa (PnP-FBS):

  • Convergência: Em testes de super-resolução e deblurring, os denoisers não restritos (Restormer, DnCNN) divergiram ou produziram artefatos visuais graves quando usados no loop PnP. O modelo proposto convergiu monotonicamente.
  • Qualidade: O modelo atingiu o melhor desempenho (PSNR/SSIM) na maioria dos benchmarks (CBSD68, Kodak24, Urban100) para deblurring e super-resolução, superando tanto as bases 1-Lipschitz quanto os modelos SOTA não restritos.
  • Robustez: Sob perturbações de entrada (ex: JPEG), o modelo manteve a estabilidade, enquanto Restormer e DnCNN sofreram quedas drásticas de qualidade.

• Análise de Ablação:

  • A profundidade da rede ($M=30$) mostrou-se o ponto de saturação ideal.
  • A remoção do bloco prox-wavelet ou a fixação do passo $\alpha$ degradou significativamente a performance, validando a importância dos componentes aprendidos e adaptativos.

5. Significado e Conclusão

Este trabalho representa um avanço significativo na interseção entre aprendizado profundo e teoria de otimização para visão computacional.

• Verificabilidade: Move o campo em direção a modelos de visão "verificáveis" e estáveis, essenciais para aplicações críticas como defesa, vigilância e imagem médica.
• Viabilidade Prática: Prova que a imposição de restrições matemáticas rigorosas (contração) não é incompatível com a alta qualidade de reconstrução visual.
• Futuro: Abre caminho para o desenvolvimento de redes de restauração end-to-end que combinam garantias teóricas de estabilidade com a flexibilidade de aprendizado profundo.

O código e os modelos pré-treinados estão disponíveis publicamente, facilitando a reprodução e adoção da técnica.