Provably Contractive and High-Quality Denoisers for Convergent Restoration

1. El Problema

La restauración de imágenes (recuperar imágenes limpias a partir de mediciones degradadas) es fundamental en campos como la vigilancia, la defensa y la imagen médica. Aunque las redes neuronales convolucionales y basadas en transformadores (como DnCNN, Restormer) han logrado un rendimiento de vanguardia (SOTA), presentan dos deficiencias críticas:

• Falta de Garantías de Estabilidad: Estos modelos carecen de garantías explícitas de estabilidad (Lipschitz). Pequeñas perturbaciones en la entrada (ruido, compresión JPEG, submuestreo de crominancia) pueden provocar cambios desproporcionados en la salida, generando artefactos o degradación severa.
• Inestabilidad en Algoritmos Iterativos: En métodos de restauración basados en descomposición de operadores (como Plug-and-Play o PnP), el uso de denoisadores no contractivos puede llevar a la divergencia de los algoritmos iterativos, impidiendo la convergencia teórica.

Existe una compensación (trade-off) comúnmente asumida en la literatura: imponer restricciones estrictas de Lipschitz (para garantizar estabilidad) suele degradar significativamente la calidad de la restauración.

2. Metodología Propuesta

Los autores proponen un nuevo arquitecto de denoising que es probablemente contractivo (globalmente Lipschitz con constante $L < 1$) sin sacrificar la calidad de la imagen. La metodología se basa en los siguientes pilares:

• Arquitectura Contractiva:

  • Se construye una capa única compuesta por un bloqueo de gradiente y wavelet proximal (basado en una actualización de Forward-Backward Splitting o FBS) seguido de una capa de convolución con control de Lipschitz.
  • Capa Prox-Wavelet: Utiliza una transformada wavelet ortogonal para regularizar solo los coeficientes de alta frecuencia mediante umbralización suave (soft-thresholding). Esto se formula como un operador proximal de un regularizador convexo, garantizando matemáticamente que la operación es contractiva.
  • Convolución Escalada: Se normalizan las convoluciones dividiendo el kernel por su norma espectral (calculada exactamente en el dominio de la frecuencia mediante FFT) para asegurar que la constante de Lipschitz de la convolución sea $\le 1$.
  • Composición: La red completa es una composición de estas capas contractivas. Según el lema de composición de funciones Lipschitz, la red entera hereda la propiedad contractiva.

• Entrenamiento y Optimización:

  • Se entrena de manera supervisada en parches de imágenes.
  • Se imponen restricciones estrictas durante el entrenamiento: los pasos de gradiente ($\alpha$) se mantienen en $(0, 1)$, los umbrales de wavelet son positivos (vía función softplus), y las convoluciones se normalizan exactamente en cada paso.
  • La profundidad de la red se fija en $M=30$ capas, utilizando transformadas wavelet ortogonales cíclicas (Haar, Daubechies-4, Symlet-4).

• Integración en Plug-and-Play (PnP):

  • El denoiser se utiliza como el operador de regularización dentro de algoritmos iterativos como PnP-FBS. Debido a la contractividad probada, el algoritmo de restauración está garantizado matemáticamente para converger.

3. Contribuciones Clave

1. Arquitectura Contractiva Probada: Presentan el primer método que demuestra que un denoiser con restricciones estrictas de Lipschitz ($L < 1$) puede alcanzar una precisión competitiva con los modelos no restringidos (SOTA).
2. Robustez Certificada: Demuestran teórica y empíricamente que las perturbaciones de entrada de magnitud $\epsilon$ inducen cambios de salida de al menos $\epsilon$. Esto contrasta con modelos como DnCNN o Restormer, que muestran desviaciones mayores bajo las mismas perturbaciones.
3. Convergencia en PnP: Al utilizar su denoiser en algoritmos PnP, garantizan la convergencia del proceso de restauración, algo que no se puede asegurar con denoisadores no restringidos.
4. Desmitificación de la Compensación: Desafían la suposición de que la estabilidad estricta implica baja calidad, mostrando que es posible cerrar la brecha de rendimiento con modelos no restringidos manteniendo garantías de estabilidad.

4. Resultados Experimentales

Los experimentos se realizaron en tareas de eliminación de ruido (Gaussiano), desenfoque (deblurring) y superresolución, comparando con baselines no restringidos (DnCNN, Restormer, Noise2VST) y baselines 1-Lipschitz existentes (D-FBS, D-DRS).

• Eliminación de Ruido (Denoising):

  • El modelo propuesto supera a todos los métodos 1-Lipschitz existentes (D-FBS, D-DRS) en métricas PSNR y SSIM.
  • La brecha con los modelos no restringidos (Restormer) es mínima (aprox. 0.8 - 1.5 dB en PSNR), lo cual es un logro significativo para un modelo estrictamente contractivo.
  • Robustez: Bajo perturbaciones como compresión JPEG y submuestreo de crominancia, el modelo propuesto mantiene la calidad de la imagen, mientras que Restormer y DnCNN sufren degradación notable y artefactos.

• Restauración Iterativa (PnP):

  • Convergencia: En tareas de superresolución y desenfoque, los modelos no restringidos tienden a divergir en las iteraciones de PnP, mientras que el modelo propuesto converge monótonamente.
  • Calidad: En PnP-FBS, el modelo propuesto logra los mejores resultados de PSNR/SSIM en la mayoría de los conjuntos de datos (CBSD68, Kodak24, Urban100), superando incluso a Restormer en escenarios de desenfoque severo.
  • Visual: Las reconstrucciones muestran bordes más nítidos y texturas finas preservadas, evitando el sobre-suavizado típico de los modelos 1-Lipschitz anteriores y los artefactos de los modelos no restringidos.

• Eficiencia: Aunque el tiempo de inferencia es mayor que el de DnCNN debido al cálculo exacto de la norma espectral en el dominio de la frecuencia, es competitivo con los transformadores grandes como Restormer.

5. Significado e Impacto

Este trabajo es un avance fundamental en la visión por computadora y la teoría de optimización inversa:

• Verificabilidad: Mueve el campo hacia modelos de visión verificables y estables, donde el comportamiento bajo perturbaciones no es una incógnita.
• Teoría vs. Práctica: Cierra la brecha histórica entre los métodos teóricamente seguros (pero de baja calidad) y los métodos de alta calidad (pero inestables).
• Aplicabilidad: Proporciona una herramienta robusta para aplicaciones críticas (médicas, de defensa) donde la fiabilidad ante ruido o perturbaciones no ideales es tan importante como la precisión de la imagen.

En resumen, los autores han demostrado que es posible diseñar redes neuronales profundas que sean matemáticamente estables y, al mismo tiempo, visualmente superiores, estableciendo un nuevo estándar para la restauración de imágenes robusta y convergente.