Beyond Model Design: Data-Centric Training and Self-Ensemble for Gaussian Color Image Denoising

Resumen Técnico: Más allá del Diseño del Modelo

1. Problema Abordado

El artículo se centra en la tarea de eliminación de ruido en imágenes de color gaussianas a un nivel de ruido fijo ($\sigma = 50$), un desafío específico de la competencia NTIRE 2026 Image Denoising.
El problema fundamental que aborda el trabajo no es la falta de arquitecturas potentes, sino cómo maximizar el rendimiento de una arquitectura madura y ya establecida (Restormer) sin modificar su diseño estructural. Los autores cuestionan si el límite de rendimiento actual se debe a limitaciones arquitectónicas o a la insuficiencia de los datos de entrenamiento y las estrategias de inferencia.

2. Metodología

En lugar de proponer una nueva arquitectura de red neuronal, los autores adoptan un enfoque centrado en los datos y de optimización de la inferencia, utilizando Restormer como columna vertebral (backbone) sin alteraciones arquitectónicas. La metodología se divide en dos pilares principales:

• Entrenamiento Centrado en Datos (Data-Centric Training):

  • Expansión del Corpus: Se supera la receta estándar de entrenamiento (que suele usar DIV2K, Flickr2K, BSD500 y WED) incorporando un corpus masivo y diverso de 7 fuentes públicas de imágenes de alta resolución: DIV2K, Flickr2K, OST, LSDIR, LIU4K-v2, NKUSR8K (del proyecto DiT4SR) y DIV8K.
  • Estrategia de Dos Etapas: El entrenamiento se organiza en dos fases sucesivas para lograr una convergencia más estable y priorizar la diversidad visual:
    1. Etapa I: Se entrena sobre un corpus base expandido (DIV2K, Flickr2K, OST, LSDIR) para establecer un prior de restauración fuerte y estable.
    2. Etapa II: Se introduce un corpus adicional con mayor diversidad visual (LIU4K-v2, NKUSR8K, DIV8K) para fomentar una generalización más amplia.
  • Se parte de un modelo pre-entrenado público de Restormer ($\sigma=50$) en lugar de inicialización aleatoria.

• Mejora en Tiempo de Inferencia (Test-Time Enhancement):

  • Auto-Ensamble Geométrico ($\times8$): Se aplica una estrategia de inferencia que promedia las predicciones de la imagen original y sus 7 transformaciones geométricas (reflejos y transposiciones del grupo diédrico). Esto reduce la varianza de la predicción sin reentrenar el modelo.
  • Wrapper de Inferencia Local (TLC): Se mantiene un envoltorio de inferencia local estilo TLC (Global Information Aggregation) para consistencia de implementación, aunque el estudio demuestra que su contribución cuantitativa es insignificante en este escenario específico.

3. Contribuciones Clave

1. Mejora sin Rediseño Arquitectónico: Demuestran que un denoiser basado en Restormer puede mejorar sustancialmente su rendimiento (hasta +3.366 dB PSNR) únicamente mediante la expansión del corpus de entrenamiento y un horario de optimización de dos etapas, sin tocar la arquitectura.
2. Cuantificación Sistemática del Auto-Ensamble: Proporcionan una medición precisa de la ganancia obtenida por el auto-ensamble geométrico ($\times8$) en comparación con el wrapper TLC, aislando qué componente realmente impulsa el rendimiento.
3. Validación Externa: Sus resultados en el desafío NTIRE 2026 (2.º lugar) validan la efectividad de su receta de entrenamiento bajo condiciones competitivas.

4. Resultados

En el conjunto de validación unificado de 100 imágenes:

• Rendimiento Final: El modelo propuesto alcanzó 30.762 dB de PSNR y 0.861 de SSIM.
• Mejora sobre el Baseline: Superó al modelo Restormer pre-entrenado público ($\sigma=50$) en 3.366 dB de PSNR.
• Análisis de Ablación:
  • La mayor parte de la mejora proviene del checkpoint más fuerte obtenido mediante el corpus expandido y las dos etapas de entrenamiento.
  • El auto-ensamble ($\times8$) aporta una ganancia pequeña pero consistente (~0.027 dB PSNR).
  • El wrapper TLC mostró una contribución cuantitativa negligible en este contexto de eliminación de ruido gaussiano.
• Costo Computacional: El auto-ensamble aumenta el tiempo de inferencia aproximadamente 8 veces (de ~1053 ms a ~8815 ms) y el uso de memoria pico, lo que representa una compensación clásica entre precisión y eficiencia.

5. Significado e Impacto

Este trabajo es significativo porque cambia el paradigma de búsqueda de mejoras en la imagen de restauración:

• Prioridad de los Datos: Sugiere que, una vez que se tiene una arquitectura madura como Restormer, el cuello de botella no es el diseño de la red, sino la calidad, diversidad y cantidad de los datos de entrenamiento.
• Eficiencia en la Investigación: Demuestra que es posible alcanzar resultados de vanguardia (SOTA) mediante la ingeniería de datos y estrategias de inferencia robustas, evitando el costo computacional y de tiempo de diseñar nuevas arquitecturas desde cero.
• Transparencia Metodológica: Al realizar un análisis de ablación riguroso, el paper aclara qué técnicas son esenciales (entrenamiento con datos diversos) y cuáles son meramente residuales en ciertos contextos (wrappers de inferencia local), ofreciendo una guía más clara para futuras investigaciones en denoising.

En conclusión, la solución "wedream" para NTIRE 2026 demuestra que la optimización centrada en los datos y la agregación de predicciones en tiempo de prueba son herramientas poderosas para empujar los límites del rendimiento en tareas de visión por computadora, incluso utilizando arquitecturas existentes.