GroupCDL: Interpretable Denoising and Compressed Sensing MRI via Learned Group-Sparsity and Circulant Attention

Resumen Técnico: GroupCDL: Denosing Interpretable y Computación Compresiva de MRI mediante Sparsity de Grupo Aprendida y Atención Circulante

Planteamiento del Problema
La autosimilitud no local (NLSS) es un prior potente para la restauración de imágenes, sin embargo, los métodos de aprendizaje profundo de vanguardia que utilizan NLSS suelen estar construidos como arquitecturas de "caja negra". Estos modelos a menudo carecen de interpretabilidad, lo que dificulta su análisis y mejora. Además, las implementaciones actuales dependen frecuentemente del procesamiento de ventanas de imagen superpuestas de forma independiente (Atención Densa basada en Parches, o PbDA), lo que descuida las dependencias entre regiones superpuestas e incurre en redundancia computacional. Si bien redes interpretables previas (por ejemplo, CDLNet) lograron robustez ante desajustes en los niveles de ruido, utilizaban priors de dispersión $\ell_1$ locales y no lograron cerrar la brecha de rendimiento con los modelos de caja negra no locales. Adicionalmente, los enfoques no locales interpretables existentes han tenido dificultades para lograr un rendimiento competitivo o para manejar artefactos globales en problemas inversos a gran escala como la Resonancia Magnética de Computación Compresiva (CS-MRI).

Metodología
Los autores proponen GroupCDL, una red neuronal convolucional interpretable derivada del desenrollado de un algoritmo de aprendizaje de diccionario convolucional con un prior de dispersión de grupo (group-sparsity). La arquitectura aborda las limitaciones de métodos anteriores a través de dos innovaciones primarias:

1. Umbralización de Grupo Aprendida (GT):
   En lugar de la umbralización suave (soft-thresholding) elemento a elemento estándar utilizada en el denoising basado en $\ell_1$ (como CDLNet), GroupCDL emplea un operador de umbralización de grupo aprendido. Este operador codifica el prior de NLSS realizando una umbralización suave espacialmente variante sobre la representación latente. La umbralización está dictada por una matriz de adyacencia $\Gamma$ que mide la cercanía entre píxeles latentes. A diferencia de la dispersión de grupo clásica donde $\Gamma$ es precomputada y binaria, GroupCDL aprende una matriz de similitud "suave" $\Gamma$ de extremo a extremo. Esto se logra mediante transformaciones de píxel aprendidas ($W_\theta, W_\phi$) que computan similitudes dentro de ventanas locales, seguidas de una normalización softmax por fila.

2. Atención de Dispersión Circulante (CircAtt):
   Para permitir el entrenamiento e inferencia eficientes en imágenes grandes manteniendo la equivariancia de traslación de la codificación de diccionario convolucional, los autores introducen CircAtt.

   • Mecanismo: CircAtt computa similitudes únicamente dentro de una ventana deslizante de tamaño $W \times W$ con condiciones de contorno circulares. Esto resulta en una matriz de adyacencia con un patrón de dispersión de Bloque-Circulante con Bloques Circulantes (BCCB).
   • Eficiencia: Al restringir los cálculos a ventanas locales y utilizar la estructura BCCB, el método evita la complejidad de memoria y computacional cuadrática ($O(Q^2M)$) de la atención densa. En su lugar, logra una complejidad lineal relativa al número de píxeles ($O(QW^2M)$), donde $Q$ es el número de píxeles latentes y $M$ es el recuento de canales.
   • Artefactos Globales: A diferencia de los métodos basados en parches que procesan las ventanas de forma independiente y promedian las superposiciones (lo que puede causar artefactos de borde), CircAtt procesa toda la imagen conjuntamente en una sola pasada hacia adelante, permitiendo la restauración efectiva de degradaciones globales como los artefactos de aliasing en CS-MRI.

La red se formula como un Método de Gradiente Próximo (PGM) desenrollado para el problema de Búsqueda de Base de Eliminación de Ruido (BPDN). Para CS-MRI, la arquitectura se extiende incorporando el operador de observación $H = MFR$ (transformada de Fourier enmascarada con sensibilidades de bobina) y su adjunto, junto con un operador de Gram $H^H H$, dentro de cada capa desenrollada.

Contribuciones Clave

• Operación No Local Novedosa: La introducción de la Atención de Dispersión Circulante (CircAtt), que aborda las deficiencias de modelado y computacionales de la común Atención Densa basada en Parches (PbDA) al mantener la equivariancia de traslación y permitir el procesamiento conjunto de imágenes grandes.
• Umbralización de Grupo Aprendida: Una operación de umbralización de grupo diferenciable que codifica el prior de dispersión de grupo utilizando una dimensión de canal reducida para el espacio latente, logrando velocidades de inferencia competitivas.
• Rendimiento Interpretable: La construcción de una CNN no local interpretable que alcanza un rendimiento de denoising y reconstrucción de CS-MRI comparable al de modelos de caja negra de vanguardia (incluyendo Transformers y DNNs no locales) sin depender de los "trucos" comunes de aprendizaje profundo como la normalización por lotes (batch normalization) o el aprendizaje residual.
• Robustez: El método demuestra una robustez novedosa ante desajustes de nivel de ruido entre el entrenamiento y la inferencia, una propiedad heredada de la formulación subyacente de BPDN.
• Código Abierto: Los autores proporcionan una implementación de código abierto en el lenguaje de programación Julia.

Resultos
Los resultados experimentales indican que GroupCDL logra un rendimiento competitivo en el denoising de imágenes naturales comparado con DNNs no locales de caja negra y transformers. En el dominio de CS-MRI, el método ofrece un rendimiento de vanguardia, superando a los métodos existentes. El estudio destaca que la construcción interpretable permite la extensión directa a problemas inversos sin los "trucos" que suelen requerirse para adaptar los métodos de caja negra. Además, el uso de CircAtt permite la restauración efectiva de artefactos globales (por ejemplo, aliasing) que son difíciles de manejar con enfoques basados en parches.

Significancia
El artículo afirma que GroupCDL representa la primera instancia de una red interpretable que logra cerrar con éxito la brecha de rendimiento con los métodos de caja negra no locales de vanguardia para el denoising de imágenes. Al derivar la red directamente de una formulación de aprendizaje de diccionario convolucional de dispersión de grupo, los autores demuestran que el alto rendimiento no requiere sacrificar la interpretabilidad. La arquitectura propuesta ofrece una alternativa fundamentada a los diseños de caja negra, proporcionando eficiencia en parámetros y conjuntos de datos, nuevas capacidades de generalización (específicamente respecto a desajustes de nivel de ruido) y un marco unificado tanto para el denoising de imágenes como para la reconstrucción de CS-MRI. El trabajo desafía la necesidad de construcciones de caja negra para alcanzar los beneficios de la autosimilitud no local, mostrando que los diseños estructurados e interpretables pueden igualar o incluso superar a estos, ofreciendo una mayor robustez y eficiencia en el manejo de degradaciones de imagen globales.