⚡ electrical engineering

GroupCDL: Interpretable Denoising and Compressed Sensing MRI via Learned Group-Sparsity and Circulant Attention

本文介绍了 GroupCDL，这是一个可解释的深度学习框架，它通过展开具有学习型组稀疏性和循环稀疏注意力的字典学习算法，在自然图像去噪和压缩感知 MRI 重建方面均实现了最先进且稳健的性能。

原作者： Nikola Janjusevic, Amirhossein Khalilian-Gourtani, Adeen Flinker, Li Feng, Yao Wang

发布于 2026-02-06

📖 1 分钟阅读☕ 轻松阅读

原作者： Nikola Janjusevic, Amirhossein Khalilian-Gourtani, Adeen Flinker, Li Feng, Yao Wang

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象你有一张非常陈旧、布满灰尘且有划痕的照片。你的目标是将其修复，以便能再次清晰地看到细节。这就是“图像去噪”（image denoising）的过程：将一张杂乱的图片变得干净。

长期以来，计算机在这方面表现出色，但它们更像是“黑盒”。你输入一张脏照片，一个神奇的盒子就会吐出一张干净的照片。你得到了一个很棒的结果，但没人知道盒子内部究竟是如何运作的，或者它是如何决定保留什么、丢弃什么的。这就像一位厨师做出了完美的炖菜，却拒绝告诉你食谱。

这篇论文介绍了一种名为 GroupCDL 的新方法。你可以把它想象成一位不仅能做出完美炖菜，还能写下精确食谱并解释每一步骤的厨师。他们是如何实现的呢？这里使用了一些简单的类比：

1. “组”（Group）的概念：寻找相似物

想象你正在尝试修复一张撕裂的地图。如果你观察地图左侧的一块海洋区域，你可能会在右侧发现另一块看起来完全相同的区域（两者都是具有相似波纹的蓝色海水）。

旧方法： 大多数计算机程序一次只处理图像中一个微小的方块。它们试图修复这个方块，而并不真正关心整幅图像。这就像是在试图修复一块拼图碎片，却不看包装盒上的完整图像。
GroupCDL 的方法： 这种新方法足够聪明，它会说：“嘿，这块天空看起来和那边那块天空一模一样！”它将这些看起来相似的块组合在一起。如果其中一个块有噪声（模糊），它会参考它的“孪生兄弟”来确定它应该是什么样子的。这被称为非局部自相似性（Nonlocal Self-Similarity）。

2. “组阈值”滤波器：智能筛子

一旦计算机找到了这些相似块的组，它就需要决定保留什么以及丢弃什么。

旧滤波器： 想象一个只是在不停摇晃的筛子。如果颗粒太小，它就会掉下去；如果颗粒很大，它就会留下。这是一个简单的“开/关”开关。
新滤波器（学习型组阈值化）： 新方法使用了一个“智能筛子”。它同时观察整组相似的块。如果组内的大多数成员都认为某个细节很重要，筛子就会保留它。如果组内一致认为那是噪声，筛子就会把它丢弃。这就像是一个专家委员会在对哪些东西属于图像进行投票。这使得清洗过程更加准确。

3. “循环稀疏注意力”：高效的图书管理员

这里是最棘手的部分。如果你有一张巨大的照片（比如高分辨率的 MRI 扫描图），在整个图像中寻找每一个匹配的块将会耗费极长时间。这就像是通过逐一检查图书馆里每一排书架上的每一本书，来寻找一本特定的书。

问题： 传统方法试图检查所有内容，这既慢又占用大量内存。
解决方案（循环稀疏注意力）： 作者发明了一个聪明的捷径。想象一下，图书馆是按圆形排列的。与其检查每一本书，不如让图书管理员只检查相邻区域（一个小窗口）的书籍，但这种方式会在房间边缘处实现环绕衔接。
- 他们称之为 循环稀疏注意力（Circulant-Sparse Attention）。
- 这就像是观察一个街区而不是整个城市，但做得非常高效，让你感觉仿佛看到了整个城市。它允许计算机处理巨大的图像（如医学扫描图）而不会崩溃或需要数小时的处理时间。

4. 为什么这很重要：“透明”机器

这篇论文最大的胜利不仅仅在于图像效果很好（确实很好，达到了顶尖“黑盒”方法的水平），而是在于透明度。

因为作者通过“展开”（unrolling）一种已知的清洗算法构建了这个系统，所以我们完全知道计算机的每个部分在做什么。

不再是黑盒： 我们知道它为什么要去除噪声。
鲁棒性： 如果计算机是在“中等”噪声上训练的，但随后需要处理“极高”噪声的图片，它不会陷入混乱。因为它理解底层的数学原理而非仅仅是记忆模式，所以它能很好地适应。

5. 医学应用：MRI 扫描

论文还展示了这在 MRI 扫描（压缩感知 MRI） 中的应用。

类比： 想象你在拍摄一辆行驶中的汽车，但你的相机坏了，只能拍下 1/4 的画面。你必须猜测剩下的部分。
结果： GroupCDL 非常擅长通过利用这些“组”规则来准确地填补空白，从而推测出 MRI 扫描中缺失的部分。它生成的医学图像比目前的顶尖方法更清晰，并且由于其透明性，医生可以更加信任这个过程。

总结

简而言之，作者构建了一个新的图像清洗器，它能够：

将图像中相似的部分分组，让它们互相帮助。
使用智能投票系统（组阈值化）来去除噪声。
使用超快速的循环搜索方法（CircAtt）来处理巨大图像而不减速。
是完全可解释的，这意味着我们确切知道它是如何工作的，不像当今使用的那些“神奇黑盒”。

这就像是从一个魔术表演升级到了一场图像清洗的大师课。

技术摘要：GroupCDL：通过学习型组稀疏性与循环注意力实现的具有可解释性的去噪与压缩感知 MRI

问题陈述
非局部自相似性（NLSS）是图像恢复中一种强大的先验，然而利用 NLSS 的最先进深度学习方法通常被构建为“黑盒”架构。这些模型往往缺乏可解释性，使得分析和改进变得困难。此外，目前的实现方式通常依赖于独立处理重叠图像窗口（即基于补丁的密集注意力，PbDA），这忽略了重叠区域之间的依赖关系，并造成了计算冗余。虽然之前的可解释网络（例如 CDLNet）实现了对噪声水平失配的鲁棒性，但它们利用的是局部 $\ell_1$ 稀疏先验，未能弥合与黑盒非局部模型之间的性能差距。此外，现有的非局部可解释方法在处理大规模逆问题（如压缩感知 MRI，CS-MRI）时，难以达到竞争性的性能或有效处理全局伪影。

方法论
作者提出了 GroupCDL，这是一种通过展开具有组稀疏先验的卷积字典学习算法而得到的具有可解释性的卷积神经网络。该架构通过两个主要创新解决了先前方法的局限性：

学习型组阈值化 (Learned Group-Thresholding, GT)：
不同于基于 $\ell_1$ 去噪（如 CDLNet）中标准的逐元素软阈值处理，GroupCDL 采用了学习型组阈值化算子。该算子通过对潜在表示进行空间变化的软阈值处理来编码 NLSS 先验。阈值处理由衡量潜在像素间接近程度的邻接矩阵 $\Gamma$ 决定。与 $\Gamma$ 为预计算且二值的经典组稀疏不同，GroupCDL 通过学习型像素级变换（ $W_\theta, W_\phi$ ）端到端地学习“软”相似性矩阵 $\Gamma$ 。这些变换在局部窗口内计算相似性，随后进行行向 Softmax 归一化。
循环稀疏注意力 (Circulant-Sparse Attention, CircAtt)：
为了在保持卷积稀疏编码的平移等变性的同时，实现对大图像的高效训练与推理，作者引入了 CircAtt。
- 机制： CircAtt 仅在大小为 $W \times W$ 且具有循环边界条件的滑动窗口内计算相似性。这导致产生一个具有块循环矩阵（BCCB）稀疏模式的邻接矩阵。
- 效率： 通过将计算限制在局部窗口内并利用 BCCB 结构，该方法避免了密集注意力带来的二次方内存和计算复杂度（ $O(Q^2M)$ ）。相反，它实现了相对于像素数量的线性复杂度（ $O(QW^2M)$ ），其中 $Q$ 是潜在像素数， $M$ 是通道数。
- 全局伪影： 不同于独立处理窗口并对重叠部分取平均值的补丁式方法（这可能导致边界伪影），CircAtt 在单次前向传播中对整个图像进行联合处理，从而能够有效恢复如 CS-MRI 中的混叠伪影等全局退化。

该网络被公式化为针对基底追求去噪（BPDN）问题的展开近端梯度法（PGM）。对于 CS-MRI，该架构通过在每个展开层中结合观测算子 $H = MFR$（带有线圈灵敏度的掩模傅里叶变换）及其伴随算子以及 Gram 算子 $H^H H$ 进行了扩展。

核心贡献

新型非局部操作： 引入了循环稀疏注意力（CircAtt），它通过保持平移等变性并实现大图像的联合处理，解决了常见基于补丁的密集注意力（PbDA）在建模和计算上的缺陷。
学习型组阈值化： 一种可微的组阈值化操作，通过降低潜在空间的通道维度来编码组稀疏先验，实现了具有竞争力的推理速度。
可解释的性能： 构建了一个可解释的非局部 CNN，其在去噪和 CS-MRI 重建方面的性能可与最先进的黑盒模型（包括 Transformer 和非局部 DNN）相媲美，且无需依赖批归一化或残差学习等常见的深度学习技巧。
鲁棒性： 该方法展示了对训练与推理之间噪声水平失配的新颖鲁棒性，这一特性继承自其底层的 BPDN 公式化形式。
开源： 作者提供了使用 Julia 语言实现的开源代码。

实验结果
实验结果表明，GroupCDL 在自然图像去噪方面达到了与黑盒非局部 DNN 和 Transformer 相当的竞争性能。在 CS-MRI 领域，该方法取得了最先进的性能，优于现有方法。研究强调，其可解释性的构建使得该方法可以直观地扩展到逆问题，而无需使用适配黑盒方法时常用的“技巧”。此外，使用 CircAtt 能够有效恢复（如混叠）等全局伪影，而这些伪影是补丁式方法难以处理的。

意义
本文声称，GroupCDL 是首个成功弥合了非局部黑盒方法性能差距的可解释网络。通过直接从组稀疏卷积字典学习公式推导网络，作者证明了高性能并不需要以牺牲可解释性为代价。所提出的架构为逆问题提供了一个原则性的替代方案，其不仅提供了参数和数据集效率，还具备新颖的泛化能力（特别是针对噪声水平失配），并为图像去噪和 CS-MRI 重建提供了一个统一的框架。这项工作挑战了实现非局部自相似性收益必须依赖黑盒构建的必要性，表明结构化、可解释的设计可以匹配甚至超越黑盒设计，同时提供更优的鲁棒性和处理全局图像退化的效率。

1. “组”（Group）的概念：寻找相似物

2. “组阈值”滤波器：智能筛子

3. “循环稀疏注意力”：高效的图书管理员

4. 为什么这很重要：“透明”机器

5. 医学应用：MRI 扫描

总结

类似论文