🤖 machine learning

Non-negative Matrix Factorisation with Topological Regularisation

本文提出了一种新颖的非负矩阵分解框架，该框架通过引入作为稳定且无阈值拓扑正则项的持续同调，增强了所学习基底的可解释性，从而统一了对空间相干图像、周期性时间序列以及团状图信号的建模。

原作者： Matias de Jong van Lier, Shizuo Kaji, Keunsu Kim

发布于 2026-06-17

📖 1 分钟阅读☕ 轻松阅读

原作者： Matias de Jong van Lier, Shizuo Kaji, Keunsu Kim

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下你有一大堆乱七八糟的乐高积木。你的目标是弄清楚用来构建这一堆结构的所有原始、简单的形状是什么。这本质上是一个被称为**非负矩阵分解（Non-Negative Matrix Factorization, NMF）**的计算机算法所做的事情。它试图将复杂的数据（如图像、声音或图表）分解为一组基本的“构建模块”（称为基底/bases），这些基底可以混合在一起重新构建出原始数据。

问题在于，标准的 NMF 就像一个在玩乐高的孩子：它确实能找到重建结构的方法，但它发明的那些“构建模块”可能会很奇怪、破碎或者毫无意义。它可能会创造出一个既是半个轮子又是半扇门的模块，仅仅是因为在数学上符合那些数字，尽管这在现实世界中并不合理。

这篇论文介绍了一种新方法，叫做 Top-NMF（拓扑 NMF）。你可以把它想象成给计算机一套关于一个好的构建模块应该长什么样的“常识”规则，这些规则是基于数据的形状而定的。

以下是它的工作原理，使用简单的类比：

1. 问题：“阈值”是不可靠的

通常，为了检查一个形状是“连通的”（比如一块完整的粘土）还是“破碎的”（比如两块分离的小石子），你必须画一条线。“如果粘土比这条线高，它就算作一个；如果比它矮，它就不算。”

问题在于： 如果你把这条线稍微向上或向下移动一点点，一个原本连通的整体可能会突然看起来像是两个分离的部分，或者两个分离的部分看起来变成了一个。这使得计算机很难进行平滑的学习，因为规则会随着微小的调整而不断变化。

2. 解决方案：“持续同调”（“延时摄影”摄像机）

与其画一条单一的线，Top-NMF 使用了一种叫做**持续同调（Persistent Homology）**的技术。想象一下，你在拍摄一段沙堡随着潮汐上涨而逐渐被淹没的延时摄影视频。

你不仅仅是在某个特定的水位观察沙堡。你在观察整个过程。
你会看到一座塔是如何随着海水退去而“诞生”的，以及它是如何随着海水上升而“消失”的。
神奇之处在于： 如果一座塔在海水冲走它之前存在了很长时间，那么它就是一个真实的、坚固的结构。如果一个小突起出现又立刻消失，那它只是噪声。
Top-NMF 利用这种“延时摄影”视角来测量数据的“形状”，而不会被微小的、随机的波动所迷惑。它为计算机提供了一种稳定、平滑的方式来判断：“这是一个坚实的、连通的形状，”或者“这是一个环，”或者“这是一个回路。”

3. 它如何改变学习过程（“拓扑得分”）

这篇论文为计算机的学习过程增加了一条新规则。它说：“不要仅仅试图完美地重建数据；还要确保你的构建模块具有正确的形状。”

论文在三种不同类型的数据上测试了这一点：

图像（“连通团块”规则）：
- 目标： 如果你正在分解一张人脸的照片，你希望构建模块是连通的部分（比如一个完整的鼻子或一只完整的眼睛），而不是一个分裂成三个微小、不连通的点组成的鼻子。
- 结果： Top-NMF 学会了创建连通的团块作为基底，而标准方法则会创建破碎、散乱的碎片。
图（“社交小圈子”规则）：
- 目标： 想象一个代表友谊关系的图。你想找到那些彼此都是朋友的人群（一个“团伙/clique”）。
- 结果： Top-NMF 学会了寻找这些紧密、稠密的群体。标准方法可能会把不同群体的人混在一起。Top-NMF 就像一个侦探，会说：“这些人组成了一个完美的社交圈；让我们把他们保留在一起。”
时间序列（“节奏”规则）：
- 目标： 如果你正在分析心跳或一首歌，你想要将稳定的“节拍”（节奏）从“趋势”（歌曲变大或变小）中分离出来。
- 结果： Top-NMF 可以被告知，“为我找一个完美的圆形模块（时间中的一个环，意味着它是重复的）。”它成功地将重复的节奏从非重复的趋势中分离了出来，而标准方法会将它们混淆。

4. 权衡

论文指出，这里需要一种平衡。

标准 NMF 就像一个完美主义者，只关心最终的图像看起来是否完全正确，即使用来制作图像的碎片很奇怪。
Top-NMF 就像一位老师，他会说：“图像可以几乎完美，但你使用的碎片必须是逻辑合理的且形状良好的。”
有时，“逻辑合理”的碎片在重建图像时可能不会像“奇怪”的碎片那样近乎完美，但其结果对于人类来说更容易理解。

总结

简而言之，这篇论文教会了计算机不仅要将数据看作是一串数字，还要将其看作是形状。通过使用这种数学上的“延时摄影”摄像机（持续同调），计算机学会了偏好那些在特定数据类型下具有连通性、环形或聚类特征的构建模块。这使得结果更具可解释性，也对人类更有用。

技术摘要：具有拓扑正则化的非负矩阵分解 (Top-NMF)

问题陈述

非负矩阵分解 (NMF) 是一种将加性非负数据分解为具有可解释性的部分基表示的标准技术。然而，标准的 NMF 虽然能实现较低的重构误差，但其生成的基向量往往缺乏结构连贯性。一个稀疏基可能会被破碎成不连贯的组件，而一个平滑的基可能会模糊语义截然不同的区域。现有的正则化方法（例如稀疏性、平滑性或图正则化系数）无法直接控制基支撑集的全局拓扑结构。此外，通过阈值化支撑集来强制执行拓扑结构的尝试往往受限于不连续性和对阈值的依赖，使其不适用于连续优化。

核心问题在于：如何学习那些不仅具有重构能力，而且还具备特定领域适用拓扑属性（例如图像中的连通性、时间序列中的周期性或图中的团状结构）的 NMF 基函数，并使其与基于梯度的优化相兼容。

方法论

函数视角与拓扑正则化

作者提出了 Top-NMF，这是一个将基向量不仅视为矩阵行，而是视为定义在结构化域 $\Omega$ （例如图像网格、图或时间序列）上的非负函数 $v: \Omega \to \mathbb{R}_{\geq 0}$ 的框架。其目标函数在标准重构损失的基础上增加了拓扑惩罚项：
$\min_{W, V \geq 0} L_{\text{recon}}(X, WV) + \lambda_{\text{top}} L_{\text{top}}(V)$
其中 $L_{\text{top}}(V) = \sum Q(v_j)$ 是由基函数导出的标量拓扑评分之和。

持久同调作为连续量化工具

为了克服依赖阈值的拓扑不稳定性，该方法采用了持久同调 (Persistent Homology, PH)。不同于分析单一的阈值化支撑集，Top-NMF 为每个基函数构建超水平集过滤（superlevel-set filtration）或针对时间序列的派生过滤。PH 追踪跨越所有阈值的拓扑特征（连通分量、孔洞）的诞生与消亡，从而提供了一个稳定且无阈值依赖的总结。

拓扑评分 $Q(v)$ 是从持久图（persistence diagram）导出的标量泛函。论文利用总平方持久性（以及其加权变体）作为拓扑属性的可微代理。最小化该评分可以促进特定的结构先验：

连通性（图像/一维信号）： 通过惩罚有限的 0 维持久性条（代表在较低阈值下合并的不连贯组件），鼓励产生单一且连贯的支撑集。
周期性（时间序列）： 通过使用滑动窗口嵌入和 Vietoris–Rips 过滤，该方法针对 1 维持久性（孔洞）进行建模，以识别循环结构。基于目标的惩罚项 $(Per(v) - a)^2$ 允许用户指定理想的周期性水平。
类团结构（图）： 对于边权重图，引入了一种全新的促团正则项 ( $CP_\alpha$ )。该评分源自图过滤的持久性，可以通过最大生成树进行闭式表达。它奖励顶点组的延迟合并（高 0 维持久性）和早期循环形成（高 1 维持久性），从而有效地促进稠密的类团子图。

优化

所得的优化问题是非光滑且非凸的。作者将其置于驯巧几何（tame geometry，即 o-minimal 结构）的框架内进行处理。他们采用了投影次梯度法（实验中使用 AdamW），其中拓扑项的次梯度是通过持久图或显式的生成树公式通过链式法则计算得出的。理论保证（命题 6 和定理 7）在标准假设下确立了迭代过程的累积点为 Clarke 驻点。

核心贡献

函数化表述： 论文从函数视角的角度对结构化域上的 NMF 进行建模，为定义图像、时间序列和图的拓扑先验提供了一套统一语言。
可微拓扑量化器： 它展示了持久同调如何将离散的可解释性准则转化为可优化的正则项，避免了传统支撑集分析对阈值的依赖。
领域特定实例化：
- 开发了用于图像和信号基的连通性与无孔洞惩罚。
- 利用滑动窗口嵌入开发了针对时间序列基的周期性评分。
- 提出了针对图信号的促团正则项 ( $CP_\alpha$ )，这被视为一种新型的基于持久同调的边权重图描述符，具有独立于 NMF 的实用价值。
实证验证： 该框架在合成和真实世界数据集上进行了评估，结果表明 Top-NMF 能恢复结构连贯的基（例如单峰值、连通条和类团子图），而标准 NMF 则难以分离这些特征，且其重构误差保持在竞争水平。

实验结果

作者在四个领域评估了 Top-NMF：

一维信号： 在从混合物中恢复单峰高斯峰值时，尽管重构 RMSE 略有增加，但 Top-NMF 通过惩罚次级局部极大值，实现了显著更高的原子恢复得分（0.997 对比标准 NMF 的 0.772）。
图像： 在合成条形原子和韩文字符上，Top-NF 成功恢复了单一连通分量（Betti 数 $\beta_0 = 1.0$ ），而标准 NMF 则产生了破碎的基（ $\beta_0 > 1.6$ ）。
图：在合成类团混合物和真实的 SocioPatterns 高中接触数据上，Top-NMF 成功分离了类团组件。在真实场景中，与标准 NMF 和网络正则化基线相比，Top-NMF 基具有更高的类内边质量（0.995 对比 0.966）。
时间序列： 在分离周期性信号与趋势方面，Top-NMF 成功分离了不同的周期性成分（余弦波、三角波）和趋势，而标准 NMF 会将这些特征混淆。应用于 MIT-BIH 心电图（ECG）数据时，该方法生成了具有节奏感的基和残差成分；仅使用周期性基进行重构时，在检测提前收缩心室期（PVC）异常方面取得了极高的 AUROC（0.955），远优于标准 NMF（0.105）。

重要性与主张

论文声称 Top-NMF 提供了一个模块化框架，可以将领域特定的结构先验直接编码进矩阵分解的目标函数中。其主要意义在于将持久同调的角色从事后特征提取器转变为学习过程中的核心可优化组件。

作者强调，该方法并不保证全局最优性，也不解决 NMF 的一般可辨识性问题；相反，它是在一组具有歧义性的分解解集中，根据施加的拓扑先验选择出结构上更优的解。这项工作表明，持久同调可以作为一种形式化的建模语言，用于定义期望的结构特征，从而实现既具重构能力又具拓扑可解释性的基学习。

论文也承认了局限性，包括计算持久同调的计算开销（尽管通过高效的生成树公式得到了缓解）以及对用户指定领域构造（如过滤类型、嵌入维度）的依赖。它将 Top-NMF 定位为研究人员向无监督学习注入关于“良好”基结构领域知识的工具，而非一种自动发现程序。