🤖 machine learning

RAMP: Recognition parametrisation by Amortised Message Passing

本文介绍了 RAMP，这是一种新颖的无监督学习方法，它利用一种灵活、非线性且摊销化的消息传递框架，在处理复杂高维数据的表达性模型时，能够高效地恢复隐变量分布，从而克服了传统概率方法的扩展性和可处理性限制。

原作者： Lior Fox, Kai Biegun, James Heald, Samo Hromadka, Arielle Rosinski, Maneesh Sahani

发布于 2026-07-22

📖 1 分钟阅读☕ 轻松阅读

原作者： Lior Fox, Kai Biegun, James Heald, Samo Hromadka, Arielle Rosinski, Maneesh Sahani

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下你是一名试图破解谜团的侦探，但你手里只有一堆零散的线索：一个泥泞的脚印、一块撕裂的织物和一张模糊的照片。你的目标不仅仅是列出这些线索，而是要理清将它们联系在一起的隐藏故事。是一个巨人踩在了泥里？还是织物在挣扎中被撕裂了？在人工智能的世界里，这被称为“无监督学习”。这是教计算机去寻找那些解释现实世界事物发生原因的隐形、隐藏的原因（称为“潜在因子”）的艺术。

几十年来，科学家们一直试图构建能够实现这一目标的计算机，使用的是“概率模型”。把这些模型想象成一个巨大的、复杂的猜测网络。计算机绘制一张地图，展示不同的线索可能如何相互关联，然后尝试计算出最可能的剧情。问题在于，这些计算极其困难。如果网络变得过于纠缠，或者线索过于混乱，数学逻辑就会崩溃。计算机要么陷入循环，要么只能做一个非常粗略的猜测，从而错失现实世界的细微差别。这就像是戴着烤箱手套玩魔方；你可以接近目标，但你无法感觉到那些碎片并完美地转动它们。

这就是一种名为 RAMP 的新方法登场的地方。研究人员希望构建一个不仅仅是在猜测，而是学会如何“感知”线索之间联系的侦探。他们创建了一个系统，将现代神经网络（驱动图像识别的那种）的灵活性与概率论的严密逻辑结合在一起。RAMP 并没有强迫计算机一次性解决一个巨大的、不可能的方程，而是将问题分解成许多微小的、易于处理的步骤，在不同线索之间传递小小的“消息”，直到隐藏的故事显现出来。这是一种教机器理解世界隐藏结构的方法，无论是单摆的摆动还是人体姿态，而无需预先告知规则。

侦探的新工具箱：RAMP

该论文介绍了一种名为 RAMP（通过摊销消息传递进行识别参数化）的巧妙新方法，用于让计算机学习隐藏的模式。要理解它的工作原理，请想象一群正在处理大规模案件的侦探，但他们并不在一个大办公室里，而是分布在一个树状结构的房间网络中。

在传统的侦探故事中，如果你想知道凶手是谁，你可能会尝试同时询问所有人。但在复杂的案件中，这是不可能的。RAMP 改变了游戏规则。它建立了一个系统，其中每个侦探（代表一个隐藏变量）只与其直接相邻的邻居交谈。他们来回传递“消息”。这些消息不仅仅是笔记；它们是每位侦探目前所学到知识的总结。

这里有一个神奇的技巧：RAMP 使用神经网络（AI 的大脑部分）来编写这些消息。它不是使用僵化的、预先写好的公式来总结线索，而是让神经网络学习如何完美地总结它们。这就像是教一名侦探如何在任何情况下，都能用一句话完美地总结犯罪现场，无论现场多么混乱。这个过程被称为“摊销消息传递（amortised message passing）”。“摊销（Amortised）”是一个高级词汇，意味着计算机学会了一项通用技能（如何总结），然后针对每一个新案例反复使用这项技能，这使得它变得极其快速且高效。

研究人员在三个截然不同的场景中测试了这个想法，结果令人印象深刻。

首先，他们在**层级树（hierarchical tree）**上进行了测试，这就像是线索的家族树。他们生成的数据中，“父母”以特定方式影响“子女”。当树状结构完美时，RAMQ 找到了隐藏的原因，准确率接近 100%，达到了理论上的最优解。但更酷的地方在于：他们还测试了当树结构破碎或混乱（即“误设定的”树）时会发生什么。即使计算机得到的连接图谱是错误的，RAMP 依然表现出了惊人的鲁棒性。如果树的某个特定部分是正确的，那么该部分的侦探仍然能发现真相，即使他们的邻居感到困惑。这表明 RAMP 不仅仅是在记忆一张地图，它学习的是线索如何连接的底层逻辑。

接下来，他们用一个非线性单摆向 RAMP 发起了挑战。想象一段单摆摆动的视频。计算机只能看到单摆在每一时刻的图像，而看不到它的速度或角度。为了推断速度，计算机必须观察过去和未来。传统方法在这里经常失败，因为图像与速度之间的关系是复杂且弯曲的（非线性的）。然而，RAMP 学会了仅通过观看视频就能推断出角度和速度。它成功重建了“相空间”（系统的隐藏状态）在二维空间中的情况，其表现优于其他在寻找速度方面表现挣扎的先进方法。

最后，他们将 RAMP 应用于人体姿态估计。这项任务是仅通过观察身体的局部小块区域（比如膝盖或脖子周围的一小块区域）来确定一个人的站姿。计算机看不见完整的身体，它只看到这些微小的碎片。挑战在于，如果左脚踝被遮挡（occluded），计算机必须根据身体的其他部分来猜测脚踝的位置。RAMP 将人体视为一个由连接关节组成的树。通过在关节之间传递消息，它学会了膝盖的方向取决于臀部和脚踝。即使脚踝从画面中消失了，RAMP 也能利用这种“树”结构来推断腿部的正确姿势，有效地利用已学习到的关系来“填补空白”。

论文表明，RAMP 是寻找复杂数据中隐藏结构的强大工具。它表明，通过将神经网络的灵活性与消息传递的逻辑结构相结合，我们可以构建出能更深入理解世界的 AI。作者发现，只要核心连接还在，即使数据很混乱或模型与现实不完全匹配，RAMP 也能表现良好。虽然论文并未声称解决了 AI 的所有问题，但它提供了一条充满希望的新路径，表明机器可以通过学习如何彼此交流，从而学会成为更好的侦探。

技术摘要：RAMP – 通过摊销消息传递进行的识别参数化

1. 问题陈述

无监督学习旨在发现能够解释观测值之间依赖关系的潜在因子。概率图模型（PGMs）非常适合这项任务，能够以数学方式表示不确定性和非确定性链接。然而，在**表达能力（expressivity）与可处理性（tractability）**之间存在着根本的权衡：

可处理性： PGM 中的精确推理通常需要受限的分布选择（例如线性高斯分布），以允许精确的信念传播。
表达能力： 非线性、复杂的依赖关系往往会导致必要的积分变得难以处理。现有的近似方法（例如变分推理、蒙特卡洛方法）在模型规模扩大时往往扩展性较差，或者无法提供一个将深度学习的近似能力与概率一致性相结合的统一框架。

核心挑战在于开发一种方法，能够在处理复杂、高维数据时，学习灵活的非线性潜在结构，同时保持具有明确定义似然值的原则性概率框架。

2. 方法论：RAMP

作者提出了 RAMP（通过摊销消息传递进行的识别参数化），这是一种通过学习灵活的、非线性的、摊销的消息传递框架来隐式定义潜在结构的方法。RAMP 构建在**识别参数化模型（RPM）**范式之上，并将其应用于树状结构图模型。

2.1 核心概念

识别参数化（Recognition-Parametrisation）： RAMP 不是对生成过程 $p(x|z)$ 进行参数化，而是对将观测值映射到后验信念的识别因子 $f(z|x)$ 进行参数化。联合分布构建为：
$p(Z, X) = p(Z) \prod_p \frac{f_p(Z|x_p)}{F_p(Z)} p_{emp}(x_p)$
其中 $F_p(Z)$ 是确保模型正确定义的归一化常数。
摊销消息传递（Amortised Message Passing）： 在树状图上的标准信念传播（BP）中，消息是通过精确积分计算的。RAMP 使用学习到的、摊销的变换取代了这些积分。
- 对于潜在节点 $z_k$ 及其邻居 $z_j$ ，信念更新并非由积分定义，而是由函数 $G_{j \to k}$ 定义：
  $f^k_j(z_k | X^k_j) = G_{j \to k} \left( f^j_0(z_j) \prod_{l \in \partial j \setminus k} \frac{f^j_l(z_j | X^j_l)}{f^j_0(z_j)} \right)$
- 这使得网络可以直接学习信念的变换，从而绕过显式的生成因子或可处理的积分。

2.2 模型架构

树结构： RAMP 运行在无向树状图模型上，其中潜在变量 $Z$ 和观测变量 $X$ 构成一棵树。观测值被约束在叶节点上。
节点级 RPMs： 模型通过同时优化多个“节点级”RPM 进行训练，每个 RPM 对应于每个潜在变量 $z_k$ 。每个节点级模型都遵循由 $z_k$ 对观测值诱导的条件独立划分。
联合优化： 目标函数是所有节点级模型自由能（变分下界）的总和：
$F = \frac{1}{K} \sum_k F_k$
这种联合优化确保了摊销消息传递网络能够捕捉全局树结构和条件独立性，而不仅仅是局部子树依赖关系。
指数族参数化： 为了确保学习目标的可处理性，信念被表示为指数族成员（例如高斯分布）。消息传递通过神经网络实现为自然参数的变换（ $g_{j \to k}$ ），其中分布的乘积对应于自然参数的和。

2.3 理论保证

本文建立了一个结论：如果数据与满足特定条件独立假设（假设 1）的树状潜在模型相兼容，且摊销网络优化了联合目标，那么：

每个节点级自由能都能达到其最优值。
学习到的信念 $f^k_j$ 是观测值的充分统计量，有效地恢复了真实的潜在结构。
该方法恢复了潜在变量之间正确的条件独立结构（引理 2）。

3. 主要贡献

深度学习与 PGM 的新颖结合： RAMP 提供了一种统一的方法，其中神经网络被用于摊销消息传递算子本身，而不仅仅是近似后验或生成模型。
非线性模型中的基于似然的学习： 不同于许多依赖于松散近似变分下界的深度潜在变量模型，RAMP 即使在非线性消息传递的情况下，也维持了一个源自 RPM 框架的适当似然函数。
对误设定的鲁棒性： 该方法展示了对结构误设定的鲁棒性（即使假设的树拓扑结构略有扰动，也能学习到正确的潜在变量）以及对分布误设定的鲁棒性（处理非高斯真实后验的非线性数据生成过程）。
双向语义： 在时间序列应用中，RAMP 自然地实现了具有概率语义的双向推理（前向-后向），在恢复动力学状态方面优于标准的对比方法和结构化 VAE。

4. 实验结果

作者在三个不同的任务上评估了 RAMP：

层级线性/非线性树：
- 线性高斯： RAMP 高保真地恢复了精确解，其性能与精确推理相匹配。
- 结构误设定： 当在扰动的树结构上进行训练时，RAMP 在局部划分保持正确的节点上，仍能与地面真值（ground-truth）潜在变量保持高度相关，证明了学习信号是局部于条件独立结构的。
- 非线性数据： 在由非线性变换生成的数据上，RAMP 优于黑盒变分推理（BBVI）和监督高斯近似，成功学习了潜在变量的表示，尽管真实的后验是非高斯的。
非线性动力系统（单摆）：
- 在摆动单摆的图像上进行训练，RAMP 成功推断出了 2D 相空间（角度和角速度）在 2D 潜在空间中的表现。
- 它优于对比预测编码（CPC）和结构化 VAE（SVAE），后者在受到真实维度限制时，无法可靠地恢复角速度（一个在单帧中无法直接观测的状态变量）。
姿态估计：
- 应用于 Leeds Sports Pose (LSP) 数据集，RAMP 从局部图像块中推断身体关节配置，而无需全局位置信息。
- 推断出的潜在变量编码了连接关节的肢体方向。模型成功重建了姿态草图，并通过利用学习到的树状先验处理了遮挡的关节（例如缺失的脚踝）。

5. 意义与主张

本文声称 RAMP 代表了将自适应神经网络组件融入连贯概率框架迈出的重要一步。其意义在于：

可辨识性（Identifiability）： 通过利用树图的条件独立结构，RAMP 确保了潜在变量可以根据它们诱导的特定观测划分而被发现。
连贯性（Coherence）： 不同于内部表示缺乏概率解释的通用深度学习方法，RAMP 的推理过程直接定义了模型，确保学习到的表示具有明确定义的似然值和概率语义。
可扩展性与灵活性： 通过摊销消息传递，RAMP 能够扩展到复杂的、高维的数据和非线性依赖关系，其中精确推理是不可能的，同时避免了无结构变分近似的缺陷。

作者指出，虽然目前的工作侧重于树状结构以确保可辨识性和推理连贯性，但由于在环路图（loopy graphs）上进行信念传播的经验成功，将 RAMP 适配到环路结构是一个可行的未来研究方向。