🤖 machine learning

SE(3)-MeanFlow: Few-Step Protein Backbone Generation on Lie Groups

本文介绍了 SE(3)-MeanFlow，这是一个将 MeanFlow 扩展到李群几何（Lie group geometry）以进行蛋白质主链设计的少步生成框架，通过利用闭式训练目标和专门的 SE(3) alpha-Flow 目标函数，实现了比现有扩散或流匹配模型显著更少的采样步数以及高质量的生成。

原作者： Yikun Bai, Binghang Lu, Yikai Liu, Elaheh Akbari, Soheil Kolouri, Linxuan Wang, Ping He, Shuchan Wang, Ruqi Zhang, Guang Lin

发布于 2026-07-31

📖 1 分钟阅读☕ 轻松阅读

CC BY 4.0

原作者： Yikun Bai, Binghang Lu, Yikai Liu, Elaheh Akbari, Soheil Kolouri, Linxuan Wang, Ping He, Shuchan Wang, Ruqi Zhang, Guang Lin

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你是一位建筑师，正试图用微小的、具有柔性的乐高积木建造一种新型的生命机器。这些机器被称为蛋白质，它们是生命的劳动力，既可以作为化学工厂，也可以作为免疫系统的士兵。要从零开始构建一个新机器，你不能只是随机堆叠积木；你必须将它们排列成特定的 3D 形状，就像折叠一个复杂的纸鹤折纸一样。如果形状不对，机器就无法工作。几十年来，科学家们一直试图教会计算机设计这些折纸鹤，但问题在于：计算机必须弄清楚每个积木在 3D 空间中如何旋转和转向，这在数学上是一个非常棘手的舞蹈。

当你想让计算机运行得更快时，问题变得更加困难。目前的方法就像一部慢动作电影，计算机需要通过数百个微小的步骤来确定蛋白质的最终姿态。这种方法很精确，但如果想要同时设计数百万种新蛋白质，它就太慢了——而这正是医生和制药公司在快速对抗疾病时所需要的。这背后的数学涉及一种特殊的几何学，称为“李群”（Lie groups），这听起来很吓人，但它只是描述物体如何在不破坏 3D 空间规则的情况下进行旋转和移动的一种高级方式。你可以把它想象成在平坦的桌面上滑动玩具车（容易）与在地球表面滚动球体（更难，因为表面是弯曲的）之间的区别。

这篇论文介绍了一个被称为 SE(3)-MeanFlow 的新技巧，它充当了设计蛋白质形状的“快进”按钮。它不再是通过数百个微小且谨慎的步骤来确定蛋白质的最终姿态，而是学会了仅通过一或几次巨大的跨越，就能预测整个旅程的“平均速度”。这就像是教给 GPS 不仅仅是告诉你当前位置的速度，而是计算出整条路线的平均速度，这样你就可以直接跳到目的地。作者展示了通过这种专门针对蛋白质旋转的弯曲几何结构定制的“平均速度”方法，他们可以在仅 10 或 20 个步骤内生成高质量的蛋白质设计，而旧方法则需要 100 步或更多。他们并不只是猜测这行得通；他们在海量的真实蛋白质结构数据集上测试了该方法，发现他们的快速方法生成的蛋白质设计与那些缓慢的方法一样强大且功能完备，这证明了你不需要为了得到好的结果而走漫长的风景路线。

核心思想：从慢动作到快进

在计算机生成蛋白质设计的世界里，目标是创造自然界从未见过的全新形状。为了实现这一目标，AI 模型扮演着雕塑家的角色，从一团噪声开始，通过不断地削减，直到一个完美的蛋白质骨架显现出来。长期以来，最好的雕塑家使用一种叫做“扩散”（diffusion）或“流匹配”（flow matching）的技术。想象一下，你要通过走 500 个微小且谨慎的步伐，从家里走到公园。你必须在每一步都检查方向，以确保自己没有偏离航线。这虽然有效，但如果你需要造访一百万个公园，这就会耗费太长时间。

这篇论文的作者提出了一个简单的问题：我们能否在不迷路的前提下，迈出更大的步伐？

他们研究了一个较新的想法，叫做 MeanFlow，该想法最初是为平坦、简单的空间（如一张平整的纸）设计的。MeanFlow 的核心思想是停止询问：“我现在该往哪走？”而是开始询问：“我从 A 点到 B 点需要经过的平均速度和方向是多少？”如果你知道了全程的平均速度，你就可以通过一次巨大的跨步完成旅程，而不是走 500 个微小的步子。

然而，蛋白质并不生活在平坦的纸面上。它们生活在一个旋转极其复杂的弯曲、扭曲的表面上。如果你尝试将平面的 MeanFlow 应用于蛋白质，数学逻辑就会崩溃，因为在旋转中，两个旋转的“平均值”并不只是一个简单的平均值；它取决于你进行旋转的顺序。这正是这篇论文主要突破所在。

秘诀：李群捷径

作者意识到，蛋白质的旋转属于一个特殊的数学家族，称为李群（具体为 $SE(3)$）。他们找到了一种计算这些旋转的“平均速度”的方法，而无需进行通常会拖慢速度的繁重、缓慢的数学运算。

可以这样理解：如果你正在观察一个陀螺旋转，如果你试图逐秒测量，计算几秒钟内的平均旋转速度是很困难的。但如果你有一个特殊的公式，可以根据陀螺的起始位置和结束位置来计算“总旋转量”，你就可以完全跳过中间的过程。作者推导出了一个新的公式，这个公式充当了这种捷径。他们证明了通过在特定的数学空间（“李代数”）中进行运算，他们可以得到一个简洁的闭式解（closed-form answer）来获取平均速度。这意味着计算机不需要逐步模拟整个旅程来知道答案；它可以直接计算出平均值。

研究发现：速度与质量并存

团队将他们的新型 SE(3)-MeanFlow 模型与现有的最佳方法进行了对比。他们设置了一场挑战：使用不同的步数（从缓慢的 100 步到极速的 10 步）来生成蛋白质骨架。

以下是他们的发现：

速度提升： 他们的模型仅需 10 到 20 步 即可生成高质量的蛋白质。相比之下，旧的、更慢的方法需要 100 步 才能获得类似的结果。当作者强迫旧方法仅执行 20 步时，生成的蛋白质质量显著下降。
质量保持高水平： 即使有了如此巨大的速度提升，由 SE(3)-MeanFlow 生成的蛋白质仍然具有“可设计性”。这意味着如果你把它们打印出来并尝试构建，它们会折叠成正确的形状。事实上，在 20 步时，他们的模型成功率为 86.7%，而排名第二的竞争对手仅为 80.6%。
权衡之处： 这也带来了一点代价。由这种超快速方法生成的蛋白质多样性略低（意味着它们看起来彼此之间有些相似），而由慢速、谨慎方法生成的蛋白质则不然。然而，作者认为，为了能够以生成几千个设计所需的时间来生成数百万个设计，这是一个值得付出的微小代价。

为什么这很重要

这不仅仅是一个数学技巧，它是未来医学的一个实用工具。药物研发通常需要生成数百万个候选蛋白质结构，以寻找可能对抗病毒或癌细胞的那一个。如果计算机制作一个设计需要 100 步，那么寻找一个好的候选者可能需要几天时间。如果只需要 10 步，同样的搜索可以在几小时内完成。

作者指出，通过使用这种“平均速度”方法，我们终于可以让“高通量蛋白质设计”成为现实。他们不仅是在计算机上进行模拟，还在一个包含 3,600 多个蛋白质的真实数据集上对模型进行了训练和严格测试。虽然他们注意到该方法仍在完善中（特别是在多样性方面），但结果表明，我们正处于能够以匹配全球健康挑战紧迫性的速度来设计救命蛋白质的边缘。

简而言之，这篇论文表明，通过更好地理解旋转的几何学，我们可以停止迈着蹒跚的小步，开始向新的医学突破全速冲刺。

技术摘要：SE(3)-MeanFlow

问题陈述

蛋白质骨架的生成式建模对于具有特定结构和功能属性的蛋白质从头设计（de novo design）至关重要。虽然现有的扩散和流匹配模型（例如 FrameDiff、RFDiffusion、FoldFlow）在 $SE(3)^N$ 空间上的蛋白质框架生成方面取得了高质量的结果，但它们面临着显著的推理瓶颈。现有方法需要对常微分方程（ODE）进行数百步的数值积分（通常为 100–500 次网络函数评估，即 NFE）以确保准确性。在李群 $SE(3)$ 上，每一步都涉及评估网络并应用李群指数映射，这使得推理过程计算成本高昂，不适用于需要筛选数百万种候选结构的快速高通量药物发现流程。

虽然一致性模型（Consistency Models）或渐进式蒸馏已在欧几里得空间中探索了少步生成，但这些方法通常需要预训练的教师模型或复杂的训练课程。MeanFlow 是近期提出的一种针对欧几里得空间的方法，它通过建模流轨迹的平均速度而非瞬时速度，提供了一种无需蒸馏的自包含替代方案。然而，将 MeanFlow 直接扩展到 $SE(3)$ 的弯曲流形上是病态的，因为轨迹上不同点的速度位于不同的切空间中，这使得求平均值必须使用平行移动（parallel transport）。

方法论

作者提出了 SE(3)-MeanFlow，这是一个专门为蛋白质框架的李群几何设计的少步生成框架。该方法利用分解 $SE(3) \cong SO(3) \times \mathbb{R}^3$ ，直接在李代数 $\mathfrak{so}(3)$ 和欧几里得空间 $\mathbb{R}^3$ 中推导出无模拟训练目标，从而避免了对平行移动的需求。

核心理论贡献

基于积分的 MeanFlow 恒等式： 作者通过时间有序指数定义了区间 $[s, t]$ $[s, t]$ 上的平均速度。通过对该定义求导，他们推导出了一个闭合形式的恒等式，将平均速度、轨迹导数与瞬时速度联系起来。
- 对于旋转，该恒等式涉及 $SO(3)$ 的右雅可比（right Jacobian） $J$ ，这考虑了群的非交换性质。
- 由此产生的训练目标允许模型仅使用瞬时速度作为监督来学习平均速度 $u(s, t, x_t)$ ，而无需在训练期间进行完整的轨迹积分。
闭合形式目标： 不同于依赖平行移动的一般黎曼 MeanFlow 方法，SE(3)-MeanFlow 在 $\mathfrak{so}(3)$ 和 $\mathbb{R}^3$ 中推导出了闭合形式的平均速度恒等式。这消除了与平行移动相关的计算开销和数值不稳定性。

实际训练框架

为了解决数值不稳定性，特别是在 $t \to 0$ 时（其中损失函数中的 $1/t$ 因子会放大误差），作者引入了一种稳定的训练课程：

$\alpha$ -Flow 预热： 使用基于两段式构造的 JVP 自由（Jacobian-Vector Product free）目标作为预热阶段。该目标通过使用一个一致性目标取代微分目标，避免了对轨迹导数的求导，从而稳定了初始训练阶段。
小 $t$ 稳定化 MeanFlow： 在预热之后，训练切换到微分 MeanFlow 损失。作者实施了数值稳定技术，包括用于吸收 $1/t$ 因子的辅助变量以及小 $t$ 重参数化，确保即使在激进的步数缩减下也能实现鲁棒训练。
整流（后训练）： 应用整流阶段（self-reflow）以进一步拉直传输路径，从而提高在少步回归下的性能。

架构

该模型利用 ReQFlow 主干（一种不变点注意力网络），并进行了极小的修改：

共享两个时间嵌入用于输入 $(s, t)$ 。
通过每层 AdaLN-Zero 门控，将刚性更新（rigid updates）与时间间隔进行条件化。
模型大小约为 16.8M 参数，显著小于同期的黎曼 MeanFlow 基准模型（437M 参数）。

关键贡献

理论推导： 本文提供了 $SE(3)$ 上 MeanFlow 恒等式的严谨推导，建立了李代数中无需平行移动的闭合形式平均速度目标。
稳定的训练算法： 引入 $\alpha$ -Flow 预热和小 $t$ 稳定化技术，使蛋白质骨架的少步生成变得可靠，解决了流形上微分目标的数值脆弱性问题。
少步回归性能： 与流匹配基准相比，该方法在显著减少采样步数的同时，实现了最先进的可设计性（designability）。

实验结果

该方法在 SCOPe 数据集（3,673 个蛋白质骨架，长度 60–128）上进行了评估，对比基准包括 FrameFlow、QFlow、ReQFlow 和黎曼 MeanFlow (RMF)。

可设计性： SE(3)-MeanFlow 的可设计性（scRMSD < 2Å 的骨架比例）达到或超过了使用 5–10 倍更多采样步数的基准模型。
- 在 20 步时，SE(3)-MeanFlow 的可设计比例为 0.867，优于 RMF (0.806) 和 QFlow (0.778)。
- 在 10 步时，整流版本 (RecSE3MF) 保持了 0.894 的可设计比例，显著高于 ReQFlow (0.837)。
效率： 该方法将采样预算从数百步减少到仅 10–20 步，同时保持了高结构质量。
多样性与新颖性： 与侧重于覆盖度的基准相比，在多样性（较高的成对 TM-score）方面存在轻微权衡，但该方法在不同步数下均保持了稳定的二级结构统计特性（螺旋/折叠比例）和 C $\alpha$ 有效性。
消融实验： 在合成的 $SO(3)^2$ 基准测试上的受控实验证实，平均速度参数化是少步成功的核心驱动力，而非网络架构或耦合策略。

重要性与主张

本文声称 SE(3)-MeanFlow 推进了蛋白质生成的可设计性–效率前沿。通过利用 $SE(3)$ 作为李群的特定代数结构，作者证明了可以推导出无模拟训练目标，从而以现有方法所需的一小部分计算成本实现高质量生成。

作者强调，其方法是自包含的，不需要预训练教师或复杂的蒸馏，并且是可扩展的（使用的模型比同期的黎曼方法更小）。尽管作者承认与某些基准相比在多样性上有轻微下降，但他们认为，能够在 10–20 步内生成可设计结构的能力，使得该方法对于需要筛选数百万种候选结构的各种高通量应用场景具有极高的价值。该工作表明，未来的研究方向包括将其扩展到条件生成和基序支架（motif scaffolding），并向真正的单步生成迈进。