🧬 biology

Flexible Flows for Biological Sequence Design

本文介绍了 Flexible Flows，这是一种离散流匹配（Discrete Flow Matching）框架，通过引入结构化耦合、用于变长生成的潜在编辑型速率参数化以及潜在无分类器指导，增强了生物序列设计，从而在密度估计和条件序列生成方面实现了最先进的性能。

原作者： Yogesh Verma, Dani Korpela, Harri Lähdesmäki, Vikas Garg

发布于 2026-06-10

📖 1 分钟阅读☕ 轻松阅读

CC BY 4.0

原作者： Yogesh Verma, Dani Korpela, Harri Lähdesmäki, Vikas Garg

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ⚕️ 这是一篇未经同行评审的预印本的AI生成解释。这不是医疗建议。请勿根据此内容做出健康决定。阅读完整免责声明

想象一下，你正在尝试为一个新的生物学“菜谱”设计配方，比如一种蛋白质或一段 DNA。这些食材就是字母（DNA 为 A、C、G、T；蛋白质为 20 种不同的氨基酸），而“菜谱”就是这些字母的特定排列顺序。

问题在于，可能的配方数量极其巨大，但其中只有极小的一部分是真正有效的。如果你只是随机地混合食材，你几乎肯定会做出某种无法食用（或者在生物学中，即无法发挥功能）的东西。

这篇论文介绍了一个名为 FlexFlow 的新工具，旨在帮助设计这些生物学配方。它是这样工作的，这里使用简单的类比进行说明：

1. 旧方法：蒙着眼睛的厨师

以往设计这些序列的方法就像一位蒙着眼睛的厨师，被告知一次只能更换一种食材。他们可能会把西红柿换成土豆，但他们完全不知道这种更换在整个菜肴的语境下是否合理。

问题所在： 这些方法经常进行“无意识”的替换。它们将每个字母视为可以被任何其他字母等同替换，忽略了在自然界中，有些替换是常见的（比如把柠檬换成青柠），而有些则是绝不可能的（比如把柠檬换成一块砖头）。
结果： 它们在创建长且复杂的配方，或者精确控制最终菜肴形态方面表现挣扎。

2. 新方法：FlexFlow（聪明的副厨）

FlexFlow 就像一位了解厨房规则（生物学）并帮助主厨引导过程的聪明副厨。它使用了三个主要技巧：

技巧 A：“生物地图”（结构化耦合）

FlexFlow 并不是从一堆随机的食材开始，而是从一张“倾斜”的地图开始。

类比： 想象你试图在一座巨大的城市里找到一栋特定的房子。随机搜索很难，但如果你有一张地图，它标出了那些房子看起来通常和你想要的房子很像的社区，那么你的搜索就会从那里开始。
工作原理： FlexFlow 使用基于真实生物数据（例如氨基酸在进化过程中如何自然交换）的“地图”。它将设计过程的起点向具有生物学合理性的区域进行偏移。它并不强行规定设计，而是从一开始就温柔地引导，使其远离不可能的组合。

技巧 B：“魔术橡皮擦与笔”（基于编辑的流）

有时，为了让配方正确，你不仅需要更换一种食材，还需要添加一个新食材或删除一个不好的食材。

类比： 想象你在写故事。旧方法只能把一个词变成另一个词。FlexFlow 则像是一支神奇的笔，它可以插入一整句新话、删除一个段落，或者替换一个词，同时还能保持故事的主题不变。
工作原理： 这使得 FlexFlow 能够创建可变长度的序列。它可以由于添加字母而增长序列，也可以通过移除字母来缩减序列，这对于生物序列并非总是固定长度的情况至关重要。

技巧 C：“音量旋钮”（潜空间引导）

有时你想告诉厨师：“让它辣一点”或“让它甜一点”。

类比： 想象你在调收音机。旧方法试图通过为每一个单独的扬声器（序列中的每一个字母）调节独立的旋钮来调整音量，这往往会导致静电和噪音。FlexFlow 则是在一个隐藏控制室（“潜空间”）里转动一个单一的“总音量”旋钮。
工作原理： 通过调节这一个隐藏的旋钮，整个序列会连贯地发生变化。如果你希望蛋白质与特定目标结合，你转动旋钮，整个配方就会整体移动以匹配该目标，而不是随机改变字母。

3. “预算控制器”（温度缩放）

论文还介绍了一种控制厨师如何改变配方的方法。

类比： 假设你有一个改变配方的“预算”。你可以告诉厨师：“对于这个配方，你只能添加食材，不能删除”或者“你只能进行替换”。
工作原理： 系统使用“温度”设置来决定是插入、删除还是替换字母。这让研究人员能够对生成过程进行精细控制，而无需重新训练整个系统。

他们证明了什么？

作者在三个任务上测试了 FlexFlow：

DNA 设计： 创建作为“增强子”（开启基因的开关）或“启动子”（基因的启动按钮）的 DNA 序列。FlexFlow 创建的 DNA 比以往的方法更具真实感且效果更好。
多肽设计： 创建能与特定免疫系统分子（MHC）结合的短蛋白质链（多肽）。这就像是设计一把能打开特定锁的钥匙。FlexFlow 创建的“钥匙”比其他工具制作的更契合。
玩具问题： 他们在简单的数学模式（如螺旋线和棋盘格）上进行了测试，以证明它理解复杂的形状和结构。

核心结论

FlexFlow 是一种更聪明、更高效的设计生物序列的方法。它不再是随机猜测，而是利用生物学规则的地图，允许添加或删除序列部分，并使用单一的“主控制”来引导设计走向特定目标。其结果是，它创造出的生物序列比目前的尖端方法更准确、更具功能性。

技术摘要：用于生物序列设计的灵活流模型 (FlexFlow)

问题陈述

设计功能性生物序列（DNA、RNA、蛋白质、多肽）需要在受到严格进化和生物物理约束的庞大且离散的组合空间中进行探索。虽然自回归模型（如 ProtGPT2、ESM-2）已展示了可行性，但它们面临着误差累积、采样速度慢以及全局连贯性有限的问题，尤其是在处理长序列或结构复杂的序列时。

其他的生成框架，如离散扩散（Discrete Diffusion）和离散流匹配（Discrete Flow Matching, DFM），提供了更快速的非自回归采样。然而，现有的用于生物应用的离散方法面临三个关键局限性：

灵活性有限： 它们在处理变长序列生成方面表现不佳，且缺乏对生成过程的细粒度控制。
信息量不足的耦合： 它们依赖于均匀或掩码耦合，忽略了生物序列元素之间结构化的、领域特定的关系（例如，进化替代偏差）。
引导不连贯： 将生成过程导向特定功能属性时，往往依赖于独立的、基于标记（token-wise）的调整，这无法捕捉复杂调节或结合基序所需的全局依赖关系。

方法论：FlexFlow

作者提出了 FlexFlow，这是一个离散流匹配框架，旨在通过以下三个核心架构创新来解决上述局限性：

1. 结构化前向过程（结构化耦合）

FlexFlow 没有使用非信息性的基准进行前向加噪过程，而是通过“倾斜”源分布来施加结构化归纳偏置。

机制： 该方法使用结构化耦合 $\pi(\tilde{x}_0, x_1, K_\gamma)$ 取代了标准的均匀耦合。它由编码了领域特定替代偏好（例如，蛋白质的 BLOSUM62，或 DNA/RNA 的 JC69/HKY85）的转移核 $K_\gamma$ 定义。
效果： 源分布被偏向于生物学上合理的替代邻域，而非整个单纯形。这使得生成路径向首选的功能区域引导，而无需修改流目标或训练程序。该耦合通过仅需更换核函数 $K_\gamma$ ，即可实现跨序列分类群的泛化。

2. 基于潜在编辑的速率参数化

为了支持变长生成，模型通过受共享全局潜在变量约束的编辑操作（插入、删除、替换）来参数化反向流速率。

层级参数化： 对于噪声序列 $x_t$ ，通过编码器 $\Psi(x_t)$ 推断全局潜在上下文 $r$ 。该潜在变量 $r$ 用于调节每个位置的编辑操作类别分布 $p_\Phi(op_i | x_i^t, r)$ 。
可处理性： 这种层级方法通过共享的潜在变量 $r$ 诱导了标记间操作的耦合，同时保持了位置间的条件独立性，确保了模型的可处理性。
测试时控制（狄利克雷先验）： 操作概率使用位置相关的温度参数 $\beta_i$ 进行重缩放，这些参数通过狄利克雷先验进行建模。这允许在推理过程中对插入、替换和删除的相对速率进行后验控制（例如，作为编辑操作的“预算控制器”），而无需重新训练。

3. 潜在分类器自由引导

作者引入了一种全新的引导机制，该机制完全在连续潜在空间内运行，与标准的速率空间引导形成对比。

机制： 在训练期间，编码器 $\Psi$ 被训练以预测条件潜在变量 $r_c$ （给定条件 $c$ ）和无条件潜在变量 $r_\emptyset$ 。在测试期间，引导后的潜在变量计算为 $r_{LG} = r_\emptyset + w(r_c - r_\emptyset)$ 。
优势： 这种方法确保了全局结构一致性，因为引导信号通过共享的潜在变量 $r$ 同时传播到所有逐标记操作。它避免了逐标记引导的不连贯性，并通过构造保证了速率的非负性。
理论基础： 作者证明了这种潜在插值对应于在潜在空间中对隐式分类器对数似然进行的梯度上升步骤。

核心贡献

结构化耦合： 引入了一种生物学信息先验，将生成路径引导至功能性邻域，取代了均匀耦合。
潜在编辑速率： 一种通过共享全局潜在变量和狄利克雷先验温度缩放来实现变长生成的参数化方法。
潜在引导： 一种在连续潜在空间内运行的引导方案，以确保全局连贯性，作为速率空间分类器自由引导的替代方案。
新基准： 引入了一个用于生成和评估 MHC 条件肽序列的肽类-MHC II 基准。
经验验证： 在密度估计、无条件/条件 DNA 生成以及多肽生成等多样化任务中展示了最先进的性能。

实验结果

作者在多种任务上评估了 FlexFlow，并将其与扩散和流匹配基准（如 Bit Diffusion, Dirichlet FM, Fisher FM, Gumbel-Softmax FM）进行了比较。

玩具数据集： 在 1D 和 2D 离散模式（正弦波、螺旋线、环形、棋盘格）上，FlexFlow 实现了最低的 Wasserstein 距离 ( $W_2$ )，准确重建了拓扑特征。
无条件 DNA 设计（增强子）： 在果蝇大脑和人类黑色素瘤增强子数据集上进行了评估。FlexFlow 实现了最低的 Fréchet 生物距离 (FBD)（黑色素瘤为 3.4，果蝇大脑为 4.2），优于 Dirichlet FM 和 Fisher FM。
有条件 DNA 设计（启动子）： 在给定转录谱的情况下，模型生成了启动子序列。使用潜在引导的 FlexFlow 实现了最低的均方误差 (MSE) 0.022，优于 Dirichlet FM (0.026) 和 DDSM (0.033)。
肽类-MHC II 生成： 在新的肽类-MHC II 基准上，使用潜在引导的 FlexFlow 获得了 0.66 的 DeepMHCII 判别器得分（相比之下，Dirichlet FM 为 0.21）和 0.84 的 Fréchet 蛋白质距离 (FPD)。结果表明，潜在引导优先考虑结合合理性，而速率引导则提供了一种侧重于分布覆盖率的不同权衡。
效率： 推理速度与基准模型相当（对于 500 长度的 DNA 序列，在 100 个步长下约为 4.0 秒）。

重要性与主张

本文声称 FlexFlow 通过将生物学领域知识直接集成到流匹配框架中，解决了现有离散生成方法的关键局限。通过利用结构化耦合，该方法在不改变训练目标的情况下，将生成过程偏向于合理的生物区域。其潜在编辑速率参数化和潜在引导方案为灵活长度的生成和连贯、细粒度的控制提供了机制，而以往的方法缺乏这些能力。

作者将 FlexFlow 定位为一个稳健的生物序列设计框架，在无条件和有条件设置下均优于强大的扩散和流匹配基准。他们指出，未来的工作将侧重于适配基于蒸馏的训练目标，以实现更少采样步数下的高质量序列生成。该工作以预印本形式呈现，作者承认得到了芬兰研究委员会及其他相关生物设计 AI 项目基金的支持。