🤖 machine learning

ReactEmbed: A Plug-and-Play Module for Unifying Protein-Molecule Representations Guided by Biochemical Reaction Networks

ReactEmbed 是一个轻量级、即插即用的模块，它通过利用生化反应网络将独立的蛋白质和分子嵌入统一到一个共享的功能空间中，从而无需昂贵的重新训练即可实现有效的跨域建模。

原作者： Amitay Sicherman, Kira Radinsky

发布于 2026-05-26

📖 1 分钟阅读☕ 轻松阅读

原作者： Amitay Sicherman, Kira Radinsky

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象生物学世界是一座巨大的图书馆。长期以来，科学家们在这座图书馆里建立了两个独立的高科技阅览室：

蛋白质阅览室：这里堆满了用“氨基酸序列语言”写成的书籍。超级智能的 AI 模型（如 ESM-3）已经学会了完美地阅读这些书籍。
分子阅览室：这里堆满了用“化学式语言”（SMILES 字符串）写成的书籍。其他超级智能的 AI 模型（如 MolFormer）已经精通了这些语言。

问题所在：
问题是，这两个阅览室位于不同的楼层，且没有电梯。蛋白质阅览室的 AI 不懂分子阅览室的语言，反之亦然。尽管在现实中蛋白质和分子不断相互作用（就像钥匙插入锁孔），但 AI 模型却无法相互“交谈”以理解这些关系。以往尝试连接它们的努力仅侧重于它们如何在物理上契合（例如检查钥匙形状是否与锁匹配），却忽略了它们实际上共同“做什么”这一更宏大的图景。

解决方案：ReactEmbed
作者引入了 ReactEmbed，这是一个“即插即用”的模块。你可以将其想象为一个万能翻译器和桥梁建造者，你可以将其直接附加到任何现有的 AI 模型上，而无需重建整个系统。

以下是其工作原理，使用了一个富有创意的类比：

将“反应网络”视为社交地图

ReactEmbed 不再仅仅关注形状，而是着眼于生化反应网络。想象一张巨大的细胞社交网络地图。

在这张地图中，蛋白质和分子是“人”。
一次“反应”就是这些人聚在一起参加的“派对”。
如果一个蛋白质和一个分子参加了同一个派对（反应），它们就共享一种“功能背景”。它们正在共同完成某件事。

桥梁是如何搭建的

派对名单（图谱）：ReactEmbed 获取一个包含这些“派对”（反应）的庞大数据库，并绘制出一张地图。它将所有出席同一事件的人连接起来。
过滤噪音（PPMI）：有些人，比如"ATP"或“水”，会参加每一个派对。如果我们仅仅计算他们参加了多少派对，他们看起来就会像最重要的人，从而淹没具体的连接。ReactEmbed 使用一种聪明的数学技巧（称为 PPMI）来忽略这些“超级参与者”，转而关注在特定派对中形成的独特、具体的友谊。
翻译（模块）：AI 提取来自蛋白质和分子阅览室的冻结的、预训练的“书籍”。它不会重写这些书籍（那将既昂贵又缓慢）。相反，它在顶部添加了一个小型、轻量级的“翻译”层。
通过示例学习（采样）：为了训练这个翻译器，它使用了一个巧妙的游戏：
- 它挑选一个“主持人”（锚点）。
- 它从同一个派对中找到一位“好朋友”（正样本），并根据该友谊的具体程度进行加权。
- 它从另一个派对中找到一个“棘手的陌生人”（困难负样本），这个人看起来相似但实际上并非朋友。
- AI 学习在共享的数字空间中拉近朋友之间的距离，并将陌生人推远。

结果

当作者测试这座新桥梁时：

更好的对话：AI 现在能够比以前更好地预测蛋白质和分子如何相互作用。它显著提高了对药物靶点和结合强度的预测能力。
适用于所有人：无论起始 AI 擅长阅读序列还是分析 3D 形状，它都能很好地工作。这并不重要；“反应地图”为两者都增加了有用的背景信息。
无需重建：由于它是“即插即用”的，研究人员无需花费数月时间重新训练庞大的模型。他们只需插入新模块即可。

它能做什么（以及不能做什么）

它能做：通过教导蛋白质和分子在细胞的“社交网络”中共同做什么，统一它们的语言。它创造了一个单一的共享空间，蛋白质和分子可以在其中直接进行比较。
它不能做：它不会自行发明新药或治愈疾病。它是一个工具，旨在让现有的 AI 模型更聪明地理解生物关系。
局限性：桥梁的质量取决于“派对名单”（反应数据库）的质量。如果某个蛋白质或分子太新，以至于从未出现在数据库中，那么这座桥梁可能无法提供太多帮助。

简而言之，ReactEmbed 是一个轻量级、智能的适配器，它利用它们共同“派对”（反应）的历史作为通用语言，让两个以前相互隔离的 AI 世界最终能够相互理解。

技术摘要：ReactEmbed

问题陈述

最先进的生物学基础模型，如用于蛋白质的 ESM-3 和 ProtBERT，以及用于分子的 MolFormer，运行在独立的计算流形中。这些模型从不同的数据模态（氨基酸序列与 SMILES 字符串）和专用架构中学习表示，导致其嵌入无法兼容。虽然以相互作用为中心的模型（例如 DrugCLIP）和以结构为中心的模型（例如 Uni-Mol）试图弥合这一差距，但它们通常仅限于虚拟筛选或姿态预测等特定任务。它们往往无法捕捉广泛的功能语义，而是专注于物理互补性或三维几何结构。这在建模系统性生物过程时造成了瓶颈，因为在这些过程中，实体之间的功能关系比它们的物理契合度更为关键。

方法论

ReactEmbed 引入了一种轻量级、即插即用的模块，旨在将冻结的、预训练的蛋白质和分子嵌入对齐到一个统一的、具有功能感知能力的空间中，而无需昂贵的重新训练。核心创新在于利用生化反应网络作为语义枢纽来定义功能背景。

1. 图构建与 PPMI 加权

该方法将生化反应数据库（源自 Reactome）转换为加权无向图 $G=(V, E, W)$ 。

顶点：包含反应中涉及的所有蛋白质和分子。
边权重：ReactEmbed 不使用简单的共现计数（后者受普遍存在的“枢纽”节点如 ATP、水的主导），而是使用正点互信息（PPMI）。
- $W_{PPMI}(e_i, e_j) = \max(0, \log \frac{P(e_i, e_j)}{P(e_i)P(e_j)})$
- 这种加权方案抑制了通用枢纽的影响，并强调了功能特定的关联。

2. 关系学习架构

ReactEmbed 采用“即插即用”策略，将来自冻结模型的基嵌入（ $E^{pre}_p$ 和 $E^{pre}_m$ ）通过可训练的轻量级多层感知机（MLP）投影到统一的潜在空间中：

P2U（蛋白质到统一）和 M2U（分子到统一）：带有 ReLU 激活函数的双层 MLP，将特定领域的嵌入映射到统一维度。
训练目标：该模块利用加权反应图，通过专门的关系对比学习框架进行训练。

3. 高级采样策略

为了在保留领域特定结构的同时高效学习跨领域关系，该框架利用了一种复杂的采样策略：

枢纽抑制的正样本采样：正样本对（锚点和伙伴）从 1 跳邻居中采样，其概率与 PPMI 边权重成正比，确保模型从功能特定的关联而非普通关联中学习。
基于图的困难负样本采样：模型不从随机负样本中采样，而是从 $k$ $k$ 跳邻域（ $k \in \{2, 3\}$ $k \in {2, 3}$ ）中采样“困难负样本”。这包括：
- 领域内负样本：来自同一领域（例如蛋白质 - 蛋白质）但在功能上相关而非直接伙伴的实体。
- 跨领域负样本：来自相反领域（例如蛋白质 - 分子）但在图中距离较远的实体。
损失函数：领域内保留损失（ $L_{intra}$ ）和跨领域对齐损失（ $L_{cross}$ ）的加权和，两者均使用余弦距离表述为基于边距的三元组损失。

主要贡献

联合表示的新范式：本文提出利用系统性生化反应网络来捕捉功能语义，超越了物理相互作用或结构相似性。
ReactEmbed 模块：一种计算高效、即插即用的增强模块，可统一现有的冻结嵌入（例如 ESM-3、MolFormer），而无需对庞大的基础模型进行微调。
功能背景的验证：这项工作表明，通过基于反应的背景丰富单模态表示，可以提高跨领域基准测试的性能，包括药物 - 靶标相互作用、结合亲和力以及蛋白质 - 蛋白质相互作用。
开放资源：代码和构建的反应数据库已开放供使用。

结果与评估

作者在 11 个下游任务中评估了 ReactEmbed，涵盖分子属性、蛋白质特征和相互作用预测（DrugBank、BindingDB、HumanPPI、YeastPPI 等）。

性能提升：ReactEmbed 实现了广泛的改进，在以相互作用为中心的任务中取得了显著增益。例如，它将 DrugBank 药物 - 靶标预测提高了高达 10.28%，并将 BindingDB 亲和力预测误差降低了 13.97%。
泛化性：该增强对基于序列（ESM-3、ProtBERT）和基于结构（GearNet）的模型均有效，表明反应数据提供了互补信号，无论基础架构如何。
与最先进模型的比较：ReactEmbed 在分类（DrugBank）和回归（BindingDB）任务上均优于专用多模态模型（DrugCLIP、Uni-Mol）和最近的基于图的架构（DCGAT-DTI、MRHormer），在这两项任务上均取得了最先进（SOTA）的结果。
消融研究：
- 即插即用与微调：在反应数据上微调基础模型导致性能下降，证实了轻量级投影方法能更好地保留基础模型已学习的特征。
- 采样重要性：移除 PPMI 加权或困难负样本采样会显著降低性能，验证了高级采样策略的必要性。
- 数据鲁棒性：该模型在仅使用 10% 反应数据时仍保持鲁棒，并且对标签噪声具有抵抗力。
数据泄露控制：作者实施了严格的归纳式划分，移除了涉及与测试集具有高序列同一性或结构相似性的实体的边。即使在这些严格条件下，ReactEmbed 仍保持了强大的预测能力，优于那些可能存在数据泄露的模型。
定性分析：t-SNE 可视化和轮廓系数分析显示，ReactEmbed 成功聚类了功能相关的蛋白质家族（例如离子通道、肽酶），而这些家族在仅基于序列的基线中是混合的，表明其学习了独特的功能背景。

意义与主张

本文声称，ReactEmbed 提供了一种实用且高效的方法来统一生物表示，通过将焦点从“实体如何在物理上契合”转移到“它们共同实现什么功能”。通过将生化反应网络操作化为功能背景的来源，ReactEmbed 提供了一种通用信号，丰富了单模态表示并实现了强大的跨领域性能。

作者将这项工作定位为“科学人工智能的民主化方法”，允许研究人员以最小的计算成本增强数十亿参数的模型。他们承认了局限性，指出性能依赖于底层反应数据库的质量，并且当前的对称图构建将所有共同参与的实体同等对待，丢失了特定角色（底物、产物、催化剂）。未来的工作旨在纳入多关系图，并探索针对罕见疾病的少样本学习。