SELFormerMM: multimodal molecular representation learning via SELFIES, structure, text, and knowledge graph integration

本文提出了 SELFormerMM 框架，通过整合 SELFIES 符号、分子结构、文本描述及知识图谱中的生物交互数据，实现了多模态分子表征学习，从而在多种分子属性预测任务中超越了单一模态模型。

要点

这篇论文介绍了一个名为 SELFormerMM 的新工具，它就像是一个**“超级分子翻译官”**，专门帮助科学家更快地发现新药。

为了让你更容易理解，我们可以把寻找新药想象成寻找一位完美的“特工”。这位特工（药物分子）需要潜入特定的“敌营”（人体内的病变细胞），既要能混进去（穿透血脑屏障），又不能搞破坏（没有副作用），还要能精准完成任务（结合特定蛋白）。

以前，科学家在筛选这些“特工”时，通常只通过一种方式去观察它们：

• 有的只看它的**“身份证号码”**（化学序列，比如 SMILES）；
• 有的只看它的**“骨架照片”**（分子结构图）；
• 有的只看它的**“简历”**（文本描述）；
• 有的只看它的**“社交关系网”**（它和哪些蛋白质、基因有过接触）。

问题在于： 只看其中一种，就像只凭一张模糊的照片或者一段文字去判断一个人，很容易看走眼，或者漏掉关键信息。

SELFormerMM 是怎么工作的？（核心比喻）

SELFormerMM 就像是一个**“全能情报分析中心”**，它把上述所有信息都收集起来，进行“多模态融合”：

1. 它收集了四种情报：

   • 语言情报 (SELFIES)： 它不再使用容易出错的旧式“密码”（SMILES），而是使用一种更严谨、不会出错的“新密码”（SELFIES）。这就像把特工的身份证换成了防伪等级更高的芯片，确保每个字符都代表真实的化学结构。
   • 视觉情报 (结构图)： 它像看 X 光片一样，分析分子的 3D 骨架和连接方式。
   • 文本情报 (描述)： 它阅读关于这个分子的成千上万条科学文献和描述，理解它的“性格”和“传闻”。
   • 社交情报 (知识图谱)： 它查看这个分子在生物世界里的“朋友圈”——它和哪些蛋白质是朋友？和哪些基因是死对头？这就像查特工的背景调查，看它和谁有过接触。

2. 它如何“学习”？（对比学习）
   想象一下，SELFormerMM 是一个**“拼图大师”**。它手里有同一个分子的四种不同拼图碎片（文字、图片、代码、关系网）。

   • 在训练阶段，它疯狂地练习：把属于同一个分子的四种碎片拼在一起，告诉模型“这些看起来不一样，但其实是同一个人”。
   • 同时，它把不同分子的碎片强行分开，告诉模型“这些虽然有点像，但绝对不是同一个人”。
   • 通过这种“找相同、找不同”的游戏，它学会了如何把四种完全不同的信息融合成一个完美的、立体的“分子全息画像”。

3. 它有什么用？（实际应用）
   一旦训练完成，这个“情报中心”就能在几秒钟内预测出：

   • 这个分子能不能穿过大脑的防线（血脑屏障）？
   • 它会不会引起严重的副作用？
   • 它在水里的溶解度如何？
   • 它能不能紧紧抓住某种致病蛋白？

为什么它很厉害？（主要成果）

• 看得更全： 以前的模型就像“盲人摸象”，只摸到一部分。SELFormerMM 是“上帝视角”，把大象的腿、耳朵、鼻子都结合起来，所以判断更准。
• 跑得快： 在测试中，它在预测药物副作用、穿透大脑能力等任务上，表现超过了以前最顶尖的单一视角模型。
• 更懂生物学： 它不仅知道分子长什么样，还知道它在生物体内“怎么混”的（通过知识图谱），这让它的预测更符合真实的生物规律。

总结

简单来说，SELFormerMM 就是给药物研发装上了一个**“超级大脑”。它不再让科学家只盯着分子的某一个侧面看，而是把分子的“长相”、“名字”、“简历”和“朋友圈”**全部整合起来，形成一个 360 度无死角的立体认知。

这意味着，未来科学家可以更快地从海量的化学分子中，筛选出那些真正有潜力成为救命药的“超级特工”，大大缩短新药研发的时间，让病人更早用上药。

作者还非常大方，把这个“超级大脑”的代码、数据和训练好的模型都开源了（放在 GitHub 上），让全球的科学家都能免费使用，共同加速新药发现的过程。

技术摘要

SELFormerMM 技术总结

1. 研究背景与问题 (Problem)

分子表示学习是计算药物发现的核心。然而，现有的大多数模型仅依赖单模态输入（如分子序列 SMILES 或分子图），这只能捕捉分子行为的有限方面。

• 局限性：单一模态无法全面反映分子的复杂性。分子本质上是多模态实体，包含语法编码（序列）、拓扑结构（图）、语义注释（文本描述）以及丰富的生物相互作用背景（知识图谱）。
• 挑战：将这些互补的模态（序列、结构、文本、生物网络）统一到一个连贯的多模态框架中极具挑战性。现有的多模态方法通常仅整合有限的模态子集，或者仅在成对/部分整合的设置中对齐视图，缺乏大规模生物相互作用网络的深度整合，导致无法充分利用互补信息来生成更具生物学意义的表示。

2. 方法论 (Methodology)

作者提出了 SELFormerMM，一个统一的多模态分子表示学习框架。该框架通过自监督学习范式，将四种异构模态对齐到共享的潜在空间中。

2.1 数据构建

• 序列模态：使用 ChEMBL v36 数据库中的约 285 万分子，将其 SMILES 转换为 SELFIES（Self-Referencing Embedded Strings）表示，以解决 SMILES 的语法无效性问题。
• 文本模态：利用 M3-20M 数据集，通过 InChIKey 和 SMILES 匹配将自然语言描述（来自 PubChem、GPT-3.5 生成等）关联到分子。
• 知识图谱 (KG) 模态：基于 CROssBARv2-KG，构建包含化合物、蛋白质、基因和药物及其相互作用（如 CTI, DTI, PPI）的子图。
• 结构模态：直接从 SMILES 生成 2D 分子图。
• 最终数据集：约 300 万分子，覆盖四种模态的不同组合。

2.2 模型架构

SELFormerMM 包含四个模态特定的分支和一个共享的投影空间：

1. 序列编码器：基于 SELFormer（RoBERTa 架构），输入为 SELFIES 序列，输出分子级上下文嵌入。
2. 文本编码器：使用预训练的 SciBERT 编码分子描述，通过平均池化获取嵌入。
3. 结构编码器：使用 Uni-Mol（在 2 亿 3D 构象上预训练）提取 2D/3D 结构信息。
4. 知识图谱编码器：使用 DMGI（Deep Mutual Graph Infomax）架构，在 CROssBARv2 子图上训练，聚合关系特定的化合物表示。
5. 投影网络：文本、结构和 KG 编码器被冻结，通过非线性的多层感知机（MLP）投影网络将其嵌入映射到与 SELFormer 相同的 768 维隐藏空间。缺失的模态通过零向量输入处理。

2.3 训练策略

• 多模态预训练：采用多视图监督对比学习（Multi-view Supervised Contrastive Learning）。使用 SINCERELoss（InfoNCE 的扩展），强制同一分子的不同模态表示在嵌入空间中相互靠近，而不同分子的表示相互远离。
• 微调 (Finetuning)：在 MoleculeNet 基准数据集（包括分类和回归任务）上进行微调。采用部分冻结策略：固定嵌入层和前 9 个 Transformer 块，微调最后 3 个块、投影 MLP 和任务特定的预测头。

3. 关键贡献 (Key Contributions)

1. 首个整合四种模态的框架：首次将 SELFIES 序列、2D 分子图、自然语言描述和大规模生物相互作用知识图谱统一整合到一个共享的表示空间中。
2. 基于 SELFIES 的鲁棒性：利用 SELFIES 替代 SMILES，确保了 100% 的语法有效性，增强了模型对分子结构约束的捕捉能力。
3. 大规模预训练：在约 300 万分子的多模态数据集上进行了预训练，规模远超以往的多模态分子模型（通常为 20-30 万）。
4. 灵活的缺失模态处理：设计了零向量填充机制，使模型能够在模态缺失（如缺乏文本或 KG 数据）的情况下依然进行有效训练和推理。

4. 实验结果 (Results)

模型在 MoleculeNet 的多个分子属性预测基准上进行了评估：

• 分类任务 (Classification)：

  • 在 SIDER（副作用预测）任务上，SELFormerMM 取得了最佳性能 (ROC-AUC = 0.749)，优于单模态模型和其他多模态基线。
  • 在 BBBP（血脑屏障渗透）任务上，SELFormerMM 得分 0.918，仅次于 MvMRL (0.963)，但优于大多数单模态模型。
  • 消融实验表明，2D 图结构信息是最稳健的信号，对性能提升贡献最大；而文本和 KG 模态由于数据覆盖率较低，效果波动较大，但在特定任务（如 SIDER）中能带来互补增益。

• 回归任务 (Regression)：

  • 在 Lipophilicity（脂溶性）任务上，SELFormerMM 取得了多模态模型中的最佳 RMSE (0.574)。
  • 在 PDBbind（蛋白 - 配体结合亲和力）任务上，整合结构和 KG 信息使 RMSE 从 1.437 提升至 1.328，表明生物上下文信息有助于理解复杂的相互作用。
  • 在 FreeSolv 和 ESOL 任务上表现具有竞争力，但在某些任务上，单模态模型（仅 SELFIES）因优化更简单而表现略好，说明多模态对齐可能引入优化噪声。

• 案例分析：

  • 在 BBBP 任务中，模型正确预测了右苯丙胺（可穿透血脑屏障）和苄丝肼（不可穿透）的性质，与已知药理学知识一致，证明了模型捕捉到了生物学意义。

5. 意义与展望 (Significance)

• 理论意义：证明了将化学序列、结构、语义和生物网络整合到一个统一框架中，能够生成比单模态方法更丰富、更具生物学基础的分子表示。
• 应用价值：为基于假设的药物发现提供了强大的基础，特别是在预测药物副作用、血脑屏障渗透性和结合亲和力等复杂任务上。
• 开源贡献：作者提供了完整的代码、数据集、预训练模型和嵌入，促进了社区在分子表示学习领域的进一步研究。
• 未来方向：未来的工作将集中在改进缺失模态的处理策略（如动态损失函数）、训练可微调的模态编码器、以及扩展至药物 - 靶点相互作用预测和从头分子设计等任务。

总结：SELFormerMM 通过大规模多模态对比预训练，成功打破了单一模态的局限，为计算药物发现提供了一种更全面、更准确的分子表征学习范式。