🤖 AI

MolEmb: Multimodal Large Language Models Can Be Strong Molecular Embedding Models

本文介绍了 MolEmb，这是一个轻量级框架，旨在将多模态大语言模型适配为通用的、具备上下文感知能力的分子嵌入模型，通过分子轮廓与文本描述的双向对比对齐，证明了其在属性预测和跨模态检索方面的可行性。

原作者： Xinjian Zhao, Xiangru Jian, Yaoyao Xu, Xiaozhuang Song, Wei Pang, Lei Bai, Tianshu Yu

发布于 2026-08-26

📖 1 分钟阅读☕ 轻松阅读

原作者： Xinjian Zhao, Xiangru Jian, Yaoyao Xu, Xiaozhuang Song, Wei Pang, Lei Bai, Tianshu Yu

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

在计算化学静谧的实验室里，科学家们长期以来一直依赖一种特定的数字指纹来理解微观的分子世界。这些被称为“嵌入”（embeddings）的指纹是捕捉化学结构本质的数学摘要，使计算机能够预测物质的行为，例如它是否会溶于水，或者是否可能具有毒性。多年来，创建这些指纹需要专门为单一用途设计的工具：通过获取分子的图像或读取其化学代码，输出一个固定的数值。这种方法对于特定任务效果良好，但缺乏灵活性。它无法根据科学家的提问来轻松转变关注点。如果研究人员想知道一个分子跨越血脑屏障的能力，该工具给出的答案与询问其溶解于油的能力时是一样的，因为该工具并不理解问题，只理解分子的形状。

随着该领域向更复杂的药物研发和材料设计迈进，这一局限性已成为瓶颈。科学家们需要一种能够与这些数字指纹进行对话的方式，要求它们根据查询的语境来突出不同的特征。问题在于，那些已经能够阅读文本和观察图像的强大且灵活的人工智能系统，是否可以被重新利用来创建这些具有适应性的化学指纹。研究人员在思考，是否可以不再为每一个化学问题构建一个新的、狭隘的工具，而是通过一个单一的、通用的系统，学习如何根据描述其分子所使用的语言来呈现分子。

来自香港中文大学（深圳）和上海人工智能实验室的研究团队致力于通过他们称之为 MolEmb 的新框架来回答这个问题。他们从一种被称为“多模态大语言模型”的人工智能类型入手。这类系统正是那些能够观察照片、阅读句子并理解两者之间关系的系统。研究人员意识到，这些模型天生就适合处理分子的不同描述方式：作为二维图形、作为代表其化学结构的文本字符序列，或者作为关于要研究何种属性的一组指令。

该团队构建了一个轻量化系统，旨在教导这些大模型充当分子嵌入专家。他们并不是试图让模型生成新的分子或从头撰写化学论文，而是专注于训练模型，使其将分子的视觉和文本描述与特定的文本指令对齐。想象一下，分子是一个可以通过不同透镜观察的复杂物体。研究人员向模型展示一个分子的图像及其化学代码，然后将其与诸如“分析毒性”或“分析溶解度”之类的文本指令配对。目标是让模型针对该分子产生一个独特的数字指纹，且该指纹会根据指令发生轻微偏移。当指令涉及毒性时，指纹会强调与安全性相关的分子部分；当指令变为溶解度时，指纹会转向突出与溶解于水相关的部分。

为了测试这种方法是否有效，研究人员进行了一系列严谨的实验。首先，他们检查了该新系统预测化学性质的能力是否能达到目前正在使用的专门工具的水平。他们发现，即使没有任何针对特定化学任务的专门训练，该系统预测溶解度和毒性等性质的准确度也能媲美现有的最佳方法。这是一个重要的发现，因为它表明通用模型已经通过理解分子的图像、文本代码及其描述性语言之间的关系，学习到了足够的化学结构知识，从而具备实用价值。

接下来，团队测试了这些指纹是否可用于通过文本搜索分子。在传统系统中，你无法通过输入像“帮我找一个对肝细胞有毒的分子”这样的句子来搜索分子数据库并期望得到相关的结果，因为化学数据和文本数据处于两个独立的领域。研究人员展示了他们的新系统创造了一个共享空间，使得分子和文本描述可以直接进行比较。当他们要求系统寻找匹配特定描述的分子时，系统表现出了极高的准确度，这证明了该模型确实学会了将化学的视觉和文本方面连接到统一的表示中。

然而，最关键的测试是观察该系统是否能真正根据语境改变其判断。研究人员创建了一个名为 MolCAR 的诊断基准，以观察模型是否能区分同一个分子的不同有效描述。他们向模型展示单个分子，并要求它针对特定任务（如毒性）找到正确的描述，同时忽略其他针对不同任务（如水合作用）的有效描述。在加入最后一层特定训练之前，模型在做出这种区分方面表现挣扎。它将分子视为具有一个固定的身份，无论提出的问题是什么。然而，在研究人员使用专门设计的、将分子与不同任务导向的描述相配对的数据集对模型进行训练后，系统学会了转移焦点。它开始根据问题是关于毒性还是溶解度，为同一个分子生成不同的指纹。

结果表明，多模态大语言模型不仅仅是生成化学想法或回答问题的工具；它们可以作为一种新型分子表示的基础。研究指出，创建上下文感知化学指纹的能力并非模型架构固有的缺陷，而是取决于其训练数据。当训练数据包含同一分子在不同科学视角下的多样化描述时，模型就会学会适应。这一发现指向了一个未来：一个单一的、通用的系统可以取代一系列狭隘的、专门化的工具，让科学家能够像在图书馆中搜索信息一样，灵活地查询化学数据。这项工作证明，通过将分子轮廓与自然语言指令对齐，这些强大的模型可以成为下一代药物研发和化学研究中多功能的底层基础设施。

技术摘要：MolEmb

问题陈述

目前的分子表示学习主要由专门的编码器（例如图神经网络、基于 SMILES 的 Transformer 或基于几何的模型）主导，这些模型将分子映射为一个单一的、无条件的向量。虽然这些模型在特定预测任务中非常有效，但它们缺乏一个可以根据输入视图（例如 2D 描绘与 SMILES）或语义上下文（例如侧重于毒性与侧重于溶解性的查询）进行变化的复用接口。因此，它们无法原生支持跨模态检索或上下文感知嵌入，即对于同一个分子，根据下游任务的视角，需要不同的向量表示。

本文探讨了多模态大语言模型（MLLMs）——这类能够原生处理异构输入（图像、文本、符号）并遵循自然语言指令的模型——是否可以作为通用分子嵌入模型。这类模型生成的嵌入应同时受分子特征和语义上下文的调节，从而超越 MLLM 仅作为化学助手或生成器的角色，成为可复用分子表示的基础设施。

方法论：MolEmb

作者提出了 MolEmb，这是一个轻量级框架，旨在将预训练的 MLLM 适配为通用的分子嵌入模型。该方法基于通用分子嵌入模型的形式化定义，即将分子特征 $P(m)$ 和语义上下文 $c$ 映射到共享嵌入空间 $\mathbb{R}^d$ 。

核心组件

多视图分子特征： 输入特征 $P(m)$ 由 2D 描绘和规范 SMILES 字符串组成。这使得模型能够接受分子的互补视图。
语义调节： 上下文 $c$ 通过自然语言指令提供（例如，“针对毒性进行编码”或“针对溶解性进行编码”）。
架构与适配：
- 该框架利用预训练的 MLLM 主干网络（如 Intern-S1-mini, Qwen3-VL）。
- 引入了一种轻量级适配器（LoRA），用于将分子特征与文本描述对齐，而无需重新训练整个主干网络。
- 分子嵌入从序列结束（EOS）标记的隐藏状态中提取。
训练目标： 模型通过在配对的分子-描述数据（来自 MolTextNet, KnowMol-100k 和 ChEBI-20-MM 等语料库）上进行双向对比学习目标进行优化。这使得分子特征嵌入（ $z_{mol}$ ）与文本描述嵌入（ $z_{desc}$ ）在共享空间中对齐，同时推开不匹配的配对。

评估维度

论文从三个维度评估了 MLLM 到嵌入模型的路径：

分子属性预测： 测试这些嵌入是否能作为回归和分类任务的有效特征。
跨模态检索： 评估共享空间是否支持分子-文本和文本-分子检索。
上下文感知检索： 诊断模型是否能在不同的任务指令下，为同一个分子生成截然不同的嵌入。

核心贡献

概念框架： 本文形式化了通用分子嵌入模型，区分了分子身份、多视图特征和语义上下文。文章认为，嵌入应该是可复用的交付成果，而非仅仅是中间流水线的状态。
MolEmb 框架： 引入了一种将 MLLM 适配于此目的的实用方法，证明了单个主干网络可以同时支持属性预测、跨模态检索和上下文感知嵌入。
MolCAR 基准测试： 作者引入了 MolCAR（分子上下文感知检索），这是一个诊断基准，旨在测试任务指令是否能将查询路由到固定分子的正确上下文中。该基准区分了通用的分子-文本对齐与真正的上下文感知嵌入。
关于监督机制的实证发现： 研究表明，虽然 MLLM 提供了一个强大的起点，但上下文感知嵌入主要是监督数据的属性。通用的分子-文本语料库会创建一个无条件的化学流形，而需要任务结构化的监督（MolCAR-Train）才能在嵌入空间中诱导出上下文感知的结构。

结果

属性预测： 直接适配的 MLLM（未进行分子-文本对齐）在回归和分类基准测试（如 ESOL, Tox21）上已经取得了具有竞争力的表现，通常能匹配或超过专门的预训练方法。加入分子-文本对齐（通过 MolTextNet 或混合语料库）进一步提升了在 ESOL 和 Tox21 等特定任务上的性能，尽管这种增益在所有端点上并非单调递增。
跨模态检索： 现成的多模态嵌入模型在分子检索方面表现较差（R@1 约为 3%）。然而，经过 MolEmb 对齐后，检索性能显著提升（超过 73% R@1，部分主干网络达到 >83%），证明了统一分子-文本空间的创建。
上下文感知检索 (MolCAR)：
- 基线失败： 仅在通用分子-文本数据上进行对齐的模型无法区分相同分子的不同上下文（Context R@1 仍接近 ~40.4% 的随机基线）。模型将分子视为一个单一的点，而不受指令影响。
- 结构化监督下的成功： 当模型在 MolCAR-Train（将分子与特定任务结果配对）上进行持续对齐时，Context R@1 大幅提升（例如，Intern-S1-mini 在任务指令下达到 99.8%）。
- 泛化能力： 这种上下文感知行为即使在目标文本是由大型 LLM 生成（MolCAR-Natural）而非严格遵循模板时依然成立。

意义与主张

论文声称，MLLM 不仅仅是化学领域的生成或解释工具，它们代表了通往通用分子嵌入模型的有效且可扩展的路径。

统一接口： MLLM 可以取代碎片化的专家编码器景观，提供一个接受多视图输入和语义指令的单一接口。
数据驱动的上下文： 生成上下文感知嵌入的能力并非仅仅是 MLLM 架构的固有属性，而是由监督数据的性质所诱导的。任务结构化的监督对于“解开”不同科学视角下的嵌入空间至关重要。
基础设施潜力： 通过利用基础模型的骨干，分子领域有望继承多模态预训练、指令遵循和科学推理方面的进展，从而将范式从特定任务模型转向可复用的、上下文敏感的表示学习。