Back to Basics: Improving Molecular Understanding in LLMs via SMILES-Graph Translation

技术摘要：回归基础：通过 SMILES–图转换提升 LLM 的分子理解能力

问题陈述
尽管大语言模型（LLMs）在分子理解和生成任务上表现强劲，但目前的方法仍面临缺乏可靠结构基础的问题。本文指出一个关键的脱节：虽然模型在下游任务中取得了成功，但在基础结构识别任务（如从规范 SMILES 字符串中计数重原子或化学键）方面表现不佳。这与“结构决定功能”这一基本化学原则相矛盾。初步评估显示，无论是通用型 LLM（如 GPT、Qwen）还是专业化分子 LLM（如 MolT5、ChemLLM），在这些基础任务上的表现都很差，这表明它们未能捕捉到序列化 SMILES 文本与底层二维分子图之间的显式等价性。作者认为，目前的范式往往在简单的文本预训练后直接跳向高层推理，缺乏逻辑可解释性，并且未能建立可靠推理所需的必要结构认知。

方法论：MolBasic 框架
为了解决这一问题，作者提出了 MolBasic，这是一个“结构优先”的框架，旨在将分子理解锚定在基础结构理解之上。该方法由三个核心组件组成：

1. 多层级结构理解基准 (MSC)：
   作者构建了一个包含八项任务的基准，这些任务组织在三个层级上，用于评估和训练二维图感知能力：

   • 节点层级 (Node Level)： 重原子计数和特定元素计数。
   • 边层级 (Edge Level)： 总化学键计数和特定键类型计数。
   • 图层级 (Graph Level)： 分子式转换、子结构识别，以及规范 SMILES 与文本形式的图邻接表之间的双向转换。
     核心任务是双向的 SMIخلS–图转换，这迫使模型学习序列表示与拓扑表示之间的等价性。

2. 阶梯式学习框架 (Staircase Learning Framework)：
   训练遵循一条渐进的、线性的路径（$v_{struct} \rightarrow v_{prop} \rightarrow v_{opt}$），模拟了人类化学家的认知过程。这种基于有向无环图（DAG）结构的方法确保了更高层级的推理能力建立在可靠的结构理解之上：

   • 阶段 1（结构理解）： 建立基础的图感知能力。
   • 阶段 2（结构属性预测）： 从结构特征中推导属性（如 LogP、分子量 MW）。
   • 阶段 3（目标分子优化）： 通过修改分子以实现期望的属性。
     这种课程学习方法防止了复杂任务对基础学习的干扰。

3. 思维链 (CoT) 监督：
   为了增强准确性和可解释性，该框架针对每个任务采用两阶段训练策略进行 LoRA 微调：

   • 阶段 1（答案学习）： 模型学习预测正确答案 ($a$)，以建立领域知识锚点。
   • 阶段 2（推理学习）： 模型学习包含思维链 ($z$) 的完整响应，该思维链是从强大的推理模型（特别是 GPT-5）中蒸馏而来的。
     训练目标共同建模了推理过程和最终结果：$P_\theta(a, z | S, q) = P_\theta(z | S, q) \cdot P_\theta(a | S, z, q)$。CoT 包括回归任务中的确定性中间结果（例如显式的原子解析）以及优化任务中的“分析–策略–验证”流水线。

关键结果
实验在 PubChemSTM 数据集和各种下游基准测试上进行，将 MolBasic 与通用 LLM、专业化分子 LLM 以及传统的深度学习模型进行了对比。

• 结构理解： MolBasic 在所有 MSC 任务中均取得了显著提升。最值得注意的是，它在 SMILES 到图的转换上达到了 94.65% 的准确率，在图到 SMILES 的转换上达到了 85.66%，而所有基准模型（包括专门的 LLM）在这些双向转换任务上的表现几乎为零。
• 属性预测： 在结构属性预测（MW、LogP、TPSA 等）方面，MolBasic 在基于 LLM 的方法中表现最优，大多数属性的皮尔逊相关系数超过 0.97，且平均绝对误差 (MAE) 与 Chemprop 等任务特定模型相当甚至更好。
• 分子优化： 在提高 LogP 的任务中，MolBasic 在保持高有效性 (98.7%) 和高多样性 (0.86) 的同时，实现了基于 LLM 模型中最高的 LogP 提升值 (2.27)。
• 消融实验：
  • 移除结构理解阶段（“w/o Struct”）会导致下游性能出现单调下降，证实了结构感知是必要的基石。
  • 随机化训练顺序（“Mixed SFT”）导致性能低于阶梯式方法，表明渐进式排序对于防止任务干扰至关重要。
  • 移除 CoT 监督（“w/o CoT”）导致性能持续下降，凸显了显式中间推理引导的必要性。

意义与主张
本文主张，缺乏基础结构理解是当前分子 LLM 的根本瓶颈。通过“回归基础”并优先实现序列文本与拓扑图结构的对齐，MolBasic 使模型能够执行可靠、可解释且泛化能力强的分子推理。作者断言，其结构优先范式解决了下游成功与结构失败之间的矛盾，为未来的“AI 化学家”应用提供了坚实的基础。该工作强调，如果不能准确感知分子图，高层级的推理任务本质上是不可靠的。

局限性
作者承认，目前的阶梯式设计将推理建模为线性链。随着任务远离初始的结构理解阶段，结构感知的直接影响可能会减弱，导致在优化任务上的提升不如属性预测任务那样显著。他们建议，未来的工作应探索更灵活、非线性的推理框架，使 LLM 能够在不产生混合任务训练中所观察到的干扰情况下，将分子结构作为实现多样化任务的基础。