A systematic investigation of molecular encoding methods for drug property predictions across neural network and Transformer encoder-based model

在发现新药的竞赛中，科学家们面临着一项艰巨的挑战：可能存在的药物分子宇宙是极其浩瀚的，但在实验室中测试所有这些分子是不可能的。为了应对这一挑战，研究人员利用计算机在分子合成之前，先预测其行为。这一过程依赖于一个至关重要的第一步：将化学物质复杂的、三维的形状转化为计算机可以读取的语言。可以将这种转换想象成将一个物理对象转换为条形码；条形码的设计方式决定了计算机在多大程度上能理解该对象的属性，例如它是否能溶解在水中、是否能进入大脑，或是否会造成伤害。多年来，科学家们一直在争论哪种“条形码”系统效果最好，且往往假设更复杂的计算机模型会自动解决问题。然而，这些预测的有效性很大程度上取决于初始翻译的质量，而不仅仅是分析它的计算机模型的复杂程度。

来自台湾国立清华大学的一个研究小组致力于通过系统地测试不同的分子结构编码方式如何影响预测准确性，从而解决这场争论。他们专注于两种截然不同的计算机架构：一种是标准的神经网络，其功能类似于一个简单的、分层的决策者；另一种是更先进的基于 Transformer 的模型，这是一种最初为理解人类语言而设计的 AI 类型，能够同时权衡句子中不同部分的重要性。研究人员向这两个模型输入了多种分子“条形码”，包括映射原子连接的传统拓扑指纹、识别特定化学基团的基于子结构的编码，以及将分子视为文本处理的字符串表示法。他们利用涵盖多种任务（从预测毒性和致突变性到估算药物穿透血脑屏障的能力）的七个知名数据集对这些系统进行了训练。

研究结果为该领域提供了一份清晰且具有实践意义的指南。与“更复杂的 Transformer 模型将始终优于简单的神经网络”这一假设相反，研究发现，在大多数任务中，标准模型往往能达到相等甚至略高的准确度。事实上，分子编码方法的选择被证明比计算机模型本身的选择更为关键。例如，在预测分子是否具有毒性的任务中，一种被称为 MACCS 的特定类型指纹在简单模型中表现最佳，而另一种被称为 FCFP 的指纹在复杂模型中表现最好。这表明不存在适用于所有化学问题的单一“完美”代码；最佳方法完全取决于所要预测的具体属性。研究人员还在外部数据集上验证了他们的发现，证实了他们的模型在面对新的、未见过的数据时依然保持稳健，在若干生物分类任务中的平均准确率得分始终超过 0.9。

除了原始性能之外，该研究还解决了人工智能领域的一个主要障碍：可解释性。通常，强大的 AI 模型就像“黑匣子”一样，只给出答案而不解释原因。研究人员展示了 Transformer 模型虽然并非总是最准确的，但它提供了一个观察其自身推理过程的独特窗口。通过分析模型的内部“注意力”权重——这些权重指示了计算机对输入内容中哪些部分关注度最高——他们可以在不需要外部解释工具的情况下，识别出驱动预测结果的具体化学子结构。在一个比较吗啡（Morphine）和海洛因（Heroin）的引人注目的案例研究中，模型正确地识别出吗啡中羟基（含氧结构）的存在使其比缺乏这些基团的海洛因更不容易穿透血脑屏障。模型在吗啡中对这些羟基特征分配了更高的注意力，这与已有的化学知识相吻合。这种能够突出化学意义模式的能力表明，这些模型不仅可以预测结果，还能帮助科学家理解其背后的结构原因。

最终，这项工作将重点从仅仅构建更大、更复杂的模型，转向了仔细选择合适的工具。研究人员得出结论，虽然像 Transformer 这样的先进架构为分子如何相互作用提供了有价值的见解，但它们并不自动保证更优越的预测。相反，最有效的策略是将特定的分子编码方法与所选的预测任务及模型架构进行匹配。通过在准确性之外优先考虑可解释性，这种方法为药物研发提供了一条更具原则性的路径，确保用于设计救命药物的计算机模型不仅强大，而且易于理解且可靠。