All-Atom Structure Tokenizer: AtomLM-9b for Biomolecular Structure Prediction
该论文介绍了一种全原子结构分词器和 AtomLM-9b 语言模型，两者通过将复杂的几何结构压缩为离散标记并重建高保真原子结构，共同实现了与 AlphaFold 3 相当的生物分子结构预测性能。
原始论文采用 CC BY 4.0 许可（https://creativecommons.org/licenses/by/4.0/）。 这是一篇未经同行评审的预印本的AI生成解释。这不是医疗建议。请勿根据此内容做出健康决定。 阅读完整免责声明
要理解研究人员面临的挑战，首先必须领悟构成生命的分子那极其复杂的本质。蛋白质、DNA和RNA并非静态的雕像，而是由更小的化学单元组成的复杂的三维机器。它们的功能完全取决于这些链条如何在空间中折叠和扭转，从而使特定的原子彼此接触。几十年来，科学家们一直难以仅凭化学代码来预测这些形状。问题在于，一条链条可以折叠的方式是天文数字般的，且计算大型分子中每一个原子的精确位置在计算上是难以承受的。传统方法通常通过忽略单个原子的微观细节，转而关注链条的主干来简化问题，但这可能会遗漏决定药物如何与靶点结合或酶如何工作的关键相互作用。
现在，一个研究小组开发出一种新方法，弥合了高层化学描述与精确到原子级分子结构现实之间的鸿çgap。他们创建了一个系统，将分子的连续、流动的几何形状转化为一组离散的、易于处理的符号，就像将一段复杂的旋律转化为一系列音符一样。通过将分子的详细形状压缩为包含8,192个独特标记（tokens）的词汇表，他们能够训练出一个强大的人工智能，仅根据分子的化学身份来预测这些符号。一旦AI预测出符号序列，他们系统的第二部分就会将这些符号还原为包含每一个重原子的完整三维模型。这种方法使计算机能够在不被海量原始数据困扰的情况下学习分子折叠的规则，并达到足以媲美现有最先进工具的准确度。
这一成就的核心是一个被称为“全原子结构标记器”（all-atom structure tokenizer）的工具。想象一下尝试通过电话向朋友描述一座复杂雕塑的形状。如果你试图列出表面每一个点的坐标，对话将永无止境。相反，你可能会根据雕塑的主要组成部分——头、躯干、手臂——以及它们是如何连接的来进行描述。这个团队对分子也做了类似的处理。他们将蛋白质、DNA和小分子药物分子分解为标准的化学单元。对于蛋白质，一个单元是单个氨基酸残基；对于DNA，是一个核苷酸；对于小分子药物，则是单个重原子。然后，他们构建了一个神经网络，观察这些单元的整体组装情况，理解它们在空间中如何相互关联，并将这种空间排列转换为一段简短的数字字符串。
这个转换过程就是“标记器”。它将原子连续、漂浮的坐标挤压成一组固定的8,192个代码。研究人员使用了一种称为有限标量量化（finite scalar quantization）的技术，它就像一把高精度的尺子，将任何测量值都对齐到网格上最近的刻度线上。这确保了分子形状复杂的、无限的可能性被简化为有限的、可处理的词汇。至关重要的是，这个过程保留了分子的化学身份。系统知道某个特定的标记代表具有特定侧链的特定氨基酸，或者药物分子中的特定原子，而无需在标记本身中存储精确坐标。坐标会在稍后，即序列标记被预测之后才被恢复。
有了这个标记器，研究人员训练了一个大型语言模型，并将其命名为AtomLM-9b，用以预测这些结构标记。该模型基于一种强大的现有AI架构，但经过了针对化学领域的改编。它不是在阅读句子并预测下一个词，而是在阅读分子的化学身份——即原子列表及其连接方式——并预测描述其三维形状的结构标记序列。模型在训练期间并不会看到最终的三维结构；它只看到化学配方，并学习输出正确的标记序列。一旦模型生成了这个序列，标记器的搭档——“反标记器”（de-tokenizer）便接管工作。它读取标记序列以及原始化学信息，并重建分子的完整三维坐标。这个两步走的过程将理解序列的任务与绘制形状的任务分离开来，使得每个部分都可以独立进行优化。
这种方法的成果令人瞩目。在用于评估预测工具的标准蛋白质结构集测试中，该系统在一个主要基准测试中达到了0.832的全原子准确度得分，在另一个基准测试中达到了0.835。这些分数表明，重建的结构与实验观察到的真实形状极其接近。在针对特定蛋白质-蛋白质相互作用任务的直接对比中，新模型的成功率达到了75.01%，略高于AlphaFold 3已公布的72.93%的结果。该模型在预测DNA和RNA的形状，以及确定小分子药物如何与蛋白质结合方面也表现出了强劲的性能，而这些领域其他模型有时会表现挣扎。
研究人员在测试过程中非常谨慎，采用了严格的条件以确保结果的真实性。他们在大量的已知分子结构集合上训练模型，但排除了特定的测试案例，以防止模型仅仅是死记硬背答案。他们还验证了模型可以处理不同类型分子的复杂混合物，例如蛋白质与一段DNA及一个小分子药物同时结合的情况。该系统成功预测了这些复杂组装体的形状，证明了共享的标记词汇在不同类型的化学领域同样适用。该模型并不依赖于预先存在的结构模板或多序列比对（这些方法常被用于提升准确度），而是直接从数据中学习折叠的物理规则。
这项工作的显著之处之一在于语言模型与物理结构之间清晰的接口。通过使用离散的标记集，研究人员创造了一个清晰的边界：AI预测一个序列，而一个独立的、确定性的过程将该序列转化为三维模型。这种分离允许对AI在多大程度上理解化学与形状之间的关系进行严谨的评估。研究表明，这种离散方法不仅是一个理论练习，更是一种能够生成高保真原子结构的实用方法。该模型能够高精度地预测侧链和配体原子的位置，这表明它已经学习到了支配分子相互作用的微妙几何约束。
团队还通过一系列移除特定组件的测试探索了系统的极限，以观察每个部分对最终结果的贡献程度。他们发现，模型处理信息的层次化方式——从单个原子到化学单元，再到整体组装体——对于准确性至关重要。他们还发现，跨不同单元精炼原子位置的能力（允许蛋白质残基根据附近的药物分子调整其形状）对于获得正确的结合姿态至关重要。如果没有这些精炼过程，模型预测分子相互作用的能力会显著下降。这些发现证实，该系统不仅仅是在猜测，而是在捕捉分子组装的物理现实。
尽管该系统高度准确，但研究人员承认它并非完美。由于使用了有限的词汇表，一些非常罕见或不寻常的化学构型可能无法像常见构型那样被精确表示。该模型专注于重原子，目前尚未预测氢原子的位置以及周围水环境的影响，而这些对于某些特定的生物学问题非常重要。然而，对于绝大多数结构生物学任务而言，所提供的细节水平足以理解分子的功能。这种方法的成功表明，将分子几何形状视为一种具有不同类型化学单元共享词汇的语言，是解决结构预测问题的一种强大途径。
这项工作代表了科学家处理分子建模问题方式的一种转变。研究人员并没有试图在单个巨大的模拟中计算每一个原子之间的力，而是展示了语言模型可以学习分子形状的模式并高效地生成它们。将压缩几何形状的标记器与预测序列的语言模型相结合，提供了一条新的路径。它证明了生命的构建块的复杂性可以用紧凑、离散的形式来捕捉，并且人工智能可以学习以极高的精度驾驭这种形式。研究结果为药物研发和生物学研究提供了一个新工具，提供了一种仅基于化学成分即可预测从未见过的分子形状的方法。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。