Intern-S2-Preview: Scientific Agentic Foundation Model
该论文介绍了 Intern-S2-Preview，这是一系列通过专门的多模态预训练以及包含先进强化学习和记忆增强架构的统一后训练流水线进行训练的科学智能体基础模型，旨在实现科学推理、工具交互和长程任务方面的最先进性能。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一下，你正试图教会一个机器人如何成为一名科学家。在过去，我们给机器人大量的文本库，并要求它们像问答秀选手一样回答问题。但真正的科学并非一场问答赛；它是一场混乱、漫长的冒险。它涉及观察奇特的细胞图像、阅读像心跳一样起伏的图表、使用计算机工具进行实验，以及在没有迷失方向的情况下思考一个问题数小时。这篇论文关于构建一种新型的机器人“超级大脑”，它不仅仅是记忆事实，而是真正地“做”科学。它的设计旨在理解复杂的图像、预测未来的数值，并像侦探一样通过使用工具来解决长期的谜团。核心理念是，要成为一个真正的科学助手，AI 需要能够处理不同类型的信息（如文本、图像和数字），并在处理困难问题时保持稳定工作，而不至于放弃或陷入混乱。
来自上海人工智能实验室的团队介绍了他们的一系列新 AI 模型，称为 Intern-S2-Preview。可以将这个模型想象成一个拥有 3970 亿参数的庞大“通才型”科学家，它几乎读过所有写过的科学论文。但它不仅仅是坐着了解知识，它是为了“行动”而构建的。它可以看一张科学图表，理解背后的故事，然后使用计算机工具运行模拟或编写代码来测试假设。
以下是他们如何打造这位超级科学家的：
首先，他们通过向模型展示数百万份科学文档来对其进行训练，但不仅仅是文本。他们向它展示了实际的页面，包含了所有的图片、图表和公式及其原始布局。这就像是通过把整本教科书连同其中的图表一起交给学生，而不是仅仅朗读文本。这有助于模型理解科学家是如何呈现他们的想法的。
接着，他们赋予了模型一种特殊的“时间旅行”技能。大多数 AI 模型都不擅长预测序列中的下一个数值（例如天气模式或股票价格）。Intern-S2-Preview 获得了专门的升级来处理这些“时间序列”数据。它现在可以观察一段长长的数字序列，并准确预测接下来的变化，这对于预测气候变化或分析脑电信号等任务至关重要。
他们使用的最酷技巧之一叫做记忆解码器（Memory Decoder）。想象一下，那个 3970 亿参数的主大脑是一个博学多才的通才，它对万事万物都略知一二。但如果你需要一个仅针对生物学等极小领域的专家怎么办？与其重新训练整个庞大的大脑（这会很慢且可能让它忘记其他东西），不如为它连接一个被称为“记忆解码器”的小型专业化“笔记本”。这个笔记本保存着特定的生物学知识。当 AI 需要回答生物学问题时，它会查阅这个笔记本。结果如何？模型的生物学得分从 56.92 跃升至 60.32，而其通用知识保持完全不变。这就像是拥有一个天才朋友，每当你问及特定问题时，他都能瞬间调出专门的手册，而无需再去读一个新学位。
团队还教会了模型如何成为一个长程智能体（long-horizon agent）。这意味着 AI 可以规划一个多步骤的任务。它不再只是回答“法国的首都是哪里？”，而是可以被要求“设计一种新药”。它可能会：1) 搜索现有的研究，2) 编写代码来模拟药物的行为，3) 运行模拟，4) 意识到失败，5) 调整代码，6) 再次尝试。论文显示，通过使用一种称为“强化学习”的特殊训练方法，模型学会了如何处理这些长期的、复杂的流程，而不会陷入困境或犯下愚蠢的错误。
当他们测试 Intern-S2-Preview-397B 时，它的表现非常出色。在衡量其理解生物、化学和物理能力的测试中，它击败了许多其他顶尖模型。它在阅读科学图表和预测时间序列数据方面表现尤为出色，其表现往往优于那些规模更大或仅针对这些任务进行专门设计的模型。例如，在名为 Biology-Instructions 的测试中，它得分为 56.92，而在连接了记忆解码器后，得分提升到了 60.32。在 MMLU-Pro 等通用推理测试中，它得分 89.75，是开源模型中的佼佼者。
然而，作者谨慎地将其称为“预览版（Preview）”。这是一个强大的新工具，但它尚未完美。他们指出，虽然该模型在将推理与行动相结合方面表现出色，但在使之在极长、复杂的科学工作流中更加可靠方面，仍有改进空间。他们还强调，这个模型是一个基础——一个可以通过不同的“记忆笔记本”来适配不同科学领域的起点，而无需重建整个大脑。
简而言之，这篇论文展示了一种新型 AI，它准备好超越仅仅回答问题的阶段，开始从事真正的科学发现工作——从阅读复杂的图表到运行长期的实验，同时保持其通用知识的完整性和专业技能的敏锐度。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。