AI Scientists as Engines of Discovery: A Case for Development within Reformed Institutions

将科学想象成一座巨大的、拥有数百年历史的图书馆，而研究人员则是其中的图书管理员。在很长一段时间里，他们使用的工具——比如望远镜、显微镜或计算机——就像是更好的梯子或更亮的电筒。这些工具帮助图书管理员看得更远，或者找书更快，但图书管理员仍然需要负责阅读、思考和做决定。

这篇论文认为，我们正在进入一个新时代，这里的“工具”正在变成 AI 科学家。它们不仅仅是电筒；它们更像是勤奋、高效的机器人实习生团队，能够阅读图书馆里的每一本书，撰写自己的报告，甚至对宇宙如何运作提出新的理论。

以下是该论文的核心信息，通过简单的概念进行了拆解：

1. 新的“机器人研究团队”

作者指出，单一的 AI 程序（比如我们今天使用的聊天机器人）擅长总结事物，但在独立进行深度思考方面表现并不理想。真正的突破来自于 多智能体系统（Multi-Agent Systems）。

你可以将其想象成一个建筑施工队，而不是单个工人。论文描述了一个名为 Denario 的原型系统，它像是一个拥有四个特定角色的团队：

• 生成器（The Generator）： 一个负责提出新想法或模型的机器人。
• 批判者（The Critic）： 一个扮演“杠精”角色的机器人，负责寻找想法中的漏洞或错误。
• 验证者（The Verifier）： 一个负责运行测试，以验证这些想法是否能与真实数据相匹配的机器人。
• 管理者（The Manager）： 一个负责指挥其他成员下一步该做什么的机器人。

这个团队以机器的速度协同工作，探索数百万种人类团队根本没有时间去检查的可能性。

2. “相邻可能” vs. “新前沿”

论文使用了一个非常有用的隐喻，叫做 “相邻可能”（Adjacent Possible）。想象你身处一个摆满家具的房间。你可以重新排列椅子，移动桌子，或者将椅子和桌子结合起来制造一个新的座位。这就是“相邻可能”——利用你现有的东西所能做出的所有事情。

• AI 的超能力： AI 非常擅长重新排列这些“家具”。它能比任何人类都更快地找到现有想法的所有可能组合。
• 人类的超能力： 人类被需要去意识到这个房间本身太小了，我们需要建造一座新房子。人类需要提出正确的问题，需要感知到即使数学逻辑看起来没错，但直觉上觉得“不对劲”的感觉，并决定什么才是真正重要的。

论文警告说，如果我们让 AI 做一切，我们最终可能会得到一个充满了完美文笔、却毫无新意的图书馆。我们需要人类来掌舵，驶向真理，而不仅仅是追求速度。

3. “破碎图书馆”的危险

作者担心，我们目前的科学“游戏规则”（期刊、同行评审、资助机制）是为人类设计的，而不是为 AI 机器人设计的。如果我们不更新这些规则，系统可能会以可怕的方式崩溃：

• 洪水效应（The Flood）： AI 可以在一天内写出数千篇研究论文。如果期刊无法跟上进度，它们可能会被垃圾信息或虚假事实（即“幻觉”）所淹没。
• 回声壁效应（The Echo Chamber）： 如果每个人都使用相同的 AI 来撰写论文，每个人都会开始以同样的方式思考。我们可能会失去那些导致重大突破的“创造性混沌”。
• 能力萎缩（The Atrophy）： 如果我们让 AI 完成所有的艰苦思考，我们的大脑可能会变得懒惰。我们可能会忘记如何进行深度思考，或者失去忍受那些通往真正发现的挫折感的能力。

4. 需要做出哪些改变？（解决方案）

论文认为，我们不应该停止使用 AI，但必须重新设计围绕它的制度。他们提出了六条规则来确保科学的安全与有用：

1. 展示你的过程： 如果 AI 参与了论文的撰写，你必须明确展示它具体做了什么（就像提供一份食材清单的收据）。
2. 事事核查： 我们需要自动化的工具来检查 AI 生成的代码和数据是否真实，以便人类能专注于宏大的构想。
3. 安全闸门： 如果 AI 正在从事危险领域（如生物学或化学），在进行任何实际实验之前，必须由人类按下“启动”键。
4. 保持多样性： 资助机构应该资助那些奇特、不同的想法，而不仅仅是那些看起来符合 AI 认为“安全”的方案。
5. 人类判断： 人类必须始终是重要事务的最终决策者。我们不能仅仅让机器人来决定什么是真理。
6. 功劳归于其人： AI 可以是一种工具，但它不能成为“作者”。人类必须对研究成果承担责任。

核心结论

论文最后提出了一个哲学性的思考：科学的目的不在于产生最多的论文或最快的结果，而在于理解世界。

AI 是一个强大的引擎，但它没有指南针。它无法在深层的人类意义上理解什么是“美”或“真理”。目标不是用机器人取代人类科学家，而是建立一种伙伴关系：让机器人处理数据和计算等繁重体力活，从而释放人类，去从事那些理解事物本质的、深度的、创造性的以及具有道德意义的工作。

如果我们不建立正确的护栏，我们面临的风险是让科学变成一个生产废话的高效工厂。如果我们建立了护栏，我们就能开启一个新的发现黄金时代。