The Industrialization of Research ; On AI-Driven Science and Its Consequences

伟大的转变：从匠人到流水线

想象一下，科学就像一个巨大的、全球性的工作坊，人们数百年来一直在其中构建知识。传统上，这个工作坊运行的是一种“手艺”模式。想想一位陶艺大师或铁匠：他们通过观察老师、亲手犯错，慢慢建立起对粘土或金属特性的深层直觉。他们不仅仅是在做一只陶罐；他们理解每一个裂纹和曲线背后的“为什么”和“如何做”。这种科学的“手艺”意味着每一位研究者都将整个过程——从最初的灵感火花到最终的结论——都装在脑海中，并将这种智慧像家族秘方一样传给下一代。

但现在，一种新的机器正进入这个工作坊：人工智能（AI）。这不仅仅是一个帮你算得更快的计算器；它是一种新型的劳动者，可以读完图书馆里的每一本书，猜测下一步该做哪个实验，并能独自完成报告。问题不在于这些机器是否强大——它们显然很强大。真正的问题是：当我们用工厂的组装流水线取代陶艺师时，人类的手艺会发生什么变化？如果我们让机器进行思考，我们是否会失去理解它们所告诉我们的内容的能力？本文正是探讨这一点：当科学不再是一场人类的对话，而开始看起来像一座工业工厂时，那一刻究竟发生了什么，以及为什么这可能会改变我们对发现的一切认知。

---

论文的核心观点：科学正在“工业化”

这篇文章由 Emmanuel Jeannot 撰写，认为我们正站在一场被称为“研究工业化”的巨大变革边缘。正如 19 世纪的工业革命将手工制品转变为大规模生产的工厂商品一样，AI 正在将科学发现从一种人类的手艺转变为一种自动化的流水线。

作者指出，虽然这种转变有望让科学变得更快并产生更多结果，但它也隐藏着代价：人类理解力的丧式以及创造一个我们无法控制或理解的科学世界的风险。

以下是文中提出的七大担忧，并辅以日常类比进行解释：

1. 失落的学徒制（“宗师”问题）
在过去，年轻的科学家通过与专家并肩工作来学习，不仅吸收事实，还吸收“直觉”——那种对于哪些问题值得提问的直觉。论文担心，如果 AI 承担了工作，我们将停止训练人类具备这种思维方式。

• 类比： 想象一下，如果一位国际象棋宗师不再教学生，而是直接让超级计算机去下所有的棋局。计算机每次都会赢，但学生永远学不会如何像宗师那样思考。最终，将没有人能够理解这项运动，并将其传授给下一代。论文暗示，如果我们雇佣更少的学生并购买更多的电脑，我们可能会失去科学的“活态记忆”。

2. 黑箱（“魔术戏法”问题）
科学不仅仅是为了得到正确的答案；更是为了理解为什么答案是正确的。论文警告说，AI 可能会给我们提供正确但人类无法理解的答案。

• 类比： 想象一位魔术师从帽子里变出一只兔子。如果你问魔术师是怎么做到的，他可能会说：“我只是挥了挥手。”如果 AI 是那位魔术师，它可能会给我们一个关于宇宙如何运作的完美理论，但其解释可能过于复杂且怪异，以至于人类的大脑无法跟上。我们得到了结果，却失去了理解的“顿悟”时刻。

3. “足够好”的陷阱（“乐高”问题）
AI 非常擅长寻找模式并将现有的想法以新的方式组合起来（就像用你已有的乐高积木搭建一座酷炫的城堡）。但论文质疑，AI 是否能实现“范式转移”——即意识到游戏规则本身是错误的情况，并发明一种全新的玩法。

• 类比： AI 就像一位名厨，可以结合世界上所有的风味来制作一道美味的新菜。但它能否意识到“烹饪”这个概念本身就是错的，并发明一种全新的喂养人类的方式？论文指出，AI 可能擅长进行微小的改进（渐进式进步），但可能会错过那些改变历史的巨大飞跃，比如爱因斯坦的相对论。

4. 谁来决定菜单？（“老板”问题）
目前，科学家遵循自己的好奇心，这会导致一些意外的发现（比如通过偶然发现青霉素）。论文担心，当庞大且昂贵的 AI 项目接管一切时，问题的方向将由政治家和大型公司决定，而不是由充满好奇心的科学家决定。

• 类比： 想象一家餐厅，厨师以前随心所欲地烹饪，从而做出了一些奇特但惊艳的菜肴。现在，一家大公司收购了厨房，并告诉厨师：“只准做汉堡，因为汉堡卖得好。”论文指出，一个名为“创世纪任务”（Genesis Mission）的庞大 AI 项目已经在由国家安全和工业目标驱动，这意味着气候变化等紧迫问题可能会因为对“老板”们来说不够“盈利”或不够“具有战略意义”而被忽视。

5. 双层世界（“贫富差距”问题）
论文预测科学界将会出现分裂。少数富有的机构将拥有超级计算机和 AI，而其他人将被抛在身后。

• 类比： 这就像一场捉迷藏游戏，富有的孩子拥有夜视仪，而贫穷的孩子只能在黑暗中瞎猜。贫穷孩子的发现会被用来训练富孩子的 AI，但贫穷的孩子却无法看到富孩子在做什么。这创造了一个“富足”的科学进展如此之快，以至于“贫困”的科学甚至无法理解其内容的局面，从而打破了全球性的对话。

6. 信息的洪流（“垃圾邮件”问题）
如果 AI 一天可以写出一百万篇科学论文，我们如何知道哪些是真实的？论文担心我们的审核机制（同行评审）将会崩溃。

• 类比： 想象一个图书馆，机器人每天写出一百万本书。图书管理员（人类评审员）无法读完它们。如果我们要求机器人去评审其他机器人的书，这就像是让一封垃圾邮件去检查另一封垃圾邮件是否真实。我们最终可能会面对一个充满了看似完美但毫无新意的书籍的图书馆，而且没有人能分辨其中的区别。

7. 回声壁效应（“沉默的错误”问题）
科学通常能自我修正错误，因为不同的人会互相检查彼此的工作。但如果一个 AI 流水线完成了从构思到检查结果的所有环节，它可能会在无人察觉的情况下反复犯同样的错误。

• 类比： 想象一群朋友试图解开一个谜题。如果他们都听信同一个略有偏差的人，他们最终都会达成一个错误的共识。论文称之为“复合误差”。如果 AI 在第一步犯了一个小错，并利用这个错误来设计第二步，那么错误会不断扩大，整个系统会逐渐偏离真相，而无人察觉。

总结

这篇论文并不是说我们应该停止使用 AI。它承认 AI 是一个强大的工具，可以做很多了不起的事情，比如寻找新的药物或材料。然而，作者认为，我们正在从“手艺”模式转向“工业”模式，却并未思考其后果。

其核心结论是一个警告：如果我们让 AI 接管思考，我们可能会获得更快的成果，但我们可能会失去理解这些成果的能力、培养新科学家的能力，以及提出最重要问题的自由。 论文敦促我们要谨慎且审慎，确保在我们建造这些强大机器的同时，不会在无意中建造出一个速度极快、效率极高，却完全脱离人类掌控的未来。