Quo Vadis? Scientific Discovery in the Age of Artificial Intelligence

几个世纪以来，通往新科学发现的道路一直是一段深刻的人类旅程。它始于一个问题，随后是数年的阅读、计算、测试和失败，这一切都由研究者的直觉和经验所引导。近年来，一位新伙伴加入了这段旅程：人工智能。起初，这些计算机程序就像专门的计算器，擅长解决特定的、狭窄的问题，但无法思考编程范围之外的内容。然而，随着先进语言模型的出现，发生了一次重大转变。这些系统经过海量人类知识的训练，现在能够进行推理、规划，并在不同领域之间建立联系，其方式是以前无法想象的。这为科学的未来提出了一个深刻的问题：这些机器仅仅是帮助我们工作得更快的工具，还是已经成为了能够独立进行发现的真正合作伙伴？

布拉格哲学研究所的研究员佩特尔·O·耶德利奇卡（Petr O. Jedlička）的一篇新论文探讨了这一确切的转折点。作者考察了人工智能如何迅速从一种小众工具转变为全球实验室和研究办公室的核心参与者。论文指出，我们已经进入了一个新时代，在这个时代，人工智能不再仅仅是一个被动的工具，而是科学过程中的积极参与者。它详细描述了这些系统目前如何帮助证明数学定理、设计化学实验，甚至生成关于人类行为的假设。然而，论文也给出了清醒的警告。虽然进步是真实且迅速的，但这些系统尚不完美。它们仍然会犯错，有时会编造从未发生过的事实，并且严重依赖人类的引导。核心结论是，虽然人工智能正在改变科学研究的方式，但人类研究者与机器之间的关系是复杂的，未来的发现将取决于我们如何管理这种新的伙伴关系。

要理解这种变化的规模，必须观察这些系统的进步速度。就在几年前，计算机在处理需要深度推理或以灵活方式理解世界任务时还显得力不从心。如今，先进的模型可以解决曾经属于专家领域的难题，并且它们进步的速度令其创造者都感到惊讶。论文指出，这些系统现在能够处理长期的、多步骤的任务，例如撰写完整的研究论文或规划一系列实验，而不仅仅是回答单个问题。这种能够针对单个项目工作数小时而不丢失目标的能力，标志着与早期工具的显著区别。

作者将当前的科学人工智能景观分为四种不同的类型，每种类型扮演着不同的角色。第一种类型是由专门系统组成的，专为一项特定工作而构建，例如预测蛋白质的三维结构。这些工具已经存在了一段时间，并在其狭窄领域内极其强大。第二种类型包括在人类身边工作的AI助手，帮助总结研究论文、编写代码或检查错误。这些是反应式的；它们在行动前会等待人类提出问题。第三种类型或许是最令人兴奋的，涉及AI智能体（AI agents）。这些系统可以更独立地行动。它们可以将一个大目标分解为较小的步骤，运行自己的模拟，批判自己的想法，甚至撰写科学手稿的草案。其中一些智能体被描述为“协同科学家”，因为它们可以执行许多与人类研究者相同的认知任务。第四种也是最后一种类别是最具物理性的：将AI与机器人结合的混合系统。这些“自动驾驶实验室”不仅可以规划实验，还可以物理性地混合化学物质、运行测试并分析结果，而无需人类接触设备。

论文提供了这些系统已经在取得成就的具体实例。在数学和计算机科学领域，人工智能已超越了简单的计算，开始帮助解决复杂的开放性问题。例如，一个系统帮助证明了一个关于旅行者在网络中可能路径的长久猜想，这项任务需要的是创造性的问题解决能力，而非仅仅是蛮力计算。在物理科学领域，人工智能正在帮助模拟复杂的现象，如流体动力学，甚至帮助设计了新型化学催化剂。在生命科学领域，其影响或许最为显著。系统已成功预测了蛋白质的结构，这项任务过去需要数年的实验室工作，而现在可以在几分钟内完成。最近，这些系统更进一步，提出了针对疾病的新型候选药物，并识别了细菌可能如何共享抗生素耐药性。在社会科学领域，人工智能正被用于模拟人类行为，甚至测试人们对不同类型信息的反应，但这同时也引发了关于这些系统如何影响人类信念的问题。

然而，论文并未刻意描绘一幅过于美好的蓝图。尽管取得了这些令人印象深刻的成就，作者强调了阻碍人工智能成为完全自主科学家的显著局限性。最大的问题之一是这些系统仍然会“产生幻觉”，这意味着它们会自信地陈述完全错误的事实。论文引用了一个令人不安的例子：一个AI系统生成了一个虚假的疾病名称，由于该错误看起来非常真实，人类研究人员最初误以为它是真实的。这表明，虽然人工智能可以产生大量内容，但它还不能在没有人类监督的情况下可靠地分辨真伪。此外，论文认为这些系统往往受限于它们所训练的数据。如果它们阅读的科学文献包含错误或偏见，人工智能很可能会重复这些同样的错误。还有一个问题是原创性：虽然人工智能可以以新的方式组合现有观点，但目前尚不清楚它是否能产生真正开辟全新领域的原创概念，就像人类天才有时所做的那样。

论文还探讨了随之而来的风险。在实践层面，存在这样一种危险：如果人工智能接管了过多的常规任务，年轻的科学家可能无法获得未来成为专家所需的培训。如果科学的“学徒过程”被自动化，下一代人类研究者可能会缺乏通过亲身实践获得的深层直觉理解。在更严肃的层面，论文讨论了潜在的滥用风险。由于这些系统可以快速设计实验并分析数据，理论上它们可能被用于制造危险的生物制剂或发起复杂的网络攻击。这些系统运作的速度意味着，风险升级的速度可能会超过我们的监管能力。

展望未来，作者认为我们正面临一种新的挑战。随着AI系统变得更加强大，它们可能会开始产生如此复杂或抽象的思想与解释，以至于人类研究者无法完全理解。这可能会导致一种情况，即机器正在进行一些我们无法验证甚至无法理解的发现。论文警告说，这可能导致科学变成一个“黑箱”，由推理过程对人类而言是不透明的机器所驱动。作者总结道，虽然人工智能是发现的强大引擎，但它不是人类判断力的替代品。科学的未来可能取决于一种精细的平衡，即人类与机器共同协作，由人类提供伦理引导、批判性监督以及机器目前所缺乏的深度理解。发现之旅不再仅仅是人类的努力；它是一条共同的路径，我们如何共同航行，将定义科学进步的下一个篇章。