From AGI to ASI
本报告调查了从人类水平的人工通用智能（AGI）向人工超智能（ASI）的理论演进过程，概述了四种潜在的发展路径，分析了相关的瓶颈，并论证了未来可能涉及一系列变革性的社会变化而非单一的突发转变，从而有必要开展大规模的跨学科全球协作以做好准备。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
宏观图景：跨越终点线，并超越它
想象一下，人类目前正在训练一名跑步者，目标是达到世界顶级短跑运动员的速度。这个目标被称为 AGI（通用人工智能）。该论文认为，我们距离打造出这个“人类水平的跑步者”已经非常接近了。
但这份报告不仅仅关乎如何跨越那条终点线。它在追问：当跑步者继续奔跑时，会发生什么？
该报告探讨了从一台具备人类水平智能的机器（AGI）向一台超越全人类总和智能的机器（ASI 或人工超智能）演进的过程。它指出，一旦我们造出了这个“人类水平的跑步者”，这台机器可能不会就此止步；它可能会冲刺得如此之快，以至于变成一种完全不同的生命形态。
通往超智能的四条道路
作者提出了四条可能带我们从人类水平 AI 走向超智能的“道路”或路径。这些路径并非互斥，我们可能会同时沿着所有路径前进。
1. “更多大脑”之路（规模化 Scaling）
- 类比： 想象你拥有一个天才人类。现在，想象你拥有一百万个这样的天才副本，他们同时工作，彼此之间进行瞬时沟通，且永不疲倦。
- 主张： 即使单个 AI 的智能仅相当于人类平均水平，如果我们能同时运行数百万个这样的 AI 并将它们连接起来，这个“群体”就会变得超智能。这就像是将一只单只的蚂蚁变成一个超级蚁群。论文认为，仅仅向这个问题投入更多的计算能力（算力），或许就足以创造出这种庞大的集体智能。
2. “新引擎”之路（范式转移 Paradigm Shifts）
- 类比： 把目前的 AI 想象成一台非常高效的蒸汽机。它很出色，但也许存在速度极限。而一次“范式转移”就像是突然发明了喷气发动机或曲速驱动引擎。
- 主张： 我们可能会遇到一个瓶颈，即在现有的“蒸汽机”上投入更多燃料（数据/算力）也无法让它跑得更快。为了达到超智能，我们可能需要发明一种全新的“引擎”（一种构建 AI 的新方式），这种引擎在本质上比我们今天的技术更高效或更强大。
3. “自我进化”之路（递归改进 Recursive Improvement）
- 类比： 想象一位技师，他修理汽车的技术极其高超，以至于他可以制造出一个比自己更优秀的技师。而那个新的技师又会制造出更优秀的下一个，以此类推。
- 主张： 如果一个 AI 变得足够聪明，能够参与设计下一个版本的自身，它就可能进入一个反馈循环。它变得更聪明，从而帮助它变得更聪明，进而帮助它变得超强。这个过程可能发生得非常迅速，就像滚下山坡的雪球瞬间变成雪崩一样。
4. “团队协作”之路（多智能体集合 Multi-Agent Collectives）
- 类比： 想想人类的各种公司或政府。没有任何一个人掌握全部知识，但整个“组织”却能解决单个个体无法解决的问题。
- 主张： AI 智能体可能会组织成复杂的群体（如数字经济或数字公司），并在其中实现专业化分工。一个 AI 负责数学，另一个负责编程，还有一个负责战略。通过协作，这个“蜂巢思维”可以解决远超任何单个人类或单个 AI 能力范围的问题。
速度障碍（瓶颈 Bottlenecks）
论文警告说，通往超智能之路并非一帆风顺。存在一些“摩擦”或“速度障碍”，可能会减缓甚至停止我们的进程。
- 数据墙（The Data Wall）： AI 通过阅读书籍、网站和文章来学习。论文担心我们可能会耗尽高质量的人类文本。
- 反驳观点： 或许 AI 可以编写自己的教科书，或者通过模拟世界来进行学习，这样我们就不会缺乏 AI 的“食物”。
- 能源账单（The Energy Bill）： 超智能 AI 将需要海量的电力和硬件支持。
- 反驳观点： 如果 AI 变得足够擅长赚钱或解决问题，它可能会为自己的电力支出买单，甚至建造自己的发电厂。
- “人类天花板”（抽象障碍 Abstraction Barrier）： 这是一个棘手的问题。论文指出，AI 可能会被困在人类思想的“玻璃盒”中。因为它从人类数据中学习，所以它可能只能在人类的概念框架内思考。它可能计算得比我们快得多，但它是否能发明人类尚未构思出的“新概念”（例如一个新的物理学分支）？
- “停止按钮”（监管 Regulation）： 如果 AI 变得过于强大且进化过快，政府可能会感到恐慌，并为了安全起见对其设置“限速”。
- 反驳观点： 各国之间存在竞争。如果一个国家停止了，另一个可能不会，因此尽管有规则存在，“竞赛”仍会继续。
什么是超智能（以及它不是什么）
论文对 ASI 的定义非常谨慎，明确了它“不是”什么。
- 它不是魔法： ASI 无法违反物理定律。它不能瞬间移动，不能超越光速，也不能凭空创造万物。
- 它不是全知全能： 它不会瞬间掌握一切。它仍然需要学习，只是学习速度比我们快得多。
- 它不是一个单一的个体： 论文暗示，ASI 可能看起来不像一个单一的“神一般的”机器人，而更像是一个由数百万个 AI 工作者协作组成的庞大且无形的网络。
总结
作者得出结论，我们无法确定地预测未来。然而，我们在未来十年或二十年内从“人类水平 AI”转向“超智能 AI”的可能性是真实存在的，不应被忽视。
他们认为，我们需要将这件事视为一个重大的科学项目。我们需要：
- 更好地衡量我们的进展（创建新的测试标准，不仅衡量 AI 是否“像人”，还要衡量它是否“超越人类”）。
- 研究瓶颈（弄清楚数据墙或能源成本是否真的会阻碍我们）。
- 为变革做好准备，因为一旦跨越那个门槛，社会可能会发生我们目前无法想象的变化。
正如论文引用的阿兰·图灵所说：“我们只能看到很短距离的前景，但我们可以看到那里有大量的工作要做。”
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。