The Dynamics of Intelligence Explosions

想象一下你正在观看一场赛车比赛，而赛车正变得越来越擅长自我构建。在人工智能的世界里，有一个迷人的概念叫做“智能爆炸”。这个概念是指，如果一台计算机变得足够聪明，能够协助设计下一台更聪明的计算机，那么这台新计算机就能帮助设计出更优秀的计算机，以此类推。这创造了一个反馈回路，就像麦克风离扬声器太近时产生的刺耳回授声一样，只不过这次产生的不是噪音，而是智能的快速爆发。科学家们一直试图弄清楚这种过程究竟会发生得有多快。它会是一个稳步攀升的过程、一场快速冲刺，还是在眨眼之间突然跳跃到无穷大的“不可能之跃”？数学家托比·奥德（Toby Ord）在他的论文中探讨了这个问题。他研究了这些自我改进型机器背后的数学原理，以观察它们是否真的能达到一种“奇点”——即智能增长如此之快，以至于在有限的时间内撞上了一道垂直的墙；或者是否存在其他虽然稍慢、但依然极其快速的演变方式。

---

迈向无穷的竞赛：为什么“跳跃”可能比我们想象的更难

想象一下你在烤蛋糕，但你使用的不是定时器，而是一个神奇的烤箱。每当你烤好一个蛋糕，烤箱就会变得更聪明，并为下一轮准备一个更好的烤箱。第一个烤箱需要10分钟。第二个烤箱因为更聪明，能在5分钟内造出第三个。第三个在2.5分钟内造出第四个。如果这种情况持续下去，且制造下一个烤箱所需的时间不断减半，你可能会认为你可以在短短几个小时内烤出无限数量的蛋糕。这就是“智能爆炸”的梦想：一台机器不断让自己变得更聪明、更快，直到在瞬间超越人类所有的理解。

长期以来，许多专家认为这种爆炸会呈现出一种“垂直渐近线”的形态。用数学术语来说，想象一个图形，其曲线像火箭撞向天空一样直冲云霄，在有限的时间内达到无限高度。这是终极的“大爆炸”。但托比·奥德的论文指出，虽然这种垂直火箭是可能的，但它的建造难度比我们想象的要大得多。事实上，还存在另一类完全不同的爆炸，它们虽然极其迅速——比指数级增长还要快——但并不会直接冲向无穷大的垂直墙。

秘密成分：“代际时间”

要理解为什么垂直火箭如此难以建造，我们需要观察一个大多数人都忽略掉的隐藏变量：代际时间（Generation Time）。

把这个反馈回路想象成一场接力赛。第一名选手（AI 1）将接力棒传给第二名选手（AI 2），第二名传给第三名（AI 3）。“代际时间”就是一名选手完成其路程并准备好下一位选手所需的时间。

在旧的、简单的数学模型中，人们假设这种接力是瞬间完成的，或者至少是以恒定速度进行的。他们认为，如果选手变得越来越快（即拥有更多“智能”），比赛就会直接加速到无穷大。但奥德指出了一个关键缺陷：除非每一圈所需的时间缩减到零，否则你无法在有限的时间内跑完无限圈。

想象你在跑一场比赛，你必须完成无限圈。

• 场景 A： 你跑第一圈用10秒，第二圈用9秒，第三圈用8秒。你变快了，但你仍然会花费10秒、9秒。无论你变得多快，你都无法在短短10分钟内完成无限圈。你会耗尽时间。
• 场景 B： 你跑第一圈用10秒，第二圈用5秒，第三圈用2.5秒，第四圈用1.25秒。在这里，每一圈的时间都在迅速缩减。如果你能不断将时间减半，你确实可以在有限的时间内（比如总共20秒）完成无限圈。

奥德的论文表明，要让智能爆炸撞向那个“垂直渐近线”（奇点），代际时间（制造下一个 AI 的时间）必须以极其惊人的速度趋向于零。仅仅让 AI 变得更聪明是不够的，制造下一个 AI 的过程本身必须变得不可思议地快。

“中间地带”的爆炸

这里有一个转折：论文指出，虽然“垂直渐近线”是可能的，但它其实非常罕见。存在着一个巨大的、被忽视的中间地带。

想象一条**超指数级（super-exponential）**的增长曲线。这意味着它的增长速度比标准的指数曲线（如复利）还要快。它正在图表上飞速上升！但由于代际时间缩减得不够快，没有缩减到零，这条线永远不会变成垂直线。它只是在不停地攀升，越来越快，永无止境，但永远不会撞上那面“有限时间内达到无穷大”的墙。

奥德称之为“亚奇点（sub-singular）”增长。这仍然是极其恐怖的。这仍然是一种爆炸。但它不是某些模型所预测的那种“魔幻垂直跳跃”。它更像是一枚火箭，其加速度如此之大，以至于感觉像是要撕裂宇宙，但它从未真正触及那个不可能的垂直悬崖。

为什么数学很重要（以及为什么它很复杂）

论文使用了一些高深的数学来证明这一点，但核心思想很简单：你无法绕过时间的约束。

在旧的模型中，人们使用的方程假设 AI 可以瞬间提高自身的运行速度。但在现实世界中，构建一个新的 AI 是需要时间的。你必须设计它、训练它并测试它。即使 AI 是个天才，编写代码或运行实验仍然需要时间。

奥德表明，如果你认真对待这种“时间”（使用他所谓的“嵌入时间的差分方程”），实现奇点的条件会变得非常苛刻。你需要两件事同时发生：

1. AI 必须不断变得更好且永不停止（无界增长）。
2. 制造下一个版本所需的时间必须极其迅速地趋向于零（“芝诺条件”）。

如果制造下一个 AI 的时间触及了一个底线——例如，无论 AI 有多聪明，训练一个新模型至少需要1小时——那么垂直爆炸是不可能的。增长只会变成一条非常陡峭、非常快速的指数曲线，但它不会成为一个奇点。

测量的陷阱

论文还警告我们要注意如何衡量“智能”。想象你在衡量一个国际象棋选手的水平。

• 衡量标准 A： 他们连续赢了多少局。
• 衡量标准 B： 他们下棋的速度有多快。

如果一个 AI 变得如此强大，以至于它从不犯错，那么衡量标准 A 可能会趋向于无穷大（无限连胜）。但衡量标准 B 可能只会达到一个极限（它不能移动得比光还快）。论文认为，一些流行的衡量 AI 进步的方法看起来像是正在撞向“奇点”（趋向无穷大），仅仅是因为我们的测量方式导致的，而不是因为 AI 真的变得有了无限的智能。这就像物理学中的坐标奇点：它是地图上的一个故障，而不是地形中真实的悬崖。

底线

那么，这一切对未来意味着什么？

托比·奥德并不是说爆炸不会发生。他是说，“垂直渐近线”（瞬间跳跃到无限智能）比简单的数学模型所暗示的要难实现得多。它要求 AI 不仅要变得更聪明，还要让变得更聪明这个过程变得不可思议地快，使代际之间的间隔向零收缩。

相反，我们更有可能看到一场“超指数级”的爆炸。这仍然是一个变化极其迅速的时期，AI 的能力会以倍数和更快的速度翻倍，甚至可能超越我们控制它们的能力。这是一种“快速通道”式的爆炸，而非“垂直跳跃”式的爆炸。

论文表明，如果我们想要理解 AI 的未来，我们不应仅仅观察 AI 变得多么聪明。我们需要观察代际时间。构建下一个版本需要多长时间？如果那个时间停止了缩减，垂直爆炸就会停止。如果它继续缩减，我们可能正面临一场比预想中更加疯狂的旅程。

简而言之：爆炸是真实的，但“垂直悬崖”可能只是一个幻象。真正的危险在于，那种速度快到让你感觉像是悬崖，即便在技术层面上它只是一座非常陡峭的山坡。而这本身，就足以永远改变世界。