Autocatalytic knowledge dynamics in the AI era

伟大的知识引擎：为什么我们不能就这样永远加速下去

想象一下人类发现的历史，它不是一条直线，而是一个在山坡上滚动的雪球。起初，它很小，几乎不动。但随着它滚动，它会吸收更多的雪，变得更大，滚得更快，从而收集到更多的雪。这就是**自催化（autocatalysis）**的概念：过去有助于创造未来，拥有的越多，获取新知识就越容易。在科学和技术领域，这意味着每一项新发现都为我们提供了制造下一项发现的工具。

然而，雪球不会在没有撞到墙之前永远滚动下去。它们最终会耗尽雪量，或者因为体积过大而开始摇晃并破碎。在现实世界中，我们的“知识雪球”也面临着类似的限制。我们需要能量来思考和建造，而我们的星球对于在功能失效前能承受多少热量是有极限的。此外，还有一个“噪音”问题——过多的虚假或无用信息使得寻找有价值的内容变得困难。

这引出了一个引人入胜的问题：我们的文明能否让学习持续加速，还是正走向一场崩溃？研究员鲍里斯·M·多尔戈诺索夫（Boris M. Dolgonosov）建立了一个数学模型来回答这个问题。他将人类知识视为一个生命系统，根据学习能力与所面临障碍之间的平衡，该系统会增长、减速，有时甚至会崩溃。

论文的核心思想：学习方程

在他的论文《AI时代的自催化知识动力学》中，多尔戈诺索夫试图为人类学习的速度编写“交通规则”。他认为，我们创造新知识的速度取决于三种主要力量之间的拉锯战。

1. 油门（自催化）
可以将其想象为“雪球效应”。我们拥有的知识越多，制造新知识就越容易。如果你知道如何制造轮子，你就可以制造手推车；如果你有了手推车，你就可以制造火车。论文认为，这种力量使我们的学习速度呈爆炸式增长，可能导致一个“奇点”——即事物快到仿佛在瞬间发生。

2. 刹车（资源与环境限制）
你不能一直踩着油门。最终，你会耗尽燃料（如资金、能源和材料等资源），或者引擎过热（环境限制）。论文指出，制造知识需要能量，而使用这些能量会产生热量。如果我们产生的热量过多，地球会变得过于炎热而无法生存。这起到了“资源-环境刹车”的作用，在我们达到那个不可能实现的奇点之前让我们减速。

3. 静态噪声（信息噪音与流失）
想象一下，当你最喜欢的音乐响起时，旁边有人在对着你大喊乱语。这就是当存在“噪音”——虚假新闻、过时的想法或无用数据——时发生的情况。论文表明，随着我们产生更多信息，我们也产生了更多必须过滤掉的“垃圾”。这浪费了能量并减慢了我们的速度。此外，旧知识有时会被遗忘或变得不再适用，这就像是丢失了地图的一部分。

模型预测：三种可能的未来

多尔戈诺索夫使用一个数学方程来模拟当这些力量相互对抗时会发生什么。他发现，人类知识的未来取决于这些力量之间的平衡，从而导致三种截然不同的情景：

• 幸福之路（增长）： 如果“油门”（自催化）足够强大，能够战胜刹车和静态噪声，我们的知识就会持续增长。发现的速度会不断加快，直到达到一个稳定的高水平，在那里我们不断地进行发明创造。
• 缓慢衰退（退化）： 如果刹车变得过于强大，我们的发现速度就会放缓。我们不会完全停止，但不再加速。我们仍在学习，但速度要慢得多，处于一种可控的状态。系统虽然存续，但不再像以前那样蓬勃发展。
• 崩溃（坍塌）： 如果刹车和静态噪声过于强大，或者我们初始拥有的知识太少，无法获得良好的运行周期，发现的速度就会降至零。系统停止学习，文明实际上发生了崩溃，因为它无法再解决新的问题。

AI 的角色：涡轮增压器

论文密切关注人工智能（AI）作为一个游戏规则改变者的角色。AI 充当了“油门”的巨大涡轮增压器。它帮助我们更快地处理信息，测试更多的想法，并连接我们以前无法看到的点。作者认为，AI 正在将我们推向一个新的“时代”。

然而，论文警告说，AI 也收紧了刹车。因为 AI 需要巨大的电力消耗并产生大量的热量，它可能会让我们更早地触及环境极限。此外，AI 可以生成如此多的“噪音”（虚假或未经证实的想法），以至于我们可能会陷入试图从好坏之中分辨真伪的困境。

数据说明了什么（以及没说明什么）

为了测试他的观点，作者查看了现实世界的数据，特别是世界知识产权组织（WIPO）提交的专利申请数量以及 arXiv 服务器上发布的科学论文数量。

• 专利平台期： 数据显示，专利申请长期以来一直在增长，但最近在 2020 年左右遇到了一个“平台期”（平坦的线条）。论文认为这是因为我们在当前技术领域遇到了暂时性的限制。然而，它预测随着 AI 更加融入工程领域，我们可能会看到一次新的增长跳跃——一个“相变”——届时曲线会再次上升。
• 预印本爆炸： 在科学论文领域，由于 AI 工具帮助研究人员更快地写作和分享想法，在 2023-2024 年间出现了巨大的激增。这支持了 AI 目前正在提升“油门”的观点。

总结

论文的结论是，我们正站在十字路口。我们拥有一个强大的引擎（AI）可以加速我们的学习，但我们也正在撞向一堵墙（能源极限和热量）。未来并不保证是一条向上的直线。相反，我们的文明可能会经历一系列“相变”——即突然的转变，届时我们要么找到克服限制并保持增长的方法，要么陷入一种更缓慢、更退化的状态。

作者指出，最关键的挑战不仅是创造更多知识，而是如何验证它。如果 AI 每秒钟能生成一千个理论，那么人类（或未来的 AI 系统）可能需要花一百年的时间仅仅去检查其中哪些是真的。在解决这个“验证瓶颈”之前，我们知识引擎上的刹车将始终紧绷。这篇论文并未承诺乌托邦或毁灭，它只是提供了一张可能的路线图，表明我们的生存取决于在学习驱动力与世界极限之间保持平衡。