📈 economics

Racing to Ruin

本文分析了在灾难性灾难的阴影下，研发竞争如何通过监测透明度与企业对竞争对手理性程度的信任度之间的相互作用，从而为技术进步创造一个受限的均衡前沿。

原作者： Drew Fudenberg, Andrew Koh

发布于 2026-07-31

📖 1 分钟阅读☕ 轻松阅读

原作者： Drew Fudenberg, Andrew Koh

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

高风险游戏：“直到被告知停止为止”

想象一个世界，两家公司正在竞相打造终极超级工具。可以把它想象成两位厨师试图发明最完美、最美味的三明治。他们发明得越快，赚的钱就越多。但这里有个转折：这个配方如此强大，以至于如果他们稍微推得太远，整个厨房可能会爆炸，从而永远毁掉三明治、厨师和餐厅。这就是经济学中的“生存风险”（existential risk）领域。这是一个关于科学的问题：当聪明、理性的人在为奖品而竞争，但竞争本身可能会导致全人类灭亡时，他们会如何表现？

这里的核心概念是“竞赛”。在普通的比赛中，比如百米赛跑，你尽可能跑得快，因为第一名能赢得金牌。但在这种特定类型的比赛中，终点线是一个悬崖。如果你跑得太快，就会掉下去。这篇论文探讨了一个可怕的悖论：即使两名竞争者都认为如果大家都慢下来会更好，但由于害怕被甩在身后，他们可能会被迫不停地奔跑，直到撞上终点。这是一场以光速进行的“胆小鬼游戏”（game of chicken），唯一的生存之道是相信对手会转向，但你无法确定他们是否真的会转向。

论文：《奔向毁灭的竞赛》

这篇名为《奔向毁灭的竞赛》（Racing to Ruin）的论文深入探讨了一个简单但恐怖的模型：两家公司（我们称之为“科技 A”和“科技 B”）正在竞争推进一项危险的技术。作者德鲁·福登伯格（Drew Fudenberg）和安德鲁·科（Andrew Koh）设定了一个游戏场景：每向前迈进一步，公司的利润都会增加，但同时也增加了发生永久性灾难的可能性，这种灾难会抹去所有人的未来收益。

核心问题是：他们在停止之前会走多远？

完美世界：清晰的信号与信任

首先，作者设想了一个“完美”的世界。在这种情况下，科技 A 和科技 B 可以瞬间看到对方的动作。如果科技 A 按下了刹车，科技 B 会立即看到。他们还确信对方是聪明且理性的（他们不是“疯子”，不会仅仅为了好玩而一直跑下去）。

在这个完美的世界上，论文发现两家公司会在一个非常具体、可预测的点停止。这个点既不像单家公司独自行动时（垄断）那么远，也不像一家误以为对手即将退出时的公司那么远。作者证明，在拥有完美视野和完全信任的情况下，两家公司可以协调一致，在悬崖边缘之前停下。他们不会永无止境地竞赛；他们会找到一个安全的“天花板”并停在那里。

迷雾世界：当信号延迟时

现在，让我们加入一些迷雾。如果科技 A 停止了，但科技 B 要过一段时间才知道呢？也许消息传递很慢，或者存在信号延迟。论文称之为“不完全透明性”（imperfect transparency）。

在这里，情况变得混乱了。作者指出，如果消息太慢，两家公司可能会永远竞赛下去。为什么？因为科技 A 会想：“如果我现在停止，科技 B 在很长一段时间内都不会知道。在他们不知道期间，他们会继续奔跑并赚取比我更多的钱，而危险也会随之增加。”因此，科技 A 决定也继续奔跑。这创造了一个陷阱，使两家公司都在向悬崖狂奔，尽管他们都清楚这并非好事。论文证明，如果延迟足够长，就会出现一种平衡，即他们永远不会停止，灾难发生的概率为 100%。

然而，如果消息足够快（即使并不完美），他们仍然可以停下来。但他们可能会稍微超出安全限度。作者计算出，他们超出安全点的距离大致与消息的延迟程度成正比。如果消息非常快，他们几乎不会超出；如果消息很慢，他们会超出更多。

信任问题：如果你的对手是“疯子”怎么办？

最后一个转折涉及“信任”。如果科技 A 不确定科技 B 是否理性呢？如果存在一小部分概率，科技 B 是一个“疯狂类型”，无论如何都不会停止呢？

作者发现，信任是最关键的因素。他们根据科技 A 对科技 B 的信任程度将世界分为三个区域：

低信任： 如果科技 A 认为科技 B 是疯子的概率较大，他们就会奔向毁灭。如果另一方可能永远不会停止，为什么要冒险停止呢？灾难变得不可避免。
中等信任： 如果信任度恰到好处，则有两种可能的结果。要么他们立即同时停止（安全平衡），要么他们同时永远竞赛下去（危险平衡）。这就像抛硬币一样。
高信任： 如果科技 A 几乎确定科技 B 是理性的，他们就会停止。论文显示，随着信任度的增加，他们永远竞赛下去的概率会迅速下降（呈二次方关系下降）。

透明性的双刃剑

论文最令人惊讶的发现之一是，“观察”对手如何影响信任。通常，我们认为看得更多总是好事。但在这种情况下，透明性是一把双刃剑。

正面作用： 更快的信息有助于公司进行协调以停止。如果科技 A 停止了，科技 B 会迅速看到并也随之停止。
负面作用： 更快的信息也带来了“等待观察”的诱惑。如果科技 A 停止了，科技 B 可能会想：“我再等一秒钟，确认科技 A 真的停止了，这样我可以在停止前榨取最后一点利润。”如果每个人都这样做，他们最终可能会比预期的跑得更久。

作者表明，在某些信任水平下，加快信息传递速度实际上会破坏提前停止的能力。它可能会将公司从安全的“共同停止”平衡推向危险的“永远竞赛”平衡，仅仅是因为等待确认的诱惑变得过于强烈。

总结

论文的结论是，竞争与协调正在相互博弈。

竞争推动技术进步，因为每个人都想领先。
协调将技术拉回，因为每个人都想避开悬崖。

如果公司能够清晰地观察彼此并信任彼此，他们可以找到一个安全的停止点。但如果信号模糊或他们怀疑对方的理智，他们可能会一直奔跑直到最后，即便他们知道这会毁灭自己。作者并不是说这在现实世界中一定会发生，而是通过数学证明了在特定的（或错误的）条件下，这在理论上是可能发生的。

简而言之，这篇论文表明，要防止技术灾难，我们需要的不仅仅是聪明的公司，还需要一个能让它们即时观察彼此动作，并相信每个人都在遵守规则的系统。否则，这场向着悬崖的竞赛可能是无法阻挡的。

技术摘要：走向毁灭的竞赛 (Racing to Ruin)

1. 问题陈述

本文研究了在存在生存风险的情况下，双寡头垄断企业之间的研发（R&D）竞争：技术前沿的推进增加了灾难性事件发生的风险率，而该事件会使所有企业的流量收益永久降为零。与旨在率先夺取奖赏的标准专利竞赛模型不同，本研究的核心目标是确定企业在自愿停止之前，技术前沿会推进到何种程度。

核心矛盾源于竞争动机与协调之间的权衡。自身的流量利润随自身技术水平提高而增加，但随对手的技术水平提高而减少。当风险较低时，竞争动机占据主导，无论对手如何行动，企业都会继续竞赛。当风险相对于边际利润较高时，企业倾向于在且仅在对手也停止时才停止，从而将问题转化为一个协调博弈。本文探讨了以下问题：

技术前沿在均衡状态下会推进到多远？
透明度（监测对手停止的速度）和信任（对对手理性程度的信念）如何塑造这一前沿？
在何种条件下，“向毁灭赛跑”（导致必然灾难的无限扩张）会成为一种均衡结果？

2. 研究方法与模型设定

作者开发了一个两个企业（ $N=\{1,2\}$ ）之间的连续时间动态博弈。

技术与停止： 企业以单位速度推进技术，直到停止。停止是不可逆的。在基准模型中，企业能够完美且立即观察到对手的停止决策。
收益： 企业 $i$ 获得流量收益 $\pi(t_i, t_j)$ ，其中 $t_i$ 是其自身的技术水平， $t_j$ 是对手的技术水平。函数 $\pi$ 对自身技术呈严格递增关系，对对手技术呈严格递减关系。
灾难风险： 市场崩溃发生的速率为 $\lambda(T)$ ，其中 $T = \max(t_1, t_2)$ 是前沿技术规模。一旦发生崩溃，所有收益降为零。风险率 $\lambda$ 是非递减的。
代表性代理人基准： 作者构建了一个持有错误信念的“代表性企业”：它假设对手的技术水平冻结在当前时刻 $t$ 。该代理人解决一个最优停止问题，比较技术扩张的边际收益与灾难风险。其解 $\tau_R$ 作为关键基准。
扩展模型： 基准模型进行了以下扩展：
1. 不完全透明度： 停止行为的观察存在随机延迟 $E \sim \text{Exp}(\omega)$ 。
2. 不完全信任： 企业可能是“疯狂类型”（Kreps-Wilson 风格），即永远不会停止，其概率为 $1-p$ 。

3. 核心结果

A. 完全透明度（基准模型）

在完美监测和理性共同知识的前提下，均衡前沿被限制在特定区间 $[\tau, \tau_R]$ 内。

上界 ( $\tau_R$ )： 前沿不会超过代表性代理人的停止时间 ( $\tau_R$ )。如果一个企业在 $\tau_R$ 时刻停止，对手会立即观察到并同样停止。通过逆向归纳法确保没有任何企业会在 $\tau_R$ 之后继续。
下界 ( $\tau$ )： 前沿至少会推进到 $\tau$ ，即垄断者（对手技术为零）的停止时间。由于对数超模性（log-supermodularity），当对手处于活跃状态时，技术扩张的边际回报更高，这确保了前沿会超过垄断水平。
均衡结构： 均衡要么是“聚合型”（双方同时在 $\tau_R$ 停止），要么是“分散型”（一个先停，另一个后停，但前沿仍保持在 $[\tau, \tau_R]$ 之间）。
比较静态分析： 更高的风险率会将两个边界都向内拉。更强的竞争强度（利润对相对位置的敏感度更高）会将上界 $\tau_R$ 向外推。

B. 不完全透明度（延迟监测）

当停止行为被延迟（速率为 $\omega$ ）观察时，协调机制会被破坏。

向毁灭赛跑： 如果监测足够嘈杂（ $\omega < \bar{\omega}$ ），则存在双方企业永远竞赛直至灾难发生的均衡。延迟使得单方面停止无法及时得到对手的回应，从而无法挽救另一方。
超越上限（Overshooting）： 当监测非常精确时（ $\omega > \bar{\omega}$ ），每个均衡都会在有限时间内停止。然而，前沿可能会超过完美透明度下的上限 $\tau_R$ 。
定量边界： 在满足“尾部条件”（确保竞争损失不会消失且风险率有界）的情况下，预期的过度扩张量为 $O(1/\omega)$ 。随着监测趋于完美（ $\omega \to \infty$ ），前沿收敛于 $\tau_R$ 。
机制： 企业进行一场“减损战争”（war of attrition），等待观察对手是否先停止。等待的代价是持续的风险和利润侵蚀，而收益则是作为对手检测延迟期间的唯一生存者的微小收益。

C. 不完全信任（疯狂类型）

当企业不确定对手是否理性（理性概率为 $p$ ）时，动态会发生变化。作者识别了三个信任区间（令 $\ell = p/(1-p)$ ）：

低信任 ( $\ell < \underline{\ell}$ )： 每个均衡都导致向毁灭赛跑。担心对手是永远不会停止的“疯狂类型”使得单方面停止的成本过高。
中等信任 ( $\underline{\ell} \le \ell \le \bar{\ell}$ )： “立即共同停止”和“向毁灭赛跑”都是均衡。企业可以协调停止，但等待验证的诱惑（搭便车于信号）维持了这种糟糕的均衡。
高信任 ( $\ell > \bar{\ell}$ )： 在每个均衡中，向毁灭赛跑的概率（在双方均为理性类型的条件下）随先验赔率的平方 $(\bar{\ell}/\ell)^2$ 而趋于零。

透明度的双刃剑效应：
透明度与两种不同的协调模式产生不同的相互作用：

顺序协调（先停止）： 更快的监测（ $\uparrow \omega$ ）是有利的，因为它增加了互惠的价值（对手在检测后能更快停止）。
同时协调（一起停止）： 更快的监测是有害的，因为它降低了“等待并验证”这一偏离行为的成本。如果监测很快，企业可以等待确认对手已停止后再停止自己，从而破坏了同时协调。
因此，提高透明度可能首先破坏“共同停止”的均衡（使系统从“中等信任”转向“低信任”），然后最终实现“先停止”的协调（从“低信任”转向“高信任”）。

4. 贡献与意义

本文对动态研发、减损战争以及存在性风险经济学领域的文献做出了贡献。

过度风险的战略来源： 作者识别了一种即使在风险中性、高耐心代理人之间依然存在的过度风险承担的战略机制。由于透明度和信任摩擦导致的无法协调停止，即使在所有企业都希望停止的情况下，仍会导致灾难。
前沿的边界： 本文证明了在信息完美的情况下，前沿被严格限制在垄断和代表性代理人阈值之间，为“竞赛”行为提供了一个清晰的理论极限。
信息与信念的作用： 分析表明，透明度并非绝对有益。虽然它在长期内防止了无限竞赛，但它可能会动摇中间的协调机制。同样，信任是决定是否选择“坏均衡”（毁灭）的关键因素。
政策启示： 研究结果表明，在涉及高风险技术的竞赛中（如人工智能），监测机制的设计和信任的培养至关重要。仅仅使行为更加透明可能不足以防止毁灭，因为这可能同时激励“搭便车式”的验证行为。

文章结论指出，虽然在极限情况下完美透明度可以恢复效率上限，但不完全的透明度和信任创造了一个复杂的图景，其中“向毁灭赛跑”可以成为一种自我实现的均衡，凸显了在灾难阴影下协调的脆弱性。