🔬 physics

The Evolutionary Dynamics of AI, Politicization, Contestation, and Trust in Science Funding

本文采用演化博弈论模型证明，感知到的科学资助政治干预会引发科学家的级联式抵制，从而导致差异化的制度结果，即运作能力与公众合法性受制于各自独立的、且深受公众对人工智能辅助评审系统接受度影响的脱钩条件。

原作者： Animesh Ray

发布于 2026-07-30

📖 1 分钟阅读☕ 轻松阅读

原作者： Animesh Ray

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一场规模宏大、赌注极高的“展示与讲述”（Show and Tell）游戏，它正驱动着我们现代世界的引擎。在这场游戏中，天才科学家们构思出关于新药、清洁能源和更快速计算机的奇思妙想。为了获得建造这些构想所需的资金，他们必须说服一个专家小组，证明他们的计划是优秀的。这个过程被称为同行评审（peer review），它是决定哪些项目获得资助、哪些项目空手而归的守门人。为了让这个系统正常运转，必须满足两个条件：首先，专家们必须真正履行阅读提案的工作（能力）；其次，我们——公众——必须相信这个过程是公平的，而不是被政客操纵的（合法性）。如果公众认为这场游戏不公平，他们就会不再信任结果，即便科学家们仍在尽职尽责，整个系统也会走向崩溃。

现在，想象政府决定通过引入一个超级快速的机器人法官（人工智能）来协助阅读提案，以加快进度，尤其是在人类专家开始抱怨系统不公的情况下。这就是 Animesh Ray 的一项新研究介入的地方。作者构建了一个复杂的计算机模拟——一个数字沙盒——来观察当科学家、公众和资助机构在一种混乱且政治化的环境中相互反应时会发生什么。研究表明，仅仅用机器人替换人类并不能解决问题；事实上，它可能会创造出一个“僵尸版”的资助机构，它不断产生决策，却失去了所有的灵魂和公众信任。

数字沙盒：策略之战

在这次模拟中，作者将资助世界视为一场涉及科学家、公众和资助机构的三方拉锯战。

科学家们有一些招数。他们可以表现得温顺，评审同事的工作，并提交自己的提案。但如果他们觉得系统被操纵或不公平，他们就会开始抗议。他们可能会拒绝评审任何人的工作，或者试图通过提交海量提案来“淹没”系统，从而堵塞管道。这就像一群孩子在玩游戏时，决定要么遵守规则，要么在愤怒之下一次性向裁判投掷一千个球。

公众在密切观察。他们想知道游戏是否公平。如果他们看到机构在没有充分解释的情况下过度依赖机器人法官（AI），或者看到科学家们在争斗，他们就会停止信任整个体系。他们可能会接受新系统，拒绝它，甚至尝试通过诉讼（litigate）来阻止它。

资助机构是试图维持游戏进行的裁判。它拥有有限的预算和不断堆积的提案。当科学家们开始抗议时，机构试图通过做两件事来解决问题：给人类评审员支付更多的钱以让他们保持满意，以及加大 AI 机器人法官的投入量，以更快地处理积压的工作。

大惊喜：“僵尸”机构

模拟揭示了一些令人震惊且违反直觉的结果。最重要的发现是，运作能力（处理了多少提案）和制度合法性（公众对系统的信任程度）是两个可以独立失效的独立变量。

研究表明，机构可以成功使用 AI 来清理大量的提案积压，保持资金流动和机器人的全速运转。然而，就在同一时间，公众可能完全丧失对系统的信心，认为其决策是不合法的。作者称之为**“僵尸”状态**：该机构在技术层面上是活跃且在运转的，但其权威已经死亡。这就像一家餐厅因为有了机器人厨师而服务速度极快，但顾客讨厌食物和厨师，因此即使厨房正以 100% 的产能运行，顾客也停止光顾了。

“提案洪水”与预算陷阱

论文探讨的一个最生动的场景是当科学家们变得愤怒时会发生什么。他们不仅会拒绝工作，还可能决定用成千上万的额外提案来“淹没”系统。模拟显示，这种策略能极其有效地破坏系统。即使 AI 机器人速度极快，如果科学家们不断向它投掷越来越多的提案，它也无法招架。

转折在于：机构试图通过向人类评审员支付更多报酬来换回他们的支持。但研究表明，这可能会产生反作用。如果公众看到机构在危机期间向科学家发放巨额“紧急”款项，他们可能会将其视为贿赂。这种认知会摧毁仅存的信任，使情况变得更糟。此外，支付人类更高的费用会耗尽预算，这意味着剩下的钱就不足以支付 AI 机器人，从而形成一个恶性循环：机构无法负担它试图解决的问题。

偶然性与时机的作用

论文还强调，结果并不总是可预测的。在模拟中，由于人们早期反应的微小随机差异，相同的初始条件可能会导致截然不同的结局。有时，最初的一点点额外的信任可以挽救系统；而有时，一点点不信任的火星就会导致全面崩溃。研究表明，一旦系统陷入“僵尸”状态或全面崩溃，就很难再拉回。

本文并未说明的内容

需要注意的是，本文并未声称什么。它并不是说 AI 是坏的，或者我们永远不该使用它。模拟实际上显示 AI 可以有效地处理提案。问题不在于技术本身，而在于围绕技术的信任。研究也没有说科学家本质上是坏的，或者他们一定会淹没系统；相反，它指出如果政治环境变得足够糟糕，向系统“灌水”就成了他们的一种理性选择。

核心结论

简单来说，这项研究表明，你不能仅仅通过更快的机器人或更高的薪水来解决信任危机。如果公众认为游戏被操纵了，再多的 AI 高效也无法修复它。机构或许能维持灯火通明并让提案流转，但如果观察者失去了信心，整个事业就会变成一个空壳。关键在于，修复“信任”部分的方程与修复“速度”部分同样重要，而且它们是两个不同的问题，需要两种不同的解决方案。如果我们不关注人类的情感和对公平的感知，我们就有可能建立起一个在纸面上运行完美、但在现实世界中却失败了的科学资助系统。

技术摘要：人工智能、政治化、抗争与科学资助信任度的演化动力学

问题陈述
现代民主社会依赖于对科学研究的公共资助，这一体系建立在运营能力（处理提案）与制度合法性（公众对公平性的信任）的双重支柱之上。该体系正面临双重威胁：一是感知到的资助决策中的政治干预，二是人类同行评审被人工智能（AI）取代的可能性。本文旨在解决理解这些因素如何相互作用的关键空白。具体而言，它研究了通过采用 AI 所获得的运营效率，是否能够补偿因感知到的政治偏见和人类专业知识流失而导致的制度合法性侵蚀。核心问题在于，能力（capacity）与合法性（legitimacy）是耦合的还是独立的动态过程，以及当科学家进行抵抗（通过拒绝评审或过度提交提案）且公众对 AI 采用做出反应时，这些动态如何演化。

研究方法
作者采用进化博弈论模型来模拟三个相互作用的人口群体的协同演化动力学：

科学家： 一个在四种策略中进行选择的人口：正常参与（ $N$ ）、拒绝评审（ $R$ ）、提案强化/泛滥（ $P$ ），或两者的结合（ $B$ ）。
公众： 一个在接受 AI 辅助评审（ $A$ ）、公开拒绝（ $J$ ）或诉讼（ $S$ ）之间进行选择的人口。
资助机构： 被建模为一个适应性控制器，而非进化的策略人口。它根据其他两个人口的反应来调整两个政策杠杆：AI 采用水平（ $\phi$ ）和人类评审员的经济报酬（ $\rho$ ），并受限于有限的预算。

该系统由成对比较模仿动力学（费米动力学）驱动，其中代理人根据相对收益采取策略。机构作为一个响应能力的控制器，通过增加 AI 部署来弥合提案负荷与人类评审能力之间的差距，同时调整评审员薪酬以激励参与。模型区分了运营能力（处理提案的能力）与制度合法性（公众信任），并将二者视为可以独立失效的独立状态变量。

研究使用了确定性轨迹和有限人口随机过程（Wright–Fisher 重采样和个体层面的成对比较）进行模拟。研究利用参数扫描、拉丁超立方采样和主成分分析（PCA）来绘制状态空间图谱并识别吸引子。

主要贡献与结果

能力与合法性的解耦：
模型表明，运营能力和制度合法性遵循各自独立的动力学过程，并且可以独立失效。

能力失效： 即使采用最大程度的 AI 部署，如果科学家采取“提案强化”（在拒绝评审的同时向系统大量提交提案）策略，系统仍可能无法清除积压。其约束因素通常是共享预算：抵抗行为推高了评审员薪酬，从而消耗了预算，导致无论技术上的 AI 能力如何，机构都无法资助 AI 运营。
合法性失效： 相反，系统可以在实现完全运营恢复（清除积压）的同时，公众信任却完全崩溃，从而形成一个技术上运作但缺乏权威的“僵尸”机构。

“提案泛滥”机制：
与直觉中科学家主要通过拒绝评审来进行抵抗不同，模型发现提案强化才是主要的报复策略。科学家可能会继续评审（以避免直接的职业制裁），但会向机构大量提交提案。这种策略使系统过载的速度超过了 AI 的扩展速度，导致即使在人类拒绝率较低的情况下，依然存在持续的拥堵。
紧急薪酬的“贿赂-信号”效应：
模型识别出一种反直觉的动态：在危机期间通过提高评审员薪酬来确保合作可能会产生适得其反的效果。如果公众将紧急薪酬视为平息抵抗的“贿赂”，则会加速制度合法性的侵蚀。这种效应主要发生在高抵抗度且薪酬保持在高位的政体中；在低抵抗度政体中，薪酬会回归基准，使得“贿赂-信号”失效。
双稳态与对初始条件的敏感性：
系统在合法性方面表现出双稳态特征。最终状态（恢复还是崩溃）并非取决于制度修复的速度或 AI 采用的程度，而是由公众的接受动态和初始条件（例如初始抵抗种子）决定的。

随机结果： 在有限人口中，相同的机构可能由于随机漂移而达到截然不同的命运（如共同生存、共同失败或仅实现合法性恢复而无能力恢复）。
算法依赖性： 特定结果（如“僵尸”状态）出现的频率高度依赖于所假设的噪声过程。在 Wright–Fisher 重采样层下，“僵尸”状态频繁出现；而在个体层面成对比较（Fermi）过程中，则不存在此类状态，系统仅在“合法性恢复但无能力”与“共同失败”之间发生分叉。

阈值与相变：

抵抗阈值： 当政治化程度相对于拒绝评审的职业成本超过临界阈值时，抵抗级联就会爆发。
合法性阈值： AI 评审的合法性遵循剧烈的二元转变。只有当公众接受率的增长率超过来自拒绝、诉讼和抵抗的综合侵蚀率时，它才能生存。
能力阈值： 实现完全运营恢复要求 AI 生产力与部署上限的乘积超过提案负荷倍数（即 $\beta_{AI} \cdot \phi_{max} > \chi$ ）。

意义与主张
本文声称提供了一个严谨的定量框架，用于理解在 AI 和政治极化时代科学资助体系的结构性脆弱。其主要意义在于指出：自动化并不等于信任。模型表明，决策者不能仅依靠 AI 来解决能力危机，而不同时解决合法性危机，因为两者受不同的机制支配。

研究强调：

运营手段（AI）无法解决合法性问题： 恢复吞吐量并不自动恢复公众信任。
合法性手段无法解决能力问题： 增加公众接受度可以在系统仍然拥堵的情况下恢复信任。
早期干预至关重要： 由于系统对初始条件和随机漂移具有敏感性，改变公众接受度或科学家抵抗程度的早期行动可以决定机构的长期命运。
政策杠杆： 最有效的政策杠杆不一定是 AI 采用的速度或评审员薪酬的水平，而是对政治化程度的管理、降低抵抗的职业成本，以及设计能最大限度增加公众接受度增益的透明 AI 部署方案。

作者总结道，“AI 革命”是对科学资助社会契约的一次压力测试。如果不重新协商信任机制，用自动化系统取代人类专业知识可能会导致整个资助事业的制度合法性瓦解，可能导致一种状态：即尽管流程仍在运行，但科学的公众权威已然崩塌。论文明确呼吁对其参数（如专家的价格敏感度、信任恢复率）进行未来的实证校准，以完善其理论预测。