💻 computer science

Navigating Epistemic Monocultures in AI-Driven Science: A Simulation Study

这项使用 NK 地景模型的模拟研究表明，虽然非个性化人工智能往往通过创造认识论上的单调文化来损害科学多样性，但只要有有效的制度适应和新标准的支撑，个性化人工智能就能在多种条件下扩大发现收益。

原作者： Sina Fazelpour, Joseph O'Brien, Hannah Rubin

发布于 2026-08-21

📖 1 分钟阅读☕ 轻松阅读

原作者： Sina Fazelpour, Joseph O'Brien, Hannah Rubin

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

科学历来是一项集体事业，是一场宏大的对话，研究人员在其中不断借鉴彼此的工作成果，以解决复杂的难题。近年来，一个新参与者加入了这场对话：人工智能。这些工具现在正帮助科学家生成想法、分析数据，甚至进行实验，有望加速发现进程并让先进的研究变得更加触手可及。然而，人们日益担心过度依赖这些工具可能会产生反作用。如果每位科学家都使用相同的 AI 来指导他们的工作，他们可能会最终以同样的方式思考，遵循同样的路径，并忽略其他的替代方案。这种现象被称为“认识论单调”（epistemic monoculture），它可能会剥夺科学所需的多元视角和方法，而这些正是寻找最佳答案所必需的。问题不仅在于 AI 是否有帮助，还在于在何种条件下，它可能会真正损害对真理的集体探索。

为了探讨这种张力，来自东北大学、加州大学圣迭戈分校和密苏里大学的研究团队创建了一个计算机模拟系统，用以模拟科学界在采用 AI 时的行为模式。他们并没有测试真实的科学家或真实的实验室；相反，他们构建了一个数字世界，其中的虚拟研究人员（或称“智能体”）试图解决一个复杂的问题。在这个世界里，解决问题意味着做出系列相互关联的选择，就像调频收音机以寻找最清晰的信号一样。有些选择是独立的，但许多选择又相互依赖，从而创造了一个景观：改变其中一个决策可能会有助于或损害整体结果。研究人员将 AI 工具引入该模拟过程，以观察其如何影响群体寻找最优解的能力，以及群体中保留了多少多样性。

团队首先测试的是一种标准的、非个性化的 AI 系统。该工具充当一个通用的指南，向每一位寻求帮助的科学家提供相同的“最佳实践”建议，而不考虑其具体的处境或研究的独特细节。模拟结果显示，这种方法仅在非常特定的情况下有效。如果所研究的问题可以被轻易地分解为独立的各个部分，并且科学家们只是适度地使用 AI，那么该工具能帮助群体更快地找到更好的解决方案。然而，在不同部分紧密联系的更复杂的状况下，这种统一的建议就变得危险了。当 AI 建议了一个适用于某种情境但并不适用于另一种情境的方案时，科学家们就会在遵循错误建议上浪费时间。更糟糕的是，由于每个人都接收到相同的建议，整个群体会过快地收敛到单一且可能存在缺陷的解决方案上，从而失去了逃离局部死胡同所需的思维多样性。

为了解决这个问题，研究人员测试了两种不同的策略，以观察它们是否能防止这种同质化。第一种是随机化。AI 不再给出唯一的“最佳”答案，而是从几个表现最好的答案中随机抽取一个来提供建议。其希望在于这能保持群体方法的多样性。模拟显示，这仅在问题本身已经简单且易于拆解时才有效。在复杂且紧密连接的问题中，随机化建议并未解决核心问题：建议仍然是通用的，且往往与研究者的特定需求不匹配。这就像是给一群人提供不同城市的地图；如果这些地图对于各自的起点来说都是错误的，那么地图的多样性并不能帮助他们找到正确的目的地。

第二种策略是个性化。在这个版本中，AI 会观察每位科学家的特定语境——即他们独特的选择组合和约束条件——并提供为其量身定制的建议。结果令人瞩目。个性化 AI 在广泛的条件下都表现出了稳健的益处，包括标准 AI 失效的那些复杂问题。通过针对个体进行定制，该系统允许科学家们探索那些实际上与他们工作相关的不同路径，在提高解决方案质量的同时保留了多样性。然而，研究人员发现，这种益处并非自动获得的。为了让个性化 AI 有效运作，科学界本身必须做出调整。研究人员发现，该工具的成功取决于社区能否很好地记录并沟通其工作中那些隐藏的、往往是不言而喻的细节。如果 AI 无法“读取”科学家处境的背景信息，它就无法提供真正个性化的建议。

这项研究得出结论：AI 对科学的影响并非由技术本身决定，而是由其设计方式以及使用它的机构如何适应来决定的。仅仅采用一种强大的工具并不保证进步。如果一个群体在处理复杂问题时使用“一刀切”式的 AI，他们就有陷入单调文化的风险，从而扼杀发现。即使采用了像个性化这样更好的设计，成功也需要科学实践方式的转变。它要求研究人员和机构投入精力，使他们的研究方法和背景信息变得清晰且易于获取，并要求他们重新组织工作方式，使人类的努力能够与 AI 的功能相辅相成，而非仅仅是重复 AI 的工作。前进的道路不仅仅是购买新软件，更需要建立能够让多元化、智能化协作蓬勃发展的组织习惯和标准。

技术摘要：应对 AI 驱动科学中的认识论单一种植

问题陈述

人工智能（AI）与科学工作流的整合有望加速发现过程并实现专业知识的民主化。然而，越来越多的文献警告说，广泛依赖统一的 AI 工具可能会导致“认识论单一种植”（epistemic monocultures）——即科学探究的一种有害的同质化。具体而言，存在产生“认知单一种植”的风险，即多样化的方法论被剥离，取而代之的是缺乏上下文敏感性的可扩展、定量范式。本文研究了 AI 采用导致此类同质化的条件，并评估了拟议的缓解策略（随机化与个性化）是否能有效抵消这些风险。

研究方法

作者采用 NK 景观框架（Kauffman and Levin, 1987）来模拟将科学问题解决视为在复杂解空间中的搜索。该模型经过扩展，以捕捉 AI 集成到科学共同体中的动态过程。

模型组成部分

问题结构 (NK 景观)：
- 研究策略被表示为由 $N$ 个二进制决策组成的向量。
- 复杂度 ( $K$ )： 参数 $K$ 定义了决策之间的相互依赖性。较高的 $K$ 意味着一个决策的适应度贡献取决于另外 $K$ 个决策，从而创造了一个具有局部最优解的崎岖景观。
- 模块化 ( $\rho$ )： 决策被划分为计算模块 ( $m_c$ )（适用于 AI 辅助）和非计算模块 ( $\neg m_c$ )（涉及较难自动化的因素）。分解程度由 $\rho(m)$ 衡量，即模块内依赖性与模块外依赖性的比例。高 $\rho$ 表示模块相对独立；低 $\rho$ 表示紧密耦合。
认识论主体 (Epistemic Agents)：
- 主体代表具有有限专业知识的研究团队，其专业知识集（specialization set）的大小为 $H < N$ 。主体只能独立探索其专业知识集内的决策。
- 主体通过随机网络连接，允许进行社会学习（采纳最成功邻居的决策向量）。
AI 交互：
- 主体可以就计算模块的配置向 AI 工具寻求建议。
- 模型模拟了三种 AI 系统设计：
  - 非个性化 AI (NP AI)： 推荐表现全球最佳的主体的计算配置，忽略查询主体的特定非计算背景。
  - 前十分之一随机化 AI (TDR AI)： 从表现排名前 10% 的个体中随机选择一个计算配置，在保持高基准质量的同时引入多样性。
  - 单比特个性化 AI (SBP AI)： 识别出能为特定主体的当前背景（包括其非计算决策）带来最大适应度提升的单个比特翻转。
模拟动态：
- 在每一轮中，主体进行社会学习、独立探索或基于社区层面的 AI 使用率进行 AI 查询。
- 指标：
  - 认识论成功 (Epistemic Success)： 趋于收敛时社区的平均适应度。
  - 瞬态认识论多样性 (Transient Epistemic Diversity)： 随着时间推移，主体间决策向量的平均成对汉明距离（Hamming distance）的曲线下面积 (AUC)。

核心贡献与结果

1. 非个性化 AI 的条件价值

研究发现，统一的、非个性化的 AI 建议仅在以下条件的狭窄交集下才能产生收益：

高模块化： 问题必须是易于分解的 ( $\rho \ge 0.8$ )，从而允许 AI 在不考虑非计算背景的情况下优化计算模块。
中等使用率： 高采用率会导致过早收敛至局部最优。
基础能力有限： 专业知识集 ( $H$ ) 较小的共同体获益更多，因为 AI 填补了覆盖范围的空白。

有害后果： 当模块化较低（模块间紧密耦合）或使用率较高时，NP AI 会变得有害。它会导致过早收敛至次优解，并在没有提供补偿性性能增益的情况下降低瞬态多样性。这支持了关于缺乏上下文敏感性的 AI 会创造认识论单一种植的担忧。

2. 随机化的局限性 (TDR AI)

研究假设随机化（从顶尖表现者中采样而非单一最佳者）可以减轻同质化。结果显示：

效用受限： TDR AI 的表现与 NP AI 相似。在低模块化设置中，它无法提供优势，因为根本问题在于上下文失配，而非缺乏建议的多样性。
条件性成功： 与 NP AI 一样，TDR AI 仅在高度模块化的问题中提供收益，因为在这些问题中，多样化的计算配置可以脱离非计算背景而取得成功。

3. 个性化的鲁棒性 (SBP AI)

个性化 AI（根据主体的特定背景定制建议）被证明在更广泛的条件下具有稳健的益处：

上下文敏感性： 通过考虑计算决策与非计算决策之间的相互作用，SBP AI 避免了困扰非个性化系统的跨模块干扰。
多样性保护： 与 NP AI 不同，SBP AI 可以维持甚至略微增加瞬态多样性，特别是在较低的使用率下，因为它能引导主体走向多样且符合背景的解决方案。
制度依赖性： 个性化的充分益处取决于组织适应。在高度可分解的问题中，SBP AI 可能会导致“缺陷性的认知分工”，即主体过度依赖 AI 处理计算任务而忽视了非计算领域的探索。模型表明，共同体必须主动将探索偏向于非计算模块，以补充 AI 的能力。

意义与主张

本文认为，AI 的认识论影响不仅取决于技术本身，还取决于 AI 设计、问题结构与制度实践之间的对齐。

从工具采用到制度准备： 作者声称，成功的 AI 集成不仅需要单纯的采用，更需要“制度准备”，包括：
- 结构性评估： 确定一个问题是否具有足够的模块化程度，以支持统一的 AI 指导。
- 上下文可读性： 为了使个性化 AI 发挥作用，机构必须制定协议，使隐性的科学实践和背景能够显性化并对 AI 系统透明（即具备可读性）。
- 互补性分工： 共同体必须重构其实践，以确保人类精力被导向 AI 无法处理的非计算维度，而不是让 AI 仅仅复制现有的人类优势。
价值导向的准备工作： 选择投资于何种 AI 准备工作是一个带有价值判断的决定。如果一个领域的关键约束主要在于非计算层面，那么资源可能会更好地投入到这些维度，而非 AI 集成。
对主张的审慎态度： 作者明确指出，其模型依赖于理想化的假设（例如：完美的景观知识、静态的激励机制以及计算与非计算任务之间的固定边界）。他们警告说，在现实世界中，由于专业知识分布不均且误导性建议的代价更高，同质化的风险可能会更加严重。研究结果旨在作为理解系统性权衡的视角，而非对所有科学领域的确定性处方。