想象两个人坐在桌前，看着完全相同的一堆文件、图表和新闻报道。然而，一个人得出结论：“我们必须立即停止这个项目，”而另一个人却说：“我们应该加倍投入，加快速度。”

在现实世界中，我们对此的常见反应是：“其中一个人疯了，”“他们在撒谎，”或者“他们就是不懂。”我们假设问题出在性格缺陷上。

本文认为，我们看错了方向。它提出，分歧不在于“谁”在观察，而在于他们“如何”观察。作者高桥彻（Toru Takahashi）提出，当人们共享相同的事实却得出不同结论时，这并非大脑的缺陷，而是一种被称为不可识别性（non-identifiability）的数学必然性。

以下是该论文论证的拆解，以简单概念和类比呈现。

1. 核心思想：“相同输入，不同输出”的问题

论文首先驳斥了只有一种“正确”思维方式（即单一智能假设）的观点。相反，它认为思维就像一台带有许多旋钮的机器。即使两个人将完全相同的数据输入大脑，如果他们以不同方式转动旋钮，也会得到不同的答案。

作者将这种“故障”分为两个层面：

层面 1：设置故障（ $\theta$ -level）。 想象两位厨师使用完全相同的食谱和完全相同的食材。一位厨师决定加一撮盐，烹饪 5 分钟，然后立即品尝。另一位厨师不加盐，烹饪 20 分钟，然后慢慢品尝。他们最终做出了不同的菜肴，并非因为食材不好，而是因为他们的设置不同。
层面 2：记忆故障（ $W$ -level）。 现在，想象这些厨师每天都在烹饪。第一位厨师只烹饪咸味且快速的菜肴。第二位只烹饪缓慢、淡而无味的菜肴。久而久之，他们对“美食”的记忆发生了改变。他们构建了不同的世界内部模型。现在，即使你给他们相同的新食材，他们也会以不同方式解读，因为过去的经历塑造了他们的大脑，使他们预期不同的事物。

2. 思维的四个旋钮

为了解释为什么人们思维方式不同，作者引入了一个包含四个可调旋钮的“思维画像”。可以将这些旋钮想象成相机或视频游戏中的设置：

参考（Reference, R）：你信任什么？
- 你信任硬性数据、日志和法律条文（你可以指给朋友看并说：“看，就在这里”的东西）？还是你信任直觉、未言明的风险和直觉（难以解释的东西）？
- 类比： 一个人开车时只看速度表和 GPS。另一个人开车时看路况、风向，以及一种“感觉不对劲”的直觉。
探索（Exploration, E）：你保持多少种可能性开放？
- 你是迅速决定一个答案并坚持到底？还是让许多“如果”的情景同时在脑海中运行？
- 类比： 一位立即逮捕第一名嫌疑人的侦探，与一位保留十名嫌疑人名单并调查所有人的侦探。
稳定化（Stabilization, S）：改变你的想法有多难？
- 当新信息到来时，你会立即更新计划？还是坚持原有规则，除非新信息压倒一切？
- 类比： 一个在房间感觉升温一度的瞬间就改变温度的恒温器，与一个要等到房间结冰才开启暖气的恒温器。
视野（Horizon, D）：你看向未来多远？
- 你关心下周会发生什么？还是下个十年？
- 类比： 一位为下个月市场种植作物的农民，与一位种植 20 年后才结果的树木的农民。

3. 为什么我们总是争论同样的三件事？

你可能认为分歧的方式是无限的。但论文认为，由于我们的大脑有限制（我们无法处理无限数据，无法看到一切，且必须彼此交流），这四个旋钮往往会坍缩为三个主要争论点：

抽象 vs. 具体：
- 冲突： 一个人想谈论宏大、普遍的原则（抽象）。另一个人想谈论具体、混乱的细节（具体）。
- 原因： 我们的大脑必须压缩信息以适应容量。有时我们压缩过度（丢失细节），有时我们保留过多细节（丢失大局）。
外部 vs. 内部：
- 冲突： 一个人说：“给我看数据！”（外部）。另一个人说：“你根本不懂我感受到的风险！”（内部）。
- 原因： 分享内心感受很难。分享电子表格很容易。人们争论“感受”是否算作有效证据。
秩序 vs. 自由：
- 冲突： 一个人想要严格的规则和一致性（秩序）。另一个人想要灵活性和新想法（自由）。
- 原因： 我们必须平衡稳定性（不每秒钟都改变想法）与适应性（学到新事物时改变想法）。

4. 现实世界案例：人工智能监管

论文利用关于监管人工智能的辩论来展示这一机制如何运作。

共享事实： 每个人都看到关于人工智能事故、经济增长统计数据和技术基准的相同报告。
“预防”群体：
- 参考： 他们关注难以外部化的恐惧（例如：“如果我们失去控制会怎样？”）。
- 探索： 他们在脑海中保持“最坏情况”的活跃。
- 稳定化： 他们想要严格、不可更改的规则。
- 视野： 他们看向未来 50 年。
- 结论： “禁止它或对其进行严格监管。”
“促进”群体：
- 参考： 他们关注可外部化的数据（例如：“看看这些经济数据”）。
- 探索： 他们关注最可能、最积极的情景。
- 稳定化： 他们想要能随技术演变而变化的灵活规则。
- 视野： 他们看向未来 2 到 5 年。
- 结论： “让它发展；我们稍后解决问题。”

论文指出：双方都不是“疯了”。 他们只是在使用思维机器上的不同设置。

5. 解决方案：停止指责，开始调节

论文的主要结论是，当人们意见不合时，我们不应再称他们为“非理性”或“缺乏诚意”。相反，我们应该将分歧视为一个技术问题。

如果两个人意见不合，我们不应问：“谁很蠢？”而应问：

“你们是否在看数据的不同部分？”（参考）
“你们是否坚持不同的可能性？”（探索）
“你们是否在看不同的时间框架？”（视野）

通过识别哪个“旋钮”被调到了不同位置，我们可以设计更好的沟通方式。我们可以同意看向相同的时间框架，或者同意将相同的“直觉”作为数据共享。这将一场道德斗争转化为一个可解决的工程问题。

简而言之： 分歧不是大脑损坏的迹象，而是同一台机器上不同设置的标志。如果我们理解这些设置，就能解决分歧。

技术摘要：通过推理剖面 $\theta$ 形式化世界模型的非识别性

1. 问题陈述

本文探讨了这样一个现象：不同的智能体在共享相同观察数据（文档、统计数据、日志或事件）的情况下，得出了截然不同的结论。在传统话语中，这种分歧常被归咎于对立方的认知缺陷、非理性或恶意。这种归因依赖于单一智能假设（SIA），该假设认为智能集中于逻辑推理，偏离这一规范即为失败，且理性的智能体在给定相同输入时应收敛于同一结论（可交换性）。

本文认为，这种框架阻碍了富有成效的探究。相反，本文提出结论分歧是世界模型估计中非识别性的结构特征。在有限数据、部分可观测性和表征约束的条件下，多个模型或推理策略可以与相同的观察结果保持一致。本文旨在将分歧重新框架化，不再将其视为道德或人格缺陷，而是视为发生在两个不同层面的非识别性计算问题：

$\theta$ 层面：即使共享世界模型（ $W$ ），由于推理设置的差异而产生的分歧。
$W$ 层面：由于重复的推理操作会偏置数据暴露和更新规则，导致学习到的世界模型本身随时间发生分歧，从而产生的分歧。

2. 方法论与框架

2.1 推理剖面 $\theta$

为了将分歧的来源操作化，本文引入了推理剖面 $\theta = (R, E, S, D)$ ，这是一个四维向量，代表推理过程中的操作自由度：

参考（Reference, $R$ ）：用于推理的依据（证据）的加权。这被建模为部分依据 $\{e_i\}$ 的加权组合。权重 $w_i$ 取决于可外化得分 $x_i$ （依据被共享和审计的难易程度）以及参数 $\beta_R$ 。高 $\beta_R$ 优先选择可审计的依据（日志、统计数据）；低 $\beta_R$ 允许高描述成本的依据（隐性知识、直觉）影响结论。
探索（Exploration, $E$ ）：对替代假设的保留。这由假设分布的熵 $H(h|o)$ 表征。高探索性维持多种可能性（高熵），而低探索性则集中于单一结论。
稳定（Stabilization, $S$ ）：对更新的抑制。这由阈值 $\tau$ 或正则化强度 $\lambda$ 控制。高稳定性抵抗变化（秩序），而低稳定性允许快速适应新信息（自由）。
视界（Horizon, $D$ ）：评估的时间中心，由折扣因子 $\gamma$ 控制。高 $\gamma$ 强调长期后果；低 $\gamma$ 强调即时、局部的结果。

2.2 非识别性的两个层面

$\theta$ 层面非识别性：即使两个智能体共享相同的世界模型参数 $\phi$ （因此拥有相同的 $W_\phi$ ），如果它们的推理剖面 $\theta_A \neq \theta_B$ ，其结论 $y$ 也可能不同。形式化表达为： $y = \text{Infer}(W_\phi, o_{\le t}; \theta)$ 。
$W$ 层面非识别性：推理操作随时间重复进行。 $\theta$ 的选择会偏置哪些数据被观察到以及模型如何更新（ $\phi_{t+1} = U(\phi_t, o_t, \theta_t)$ ）。因此，具有不同初始 $\theta$ 值的智能体可能会发展出根本不同的世界模型 $W_A$ 和 $W_B$ ，导致即使面对相同的新输入，其因果归因和预期也会产生分歧。

2.3 投影至三个基底

本文提出， $\theta$ 的四个操作维度倾向于投影到三个反复出现的分歧轴上，这是由于学习系统普遍存在的三个基本约束所致：

计算约束（ $C_{comp}$ ）：有限的容量和资源。
观测约束（ $C_{obs}$ ）：部分可观测性和噪声。
协调约束（ $C_{coop}$ ）：对问责制、可重复性和可审计性的要求。

这些约束引发了三种权衡：

抽象 vs. 具体：由 $C_{comp}$ 驱动（率失真理论）。高抽象度压缩信息；高具体度保留细节。视界（ $D$ ） 投影于此。
可外化 vs. 内化：由 $C_{obs}$ 和 $C_{coop}$ 驱动。可外化的依据是可共享的；内化的状态（如焦虑、隐性风险）沟通成本高昂。参考（ $R$ ） 投影于此。
秩序 vs. 自由：由 $C_{comp}$ 和 $C_{coop}$ 驱动（可塑性 - 稳定性困境）。秩序意味着低熵和可重复性；自由意味着高熵和保留替代方案。探索（ $E$ ） 和 稳定（ $S$ ） 共同投影于此。

2.4 深度学习中的结构对应

该框架植根于深度表征学习的概念：

参考对应于表征层的选择（例如，Transformer 中较低层对应具体特征，较高层对应抽象概念）。
可外化性 与潜在状态估计相关，其中隐藏状态在没有归纳偏置或监督的情况下是不可识别的，需要外化程序（探测、日志记录）来进行沟通。
秩序/自由 对应于学习和推理中正则化（稳定性）与探索（多样性）之间的权衡（例如，温度采样）。

3. 主要贡献

非识别性的形式化：本文区分了 $\theta$ 层面（推理设置）和 $W$ 层面（模型学习）的非识别性，为短期错位和长期认识论碎片化提供了统一框架。
推理剖面 $\theta$ ：引入了一个紧凑的四组件表示（ $R, E, S, D$ ），将分歧定位在可识别的操作点上，而非模糊的人格特质。
投影机制：解释了为何多样的推理设置会通过计算、观测和协调约束，坍缩为三个反复出现的分歧基底（抽象/具体、可外化性、秩序/自由）。
计算基础：将这些基底与深度学习机制（表征层次、潜在状态估计、正则化）联系起来，将关于分歧的 discourse 从修辞或心理学解释转向计算设计问题。

4. 结果与说明

本文未呈现实证实验结果，而是提供了一个关于人工智能监管辩论的案例研究（特别是欧盟《人工智能法案》的形成过程），以说明该框架：

共享观察：利益相关者共享事件报告、基准测试和经济预测。
$\theta$ 层面分歧：
- 预防性行动者 优先考虑难以外化的担忧（低 $\beta_R$ ），保留最坏情况（高 $H$ ），倾向于制度固化（高 $\tau$ ），并强调长期的不可逆性（高 $\gamma$ ）。
- 促进导向行动者 优先考虑可外化的利益（高 $\beta_R$ ），关注主流情景（低 $H$ ），允许灵活修订（低 $\tau$ ），并强调中期的机会成本（中等 $\gamma$ ）。
$W$ 层面分歧：行动者从历史中学习到不同的因果序列（例如，“创新导致进步”与“缺乏监管导致事故”），导致他们通过不同的因果结构来解释相同的新证据。
解决策略：该框架表明，解决分歧需要设计判别性观察或干预措施（例如 A/B 测试、可衡量的信任指标），以最大化模型间的预测差异，而不是将冲突归咎于道德失败。

5. 意义与主张

本文主张，分歧往往具有可识别的计算结构。通过将分歧定位在推理操作和世界模型学习中，问题可以从道德化评估（指责对方有缺陷）转向可设计的协调。

其意义在于：

方法论转变：采用多重推理假设（MIA），将推理的多样性视为非识别性的后果，而非需要消除的缺陷。
操作清晰度：提供了一套词汇（ $R, E, S, D$ ）来诊断推理过程在何处存在差异。
实际应用：提供了一条解决冲突的路径，即通过协调操作设置（针对 $\theta$ 层面问题）或设计特定干预措施来测试竞争性的世界模型（针对 $W$ 层面问题）。

本文保持谦逊，指出四个维度向三个基底的投影是理论支持的“结构倾向”，而非严格的定理，且该框架是一种计算性解释，而非对多样性的规范性颂扬。未来的工作被确定为从实证数据中提取剖面，并定量验证三基底简化。

Why Conclusions Diverge from the Same Observations: Formalizing World-Model Non-Identifiability via an Inference