One if by Land, Two if by Sea, Three if by Four Seas, and More to Come -- Values of Perception, Prediction, Communication, and Common Sense in Decision Making

技术摘要：决策过程中感知、预测、通信与常识的价值

问题定义
本研究旨在严谨地定义并量化特定认知操作——感知（perception）、预测（prediction）、通信（communication）和常识（common sense）——在自主决策系统中的价值。作者提出了一个通用的决策问题：智能体从动作空间 $\mathcal{U}$ 中选择一个动作 $u$，以最小化期望损失 $\mathbb{E}[\ell(X, Y, u)]$。其中，$X$ 代表随机可观测状态，$Y$ 代表随机不可观测状态，$\ell$ 是依赖于这两个状态及动作的损失函数。核心问题在于确定获取和利用不同类型知识（边缘分布、联合分布、观测状态或未观测状态）来降低最小可实现期望损失（风险）的定量收益。

方法论
本文采用决策论框架，将“操作价值”定义为：通过引入该操作相比于缺失该操作时所实现的风险降低。其方法论流程如下：

1. 操作价值的定义：

   • 常识： 定义为已知联合分布 $P_{X,Y}$（统计相关性）相对于假设独立（$P_X P_Y$）的价值。它量化了在没有直接观测的情况下，通过推理相关性所获得的收益。
   • 感知（狭义）： 定义为观测 $X$ 并基于其采取行动的价值，但前提是不根据 $X$ 更新对 $Y$ 的信念（即视 $Y$ 与 $X$ 相互独立）。
   • 预测： 定义为基于对 $X$ 的观测来更新对 $Y$ 的信念（利用后验概率 $P_{Y|X}$）的价值，相比于仅根据 $X$ 行动而忽略其与 $Y$ 依赖关系的价值。
   • 感知 + 预测： 观测 $X$ 并基于 $X$ 预测 $Y$ 的综合价值。
   • 通信： 定义为在决策信息中直接获取不可观测状态 $Y$（除 $X$ 之外）的价值。

2. 信息论实现：
   作者通过考虑损失函数为负对数似然（$\ell = -\log u(x,y)$）的特定情况，将这些决策论价值映射到信息论度量上。在此设定下，定义的价值对应于：

   • 常识 $\leftrightarrow$ 互信息 $I(X; Y)$。
   • 感知 $\leftrightarrow$ 条件熵 $H(X|Y)$。
   • 预测 $\leftrightarrow$ 互信息 $I(X; Y)$。
   • 感知 + 预测 $\leftrightarrow$ 熵 $H(X)$。
   • 通信 $\leftrightarrow$ 条件熵 $H(Y|X)$。

3. 函数分析：
   论文分析了这些价值关于底层概率分布的凹凸性性质。通过利用决策论散度（Kullback-Leibler 散度的推广），证明了这些性质。

4. 多智能体扩展：
   该框架被扩展到涉及 $n$ 个智能体的场景。作者根据观测并预测特定智能体（无论是单独观测还是在其他智能体之后进行顺序观测）所带来的风险降低程度，来定义该智能体的重要性。

主要结果与发现

• 组合价值的非负性： 证明了仅有预测的价值、通信的价值以及感知与预测的组合价值始终是非负的。
• 感知的负价值： 一个关键发现是，在没有预测的情况下，感知的价值可能为负。论文通过一个数值示例（以及一个涉及卡车与被遮挡车辆的驾驶场景）表明，如果仅仅观测变量 $X$ 而不通过预测来将其语境化（即不更新对相关变量 $Y$ 的信念），其决策效果可能比仅基于先验知识（常识）的决策更差。这表明，如果原始感官数据没有经过预测的正确语境化，可能会产生负面影响。
• 多智能体系统中的顺序依赖性： 在多智能体设置中，智能体的重要性不是绝对的，而是取决于观测顺序。论文提供了一种贪心算法，仅依靠已知的联合分布和损失函数，来确定最大化风险降低的感知与预测的最优顺序。
• 数学性质：
  • 感知 + 预测的价值关于边缘分布 $P_X$ 是凹的（对于固定的 $P_{Y|X}$）。
  • 通信的价值关于 $P_{Y|X}$ 是凹的（对于固定的 $P_X$），并且关于 $P_X$ 是线性的。
  • 常识和预测的价值关于条件分布 $P_{Y|X}$ 是凸的（对于固定的边缘分布）。

意义与主张
作者声称，这项工作为回答自主系统设计中的实际问题提供了严谨的正式路径，例如：

• 是否需要观测并预测特定的智能体。
• 不同智能体之间的相对重要性。
• 处理来自多个智能体信息的最佳序列。

论文指出，这些定义的量可以为认知科学和神经科学提供见解，可能解释自然决策者如何利用不同来源的信息。此外，研究结果表明，早期文献（如 Blackwell, Lindley, DeGroot）中发现的“信息价值”可以被视为此处定义的“感知 + 预测”组合价值的一个特例。该工作还提出，这些理论价值可以作为训练机器学习模型的“地面真值”（ground truth）标签，以使模型在资源受限的环境中优先处理重要的智能体，从而填补了目前许多方法仍依赖于人类标签或启发式规则的空白。

标题和框架的灵感来源于 Robert Gallager 教授的一次演讲，通过类比历史上的信号系统（“陆上有情况，请传海”）来阐明决策过程中信息价值的层级结构。