One if by Land, Two if by Sea, Three if by Four Seas, and More to Come -- Values of Perception, Prediction, Communication, and Common Sense in Decision Making

技術要約：意思決定における知覚、予測、通信、および常識の価値

問題の定式化
本研究は、自律的な意思決定システムにおいて、知覚、予測、通信、および常識といった特定の認知操作の価値を、厳密に定義し定量化するという課題に取り組んでいる。著者らは、エージェントが期待損失 $\mathbb{E}[\ell(X, Y, u)]$ を最小化するために、空間 $\mathcal{U}$ から行動 $u$ を選択するという一般的な意思決定問題を設定している。ここで、$X$ はランダムな観測可能状態、$Y$ はランダムな非観測状態を表し、$\ell$ は両方の状態と行動に依存する損失関数である。核心となる問題は、異なる種類の知識（周辺分布、結合分布、観測された状態、または未観測の状態）を獲得し利用することによって、最小達成可能期待損失（リスク）を減少させる際の定量的な利益を決定することにある。

手法
本論文は、ある操作の「価値」を、その操作が存在しない場合のベースラインと比較して、その操作を取り入れることで達成されるリスクの減少量として定義する、決定論的フレームワークを採用している。手法は以下の通りである：

1. 操作的価値の定義:

   • 常識 (Common Sense): 独立性を仮定する場合（$P_X P_Y$）と比較して、結合分布 $P_{X,Y}$（統計的依存関係）を知ることの価値として定義される。これは、直接的な観測なしに相関について推論することの利益を定量化するものである。
   • 知覚 (Perception - 狭義): $X$ を観測し、それに基づいて行動するものの、$X$ に基づいて $Y$ に関する信念を更新しない（すなわち、$Y$ を $X$ と独立したものとして扱う）ことの価値として定義される。
   • 予測 (Prediction): $X$ の観測に基づいて $Y$ に関する信念を更新すること（事後分布 $P_{Y|X}$ を利用すること）の価値を、$Y$ への依存性を無視して $X$ に基づいて行動する場合と比較して定義される。
   • 知覚 + 予測 (Perception + Prediction): $X$ を観測し、$X$ に基づいて $Y$ を予測することの組み合わせによる価値。
   • 通信 (Communication): 意思決定を情報化するために、$X$ に加えて非観測状態 $Y$ に直接アクセスすることの価値として定義される。

2. 情報理論的実現:
   著者らは、損失関数が負の対数尤度（$\ell = -\log u(x,y)$）である特定のケースを検討することで、これらの決定論的価値を情報理論的尺度へとマッピングしている。この設定において、定義された価値は以下に対応する：

   • 常識 $\leftrightarrow$ 相互情報量 $I(X; Y)$
   • 知覚 $\leftrightarrow$ 条件エントロピー $H(X|Y)$
   • 予測 $\leftrightarrow$ 相互情報量 $I(X; Y)$
   • 知覚 + 予測 $\leftrightarrow$ エントロピー $H(X)$
   • 通信 $\leftrightarrow$ 条件エントロピー $H(Y|X)$

3. 関数解析:
   本論文は、これら諸価値の数学的性質、具体的には基礎となる確率分布に対する凹性と凸性を分析している。著者らは、決定論的ダイバージェンス（カルバック・ライブラー・ダイバージェンスの一般化）を用いて、これらの性質を証明している。

4. マルチエージェントへの拡張:
   このフレームワークは、$n$ 個のエージェントを含むシナリオへと拡張されている。著者らは、特定の、あるいは他のエージェントが考慮された後に逐次的に、あるエージェントを観測し予測することによって得られるリスク減少に基づき、特定のエージェントの重要性を定義している。

主な結果と知見

• 結合された価値の非負性: 予測単独の価値、通信の価値、および知覚と予測の結合された価値は、常に非負であることが証明されている。
• 知覚の負の価値: 重要な発見は、予測を伴わない「知覚のみ」の価値は負になり得るということである。著者らは、数値例（および、トラックと遮蔽された車両を含む運転シナリオ）を通じて、変数 $X$ を観測し、依存する変数 $Y$ に関する信念を更新せずにそれに基づいて行動することは、常識（事前知識）のみに基づいて行動する場合よりも、かえって悪い決定を招く可能性があることを示している。これは、生の感覚データが予測を通じて適切に文脈化されない場合、有害となり得ることを示唆している。
• マルチエージェント・システムにおける順序依存性: マルチエージェントの設定において、エージェントの重要性は絶対的なものではなく、観測の順序に依存する。論文では、既知の結合分布と損失関数のみに基づき、リスク減少を最大化するための知覚と予測の最適な順序を決定する強欲（グリーディ）アルゴリズムを提示している。
• 数学的性質:
  • 知覚 + 予測の価値は、$P_{Y|X}$ を固定した場合、$P_X$ に対して凹である。
  • 通信の価値は、$P_X$ を固定した場合、$P_{Y|X}$ に対して凹であり、$P_X$ に対して線形である。
  • 常識と予測の価値は、周辺分布を固定した場合、$P_{Y|X}$ に対して凸である。

意義と主張
著者らは、本研究が、特定のエージェントを観測し予測することが必要かどうか、各エージェントの相対的な重要性、および複数のエージェントからの情報を処理するための最適なシーケンスといった、自律システムの設計における実用的な問いに答えるための、厳密で形式的な経路を提供すると主張している。

本論文は、これらの定義された量が認知科学や神経科学に洞察を与える可能性を提示しており、自然界の意思決定者がどのように異なる情報源を利用しているかを説明できるとしている。さらに、これまでの文献（Blackwell, Lindley, DeGrootなど）で見出されてきた「情報の価値」は、ここで定義された「知覚と予測の結合された価値」の特殊なケースと見なすことができると述べている。また、本研究は、これらの理論的価値が、リソース制約のある環境においてエージェントの優先順位付けを行う機械学習モデルの「グラウンドトゥルース（正解）」ラベルとして機能し、人間によるラベル付けやヒューリスティックなルールに依存しがちな現在の手法のギャップを埋めることを提案している。

タイトルと枠組みは、ロバート・ギャラガー教授の講演から着想を得ており、意思決定における情報の価値の階層を示すために、歴史的な信号システム（「陸によるもの一つ、海によるもの二つ」）との類似性を描いている。