技術要約：逐次予測における真実性に基づく較正尺度

問題設定

本論文は、逐次確率的予測の文脈における、**真実性（truthfulness）**と、**完全性（completeness）および健全性（soundness）**という統計的保証との間の根本的な対立を扱っている。

• 較正（Calibration）: 予測者が確率 $p$ を報告したとき、その事象が発生する経験的な頻度が近似的に $p$ であるとき、予測者は較正されていると言える。較正尺度は、一連の報告と結果に対して数値的な誤差を割り当て、誤較正を定量化する。
• 要求事項（Desiderata）:
  • 完全性（Completeness）: 報告が真に較正された分布から生成されている場合、期待較正誤差はサンプルサイズ $T \to \infty$ において消失しなければならない。
  • 健全性（Soundness）: 報告が誤較正された分布から生成されている場合、期待誤差は $T \to \infty$ においてゼロから離れた値に留まらなければならない。
  • 真実性（Truthfulness）: 較正尺度が「真実的」であるとは、データ生成分布に関わらず、次の事象の真の条件付き確率を報告する戦略（真実的戦略）が、期待較正誤差を最小化することを指す。

完璧に真実的な較正尺度は、すべてのデータが一度に利用可能なバッチ設定においては存在するが、本論文では、過去の結果に基づいて一つずつ予測が行われる逐次設定において、そのような尺度が存在し得るかを調査している。Haghtalabら[14]による最近の研究では、逐次設定において近似的に真実的な尺度を提案したが、厳密な真実性が完全性と健全性と両立可能かという問いは未解決のまま残されていた。

手法および技術的アプローチ

本論文は、不可能性の結果を確立し、近似的な真実性を達成するための構成的な還元を行うために、ハイブリッド引数（hybrid argument）を用いている。

1. 厳密な真実性の不可能性

核心となる不可能性の結果は、問題の逐次的性質を利用したハイブリッド引数に基づいている。

• セットアップ: 著者らは、予測値と結果のペアに関する2つのオフライン分布を検討する。一つは較正された分布 $D_q$（予測者が $q$ を報告し、事象の平均が $q$ である）、もう一つは誤較正された分布 $D'_q$（予測者が事象が0のときのみ $q$ を報告し、事象が1のときは1を報告する）である。
• ハイブリッド構成: 著者らは、一連のハイブリッド分布 $H_0, \dots, H_T$ を構築する。ここで $H_m$ は、最初の $m$ 個のサンプルを誤較正された分布 $D'_q$ から引き、残りの $T-m$ 個のサンプルを較正された分布 $D_q$ から引いたものである。
• 論理: 較正尺度は、健全性と完全性のために、完全に誤較正された $H_T$ と完全に較正された $H_0$ を区別しなければならないため、期待誤差が $H_{m-1}$ と $H_m$ の間で大きく変化する「切り替え点」 $m$ が存在するはずである。
• 逸脱: この局所的な差異は、特定の（稀な）アウトカムのプレフィックス（接頭辞）を条件としたとき、戦略的な予測者がステップ $m$ において真実の報告から逸脱することで、期待較正誤差を下げられることを示唆している。具体的には、プレフィックスによって履歴が誤較正されているように見える場合、たとえ基礎となるデータが積分布（独立なアウトカム）によって生成されていても、予測者は将来の報告を誤ることで較正を「修復」できる。
• 鍵となる洞察: 厳密な真実性は、履歴がひどく誤較正されているように見える稀な履歴に対しても、予測者が真の平均を報告することを要求する。しかし、完全性と健全性は、履歴が較正されているように見えることを報酬とする。戦略的な予測者は、稀な履歴において報告を誤ることで、履歴を較正されているように見せかけ、それによって期待誤差を減少させるという手法を悪用できる。

2. 定量的下界

本論文は、真実的な報告と戦略的な報告の間のギャップを定量化している。戦略的な予測者が得る利点は、$T$ に対して指数関数的に小さい（具体的には $(1-q)^{T-1}$ に比例する）ことが示されている。この小さな利点は、ハイブリッド引数によって選択された、稀なプレフィックスの実現においてのみ戦略的な逸脱が有用であることから生じる。

3. 近似的な真実性への還元

厳密な真実性が不可能であることを認識した上で、著者らは、一様完全性（真実的な誤差がサンプリング誤差によって一様に抑えられることを保証する性質）を満たす任意の健全かつ完全なベース尺度から、近似的に真実的な尺度を構築するための2段階の還元を提案している。

• 第1段階：加法的近似（Additive Approximation）
  著者らは、ベース尺度から消滅するサンプリング誤差の閾値 $\tau_T$ を引き、ゼロで切り捨てることで、新しい尺度を定義する：
  $$\text{Cal}^{\text{add}}_T(r, y) = (\text{Err}_T(r, y) - \tau_T)_+$$
  この構成は加法的に近似的に真実的であり、これは真実的戦略の誤差が、いかなる戦略的戦略の誤差よりも高々 $\beta_T$ だけ高い（ここで $\beta_T \to 0$）ことを意味する。

• 第2段階：乗法的近似（Multiplicative Approximation）
  より強い保証を得るために、加法的尺度に正規化された二乗損失項を加える：
  $$\text{Cal}^{\text{mult}}_T(r, y) = \text{Cal}^{\text{add}}_T(r, y) + \lambda_T \cdot \frac{1}{T} \sum_{t=1}^T (r_t - y_t)^2$$
  二乗損失項は、期待誤差に対する普遍的な下界（固有分散に関連する）を提供し、比較を乗法的にすることを可能にする。これにより、$(1 + \eta_T)$-乗法的に真実的な尺度（ここで $\eta_T \to 0$）が得られる。

主な結果

1. 不可能定理: 逐次予測の設定において、厳密に真実的、完全、かつ健全であることは、アウトカムが独立である場合（積分布）であっても、同時に成立する一連の較正尺度は存在しない。これは、弱い概念の健全性と完全性に対しても成立する。
2. 定量的ギャップ: 本論文は、戦略的な優位性の下界を確立し、それがホライゾン $T$ に対して指数関数的に小さいことを示している。これは、厳密な真実性は不可能であるが、大きな $T$ においては逸脱へのインセンティブが消失していくことを意味する。
3. 近似的な構成:
   • 著者らは、一様完全なベース尺度を加法的に近似的に真実的な尺度に変換するための一般的な還元法を提供している。
   • さらに、これを乗法的に近似的に真実的な尺度へと洗練させている。
   • これを平滑化された較正誤差（連続的な尺度）に適用することで、任意の $0 < \varepsilon < 1$ に対して $(1 + \exp(-\frac{1}{2}T^{(1-\varepsilon)/2}))$-乗法的に真実的な尺度を構築している。これは、Haghtalabら[14]による近似保証を改善するものである。
4. 性質の保存: 還元ステップは、ベースとなる較正尺度の完全性および健全性を保持する。

意義と主張

本論文は、逐次設定における厳密な真実性と統計的な較正保証との両立可能性に関する、根本的な未解決問題に決着をつけることを主張している。

• 否定的な結果: 逐次予測において厳密な真実性が可能であるかという問いに対し、明確に「否」と答えている。この不適合性は、逐次的設定では、戦略的な予測者が稀な履歴の実現を利用して、見かけ上の誤較正を「修復」できるというメカニズムが存在することに起因しており、これはバッチ設定では不可能な現象である。
• 肯定的な結果: この不可能性が「厳密な」真実性に特有のものであることを示している。真実性の要件を「近似的な」ものへと緩和することで、本論文は、完全性と健全性という不可欠な統計的性質を維持しながら、真実性に極めて近い尺度を構築するための一般的なフレームワークを提供している。
• 改善: 提案された乗法的還元は、先行研究よりも強い近似保証を提供し、$T$ が増加するにつれて、真実的戦略のパフォーマンスを最適な戦略的パフォーマンスに限りなく近づけている。

著者らは、Dewasurendra [7, 8] による独立した研究も逐次予測に関する不可能性の結果を示しているが、それらの研究における真実性と健全性の定義は（具体的には考慮されるデータ生成分布のクラスに関して）本論文とはわずかに異なっていると述べている。本論文の不可能性の結果は、より弱い仮定である積分布の下でも成立している。