技術的サマリー：時系列における予測推論のための「ウィンドウ外し（LWO）」

問題提起

コンフォマル予測法は、データの交換可能性とメモリーレスな予測子の仮定の下で、厳密な予測推論（有効な予測区間）を提供する。しかし、これらの仮定は、時間的依存性や将来値を予測するために過去の観測値を利用するメモリーベースの予測子の必要性により、時系列設定では頻繁に侵害される。

最近の研究は、**分割コンフォマル予測（split conformal prediction）**がこれらの侵害に対して頑健であることを示しているが、これは「分割税（split tax）」に悩まされている。訓練データと較正データを分割することで実質的なサンプルサイズが減少し、特にデータが不足している状況では、予測区間が広くなり、統計的効率が低下する。

一方、**「留め置き法（leave-one-out、ジャックナイフ）」**は全データセットを利用するため、より高い統計的効率を提供する。しかし、純粋なジャックナイフの理論的有効性は交換可能性に依存している。本論文は、純粋なジャックナイフが時間的依存性下でも信頼できるかどうかを調査する。移動平均（MA）過程に関する数値実験を通じて、著者らは、純粋なジャックナイフが、依存性が軽度の単純な時系列モデルであっても、**任意の被覆率の損失（深刻な被覆不足）**を被り得ることを実証している。これは、留め置き較正が非対称性を生み出すことに起因する。つまり、訓練セット内の代理テスト点は「両側」の情報（過去と未来）を持つ一方、系列の末尾にある実際のテスト点は「片側」の情報（過去）のみしか持たないため、較正された区間が誤った較正となるのである。

手法：ウィンドウ外し（LWO）

純粋なジャックナイフの失敗を修復しつつ、そのデータ効率を維持するために、著者らは**「ウィンドウ外し（Leave-a-Window-Out、LWO）」**法を提案する。

中核メカニズム

LWO 法は、時間的依存性を考慮するために標準的なジャックナイフ較正手順を修正する：

1. ギャップを伴う訓練：訓練セット内の各インデックス $k$ について、予測子 $\hat{f}_k$ は、単に $k$ 番目の点を除去するだけでなく、インデックス $k$ から $\min\{k+\tau, n\}$ までのデータ点のウィンドウを除去して訓練される。ここで $\tau$ はウィンドウサイズを表すハイパーパラメータである。
2. スコア計算：適合度スコア $s_k$ は、残りのデータ（「前ウィンドウ」と「後ウィンドウ」の成分を含む）で訓練された予測子を用いて、$k$ 番目の点に対して計算される。
3. 予測集合：テスト点 $X_{n+1}$ に対する最終的な予測集合は、全 $n$ 点で訓練された予測子を中心とし、ウィンドウ付き留め置きスコアの $(1-\alpha)$ 分位点によって拡大して構成される。

理論的枠組み

LWO の有効性は、**循環的交換可能性（cyclic exchangeability）**に基づく新しい理論的枠組みを通じて確立される：

• 循環的埋め込み：著者らは、依存する時系列をより長く、循環的に交換可能な系列に埋め込むという概念を導入する。実際の時系列と最も近い循環的に交換可能な系列との距離を定量化するために、**循環的埋め込み係数（cyclic embedding coefficient, $\rho_\tau$）**を定義する。
• 安定性の仮定：証明は、アウト・オブ・サンプル（OOS）安定性条件に依存している。具体的には、適合度スコア関数と訓練アルゴリズムのペアは、訓練データのランダムなブロックがマスク（除去）されたときに安定していなければならない。これは一様安定性よりも弱い条件であるが、提案される境界には十分である。
• 混合条件：著者らは、循環的埋め込み係数を $\beta$-混合係数や $\beta$-条件付き混合係数などの標準的な依存度測定値に関連付ける。混合過程（近似マルコフ過程を含む）において、ウィンドウサイズ $\tau$ が実効的な依存範囲を超えていれば、循環的埋め込み係数は小さくなることを示す。

主要な貢献

1. ジャックナイフの失敗の特定：本論文は、軽度の依存性下であっても、訓練用代理点とテスト点との間の非対称性により、純粋なジャックナイフが時系列設定において有効な被覆率を提供できないことを厳密に実証する。
2. LWO の提案：新しい手法 LWO が導入された。これは、代理テスト点に対する将来のデータのウィンドウを除去することで留め置き原理を修正するものである。これにより、較正スコアの情報構造がテスト点と一致するように復元される。
3. 理論的保証：
   • 定理 1 および 2：LWO に対する有限サンプルの被覆率境界が導出された。これらの境界は循環的埋め込み係数と OOS 安定性パラメータに依存する。
   • 系：境界は混合過程に対して特化されている（近似マルコフ過程に対する系 1、一般的な混合過程に対する系 2）。適切な混合時間に対してウィンドウサイズ $\tau$ を適切に選択すれば、有効な被覆率が達成可能であることを示す。
4. 新しい係数：本論文は循環的埋め込み係数を導入し、循環的文脈における交換可能性からの逸脱を測定するためにスイッチ係数（Barber and Pananjady, 2026 から適応）を利用する。

実験結果

著者らは、LWO を合成データおよび実世界データセットにおいて、分割コンフォマル予測（Split CP）および純粋なジャックナイフ（JK）と比較評価した：

• 合成データ（MA(1) 過程）：多次元移動平均過程において、純粋なジャックナイフは深刻な被覆不足を示す（90% の目標に対して、しばしば被覆率が 70% 未満に低下する）。特に高次元で顕著である。Split CP は名目上の被覆率を維持するが、予測区間が著しく広くなる。一方、LWO は名目レベルに近い被覆率（Split CP と同等）を達成しつつ、予測領域を著しく狭く（より効率的に）する。
• 実データ（交通量および太陽光発電）：実世界の時系列ベンチマークにおいて、LWO は各種のベース予測子（Ridge、KNN、MLP、決定木、カーネル回帰）に対して、ほぼ名目上の被覆率を一貫して維持する。対照的に、純粋なジャックナイフは特定の予測子とデータの組み合わせ（例：太陽光発電データに対する KNN）において被覆に失敗する。LWO は Split CP の効率の損失を回避しつつ、純粋なジャックナイフの被覆不足を防ぐ。

意義と主張

本論文は、時系列における予測推論の有効性と効率性のトレードオフに対する原理的な解決策として LWO を提供すると主張する。

• 有効性：純粋なジャックナイフとは異なり、LWO は自然な依存性仮定（混合）および安定性条件の下で、証明可能な近似被覆率保証を提供する。
• 効率性：分割コンフォマル予測とは異なり、LWO は訓練に全データセットを利用するため、より狭い予測区間をもたらす。
• 概念的進展：この研究は、依存データを循環的に交換可能な系列に埋め込むことで分析するという新たな視点をもたらす。これは、時系列の依存性とコンフォマル有効性を結びつける分布論的ツール（循環的埋め込み係数）を提供する。

著者らは、保証が OOS 安定性の仮定（リッジ回帰や KNN など多くの標準的なアルゴリズムは満たすが、すべてではない）に依存している点について、オープンな問題に対して謙虚な姿勢を維持している。また、理論的には $\tau$ が依存範囲を超えて選択されるべきであるが、有効な被覆率保証付きの $\tau$ を選択する完全なデータ駆動型手法は依然として未解決の問題であると認めている。