技術要約：瞬間の賭け – オンライン交換可能性テストのためのルジャンドル・ジャンパー（Legendre Jumper）

問題提起

共形予測（Conformal Prediction）において、予測集合の妥当性は**交換可能性（exchangeability）**の仮定に依存しています。これは、共形トランスデューサによって生成されるp値の列が、$[0, 1]$ 上の一様分布に従う独立同一分布（IID）であることを意味します。この仮定の違反は、分布の変化（distributional shifts）を示唆します。

交換可能性をオンラインでテストするために共形テスト・マルチンゲール（CTM）が用いられますが、標準的なSimple Jumper (SJ)（Vovk et al., 2022）には重大な限界があります。SJは、1次のシフトされたルジャンドル多項式に基づく線形なベッティング関数を採用しているため、幾何学的にp値の**平均（位置）**の変化を検出することに制約されています。そのため、平均を維持したまま分散、歪度、あるいは尖度などの高次モーメントを変化させるような分布シフトが発生した場合、十分な富を蓄積することができません。さらに、複数のベッティング戦略を組み合わせようとする試みは、しばしば「ジャンピング税（jumping tax）」の問題に直面します。これは、資本が指数関数的に増大する状態空間へと希釈され、検出速度を著しく低下させる現象です。

手法

本論文では、$[0, 1]$ 区間で直交するシフトされたルジャンドル多項式（$\tilde{P}_k$）に基づく共形テスト・マルチンゲールのファミリーを提案しています。これらの多項式は、p値分布の特定のモーメントの偏差を検出するためのベッティング関数の基底として機能します。

1. Simple Legendre Jumper (SLJ)

SLJは、線形なベッティング関数を任意の次数のシフトされたルジャンドル多項式に置き換えることで、Simple Jumperを一般化したものです。
$$f^{(k)}_\epsilon(p) = 1 + \epsilon \tilde{P}_k(p)$$
ここで、$\epsilon$ は離散グリッドから選択されるパラメータです。

• メカニズム: $k=1$ の場合、標準的なSJ（平均シフトの検出）を復元します。$k=2$ の場合は分散の変化を、$k=3$ の場合は歪度を検出し、以下同様に高次のモーメントを検出します。
• 限界: 単一の次数 $k$ にのみ賭けることは、マルチンゲールが他のモーメントにおける支配的なシフトを見逃す原因となり、証拠の蓄積が最適ではなくなります。

2. Product Legendre Jumper (PLJ)

複雑でマルチモーダルな偏差を同時に捉えるために、PLJは複数の次数のベッティング関数 $K$ を単一の積として組み合わせます。
$$f^K_\epsilon(p) = \frac{\prod_{k \in K} (1 + \epsilon_k \tilde{P}_k(p))}{Z(\epsilon)}$$
ここで、$Z(\epsilon)$ は、ベッティング関数の積分が1になることを保証するために、$|K| \ge 3$ の場合に必要となる正規化定数です。

• 「ジャンピング税」: PLJは、結合された状態空間 $\mathcal{E} = \prod_{k \in K} \mathcal{E}_k$ 上のマルコフ連鎖を維持します。次数の数 $|K|$ が増加するにつれ、状態空間のサイズは指数関数的に増大します（$|\mathcal{E}| = g^{|K|}$）。「ジャンピング税」とは、資本の希釈を指します。環境が変化した際、ジャンピング機構が新しい資本をこの膨大な状態空間に一様に分配してしまうため、最適なベッティング戦略への資本集中が遅れることになります。

3. Variational Legendre Jumper (VLJ)

PLJの指数関数的なスケーリング問題を解決するため、著者らは変分推論における平均場近似に着想を得た**Variational Legendre Jumper (VLJ)**を導入しています。

• デカップリング（分離）: 単一の積空間上のマルコフ連鎖を実行する代わりに、VLJは各次数 $k \in K$ に対して $|K|$ 個の独立したサブジャンパーを実行します。
• コンセンサス（合意）: 各ステップにおいて、VLJはサブジャンパーの状態の富による加重平均に基づき、各次数のコンセンサス・パラメータ $\bar{\epsilon}_k$ を計算します。
• グローバル・ベット: グローバルなマルチンゲールは、これらのコンセンサス・パラメータで評価されたベッティング関数の正規化された積を用いて更新されます。
• 計算量: これにより、計算コストを指数関数的な $O(g^{|K|})$ から線形な $O(|K| \cdot g)$ へと削減し、統計的なパワーを維持しつつ、高次モーメントのテストを計算可能にします。

4. Composite Legendre Jumper

Vovk et al. (2022) のフレームワークに従い、Composite Legendre Jumperは、ベースとなるマルチンゲール（SLJ, PLJ, または VLJ）を、さまざまなジャンピング率 $J \in \{10^{-4}, \dots, 1\}$ のグリッド上で平均化します。

• 堅牢性: これにより、分布シフトのタイムスケールが未知である場合でも、堅牢性が確保されます。
• 富の下限（Wealth Floor）: $J=1$ の包含により、固定レートのバリアントにはない、交換可能性の下での絶対的な富の下限が保証されます。

主な貢献

1. ベッティング関数の一般化: 線形なベッティング関数を任意の次数のシフトされたルジャンドル多項式へと拡張したSimple Legendre Jumperの導入。これにより、分散、歪度、および高次モーメントの偏差の検出が可能になりました。
2. ジャンピング税への対処: 共同の偏差を捉えるためのProduct Legendre Jumperの開発、およびそれに続く、平均場近似を用いたVariational Legendre Jumperの開発。これにより、結合された適応問題を因数分解し、統計的パワーを維持しながら、状態空間のスケーリングを指数関数的から線形へと削減することに成功しました。
3. 複合的な堅牢性: これらの手法をComposite Legendre Jumperへと統合し、分布シフトのタイムスケールが未知の場合でも自動的に適応し、かつ保証された富の下限を提供する仕組みを構築しました。
4. 実証的検証: 実世界の分類タスク（Wine Qualityデータセット）を用いた評価により、結合された手法（PLJおよびVLJ）が、単一次数のレジェンドル・ジャンパーよりも一貫して優れた性能を示すことを実証しました。

結果

著者らは、4つのデータ順序（シャッフルされたもの（交換可能）、急激な変化点を含むもの（Red $\to$ White, White $\to$ Red）、および元の順序）を用い、共形最近傍分類器（conformal nearest-neighbor classifier）を使用してWine Qualityデータセット上で提案手法を評価しました。

• 交換可能性: シャッフルされたデータの下では、すべてのマルチンゲールがゼロ付近に留まるか、わずかに減少しており、誤報を発生させないことが確認されました。
• 分布シフト: 非交換的な順序の下では、Product および Variational Legendre Jumpers（$K=\{1, 2, 3\}$）が、単一次数のSimple Legendre Jumper ($k=1$) よりも、対数スケールの証拠において30%〜60%上回る、最も高い最終対数マルチンゲール値を一貫して達成しました。
• 単一次数の失敗: 分散 ($k=2$) や歪度 ($k=3$) にのみ賭けるマルチンゲールは、シフトが複数のモーメントに関わる場合、結合されたアプローチよりも数桁少ない証拠しか蓄積できず、性能が低迷しました。
• 効率性とパワー: Variational Legendre Jumper (VLJ) は、Product Legendre Jumper (PLJ) とほぼ同等の性能を示しましたが、必要な状態数は大幅に少なくなりました（例：$K=\{1, 2, 3\}$ の場合、125状態に対し15状態）。
• Compositeの優位性: Composite Legendre Jumperは、分布シフトの下で固定レートのバリアントを決定的に凌駕し（例：固定レートの $\log_{10} M_n \approx 90$ に対し、Compositeは $\approx 100$ に到達）、交換可能性の下での固定レート・バリアントに見られる緩やかな損失の蓄積を防ぎました。

意義と主張

本論文は、分布シフトのタイムスケールが未知である場合、Composite Legendre Jumperを実務家にとってのデフォルトの選択肢とすべきであると主張しています。これは、以下の解決策を提供します。

1. 線形なベッティング関数が見逃してしまう、一様分布からの複雑でマルチモーダルな偏差を検出する。
2. 平均場近似による因数分解を通じて、共同ベッティング戦略に伴う「次元の呪い」を回避する。
3. 理論的および実用的な富の下限を提供し、帰無仮説の下での安定性を保証する。

著者らは、変分近似が経験的に正確な積（exact product）と同等の性能を発揮する一方で、平均場近似による統計的パワーの損失に関する理論的境界は未解決の問題であると述べています。また、今後の課題として、効率をさらに最適化するために、Neymanの平滑テスト（Neyman's smooth test）におけるLedwinaの手法に類似した、データ駆動型の多項式次数の選択を探索することを提案しています。実装はPythonパッケージ online-cp で利用可能です。