How fine a change can moments see? A scale law for detecting distribution shift, with a kernel calibration rule

技術要約：分布シフト検出のためのスケール則

問題提起
本論文は、高次元埋め込み表現のストリームにおける分布シフト（distribution shift）の検出という課題に取り組んでいる。標準的なアプローチは、これを統計量の選択（共分散ドリフト、密度推定、あるいはパーシステント・ホモロジーのような位相幾何学的サマリーなど）の問題として捉えるが、著者は、いかなるモーメントベースの検出器の有効性も、特徴量の数や空間の次元数ではなく、変化の空間スケール ($\varepsilon$) とそれが持つ質量分率 ($f$) によって根本的に制約されると主張している。本研究は、特に敵対的な条件下において、位相幾何学的手法（パーシステント・ホモロジー）がモーメント統計量に対して明確な優位性を持つかどうかを調査している。

手法および理論的枠組み
本論文の核心は、複雑さの決定を支配する**スケール則（scale law）**の導出と経験的検証である。

1. スケール則（下界）:

   • 空間スケール $\varepsilon$ を持ち、質量分率 $f$ を運ぶ特徴を認証するには、次を満たす次数 $N^*$ の多項式テストが必要であることを証明している：
     $$N^* \ge \frac{\log(1/f)}{2\varepsilon}$$
   • この境界は、チェビシェフの極値問題を通じて導出されている。これは、検出のコストが特徴量の「数」ではなく、特徴の「細かさ（fineness）」によって支配されることを意味する。
   • 複雑さ $b$（例：$b$ 個のループ）を持つトポロジーに対して、ガウス求積の議論を用いて $N^* \ge 4b - 1$ という下界を確立している。

2. 上界とキャリブレーション・ルール:

   • 下界は多項式テストに対して厳密なものであるが、本論文では、ガウス型テスト関数（RBFカーネルのRKHSウィットネス）を用いることで、$N^* \propto \log(1/f)/\varepsilon$ のレートを達成できることを示している。
   • これにより、実用的なキャリブレーション・ルールが導かれる。すなわち、最大平均偏差（MMD）テストのバンド幅（$\sigma$）は、特徴のスケールに一致するように設定すべきである（$\sigma \approx \varepsilon$）。

3. 反例と限界:

   • この法則は片側的である。すなわち、必要な次数の下界を与えるものであり、十分性を保証するものではない。
   • 具体的な反例として、厚みを持つアニュラス（円環）を構成している。これは非自明な第1ホモロジー（$H_1 \neq 0$）を持つが、平均、共分散、および4次までのすべてのモーメントを、中身の詰まった円盤と共有している。これは、「4次の情報が標準的な位相幾何学的変化を支配する」という考えが、あらゆるケースにおいて成立するわけではないことを論破している。

4. 経験的評価:

   • データセット: 20 NewsgroupsおよびAG Newsコーパスからの実際の埋め込みストリーム（MiniLM, bge-1024）。
   • 敵対者: 特定の防御統計量（$\mu, \Sigma$, k-NN, 尖度）を回避しつつ、ターゲットとなるトポロジーを維持するように最適化された勾配ベースの敵対者。
   • ベースライン: 共分散ドリフト、マハラノビス距離、k-NN密度、Mardiaの尖度、および様々な位相幾何学的サマリー（第1パーシステンス・ランドスケープ、全パーシステンスなど）。
   • プロトコル: スライディングウィンドウ（$W=200$）、固有次元へのPCAによる次元削減、および固定された偽陽性率（FPR）と平均ラン長（ARL）での評価。

主要な結果

1. スケール則の検証:

   • 実験により、最適なMMDバンド幅 $\sigma^*$ は特徴スケール $\varepsilon$ にほぼ等しいことが確認された（中央値の比 $\sigma^*/\varepsilon = 1.12$, IQR $[1.01, 1.52]$）。
   • $\varepsilon$ のデータ駆動型推定を用いることで、MMDテストはAUC $\ge 0.95$ に達することができる。
   • $\{\mu, \Sigma, \text{k-NN}, \text{kurtosis}\}$ に対して最適化された適応型敵対者に対し、これらの統計量はすべて回避される。バンド幅が一致したカーネルテスト（MMD-RBF）のみが、シフトの検出に成功した。

2. パーシステント・ホモロジー（PH）の性能:

   • サマリーの選択が極めて重要: PHの性能は、選択されるサマリー統計量に大きく依存する。
     • 第1パーシステンス・ランドスケープ: 性能が低く（AUC $\approx 0.75$, FPR=1%での再現率 0.00）、周囲の次元が増えると性能が低下し、次元削減にも敏感である。
     • 全パーシステンス（Total Persistence）: 著しく優れた性能を示し（AUC $\approx 0.99$, FPR=1%での再現率 0.75）、非敵対的な設定では尖度と同等の性能を発揮する。
   • 冗長性: 「全パーシステンス」サマリーは、構造的に低次のモーメント（径方向プロファイルの読み出し）のように振る舞う。粗い単一スケールの変化（本研究の焦点）の領域では、それは尖度と冗長であり、かつ尖度の116倍という膨大な計算コストを要する。
   • 敵対的失敗: 適応型敵対者に対しては、全パーシステンスと尖度の両方が同時に失敗する。生き残る唯一の検出器は、バンド幅を一致させたカーネルテストである。

3. コスト vs. パワー:

   • PHがモーメントが見逃すものを検出するという「パワーの差」があるのではなく、むしろ**「コストの差」**が存在する。
   • PH（最良のサマリーを用いた場合でも）は、尖度よりも約116倍のコストがかかり、かつ同様の敵対的条件下で失敗する。

意義と主張
本論文は、控えめながらも精密な一連の主張で締めくくられている：

• スケール則: 特徴の細かさの関数として、特定のスケールの特徴を検出するために必要なモーメントの次数に関する理論的な下界を確立し、検出コストが特徴の数ではなく、特徴の細かさに依存することを証明した。
• キャリブレーション・ルール: カーネル二標本テストのバンド幅を設定するための、具体的かつ経験的に検証されたルール（$\sigma \approx \varepsilon$）を提供した。これは、適応型敵対者に対する成功において極めて重要である。
• トポロジーへの判決: 本論文は、位相幾何学的サマリーが無用であると主張しているのではない。しかし、粗い単一スケールのモニタリング（実験の対象領域）においては、位相幾何学的サマリーはコストの面でカーネルテストに劣ると結論付けている。
  • 機能しているサマリー（全パーシステンス）は、本質的にモーメントのように振る舞っており、これは粗い特徴には低次のモーメントで十分であるという法則の予測と一致している。
  • 本論文は、パーシステント・ホモロジーの真の価値は、モーメントの次数が極めて高くなる必要があるような、微細またはマルチスケールな構造を検出することにある、との示唆を与えている。これは、今回テストされた埋め込みのシフトには存在しない領域である。

要約すれば、本研究は、埋め込みにおける分布シフト検出において、統計量の選択はシフトのスケールによって制約されると論じている。実用的な最適解は、そのスケールにバンド幅を合わせたカーネルテストであり、位相幾何学的手法は、テストされた種類の粗い変形に対しては、コストおよびパワーの両面で優位性を持たない。