技術的サマリー：GICDM – 信頼性の高い距離ベース生成モデル評価のためのハブ性低減

1. 問題提起

生成モデルの評価は、実サンプルと合成サンプル間の距離を計算するために、高次元埋め込み空間（例：InceptionV3、DINOv2、CLAP）に頻繁に依存しています。しかし、これらの高次元空間は、次元の呪いの結果であるハブ性現象の影響を受けやすいです。

高次元では、最近傍関係が極めて非対称になります。特定の点、すなわちハブは、意味的に無関係であっても、他の点の最近傍として不釣り合いに頻繁に現れます。逆に、多くの点、すなわちアンチハブは、一度も最近傍として現れません。この歪みは、近接性が意味的類似性を意味するという仮定を無効化します。

本論文は、ハブ性が標準的な距離ベースの忠実度およびカバレッジ指標（例：Precision、Recall、Density、Coverage）を著しく偏らせることを示しています。具体的には：

• 偽の忠実度（False Fidelity）： 生成された「ハブ」点が人工的に多くの実サンプルに近接して見えるため、忠実度スコアが過大評価されます。
• 偽のカバレッジ（False Coverage）： 「アンチハブ」領域にある実サンプルはブラインドスポットとして機能し、生成サンプルからの忠実度スコアをゼロに受け取ります。
• 指標の失敗： 実分布と生成分布が離散しているシナリオ（例：半径が入れ替わった超球の混合）において、標準的な指標は高次元で誤って非ゼロのスコアを出力し、重なり不足を検出できなくなります。

既存の指標は、しばしば正規性を仮定するか、埋め込み空間のこれらの構造的歪みを考慮しない単純な分布近似に依存しています。

2. 手法：GICDM

著者は、生成モデルの評価に特化してハブ性を低減するために設計されたGenerative ICDM（GICDM）を提案します。GICDMは、計算上の懸念とアウトオブサンプル処理の欠如により、以前は生成評価から却下されていた古典的な反復的コンテクスト非類似性尺度（Iterative Contextual Dissimilarity Measure: ICDM）（Jégou et al., 2010）を拡張したものです。

GICDMは、以下の 3 つの主要な要件のもとで動作します：

1. 実データの密度の均一化： 実データセット内のハブ性を低減し、最近傍関係が意味的かつ対称になるようにします。
2. 相対的位置関係の維持： 生成点と実データ多様体間の真の局所的幾何構造を維持します。
3. 条件付き独立性： 生成点の評価が、他の生成点ではなく、実セットとの関係のみに依存することを保証します。

アルゴリズム的ステップ

1. 実データへの ICDM 適用： ICDM アルゴリズムを実データ点の集合 $\{x^r_i\}$ に反復的に適用します。このプロセスは、実データ多様体の局所密度を実質的に平坦化するスケーリング係数 $\{\delta^r_i\}$ を計算します。更新則は、すべての点の平均隣接点距離を均等化するように距離を反復的にスケーリングし、局所密度推定値が均一になる状態に収束します。
2. 生成点に対するアウトオブサンプルスケーリング： 各生成点 $x^g_j$ に対して、スケーリング係数 $\delta^g_j$ が独立して計算されます。これは、生成点の平均隣接点距離（スケーリングされた実隣接点に対する相対値）が実データの平衡平均距離と一致するように強制することで導出されます。
   $$\delta^g_j = \frac{\mu_{r,eq}}{\frac{1}{K+1} \sum_{k=1}^{K+1} \delta^r_{NN^{eq}_k(x^g_j)} d(x^g_j, NN^{eq}_k(x^g_j))}$$
   ここで、$K+1$ は、生成点が実セットの一部ではないという事実を考慮するために $K$ の代わりに使用されます。
3. マルチスケールフィルタリング： 過剰補正を防ぐため、本手法はフィルタリング戦略を採用します。生成点の計算されたスケーリング係数 $\delta^g_j$ が、その実隣接点の平均スケーリングから著しく逸脱する場合、それは実データ多様体の外にあるとフラグ付けされます。
   • フィルタリングは複数のスケール（2 つの異なる近傍サイズ、例：$K_1$ と $K_2$ を使用）で行われます。これは、特定の次元や密度において、多様体外の点が偶然に多様体内の点と類似した距離を持つ可能性がある「交差領域（crossover regime）」に対処するものです。
   • フィルタに失敗した点は、ゼロの忠実度を割り当てられ、カバレッジに寄与しません。

実点 $x^r_i$ と生成点 $x^g_j$ 間の最終的な非類似性は以下のように定義されます：
$$\text{GICDM}(x^r_i, x^g_j) = d(x^r_i, x^g_j) \cdot \delta^r_i \cdot \delta^g_j$$

3. 主要な貢献

• 埋め込みにおけるハブ性の実証： 本論文は、生成モデル評価に用いられる一般的な埋め込み空間（VGG16、InceptionV3、DINOv2、DINOv3、CLAP）が著しいハブ性を示すことを実証的に示しています。上位 1% の点は、平均よりも 4〜16 倍頻繁に隣接点として現れ、10〜30% の点がアンチハブとして機能しています。
• ICDM の復活： 著者は、非反復的な NICDM の支持の下で以前は見落とされていた反復的コンテクスト非類似性尺度（ICDM）が、17 のデータセット - 埋め込みの組み合わせにおいて、CSLS、DSL、Sphere 投影を含む他のハブ性低減手法よりも一貫して優れていることを示しています。
• GICDM フレームワーク： 実データに ICDM を適用しつつ、独立したスケーリングとマルチスケールフィルタリングを介してアウトオブサンプルの生成点を処理する、特化した手法の導入。
• ベンチマーク検証： 合成ベンチマーク（Räsä et al., 2025）および実世界データセット（CIFAR-10、ImageNet、LSUN、FFHQ）における広範なテストにより、GICDM がハブ性によって引き起こされる指標の失敗を解決することが示されました。

4. 実験結果

• 合成ベンチマーク： Räsä ら（2025）が提案したベンチマークにおいて、GICDM は標準指標の性能を著しく向上させました。例えば、Clipped Density は 18 から 23 の基準をパスし、Clipped Coverage は 18 から 22 をパスしました。重要なのは、GICDM によってハブ性により以前は非ゼロのスコアを出力していた「超球テスト（Hypersphere Test）」が修正され、スコアが正しくゼロのまま留まったことです。
• 人間との相関： 人間のエラー率（実画像と生成画像の識別）に対して評価された際、GICDM は最良のパフォーマンスを示した指標である Clipped Density のピアソン相関を維持または向上させました。この改善は、ハブ性の影響を強く受ける DINOv3 埋め込みにおいて最も顕著でした。
• クラスターフリーガイダンス： ImageNet における DiT-XL-2 を用いた実験では、標準指標は誤ってクラスターフリーガイダンスが忠実度とカバレッジの両方を増加させると示唆しました。GICDM はこれを修正し、忠実度の増加とカバレッジの減少を示し、理論的な期待と一致しました。
• 定性的分析： LSUN Bedroom データの可視化により、修正前には 64 の実近傍に現れていた最も頻出する生成ハブが、GICDM 後には 4 に減少したことが示されました。残った隣接点はハブと意味的にさらに類似しており、近傍構造が回復したことを示しています。

5. 意義と限界

本論文は、GICDM がハブ性現象によって引き起こされる失敗を解決することで、高次元空間における生成モデルのより信頼性が高く信頼できる評価を可能にすると主張しています。これは距離ベースの指標の有効性を回復し、それらが人間の評価や理論的な期待とよりよく整合するようにします。

控えめな主張と限界：

• ロバスト性への依存： 著者は明示的に、GICDM の有効性は、基盤となる指標が実データの異常値に対してロバストであることに依存すると述べています。個々の点の影響を制限する Clipped Density や Clipped Coverage などの指標が最も恩恵を受けます。非ロバストな指標（例：標準的な Precision、Density）は、GICDM を適用しても改善されないか、むしろ人間とのスコアとの相関が低下する可能性があります。
• 距離指標ではないこと： GICDM は三角形不等式を満たさない非類似性尺度です。しかし、著者は、生成評価が主に隣接点のランキングと近傍所属の決定を必要とし、これらは厳密に三角形不等式を必要としないため、これは許容されると論じています。
• 計算コスト： GICDM はオーバーヘッド（反復的 ICDM とスケーリング計算）を追加しますが、その複雑さは $O(N(TN + M))$であり、高次元最近傍探索に既に必要とされるブルートフォース$O(N^2)$ 距離計算と同等です。

結論として、本論文は、ハブ性が生成モデル評価における指標の失敗の根本的かつしばしば見落とされている原因であり、GICDM がこれらの評価の信頼性を回復するために必要な修正を提供すると提唱しています。