Unbiased mixed variables distance

技術要約：偏りのない混合変数距離

問題提起
クラスタリング、分類、可視化などのデータ分析タスクにおいて、観測値間の距離を測定することは基本的である。混合変数（数値変数（連続型または離散型）とカテゴリ変数（バイナリ、順序型、または名義型）の組み合わせ）を含むデータセットにおいては、重大な課題が生じる。既存の手法、特にGowerの一般類似係数は、「偏り（バイアス）」を持つことが多い。この偏りは、個々の変数の寄与が、実際の観測された差異ではなく、その測定タイプ、スケール、またはカテゴリ数によって不当に影響を受けることで顕在化する。その結果、特定の変数タイプが距離計算を支配してしまい、ダウンストリームの解析において歪んだ結果を招く可能性がある。

手法
著者らは、「偏りのない」混合変数距離を構築するための一般的な定式化を提案している。彼らのアプローチは、以下の2つの理論的特性に基づいている：

1. 多変量加法性（Multivariate Additivity）： 多変量距離の全体は、単変量かつ変数固有の距離の総和として定義される。これにより、各変数の寄与が加法的かつ明示的に定義され、非加法的な指標（次元が増加するにつれて変数ごとの寄与が減少するユークリッド距離など）に見られる暗黙的な幾何学的仮定を回避できる。
2. 可換性（Commensurability）： 単変量の寄与は、変数タイプ、スケール、または基礎となる分布に関わらず、その期待値が一定である（可換である）必要がある。

著者らは、以下の一般化された距離の定式化を導出している：
$$d(x_i, x_l) = \sum_{j=1}^{p} w_j \delta_j(x_i, x_l)$$
ここで、$\delta_j$ は変数 $j$ の非類似度を定量化し、$w_j$ は重みである。可換性を達成するために、重みは各変数の期待距離の逆数として定義される：
$$w_j = 1 / E[d_j(X_i, X_l)]$$

論文では、一般的なスケーリングおよび距離の選択がいかにこれらの特性を損なうかを体系的に分析している：

• 数値変数： 著者らは、標準偏差スケーリング、範囲スケーリング（Gowerの距離で使用）、ロバスト範囲スケーリング、および主成分スケーリングを評価している。これらの手法はスケールを標準化するものの、異なる基礎となる分布（例：正規分布 vs 一様分布 vs 歪んだ分布）に対して可換性を保証しないことを示している。
• カテゴリ変数： 著者らは、様々なカテゴリ非類似行列（単純一致、Eskin、出現頻度、Hennig-Liaoスケーリング、およびKullback-Leiblerや全分散に基づく関連度尺度など）を検討している。これらにより、カテゴリ変数の平均距離は、カテゴリ数やカテゴリ確率の分布に強く依存することを示している。

偏りのない距離を構築するために、著者らは観測データ（または理論的分布）から各変数の期待平均距離を推定し、その値の逆数を重みとして適用することを提案している。これにより、「平均距離」を実質的な「測定単位」とする、一連の偏りのない距離が作成される。

主な貢献

• 一般化された定式化： 本論文は、多変量加法性と可換性を満たす、混合変数距離のための柔軟で一般的なフレームワークを提供しており、様々な $\delta_j$ の実装やスケーリング手法を可能にする。
• 偏りの定量化： 著者らは、一般的な手法（Gowerの距離やHennig-Liaoスケーリングなど）によって導入される偏りの大きさを導出し、これらの偏りが分布の型やカテゴリ数によってどのように変化するかを示している。
• 偏りのない構築： 著者らは、各変数の経験的または理論的な平均距離に基づいて重み付けを行うことで、これらの偏りを修正する具体的な方法を提供し、変数タイプやスケールが距離構造を自明に決定しないようにしている。
• 評価： 著者らは、カテゴリ変数に対する独立（変数固有）アプローチと関連度ベース（結合分布）アプローチの両方を評価し、関連度ベースの手法が混合設定における距離計算をさらに洗練させることができることを示している。

結果
著者らは、シミュレーション研究とFIFAプレイヤーデータを用いた実証的な適用を通じて、その知見を検証している：

• シミュレーション： 既知の基礎構造を持つ制御された環境において、非可換な手法（標準的なGowerやナイーブなユークリッドアプローチなど）は、カテゴリ数や変数タイプによって変数への寄与が歪められることを示している。例えば、Gowerの距離はカテゴリ変数を過大評価する傾向があり、一方でHennig-Liaoスケーリングを用いたユークリッド距離は数値変数を過大評価する場合がある。
• 構造の回復： 多次元尺度構成法（MDS）を介して低次元構成を復元する際、偏りのないバリアント（特に関連度ベースの尺度を用いた「Unbiased Dependent」バリアント）は、特にカテゴリ数が増加した場合において、真の基礎構造を回復する上で優れた性能を示した。
• 実証的適用： FIFAデータセットの分析により、偏りのある手法が予測可能な歪みを変数重要度やMDSの解にもたらすことが確認された。偏りのない手法は、可換性の原則に従って変数の寄与がバランスされた、より客観的なベースラインを提供した。

意義と主張
著者らは、自身の研究が、異なる変数タイプが全体の非類似度にどのように寄与するかという、距離ベースのデータ分析における根本的な問題に対処していると主張している。偏りのない距離を定義し構築することで、探索的解析のためのより中立的な出発点を提供している。

本論文は、最適性に関する謙虚な姿勢を明示している。著者らは、提案手法がすべてのシナリオにおいて「最適な」距離であると主張しているのではない。代わりに、彼らは「偏りのない」距離とは、変数タイプ、スケール、および測定レベルが、距離計算の方法によって自明に影響を受けないものであると定義している。もしドメイン知識に基づき特定の変数をより重視すべきであると示唆される場合は、意図的に重み付けを行うことができる。しかし、提案された手法は、そのような重み付けが、距離計算手法の副産物ではなく、意図的な選択であることを保証するものである。その意義は、研究者が、構造的な偏りのない混合変数距離を構築することを可能にする、理論的に健全で一般的な定式化を提供することにある。