An association measure for mixed-type variables

技術要約：混合型変数に対する関連度尺度

問題提起
実数値変数（$X$）とカテゴリ変数（$Y$）の間の関連性を定量化することは、データ分析における基本的な課題であり、特にゲノミクスや社会科学などの分野で混合型データが普及するにつれ、その重要性が高まっている。この「数値型–カテゴリ型」の設定における既存の手法には、以下のような重大な限界がある：

• パラメトリックな仮定： 準系列相関（polyserial correlation）などの手法は、潜在正規モデルや線形・順序的な仮定に依存しており、これらが成立しない場合がある。
• 恣意的なエンコーディング： 数値的手法（例：Chatterjeeの$\xi_n$）を適用するために、名目カテゴリを整数としてエンコードする一般的な回避策は、人工的な順序や間隔を導入してしまう。これにより、統計量が選択されたコーディングスキームに基づいて大きく変動するという不安定な結果を招く。
• 尺度の欠如： ANOVAの$F$検定のような標準的なテストは平均値の差を評価するが、固定された解釈可能な尺度（例：0から1）に基づく依存度の尺度を提供するものではない。

手法
著者らは、混合型の実数値–カテゴリ設定のために特別に設計された、ラベル不変な母集団の関連度尺度である$\xi'$と、その対応する標本推定量$\xi'_n$を提案している。

1. 母集団の尺度（$\xi'$）：
   この尺度は、$X$を観測することによって得られるジニ不純度（または情報利得）の減少量に基づいて定義される。$g_j(x) = P(Y=j | X=x)$ を条件付き確率関数とする。母集団の尺度は以下の通りである：
   $$\xi'(X, Y) = \frac{E\left[\sum_{j=1}^k g_j(X)^2\right] - \sum_{j=1}^k P(Y=j)^2}{1 - \sum_{j=1}^k P(Y=j)^2}$$
   この定式化は、条件付き分布の集中度（二乗された条件付き確率）を、周辺の集中度に対して集計し、正規化している。

2. 標本推定量（$\xi'_n$）：
   この推定量は、平滑化やチューニングパラメータを用いることなく、ノンパラメトリックに構築される：

• 標本 $(X_i, Y_i)$ を$X$に従ってソートし、$(X_{(1)}, Y_{(1)}), \dots, (X_{(n)}, Y_{(n)})$ を得る。
• 隣接一致比率 $A_n = \frac{1}{n-1}\sum_{i=1}^{n-1} \mathbb{I}(Y_{(i+1)} = Y_{(i)})$ を計算する。
• 周辺一致確率 $B_n = \sum_{j=1}^k \hat{p}_j^2$ を計算する（ここで $\hat{p}_j$ はクラス $j$ の標本比率である）。
• 推定量は $\xi'_n = \frac{A_n - B_n}{1 - B_n}$ である。
• この推定量は、ソートのステップにより $O(n \log n)$ の時間で計算可能である。

3. 理論的特性：

• 正規化： $\xi' \in [0, 1]$ である。
• 独立性： $\xi' = 0$ となるのは、$X$と$Y$が独立である場合、かつその時に限る。
• 関数的依存性： $\xi' = 1$ となるのは、$Y$が$X$の（ほとんど至る所において）測定可能な関数である場合、かつその時に限る。
• 不変性： この尺度は、$X$の厳密に単調な変換、および決定的なことに、$Y$のカテゴリラベルの任意の置換に対して不変である。
• 古典的な尺度との関連： $\xi'$ は、ジニ不純度を用いて決定係数（$R^2$）を一般化したものである。構造的にはChatterjeeの$\xi$と類似しているが、出現頻度による重み付けを行わずにクラス固有の分散を集計するため、名目（順序のない）カテゴリに適している。

漸近理論と推論
論文では、$\xi'_n$の強一致性と、2つのレジーム下での漸近正規性を確立している：

• 独立性の下（$H_0$）： $\sqrt{n}\xi'_n$ は平均0の正規分布に収束する。著者らは一貫した分散推定量を用いて、計算効率の高い、置換を用いないWald検定を導出している。小標本における負のバイアスに対処するための、有限標本中心補正も提案されている。
• 一般的な依存性の下： 著者らは、（条件付き確率の有界変動という）緩やかな条件下で、$\sqrt{n}(\xi'_n - \xi')$ の漸近正規性を証明している。$k$近傍法（$k$-NN）を用いたプラグイン分散推定量が提供されており、これにより、母集団の尺度に対する漸近的に妥当な信頼区間の構築が可能となる。

主な結果

• シミュレーション研究： ブロックデザインモデルを用いた広範なシミュレーションにより、$\xi'_n$ が信頼区間の公称被覆確率を達成し、Wald検定において正しい第I種の過誤率を維持することが示された。
• コーディングの安定性： 同じ名目データに対して異なる整数エンコーディングを行うと激しく変動するChatтеterjeeの$\xi_n$とは異なり、$\xi'_n$ はラベルの置換に関わらず一定である。
• 検出力： 提案手法は、弱い信号やマイノリティクラスの検出を含むシナリオにおいて、Distance Covariance (dCov)、HSIC、ANOVAなどの確立された代替手法に対して競争力のある検出力を示す。
• 計算効率： $O(n \log n)$ の計算複雑性は、HSICのようなカーネルベースの手法に伴う $O(n^2)$ のコストを回避し、スケーラビリティを実現している。
• 実データへの適用： The Cancer Genome Atlas (TCGA) の乳がんデータへの適用により、平均ベースの検定では見逃される可能性のある、分散の不均一性を含む一般的な依存性を検出できることが示された。

意義と主張
本論文は、混合型データにおける関連性を測定するための、ロバストでモデルフリーな解決策を提供すると主張している。その主な意義は以下の通りである：

1. ラベル不変性： 名目的なカテゴリ変数に対してランクベースの統計量を適用する際に生じる不安定性の問題を、クラス指標を直接集計することで解決している（人工的な順序を課さない）。
2. 解釈可能性： ジニ不純度の減少率（情報利得）を定量化する正規化された尺度（0から1）を提供し、統計的検定と予測モデリングの概念の間の架け橋となる。
3. 効率的な推論： 漸近理論を通じて、高速で置換を用いない仮説検定と信頼区間の構築を可能にしており、これは再サンプリングに多大な計算資源を要する代替手法と比較して、大規模なデータセットにおいて計算上の優位性を持つ。

著者らは、$\xi'$ を、標準的なランク相関が恣意的なコーディングに敏感であるために失敗する、名目的なカテゴリ応答に特化したChatterjeeの研究の必要な拡張として位置づけている。