Handling mild outliers and unobserved values in compositional datasets using finite mixtures of mean-parametrised Dirichlet models

技術要約：組成データセットにおける軽微な外れ値と未観測値の処理

問題提起
単位単体（unit simplex）上に存在し、その総和が一定である組成データは、しばしば「典型的な点からの逸脱（外れ値）」と「欠損値」という2つの同時進行する課題に直面する。従来のアプローチでは、標準的な多変量解析（正規分布など）を適用するために、組成データを実数空間へと変換（加法的な対数比変換や等長対数比変換など）することに依存することが多い。しかし、これらの変換は外れ値の相対的な位置関係を歪め、逆変換時にバイアスを導入する可能性があり、また単体上で直接的に欠損値を扱うための原理的な枠組みを提供できない。さらに、既存のディリクレ混合モデルは、アドホックな補完や変換を用いることなく、欠損値と汚染（contamination）の両方を同時に扱うことに苦慮している。

手法
著者らは、不完全な組成データ向けに設計された、ハューバーの汚染モデル（Huber's contamination model）下における平均パラメータ化ディリクレ分布の有限混合モデルを提案している。

1. モデル定式化:

   • 汚染（Contamination）: このモデルは、単体上で直接、汚染された密度 $f_{CD}$ を定義する。この密度は、「参照用」のディリクレ成分と、変動性が増幅された「汚染された」成分の混合体である。汚染は、外れ値の割合を示すパラメータ $\varepsilon$ と、変動増幅パラメータ $\eta > 1$ によって制御される。
   • 欠損（Missingness）: 本フレームワークは、**MAR（Missing At Random：ランダムな欠損）**メカニズムを仮定している。極めて重要な点として、著者らはディリクレ分布に従うベクトルにおいて、観測部分 ($\mathbf{X}_o$) が与えられたときの欠損部分 ($\mathbf{X}_m$) の条件付き分布を導出している。MARの下では、残りの質量によってスケール調整された欠失部分は、調整されたパラメータを持つディリクレ分布に従うことを証明している。これにより、補完を行うことなく、観測データの周辺分布を導出することが可能となる。
   • 一様ノイズのベンチマーク: 本論文は、単体上の一様ノイズが特定のディリクレ分布 ($DS_p(\frac{1}{p}\mathbf{1}; \frac{1}{p})$) に従うことを確立しており、これが外れ値検出の理論的ベンチマークとなる。

2. 推論と最適化:

   • 存在性と一意識決定: 著者らは、汚染された平均パラメータ化ディリクレ分布の観測対数尤度の最大化が、一意な最大尤度推定値（MLE）を与えることを確立した。単一成分 ($G=1$) に関して、対数尤度は平均パラメータに対して**厳密に凹（strictly concave）であり、変動パラメータに対して強圧的（coercive）**であることを示し、最適化子の存在と一意性を保証している。混合モデル ($G>1$) については、置換を除いて識別可能性（identifiability）が議論されている。
   • EMアルゴリズム: 特化した期待値最大化（EM）アルゴリズムが開発された：
     • Eステップ: クラスタリングの所属確率および外れ値の状態を計算する。ここでは、欠損部分の分布のモーメントを取り入れ、欠損を含む観測値を扱うために導出された条件付き分布を利用する。
     • Mステップ: 制約付きニュートン・ラフソン（NR）法を介してパラメータを更新する。平均 ($\boldsymbol{\mu}$)、変動性 ($\gamma$)、および増幅 ($\eta$) パラメータの閉形式の解は存在しないため、著者らは要素ごとの反復更新を導出している。アルゴリズムは収束を判定するためにアイトケンの加速法（Aitken acceleration）を使用する。

3. クラスタリングと検出:

   • アルゴリズムは、クラスタリング（混合成分への観測値の割り当て）と外れ値検出（観測値を典型的か汚染されているかの判定）を、最大事後確率（MAP）に基づいて同時に実行する。

主な結果

• シミュレーション研究: 性能は、欠損率（0–90%）、汚染率（10–30%）、およびサンプルサイズ ($n=100, 1000$) を変化させた1,000個のデータセットを用いて評価された。

  • クラスタリング: 提案モデルは、大幅な欠損がある場合でも高い精度と調整ランド指数（ARI）スコアを維持した。興味深いことに、中程度の欠損は、外れ値の構成による影響を減少させることで、高ノイズシナリオにおけるクラスタリング性能を向上させることがあった。
  • 外れ値検出: モデルは外れ値の検出において高い精度を示したが、欠損が増加するにつれて真陽性率（TPR）が低下した（スパースな行を典型的と分類するバイアスが生じる）。大きなサンプルサイズは、検出指標を大幅に改善した。
  • パラメータ回復: 平均の推定は、欠損レベルに関わらず偏り（バイアス）がなかった。変動パラメータの推定は、欠損との非単調な関係を示し、パラメータ回復が最も正確になる「スイートスポット」としての適度な欠損が存在することを明らかにした。
  • モデル選択: AIC、BIC、およびICLといった基準は、汚染モデルにおける正しい成分数を特定することに成功した。これは、外れ値を説明するためにクラスターを過剰に分割する傾向がある標準的な（非汚染の）ディリクレ混合モデルよりも優れた性能であった。

• 応用例（アメリカ時間使用調査）:

  • 49.1% のセル欠損を含むデータセットに適用したところ、統合分類尤度（ICL）に基づき、標準的なディリクレ混合モデル ($G=4$) よりも、提案された汚染モデル ($G=2$) が選択された。
  • 標準的なモデルは、外れ値を吸収するためにグループを人工的に分割し、4つのクラスターを特定した。
  • 提案モデルは、「仕事中心型」と「社交・レクリエーション型」という、解釈可能な2つのクラスターを特定した。また、これらを別の（おそらく偽の）クラスターに強制的に押し込むことなく、約16.4%の観測値を外れ値（非典型的な時間使用組成）として正常にフラグ立てすることに成功した。

意義と主張
本論文は、外れの表現に関する原理的な手法を提供し、汚染を考慮しながら欠損部分の分布を導出する方法を提示しており、これらすべてをデータを単体から変換することなく実現していると主張している。主な貢献は以下の通りである：

1. 理論的貢献: MAR条件下における、汚染された平均パラメータ化ディリクレ混合のMLEの存在、一意性、および識別可能性を確立したこと。
2. 手法論的貢献: 要素ごとの反復更新を通じて、欠損値と外れ値を同時に扱う、扱いやすいEMアルゴリズムを開発したこと。これにより、対数比変換によって導入されるバイアスを回避している。
3. 実践的貢献: 単体上で直接外れ値をモデリングすることで、従来の近似手法で見られるようなクラスターの人工的な分割を防ぎ、より解釈性の高い結果をもたらすことを示した。

著者らは、本フレームワークは、データを制約のないモデルに適応させるという従来の視点を逆転させ、組成データの幾何学的構造と制約を尊重する推定ツールを開発するものであり、それによって単体ベースのモデリングへの新たな道を切り開くものであると結論づけている。