技術要約：クラスタリングとその後の埋め込み：可視化のためのモジュール型アプローチ

問題提起

次元削減手法、特に t-SNE や UMAP は、潜在的なクラスタ構造を持つ高次元データの可視化に広く用いられている。これらの手法はデータポイントをグループ化し、局所的な情報を保持することには長けているが、基礎となるデータのグローバルな幾何学構造を歪めてしまうことが知られている。具体的には、異なるクラスタ間の相対的な位置、距離、およびサイズを保持することに失敗する場合が多い。この制限は「混雑問題（crowding problem）」に起因しており、低次元の埋め込み空間が、元の高次元での距離スケールにおけるすべてのポイントを収容するための十分な容量を持たないため、遠く離れたポイントの崩壊や、異なるクラスタの重複を引き起こす。既存の手法は、局所構造の保持（クラスタの分離）とグローバルな距離の保持の間で、しばしばトレードオフを強いることになる。

手法：Cluster+Embed (C+E) フレームワーク

著者らは、局所的な忠実度とグローバルな忠実度の間のトレードオフに対処するために、Cluster+Embed (C+E) と呼ばれるモジュール式の3ステップ・フレームワークを提案している。このアプローチは、クラスタリング、局所的な埋め込み、およびグローバルな整列を分離しており、分析者が可視化の目的に応じて各段階で特定のアルゴリズムを選択できるようにするものである。

ステップ1：クラスタリング

データ $\{x_i\}_{i=1}^n$ は、任意の選択されたクラスタリングアルゴリズム（例：Leiden、DBSCAN、k-means）を用いて $\kappa$ 個のクラスタ ($C_1, \dots, C_\kappa$) にまず分割される。このステップにより、データに存在するクラスタ構造が明示的に明らかにされる。この段階でノイズとして特定されたポイントは破棄することができる。

ステップ2：個別のクラスタ埋め込み

各クラスタ $C_l$ は、選択された埋め込み手法（例：PCA、Isomap、TriMap）を用いて、低次元空間（通常は $\mathbb{R}^2$）に個別に埋め込まれる。

• 根拠: クラスタを一度に全体として埋め込むのではなく、個別に埋め込むことで、より小さな局所的サブセット内では「混雑問題」が軽減され、歪みが抑えられる。
• スケーリング: もし埋め込み手法が順序情報に依存する場合、埋め込まれた距離と元の非類似度との間の二次損失を最小化するために、各クラスタにスケーリング係数 $\gamma_l$ が適用される。

ステップ 3：グローバルな整列

埋め込まれたクラスタは、剛体変換（平行移動、回転、および反転）のみを用いて、単一のグローバルな埋め込みへと整列される。目標は、異なるクラスタ間にあるポイント同士のペアワイズの非類似度が、可能な限り忠実に保持されるように、クラスタを互いに配置することである。

• 最適化: 整列は、以下のストレス関数（Kruskalのストレス）を最小化する：
  $$\min_{T_1, \dots, T_\kappa} \sum_{1 \le i < j \le \kappa} \sum_{l \in C_i} \sum_{m \in C_j} (\delta_{lm} - \|T_i(y_l) - T_j(y_m)\|)^2$$
  ここで $\delta_{lm}$ は元の非類似度であり、$T$ は剛体変換を表す。
• スケーリングによる混雑の緩和 ($\alpha$): 最終的な可視化における重なりを防ぐために、著者らは $\alpha \ge 1$ のチューニングパラメータを導入している。クラスタ間の目標距離は $\alpha \delta_{lm}$ にスケーリングされる。これは、低次元マップにおけるクラスタ間の空間を効果的に膨張させ、クラスタ間の混雑問題を回避する。
  • $\alpha$ は手動または自動で調整可能である。自動的なヒューリスティックとして、$\alpha = \max(1, \frac{\kappa \tau}{2\pi \Delta})$ が提案されている。ここで $\tau$ は平均的なクラスタ直径であり、$\Delta$ は平均的なクラスタ間距離である。

主な貢献

1. モジュール型フレームワーク: 本論文は、クラスタリング、埋め込み、および整列が明確に異なるステップであるという、透明性の高いモジュール型アプローチを導入している。これにより、ユーザーは特定の可視化特性（例：kNN想起率のための TriMap や、距離保持のための PCA）をターゲットにするために、各段階で特定のアルゴリズムを選択できる。
2. グローバルな幾何学への明示的な制御: 力学的な相互作用を通じて暗黙的に、かつしばしば不透明にグローバル構造を扱う t-SNE や UMAP とは異なり、C+E は剛体整列を介してクラスタ間の距離を明示的に最適化する。
3. 混雑問題への解決策: この手法は、カーネルを変更すること（t-SNE が Cauchy カーネルで行うようなこと）によって混雑問題に対処するのではなく、パラメータ $\alpha$ を通じてクラスタ間の距離を明示的にスケーリングすることで対処し、異なるクラスタが重ならないようにしつつ、その相対的な組織化を維持する。
4. 透明性: このアプローチは、局所構造の保持（クラスタ内）とグローバル構造の保持（クラスタ間）が別々の制御可能なメカニズムによって処理されるため、エンドツーエンドの手法よりも解釈しやすい。

実験結果

著者らは、t-SNE、UMAP、PCA、Isomap、PHATE、および TriMap を含むベースラインと比較して、合成データおよび実世界のデータセット（MNIST、ヒト脳オルガノイドデータ、マウス皮質データ）を用いて C+E を評価した。

• 合成形状データセット: C+E は完全な局所的指標（正確なクラスタ構成の回復）を達成し、グローバルな方向性を維持したが、t-SNE と UMAP は顕著な局所的歪みを導入した。
• MNIST: C+E はクラスタを正常に分離し、意味のあるグルーピング（例：類似した数字のグループ化）へと整理した。t-SNE は小さな $k$ に対して優れた kNN 想起率を示したが、C+E はグローバルな指標（クラスの保持およびクラスタ間距離の保持）において t-SNE および UMAP を上回った。
• ヒト脳オルガノイドデータ: C+E の埋め込みは、明確な時間的発達軌跡と、明確な細胞型グループ化を明らかにした。PCA や L-Isomap と同等かそれ以上のグローバルな指標を保持しつつ、t-SNE や UMAP よりも優れた局所構造と、少ない崩壊（collapse）を提供した。
• マウス皮質データ: C+E は、他の手法では存在しなかった粗い構造から細かい構造（抑制性/興奮性ニューロンおよび非ニューロンの分離）を明らかにした。埋め込みのスケールは膨張していたため（正規化されたストレスが高くなった）、スケール不変のグローバル指標では C+E が UMAP や t-SNE よりも優れていた。

重要性と主張

本論文は、C+E が忠実な局所的埋め込みと忠実なグローバルな組織化の両方を実現することで、既存の可視化手法に対して競争力のある代替案を提供すると主張している。

• トレードオフの管理: この手法は、局所的保持とグローバルな保持の間に内在するトレードオフを認めつつ、パラメータ $\alpha$ を通じてこのトレードオフを明示的に管理するメカニズムを提供している。
• 柔軟性: このフレームワークは、グローバルなクラスタ配置を犠牲にすることなく、特定の指標（例：TriMap による kNN 想起率や PCA による距離保持）を優先することをユーザーに可能にする。
• 限界: 著者らは、小さな $k$ に対する kNN 想起率を最大化する点において、依然として t-SNE が最先端であることを謙虚に述べている。C+E の kNN 想起率は、$\alpha$ を大きくするか、より多くのクラスタを作成することで改善できる可能性があると示唆しているが、これは偽のクラスタを生むリスクを伴う。整列ステップの計算複雑性は、ポイント数に対して二次的にスケールするが、緩和のためにサブサンプリング戦略が採用されている。

結論として、著者らは C+E が、クラスタ内部の幾何学と、クラスタ自体の相対的な位置関係の両方を保持する、より透明で制御可能なクラスタ化データの可視化アプローチを提供すると主張している。これは、一般的な非線形次元削減手法においてしばしば失われる要素である。