Quantifying the complexity of trajectory ensembles with clustering-weighted multivariate multiscale sample entropy

技術要約：クラスタリング重み付き多変量マルチスケール・サンプルエントロピー（CWMMSE）による軌跡アンサンブルの複雑性の定量化

1. 問題提起

物理学、生物学、工学などの分野において、システムは単一の時系列としてではなく、軌跡のアンサンブル（例：衛星コンステレーション、臨床コホート、流体粒子）として観測されることが増えている。サンプルエントロピー（SampEn）、近似エントロピー、マルチスケールエントロピー（MSE）といった既存の複雑性指標は、個々の時系列の予測不可能性を特徴づけるものである。しかし、これらの指標を単純に個々の軌跡の複雑性を平均化することでアンサンブルに適用することは、集団の構造的な多様性を放棄することになる。

本論文は、この「平均化」というアプローチにおける決定的な限界を指摘している。すなわち、それは個体の複雑性（単一の軌跡がいかに不規則であるか）とアンサンブルの多様性（軌跡の集団がいかに多様であるか）を混同してしまう点である。その結果、以下の両者を区別できなくなる。

1. すべての構成員が同じ複雑な挙動を示す、冗長な集団。
2. 多くの異なる、個体としては単純な挙動が共存している、多様な集団。

著者らは、システムの複雑性を真に捉える尺度には、構成員の不規則性と集団の多様性の両方を同時に考慮する必要があり、これら2つの要素は現実のデータにおいて大きく乖離し得ることを主張している。

2. 手法：クラスタリング重み付き多変量マルチスケール・サンプルエントロピー（CWMMSE）

著者らは、個体の複雑性とアンサンブルの多様性を単一の重み付きエントロピー値へと融合させる指標として、CWMMSEを提案している。その構築は3つの段階で行われる。

A. 軌跡内複雑性（個体成分）
$M$個の多変量時系列からなるアンサンブル内の各軌跡 $T_j$ に対して、**多変量マルチスケール・サンプルエントロピー（MMSE）**を計算する。

• 粗視化（Coarse-graining）: 時間スケール $s$ において、チャネルを重複しないブロックごとに平均化する。
• 遅延埋め込み（Delay Embedding）: 全チャネルにわたる複合遅延ベクトルを形成する。
• エントロピー計算: 埋め込み次元 $d$ で一致するセグメントが、チャネルあたり1サンプル分拡張しても一致する条件付き確率を計算する。この確率の負の対数によって $S(T_j)$ が得られる。
• このステップにより、各個々の軌跡の固有の動的な複雑性が捉えられる。

B. アンサンブルの多様性（集団成分）
軌跡を行動パターンに基づいてクラスタリングによってグループ化する。

• クラスタリング: 軌跡の非類似度指標（デフォルトは点別ユークリッド距離）に対して、凝集型ウォード法（Agglomerative Ward linkage）を用いる。
• 解像度: クラスタリングは、特定の高さ（最大連結距離の割合として定義）でカットされ、行動パターンを定義する。
• 多様性指標: これらの $k$ 個のクラスターに対する集団分布を、シャノン・クラスターエントロピー $H(C) = -\sum p_i \ln p_i$ を用いて定量化する（ここで $p_i$ はクラスター $i$ に属する軌跡の割合）。これは $\ln M$ によって正規化され、$\hat{H}$ となる。

C. 融合：重み付きエントロピー
CWMMSEは、BelisとGuiaşuによる重み付きエントロピーの枠組みを用いて、これらの要素を組み合わせる。

• 公式: $S_{CWMMSE} = \sum_{i=1}^{k} (-p_i \ln p_i) S_i$ （ここで $S_i$ はクラスター $i$ 内の軌跡の平均MMSEである）。
• 解釈: これは、各アウトカム（パターン）が自身の動的な複雑さによって重み付けされた、集団のパターン分布のシャノン・エントロピーである。
• 理論的根拠: 著者らは、固定された有限の分割において、経験的なプラグイン推定値が $M \to \infty$ のとき、CWMMSEに対して強一致性を持つことを証明している。

代替手法との主要な相違点:

• 平均化との比較: 平均化（$\bar{S}$）は多様性を無視する。
• 多様性指標（例：Raoの二次エントロピー）との比較: これらはペアワイズの非類似度によって重み付けを行うが、複雑な挙動を持つ多様な集団と、些細な（予測可能な）挙動を持つ多様な集団を区別できない。
• 分離積（$H(C) \cdot \bar{S}$）との比較: 分離積は両方の要素の限界を尊重するが、複雑性と多様性の結合を放棄してしまう。CWMMSEは、パターンの複雑さとその出現頻度（驚き：surprisal）の間の共分散を保持しており、これは現実のデータにおいて無視できないものである。

3. 主な貢献

1. 定義と理論: 軌跡アンサンブルに適用されたBelisおよびGuiaşuの重み付きエントロピーの特定事例としてのCWMMSEの導入、および固定解像度下での経験的推定量の強一致性の証明。
2. 分解: システムの複雑性が、軌跡内の複雑性と軌跡間の多様性という、2つの異なる成分に分解されることの提示。
3. 二重成分の必要性: 単一成分の指標が失敗することを示す2つの「コントロール」による検証：
   • 心臓の制御: 平均エントロピーは、疾患のある心臓を健康な心臓よりも複雑であると誤ってランク付けするが、CWMMSEは集団の多様性の崩壊により、疾患のあるコホートの複雑性が低いことを正しく識別する。
   • 軌道上のヌル（Orbital Null）: 多様性のみの指標（Raoのエントロピーなど）は、完全に予測可能な人工衛星のデブリの雲を高度に複雑であるとランク付けするが、CWMMSEは個々の軌跡が自明であるため、正しくほぼゼロに近い複雑性を返す。
4. クロスドメイン検証: 11のシステム（カオス、海洋漂流物、ECG、衛星軌道、乱流、サイクロンなど）への適用において、システムごとのチューニングなしに、この分解が普遍的に成立することを示した。

4. 結果

• 決定論的カオス: LorenzおよびRössler系のレジームを正しく順序付け、カオス的レジームでピークに達し、不動点/周期レジームではゼロに近づく。非線形カオスと線形ノイズ置換体を区別できる。
• 海洋漂流物: ゴルフストリーム（エネルギッシュな流れ）は、個体としての複雑性（屈曲した経路）は高いが、システムとしての複雑性（冗長でコヒーレントな構造）は低い。一方、サルガッソ海（静穏な渦）は、個体としての複雑性は低いが、多様で独立した経路を持つため、システムとしての複雑性は高い。CWMMSEは、サルガッソの方がより複雑なシステムであることを正しくランク付けする。
• ECGコホート: 心筋梗塞（MI）群と健康な群の比較において、個々の記録の複雑性はほぼ同等（あるいはMIの方がわずかに高い）である。しかし、健康なコホートは有意に高いアンサンブル多様性（より多様な形態）を示す。CWMMSEは平均エントロピーのランキングを逆転させ、健康な集団の方が複雑であることを正しく特定する。
• 衛星軌道: 低軌道の物体からなるデブリの雲は、位置としては最大限に多様であるが、個体としては予測可能である。多様性のみの指標はこれを最も複雑なシステムとランク付けするが、CWMMSEは正しくほぼゼロの複雑性を割り当てる。
• その他のシステム: 乱流と層流を区別し、熱帯低気圧の経路をその不規則性によって順序付け、2011年東北地震の波列におけるシステム複雑性の崩壊を検出することに成功した。

5. 意義と主張

本論文は、集団の複雑性は、平均化されるべきではなく、測定されるべきであると主張している。中心的な議論は、アンサンブルの複雑さとは、単にその部分の総和や平均ではなく、個体の不規則性と集団の多様性の相互作用から生じる明確な特性であるという点にある。

• 理論的意義: CWMMSEは、動的な複雑さと機能的な多様性を統一する、原理に基づいた情報理論的枠組み（重み付きエントロピー）を提供する。これは、システムがある意味では「複雑」でありながら、別の意味では「単純」であり得る（あるいはその逆）という曖昧さを解決する。
• 実用的意義: この尺度は、生理学（集団の多様性の喪失による疾患の検出）から宇宙状況把握（複雑なデブリと予測可能な軌道を区別すること）に至るまで、幅広い分野における診断ツールを提供する。
• 限界と範囲: 著者らは、CWMMSEがクラスタリングの解像度やアンサンブルサイズに依存する、比較研究のための比較器であることを謙虚に述べている。これは、構造とノイズを分離するものではなく（サンプルエントロピーはノイズを極めて不規則なものとして扱うため）、解像度パラメータは排除すべき厄介な変数ではなく、明示的に報告すべき設定として扱われている。

結論として、本論文は、軌跡のアンサンブルとして観測されるシステムに対して、忠実な複雑性の尺度は、構成員の複雑さと集団の多様性の両方を捉えなければならないことを確立しており、CWMMSEはその要求を満たすものである。