Capturing Cardiac Cyclicity through Phase-Equivariant Self-Supervised Learning

問題提起

心周期をはじめとする生理学的プロセスの周期性は、自己教師あり表現学習における自然な事前知識（prior）を提供します。しかし、自己回帰型や再構成損失といった標準的な時系列データの自己教師あり目的関数は、この構造を効果的に活用できないことがよくあります。これらの手法は、ノイズ（体動、電極の接触不良、基線揺らぎ）を含む生のセンサー観測値を再現することを強いられ、信号の周期性に基づいて潜在空間を本質的に整理することはありません。Joint-Embedding Predictive Architectures (JEPA) は、生のサンプルではなく潜在ターゲットを予測することで代替案を提示しますが、標準的な潜在予測目的関数は、心臓の位相の構成を特定していません。その結果、モデルは位相を符号化しても、潜在軌道が拍動間で一貫していることを保証できず、心臓の繰り返される脱分極および再分極シーケンスの特定の対称性を捉えることに失敗する可能性があります。

手法：WINDER

著者らは、心臓位相の対称性を明示的に符号化するように設計された、LeJEPAの位相等変（phase-equivariant）拡張版であるWINDERを導入します。

1. 位相の再パラメータ化
心拍を線形時間 $t \in \mathbb{R}$ の関数として扱うのではなく、WINDERはそれを位相 $\phi \in S^1$（閉じたループ）の関数として再パラメータ化します。検出されたR波のピーク $\{R_i\}$ を用いて、位相マップ $\Phi: \mathbb{R} \to S^1$ は以下のように定義されます：
$$\phi(t) := 2\pi \frac{t - R_i}{R_{i+1} - R_i}, \quad t \in [R_i, R_{i+1})$$
これにより、連続するR波の間の区間が単位円にマッピングされ、拍動の期間を正規化しつつ、サイクル内の順序を保持します。

2. 位相等変な潜在空間
核心となる理論的貢献は、**位相等変性（phase equivariance）の強制です。潜在空間 $\mathcal{sigma}$ は、心周期と同じ対称性を遵守するように制約されます。もし信号が符号化前に位相 $\Delta$ だけ移動した場合、潜在表現は符号化後に対応する変換 $R_\Delta$ を受ける必要があります：
$$f_\theta(T_\Delta x) = R_\Delta f_\theta(x)$$
輸送演算子 $R_\Delta$ は、学習されるものではなく、$U(1)$ 群（$SO(2)$ と同型）の幾何学から導出された固定かつ閉形式（closed-form）**のものです。潜在空間は以下のように分解されます：

• 不変容量 ($K_0$): 位相回転に対して固定されたままの座標。
• 高調波容量: 整数高調波 $n$ に対応する部分空間であり、ここでは次元のペアが $n\Delta$ だけ回転します。
  輸送演算子はブロック対角行列であり、各高調波ブロックは回転 $\rho(n\Delta)$ を実行します。この構造は、輸送メカニズムに対して学習可能なパラメータを一切追加しません。

3. 学習目的関数
WINDERは、以下の3つの項を組み合わせた結合目的関数を最適化します：
$$\mathcal{L}_{Winder} = \mathcal{L}_{pred} + \lambda_{SIG}\mathcal{L}_{SIG} + \lambda_{trans}\mathcal{L}_{trans}$$

• $\mathcal{L}_{pred}$ (潜在予測): LeJEPAを継承した因果的予測器が、次の潜在トークンを予測します。
• $\mathcal{L}_{SIG}$ (スペクトル正則化): 潜在埋め込みに等方的なガウス分布を強制することで、表現の崩壊を防ぐSketched Isotropic Gaussian Regulariser (SIGReg) を使用します。
• $\mathcal{L}_{trans}$ (位相等変輸送): 位相等変性からの偏差を罰する新しい損失項です。これは、輸送された現在の潜在表現と実際の次の潜在表現との間の方向誤差の二乗を測定します：
  $$\mathcal{L}_{trans} = \mathbb{E}_{(t,t')} \left[ 1 - \langle R_{\Delta_{tt'}} \hat{z}_t, \hat{z}_{t'} \rangle \right]$$
  これにより、潜在軌道が心臓の位相順序を一貫して辿るよう促します。

4. アーキテクチャ
WINDERは、12誘導ECG（PTB-XLデータセット）のためのコンパクトな因果的アーキテクチャとして実装されています。

• エンコーダ: 12誘導信号（100 Hz）の80msパッチを、パッチMLPと2つの残差因果畳み込みブロックを通じて処理します。
• プロジェクター: エンコーダの出力を256次元の潜在トークンにマッピングします。
• 予測器: 推論時には破棄される因果的Transformerであり、訓練中に将来のトークンを予測するためにのみ使用されます。
• パラメータ・フットプリント: デプロイされたモデル（エンコーダ + プロジェクター）は、約120万個のパラメータを含みます。

主な結果

PTB-XLデータセットにおいて、封印されたテストフォールド（Fold 10）に対する凍結線形プローブ・プロトコルの下で評価を行いました：

• 診断精度: WINDERはSuperclass macro-AUROC 0.8702を達成し、輸送を用いないコントロール群（0.7826）を大幅に上回りました。この性能は、しばしば数桁多いパラメータを持つ最先端の自己教師あり学習手法にも匹敵します。
• メカニズムの妥当性: モデルは「G1ゲート」テストに合格し、学習された表現が宣言された心臓クロックを利用していることを確認しました。輸送ゲインの割合は、WINDERでは0.8786であるのに対し、コントロールでは-0.0744であり、位相輸送の制約が潜在空間を能動的に形成していることを示しています。
• 潜在幾何学:
  • 基本高調波振幅: WINDERは、コントロール（0.38）と比較して、約5倍強力な位相ロックされた基本成分（1.89）を示しています。
  • 軌道部分空間のコヒーレンス: WINDERは0.9927のコヒーレンスを達成しており、これは位相ビン平均がほぼ完全に期待される回転平面内に存在することを示していますが、コントロールは0.3159へと崩壊しています。
  • 可視化: UMAPによる可視化では、WINDERのトークンは位相順の環状（annulus）を形成する一方、コントロールのトークンは無秩序なクラスターを形成しています。
• 堅牢性: WINDERは単一誘導のドロップアウトに対して優れた堅牢性を示し、平均劣化率はコントロールの-0.0107に対し、WINDERは-0.0034でした。
• 異常検知: 合成摂動テストにおいて、WINDERは期外収縮の強力な検出能力を示しました（AUROC 0.8662 vs 0.6198）、中央値の局在化レイテンシは80ms（1トークン）でした。

意義と主張

本論文は、固定された閉形式の輸送演算器を介して心臓位相の対称性を明示的に符号化することで、以下の特性を持つ潜在幾何学が得られると主張しています：

1. 判読可能かつパラメータ効率的: 生理学的構造をスケールを通じて学習するのではなく、解析的に注入することで、小さなパラメータ・フットプリント（約1M）で高い診断性能を達成しています。
2. 生理学に基づいている: 潜在空間が直接、測定可能な生理学的量（心臓位相）に結びついており、表現が心臓の周期性を尊重することを保証しています。
3. 診断的有用性: 位相等変な構成は診断に有用な情報を保持し、ダウンストリームタスクに対してより線形にアクセス可能な表現を実現します。

著者らは、位相等変性を学習された潜在空間に課すことで、ヘルスケア特化型のモデルにおいてこれまで空白であった領域を埋めることができると強調しています。結論として、このアプローチは、生理学的構造が解析的に注入された、循環的なバイオシグナルに対するより広範な「位相等変なワールドモデル」への道を開くものであるとしています。これらの知見は、制御された研究内比較として提示されており、外部データセットや臨床システムへの即時の優位性を主張するものではなく、位相輸送メカニズム単体の有用性を確立するものです。