Routing on the Stiefel Manifold: When Does Adaptive Subspace Selection Help for Cross-Domain EEG Decoding?

技術要約：Stiefel多様体におけるルーティングを用いたクロスドメインEEGデコーディング

1. 問題提起

クロスドメインEEGデコーディングは、ブレイン・コンピュータ・インターフェース（BCI）において依然として大きな課題となっている。リーマンディープラーニング手法（例：SPDNet）は、神経信号を対称正定値（SPD）多様体上の共分散行列として表現することで、この分野を進展させてきたが、高い被験者間変動性に苦慮している。

• 核心的な問題： 電極の配置、頭皮の導電性、および神経パターンの変動により、異なる被験者はSPD多様体上の系統的に異なる領域を占有する。
• 限界： 標準的なドメイン適応手法は、ターゲットドメインのキャリブレーションデータを必要とするか、あるいは汎化に失敗する被験者固有のコンポーネントを学習してしまう。
• 設計のミスマッチ： 既存の深層ネットワークは、すべての入力に対して固定された部分空間投影（単一のBiMapフィルタ $W$）を使用する。このアーキテクチャは、被験者内の多様体構造については幾何学的に認識しているが、被験者間の構造については「盲目」である。単一の共有された投影では、入力が占めるSPD多様体の特定の領域を考慮できないため、性能の飽和を招く。

2. 手法：ドメイン適応型Stiefelプール（DASP）

著者らは、再学習やキャリブレーションを必要とせずに、各入力共分散行列をStiefel多様体 $St(n, k)$ 上のサンプル固有の投影フィルタへと動的にルーティングするレイヤーである、Domain-Adaptive Stiefel Pool (DASP) を提案する。

素朴なアプローチとその失敗：
当初のアイデアは、$K$ 個のエキスパートフィルタ $\{W_j\}$ のプールを用意し、リーマン・バリエーション（重心）を介して入力をルーティングするというものであった。しかし、著者らは、素朴な実装が**退化解（degenerate solution）**に陥ることを証明した：

• ルーティングの崩壊： ルーティング重み $\alpha_i$ がすべてのサンプルに対して一様（$\approx 1/K$）になる。
• 結果： 適応型フィルタが、単一の固定フィルタ（エキスパートのFréchet平均）へと減少する。観察される性能向上は、適応によるものではなく、アンサンブルの多様性によるものに過ぎない。
• メカニズム： これは自己強化的な勾配の退化である。エキスパート同士が類似している場合、加重平均からの個々のエキスパートの偏差は無視できるほど小さくなり、差別化のための勾配信号を提供しなくなる。一様なルーティングは特化を妨げ、それがさらなる類似性を維持させる。

解決策：3つの構造的修正
この退化を打破するために、著者らは「Learning to Prompt (L2P)」に着想を得た3つの構造的コンポーネントを導入した：

1. 対称アンカー ($W_{base}$):

   • 動的なバリエーションや特定の（例えば $W_1$ のような）エキスパートにアンカーを置く代わりに、専用の学習可能なパラメータ $W_{base} \in St(n, k)$ を導入する。
   • 機能： 「近接バイアス」を取り除き、特定の一個のエキスパートが幾何学的な優位性を持たないようにすることで、すべてのエキスパートが特化のための等しい勾配信号を受け取れるようにする。

2. 凍結されたドメイン識別クエリエンコーダ (DSP):

   • エンドツーエンドで訓練された標準的なMLPは、クラス識別的な特徴を学習するが、これはルーティング（ドメイン識別が必要）にとって誤った帰納バイアスとなる。
   • 機能： 学習データのドメイン間散布行列から導出された固定の投影行列 ($P_{DSP}$) が、対数共分散の接空間に適用される。これは、ルーティングメカニズムにドメインのアイデンティティ情報を提供する固定の特微抽出器として機能し、タスク最適化損失からドメイン識別を切り離す。
   • 適応： これは、接空間とドメインの比率 $\rho = \frac{n(n+1)/2}{D}$ が高い場合（具体的には $\rho > 50$）、ドメイン信号が高次元ノイズの中に埋もれている場合にのみ有効となる。

3. デカップリングされたキー整列損失:

   • エキスパートのキーをクロスエントロピーのみで訓練すると、キーが分類を助けるためにシフトしてしまう「動く標的」問題が発生する。
   • 機能： 別個の整列損失 ($L_{align}$) が、エキスパートのキーを安定したドメイン・アトラクターに向けて排他的に訓練する。これは「勝者総取り（winner-take-all）」メカニズムを用い（最も高いルーティング重みを持つキーのみを更新）、クエリに対するストップグラディエントを適用することで、キーが分類タスクに伴ってドリフトすることを防ぐ。

統一スケーリング手法:
著者らは、$\rho$（接空間の次元 vs ドメイン数）に基づくデータ駆動型のルールを提案し、ハイパーパラメータを自動的に決定する：

• 高 $\rho$ ($>50$): DSPを有効にし、キーのデカップリングを有効にする。
• 低 $\rho$ ($\le 50$): DSPを無効にし、キーをタスクと共に共同で訓練する。
• エキスパート数 ($K$): ドメイン数 $D$ に対して劣線形にスケールさせる。

3. 主な貢献

• 理論的証明： naiveな適応型ルーティングがStiefel多様体上で、固定フィルタと区別がつかない退化解に崩壊することを証明し、その責任となる勾配メカニズムを特定した。
• 診断指標： 適応型モデルと単一の固定フィルタ（アンサンブル平均）の精度の差として定義される $K=1$ プロキシギャップ ($\Delta_{K=1}$) を導入した。正の $\Delta_{K=1}$ は、真のルーティングが行われていることを証明するための必要条件であり、単なるアンサンブル平均化と区別するためのものである。
• DASPレイヤー： 3つの構造的修正を統合し、真のドメイン構造化ルーティングを実現する、標準的なBiMapレイヤーのドロップイン置換レイヤー。
• 統一スケーリング： データセット固有のチューニングを必要とせず、対照的な幾何構造間でも汎用する、ルールベースのハイパーパラメータ選択手法。
• 拡張： フルランクの長方形行列への理論的拡張が記述されており、部分空間の回転に加えて振幅のスケーリングも可能にする。

4. 実験結果

本手法は、次元数とドメイン数が異なる3つの運動想起（Motor Imagery）データセットで評価された：

• Weibo2014: 高 $\rho$ (203)。
• BNCI2015001: 低 $\rho$ (3.3)。
• BNCI2014001: 中間 $\rho$ (28)。

主な知見：

• 性能向上： DASPはすべてのデータセットにおいてバランス精度を向上させた：
  • Weibo2014: $0.773 \to 0.823$
  • BNCI2015001: $0.757 \to 0.809$
  • BNCI2014001: $0.801 \to 0.839$
• ルーティングの検証： 決定的なことに、素朴な適応型モデルはWeibo2014において $\Delta_{K=1} \approx 0$ となり、ルーティングの失敗が確認された。対照的に、DASPはWeiboで4/5フォールド、BNCI系データセットで5/5フォールドにおいて正の $\Delta_{K=1}$ を達成し、ルーティングが真正であることを証明した。
• アブレーション研究： 3つの構造的修正（対称アンカー、凍結DSP、またはデカップリングされた整列）のいずれかを削除すると、退化状態に戻るか性能が低下し、それらの必要性が確認された。
• ルーティングの質： DASPは、ベースラインと比較して、より低いルーティングエントロピー（より「コミットされた」ルーティング）と、より高いドメイン整列比を達成した。

5. 意義と主張

本論文は、SPD多様体における初の真正にコミットされたドメイン構造化ルーティングを提示していると主張している。

• これは、クロスドメインEEGデコーディングにおける固定部分空間投影の根本的な限界に対処するものである。
• アンサンブルの多様性と適応型ルーティングを混同することを防ぐための、原理的な診断手法（$K=1$ プロキシギャップ）を提供する。
• 「Learning to Prompt」（凍結エンコーダ、デカップリングされた損失）の構造的原理をリーマン幾何学に適応させることで、堅牢でキャリブレーション不要なドメイン適応が可能であることを示している。
• 著者らは、本手法がターゲットドメインのキャリブレーションデータを一切必要とせず、データセット固有のハイパーパラメータ探索も不要であり、単一のデータ駆動型スケーリングルールに基づいていることを強調している。