技術的サマリー：TFM-Tokenizer

問題定義

基盤モデルは自然言語処理（NLP）に革命をもたらし、脳波（EEG）解析への応用も増大しているが、重要なボトルネックが残されている：効果的な EEG トークナイゼーションである。既存の EEG 基盤モデル（BIOT、LaBraM など）は、通常、連続した EEG を短いパッチに直接セグメント化し、離散語彙を学習せずに信号をトークン化する。このアプローチは単に信号を離散化するに過ぎず、統計的に根拠のあるデータ駆動型の表現を捉えることができない。さらに、LaBraM などの神経トークナイザーへの以前の試みは、主に下流推論時に破棄される訓練目的として機能することが多く、その再利用性や入力表現の質を向上させる能力が制限されている。

著者は、効果的な EEG トークナイザーを設計する際に 3 つの具体的な課題を特定している：

1. トークナイゼーションの対象：実世界の EEG は、デバイス、チャンネル構成、記録長さにおいて大きく異なる。トークナイザーは単一チャンネルレベルで動作し、多チャンネルや非標準デバイス（例：耳型 EEG）へ一般化するチャンネルに依存しないトークンを学習すべきである。
2. トークン解像度：EEG 信号には、多様な振動パターン（例：アルファ波、ベータ波）や過渡パターン（例：スパイク）が含まれる。効果的なトークンは、ノイズや時間的歪みによってしばしば歪められるこれらの時間 - 周波数モチーフを表現しなければならない。
3. 学習目的：時間ベースのモチーフのみに依存することは、スペクトル構造を見落とすリスクがある。学習目的は、帯域固有およびクロス周波数のパターンを捉えるために、明示的に時間 - 周波数表現を組み込む必要がある。

手法：TFM-Tokenizer

本論文は、単一チャンネル EEG 信号から時間 - 周波数モチーフの語彙を学習し、それらを離散トークンにエンコードするモデル非依存フレームワークであるTFM-Tokenizerを提案する。このフレームワークは 2 つのフェーズで動作する：

1. TFM-Tokenizer 事前学習（教師なし、単一チャンネル）

トークナイザーは、連続した単一チャンネル EEG 信号を離散トークンの系列にマッピングするように訓練される。これはデュアルパスエンコーディング設計を採用している：

• 局所スペクトルウィンドウエンコーダー：単一の線形層を通じてスペクトルウィンドウ全体を投影する代わりに、このコンポーネントはスペクトログラムを周波数パッチに分割する。これは、ウィンドウ内のクロス周波数依存性をモデル化するために、周波数パッチエンコーダーに続いて周波数トランスフォーマーを使用する。重要なのは、関連する周波数帯域（例：睡眠の場合は 32 Hz まで）を強調し、無関係なものを抑制するために、ゲート付きパッチワイズ集約メカニズムを採用している点である。
• 時間エンコーダー：生 EEG パッチを処理して時間的コンテキストを捉える。
• 融合と量子化：集約された周波数埋め込みは時間的埋め込みと連結され、長距離依存性をモデル化するために時間トランスフォーマーによって処理される。得られた埋め込みは、学習可能なコードブックに基づく**ベクトル量子化（VQ）**を用いて離散語彙にマッピングされ、モチーフトークンを生成する。
• 訓練目的：モデルは結合された周波数 - 時間マスク戦略を用いて訓練される。周波数帯域と時間セグメントの両方がマスクされ、モデルはマスクされたスペクトログラムを再構成し、離散トークン語彙を予測しなければならない。これにより、トークナイザーは明確で局所的な時間 - 周波数パターンを学習することを強制される。

2. 下流トランスフォーマー訓練

トークナイザーが訓練されると、凍結される。軽量なトランスフォーマー（線形アテンションを使用）が下流モデルとして機能する。

• 入力：マルチチャンネル EEG は、トークン系列を生成するために、各チャンネルに対して独立してトークナイザーによって処理される。
• 処理：これらのトークン系列は平坦化され、チャンネルおよび位置埋め込みと結合され、トランスフォーマーによって処理される。
• 事前学習：下流モデルは、 intra- およびクロスチャンネル依存性を学習するために、**マスク付きトークン予測（MTP）**による事前学習を受ける。
• 微調整：モデルは、特定の下流タスク（例：てんかん発作検出、睡眠ステージング）のために微調整される。

主要な貢献

1. 単一チャンネル EEG トークナイゼーションの定式化：著者は、時間 - 周波数モチーフを捉え、下流モデリングの入力として直接再利用可能な単一チャンネルEEG 信号用の離散トークン語彙の学習を調査した最初の研究者である。
2. 新規 TFM-Token フレームワーク：デュアルパス（時間 - 周波数）エンコーダーを介して EEG を離散トークン系列に変換するフレームワークの導入。このフレームワークはモデル非依存であり、既存の基盤モデル（BIOT、LaBraM など）とシームレスに統合してその性能を向上させることができる。
3. 広範な評価とスケーラビリティ：この手法は 4 つの多様な EEG データセット（TUEV、TUAB、CHB-MIT、IIIC Seizure）で検証され、特に睡眠ステージングにおける耳型 EEGなど、非標準デバイスへのスケーラビリティが実証され、ベースラインを大幅に上回る性能を示した。

実験結果

論文は、複数のベンチマークで一貫した性能向上を報告している：

• 精度：TUEV データセット（イベント分類）において、TFM-Tokenizer はマルチデータセット事前学習設定で、強力なベースラインに対してコホンのカッパを最大 11% 改善（0.5588 から 0.6189）した。IIIC Seizure データセットでは、マルチデータセット設定で LaBraM に対してコホンのカッパを36% 改善した。
• 効率性：TFM-Tokenizer と軽量な下流モデル（約 190 万パラメータ）の組み合わせは、より大規模なベースライン（例：580 万パラメータの LaBraM、320 万パラメータの BIOT）を上回り、トークナイゼーションがデータ複雑性を効果的に削減することを示した。
• 一般化：プラグアンドプレイコンポーネントとして、TFM-Tokenizer を既存の基盤モデル（BIOT および LaBraM）に統合すると、単一およびマルチデータセット設定においてその性能が一貫して向上した。例えば、単一データセット設定において、CHB-MIT データセットにおける LaBraM の AUC-PR を147% 改善した。
• スケーラビリティ（クロスデバイス）：標準的な 10-20 体系外の電極を使用したEESM23 耳型 EEG睡眠ステージングデータセットにおけるドメイン外実験において、TFM-Tokenizer はベースラインを14% 上回り、異なる記録デバイスおよび構成への一般化能力を検証した。
• トークンの質：分析により、学習されたトークンは、ノイズや振幅のばらつきにもかかわらず、クラス間の識別性の高い独自性、クラス内での一貫性、そして意味のある生理学的モチーフ（例：PLEDs や GPEDs）を捉える能力を示していることが明らかになった。

意義と主張

本論文は、TFM-Tokenizer が、単純な信号セグメンテーションを超えた、原理的かつデータ駆動型のトークナイゼーション手法を提供することで、EEG 基盤モデルにおける根本的なギャップを埋めると主張している。その意義は以下の 3 点にある：

1. 表現の質の向上：時間 - 周波数モチーフを明示的にモデル化することで、生連続セグメントよりも情報豊富で解釈可能な高品質な入力表現を提供する。
2. プラグアンドプレイの汎用性：このフレームワークは特定のアーキテクチャに縛られておらず、ゼロから再訓練を必要とせずに、既存の基盤モデルの幅広い範囲を強化することを可能にする。
3. デバイス非依存性：単一チャンネルレベルで動作することで、この手法はトークナイゼーションを厳密なチャンネル構成（10-20 体系など）から切り離し、耳型 EEG センサーなどの新興の非標準 EEG デバイスへの基盤モデルの応用を可能にする。

著者は、この研究が、多様なモダリティ、デバイス、臨床タスクに適応可能な、より堅牢でスケーラブルかつ一般化可能な EEG 基盤モデルの基礎を築くと結論付けている。