🤖 AI

CaMBRAIN: Real-time, Continuous EEG Inference with Causal State Space Models

CaMBRAIN は、アテンション機構の二次的な複雑さを克服し、重要な長距離文脈を保持するための専用多段階自己教師あり学習パイプラインを導入することで、長尺の EEG 信号のリアルタイムかつ連続的な推論を可能にする、新しい因果的かつ Mamba ベースの状態空間モデルである。

原著者： Abhilash Durgam, Nyle Siddiqui, Jeffrey A. Chan-Santiago, Qiushi Fu, Elakkat D. Gireesh, Mubarak Shah

公開日 2026-05-28

📖 1 分で読めます☕ さくっと読める

CC BY 4.0

原著者： Abhilash Durgam, Nyle Siddiqui, Jeffrey A. Chan-Santiago, Qiushi Fu, Elakkat D. Gireesh, Mubarak Shah

原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 ✨ これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。免責事項の全文を読む

以下は、CaMBRAIN論文の解説を、創造的なアナロジーを用いた平易な言葉で翻訳したものです。

大きな問題：「無限」の脳信号

ある人が絶え間なく話し続ける物語を理解しようとしている状況を想像してください。その人は 1 分間ささやき、次に 1 秒間叫び、その後は 1 時間沈黙し、再びささやき始めます。これが**EEG（脳波）**の姿です。それは途切れることのない電気信号の連続した流れです。

長らく、これらの信号を読み取ろうとするコンピュータには重大な欠陥がありました。それは一度に 1 ページしか見られない読者のようなものだったのです。

従来の方法（スライディングウィンドウ）： 物語を理解するために、コンピュータは 5 秒間の「ページ」を掴み、読み、捨て、次の 5 秒を掴み、それをまた読みます。
問題点： もし物語に、100 ページ目の謎を解く手がかりが 1 ページ目にあった場合、コンピュータは 1 ページ目を忘れているため、その手がかりを見逃してしまいます。また、見落としを防ぐためにページが重複しているため、コンピュータは同じ言葉を何度も読み直す必要があり、これは信じられないほど遅く、非効率的です。

解決策：CaMBRAIN（「生きているノート」）

著者たちは、単にページを読むだけでなく、生きているノート（隠れ状態と呼ばれるもの）をリアルタイムで更新する新しいタイプの AI、CaMBRAINを開発しました。

まるで探偵が 24 時間 365 日、犯罪現場を見守っているようなものです。

従来の AI： 5 秒ごとに現場の写真を撮り、前の写真を削除し、その単一の写真だけに基づいて何が起こっているかを推測しようとします。
CaMBRAIN： 現場を連続的に監視します。新しい出来事が起こるたびに、状況全体に関する精神的なモデルを更新します。古い写真を再度見直す必要なく、10 分前の文脈を記憶しています。

仕組み：「Mamba」エンジン

CaMBRAIN は、Mamba-3（一種の「状態空間モデル」）と呼ばれる特殊なエンジンを使用しています。

比喩： 脳信号を運ぶコンベアベルトを想像してください。
- 従来の AI（トランスフォーマー）： 箱を理解するために、ベルト上の他のすべての箱を同時に見なければならないのです。ベルトが長くなれば、作業は指数関数的に困難になります（すべての本を他のすべての本と比較して図書館を整理しようとするようなものです）。
- CaMBRAIN（Mamba）： 現在の箱を見て、直前に見たものに基づいてメモリを更新します。ベルト全体を振り返る必要はありません。これにより、録画の長さに関係なく、信じられないほど高速で効率的になります。

訓練：「記憶」対「コピー」の学習

脳波を読み取る AI を訓練するのは厄介です。通常、科学者は AI に信号の欠落部分を再構成させる（「穴埋め」ゲームのようなもの）ことで AI に学習させます。

欠陥： これでは AI は優れたコピー機になることを学びます。波の正確な形状をコピーすることを学びますが、なぜその波が発生したのか、あるいはそれが未来にとって何を意味するのかは学びません。
CaMBRAIN の修正： 著者たちは、JEPAに着想を得た新しい訓練手法を用いました。これはより占い師のようなものです。
- 「この波はどのように見えたか？」と問う代わりに、「これまでに見たものに基づいて、次に何が起こる可能性が高いか？」と問います。
- これにより、AI の「ノート」（隠れ状態）は、単なる即座のノイズではなく、重要な長期的なパターンを保存するように強制されます。それは脳の歴史を未来を予測するコンパクトな要約へと圧縮することを学びます。

結果：高速、高精度、連続的

この論文は、CaMBRAIN が以下の 3 つの理由でゲームチェンジャーであると主張しています。

リアルタイムの速度： 従来のトップモデルよりも10 倍高速に脳信号を処理します。疲れたりメモリ不足になったりすることなく、何時間もの録画を処理できます。
優れた記憶： 連続的な記憶を保持するため、長い通常の脳活動の期間によって隔てられた稀な出来事（発作など）を特定する能力が格段に向上します。
冗長性の排除： 同じデータを再読してエネルギーを浪費しません。一歩ずつ、永遠に前進し続けます。

要約のアナロジー

脳波を読むことが交響曲を聴くようなものであったとすれば：

従来の AIは 5 秒間のクリップを聴き、停止し、わずかに巻き戻して重複させ、曲を推測しようとします。頭の中に全体の旋律を保持できないため、メロディを見逃してしまいます。
CaMBRAINはリアルタイムでコンサート全体を聴きます。20 分前に演奏された最初の音符を記憶し、それが今演奏されている音符とどのように結びついているかを理解しながら、光速で移動します。

要約すると： CaMBRAIN は、脳信号を断絶したスナップショットの集合ではなく、連続的で流れるような物語として扱う最初の AI であり、これによりリアルタイムで脳の長期的な文脈を理解することを可能にしました。

技術的概要：CaMBRAIN - 因果的状態空間モデルによるリアルタイム・連続 EEG 推論

問題提起

脳波（EEG）信号は、臨床および生体力学的環境における脳活動の監視に不可欠であるが、その無限の長さ（通常は数分から数時間に及ぶ）により、深層学習にとって固有の課題を呈している。既存の深層学習アプローチ、特にトランスフォーマーに基づくものは、長時間の EEG に適用される際に、以下の 2 つの主要な障壁に直面している：

計算的非効率性：アテンション機構はシーケンス長に対して二次的なスケーリング（ $O(T^2)$ ）を伴うため、長い信号に対して非効率的である。
コンテキストの制限：計算コストを管理するため、現在のモデルは通常、固定された入力長を持つスライディングウィンドウを介して EEG を処理する。このアプローチは、モデルに重なり合う領域で特徴を再計算させ、信号履歴全体の一貫した表現を維持することを妨げる。その結果、これらのモデルはグローバルな時間的理解を欠き、過去の入力を再訪することなく各新しい観測が以前のコンテキストに基づいて構築される、真のリアルタイム・連続推論を実行できない。

さらに、EEG に対する既存の自己教師あり事前学習目的は、しばしば信号再構成（例えば、マスク付きオートエンコーダー）に依存している。局所的な信号忠実度の学習には効果的であるが、これらの目的は、モデルが履歴をコンパクトなメモリに圧縮しなければならないストリーミング推論において不可欠である、顕著な長距離コンテキストを隠れ状態に保持することを明示的に訓練していない。

手法

著者らは、リアルタイム・連続ストリーミング推論向けに設計された、初の因果的かつ Mamba ベースの EEG モデルであるCaMBRAINを提案する。この手法は、因果的アーキテクチャと専門的な多段階自己教師ありトレーニングパイプラインという 2 つの柱に基づいている。

1. アーキテクチャ：Causal Mamba-3

CaMBRAIN は、EEG 信号を処理するために、一方向性の因果的状態空間モデル（SSM）、具体的には Mamba-3 アーキテクチャを利用する。

入力処理：生 EEG 信号は、すべてのチャネルにわたって 62.5 ms（256 Hz での 16 サンプル）の非重なりパッチに分割される。これらのパッチは、トランスフォーマーベースのチャネルエンコーダーを用いてトークンに埋め込まれる。
永続的隠れ状態：スライディングウィンドウアプローチとは異なり、CaMBRAIN はすべての過去のコンテキストを漸進的に圧縮する永続的隠れ状態を維持する。新しいパッチが到着すると、隠れ状態は再帰的に更新され（ $h_t = \bar{A}h_{t-1} + \bar{B}x_t$ ）、過去の入力を再訪することなく更新される。
因果的制約：モデルは厳密に前方のみで動作し、時刻 $t$ における予測が過去および現在の入力（ $x_{\le t}$ ）のみに依存することを保証し、EEG 監視の物理的現実と整合している。
複素数値遷移：Mamba-3 を活用し、モデルはマルチバンド EEG 信号に固有の振動ダイナミクスと位相関係をよりよく捉えるために、複素数値の状態遷移を採用する。

2. トレーニングパイプライン

ストリーミングにおける再構成ベースの目的の限界に対処するため、著者らは 3 段階のトレーニングパイプラインを導入する：

ステージ 1：因果的予測事前学習
エンコーダーは、一般的な時間的構造を注入するために、ハイブリッド因果的損失を用いて事前学習される。これは以下の 2 つを組み合わせる：
- 自己回帰モデル（ARM）：現在の隠れ状態から次のパッチ埋め込みを予測する。
- マスク付き再構成：エンコーダーが提供する因果的コンテキストから、マスクされた生 EEG トークンを再構成する。
  このステージにより、モデルは局所的な時間的ダイナミクスと信号忠実度を学習する。
ステージ 2：再構成不要な潜在表現の洗練（JEPA スタイル）
長距離の予測情報の保持を促進するため、モデルはジョイント・エンベディング予測アーキテクチャ（JEPA）に着想を得た、デコーダーなしのトレーニング段階を経る。
- 学生 - 教師フレームワーク：学生ネットワークは入力マスク付きビューを処理し、教師ネットワーク（学生の指数移動平均）はマスクなし入力を処理する。
- 目的：学生は以下を予測するように訓練される：
  1. マスクされた潜在変数：マスクされた位置に対する教師の表現。
  2. 未来の潜在変数：現在の隠れ状態から $K$ ステップ先の多段階未来表現。
    このステージは、局所的な信号詳細の再構成だけでなく、連続推論に必要な情報豊富で不変かつ時間的に関連する特徴を隠れ状態にエンコードすることを明示的に強制する。
ステージ 3：下流タスクの微調整
事前学習済みモデルは、標準的な教師あり学習を用いて特定のタスク（例えば、てんかん発作検出、アーティファクト分類）で微調整される。注目すべきは、CaMBRAIN が分類に最終隠れ状態のみを使用し、固定セグメント全体にわたるトークンのプーリングや集約を必要としない点である。

主な貢献

因果的推論の定式化：本論文は、スライディングウィンドウおよび双方向トランスフォーマーアプローチから離れ、信号を独立したセグメントではなく連続ストリームとして扱う、一方向性の EEG 推論定式化を提案する。
CaMBRAIN アーキテクチャ：冗長なスライディングウィンドウ再計算を永続的隠れ状態に置き換える因果的 Mamba-3 エンコーダーにより、線形時間複雑性で任意に長い信号に対する効率的かつスケーラブルな推論を可能にする。
表現レベルのトレーニング：信号再構成を超えた新しい多段階自己教師ありフレームワーク。自己回帰予測とマスク付きおよび未来の潜在変数予測を組み合わせることで、隠れ状態が顕著な長距離コンテキストを保持するように明示的に訓練する。

結果

CaMBRAIN は、4 つの多様な EEG データセット（アーティファクト検出の TUAR、異常 EEG 検出の TUAB、精神的ストレス検出の MAT、てんかん発作検出の CHB-MIT）で評価された。

性能：CaMBRAIN は、すべてのベンチマークで最先端（SOTA）または競争力のある結果を達成した。
- TUAR：AUROC 0.936 を達成し、LUNA-H（0.921）などの大規模基盤モデルを上回った。
- CHB-MIT：AUROC 0.921 を達成し、高度に不均衡な発作データにおいて強力な性能を示した。
- MAT：比較された手法の中で、最高のバランス精度（0.778）と AUROC（0.876）を達成した。
計算効率：モデルはストリーミングシナリオで著しい効率向上を示した。
- 16 Hz のストリーミング更新レートにおいて、CaMBRAIN は 1.23 GFLOPs/s を必要とした。
- これは、他の基盤モデルベースライン（例：REVE は 194.79 GFLOPs/s が必要）と比較して、持続的な計算量を 6.1 倍から 158 倍 削減したものであり、精度は同等かそれ以上であった。
アブレーション研究：
- 永続的状態：永続的隠れ状態を使用すること（5 秒ごとにリセットする対照群に対して）は、CHB-MIT において AUROC を +0.015 向上させ、発作発生の局在化を著しく改善した。
- トレーニングステージ：完全な 2 段階の事前学習（ステージ 1 + ステージ 2）は、標準的な微調整やステージ 1 単独に比べて大幅な改善（+2.30 AUROC）をもたらし、ストリーミングタスクにおける表現レベルの洗練の必要性を確認した。

意義と主張

本論文は、CaMBRAIN が EEG 信号に固有の因果的かつ連続的な性質とアーキテクチャおよびトレーニング目的の両方を整合させることで、EEG モデリングにおけるパラダイムシフトを表すと主張している。

リアルタイム能力：二次的なスケーリングの計算ペナルティやスライディングウィンドウの冗長性なしに、可変長の EEG 信号に対する長距離・連続推論を実行可能な、初のモデルを実現する。
臨床的関連性：このアプローチは、臨床医がベッドサイドで EEG を監視する方法を反映しており、長い間隔を隔てたイベントを検出するために、信号履歴全体をコンパクトなメモリに保持する。
効率性：状態空間モデルの線形時間スケーリングと表現レベルのトレーニング目的を活用することで、CaMBRAIN は高いスループットと低遅延を実現し、計算リソースが制約されたリアルタイムの臨床およびウェアラブルアプリケーションに適している。

著者らは、CaMBRAIN がいくつかのデータセットで新しいベンチマークを設定している一方で、TUAB の異常 EEG 検出においては最強の基盤モデルと比較して優位性ではなく競争力にとどまっていることを認めており、REVE のようなより大きく多様なデータセットに事前学習コーパスをスケーリングすることが、必要な将来の方向性であることを示唆している。