Lightweight Transformer for EEG Classification via Balanced Signed Graph Algorithm Unrolling

この論文は、脳波信号の反相関をモデル化するバランス付き符号付きグラフ上のスペクトルノイズ除去アルゴリズムをアンローリングして軽量なトランスフォーマー型ニューラルネットワークを構築し、癫痫患者と健常者の脳波分類において深層学習と同等の性能を極めて少ないパラメータ数で達成することを提案しています。

要約

この論文は、**「てんかんの患者さんと健康な人を、脳波（EEG）のデータから見分ける新しい AI の仕組み」**について書かれています。

従来の AI（特に「トランスフォーマー」と呼ばれる高性能なモデル）は、すごい精度を出せる一方で、**「重すぎて（パラメータが多すぎて）スマホや小型機器には入らない」という問題がありました。また、「なぜその判断をしたのか、人間には全くわからない（ブラックボックス）」**という欠点もありました。

この論文のチームは、「重くて黒い箱」を「軽くて透明な箱」に変えることに成功しました。その仕組みを、わかりやすい例え話で説明します。

---

1. 脳波は「複雑な人間関係」のネットワーク

まず、脳波のデータは、脳の中の 35 個のセンサー（電極）から集められます。

• 健康な人の脳波：センサー同士が「仲良く」協力している（正の相関）。
• てんかんの患者さんの脳波：あるセンサーと別のセンサーが「喧嘩」したり、逆に「反対の動き」をしたりしている（負の相関・アンチ相関）。

従来の AI は、この「喧嘩」や「反対の動き」を無視して、ただ「仲の良い関係」だけを見て分析しようとしていました。しかし、この論文のチームは、「喧嘩している関係（マイナスの縁）」もちゃんとグラフ（人間関係図）に描き込むことにしました。

2. 「バランスの取れたグラフ」という魔法の鏡

ここで登場するのが**「バランスの取れた符号付きグラフ（Balanced Signed Graph）」という概念です。
これを「鏡」**に例えてみましょう。

• 問題点： 脳波の「喧嘩（マイナスの関係）」をそのままグラフにすると、数学的な「周波数（音の高さのようなもの）」という概念が崩れてしまい、AI が混乱します。
• 解決策（この論文の工夫）： 彼らは、「鏡（相似変換）」を使って、この複雑な「喧嘩しているグラフ」を、「すべてが仲の良い（プラスの関係だけの）グラフ」に映し変えることに成功しました。
  • これにより、AI は「複雑な喧嘩」を処理しなくても、「仲の良い関係」のルール（周波数）を使って、簡単にデータを分析できるようになります。
  • 例え： 鏡に映った自分の姿は左右逆になりますが、顔の形は同じです。彼らは「脳波の複雑な関係」を鏡に映して、AI が扱いやすい「単純な関係」に変換しているのです。

3. 「ノイズ除去フィルター」で正体を暴く

この AI の正体は、**「2 つのフィルター」**です。

1. フィルター A（健康な人の専門家）： 健康な人の脳波パターンを「完璧に理解して、きれいな状態に直す」ように訓練されています。
2. フィルター B（てんかんの専門家）： てんかんの患者さんの脳波パターンを「完璧に理解して、きれいな状態に直す」ように訓練されています。

【診断の仕組み】
新しい脳波データが入ってきたとき、この 2 つのフィルターにそれぞれ通します。

• もし**「健康な人のフィルター」**に通して、データがきれいに整った（誤差が小さい）なら、それは「健康な人」の脳波です。
• もし**「てんかんのフィルター」**に通したほうがきれいに整ったなら、それは「てんかんの患者さん」の脳波です。

**「どちらのフィルターの方が、このデータをきれいに直せるか？」**という比較で、診断を下します。これは非常に直感的で、なぜその判断になったかが人間にも理解しやすい仕組みです。

4. なぜこれが「軽量」で「解釈可能」なのか？

• 軽量（パラメータが少ない）：
  従来の巨大な AI は、すべての可能性を網羅するために膨大な記憶容量を使います。しかし、この方法は**「数学的なルール（アルゴリズム）」を AI の層（レイヤー）にそのまま組み込んだ**ため、無駄な記憶をほとんど使いません。
  • 例え： 巨大な図書館（従来の AI）で本を探す代わりに、**「賢い図書館司書（この AI）」**が、必要な本だけを瞬時に見つけてくれるようなものです。図書館の規模は 1% 以下なのに、見つける精度は同じかそれ以上です。
• 解釈可能（ブラックボックスではない）：
  各ステップが「グラフのノイズ除去」という数学的な処理そのものなので、「なぜこの判断をしたか」が、工程を追えばすべて説明できます。

5. 結果：驚異的な性能

実験の結果、この「軽量で透明な AI」は、「重くてブラックボックスな最先端 AI」と同じくらい、あるいはそれ以上の精度（97.6% の正解率）を叩き出しました。
しかも、必要な計算量は1% 以下に抑えられています。

まとめ

この論文は、「脳波という複雑なデータを、数学的な鏡を使って整理し、2 つの専門家フィルターで比較する」という、シンプルで賢いアイデアで、てんかんの診断を「小型機器でも動かせるほど軽く」、かつ**「人間が理解できるほど透明に」**変えることに成功しました。

これにより、将来的には、病院の大型機械ではなく、患者さんが身につける小型のデバイスで、リアルタイムにてんかんの発作を検知・診断できるような未来が近づいたと言えます。

技術概要

論文要約：バランス型符号付きグラフアルゴリズムのアンローリングによる軽量 EEG 分類用トランスフォーマ

1. 背景と課題

脳波（EEG）信号を用いたてんかん患者と健常者の分類において、深層学習（DL）モデル、特にトランスフォーマーベースの手法は高い精度を達成していますが、以下の課題が存在します。

• パラメータ数の膨大さ: 大規模なモデルはリソース制約のある EEG デバイスでの実装を困難にします。
• 解釈性の欠如: 多くの DL モデルは「ブラックボックス」であり、学習プロセスの数学的根拠が不明確です。
• 信号の特性: EEG 信号には「負の相関（アンチ相関）」が含まれており、従来の正のグラフ（Positive Graph）のみを扱う手法では適切にモデル化できません。

2. 提案手法：バランス型符号付きグラフに基づく軽量トランスフォーマ

本研究は、**アルゴリズムのアンローリング（Algorithm Unrolling）**という手法を採用し、数学的に定義された最適化問題をニューラルネットワークの層に変換することで、解釈可能かつ軽量なトランスフォーマー型ネットワークを構築しました。

2.1 核となるアイデア：バランス型符号付きグラフ（Balanced Signed Graph）

EEG 信号の負の相関をモデル化するため、**符号付きグラフ（Signed Graph）**を使用します。ただし、一般的な符号付きグラフでは周波数の定義が困難なため、バランス型符号付きグラフ（負の辺を含む奇数長のサイクルを持たないグラフ）に限定します。

• 数学的基盤: Cartwright-Harary の定理（CHT）を用いると、バランス型符号付きグラフ $G_B$ のラプラシアン行列 $L_B$ は、対応する正のグラフ $G_+$ のラプラシアン $L_+$ と相似変換（$L_+ = T L_B T^{-1}$）の関係にあり、固有値（周波数）が一致します。
• 利点: これにより、正のグラフで確立されているスペクトルフィルタリング技術を、負の相関を含む EEG 信号にも適用可能になります。

2.2 手法の詳細

1. グラフ構築:
   • 各ノードを EEG センサ（または時間区間）とします。
   • 特徴量間の距離（マハラノビス距離など）を計算し、ノードの極性（$\beta_i \in \{1, -1\}$）に基づいて辺の重みを決定します。
   • 極性の更新により、グラフがバランス型（負の相関が正しくモデル化され、奇数長の負サイクルが存在しない状態）であることを保証します。
2. ノイズ除去（デノイジング）タスク:
   • 正のグラフ $G_+$ 上で理想的なローパスフィルタを適用し、信号を復元（デノイジング）するタスクを事前学習（Pretext Task）として設定します。
   • フィルタの遮断周波数 $\omega$ はデータから学習されます。
   • 固有値分解の計算コストを回避するため、**ランチョス近似（Lanczos Approximation）**を用いて線形時間 $O(N)$ でフィルタリングを実装します。
3. トランスフォーマーへの展開:
   • 「グラフ学習モジュール（BGL）」と「ローパスフィルタ（LPF）」を交互に積み重ねることで、フィードフォワードネットワークを構成します。
   • 自己注意機構との等価性: 正規化されたグラフの辺の重みは、トランスフォーマーの自己注意（Self-Attention）重みと数学的に等価であることが示されています。しかし、本研究では大規模なキー・クエリ行列を学習するのではなく、軽量な CNN と距離メトリックのみを学習するため、パラメータ数が劇的に削減されます。
4. 分類メカニズム:
   • 健常者（クラス 0）とてんかん患者（クラス 1）のそれぞれに対して、専用のデノイザー $\Psi_0(\cdot)$ と $\Psi_1(\cdot)$ を訓練します。
   • 入力信号 $y$ に対して、両方のデノイザーによる再構成誤差を計算し、誤差が小さい方のクラスに分類します（事後確率の推定に基づく）。
   • 分類性能向上のため、対照損失（Contrastive Loss）を導入し、クラス間の判別性を高めています。

3. 主要な貢献

1. バランス型符号付きグラフのアンローリング: 正のグラフに限定されていた既存の研究 [10] を拡張し、負の相関を扱えるバランス型符号付きグラフのデノイジングアルゴリズムを、軽量かつ解釈可能なトランスフォーマーへ変換しました。
2. 効率的なフィルタリング実装: ランチョス近似を用いることで、固有値分解を行わずに線形時間で理想的なローパスフィルタを実現し、遮断周波数のみを学習パラメータとして調整可能にしました。
3. 生成モデルと判別モデルの統合: 二つのクラス固有のデノイザーを訓練し、再構成誤差に基づく分類を行うことで、生成モデルの解釈性と判別モデルの性能を両立させました。
4. 高性能かつ軽量: 従来の深層学習手法と比較して、パラメータ数を 1% 未満に抑えながら、同等以上の分類精度を達成しました。

4. 実験結果

データセット: トルコてんかん EEG データセット（121 名、10,356 記録）および TUH 異常 EEG コーパス。

• デフォルトタスク設定（同一データ分割）:
  • 精度：97.57%（既存の Transformer ベース手法 [5] の 85.12% や、大規模な CNN [3] の 99.20% と比較）。
  • パラメータ数：14,787（[3] の 1150 万パラメータに対して 1% 未満）。
  • 精度、適合率、特異度、F1 スコアのすべての指標で SOTA レベルの性能を達成。
• LOSO（Leave-One-Subject-Out）設定（被験者間汎化）:
  • 精度：90.06%、F1 スコア：92.59%。
  • DGCNN、GIN、EEGNet などのグラフベース手法や、Deep4Net などの大規模モデルを凌駕し、未知の被験者に対する汎化能力の高さを示しました。
• アブレーション研究:
  • 「バランス型符号付きグラフ」を使用した場合が、「正のグラフ」や「バランス型でない符号付きグラフ」よりも有意に高い性能を示し、負の相関とグラフのバランスの重要性を確認しました。
  • 対照損失（Contrastive Loss）を使用することで、単なる MSE 損失よりも分類精度が大幅に向上しました。

5. 意義と結論

本研究は、EEG 信号の負の相関を数学的に厳密に扱える「バランス型符号付きグラフ」の理論を、深層学習の「アルゴリズムアンローリング」と組み合わせることで、**「軽量」「解釈可能」「高性能」**な脳波分類システムを実現しました。

• 実用性: 極めて少ないパラメータ数で高い精度を達成するため、エッジデバイスやリアルタイム医療機器への展開が期待されます。
• 理論的貢献: トランスフォーマーの自己注意機構をグラフ信号処理の観点から再解釈し、数学的根拠に基づいたニューラルネットワーク設計の新たな道筋を示しました。
• 限界と将来展望: 現状では二値分類に限定されていますが、将来的にはグラフベースのデノイザーを用いた多クラス分類ツリーの構築が検討されています。

このアプローチは、医療 AI において「ブラックボックス」化を避けつつ、限られた計算リソースで高精度な診断支援を実現するための重要なステップとなります。