Efficient Solutions for Mitigating Initialization Bias in Unsupervised Self-Adaptive Auditory Attention Decoding

技術要約：非監視型自己適応的聴覚注意デコーディングにおける初期化バイアス緩和のための効率的な手法

問題提起
聴覚注意デコーディング（AAD）は、脳波（EEG）信号を用いて、マルチスピーカー環境においてユーザーがどの話者に注意を向けているかを特定することを目的としており、これは神経制御型補聴器にとって極めて重要な機能である。現在の最先端の手法は、通常、注視している話者の正解ラベルを用いた教師あり学習を必要とするため、ユーザーやEEGの設定ごとに煩雑なキャリブレーション・セッションが必要となる。この依存関係を排除するために、刺激再構成に基づく非監視型自己適応的AADが開発されてきた。このアプローチは、ランダムな注意ラベルでデコーダを初期化し、新たに予測されたラベルを用いてモデルを反復的に洗練させるものである。

しかし、この非監視型自己適応プロセスは、初期化バイアスに悩まされる。モデルが各イテレーションにおいて同じデータで学習とテストを行うため、初期の（潜在的に誤った）予測を強化してしまい、モデルが最適ではない状態に陥る原因となる。Heintzら[8]による先行研究では、各イテレーション内で「leave-one-out（一個抜き）交差検証」を実装することでこの問題に対処したが、この手法はデータセグメント数（$K$）に対して線形に増加する膨大な計算量を生じさせ、リアルタイムまたは時適応的なアプリケーションへの適用を困難にしている。

手法
本論文では、交差検証による重い計算オーバーヘッドを伴わずに初期化バイアスを緩和する、正準相関分析（CCA）に基づいた3つの計算効率の高い代替案を提案する。これらの手法は、EEG信号（$X$）と音声特徴量（$S_1, S_2$）をセグメントごとに処理する2話者シナリオ（$N$話者へ一般化可能）で動作する。

1. 2エンコーダ版（Two-Encoder Version）:
   単一のエンコーダのみが注視している話者の特徴（$S_a$）を最適化するベースラインに対し、このバリアントでは、注視していない話者の特徴（$S_u$）のための第2のエンコーダを導入する。両方のエンコーダは単一のEEGデコーダ（$W_x$）を共有する。目的は、EEGと両方の話者の特徴との間の相関を共同で最大化することである。仮説として、デコーダに両方の話者に対する応答を考慮させることで、誤ってラベル付けされた注視音声に「引き寄せられる」ことへの耐性が高まり、ラベルエラーへの堅牢性と初期のミスから回復する能力が向上する。

2. ソフト版（Soft Version）:
   各セグメントに対してハードなバイナリ割り当て（話者1に注意しているか、話者2に注意しているか）を行う代わりに、予測の不確実性に基づいて確率的な重み（$p_{1k}, p_{2k}$）を割り当てる。CCAで使用される統計量（$R_{xa}$ および $R_{aa}$）は、加重和（$p_{1k}S_{1k} + p_{2k}S_{2k}$）を用いて計算される。確率は、注視している話者と注視していない話者の正準相関の分布を2つのガウス分布としてモデル化する、被験者固有の非監視型アプローチを用いて推定される。これにより、最適な単一エンコーダ構造を維持しつつ、モデルが不確実な場合に両方の話者の情報を適応的に取り入れるという、原理的な中間領域を提供できる。

3. 和による初期化単一エンコーダ（Sum-Initialized Single-Encoder）:
   このアプローチは、最初のステップにおけるバイアスに対処する。ランダムなラベルで初期化するのではなく、両方の話者の特徴の和からなる合成信号を用いて、最初のイテレーションでモデルを学習させる。これは、初期の確率を $p_{1k} = p_{2k} = 0.5$ と設定することに相当する。仮説として、これは両方の話者に共通する神経応答を捉える情報量の多い出発点を提供し、恣意的なランダム初期化から生じる自己持続的なラベルバイアスを防ぐ。

主な貢献

• アルゴリズムの効率性: 本論文は、交差検証ベースライン[8]と同等の性能を達成しつつ、大幅に低い、かつ**一定（constant）**の計算コストを実現する3つの手法を提示している。
• スケーラビリティ: データセットのサイズに応じて計算時間が線形に増加する（1回のイテレーションにつき$K$回のモデル学習を必要とする）交差検証法とは異なり、提案手法は1回のイテレーションにつき1回のモデル学習のみを必要とする。
• バイアス緩和: 提案されたバリアントは、標準的な自己適応型AADに内在する初期化バイアスのサイクルを打破することに成功し、高価な内ループ交差検証を行うことなく、より高品質な解への収束を可能にする。

実験結果
手法の評価は、2人の競合する話者のうち一方に注意を向けている16名の被験者からの64チャンネルEEG記録を含む公開データセットを用いて行われた。性能は、透過的（transductive）（訓練データに対する予測）および誘導的（inductive）（未知のデータへの汎化）な設定の両方で測定された。

• 精度:
  • 和による初期化単一エンコーダは、2エンコーダ法を一貫して上回り、特に限られた訓練データ（5〜15分）において効果的であった。
  • ソフト版は小規模なデータセットでは性能が低かったが、訓練セットのサイズが増えるにつれて交差検証バリアントの精度に近づいた。
  • 全般として、初期化バイアスを取り除くことで、透過的デコーディングにおいてより顕著な改善が見られた。
• 計算コスト:
  • 交差検証ベースラインのCPU時間は線形にスケールし、45分間の訓練セットに対してベースラインコストの約30倍に達した。
  • 2エンコーダ法およびソフト法は、データサイズに関わらず、約1.5倍の一定の正規化CPU時間を維持した。
  • 和による初期化法は、ベースラインの計算コスト（1.0倍）と一致した。

意義および主張
著者らは、これらの解決策が、非監視型自己適応型AADをリアルタイムまたは時適応的な実装[9]において著しく実行可能にすると主張している。交差検証による高コストなプロセスを排除しつつ、初期化バイアスに対する堅牢性を維持することで、提案手法は、頻繁なラベル付きキャリブレーション・セッションの負担なしに、神経制御型補聴デバイスを配備するための実用的な経路を提供する。本論文は、小規模なデータセットにおいては「和による初期化」アプローチが最小限の計算オーバーヘッドでトップの性能を発揮すること、一方で、大規模なデータセットでは「ソフトラベル」法が、交差検証というゴールドスタンダードに匹敵する低コストな代替案として競争力を持つことを強調している。