NeuroMorse: A Temporally Structured Dataset For Neuromorphic Computing

NeuroMorseの技術要約：ニューロモーフィック・コンピューティングのための時間構造化データセット

問題提起
ニューロモーフィック・エンジニアリングは、同期的なデータフレームではなく、非同期的な時間イベント（スパイク）を利用することで、脳の効率的な処理を模倣し、消費電力を最小限に抑えることを目指している。スパイキングニューラルネットワーク（SNN）は、空間および時間の両方のドメインを活用するイベントベースのタスクに適している理論的背景があるが、現在のベンチマークは、これらの時間的能力を十分にテストできていないことが多い。MNISTのような静止画像の変換や、イベントベースのジェスチャ・データセットであっても、多くの場合、空間的な階層構造を優先している。これらのベンチマークにおいて、時間情報は二次的なものとなっており、時間データをビン化したり削除したりしても高い性能が維持されることがあり、これは現在の評価手法がニューロモーフィック・システムの独自の強みを完全には捉えていないことを示唆している。複雑な情報の主要な符号化メカニタズムとして時間的ダイナミクスを用いる、そのようなデータセットにおける決定的な欠落が存在する。

手法：NeuroMorseデータセット
この欠落に対処するため、著者らは、空間的またはチャネルごとの表現よりも、時間的データの表現を優先するように設計されたデータセットであるNeuroMorseを導入する。このデータセットは、英語で最も頻繁に使用される上位50語を、時間的なモールス符号のスパイクシーケンスに変換することによって構築されている。

• 符号化スキーム: このデータセットは、「ドット（短点）」と「ダッシュ（長点）」のための2つの入力スパイクチャネルのみを使用する。複雑な意味情報は、これらのスパイクの時間的パターンを通じて完全に符号化される。
• 時間的階層: 符号化は、マルチスケールの時間的階層を導入している：
  • $\Delta t_1$ (5タイムステップ): 連続するモールス文字（ドット/ダッシュ）間の間隔。
  • $\Delta t_2$ (10タイムステップ): 連続する英単語間の間隔。
  • $\Delta t_3$ (15タイムステップ): 連続する英文間の間隔。
• データセットの構成:
  • 訓練セット: 時間的なモールス符号スパイクシーケンスに変換された、英語の上位50語を含む。
  • テストセット: 50,441件のSimple Wikipedia記事（句読点削除済み）から生成。主なタスクは、連続するストリーム内における50個のトレーニングキーワードの出現を特定することである。テストセットには、1,768,231個のキーワードインスタンスが含まれる。
  • ノイズのバリエーション: 難易度を高めるため、著者らは3種類のノイズ（スパイクの除去/ドロップアウト、時間的ジッター、ポアソン過程によるスパイク列）を低レベルおよび高レベルで導入しており、合計27種類のデータセットバリエーションを作成した。
• フォーマット: データは、スパイクのタイムスタンプ、チャネル情報、およびラベル（テストセットにおけるキーワードの開始/終了時刻を含む）を含む、Hierarchical Data Format 5 (HDF5) 形式で保存されている。

主な貢献

1. 時間中心のベンチマーク: NeuroMorseは、空間入力を最小限の2チャネルに削減し、情報の密度を時間的パターンに依存させることで、時間的データの表現を明示的に優先した、初のニューロモーフィック・データセットとして提示される。
2. 階層的な複雑性: このデータセットは、ドット/ダッシュ、文字、単語という複数の時間スケールにおける特徴階層を埋め込んでおり、アルゴリズムに対して、入力パターンを空間的および時間的階層の両方に分解することを要求する。
3. 包括的な評価スイート: 線形分類器、教師なしのスパイクタイミング依存可塑性（STDP）ネットワーク、および教師ありのディープSNNを含む、構造化された評価フレームワークを提供し、これらをクリーンなデータおよびノイズを含むデータに対してテストしている。

実験結果
著者らは、データセットの難易度を評価するために、ノイズのない状態でのベースラインを確立した上で、3つの異なるアーキテクチャ的アプローチを用いて評価を行った：

1. 線形分類器: 単純なリーキー・インテグレート・アンド・ファイア（LIF）ニューロンを最小二乗回帰モジュールに接続した結果、訓練セットに対してわずか4%の精度しか達成できなかった（ランダムなベースラインの2%の2倍）。これは、時間的パターンが線形分離不可能であることを示している。
2. 教師なしSTDPネットワーク: 重み依存型STDPシナプスと側抑制を利用したネットワークは、テストセットにおいてわずか0.19%の分類精度を達成した。著者らは、エラーの大部分はヌルクラス（非キーワードセグメント）の誤分類によるものであると指摘しており、これは連続するストリームの中で信号とノイズを区別することの難しさを浮き彫りにしている。
3. 教師ありディープSNN: サロゲート勾配を用いたスパイク・バックプロパゲーションを用いて訓練された3層ネットワークは、訓練セットで66%の精度、フルテストセットで4.25%の精度を達成した。テストセットを非キーワードを除去するようにフィルタリングした場合（キーワードのみのランダムなシーケンスを残した場合）、精度は**12.46%**に上昇した。

意義と主張
本論文は、NeuroMorseが時間的階層を学習することにおける現在のニューロモーフィック・アーキテクチャの限界を効果的に示していると主張している。結果は以下のことを示唆している：

• 標準的な線形分類器は、時間的構造をデコードできない。
• 教師なしのSTDPメカニズムは、特に連続するストリームにおけるキーワード識別において、特にヌルクラスに対する偽陽性の問題により、著しく苦戦する。
• 教師ありのディープラーニング・アプローチでさえ、訓練セットから複雑で連続的なテストセットへの汎化に苦慮する。

著者らは、NeuroMorseが、ニューロモーフィック・コンピューティングの中心でありながら現在の評価において軽視されがちな、時間的処理能力を評価するための厳格なベンチマークとして機能すると結論付けている。データセットおよびコードは、この領域のさらなる研究を促進するために公開されている。