Scalable platform enabling reservoir computing with nanoporous oxide memristors for image recognition and time series prediction

技術要約：ナノポーラス酸化物メンリスタを用いたリザーバコンピューティングを可能にするスケーラブルなプラットフォーム

問題提起
現在のニューラルネットワークの実装、特に時系列や言語のような時空間信号を扱うものにおいて、エネルギー効率、ハードウェアのスケーラビリティ、およびオンラインサーバーへの接続の必要性に関する大きな課題が存在する。リザーバコンピューティング（RC）は、隠れ層における固定されたランダムな重みを利用して時間的データを処理することで、低い学習コストを実現する有望な代替案であるが、物理的な実現においてはスケーラビリティや構造の複雑さに苦慮することが多い。磁気、フォトニック、または標準的なメンリスタ・アレイを用いた既存のアプローチは、デバイス間の相互接続の制限、スケーラビリティの低さ、および複雑なタスクに必要とされる真にランダムで高次元な内部状態の生成の困難さに頻繁に直面している。さらに、多くの物理的なRCの実証実験は、リザーバを用いない状態でのカオス時系列予測に対して厳密なベンチマークが行われておらず、また「イン・マテリア（物質内）」コンピューティングのための固有の材料不均一性のポテンシャルを十分に活用できていない。

手法
著者らは、固有の構造的不均一性を持つ揮発性ニオブ酸化物（NbOx）メンリスタに基づいた、スケーラブルでオール酸化物の物理リザーバコンピューティング・プラットフォームを開発した。

• デバイス作製: システムの核となるのは、20 nmのナノポーラス白金（np-Pt）ボトム電極、80 nmの窒素ドープNbOxスイッチング層、3 nmのTi密着層、および120 nmのPtトップ電極からなる薄膜デバイススタックである。ボトム電極のナノポーラス構造は、Ar:O₂混合ガスを用いたPtのDCマグネトロンスパッタリングとその後の高温アニーリングによって作成された。このプロセスにより、ナノ孔のランダムな分布（平均半径〜29 nm）がNbOx層へと伝播し、各トップ電極に対してユニークで非同一な導電経路を作り出す。
• 物理リザーバ・メカニズム: このデバイスは、ジュール熱によって抵抗変化駆動される揮発性メンリスタとして機能する。固有のナノポーラス構造がランダムで非線形な電流経路を生み出し、これが固定されたランダムな内部重みと短期的なフェーディングメモリ（ヒステリシス）を持つ物理リザーバとして機能する。
• 実験タスク:
  1. XORタスク: 論理的なバイナリ入力を電圧パルス（0Vまたは1.75V）としてエンコードし、非線形分離性をテストした。
  2. 画像認識: 0〜9の数字のバイナリ画像（5x3ピクセル）を電圧パルスのシーケンスに変換し、パターン認識をテストした。
  3. Lorenz-63予測: システムに対し、三次元のカオス的Lorenz-63時系列（$X(t), Y(t), Z(t)$）を予測および再構成するタスクを課した。時系列は電圧波形に変換され、順次リザーバに適用された。
• リードアウトおよび学習: 3つのアクティブな出力チャネルからの電流応答が同時に記録された。これらの電流は、入力電圧と組み合わされて連結ベクトルを形成し、外部ソフトウェアを介して線形リードアウト層（単純線形パーセプトロンまたはロジスティック回帰）の学習に使用された。本研究では、リザーバ（電圧＋電流入力）を用いた性能と、ベースライン（電圧のみ）との比較を行った。

主な貢献

1. ナノポーラス性による固有のランダム性: 本論文は、複雑な外部配線やクロスバーアレイを必要とせず、材料構造（ナノ孔）にランダム性が内在する物理リザーバを作成する手法を導入している。これにより、単一のデバイスフットプリントから複数の異なる出力チャネルを得ることが可能になる。
2. イン・マテリア・コンピューティング: 本システムは、材料自体が並列計算媒体として機能する「イン・マテリア」コンピューティングの好例である。これは、個別の同一デバイスを連結させるアプローチとは対照的である。
3. カオス系によるベンチマーク: 著者らは、彼らの物理リザーバを困難なLorenz-63カオス系に対して厳密にベンチマークし、物理的なメモリと非線形性の必要性を実証するために、リザーバなしの状態と比較を行っている。
4. 波形再構成: 本研究は、物理リザーバを用いてカオスの欠落した成分（例：$X(t)$から$Y(t)$および$Z(t)$を予測すること）を高い精度で再構成できることを示しており、これはリザーバなしでは失敗するか、あるいは性能が低くなるタスクである。

結果

• XORタスク: 標準的な単層パーセプトロン（SLP）はXOR問題を解くことができなかった（精度50%）。しかし、物理RCシステムは、リザーバの電流出力を通じて入力を高次元空間へ投影することにより、訓練およびテストの両方で100%の精度を達成した。
• 画像認識: 単一の出力チャネルを用い、14回の学習イテレーション後に、0〜9の数字に対して100%の認識精度を達成した。類似したピクセルパターンを持つ数字（例：3と5）は、イテレーション数が少ない段階では確信度が低かったが、十分な学習によって解決された。
• Lorenz-63予測:
  • リザーバは、非リザーバのベースラインを大幅に上回った。リザーバからの電流データを使用した場合、正規化平方根平均二乗誤差（NRMSE）の値は大幅に低下した。
  • 最良のNRMSE値は、1ステップ予測窓および100ステップ過去窓において、$V_X(t)$で$1.2 \times 10^{-2}$、$V_Y(t)$で$1.5 \times 10^{-2}$、$V_Z(t)$で$1.4 \times 10^{-2}$であった。
  • 最適な電圧変換パラメータとして、オフセット（$V_0$）0.5 Vおよび範囲（$V_{Range}$）2.5 Vが特定され、「物理学を考慮した学習（physics-aware training）」の概念が強調された。
• Lorenz-63再構成: システムは、$V_X(t)$から$V_Y(t)$および$V_Z(t)$を高い精度で再構成することに成功した。一方で、$V_Z(t)$から$V_X(t)$および$V_Y(t)$を再構成することは、Lorenz系の数学的特性（対称性の問題）と一致して失敗した。これは、物理システムが理論的制約と一致していることを検証している。
• 比較: 先行文献における数値モデルによる9出力リザーバはより低いNRMSE値を報告しているが、著者らは、彼らの3出力の実験的システムが、より少ない出力と少ない計算イテレーションで満足のいく性能を示したことを指摘しており、これは効率性の向上を示唆している。

意義および主張
本論文は、複雑な時間的タスクを扱うことができる、スケーラブルでエネルギー効率の高いニューロモーフィック電子機器のプラットフォームを実証していると主張している。ナノポーラス酸化物メンリスタの固有の構造的不均一性を活用することで、従来のクロスバーアレイのハードウェアオーバーヘッドなしに、生物学的脳のランダムな結合を模倣する物理リザーバを作成できることを著者らは示している。

著者らは、本研究を、産業に関連する時系列や複雑な大気の流れなどを予測するための「産業界でも利用可能なオンチップデバイス」への一歩として位置づけている。彼らは、本システムがオフラインモードで動作することを強調しており、これはセキュリティとレイテンシの面での利点となる。本研究は、酸化物メンリスタベースのRCと「イン・マテリア」コンピューティングの概念を統合し、このようなシステムが、材料ベースの計算のスケラビリティの利点を維持しながら、他の酸化物メンリスタシステムと同等の計算性能を達成できることを証明している。著者らは、将来的な予測精度の向上は、既存の数値モデルに対する即時の優位性を主張するのではなく、リソグラフィを通じて入出力チャネルを拡張することによって達成される可能性があると控えめに示唆している。