An RRAM-based Hardware Implementation of a Radial Basis Function Neuron for Edge Classifiers

技術要約：エッジ分類器のためのRBFニューロンのRRAMベース・ハードウェア実装

問題提起
リソース制約のあるエッジデバイスへの現代的な機械学習（ML）モデルの展開は、特にエネルギー効率、レイテンシ、およびリアルタイムでの外れ値や分布外（OOD）入力への対応に関して、大きな課題に直面している。従来のディープニューラルネットワーク（DNN）は、環境の変化、センサーノイズ、または進化するデータパターンによって、学習済みモデルの性能が低下する「ドメインシフト」に苦慮することが多い。さらに、フォン・ノイマンのメモリの壁は、類似性探索に必要なドット積のような計算負荷の高い操作においてボトルネックを生み出す。既存のソリューションは、追加のリソースやデータの注釈を必要とせずに、効率的なオンデバイス適応（継続学習）を行う能力に欠けていることが多く、これは自律走行のような安全性が重視されるアプリケーションにおいて極めて重要である。

手法
著者らは、金属酸化物抵抗変化型メモリ（RRAM）をCMOS技術と統合したアナログ・コンテンツ・アドレサブル・メモリ（ACAM）システムを活用した、ハードウェアネイティブなソリューションを提案している。この設計の核となるのは、構成可能なアナログ放射基底関数（RBF）ニューロンとして機能するカスタムの Template piXeL (TXL) セルである。

• TXLセル・アーキテクチャ: TXLセルは、2つのソース退化型RRAM-CMOSインバータを利用している。MOSFETのソースに対して直列にRRAMデバイス（$R_M$ および $R_B$）の抵抗をプログラムすることで、回路は上限閾値（$V_{TH}^{upper}$）と下限閾値（$V_{TH}^{lower}$）によって定義される特定の「マッチング・ウィンドウ」を確立する。このウィンドウは、入力電圧が特定の範囲内に収まったときにのみ活性化する受容野を模倣し、実質的に距離指標を計算する。
• アレイ構成: TXLセルは、高密度な $k \times n$ アレイに組織されている。各行はユニークな $k$ 次元プロトタイプ（統計的属性として、平均 $\mu$ と分散 $\sigma$ がRRAMのコンダクタンスにエンコードされたもの）を表し、各列は入力特徴量に対応する。
• インメモリ・コンピューティング (IMC): システムは並列に類似性探索を実行する。入力ベクトルはアナログ信号としてビットラインに印加される。キルヒホッフの電流法則を通じて、個々のTXLセルからの電流がマッチライン上に蓄積され、入力クエリと保存されたプロトタイプ間の集約された類似度スコア（逆距離）を自然に計算する。
• 適応ポリシー: システムは、入力と最良一致プロトタイプとの間の距離（$d$）に基づいた3段階の適応ポリシーを実装している：
  1. 信頼できる分布内 (In-Distribution) ($d \le \tau_{IDO}$): 適応は行われない。
  2. 分布内外れ値 ($\tau_{IDO} < d \le \tau_{OOD}$): 既存のプロトタイプが適応（平均と分散の更新）され、新しいサンプルを取り込むことで、緩やかなドメインドリフトを緩和する。
  3. 分布外 (Out-of-Distribution) ($d > \tau_{OOD}$): システムは未知のクラスを識別する。数発学習（few-shot learning）スキームを用いて、アレイ内の空いている行に新しいプロトタイプを割り当て、既存の知識を上書きすることなく分類器の能力を拡張する。

主な貢献

• ハードウェアネイティブなRBFニューロン: 本論文は、アナログ領域で直接メトリックベースの分類を実行できる、RBFニューロンの物理的実装としてのTXLセルを紹介している。
• エネルギー効率の高い類似性探索: RRAMベースのACAMを利用することで、設計は $O(1)$ の複雑度でテンプレートマッチングを実現し、メモリの壁を回避する。
• オンライン適応メカニズム: システムは、受容野のパラメータを調整してドメインシフトを追跡したり、新しいクラスを追加したりするための「オンザフライ」の学習をサポートしており、フルモデルの再学習を必要としない。
• 説明可能性: 不透明なフィードフォワード層とは異なり、意思決定プロセスは入力と保存されたプロトタイプとの近接性に明示的に追跡可能であり、固有の説明可能性を提供する。

結果

• エネルギーとレイテンシ: TiN/HfON/TiN RRAMを用いた180 nm CMOSプロセスにおける回路レベルのシミュレーション（SPICE-Spectre）では、100 MHzにおいて1セルあたり1操作につき185 fJのエネルギー消費が示された。検索あたりのレイテンシは約100 nsである。
• 分類精度:
  • 人工的な幾何学図形データセットにおいて、システムは初期学習および適応後の両方で100%の精度を達成した。
  • MNISTデータセット（7x7にダウンサンプリング）において、システムは適応前で89.1%、適応後で**85.5%**の精度を達成した。著者らは、このわずかな精度の低下は、特徴抽出層の欠如と入力のダウンサンプリングに起因するものであり、コアとなるTXLメカニズムによるものではないと述べている。
• 適応性能: SPICEシミュレーションにより、システムは既存のプロトタイプを外れ値サンプルに適応させ（受容野の再形成）、未知のクラス（例：円、三角形、十字のデータセットに「長方形」クラスを導入する）に対して新しいプロトタイプを割り当てつつ、既存のプロトタイプの整合性を維持できることが実証された。

意義
本論文は、提案されたTXLベースのアーキテクチャが、安全性に関わるアプリケーションのための堅牢でエネルギー効率の高いエッジコンピューティングへの実行可能な道筋を提供すると主張している。インシチュ（in-situ）適応を可能にすることで、システムはドメインシフトの問題に対処し、エッジデバイスが訓練データとは異なる現実世界のデータ分布に遭遇しても信頼性を維持できるようにする。著者らは、この技術を、破滅的忘却や外部のデータ注釈を必要とせずに分類能力を拡張し、新しい環境に適応できる「継続学習」への一歩として位置づけている。この研究は、RRAMのばらつき、保持特性、および耐久性がキャリブレーションを通じて管理されることを前提として、リモートモニタリング、ウェアラブルセンサー、および自律航法への将来的な展開を見据えている。