技術要約：非揮発性および揮発性重み付けを用いた波長分割多重フォトニック・テンソル・コア

問題提起

人工知能モデルが数千億のパラメータ規模へと拡大するにつれ、デジタル電子回路はトランジスタのスケールアップ性とエネルギー効率の限界に直面しており、増大するトークン使用量のスループット要求への対応に苦慮している。光インターコネクトはコパッケージドおよびニアパッケージド・オプティクスへと進化しつつあるが、トランスフォーマーのワークロードの大部分を占めるテンソル演算に対して、フォトニック集積回路（PIC）が計算上の利益を提供できるかどうかの判断が依然として求められている。既存のフォトニック・テンソル・コア（PTC）は、特定のタスク（推論または学習）をターゲットにするか、あるいは孤立した技術（非揮発性の相変化材料、または能動的な熱光学変調器のいずれか）を利用することが多い。これらは、両方の重み付けレジーム、オンチップ蓄積、および一般的な行列乗算のためのカスタムコンパイラをサポートする、統一され、かつ実験的に検証されたアーキテクチャを持たない。

手法

著者らは、モジュール式の波長分割多重（WDM）フォトニック・テンソル・コア・アーキテクチャを設計、テープアウト、パッケージングし、実証した。このシステムは、電力スケール化されたシリコン・フォトニック・チップを利用しており、レーザーのアレイが入力ベクトル値をエンコードし、それらが多重化されてPTCモジュールに分配される。

本研究は、同一のWDMアーキテクチャ内における2つの異なる重み付けメカニズムの実装に焦点を当てている：

1. 非揮発性重み付け（P-RAM）： 相変化材料（GSSe）を利用してフォトニック・ランダム・アクセス・メモリを作成する。この実装は、エッジコンピューティングや更新頻度の低いモデルパラメータに適した、超低電力かつパッシブな重み付けを利用する。このデバイスは、強度変調を介してマルチレベルの重み（2ビット/4レベルの精度として実証）をエンコードする。
2. 揮発性／能動的重み付け（熱光学MZI）： 高速に再構成可能な行列演算のために、ヒーターを統合したマッハ・ツェンダー干渉計（MZI）を利用する。この実装は、学習タスクや動的な推論をターゲットとしており、高い消光比（>20 dB）と高速な再構成を実現する。

主要なシステム構成要素：

• WDM多重化／復調： 受動的なアド・ドロップ・マイクロリングが、複数の波長チャネル（例：1548.1, 1550.2, 1551.5 nm）を分配および再結合する。
• 蓄積： アーキテクチャは、積和演算（MAC）の蓄積（総和）を行うためにフォトディテクタを採用している。本研究では、オンチップ・フォトダイオードによる蓄積と、オフチップ（外部）フォトダイオードによる蓄積の2つの構成を比較している。
• 汎用行列乗算（GeMM）コンパイラ： 製造されたPTCプロトタイプ（例：3x3）の物理的寸法に適合するように、大きな行列をサブ行列に分割するカスタムコンパイラが開発された。これにより、入力を空間的にダウンサンプリングすることで、画像処理やより大きなニューラルネットワークのタスクを扱うことが可能になる。

主要な貢献

• 重み付け技術の分離実装： 本論文は、非揮発性（GSSe PCM）および能動的（MZI）の両方の物理的重み付け実装にわたって検証された、モジュール式WDMベースのPTCアーキテクチャの実験的実証を提示している。特筆すべきは、これら2つの重み付け技術が、単一の光路内に同時に統合されるのではなく、個別に実装され評価された点である。
• デュアルモード実装： 著者らは、非揮発性ストレージ用のPCM/P-RAMを用いたもの（オフチップ蓄積で評価）と、能動的重み付け用の熱光学MZIを用いたもの（オンチップおよびオフチップ蓄積の両方で評価）の、2つの異なるPTCモジュールを正常に作製し、特性評価を行った。
• ハードウェア認識型エミュレーション： 本研究は、GeMMコンパイラがタスクを分割し、実験的に測定されたMZI伝達マップを使用して、ノイズや精度限界などの現実世界の非理想性を考慮したハードウェア認識型推論をエミュレートするワークフローを導入している。
• システムレベルの統合： 本研究は、信号の並列性をWDMによって統合し、堅牢な振幅重み付けスキームと線形スケーリング可能なモジュール設計を単一のプラットフォームに集約することで、孤立したデバイスの実証を超えた成果を示している。

結果

• 非揮発性P-RAMの性能： PCMベースのモジュールは、超低消費電力での4レベル重みエンコーディング（2ビット精度）を実証した。10,000回のMAC演算において、モジュールは平均誤差0.0016、標準偏差0.019を達成した。
• 能動的MZIの性能： 熱光学MZI実装は、20 dBを超える消光比を達成した。パワーマップを用いたキャリブレーションにより、重み付けスキームにおいて約6相当のビット数（ENOB）の精度が明らかになった。統合されたフォトダイオードは、光学I/Oと比較して理想的なケースに近い応答を提供し、ノイズと不安定性を低減した。
• 画像処理： MZIベースのPTCは、ジョージ・ワシントン大学のロゴを用いたエッジ検出および拡張現実（AR）画像合成に使用された。
  • エッジ検出では、実験的なエラー率は**3.41%**であった（ハードウェア認識型エミュレーションにおける1.1%と比較）。
  • ARマスク生成（顔とマスクの合成）は、**0.3%**のエラー率を達成した。
• 機械学習推論： MNISTデータセットを用い、完全電子GPU、完全フォトニックPTC、およびハイブリッド・アプローチを比較した。
  • ハイブリッド・アプローチ（畳み込み層にPTCを使用し、非線形層および全結合層にGPUを使用）は、最高の性能指標（FOM）を示し、他のソリューションと比較して性能を100%以上向上させた。
  • 完全フォトニック・アプローチは、全結合層においてハードウェアの非理想性に起因するわずかな精度の低下が見られたが、線形演算におけるレイテンシとエネルギー効率において大幅な利点を提供した。
• スケーラビリティの投影： スケーリングの仮定の下で、9×9の実装は、データ変換のオーバーヘッドを含めて、8.75 TOPSおよび3.04 TOPS/Wに達すると推定されている。

意義と主張

本論文は、理論的なフォトニック・コンピューティング・モデルと、実用的なシステムレベルの実装との間の溝を埋めるものであると主張している。非揮発性と揮発性の両方の重み付け（それぞれ個別に評価）をサポートするモジュール式アーキテクチャを実証することで、著者らは、フォトニック・テンソル・コアが異なるアプリケーション領域（エッジ推論 vs データセンター学習）に適応できることを示している。

その意義は、線形な積和演算を完全にオンチップで、高いエネルギー効率と低いレイテンシで実行できる能力にあり、これにより光・電子ドメイン間のドメインクロスオーバーに伴うエネルギーコストを回避できる点にある。著者らは、この技術が「極限エッジコンピューティング」を可能にし、サイズ・重量・面積・電力（SWAP）の制約がある環境に対して、コンパクトで高スループットなソリューションを提供することで、インダストリー4.0のアプリケーションをサポートすると断言している。

著者らは現在の限界についても謙虚であり、現在の3×3プロトタイプは0.32 TOPSに制限されていること、および実証された精度向上は非線形操作が電子的なままのハイブリッド・アーキテクチャに依存していることを述べている。また、将来の課題として、PTCの潜在能力を最大限に引き出すためには、非線形およびプーリング操作を光学的に統合する必要があること、および実用的な展開にはマイクロリング共振器の熱安定化と能動的なチューニングが必要であることを認めている。