Improving Quantum Recurrent Neural Networks with Amplitude Encoding

本論文は、近似振幅エンコーディングのためにEnQodeを統合し、汎化性能を向上させるために入力を事前正規化された大きさで拡張する前処理手法を導入し、さらに数学的等価性を維持しながら回路の深さを大幅に削減する新しい回路アーキテクチャを提案することにより、量子回帰ニューラルネットワーク（QRNN）を強化するものである。

要約

あなたは、ロボットに株式市場の予測を教えようとしていると想像してください。あなたには、非常に強力で未来的なロボットの脳、**量子回帰ニューラルネットワーク（QRNN）**があります。この脳は特別で、過去の出来事を記憶することができ（例えば、昨日の天気を覚えて今日の天気を予測する人間のように）、量子物理学の奇妙な法則を利用して情報を処理することができます。

しかし、このロボットの脳を構築するのは非常に困難です。ジャック・モーガンとそのチームによる論文は、いわば「アップグレードのためのユーザーマニュアル」です。彼らは、この量子脳をより賢く、速く、そして故障しにくくするための3つの特定の方法を見つけ出しました。

以下に、これら3つのアップグレードの簡単な内訳を示します。

1. 「音量つまみ」の問題（前処理）

問題点:
量子コンピュータにデータを入力するには、数値を「量子波」に変換しなければなりません。標準的な方法では、データを正規化します。これは、ステレオのすべての音量つまみを、ダイヤルにぴったり収まるように同じレベルに合わせるようなものです。

• 例え: 2つの曲があるとします。一方はささやき声のような音量で再生され、もう一方は轟音のような音量で再生されます。もしこれらを正規化すると、量子コンピュータはそれらが「どのような形（波形）」をしているかのみを見るため、両方を全く同じものとして聞き取ってしまいます。つまり、「音量（大きさ）」に関する情報を失ってしまうのです。
• 解決策: 著者らは、データが入力される前に、この「音量つまみ」の特徴をデータに追加することを提案しています。彼らは元のデータの大きさを取り出し、それを新しい数値へと圧縮し、追加の材料として入力します。
• 結果: これにより、量子脳は「ささやき」と「轟音」の違いを判別できるようになります。彼らは、この「音量」をスケーリングする特定の方式（彼らはこれを MaxMin と呼んでいます）を使用することが、金融データにおいてロボットの予測精度を高めるのに役立つことを発見しました。

2. 「完璧 vs 十分に良い」のジレンマ（EnQode）

問題点:
特定のデータセットに対して完璧な量子波を作成することは、非常に困難です。それは、ショップにやってくる一人ひとりのために、オーダーメイドのスーツを完璧に仕立てるようなものです。それには膨大な時間と労力（回路の深さ）がかかるため、ロボットが完成する前に疲れてしまい、ミス（デコヒーレンス／量子デコヒーレンス）を引き起こしてしまいます。

• 例え: すべての人に完璧なオーダーメイドスーツを作る代わりに、ほとんどの人にうまくフィットする「標準サイズ」をいくつか用意しておくとしたらどうでしょうか？
• 解決策: 彼らは EnQode と呼ばれるツールを使用しました。毎回ゼロから完璧な量子状態を構築する代わりに、EnQodeは最も近い「標準サイズ（セントロイド）」を見つけ出し、それをわずかに微調整します。これは近似値です。
• 結果: スーツは「完璧に」仕立てられているわけではありませんが、十分に機能します（精度は約94%）。最大の利点は、作成にかかる時間が大幅に短縮されることです。実際の量子コンピュータにおいては、完璧だが遅いものよりも、速くてシンプルなものの方が優れています。なぜなら、時間がかかりすぎるとコンピュータは動作を停止してしまうからです。

3. 「組立ライン」のアップグレード（回路構造）

問題点:
旧設計では、ロボットはすべてを一つずつ順番に行う必要がありました。「今日」のデータを準備し終え、それを処理し終え、次に「明日」のデータを準備し、処理するという具合です。これは、渋滞によって遅延やエラーが発生する単車線の道路のようなものでした。

• 例え: 工場を想像してください。古い方法は、「フレームを作り、塗装し、乾燥させる。次に次のフレームを作る」というものでした。新しい方法は、二車線の組立ラインです。「今日」のフレームを塗装している間に、別のチームがすでに「明日」のフレームを作り始めています。
• 解決策: 彼らは 交互特徴レジスタ（Alternating Feature Registers） を導入しました。2つの異なる「ワークスペース（レジスタ）」を使用し、それらが交代で行われます。一方のレジスタに新しいデータが投入されている間に、もう一方のレジスタでは処理が行われます。
• 結果: これにより、回路の深さ（組立ラインの長さ）が大幅に短縮されます。これにより、ロボットはより高速になり、作業が終わる前に記憶を失う（デコヒーレンス）可能性が低くなります。

まとめ

著者らは、これらのアップグレードを金融データ（株式リターンの予測）を用いてテストしました。その結果、以下のことが分かりました。

1. 「音量」の特徴を加えることで、モデルがデータをより良く理解できるようになったこと。
2. 「十分に良い」近似法（EnQode）を使用することで、精度を大きく損なうことなく、実際のハードウェア上で実際に動作できるほどのスピードを実現できたこと。
3. 新しい「組立ライン」設計により、プロセス全体がより短く、効率的になったこと。

これら3つのテクニックを組み合わせることで、彼らは、現在私たちが持っている量子コンピュータにおいて、量子回帰ニューラルネットワークを構築しようとするあらゆる人々にとっての新しい「ベストプラクティス（最善の手順）」ガイドを作成しました。

技術概要

技術要約：振幅エンコーディングによる量子回帰ニューラルネットワークの改善

問題提起

回帰ニューラルネットワーク（RNN）は時間的依存性のモデリングにおいて標準的な手法であるが、その量子版である量子回帰ニューラルネットワーク（QRNN）は、ハードウェアの実現可能性と汎化性能に関して大きな課題に直面している。パラメータ化された量子回路（PQC）を利用するQRNNは、表現力やエネルギー効率の面で潜在的な利点を持つが、既存の実装の多くは**角度エンコーディング（angle encoding）**に依存しており、これは特徴量の数に対して線形に量子ビット数が増加する（$O(N)$）。これに対し、**振幅エンコーディング（amplitude encoding）**は優れた量子ビット効率（$O(\log N)$）を提供し、他の量子機械学習タスクにおいて高い精度を示しているが、完全な量子QRNNにおいては以下の2つの主要な制約により、未だ十分に探索されていない。

1. 状態準備の複雑性： 正確な量子状態準備（QSP）は指数関数的な回路深さを必要とするため、近未来のデバイスでは実行不可能である。
2. 情報の損失： 標準的な振幅エンコーディングは入力の正規化を必要とするが、これにより特徴ベクトルのグローバルな大きさ（振幅）が破棄される。この大きさ情報の損失は、方向は同じでも大きさが異なるベクトルを同一のものとしてエンコードしてしまうため、シーケンスモデリングを歪ませる可能性がある。

さらに、ノイズのあるハードウェア上でQRNNを実行すると、特に潜在状態レジスタにおいてコヒーレンス誤差が生じ、性能が低下する。

手法

著者らは、これらの制限に対処するために、標準的なQRNNアーキテクチャに対する3つの具体的な修正を提案している。本研究では、S&P 500の1日あたりのリターンを予測するために、2つの金融データセット（Yahoo FinanceおよびOxford-Man Institute）を用い、8日間のシーケンスを採用している。モデルはQiskitのAerSimulator（無ノイズおよびIBM Torino Heron r1ノイズモデルの両方）上でシミュレーションされている。

1. 前正規化振幅特徴拡張（Pre-normalized Amplitude Feature Augmentation）

振幅エンコーディングに固有の大きさ情報の損失を軽減するために、著者らは前処理ステップを導入している。量子エンコーディングのために特徴ベクトルを正規化する前に、元のベクトルの$\ell_2$ノルム（前正規化振幅）を表す新しい特徴量を付加する。

• 実装： 元の$N$個の特徴量はMinMaxスケーリングされる。その後、新しい振幅特徴量は、$N+1$次元のベクトル全体が正規化される前に、MinMaxスケーラーまたはMaxMinスケーラーを用いてスケーリングされる。
• 仮説： 振幅特徴量に対するMaxMinスケーリングは、MinMaxスケーリングよりもサンプルの相対的な関係をより良く保持し、異なる大きさを持つベクトルをモデルが区別することを可能にする。

2. EnQode近似振幅エンコーディング

指数関数的な深さを持つ正確なQSPを克服するため、本論文では近似的な状態準備のための古典的機械学習アプローチであるEnQodeを統合している。

• メカニズム： EnQodeは、正規化されたデータセットに対してk-meansクラスタリングを行い、セントロイド（重心）を特定する。PQCアンザッツは、各セントロイドに対応する量子状態を準備するために、古典的に（記号的表現とバックプロパゲーションを用いて）訓練される。
• 適用： 推論時には、新しいサンプルに最も近いセントロイドが特定され、そのセントロイド用に事前訓練されたパラメータが使用され、近似的な振幅エンコード状態 $|\tilde{x}_t\rangle$ が生成される。これにより、回路の深さと量子ビット数の対数スケールでのスケーリングが可能になる。

3. 交互特徴マップレジスタ回路（Alternating Feature Map Register Circuit）

回路の深さとデコヒーレンス誤差を軽減するために、著者らは交互特徴マップ（F）レジスタを利用した新しい回路レイアウトを提案している。

• メカニズム： 単一のFレジスタを再利用する（これは、隠れ状態を保持しながら、タイムステップ間でリセットと再エンコーディングを行う必要がある）代わりに、この新しいアーキテクチャでは2つのFレジッションを使用する。Ansatz PQCがタイムステップ$t-1$からの状態を一つのレジスタで処理している間に、次の入力状態 $|x_t\rangle$ は二つ目のレジスタで準備される。
• 等価性： 情報を破棄して量子ビットをリセットする「Staggered QRNN（SQRNN）」とは異なり、この交互構造は理想的なプロセッサ上の標準的なQRNNと数学的に等価であるが、必要な回路深さを大幅に削減する。

主な結果

ベースモデルの性能比較

• 振幅 vs 角度エンコーディング： （修正なしの）振幅QRNNは、角度QRNN（0.015）および古典的RNN（0.012）と比較して、より低いテスト平均二乗誤差（MSE）である0.009を達成した。これは、学習パラメータが少ないにもかかわらず（28 vs 44）、振幅エンコーディングがこのタスクにおいて優れた汎化性能を提供することを裏付けている。

前処理の影響

• 振幅特徴量： 前正規化振幅特徴量の追加は、性能を向上させた。
  • MinMaxスケーリング： 学習データへの収束は早かったが、汎化性能は低かった。
  • MaxMinスケーリング： 最良の汎化性能を達成し、テストMSEを0.0056に減少させた（ベースラインの振幅QRNNに対して36%の改善）。

近似エンコーディング（EnQode）の影響

• 忠実度 vs 深さ： EnQodeは平均0.94の状態準備忠実度を達成した。
• 無ノイズシミュレーション： EnQodeを使用すると、状態準備誤差により、正確なQSPと比較してテスト損失が40%増加した。
• ノイズありシミュレーション： IBM Torinoノイズモデルをシミュレートした場合、EnQodeモデルは正確なQSPモデルを上回った。回路の深さの減少（およびそれに伴うデコヒーレンス誤差の減少）が、6%の状態準備不完全性のペナルティを相殺した。

回路構造の影響

• 深さのスケーリング： 交互Fレジスタアーキテクチャは、標準的なアーキテクチャと比較して回路の深さを減少させた。
• 拡張性： 特徴量セットが小さい場合（4〜8個）は深さの違いは僅かであるが、本論文は、スワップゲートが必要となる接続制限のあるプロセッサにおいて、交互構造の深さが特徴量の増加に対してより有利にスケールすることを実証している。

重要性と主張

本論文は、近未来のハードウェア上でQRNNを実装するための新しいベストプラクティスを確立している。著者らは以下の通り主張している。

1. 汎化： 振幅エンコードされた入力に前正規化振幅特徴量を付加すること（特にMaxMinスケーリングの使用）は、大きさの情報を保持することにより、モデルの汎化性能を大幅に向上させる。
2. 実現可能性： EnQode近似振幅エンコーディングは、QRNNにとって実行可能な戦略である。それは状態準備誤差を導入するものの、結果としての回路の深さの減少が、ノイズ環境下では正確なエンコーディングよりも優れている。
3. 効率性： 交互Fレジスタ回路構造は、数学的に等価でありながら、より浅い実装を提供し、コヒーレンスの制約に直接対処する。

著者らは、これらの手法がQRNNに限定されるものではなく、同様の潜在レジスタおよびデータエンコーディング構造を共有する量子リザーバーコンピューティング（QRC）、量子極限学習マシン（QELM）、および量子隠れマルコフモデル（QHMM）といった他の量子シーケンス学習フレームワークにも適用可能であると結論付けている。