DistributedEstimator: Distributed Training of Quantum Neural Networks via Circuit Cutting

技術要約：DistributedEstimator – 回路切断による量子ニューラルネットワークの分散学習

問題提起
ハイブリッド量子・古典ワークロード、特に量子機械学習（QML）における変分量子アルゴリズム（VQA）は、アルゴリズム的な問題よりもむしろ、システムの制限によって制約を受けることが増えている。実用的な回路は、近未来のデバイス（NISQ）の幅、深さ、または信頼性を超えることが多く、そのため、期待値推定を繰り返し行う反復的な学習ループが必要となる。回路切断（circuit cutting または circuit knitting）は、大規模な回路を、独立して実行可能な小さなサブ回路へと分解する原理的な手法を提供するが、これまでの研究は、主に漸近的なサブ回路数やサンプリング複雑性の観点からそのオーバーヘッドを特徴付けてきた。回路切断が、反復的でエスティメータ駆動型の学習パイプラインにおけるエンドツーエンドのシステムへの影響をどのように与えるかについては、理解に大きな空白が存在する。具体的には、切断によるオーバーヘッドがパイプラインの各ステージにどのように分布するのか、並列実行下でどこにボトルネックが生じるのか、そして切断の導入が学習のダイナミクス、精度、およびモデルの堅牢性に影響を与えるのかどうかは明らかになっていない。

手法
著者らは、回路切断をステージ化された分散ワークロードとして扱う、切断を意識したエスティメータ実行パイプラインである DistributedEstimator を提案する。本システムは、Qiskit機械学習スタック（EstimatorQNN および TorchConnector を使用）と統合されており、フォワードパスおよびパラメータシフト則を介した勾配計算の両方において、エスティメータへのクエリをインターセプトする。

このパイプラインは、各エスティメータクエリに対して以下の4つの異なるフェーズを計測する：

1. 分割（Partitioning）: 切断プランに基づき、回路と観測量をサブ回路およびサブ観測量へと分解する。
2. サブ実験生成（Subexperiment Generation）: 具体的なサブ実験と再構成係数を作成する。
3. 並列実行（Parallel Execution）: サブ実験をワーカープールにディスパッチする。
4. 古典的再構成（Classical Reconstruction）: 測定結果を集計し、ターゲットとなる期待値を再構成する。

本研究では、ログ記録されたランタイム・トレースと、Iris および MNIST の2つの二値分類ワークロードにおける学習結果を用いた、測定駆動型のアプローチを採用している。評価は以下の項目に焦点を当てている：

• オーバーヘッドの帰属（Overhead Attribution）: 各ステージ（$T_{part}, T_{gen}, T_{exec}, T_{rec}$）に費やされた時間を測定する。
• スケーラビリティ: ワーカー数が増加する際のスピードアップの限界を分析する。
• ストラグラー感受性（Straggler Sensitivity）: 合成的な遅延を注入し、テールレイテンシへの感受性をテストする。
• 学習成果: 一致したトレーニング予算の下での、テスト精度およびガウスノイズと高速勾配符号法（FGSM）摂動に対する堅牢性を評価する。

重要な手法上の区別は、**構造的コストの償却（amortization of structural costs）**である。分割とサブ実験テンプレートの生成は回路の構造にのみ依存するため、これらは一度だけ計算されキャッシュされる。これにより、クエリごとのオーバーヘッドは、パラメータのバインディング、実行、および再構成のみを反映することになる。

主な貢献

1. 測定駆動型パイプラインの定式化: 回路切断を、切断、実行、および再構成にわたるオーバーヘッドを明示的に計測した、分散ステージ型パインドラインとしてシステムレベルの視点から確立した。
2. 経験的なスケーラビリティ分析: ステージレベルのログを通じて、古典的再構成が支配的なボトルネックとなり、並列性の向上によるメリットを制限することを特定した。
3. スケジューリングとストラグラー分析: 実行ポリシー（eager, batched, staggered）を評価し、ストラグラー感受性がクリティカルパスの構造によって調整されることを示した。すなわち、再構成主導のパイプラインは、実行主導のパイプラインよりも実行側の遅延に対して感受性が低い。
4. エンドツーエンドの学習評価: 回路切断が、一貫したトレーニングプロトコルの下で予測精度とモデルの堅牢性を維持することを証明し、パフォーマンスの向上と最適化挙動の変化を区別した。
5. 計算障壁の特性評価: 再構成オーバーヘッドの指数関数的な成長（CNOTベースの切断 $c$ に対して $O(9^c)$）が、現在の手法における実用的な反復学習を制限する根本的な障壁であることを文書化した。

結果

• オーバーヘッドとボトルネック: 再構成は、クエリごとの時間の支配的な割合を占め、3つのカットにおいて中央値53%、**95パーセンタイルで58%**に達する。この直列的な障壁が、増大する並列化の下での達成可能なスピードアップを制限しており、ワーカーを追加しても収穫逓減が生じる理由を説明している。
• スケーラビリティの限界: 1ワーカーと比較した16ワーカーのスピードアップ比は1に近いか、あるいは1を下回っており、再構成オーバーヘッドがクリティカルパスを支配していることを裏付けている。
• ストラグラー感受性: 再構成によって支配される構成は、再構成時間が実行の遅延に影響されないため、実行側のストラグラーに対する相対的な感受性が低い。逆に、実行によって支配される構成は、テールレイテンシを増幅させる。
• 精度と堅牢性:
  • Iris: すべてのカット構成においてテスト精度が完全に保持されている。
  • MNIST: 系統的な劣化なしに精度が維持されている。一部のカット構成は、エスティメータのノイズによる暗黙的な正則化の可能性があるため、カットなしのベースラインと同等またはそれを上回る性能を示す。
  • 堅牢性: ガウスノイズおよびFGSM摂動に対する堅牢性は保持されており、一部のカット構成は同等または改善された堅牢性を示している。
• ハードウェア検証: IBM Quantum ibm_kingston (Heron r2) プロセッサを用いた標的検証により、物理的に測定された結果からの再構成が精度と堅牢性を維持することが確認された（テストセットで100%の精度）。注目すべき点として、実機ではステージのバランスが逆転し、実行時間（キューイングおよびデバイスレイテンシを含む）が支配的なコストとなる一方で、再構成は総時間のわずかな部分となる。しかし、サブ実験の指数関数的な増加が両方のステージを膨張させるため、構造的なボトルネックは維持される。

意義と主張
本論文は、回路切断の実用的な学習ワークロードへのスケーリングには、再構成と集計を第一級のシステム問題として扱う必要があると主張している。著者らは、サブ実験数の指数関数的な増加（$O(9^c)$）が、現在の反復的な学習を小規模な量子ビット数に制限する根本的な計算障壁となっていると論じている。

本研究の結論は以下の通りである：

1. 再構成が主要なスケーリング制限要因であることは、シミュレータ環境における事実であり、このステージを削減またはオーバーラップさせる戦略（例：増分再構成、分散ツリーリダクション）が必要である。
2. 精度と堅牢性は保持されるであり、回路切断がモデルの品質を密かに低下させることなく、実行可能なシステムレベルの実行戦略として有効であることを検証している。
3. 今後の課題は、回路切断を大規模で現実的なQMLワークロードに対して実用的なものにするために、近似的な手法、分散リダクション、およびより効率的な切断スキームを通じて、再構成オーバーヘッドを削減することに焦点を当てる必要がある。

本論文は、回路切断がより大きな量子デバイスの必要性を排除する、あるいはバリオン・プラトー（barren plateau）問題を解決すると主張しているのではなく、現在における切断ベースの学習パイプラインを実行する際のトレードオフとボトルネックを理解するための、再現可能なフレームワークを提供している。