An interpretable closed form for entanglement entropy from bitstrings, guided by a graph neural network

技術要約：ビットストリングからもたらされる、グラフニューラルネットワークに導かれた解釈可能な閉形式のエンタングルメント・エントロピー

問題提起
リドベリ原子アレイの量子シミュレーションにおいて、経験的なビットストリング分布（占有基底における測定結果）は最もアクセスしやすい観測量である。しかし、量子多体系の重要な診断指標である二部系のフォン・ノイマン・エンタングルメント・エントロピー（$S_{vN}$）を得るには、はるかに高いコストがかかる。完全な状態トモグラフィーはシステムサイズ $N$ に対して指数関数的にスケールし、トモグラフィーを必要としないプロトコルであっても、コピー、ゲート、または後処理に多大なオーバーヘッドを要する。ビットストリング分布は $S_{vN}$ を一意には決定しない（異なる状態が同じ対角分布を持ちつつ、異なるエンタングルメントを持つ可能性があるため）ものの、それを厳密に制約する。既存のエスティメータ（推定器）はトレードオフに直面している。古典的な相互情報量（$I$）に基づく解析的な境界は解釈可能ではあるが粗く（$S_{vN}$ を約 0.10 nats 過小評価する）、高精度なグラフニューラルネットワーク（GNN）サロゲートは、新しいレジーム（相、幾何学、またはハミルトニアン）ごとに再学習が必要なブラックボックスである。目標は、学習済みモデルの精度と、解析的な形式の解釈可能性およびポータビリティを兼ね備えたエスティメータを見出すことである。

手法
著者らは、「GNNに導かれた」アプローチを用いて、閉形式のエスティメータを導出している：

1. GNNのメカニズム的プロービング： 手作業で選んだ観測量に対して解析的な形式をフィッティングする代わりに、著者らは事前学習済みGNN（[5]より）をプローブし、どの入力が $S_{vN}$ の予測を駆動しているかを特定した。因果的介入（アテンション・ルーティング、アクティベーション・パッチング、およびエッジ除去）を通じて、GNNの予測が具体的に二部系の境界エッジ（$E_b = A \times B$）を経由してルーティングされていることを確立した。ネットワークは、エッジがカットを横切るかどうかに基づいてアテンションを再ルーティングし、境界エッジを除去すると性能が著しく低下する。
2. 特徴量の制限と探索： 境界相関量（boundary correlators）に焦点を当てるGNNの特性に基づき、著者らはビットストリング分布から導出された25個の物理スカラー（特に境界集合 $E_b$ 上で計算されたもの）の精選されたショートリストへと、網羅的な探索を制限した。
3. 網羅的な記号探索： 通常最小二乗法（OLS）を用い、6つの特徴量のすべての組み合わせ $\binom{25}{6} = 177,100$ に対する網羅的な探索が行われた。その結果、6項からなる線形閉形式（式1）が得られた。
4. 検証とスケーリング： この形式は、$N \le 20$ に対する厳密対角化（ED）および $N=100$ までの密度行列繰り込み群（DMRG）によるグラウンドトゥルースに対して検証された。著者らは係数のスケーリング挙動を分析し、異なるハミルトニアン・ファミリーや幾何学的シフトに対する転送可能性をテストした。

主な貢献

1. 6項の閉形式（式1）： 著者らは、人間が読めるハイパーパラメータフリーの線形エスティメータを提示している：
   $$\hat{S}_{vN} = b_1 \log(I+1) + b_2 \sum_{E_b} \sqrt{|c|} + b_3 \sum_{E_b} \tanh |c| + b_4 (\max_{E_b} |c|)^2 + b_5 \min_{E_b} c + b_6 \min(H_A, H_B) I$$
   ここで、$c$ は二点相関量、$I$ は相互情報量、$H$ は単一サイト・エントロピーを表す。
2. GNN誘導型特徴量生成： ニューラルネットワークの因果的プロービングが、特定の予測タスク（本件では境界相関量）に対して、いかに効果的に関連する物理的サブスペースを特定できるかを実証した。これにより、手動の機能エンジニアリングを回避できる。
3. スケーリング則とキャリブレーション規則： 本論文は、閉形式の係数がスケール不変ではない（固定された係数は大きな $N$ では失敗する）一方で、その「形式」自体は $N=100$ まで維持されることを確立した。2つの係数はクリーンな $1/N$ 法に従い、アンカーとなる係数は下方への曲率を伴って増加する。これにより、「ラベル予算ルール」が可能となる。すなわち、ターゲットとなるサイズにおける数十個のラベルがあれば、微調整されたアンサンブルに一致するように形式を再キャリブレーションできる。

結果

• 精度： 閉形式は、イン・ディストリビューションのテストセットにおいて、平均絶対誤差（MAE）0.0244 nats を達成した。これはベースとなるGNNの誤差（0.0038 nats）の6.4倍であるが、古典的な相互情報量のベースライン（0.1002 nats）よりも大幅に優れている。
• ポータビリティ（分布外/OOD）： 変更を加えず（一度のフィットで）6つの分布外（OOD）プール（異なるシステムサイズ、構造的シフト、およびランダムな2D配置）に適用したところ、閉形式は5つのプールでベースとなるGNNを上回り、6つ目のプールでは同等の性能を示した。これは、この形式が幾何学に対して非パラメトリックであることに起因する。GNNとは異なり、この形式は明示的な原子座標を取り込まない。
• ハミルトニアン横断的転送： ファミリーごとに再フィットした場合、この6特徴量の形式は、テストされたすべてのハミルトニアン・ファミリー（TFIM, XXZ, J1-J2, Rydberg, およびランダム符号）において、解析的ベースライン（$I$ およびフィルタリングされた $I$）を上回った。同じ特徴量を用いたXGBoostの方が精度は高いが、解釈性に欠ける。
• $N=100$ へのスケーリング： 独立したDMRGデータを用い、固定された係数を用いたグローバルフィットは、大規模スケールでは失敗する（MAEが1 nat以上に増大する）ことを示した。しかし、サイズごとに係数を再フィットすることで、MAEを 25–50 mnat に維持できる。係数のスケーリング則をフィットさせることで、ラベルフリーでの展開が約 40–80 mnat で可能となる。
• 堅牢性： この形式はショットノイズに対して堅牢であり、わずか約160回の測定ショットにおいて相互情報量のベースラインを上回る性能を示す。

意義と主張
本論文は、式1が精度と解釈性のトレードオフにおいて独自のニッチを占めていると主張している。これは、内部の重みを再構成するという意味でのGNNの「蒸留」ではない。むしろ、GNNが利用しているものと同じ物理量に基づいた、独立した低次元のグラウンドトゥルース・フィットである。GNNはこれらの量を冗長で高次元なコードとしてエンコードするが、式1はそれを読み取り可能な投影として提供する。

その意義は、透明、転送可能、かつ調整可能なエスティメータを提供することにある。これにより、実験家はエントロピー推定を駆動する物理を検査でき、再学習なしに異なる幾何学や相にモデルを適用でき、さらに最小限のラベルでキャリブレーションを行うことができる。著者らは、非線形モデル（XGBoostやGNNなど）が大規模なラベル付きデータセットを与えられた場合にはより高い生の精度を提供できるものの、閉形式は優れた透明性と特性化されたスケーリング挙動を提供し、大規模な量子シミュレーションにおける「ラベル予算ルール」を確定させるものであると結論づけている。