技術的概要：証明可能な最適性を持つ等変学習のための群代数テンソル

問題定義

分子構造や量子状態などの科学的データは、本質的に多次元であり、物理的対称性（回転、置換など）によって支配されている。従来の機械学習アプローチは、通常、このテンソルデータをベクトル化し、その自然な幾何学的構造を平坦な特徴ベクトルに縮退させる。この過程は、データに意味を与える構造情報を破壊し、後続のモデルに高い計算コストをかけてこの構造を暗黙的に復元させることを強いる。

等変ニューラルネットワーク（ENN）は、特定のアーキテクチャ制約（回転等変層など）を設計することで対称性の取り込みを成功させてきたが、重大な限界に直面している：

1. 組み合わせ的複雑性: 複数の対称性が共存する場合、ネットワークアーキテクチャは、各新しい組み合わせに対してゼロから再設計されなければならない。
2. 最適性の欠如: 圧縮や近似に用いられる既存のテンソル分解法（Tucker、CP、Tensor-Train）は、大域的最適性の保証がないか、計算が NP 困難である。
3. 解釈性: ENN はブラックボックスとして動作する。これらは予測を特定の対称性チャネル（既約表現）に閉形式で分解するものではない。
4. 発見: 現在のフレームワークは、データのみからデータセットの基礎となる対称性群を発見することができない。群は手動で指定されなければならない。

手法：$\star_G$ テンソル代数

著者らは、対称性に適合するようにアーキテクチャを制約するのではなく、データの幾何学に適合するように数学を変更するパラダイムシフトを提案する。彼らは、有限群 $G$ が乗法規則を定義する$\star_G$ テンソル代数を導入し、等変性をアーキテクチャ制約ではなく、本質的な代数特性とする。

中核的構成要素

1. 代数的定義:

   • 位数 $n$ の有限群 $G$ に対して、畳み込みテンソル $T \in \mathbb{R}^{n \times n \times n}$ は、群乗法表に基づいて定義される（$ab=c$なら$T(a,b,c) = 1$、そうでなければ 0）。
   • 2 つのテンソルの$\star_G$ 積は、群次元に沿った群畳み込みを通じて定義される。この積は古典的な行列代数を一般化し、対称性群を乗法的構造に直接埋め込む。
   • この代数は、等変性を本質的に保持する標準的な行列模倣演算（逆行列、転置、ノルム）をサポートする。

2. スペクトル分解（Peter-Weyl 定理）:

   • 畳み込みテンソルは、スペクトル分解 $T(a,b,c) = \sum C(i,j,k) F_G(a,i) F_G(b,j) F_G^{-1}(c,k)$ を許容する。ここで、$F_G$ は $G$ の既約ユニタリ表現（irreps）から構築された一般化された群フーリエ変換行列である。
   • フーリエ領域において、群畳み込みはブロック対角行列乗法となり、効率的な計算を可能にする：フーリエ領域へ変換 $\to$ 各 irrep における並列行列積 $\to$ 逆変換。

3. $\star_G$-SVD と最適性:

   • この代数内のすべてのテンソルは、特異値分解（SVD）$A = U \star_G S \star_G V^H$ を許容する。
   • 定理 2.1（$\star_G$ に対する Eckart–Young）: ランク $k$ の切り捨て $A_k$ は、$\star_G$-ランクが最大 $k$ であるすべてのテンソル $B$ に対して、フロベニウスノルム誤差 $\|A - B\|_F$ を最小化する。これは、対称性を保存するテンソル近似に対する最初の証明可能な最適性保証を提供する。
   • Tucker（$\sqrt{d}$ 因子を伴う準最適）、CP（NP 困難）、または Tensor-Train（大域的最適性なし）とは異なり、$\star_G$-SVD は正確であり、多項式時間である。

4. 対称性の合成:

   • 定理 2.2（積群）: 積群 $G = G_1 \times \dots \times G_d$ に対して、畳み込みテンソルとフーリエ行列は、クロネッカー積として因数分解される（$T_G = T_{G_1} \otimes \dots \otimes T_{G_d}$）。これにより、フーリエ変換行列を更新するだけで、アーキテクチャの再設計なしに複数の対称性を合成できる。

主要な貢献

1. 証明可能な最適圧縮: 本論文は、対称性を保存するテンソル近似に対する最初の Eckart–Young 最適性保証を確立し、閉形式の誤差境界を伴う原理的なランク選択を可能にする。
2. 機械検証された等変性: 中核的な代数結果（結合律、分配律、SVD の最適性、積群の合成）は、未解決の証明義務がゼロのLean 4（600 行のコード）で形式化され、数学的正確性の証明書を提供する。
3. データ駆動型の対称性発見: このフレームワークは、事前知識なしに、データから最適な対称性群とその因数分解構造を直接発見することを可能にする。
4. irrep ごとの解釈性: 代数的分解により、予測能力を既約表現チャネルごとに閉形式で分解することが可能となり、物理的観測量の対称性内容を明らかにする。

実験結果

1. 合成データによる検証

正確な $Z_{12}$ 回転対称性を持つ合成データにおいて：

• $\star_G$-SVD + リッジ回帰は、わずか101 パラメータを使用して、完全な予測（$R^2 = 1.000$）と正確な不変性（回転分散 $\approx 10^{-31}$）を達成した。
• ニューラルベースライン（標準 MLP、拡張 MLP、不変 MLP）は 5,000〜14,000 パラメータを必要とし、精度が低く、回転分散が著しく高かった（拡張 MLP で最大 $10^{-5}$）。

2. QM9 分子物性予測

QM9 ベンチマーク（130,831 分子）において HOMO–LUMO ギャップを予測：

• $\star_G$-SVD + リッジは、わずか107 パラメータで $R^2 = 0.556$ を達成し、パラメータ効率の面でニューラルベースラインを上回った。
• 標準 MLP と不変 MLP は、小サンプルサイズ（1,000 分子）で崩壊（$R^2 < 0$）したが、$\star_G$ は 100 分子からでも正の $R^2$ を維持した。
• 異性体内分析: 分子サイズ（QM9 における主要な交絡因子）を統制した場合、$\star_G$ と MLP の間の性能差は消滅した。これは、大規模モデルのプールされた $R^2$ の優位性が、優れた化学学習ではなく、主にサイズ予測に起因することを示している。

3. 積群の合成

2 つの可換対称性（$Z_6 \times Z_4$）を持つタスクにおいて：

• 積群モデルは、186 パラメータで完全な予測（$R^2 = 1.000$）を達成した。
• 単一因子モデル（$Z_6$ または $Z_4$ のみ）は、分散の $\le 23\%$ しか捉えられなかった。
• 単純な巡回近似（$Z_{24}$）は $R^2 = 0.986$ を達成したが、積構造が一意に捉える結合周波数モードを解明できなかった。

4. 対称性と因数分解の発見

• 群の発見: QM9 データ上の候補群をスキャンした結果、結晶学的入力なしに、多くの有機分子の $C_4$ 回転対称性と一致する $Z_4$ が最良の適合として特定された。
• 因数分解の発見: 24 要素群のデータに対して、アルゴリズムは $Z_3 \times Z_8$ を最適な分解として特定し（$R^2 = 1.000$）、巡回群 $Z_{24}$（$R^2 = 0.985$）を上回り、潜在的な積構造を明らかにした。

5. ウィグナー・エッカート選択則の実証的回復

キラル正八面体群（$O$）上で分子幾何学を分解：

• スカラー特性（HOMO-LUMO ギャップなど）は、$A_1$ ($l=0$) チャネルによって支配された。
• ベクトル成分（双極子モーメントなど）は、$T_1$ ($l=1$) チャネルによって支配され、スカラーに対する $T_1/A_1$ の予測力比率は $\sim 2.8$ だった（スカラーでは $\sim 0.5$）。
• ランク 2 テンソル（等方性分極率）は、$l=1$ チャネルへの依存度がほぼゼロであり、理論的分解 $l=0 \oplus l=2$ と一致した。
• これらの物理的選択則は、量子力学的入力なしにデータのみから回復された。

6. 等変ニューラルネットワーク（ENN）との比較

• プールされた $R^2$: 最先端の ENN（MACE、SchNet）は QM9 上でより高いプールされた $R^2$ を達成するが、$\sim 10^6$ パラメータを必要とし、完全な原子グラフを消費する。
• 入力契約: $\star_G$ は分子レベルの要約上で動作する。同じ分子レベル入力を使用する MLP と比較した場合、$\star_G$ は桁違いに少ないパラメータで競争力があるか、優れている。
• 交差選択性: 分極率成分において、単一 irrep（$E$ または $T_2$）に制限された $\star_G$ モデルは、$\sim 96\%$ の交差選択性（一方の成分を予測し他方を無視する）を達成したが、ENN は両方の成分を対称的に扱い（選択性 $< 1\%$）、$\star_G$ が表現論的構造を解きほぐす独自の能力を実証した。

意義と主張

本論文は、$\star_G$ フレームワークが単に ENN に対する「より速く、より良く、より安価な」代替手段ではなく、異なる数学的 affordanceを提供すると主張する。その意義は以下の点にある：

1. 証明可能な最適な対称性保存圧縮: 対称性を意識したテンソル近似に対する最初の大域的最適性保証を提供する。
2. 機械検証された等変性: 形式的検証を通じて数学的正確性を保証する。
3. irrep ごとの解釈性: 物理的観測量の基礎となる対称性構造を明らかにする、予測の閉形式分解を提供する。
4. データ駆動型の物理的発見: 物理法則（ウィグナー・エッカート選択則など）や対称性群を、経験的データから直接回復することを可能にする。

著者らは、データが不足している科学的設定において、代数的構造はアーキテクチャの表現力よりも強力な帰納的バイアスとして機能し、深い代数がビッグデータアプローチを上回ることを可能にすると結論付けている。