Bi-Lipschitz Ansatz for Anti-Symmetric Functions

技术摘要：反对称函数的 Bi-Lipschitz 拟设

问题陈述
本文探讨了构建反对称函数神经网络拟设（ansatzes）的挑战，这是模拟量子多体系统（特别是遵循泡利不相容原理、要求总波函数具有反对称性的费米子波函数）的核心需求。现有方法面临显著局限性：

• Backflow 拟设： 虽然具有通用性，但通常需要指数级的行列式数量才能达到多项式级别的近似精度，或者会导致模型不连续，从而在算法中难以应用。
• 近期的连续模型： 如 [CL26] 和 [YLG+24] 中的方法，通过结合对称函数和范德蒙德行列式来实现连续性并保持多项式复杂度。然而，这些模型存在数值不稳定性（缩放问题），且当为了修复稳定性进行归一化时，会失去连续性。
• 差距： 目前需要一种既能保证连续性、通过构造实现反对称性、具备计算效率（多项式复杂度），又能提供定量通用近似保证的拟设。

方法论
作者提出了两种不同的框架来实现上述目标：

1. Bi-Lipschitz 嵌入方法
该方法利用了反对称函数与在交错群 $A_n$（符号为正的置换）下保持不变的函数之间的关系。

• 核心概念： 构建一个从商空间 $\mathbb{R}^{d \times n} / A_n$ 到欧几里得空间 $\mathbb{R}^m$ 的 bi-lipschitz 嵌入 $\mu$。
• 构造方式：
  • 对于 $d=1$，作者通过排序（$\text{sort}(x)$）以及基于排序元素间最小距离及其符号的反对称函数 $Q(x)$ 来定义一个对称 bi-lipschitz 函数。
  • 对于 $d > 1$，他们对输入进行线性投影，并聚合 $d=1$ 的嵌入结果。
  • 一个简单的投影算子 $\pi[f](x) = \frac{1}{2}(f(x) - f(\tau_0 x))$（其中 $\tau_0$ 是一个负置换）可以将一个 $A_n$-不变函数转换为反对称函数。
• 近似： 反对称函数被近似为 $\pi \circ f \circ \mu$，其中 $f$ 是标准的逐层感知机（MLP）。
• 理论保证： Bi-lipschitz 性质确保了反对称函数的近似误差受限于底层不变函数的近似误差，从而为 Lipschitz 函数提供了定量的速率。

2. 反对称框架平均法
该方法推广了群平均的概念，以避免对所有 $n!$ 个置换进行求和带来的阶乘级复杂度。

• 核心概念： 利用“框架平均”（frame averaging），即在群的一个子集（框架）上进行平均，而非整个群。
• 连续性挑战： 标准的框架平均法通常在坐标重合的点（奇异集 $\Omega_{d \times n}$）处无法保持连续性。
• 解决方案：
  • 作者基于输入在特定向量上的投影定义了一个加权置换框架，其分配的权重在置换定义失效时趋于零。
  • 他们引入了一个弱稳定（WS）算子 $\Phi$。该算子修改输入函数，以确保当点接近奇异集 $\Omega_{d \times n}$ 时，函数值平滑过渡到零（符合反对称函数在坐标重合时必须为零的性质）。
  • 最终的拟设是一个平均投影：$E[f](x) = \sum w_i(x) (-1)^{\tau_i} \Phi[f](\tau_i^{-1} x)$。
• 复杂度： 该方法需要对 $O(n^3)$ 个置换进行平均（具体为 $O(n)$ 个框架元素与 $O(n^2)$ 个对换的复合），相比全群平均显著降低了复杂度。

主要贡献

1. 两种新型拟设： 引入了 bi-lipschitz 嵌入法和加权框架平均法，两者均通过构造实现了连续性和反对称性。
2. 定量近似速率： 本文推导了近似 Lipschitz 反对称函数至精度 $\epsilon$ 所需参数量的显式界限。对于 bi-lipschitz 方法，其复杂度为 $O(\epsilon^{-nd/2} |\log \epsilon|)$，与标准 ReLU 网络对 Lipschitz 函数的近似速率相当。
3. 连续性与稳定性： 不同于以往需要通过归一化来破坏连续性或存在缩放不稳定性的连续模型，这些模型无需人工干预即可保持连续性和稳定性。
4. 理论证明： 作者证明了其通用性，并提供了关于 bi-lipschitz 畸变以及框架平均算子有界性的界限。

实验结果
作者进行了初步实验，旨在近似阶数为 $n \in \{10, 15, 20\}$ 的矩阵行列式函数 $f(A) = \det(A)$。

• 对比： 他们将这两种方法与标准 MLP（未强制执行反对称性）以及来自 [YLG+24] 的基于范德蒙德的方法进行了比较。
• 表现：
  • 精度： 两种提出的方法在较大的 $n$ 值下，均取得了比竞争模型更低的平均绝对误差（MAE）和平均绝对相对误差（MARE）。
  • 收敛性： 提出的方法在训练过程中表现出显著更快的收敛速度。
  • 参数效率： 在保持或提高精度的同时，所提出的拟设比 [YLG+24] 的方法所需的参数更少。
  • MLP 基准： 标准 MLP 在较大 $n$（如 $n=20$）时表现较差，凸显了显式强制执行反对称性的必要性。

意义与主张
本文声称解决了反对称神经网络拟设在计算效率、连续性和通用性之间的权衡问题。通过证明反对称函数可以在保持连续性的同时，以多项式复杂度及定量速率进行近似，这项工作为模拟量子多体系统提供了理论完备且在实践中可行的基础。作者强调，其 bi-lipschitz 构造有望带来更好的泛化能力和学习稳定性，而框架平均法则为实现可扩展的全群对称化提供了另一种选择。初步实验证据支持了其理论优势，显示出在学习反对称函数方面，其性能优于现有的最先进方法。