Numerical exploration of the range of shape functionals using neural networks

技术摘要：利用神经网络数值探索形状泛函的取值范围

问题陈述
本文探讨了 Blaschke–Santaló 图的数值探索，这些图是向量值形状泛函取值范围的几何表示。这些图刻画了在特定集合类（通常是凸体）中，指定形状泛函（如体积、周长、特征值）之间可能存在的各种不等式关系。虽然针对纯几何泛函的理论结果已经存在，但对于涉及谱量或偏微分方程（PDE）相关量的图，获取其显式描述或定性性质仍然极具挑战性。先前的数值方法，例如对凸多边形进行随机采样或依赖 Voronoi tessellation 的方法，存在采样不均匀、无法捕捉边界极值，或依赖于难以在一般情形下确立的图凸性先验知识（例如垂直凸性）等问题。

方法论
作者提出了一种新颖的数值框架，将用于形状参数化的特定神经网络架构与用于均匀采样的相互作用粒子系统相结合。

1. 可逆神经网络参数化：

   • 次线性架构： 该方法将 $\mathbb{R}^d$ 中的凸体参数化为单位球 $B$ 在同胚映射 $\phi_\theta$ 下的像。该映射利用由神经网络表示的 gauge 函数 $p_\theta$ 构建。
   • 凸性保持： 为确保生成的集合内在具有凸性，网络架构被设计为满足次线性约束。具体而言，gauge 函数定义为 $p_\theta(x) = \beta \|x\| \text{LSE}(W^T x / \|x\|)$，其中 LSE 是 LogSumExp 函数。这种对线性形式最大值的平滑近似保证了 $p_\theta$ 是连续的、次线性的，并且在原点之外是 $C^\infty$ 的。
   • 通用近似： 作者依赖一个“通用近似定理”（在先前工作 [44] 中证明），该定理指出由该架构表示的凸体集合在 Hausdorff 距离意义下在所有凸体空间中是稠密的。
   • 对称性编码： 该框架允许通过对有限等距群上的 gauge 函数进行平均来施加对称性（例如反射对称性），从而确保生成的形状在该群下保持不变。

2. 通过相互作用粒子进行均匀采样：

   • 为了在 Blaschke–Santaló 图中生成均匀分布的点，作者最小化了一个 Riesz 能量泛函。这被表述为一个优化问题，其中 $N$ 个形状 $\Omega_1, \dots, \Omega_N$ 被优化以最大化它们在泛函空间中的成对距离：
     $$\min_{\theta_1, \dots, \theta_N} \sum_{1 \le i \neq j \le N} |F(\Omega_{\theta_i}) - F(\Omega_{\theta_j})|^{-s}$$
   • 该方法的动机源于“罂粟籽百吉饼定理”（Poppy-seed Bagel Theorem），该定理保证随着 $N$ 的增加，最小化此类能量会导致流形上的均匀分布。
   • 优化过程使用 PyTorch 中的自动微分（通过 l-BFGS）执行，允许梯度流经整个计算图，包括 PDE 的求解和积分评估。

3. 形状泛函的计算：

   • 积分量： 体积、周长和转动惯量是通过利用涉及神经网络映射雅可比行列式的变量替换公式，将积分从形状域 $\Omega_\theta$ 拉回参考单位球 $B$ 来计算的。
   • PDE 相关量：
     • 扭转刚度： 使用基本解法（MFS）求解，其中解由基本解的线性组合近似。边界条件通过最小二乘法拟合，该过程在 PyTorch 中完全可微。
     • Neumann 特征值： 使用无网格 RBF-Galerkin 方法计算。弱形式被拉回参考域，使用径向基函数离散化，并作为广义特征值问题求解。为了实现微分，通过质量矩阵的 Cholesky 分解将问题转换为标准特征值问题。
   • 正则化： 为了防止优化过程坍缩为平坦的退化形状（这会导致数值不稳定），在损失函数中添加了基于雅可比行列式条件数的正则化项。

主要贡献

• 无约束凸优化： 引入了一种光滑、可逆的神经网络参数化方法，该方法内在保持凸性，无需显式的不等式约束或惩罚项。
• 图的均匀采样： 应用相互作用粒子系统来最小化 Riesz 能量，提供了一种无需依赖关于图凸性性质的先验知识即可均匀采样 Blaschke–Santaló 图的方法。
• 可微 PDE 求解器： 成功将自动微分与无网格方法（MFS 和 RBF-Galerkin）集成，以计算并关于形状参数对谱和扭转泛函进行微分。
• 开源实现： 发布了全面的 PyTorch 包（ConvexShapeOpt）和笔记本，以促进可复现性。

结果
该方法在 $\mathbb{R}^2$ 和 $\mathbb{R}^3$ 中的各种图上进行了测试，证明了其在几何和基于 PDE 的泛函方面的有效性：

• 几何图（体积、周长、转动惯量）： 该方法成功恢复了 2D 和 3D 中一般及对称凸体的已知理论界限和极值形状（如体育场形、三角形、菱形）。
• 扭转刚度图： 该方法准确映射了体积、周长和扭转刚度之间的关系，恢复了已知不等式（如 Saint-Venant、Polya、Makai 不等式）并可视化了相应的最优形状。
• 谱图（体积、前两个 Neumann 特征值）： 该方法探索了 $\mu_1$ 和 $\mu_2$ 的图。虽然它恢复了定义域的一般形状，但作者指出，由于与特征值组装的微分相关的内存限制，上边界的精度存在局限性。
• Willmore 能量图： 该框架成功处理了高阶边界项，可视化了平面和 3D 凸集体中体积、周长与 Willmore 能量之间的权衡。
• 比较： 与凸多边形的朴素随机采样相比，所提出的方法能够捕捉到随机采样遗漏的图区域，特别是在边界附近。

意义与主张
本文声称提供了一种“新颖的数值框架”，通过提供一种“完全无约束”的形状优化方法，克服了先前方法的局限性。其意义在于：

1. 灵活性： 能够在单一、统一的微分框架内处理多样化的泛函（几何、谱、基于 PDE 的）。
2. 鲁棒性： 该方法提供了 2D 和 3D 中图的“令人满意的描述”，无需关于图几何形状（如垂直凸性）的先验假设。
3. 可扩展性： 虽然由于求积要求，3D 中的计算成本会增加，但该方法仍然稳健，并且与 2D 相比不需要额外的实现复杂性。
4. 可及性： 通过利用 PyTorch 的自动微分，该框架降低了探索新泛函的门槛，并向研究界开放。

作者在局限性方面保持了谦逊的态度，承认该方法的内存效率受到构建高精度微分所需计算图大小的限制，特别是在谱问题中。他们还指出，虽然 gauge 函数参数化非常强大，但它使得某些几何量（如最小宽度）比使用支撑函数更难计算，尽管两者在理论上是可互换的。