On the Equivariant Learning of the $Q$-tensor Order Parameter

技术摘要：关于 Q 张量序参量的等变学习

问题陈述
本文探讨了从微观织构图像预测向列相液晶二维 Q 张量序参量的挑战。尽管机器学习已应用于液晶问题——从预测清亮点温度到通过偏振光学显微镜（POM）织构对相进行分类——但现有方法通常将潜在的物理对称性视为次要因素。具体而言，Q 张量序参量本质上是旋转等变的：分子构型的旋转会导致 Q 张量发生相应的共轭变换。标准神经网络并不天然具备这一属性，往往需要数据增强来近似实现，但这可能无法保证对未见过的缺陷构型或对称性变换的泛化能力。

方法论
作者构建并评估了七个群等变神经网络（ENNs），旨在从合成微观织构中预测 Q 张量分量（$Q_{11}, Q_{12}$）。该方法依赖于将循环群 $C_k$（其中 $k = 4, 8, 16, 32, 64, 128, 256$）的旋转对称性直接嵌入网络架构中。

1. 架构：模型采用三层前馈结构。输入由代表向列相分子的椭圆形颗粒的二值图像按行向量化组成。
2. 等变表示：
   • 类旋转置换（$\varrho_{C_k}$）：对于输入层和第一个隐藏层，作者构建了特定的置换矩阵，作为正方形图像内圆形子域的近似旋转。这些矩阵置换像素索引以模拟 $2\pi/k$ 的旋转。
   • 正则表示（$\rho_{C_k}$）：后续层利用标准循环移位矩阵（正则表示）以在整个网络中保持等变性。
3. 权重约束：为了强制等变性，权重矩阵（$W_1, W_2, W_3$）受到约束，使其交织输入和输出群表示（$\rho_{out}W = W\rho_{in}$）。这将轨道间的参数关联起来，与无约束网络相比显著减少了可训练参数的数量。
4. 等变激活与正则化：
   • 激活函数：标准激活函数（如 ReLU）可能会破坏等变性。作者在隐藏层采用高斯误差线性单元（GELU），该函数在置换表示下保持等变性。最终激活函数是一个自定义的基于范数的函数，旨在将输出映射到正确的等变变换空间。
   • 正则化：标准的批归一化（Batch Normalization）和 Dropout 通过独立处理特征破坏了等变性。作者引入了轨道批归一化（OrbitBN）和轨道 Dropout（OrbitDropout），它们在整个轨道（由群作用关联的特征集合）上计算统计量并应用掩码，而不是针对单个特征，从而确保正则化过程尊重对称性。
5. 数据生成：训练数据集由 50,000 张合成生成的硬椭圆图像组成，这些椭圆被限制在圆形或正方形域内。真实的 Q 张量是使用标准定义从离散分子取向解析计算得出的，从而确保了标签的精确性。

主要贡献

• $C_k$ 等变网络的构建：本文提出了一种新颖的神经网络构建方法，该网络对用于预测 Q 张量的循环群 $C_k$ 具有精确的等变性。这包括为正方形图像开发类旋转置换矩阵，以及将正则化技术（OrbitBN、OrbitDropout）适配到等变设置中。
• 精确等变性验证：作者证明，其构建的模型满足 Q 张量等变约束，精度达到单精度浮点水平，而即使采用数据增强，非等变基准模型也无法实现这一属性。
• 系统评估：本研究系统地将七种等变模型（变化群阶数 $k$）与参数匹配的非等变基准模型（含和不含数据增强）进行了比较。

结果

• 性能：与非等变基准相比，等变模型始终实现更低的均方根误差（RMSE）。例如，$C_{256}$ 模型的 RMSE 约为 0.045，而采用数据增强的最佳非等变模型（$MLPC_{128}$）产生的 RMSE 约为 0.08。
• 泛化能力：当在训练集中未出现的“刺猬”缺陷织构（点缺陷）上进行测试时，等变模型表现出卓越的鲁棒性。虽然非等变模型在这些未见过的构型上表现显著不佳，但等变模型能有效泛化，误差保持在较低水平。
• 群阶依赖性：性能通常随循环群阶数（$k$）的增加而提升，表明纳入更精细的旋转对称性可降低预测误差。
• 参数效率：尽管由于权重共享导致可训练参数较少，但等变模型往往优于参数多得多的非等变模型。

意义与主张
本文主张，将已知的物理偏差（特别是旋转等变性）直接编码到神经网络架构中，比通过数据增强手动学习这些约束更为有效。作者认为，虽然数据增强可以提升性能，但它无法保证数学上的等变性，而这对于鲁棒地泛化到新的对称性变换或缺陷构型是必需的。

该工作突出了群等变网络在材料科学中的实际优势，特别是用于分析向列相液晶。作者指出了局限性，包括使用合成训练数据以及仅限于二维系统，但结论是，他们的方法提供了一种数学严谨且实证优越的从微观织构预测序参量的方法。代码和数据集已公开，以促进该领域的进一步研究。