Invariant theory for non-reductive actions: extensions of Hilbert and Schwarz theorems

技术摘要：非约化作用的不变量理论

问题陈述
经典不变量理论建立在希尔伯特（Hilbert）、外尔（Weyl）和施瓦茨（Schwarz）的工作基础之上，确立了紧致和约化李群的代数（多项式）不变量与分析（光滑）不变量之间的稳健对应关系。具体而言，希尔伯特 - 外尔定理保证了多项式不变量环的有限生成性，而施瓦茨定理则确保了光滑不变量代数由这些多项式不变量生成。然而，已知这种对应关系在非约化群中会失效。本文研究了这种分歧在两个截然不同的非紧致、非约化情形中的具体性质：

1. 洛伦兹群 $O(n, 1)$ 的离散子群作用在闵可夫斯基空间 $\mathbb{R}^{n,1}$ 上。
2. 离散群在 $\mathbb{R}^n$（或光滑流形）上的余紧作用。

核心问题在于：在这些设定下，经典定理（希尔伯特 - 外尔定理和施瓦茨定理）是持续有效、失效还是发生了转化？当紧致性和约化性丧失时，代数结构与光滑结构之间的关系如何发生偏移？

方法论
本文结合了代数不变量理论、微分几何以及轨道空间的拓扑分析。

• 代数分析：作者利用洛伦兹群元素的块对角结构，将作用分解为正交（紧致）部分和双曲（非紧致）部分。这使得能够应用乘积作用引理来确定多项式不变量的希尔伯特基。
• 几何与拓扑分析：对光滑不变量的研究依赖于分析轨道空间 $\mathbb{R}^{n,1}/\Gamma$ 的拓扑性质。作者考察了诸如轨道分离性、希尔伯特映射的固有性（properness）以及商空间的豪斯多夫性质等属性。
• 反例构造：为了在洛伦兹情形下证伪施瓦茨性质，本文构造了特定的光滑不变函数，这些函数无法表示为多项式不变量的函数，利用光锥坐标来 exploit 轨道的连通性断裂特性。
• 流形理论：对于余紧作用，本文利用了商空间是紧致光滑流形这一事实。应用惠特尼嵌入定理（Whitney Embedding Theorem）和管状邻域定理（Tubular Neighborhood Theorem）来构造不变代数的光滑生成元，从而完全绕过多项式范畴。

主要贡献与结果

1. 洛伦兹情形：多项式生成与光滑失效

• 定理 A（多项式生成）：对于由共轭于块形式 $L_{\alpha, \beta}$（结合欧几里得旋转 $R_\alpha$ 和双曲 boost $H_\beta$）的矩阵生成的离散子群 $\Gamma \subset O(n, 1)$，多项式不变量环 $P(\mathbb{R}^{n,1})^\Gamma$ 是有限生成的。希尔伯特基是欧几里得部分的基与双曲部分的二次型 $x^2 - y^2$ 的并集。这提供了一类非约化群，其中希尔伯特第 14 问题给出了肯定答案。
• 命题 4.1（施瓦茨定理的失效）：尽管多项式具有有限生成性，但经典的施瓦茨定理失效。光滑不变量代数 $E(\mathbb{R}^{n,1})^\Gamma$ 不是由多项式不变量生成的。
  • 机制：失效的原因在于多项式不变量无法分离轨道。在闵可夫斯基空间中，不变二次型 $x^2 - y^2 = c$（对于 $c > 0$）的水平集由两个不相连的分支（未来光锥和过去光锥）组成。群作用保持这些分支，但多项式不变量将两者映射为相同的值。因此，可以构造区分这些分支的光滑函数（例如，仅在右分支非零的函数），这些函数是不变的，但不是多项式生成元的函数。
  • 障碍：本文指出了该情形下施瓦茨定理失效的三个具体障碍：(i) 多项式不变量不足以分离轨道；(ii) 轨道分离的失败导致商空间非豪斯多夫；(iii) 缺乏平均算子（哈尔测度）以及希尔伯特映射的非固有性。

2. 余紧情形：多项式平凡化与光滑生成

• 定理 B（多项式坍缩）：对于在 $\mathbb{R}^n$ 上自由、固有且余紧作用的离散群 $\Gamma$，多项式不变量代数是平凡的（即仅由常数组成）。
  • 理由：$\mathbb{R}^n$ 上的任何非常数多项式都是无界的。然而，余紧作用意味着商空间是紧致的，迫使任何不变函数必须有界。因此，不存在非常数多项式不变量。
• 定理 C（光滑生成）：与代数坍缩相反，光滑不变量代数 $E(M)^\Gamma$ 是有限生成的且结构丰富。
  • 结果：流形 $M$ 上的光滑不变量与紧致商空间 $M/\Gamma$ 上的光滑函数之间存在拓扑同构。此外，存在有限个光滑不变量 $\sigma_1, \dots, \sigma_m$，使得每个光滑不变量都是这些生成元的光滑函数。这即使在多项式范畴退化的情况下，也为光滑范畴建立了一个“施瓦茨型”定理。

综合与分类
本文将这些发现综合为不变量理论情形的四类划分（表 1）：

1. 紧致群：多项式不变量有限生成；光滑不变量由多项式生成（希尔伯特 - 外尔 + 施瓦茨）。
2. 约化群：多项式不变量有限生成；光滑不变量由多项式生成（Luna）。
3. 余紧作用：多项式不变量平凡；光滑不变量由光滑函数有限生成（定理 B 和 C）。
4. 离散洛伦兹作用：多项式不变量有限生成；光滑不变量不是由多项式生成（定理 A + 命题 4.1）。

意义与主张
本文声称界定了希尔伯特 - 外尔定理和施瓦茨定理的边界，证明了代数描述与分析描述在对称性上的对齐并非不变量理论的通用特征，而是高度依赖于特定的结构性质：

• 固有性与紧致性：施瓦茨性质（由多项式生成光滑不变量）的有效性取决于作用的固有性以及分离轨道的能力，这在洛伦兹情形下由于拓扑病理（非豪斯多夫商空间）而失效。
• 代数与分析的解耦：结果表明，一个方面的失效（例如，余紧情形下的多项式生成，或洛伦兹情形下由多项式生成的光滑不变量）并不意味着结构的完全缺失。相反，结构可能存在于商流形的几何中（余紧情形）或轨道空间的代数性质中（洛伦兹情形）。
• 希尔伯特第 14 问题的扩展：这项工作有助于将希尔伯特第 14 问题扩展到光滑范畴，表明几何不变量理论（GIT）意义下的范畴商的存在性，并不能保证在丧失固有性时存在行为良好的分析商。

本文得出结论：“施瓦茨性质”不仅仅是有限生成的结果，而是需要平均算子或固有作用等机制，而这些机制在所研究的非约化情形中是缺失的。该框架为研究其他非约化设定以及理解等变对称性约化的极限提供了基础。