Existence and non-existence of nonradial solutions to an elliptic equation on hyperbolic space with critical and subcritical nonlinearities

技术摘要：双曲空间上椭圆方程非径向解的存在性与不存在性

问题陈述
本文研究了 $N$ 维双曲空间 $\mathbb{B}^N$（以庞卡莱球模型表示）上的半线性椭圆方程：
$$-\Delta_{\mathbb{B}^N} u - \lambda u = |u|^{p-1}u, \quad u \in H^1(\mathbb{B}^N),$$
其中 $N \geq 3$，$\lambda > \frac{N(N-2)}{4}$，且 $1 < p \leq 2^* - 1$（此处 $2^* = \frac{2N}{N-2}$ 为临界 Sobolev 指数）。本研究探讨了两个主要问题：

1. 存在性： 在临界情况（$p = 2^* - 1$）且谱参数 $\lambda$ 位于范围 $\frac{N(N-2)}{4} < \lambda < \lambda_1$ 内时，该方程是否存在非径向、变号解？（其中 $\lambda_1 = \frac{(N-1)^2}{4}$ 是 $-\Delta_{\mathbb{B}^N}$ 的 $L^2$ 谱底）。
2. 不存在性： 在特定的对称约束下，能否针对谱值 $\lambda > \lambda_1$ 建立非平凡解的不存在性？

方法论
作者结合了变分法、共形几何、群论和谱分析。

• 共形变换： 将双曲空间上的问题转化为单位球 $B \subset \mathbb{R}^N$ 上的加权欧几里得狄利克雷问题。利用共形因子 $h(x) = \frac{2}{1-|x|^2}$，将方程 $(Eq_\lambda)$ 映射为：
  $$-\Delta v - \tilde{\lambda} h^2 v = |v|^{2^*-2}v, \quad v \in H^1_0(B),$$
  其中 $\tilde{\lambda} = \lambda - \frac{N(N-2)}{4}$。这使得应用欧几里得变分技术成为可能。

• 对称性与等变子空间： 为了构造非径向解，作者将变分问题限制在 $H^1_0(B)$ 的 $\phi$-等变子空间中。他们利用一个闭子群 $\Gamma \subset O(N)$ 和同态 $\phi: \Gamma \to \mathbb{Z}_2$。属于这些子空间的函数满足 $u(gx) = \phi(g)u(x)$，从而强制了符号改变并打破了径向对称性。这类等变子空间的存在性依赖于基于分解 $N = 4n + m$ 构建 $n$ 个互不相交的截然不同的等变子空间。

• 存在性证明（临界情况）：

  • 作者定义了一个等变 Sobolev 商 $S_\phi$，并将其与相应的欧几里得商 $S_\phi^\infty$ 进行比较。
  • 通过构造一个基于 Aubin-Talenti 泡状函数（即欧几里得临界方程的解）的测试函数，并利用这些泡状函数改进后的衰减估计（通过 Kelvin 变换和等变性导出），他们证明了严格不等式 $S_\phi < S_\phi^\infty$ 成立。
  • 该严格不等式结合集中紧性原理以及群作用的固定点集仅为原点这一事实，确保了极小化序列的紧性，从而产生一个非平凡极小值。

• 不存在性证明 ($\lambda > \lambda_1$)：

  • 对于 $\lambda > \lambda_1$，该方程被视为一种类似于 Schrödinger 的特征值问题 $-(\Delta_{\mathbb{B}^N} + V)u = \lambda u$，其中势函数 $V = -|u|^{p-1}$。
  • 作者引用了 Borthwick 和 Marzuola 的结果：如果势函数 $V$ 衰减足够快（$V = o(\rho^{-1})$），则不存在 $\lambda > \lambda_1$ 的 $L^2$ 特征函数。
  • 为了验证变号解的这种衰减条件，作者引入了定量轨道填充 (Quantitative Orbit Packing, QOP) 条件。该条件衡量了在单位球面上，一个子群 $\Gamma$ 的轨道中可以填充多少个点。
  • 他们证明，如果 $|u|$ 是 $\Gamma$-不变的，且 $\Gamma$ 满足 (QOP) 条件，那么解 $u$ 的衰减速率必须足以满足不存在性定理的假设，从而迫使 $u \equiv 0$。

主要贡献与结果

1. 非径向变号解的存在性 (Theorem 1.1)：
   对于维度 $N = 4n + m$（$n \geq 1, m \in \{0,1,2,3\}$）以及参数 $\frac{N(N-2)}{4} < \lambda < \frac{(N-1)^2}{4}$ 且临界指数 $p = 2^* - 1$ 的情况，该方程至少存在 $n$ 个不同的非径向变号解。这一结果扩展了以往关于径向解的研究，并改进了低维情况下的多重性结果。

2. 对称性限制下的不存在性 (Theorem 1.2)：
   对于 $\lambda > \lambda_1$ 且 $1 < p \leq 2^* - 1$，若解 $u$ 满足 $|u| \in H^1(\mathbb{B}^N)$，且在满足 (QOP) 条件的子群 $\Gamma \subset O(N)$ 下是不变的，则 $u \equiv 0$。

   • 该结果将已知的关于径向解的不存在性定理推广到了广泛的非径向对称解类。
   • 它识别了能够保证不存在性的特定群结构（例如正交群的乘积），同时也指出具有有限轨道的群并不满足必要的填充条件。

意义与主张
本文声称是首个针对临界双曲设置中这些特定方向（即非径向变号解）以及基于对称性的 $\lambda > \lambda_1$ 不存在性进行研究的文献。

• 对现有文献的改进： 存在性结果改进了 Mancini、Sandeep 等人的先前发现，他们建立了正径向解或在不同约束下的径向变号解的存在性。本工作专门针对临界情况下的非径向且变号的情形。
• 新颖的非存在性机制： 不存在性结果具有重要意义，因为它超越了标准的 Pohozaev 恒等式（由于零点集的缘故，该恒等式对变号解失效）和比较原理。相反，它利用谱理论和一种几何上的“轨道填充”条件来导出衰减估计，从而证明了一大类对称函数的不存在性，其中包括一个无限维的非径向函数子空间。

作者保持了谦逊的语气，将他们的工作定位为在特定的谱范围内建立存在性和多重性，并提供一个取决于对称群几何性质的局部不存在性结果，而非声称完成了对所有可能解的分类。