技术摘要：分布统计模型中的横截性与几何正则化

1. 问题陈述

经典统计方法在概率密度定义不明确、具有重尾或矩不定（例如对数正态分布、柯西分布，或仅通过特征函数定义的模型）的模型中往往失效。在这些设定下，可识别性、费雪信息量和基于似然的推断等基本概念变得不稳定或无定义。具体而言：

• 矩不定性：经典矩可能无法唯一确定一个分布。
• 信息奇异性：费雪信息矩阵可能是奇异的或无定义的。
• 不可识别性：不同的参数值可能产生相同的矩序列。
• 贝伦斯 - 费希尔悖论：讨厌参数（nuisance parameters）的存在可能阻碍构建不依赖于讨厌参数的枢轴量。

本文提出，这些统计病理现象对应于从参数空间到特征空间映射中的几何退化。核心问题在于提供一个统一的几何解释，说明为何引入快速衰减核函数能够解决这些问题，并确立这种解决机制发生的严格条件。

2. 方法论

本文在分布统计框架内运作，其中统计模型不是由密度表示，而是由分布–核函数对 $(T, \phi)$ 表示。这里，$T$ 是缓增分布（$T \in \mathcal{S}'(\mathbb{R}^d)$），$\phi$ 是快速衰减的施瓦茨核函数（$\phi \in \mathcal{S}(\mathbb{R}^d)$）。

2.1 特征映射

该框架通过分布配对定义弱矩和弱特征函数：
$${}^\phi w_j(\theta) = \langle T_\theta, x^j \phi(x) \rangle$$
这诱导了一个特征映射 $\Phi_\phi: \Theta \to \mathcal{F}$，其中 $\Theta$ 是有限维参数空间，$\mathcal{F}$ 是弱矩或特征函数的空间。

2.2 横截性理论

该方法将横截性理论（Whitney, Thom, Mather, Smale, Abraham）应用于统计推断。核心论点是：核函数 $\phi$ 充当几何正则化器。通过在足够丰富的族中变化核函数，可以将诱导的特征映射置于相对于退化流形（编码统计病理现象的子流形）的一般（横截）位置。

本文利用了：

• Thom 横截性定理：确立横截性是一种一般性质。
• 参数化横截性：证明对于核函数参数的一般选择，受限映射可以避免退化层。
• 喷流空间与分层：通过余维数对奇点（例如自交、秩亏缺）进行分类。

3. 主要贡献

3.1 有限维弱横截性定理

本文证明了有限维弱横截性定理（定理 4.1）。它确立了对于参数模型 $\{T_\theta\}$ 和核函数族 $\{\phi_\lambda\}$，如果联合映射 $F(\theta, \lambda) = \Phi_{\phi_\lambda}(\theta)$ 对退化层 $D$ 是横截的，那么对于核函数 $\lambda$ 的一个剩余集（一般集），受限特征映射 $\Phi_{\phi_\lambda}$ 对 $D$ 是横截的。

• 推论：如果退化层的余维数超过参数空间的维度，则一般核函数可确保特征映射完全避开退化。

3.2 可验证的横截性条件

超越抽象的一般性，本文推导了具体的、可验证的条件（第 5 节），这些条件表述为联合特征映射雅可比矩阵的秩条件。

• 分量判据（引理 5.1）：如果模型导数（$D_\theta F$）和核函数导数（$D_\lambda F$）在退化层法空间上的投影之和张成了该法空间，则横截性成立。
• 核诱导的秩增强：即使模型导数秩亏缺，核函数导数也能提供补充方向以恢复满秩，从而确保联合映射是淹没映射（submersion）。

3.3 统计退化分类

本文将退化分类扩展为五种类型，并从几何角度进行解释：

• 0 型（表示）：没有闭式密度的模型（例如仅由特征函数定义的椭圆轮廓分布）。核函数诱导了一个原本不存在的平滑嵌入。
• I 型（不可识别性）：特征映射的自交。
• II 型（奇异信息）：雅可比矩阵的秩亏缺（奇异费雪信息量）。
• III 型（矩不定性）：特征映射未能分离分布（M-不定性）。
• IV 型（高阶不稳定性）：高阶喷流中的退化（例如在非弦图模型中）。

3.4 统计概念的统一

本文证明了多样的统计现象可以统一解释为横截性条件：

• 可识别性：对应于特征映射的单射性（避免自交对角线）。
• 鲁棒性：对应于诱导分布度量的有界性。
• 信息几何：分布费雪信息量是特征映射浸入的第一基本形式。
• Stein 差异：模型是 Stein 映射的零集；对零截面的横截性确保模型是平滑子流形。
• 贝伦斯 - 费希尔问题：被解释为零假设与讨厌参数纤维化之间横截性的失效。核函数通过将特征映射变形为一般位置来对此进行正则化。

4. 结果与验证

理论结果针对特定模型类进行了验证：

1. 位置族：与高斯核的联合映射是淹没映射，确保对任何退化层的横截性。
2. 对数正态族：本文证明，对于一般的尺度参数 $s$，弱矩映射是浸入映射并分离对数正态分布，从而解决了经典的 M-不定性。
3. 弱 Stein 差异：确立了弱 Stein 泛函的零集为平滑子流形的条件。
4. 图模型：对于遭受高阶不稳定性的非弦图，核函数提供了必要的秩增强以恢复横截性。
5. 柯西分布：核函数使信息矩阵变为正定且平滑，解决了经典矩映射的奇异性。

5. 意义与范围

本文作为一系列发展分布统计框架工作的几何伴侣。其主要意义在于提供了横截性理论基础，统一了关于可识别性、鲁棒性和推断的独立贡献。

• 统一视角：它将统计正则化重新框架化，不仅仅是一种计算技巧，而是一种几何变形，使模型相对于奇点处于一般位置。
• 范围与局限性：结果针对有限维参数空间的参数模型进行了严格证明。本文明确承认，扩展到半参数和非参数设定（无限维 $\Theta$）需要不同的分析工具（例如 Smale 和 Quinn 关于巴拿赫流形的定理），并将留待未来工作。
• 谦逊性：本文并不声称能普遍解决所有统计病理现象，而是证明对于一大类参数模型，引入核函数作为一种一般扰动，通过确保横截性来消除退化。

总之，本文论证了“分布程序”之所以有效，是因为核函数充当几何正则化器，强制实施横截性，从而在经典方法失效的设定中，恢复可识别性、信息几何和推断分离的良定义性。