📊 statistics

Empirical Measures and Strong Laws of Large Numbers in Categorical Probability

本文通过在拟马尔可夫范畴中引入“经验采样态射”，从第一性原理出发形式化经验测度的收敛性，从而为格利文科–坎泰利定理、强大数定律以及德·菲内蒂定理建立了一个统一的范畴框架。

原作者： Tobias Fritz, Tomáš Gonda, Antonio Lorenzin, Paolo Perrone, Areeb Shah Mohammed

发布于 2026-05-13

📖 1 分钟阅读☕ 轻松阅读

原作者： Tobias Fritz, Tomáš Gonda, Antonio Lorenzin, Paolo Perrone, Areeb Shah Mohammed

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你是一名侦探，试图仅凭一份长长的路人名单，去推断一个神秘人群的“真实本质”。这本质上就是概率论所做的事情：它试图理解生成一系列随机事件（样本）的隐藏规则（分布）。

这篇题为《范畴概率中的经验测度与强大数定律》的论文，由托比亚斯·弗里茨（Tobias Fritz）及其同事撰写，是一场高层级的数学冒险。它不仅仅是在处理数字；它试图利用一种名为范畴论的新语言，重建整个概率论的逻辑。你可以将范畴论想象成一种“通用翻译器”，它描述事物如何连接和流动，而不仅仅是计算具体的数值。

以下是他们发现的故事，被拆解为简单的概念和类比。

1. 问题：“无限”序列

在现实世界中，如果你抛掷一枚硬币 1,000 次，你可以数出有多少次正面朝上。如果你抛掷一百万次，你会得到更清晰的认识。但如果你永远抛掷下去呢？

数学家们早就知道（归功于大数定律），如果你持续抛掷硬币，正面朝上的百分比最终会稳定在真实概率（50%）上。这就是“强大数定律”。

然而，这里有一个陷阱。并非每一个无限抛掷硬币的序列都会稳定下来。有些序列可能会永远振荡（例如 1, 0, 1, 0, 1, 0...，但停顿时间越来越长）。对于这些“坏”序列，你无法定义一个真实的概率。

作者们问道：我们能否构建一台数学机器，它以无限序列为输入，仅当序列“足够好”以至于存在一个真实概率分布时，才输出该分布？

2. 解决方案：“经验采样机器”

作者们提出了一种新的数学对象，称为经验采样态射。

你可以将其想象成一台特殊的自动售货机：

输入：你向它输入一个无限的数据流（例如一长串数字或硬币抛掷结果）。
输出：如果数据流是“表现良好”的，机器就会吐出一个样本，该样本取自该数据流的“平均值”（即经验测度）。
陷阱：如果数据流是混乱的且从未稳定下来，机器拒绝工作。它不会给你一个错误的答案；它只是说：“我无法处理这个。”

用论文的语言来说，这是一个部分态射。它是一个仅在特定输入子集（即“好”序列）上有效的函数。

3. 机器的规则

为了确保这台机器有意义，作者们给它设定了两条严格的规则（公理）：

规则 1：洗牌规则（置换不变性）
想象你有一列 1,000 个数字。如果你打乱前 10 个数字的顺序，列表的“平均”性质不应改变。只要数据的整体集合相同，无论输入的顺序如何，机器必须给出相同的结果。它忽略顺序，只关注数据的“主体”部分。
规则 2：自洽规则（经验充分性）
这有点像镜子测试。如果你取一个由公平硬币生成的序列，将其输入机器以获得一个“平均硬币”，然后使用该平均硬币生成一个新序列，那么这个新序列在统计上应与原始序列相同。机器必须与自身保持一致。

4. 重大发现：从零重建概率

作者们不仅仅是为一种特定情况（如抛硬币）构建了这台机器。他们建立了一个理论框架（使用“拟马尔可夫范畴”），使他们能够仅利用机器的规则，同时证明三个巨大且著名的定理：

德·菲内蒂定理（The de Finetti Theorem）：该定理指出，如果一个事件序列看起来是随机的且可交换的（顺序无关紧要），那么它必然是由一个隐藏的“平均”分布生成的。作者们证明，这是他们机器规则的自然推论。
格利文科 - 坎泰利定理（The Glivenko–Cantelli Theorem）：这是大数定律的“一致”版本。它指出，数据分布的整体形状（而不仅仅是平均值）会收敛于真实值。
强大数定律（The Strong Law of Large Numbers）：这是经典结论，即样本的平均值收敛于真实的期望值。

神奇之处：通常，证明这三个定理需要繁重且复杂的数学（测度论）。作者们表明，如果你接受他们“经验采样机器”的存在及其两条规则，所有三个定理都会自动显现，就像多米诺骨牌一样。

5. 使其现实化：“部分”机器

一个主要的障碍是，在现实世界中（特别是在实数领域），你无法总是为每一个可能的无限序列定义这台机器。

类比：想象试图计算无限长队伍中人的平均身高。如果队伍中包含一些身高无限高的人，平均值就会崩溃。
修正：作者们为实数（如人的身高或股票价格）构建了这台机器的一个特定版本。他们精确定义了哪些序列是“好”的（那些平均值稳定下来且不会爆炸到无穷大的序列），哪些是“坏”的。

他们证明，对于这些“好”序列，机器完美运作，并恢复了我们在当今统计学中使用的标准结果。

总结

简而言之，这篇论文是一个随机性的统一理论。

作者们构建了一个概念上的“黑盒”（经验采样态射），它接收无限数据并输出底层概率。通过精确定义这个盒子应如何运作（忽略顺序并保持自洽），他们能够推导出概率论中最重要的定律（德·菲内蒂、格利文科 - 坎泰利和强大数定律）作为逻辑推论。

他们表明，这些定律不仅仅是数学上的幸运巧合；它们是我们定义对无限数据进行“平均”时的必然结果。这是一种更新、更清晰、更具结构化的方式来理解为什么“大数定律”会起作用。

技术摘要：范畴概率中的经验测度与强大数定律

问题陈述
本文探讨了在范畴概率框架内表述概率论基本极限定理（特别是 Glivenko–Cantelli 定理和强大数定律（SLLN））所面临的挑战。虽然范畴概率已成功利用马尔可夫范畴（Markov categories）对独立性、条件化以及 de Finetti 定理等概念进行了抽象，但这些框架通常假设所有态射均为全态射（即对所有输入均有定义的态射）。

此处解决的具体困难在于无限序列的经验测度的性质。在标准测度论中，无限序列 $(x_i)_{i \in \mathbb{N}}$ 的经验测度定义为相对频率的极限。然而，该极限并非对所有序列都存在（例如振荡序列），且即使存在，也可能无法定义有效的概率测度（例如在 $\mathbb{N}$ 上序列 $1, 2, 3, \dots$ 导致 $\sigma$ -可加性失效）。因此，“从经验测度采样”这一操作本质上是一个部分操作。要求所有态射均为全态射的标准马尔可夫范畴不足以直接对这一现象进行建模。作者旨在开发一种能够容纳这些部分性同时又能恢复标准测度论结果的合成（公理化）框架。

方法论
作者采用了一种结合抽象范畴论与具体测度论构造的双管齐下的方法：

拟马尔可夫范畴（Quasi-Markov Categories）： 为处理部分性，作者在拟马尔可夫范畴中开展工作。与要求每个态射均为全态射的标准马尔可夫范畴不同，拟马尔可夫范畴允许“拟全”态射。若态射 $f: A \to X$ 对所有输入要么未定义，要么产生归一化输出，则称其为拟全态射。该框架支持一个规范的部分序（扩展关系），即若 $f$ 扩展了 $g$ ，则 $f \sqsupseteq g$ 。
$\sigma$ -连续性： 为处理无限张量积（Kolmogorov 积）和无限序列，作者引入了 $\sigma$ -连续性假设。这确保了同态集拥有可数定向下确界（定义域的交集），且这些下确界在复合和张量积下得以保持。该性质被证明对应于测度论中概率测度的 $\sigma$ -连续性。
经验采样的公理化： 方法论的核心是定义经验采样态射 $es_X: X^\mathbb{N} \to X$ $e s_{X} : X^{N} \to X$ 。该态射以无限序列为输入，并输出其经验测度的一个样本。作者为该态射提出了两个公理：
- 置换不变性： 该态射在输入序列的有限置换下保持不变。
- 经验充分性： 若 $X^\mathbb{N}$ 上的分布是可交换的，则从中采样等价于对采样序列应用迭代经验采样。
具体构造： 作者在部分马尔可夫核范畴 Partial(BorelStoch) 中，为标准的博雷尔空间（有限集、 $\mathbb{N}$ 和 $\mathbb{R}$ ）构建了显式的经验采样态射。作者仔细定义了这些态射的定义域，以确保生成的极限满足 $\sigma$ -可加性，并且对于 $\mathbb{R}$ ，满足累积分布函数（CDF）的一致收敛性。

主要贡献

部分性框架： 本文发展了拟马尔可夫范畴理论，特别是确立了该设定下 Kolmogorov 积的存在性与性质。这包括证明了 Partial(BorelStoch) 是一个 $\sigma$ -连续的拟马尔可夫范畴。
经验采样态射的定义： 作者通过置换不变性和经验充分性公理，为经验采样态射提供了严格的范畴定义。他们证明了这些态射对所有标准博雷尔空间均存在。
极限定理的合成证明： 利用经验采样态射的存在性以及平衡幂等元的分裂，作者推导出了以下定理的抽象版本：
- de Finetti 定理： 表明可交换态射通过分布对象进行分解。
- Glivenko–Cantelli 定理： 确立了经验测度向底层分布的一致收敛性。
- 强大数定律： 推导了经验平均值向期望值的收敛性。
统一性： 这项工作在一个单一的范畴框架内，从第一性原理出发，联合证明了 de Finetti 定理、Glivenko–Cantelli 定理和 SLLN，而不是将它们视为独立的测度论结果。

结果

可表示性： 经验采样态射的存在意味着该范畴是观测可表示的。这意味着对于每个对象 $X$ ，都存在一个分布对象 $PX $（表示$ X $上的概率测度）和一个采样态射$ samp: PX \to X$。
合成 Glivenko–Cantelli 定理： 在任何满足作者假设（包括存在经验采样态射）的拟马尔可夫范畴中，重采样态射 $es^{(N)}$ 通过分布对象分裂。这导致的结果是：对于任何可交换态射 $f$ ，经验测度几乎必然等于底层分布。
标准结果的恢复： 通过在 Partial(BorelStoch) 中实例化抽象定理：
- 合成的 Glivenko–Cantelli 定理恢复了实值随机变量的标准定理，即经验累积分布函数几乎必然一致收敛于真实累积分布函数。
- 合成的 SLLN 恢复了具有有限一阶矩的实值随机变量的 Kolmogorov 强大数定律。作者指出，对于 $\mathbb{R}$ 的经验采样态射定义域需要特定的限制，以确保经验平均值的收敛性（处理均值可能不存在的情况）。

意义
本文声称，这项工作提供了从第一性原理出发对三个基本概率结果的结构化证明。作者认为，与传统的纯测度论处理相比，他们的联合证明更简短，并具有更强的概念清晰度。通过将经验采样态射识别为关键概念，本文表明这些态射是将大数定律转化为范畴语言不可或缺的工具。作者提出，这一认识促进了范畴概率的进一步进展，可能有助于在同一框架内开发其他极限定理，如遍历定理。这项工作强调，虽然将概率概念转化为范畴论往往并非易事，但由此产生的抽象揭示了支撑这些经典定理的本质结构属性（置换不变性和经验充分性）。