Tails and Walls: Reality's Two Honest Priors

想象一下，你正在试图猜测一个游戏的规则，但你从未见过它被玩过。在统计学中，这被称为选择一个“先验”（prior）——即在观察任何数据之前，关于世界运作方式的一个初始猜想。长期以来，科学家们认为只有一种诚实的“最大无知”方式：即假设极端、狂野的事件是可能的，即使它们很罕见。你可以把它想象成假设天气可能是任何样子，从微风到飓风都有可能。这是“重型”（heavy）分支的思维方式，在这里，概率曲线的尾部会无限延伸，就像一根长而细的绳索。

但如果宇宙是有墙壁的呢？如果有些事情仅仅因为撞到了物理极限而无法发生呢？想象一个在房间里弹跳的球；它可以跑得很快，但不能快过光速，也不能跳得比天花板更高。几十年来，统计学家大多忽略了这些“墙壁”，假设绳索会一直延伸下去。这篇论文提出了一个大胆的问题：现实是由无尽的绳索构成的，还是也存在着坚实的墙壁？作者正在探索数据的“尾部”（极端罕见事件）和“墙壁”（硬性限制），以观察哪一个能更好地描述我们的世界。他们正在使用一种新的数学地图来衡量自然界更倾向于无限的可能性，还是有界的边界。

---

两种诚实的先验：绳索与房间

这篇题为《尾部与墙壁：现实的两种诚实先验》的论文揭示了，当我们试图对一个系统保持完全无知时，我们实际上有两个诚实的选择，而不仅仅是一个。作者将这两个选择称为不同的“分支”。

重型分支（无尽的绳索）：
这是旧有的宠儿。它就像 Student-t 分布（著名钟形曲线的近亲）。想象一根向外无限延伸的绳索。无论你走多远，总有极小的概率发现更极端的东西。在现实世界中，这看起来像是风暴的声音或柔性分子中原子之间的距离。这些东西可以变得非常大或非常小，且极端值的概率下降得很慢，就像一条长长的尾巴。论文发现，环境声音和分子中的氢键都生活在这个分支上。它们是“重型”的，因为它们没有硬性的天花顶；它们可以被拉伸。

液滴分支（带有墙壁的房间）：
这是新的发现。想象一滴水坐在桌子上。它有形状，但在某个边缘处戛然而止。它不会无限延伸；它会撞上一堵“墙”，且在墙外发现任何东西的概率恰好为零。论文表明，我们世界的许多事物实际上就是这样。例如，数字照片中的像素就是“液滴”。它们不能比摄像机能记录的最大亮度（8位图像中的255）更亮。论文认为，“墙”不仅仅是摄像机的错误；它是我们所见数据的基本特征。当我们观察共价键（如碳氧键）中原子之间的距离时，在它们因相互排斥而靠近之前，存在一个硬性的极限。这在数据中创造了一堵“墙”。

大地图：测量现实的形状

作者不仅仅是在猜测；他们构建了一个名为“信息体积”（Information Volume）的新型测量工具。可以把它想象成一把尺子，无论你如何拉伸或扭曲数据，它的工作方式都保持一致。他们使用这把尺子来测量四个世界的“尾部形状”：

1. 分子： 他们观察了13.4万个分子。他们发现分子的某些部分（如具有拉伸性的氢键）是“重型”的（无尽的绳索），而其他部分（如紧密的碳氧键）则是“液滴”（撞击墙壁）。
2. 声音： 环境声音（如风或雨）是“重型”的。它们可以变得非常响亮，且不存在硬性极限。
3. 语言： 人类语言很有趣。它在发音尖锐的爆破音（如“p”或“t”）时表现出“重型”特征，但当你听完整的句子时，它会迅速放松进入正态分布（高斯分布）。
4. 图像： 这是最大的惊喜。作者曾以为数字图像可能是“重型”的，因为自然界是狂野的。但他们发现图像实际上是“液滴”。“墙”来自于摄像机和电脑屏幕。现实世界中的光（辐射度）是重型且无尽的，但我们看到的图像是一个液滴，因为它被压缩到了一个固定的数值范围内（例如0到255）。

“诚实的猜想”与“真相猜想”

论文引入了一个聪明的概念，叫做“真相猜想”（truth-guess）。想象你正在尝试猜测一组人的平均身高，但你并不知道组内有哪些人。你根据已知信息做出猜想。作者展示了，如果你是真正诚实的，你的猜想应该匹配所有可能模型的“重心”（barycenter，即平均中心）。

他们发现了一个规则：如果你的初始猜想（先验）具有重型尾部，那么你的最终猜想也将具有重型尾部。如果你的初始猜想有一个墙壁，那么你的最终猜想也会保留这个墙壁——除非你观察的数据过于狂野以至于打破了墙壁。

例如，如果你通过一个有界的透镜观察一个有界信号（如数字图像），墙壁会保留。但如果你通过一个非常“模糊”或无界的透镜（如高斯模糊）观察一个有界信号，墙壁会被冲刷掉，数据开始看起来像普通的钟形曲线。这解释了为什么数字图像看起来像液滴：摄像机（透镜）是有界的，所以墙壁得以生存。

论文排除了什么以及证明了什么

作者对自己的主张非常谨慎。他们明确排除了“有界性”（拥有极限）自动意味着你拥有“液滴”这一观点。仅仅因为一个数字在某一点停止，并不意味着它是一个液滴。液滴在接近墙壁时具有特定的、平滑的形状，就像一条轻轻亲吻边缘的曲线。如果数据只是突然停止（如硬截断）或跳跃，那它就不是液滴。论文证明了像图像和分子键这样的自然信号确实具有这种平滑的、多项式式的形状，使它们成为了真正的液滴。

他们也排除了“重型”分支是实现无知的唯一诚实方式这一观点。长期以来，统计学家认为重型尾部是唯一安全的做法。这篇论文表明，对于许多事物来说，“液滴”才是诚实的先验。

他们有多确定？

作者对他们测试的事物测量结果非常有信心。他们使用了一种称为“极值理论”（extreme value theory）的方法来测量尾部的形状。他们通过多种方式检查了结果：

• 他们测试了不同的“抖动”（jitter，微小的随机变化），以确保墙壁不仅仅是计算机代码的人为产物。墙壁保持不变。
• 他们测试了不同的阈值，以确保形状不会随着观察数据量的变化而改变。形状（重型 vs 液滴）保持不变。
• 他们运行了一个“留出测试”：他们在一半数据上训练模型，并在另一半数据上进行测试。当他们使用正确的“分支”（对于碳氧键使用液滴，对于氢氧键使用重型）时，模型能完美预测极端值。当他们使用错误的模型（如标准的钟形曲线）时，表现却糟糕透顶。对于重型的氢氧键，钟形曲线低估了极端事件风险达10倍！

然而，还有一个谜团他们尚未解决。他们发现了一种类型的数据——高动态范围（HDR）太阳图像——似乎是“超重型”的，甚至比“重型”分支允许的还要重。他们称之为“压力测试”，并承认目前还没有答案。这可能意味着存在一种他们尚未发现的新物理学或新数学，或者仅仅是因为太阳太亮了，以至于打破了他们现有的规则。

总结

这篇论文就像是找到了一副新的眼镜。以前，我们认为世界要么是钟形曲线，要么是长长的绳索。现在我们知道，它也是一个带有墙壁的水滴。

• 声音和柔性分子？ 它们是绳索（重型）。
• 数字图像和紧密的化学键？ 它们是液滴（墙壁）。
• 语言？ 它始于绳索，最后转变为钟形曲线。

最重要的教训是，数据的“形状”告诉我们如何构建更好的模型。如果你试图用绳索去建模一个液滴，你会预测出不可能发生的事情（比如比屏幕能显示的还要亮的像素）。如果你试图用墙壁去建模一根绳索，你会错过那些罕见的、危险的事件（比如一场巨大的风暴）。通过测量“尾部指数”（一个告诉你拥有绳索还是墙壁的数字），我们可以选择正确的工具来完成任务。这篇论文表明，我们第一次拥有了一张地图，它能准确告诉我们何时该使用哪种工具来应对现实的不同部分。