A framework for the use of generative modelling in non-equilibrium statistical mechanics

本文提出了一个利用生成模型和变分自由能原理来对非平衡及自组织系统进行建模的框架，该框架为系统动力学提供了一种可处理且简洁的解释，将其视为一种变分推理形式，而无需要求系统字面上执行推理过程。

要点

以下是对该论文的解释，采用了简单的语言和富有创意的类比，并严格遵循作者所提出的主张。

大局观：一场“仿佛在”的游戏

想象你正在观察一群鸟儿在天空中盘旋。对于科学家来说，这些鸟只是根据风力、重力和肌肉力量运动的物理对象。但本文提出了另一种看待它们的方式。

作者认为，我们可以仿佛这些鸟正在进行数学运算一样来描述它们。具体来说，我们可以假装它们在不断猜测自己应该处于什么位置，并调整飞行路径，以使它们的猜测与现实相符。它们并不是真的坐在天空中做微积分；它们只是物理对象。但通过这种“仿佛在进行猜测”的描述方式，能让我们（科学家）更容易理解并预测它们的运动。

这篇论文将此称为自由能原理 (Free Energy Principle, FEP)。这是一个工具，让我们能够通过假定系统正在试图最小化“惊奇度”（surprise）来模拟复杂的、混乱的系统（如细胞、大脑，甚至天气）。

核心概念：“马尔可夫毯”（隐形的墙）

为了理解这是如何运作的，请想象一栋拥有特殊墙壁的房子。

• 房子内部： “内部状态”（住在里面的家庭）。
• 房子外部： “外部状态”（天气、邻居、世界）。
• 墙壁： “马尔可夫毯 (Markov Blanket)”。这是分隔内部与外部的边界（类似于感觉器官或皮肤）。

这堵墙有两种类型的窗户：

1. 感觉窗口： 你可以向外看，但不能直接触摸外部。
2. 主动门： 你可以向外推（比如打开窗户让空气进来），但你无法通过它们看到外面。

论文声称，如果一个系统拥有这种类型的墙，它自然会趋向于保持一种状态，即不对通过“感觉窗口”传进来的信息感到“惊奇”。如果一条鱼在水中，它预期自己是湿润的。如果它突然感到干燥（高惊奇度），它就麻烦了。系统会自然地移动，以保持在“湿润”区域。

魔法技巧：“惊奇度”与“自由能”

作者引入了两个关键概念：

1. 惊奇度 (Surprisal)： 系统对当前处境感到多么震惊。如果你是一条鱼且身处水中，你的惊奇度很低。如果你在陆地上，你的惊奇度就会很高。
2. 变分自由能 (Variational Free Energy)： 这是惊奇度的数学“上界”。把它想象成一个计分卡。
   • 系统并不知道其惊奇度的确切分数（因为它看不见整个世界）。
   • 相反，它使用一个“最佳猜测”模型来计算一个名为“自由能”的计分卡。
   • 论文认为，物理系统自然会向着最小化这个计分卡的方向漂移。

类比： 想象你在玩一款电子游戏，你看不见完整的地图。你只能看到角色周围的一个小圆圈。你想避免掉下悬崖（惊奇）。你并不确切知道悬崖在哪里，但你有一个关于悬崖可能存在位置的“直觉”（生成模型）。你根据你的直觉来移动，以最小化掉下悬崖的风险。论文指出，物理对象会自动这样做，不是因为它们在思考，而是因为它们的构造方式如此。

“地图与疆域”的区别

这是论文提出的最重要的哲学观点。

• 疆域 (The Territory)： 真实的世界（真实的鱼、真实的细胞、真实的物理规律）。
• 地图 (The Map)： 科学家的数学模型。

批评者常说：“等等！你是在说这条鱼脑子里有一张地图。这是不对的！鱼只是一条鱼。”

作者回应道：“不，我们不是这个意思。”

他们认为，地图（我们的数学）只是我们用来描述疆域的一种工具。

• 我们可以画一张地图，上面写着：“这条鱼的行为仿佛它正在努力留在水中。”
• 这并不意味着鱼真的在想：“我必须保持湿润。”
• 这仅仅意味着，如果我们使用这种“仿佛在”的逻辑来描述这条鱼，数学模型就能完美运行。

论文称这是一种**“消解式” (deflationary)** 的观点。我们并不是赋予了鱼一个大脑或灵魂；我们只是使用一种巧妙的数学技巧（变分推理）来描述它的运动。这种“推理”发生在我们的模型中，而不一定发生在鱼的身上。

实例说明：它是如何运作的

论文通过两个计算机模拟测试了这个想法：

1. 细胞形态发生（构建身体）：

   • 想象一群完全相同且未分化的细胞。
   • 科学家给它们一个“目标”（一张关于头部、躯干和尾部应该长什么样的地图）。
   • 细胞并没有蓝图。相反，它们使用“自由能”规则。它们通过移动和改变化学信号，来匹配因不在正确位置而产生的“惊奇”。
   • 结果： 细胞自发地组织成了头部、躯干和尾部，仅仅是通过尝试最小化它们对自己所处位置的“惊奇”。

2. 周期性放电细胞（一种节奏）：

   • 想象一圈需要按特定节奏放电的细胞（类似于心跳）。
   • 科学家设定了一个“目标波形”（正弦波）。
   • 细胞调整自身的放电频率以匹配这个波形，从而最小化它们“感知到的东西”与“预期感受到的东西”之间的误差。
   • 结果： 细胞锁定在了一个完美的、稳定的节奏中，表现得仿佛它们正在预测未来的节拍。

结论：地图之上的地图

论文以一个巧妙的转折结束。

如果“疆域”是真实世界，而“地图”是我们的科学模型……

• 那么，自由能原理就是一张**“地图之上的地图”**。

它是一个规则，告诉我们：“任何存在的、保持稳定的物理系统，从观察者的角度来看，都必须看起来像是正在试图最小化惊奇度。”

无论该系统是一块石头、一个细胞还是一个人类大脑。只要它拥有边界（马尔可夫毯）并保持稳定，我们就可以使用这种“仿佛在”的逻辑来描述它。论文并不是在声称石头具有意识；它是在声称，我们理解这块石头的最佳方式，就是将其视为一个正在对其环境进行建模的模型。

一句话总结

本文提出了一个数学框架，在这个框架下，我们可以描述任何稳定的物理系统（如细胞或机器）仿佛它正在不断猜测并修正自身状态以避免“惊奇”，这并非因为系统真的在思考，而是因为这种“仿佛在”的描述是我们科学家理解世界运作方式的最强大且最准确的方式。

技术摘要

技术摘要：非平衡统计力学中生成模型应用的框架

问题陈述
本文旨在解决对由耦合对象（如粒子、细胞或种群）组成的开放式非平衡系统进行数学建模的挑战。传统的处理方法通常依赖于显式定义随机动力系统，但这往往难以处理，且难以解释为什么一个联合系统会以特定的方式演化。作者寻求一种框架，该框架能够基于耦合属性为相互作用系统的动力学提供简约的解释，而不必预设物理对象本身在进行字面意义上的推理。本文解决的一个核心哲学与技术障碍是潜在的“地图-疆域谬误”（map-territory fallacy）——即对自由能原理（FEP）建模的指责，认为其混淆了科学模型（地图）与物理系统本身（疆域），从而错误地将推断过程实体化为对象的特征。

方法论
作者提出了一个基于**变分自由能原理（FEP）**的框架，利用生成模型来表示耦合系统之间状态（或轨迹）的依赖关系。该方法通过以下步骤进行：

1. 马尔可夫毯划分（Markov Blanket Partitioning）： 将系统划分为内部状态 ($\mu$)、外部状态 ($\eta$) 以及由感觉状态和主动状态组成的马尔可夫毯 ($b$)。这种划分建立了给定马尔可夫毯时内部状态与外部状态之间的条件独立性。
2. 生成建模（Generative Modelling）： 定义一个联合概率分布 $p(\eta, b, \mu)$ 作为生成模型。该模型编码了系统的统计依赖关系。
3. 变分推理即动力学： 作者证明，如果一个系统具有非平衡稳态（NESS）密度，其动力学可以表示为在变分自由能 ($F$) 上的梯度流。
   • 他们利用随机微分方程（SDE）向环流成分（斜对称部分）和耗散成分（正半定部分）的分解。
   • 在假设系统平均而言最小化惊异度（surprisal，即负对数概率），且变分密度 $q$ 与真实后验之间的 Kullback-Leibler (KL) 散度趋于零的条件下，证明了内部状态的动力学遵循 $F$ 的梯度流。
   • 至关重要的是，$F$ 作为系统的李雅普诺夫函数（Lyapunov function），保证了系统的稳定性，并提供了惊异度的可处理上界。
4. 模型的区分： 该框架严格区分了：
   • 生成模型（Generative Model）： 由观察者构建的科学模型（“地图”）。
   • 变分密度（Variational Density）： 由系统内部状态参数化的关于外部状态的概率分布。
   • 物理系统（Physical System）： 实际的对象（“疆域”）。

主要贡献与结果

• 形式上的可处理性： 本文确立了只要系统具备马尔可夫毯，并且其动力学可以分解为环流和耗散流（如公式 2.1.1 所示），其行为就可以在数学上重构为最小化变分自由能。这使得复杂的非线性耦合动力学可以通过更易处理的统计推断和梯度流数学进行描述。
• 经验说明（玩具模型）： 作者通过两个模拟展示了 FEP 的建设性应用：
  1. 细胞形态发生（Cellular Morphogenesis）： 一个由八个未分化细胞迁移并分化以形成目标形态（头、身、尾）的模拟。通过为细胞配备预测目标位置和信号剖面的生成模型，系统实现了自组织。细胞的主动状态（位置和信号）最小化自由能，有效地“推断”出其在群体中的独特身份和位置。
  2. 周期性放电细胞： 一个由缝隙连接耦合的环状兴奋细胞系统，其生成模型编码了一个周期性的目标波形。内部状态推断周期的相位，而主动状态（离子通道门控）则最小化预测误差。系统收敛于极限环（一个稳定的循环轨道）而非不动点，证明了 FEP 动力学可以描述振荡自组织。
• 解决地图-疆域谬误： 本文认为 FEP 并没有犯下地图-疆域谬误。称系统“进行推理”是观察者提供的**“仿佛”描述（'as if' description）**。系统本身并不需要字面上计算梯度或进行贝叶斯更新；相反，其物理动力学在数学上等价于这样一个过程。“推理”是模型的属性，而不一定是物理对象的字面机制。

意义与主张
作者将这项工作定位为对 FEP 基本原则的一次回归，强调其作为一种建设性框架而非普遍经验定律的角色。

• 适度的范畴： 文中明确指出，所提供的示例是 FEP 建设性使用的“工作实例”，而非对其普遍性的独立经验验证。这些示例经过设计，使其具备必要的分解特性（马尔可夫毯、特定的 $Q$ 和 $\Gamma$ 场），以说明当所需条件满足时，该形式化体系如何运作。
• “地图之地图”： 其核心哲学主张是，FEP 提供了一张“关于那部分表现得‘仿佛是地图’的疆域的地图”。它提供了一套终极的解释性约束，用以界定什么是物理过程的模型。通过将生成模型视为描述子系统如何追踪彼此的科学工具，FEP 提供了一种原则性的方法，用于构建既尊重已知关系，又不会将模型的推断方面实体化为物理对象特征的嵌套模型。
• 哲学一致性： 该框架与维特根斯坦和杰恩斯的观点相一致，即统计力学和建模是关于在宏观约束下理解感觉流和微观状态的过程。FEP 被呈现为一种使物理系统与其模型之间的关系形式化的原则方法，明确了“推理”存在于用于解释物理系统（疆域）稳定性和自组织的数学描述（地图）之中。

综上所述，本文认为使用生成模型来表示子系统之间的关系，会导致一种统计理论，其中相互作用系统的动力学可以被解读为变分推理。这提供了一个强大的、可处理的工具，用于模拟非平衡现象，前提是必须保持科学模型（生成模型）与它所描述的物理系统之间的清晰区别。