> For the complete documentation index, see [llms.txt](https://ruyuanzhang.gitbook.io/compmodcogpsy/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://ruyuanzhang.gitbook.io/compmodcogpsy/di-wu-zhang-jin-si-tui-duan/5.2-bian-fen-tui-duan/5.2.4-bian-fen-tui-duan-zai-ren-zhi-li-lun-zhong-de-ying-yong-zi-you-neng-yuan-li.md).

# 5.2.4 变分推断在认知理论中的应用：自由能原理

Edited by 谭敬斌

## 自由能假说

上一节已经介绍了[贝叶斯脑假说](/compmodcogpsy/di-wu-zhang-jin-si-tui-duan/5.1-ma-er-ke-fu-lian-meng-te-ka-luo-cai-yang/5.1.7-mcmc-zai-ren-zhi-li-lun-zhong-de-ying-yong.md)：大脑认识这个世界的方式，是根据当前感官证据 $$data$$ 对环境潜变量 $$\theta$$ 进行推断 $$p(\theta|data)$$，也就是通过贝叶斯推断来完成各种任务。

$$
p(\theta|data)=\frac{p(data|\theta)p(\theta)}{p(data)} \qquad\qquad\tag{5-1}
$$

那么，大脑为什么要这么做？Karl Friston 提出的自由能假说（Free Energy Hypothesis）<sup>8</sup>给出了一个回答：**大脑在最小化“惊异”（surprise）**。

Friston 指出，有机体能够处于的生理和感知状态是有限的。能持续存在的生物，会以高概率停留在少数状态中，很少进入低概率状态——就像鱼离开水，既危险，又是一个极小概率的状态。

惊异（Surprise）定义为感知状态在生成模型下的负对数概率， $$-\log p(data)$$，用于刻画感觉输入的不可能程度。对生物来说，越不可能的感知状态，惊异越大。生物为了维持生存，需要让自身长期处于比较稳定、可预测的状态。从自由能原理的角度看，这意味着生物需要尽量降低长期平均的惊异。

然而，惊异的直接计算需要对环境中所有可能产生感官状态 $$data$$ 的潜变量 $$\theta$$ 积分，

$$
p(data)=\int p(data|\theta)p(\theta)d\theta \qquad\qquad\tag{5-23}
$$

在真实环境中， $$\theta$$ 的维度高、可能值多，这个积分几乎无法解析求解。而这个积分，恰恰也是后验分布$$p(\theta|data)$$ 做归一化时的分母（边际似然）换言之，惊异算不出来，和后验分布精确算不出来，是**同一个困难的两面**。

由于惊异无法直接计算，Friston 转而选择最小化惊异的一个可计算的上界——**变分自由能** $$F$$ 。这个上界的推导，正是要用到本节学习的变分推断。

{% hint style="info" %}
Karl J. Friston（1959– ）是英国神经科学家，在伦敦大学学院（UCL）Wellcome 人类神经成像中心工作。他早年接受精神病学训练，随后转向脑成像方法学：1990 年代提出的**统计参数图**（statistical parametric mapping, SPM）至今仍是 fMRI 分析的标准工具。2000 年代起，他的重心转向理论神经科学，系统提出自由能原理，并扩展为涵盖感知、学习与行动的**主动推断**（active inference）框架。

自由能理论已成为计算精神病学、预测加工（predictive processing）等方向的重要基石，同时也因高度抽象、难以证伪而备受争议。对心理学背景的读者，建议先读 Gershman 的解读文章<sup>9</sup>，再回到 Friston 2010 年的综述。
{% endhint %}

## 自由能的变分推断求解

还记得我们在[ 5.2.1 ](/compmodcogpsy/di-wu-zhang-jin-si-tui-duan/5.2-bian-fen-tui-duan/5.2.1-bian-fen-tui-duan-jie-shao.md)中推到过的公式（5-19）吗？由于后验分布难以直接求解，我们引入变分分布 $$q(\theta)$$ 来近似它。我们可以将 $$\log p(data)$$ 分解为两项：

$$
\log p(data) = L + D\_{KL}\[q(θ)||p(θ|data)] \qquad \qquad \tag{5-19}
$$

我们令自由能 $$F$$ 等于公式右边第一项的负数——**证据下界ELBO的负数**，即$$F=-L$$ 。于是上式可以改写为：

$$
F=-\log p(data)+D\_{\mathrm{KL}}\[q(\theta)||p(\theta|data)]  \qquad\qquad\tag{5-24}
$$

其中第二项，也正是变分分布 $$q(\theta)$$ 和后验分布 $$p(\theta|data)$$ 之间的KL散度。当 $$q(\theta)$$ 和后验概率 $$p(\theta|data)$$ 越接近，两者的KL散度也就越小（注意 $$D\_{KL}\[q(\theta)||p(\theta|data)]>=0$$）。虽然我们不知道惊异 $$-\log p(data)$$ 具体是多少，但肯定是个**常数**：给定一种感知状态，外部世界产生它的概率是恒定的，只不过我们无法获悉。因此，优化 $$q(\theta)$$ 时，最小化自由能，在数学上就等价于最小化 $$D\_{KL}\[q(\theta)||p(\theta|data)]$$。

Friston 所提出的最小自由能原理，**本质上就是认为我们大脑在做贝叶斯推断的时候，并非直接求解复杂的后验分布，而是用变分推断的形式用一个简单的近似分布去逼近后验分布**。这也符合常理，我们每天看着太阳东升西落，但我们很难从这简单的观测中推断出地球以太阳为中心转动的精确轨迹方程，更可能会认为太阳在以地球为中心做圆周运动，这正是我们大脑在用一种有偏差但简单的近似分布去认识真实的世界。

Friston的自由能理论，与预测编码、最优控制、主动推断等多个概念存在复杂的关系，这里仅是简单介绍了自由能与变分推断相关的内容。读者有兴趣的话，可以阅读参考文献：

8. Friston, K. J. The free-energy principle: a unified brain theory? *Nat. Rev. Neurosci.* **11**, 127–138 (2010).
9. Gershman, S. J. What does the free energy principle tell us about the brain? *Neurons Behav. Data Anal. Theory* **2** (2019).