Haobai Wang · 公开阅读版 · ch09-zh-23a3efff0d5b
内容指纹用于核对本章文本，不表示学术终审或独立的作者身份证明。
SHA-256: 23a3efff0d5b607b2fd9807e6654f0a46eb1e707be4f7f2a92fde08db33c9278
《偶然的数学》
第二卷 · 无限世界中的概率
第九章：看见一部分世界之后——条件期望与信息
第八章结束时，我们终于让无限多次实验生活在同一个概率空间里。
那些过去只能逐段写下的硬币记录，现在有了共同的所在。Brown 的微粒在不同时间的 Gaussian 位置，也不再只是互不相识的一张张快照。尽管连续路径的建立还需要进一步工作，我们至少已经知道，有限窗口的相容规律怎样成为同一个世界中的概率。
可是，拥有一个世界，与看见整个世界，是两件不同的事。
硬币还在继续抛。观察者站在桌旁，只看见已经出现的结果。第十次以后的记录已经属于我们的数学模型，却还不属于此刻的信息。
那么，第一章里那个最初的问题便回来了。
已经知道的事情改变以后，一场尚未结束的游戏，应该怎样重新估值？
第二章用 Bayes 的计算回答过具体的推断问题。如今，测度与积分已经把概率的语言扩大了。如果观察不再只有有限种可能，如果一个观察值本身出现的概率就是零，我们还能不能像从前那样，把“剩下的可能性”重新平均？
这一次，需要被创造的，不是另一个样本空间，而是一种尊重已有信息的平均。
9.1 同一笔赌金，为什么会有几个都正确的价格？
让我们回到第一章那场没有结束的比赛。
A 还差一局获胜，B 还差两局。每局独立，双方机会相等，全部赌金为64枚金币。为了计算，可以预先写下接下来的两局；若第一局已经使比赛结束，第二个字母只是一个不影响收益的辅助记录。
四条记录等可能：
AA,\quad AB,\quad BA,\quad BB.令 X 为 A 最终得到的金币。前三条记录中 X=64，最后一条中 X=0。因此，在下一局尚未开始时，
\mathbb E X=48.现在，下一局已经打完，却还没有把最终结果告诉我们。
如果这一局 A 赢，游戏已经结束，A 的收益是64。如果这一局 B 赢，双方回到对称位置，A 的当前权益是32。根据这一局的信息重新计算的价格便是
Y=
\begin{cases}
64,&\text{下一局为 A},\\
32,&\text{下一局为 B}.
\end{cases}48、64、32，究竟哪个才是正确答案？
它们回答了不同的问题。48是尚未观察这一局时的价格；64与32是观察之后，依观察结果而变的价格。最终收益 X 仍可能是64或0，而观察之后的价格 Y 只允许使用我们已经看见的那一局。
这里有一个值得停下来的变化：给定信息之后的平均，不再只是一个数，而成为一个随机变量。
它必须随着已经知道的情况改变，却不能偷看尚未知道的结果。
更有意思的是，
\mathbb E Y=\frac12\cdot64+\frac12\cdot32=48=\mathbb E X.观察可以重新分配不同情形中的平均，却没有改变观察之前的总账。我们将看到，保留这份总账，正是一般定义的起点。
9.2 一份信息，首先把世界分成哪些无法区分的情形？
把刚才的计算稍微展开。
设一份观察只告诉我们，样本点落在分区 C_1,C_2,\ldots 的哪一块中。这里分区可以有限，也可以可数，各块可测、两两不交，其并为整个空间。若 \mathbb E|X|<\infty，在 P(C_j)>0 的块上，合理的平均应当是
y_j=\frac{\int_{C_j}X\,dP}{P(C_j)}.于是定义
Y=\sum_j y_j\mathbf1_{C_j}.在零概率的块上，可以把 y_j 取成0。这不会改变任何积分。并且
\mathbb E|Y|
=\sum_{j:P(C_j)>0}\left|\int_{C_j}X\,dP\right|
\le\mathbb E|X|.这个 Y 在每个信息块内保持常数。因为如果观察者无法区分同一块中的两点，他就不能根据这两点的区别给出不同的报价。
同时，对任何一个信息块，
\int_{C_j}Y\,dP=\int_{C_j}X\,dP.因此，对任意一些块的并，这个等式也成立。观察并没有使某一类已经可辨认的情形，在总收益上获得凭空增加或减少。
有限情形中，我们常说“只在符合条件的结果里重新归一化”。现在可以说得更准确：用观察者能够辨认的函数代替原收益，同时在他能够辨认的每一件事件上保留积分。
这一说法没有依赖块的形状，也没有要求原来的结果等可能。它已经带着测度与积分的语言，准备走出有限分区。
9.3 如果每一个观察值的概率都是零，分块公式在哪里失效？
假设 U 在 [-1,1] 上均匀分布，我们看见它的具体取值。
每个事件 \{U=u\} 的概率都为0。若仍把上一节的分块公式写在这些单点上，就会得到没有意义的 0/0。
但这显然不能说明，观察一个连续随机变量没有提供信息。
知道 U，我们就知道 U^2；知道 U 是否落在某个区间，也确实改变了我们对收益的判断。失效的是逐块相除的表达，不是“依据信息求平均”这个问题。
第五章引入的 \sigma-代数，在这里显出了另一种意义。
设原来的全部事件为 \mathcal F。观察者目前能辨认的事件组成一个子 \sigma-代数
\mathcal G\subseteq\mathcal F.如果看见的是一个随机变量 Z，那么能根据它作出的事件判断，组成
\sigma(Z)=\{Z^{-1}(B):B\text{ 是状态空间中的可测集}\}.这个集合类本身就是 \sigma-代数。在实值观察中，我们使用实线的 Borel 集。
若只知道 U^2，则知道它是否落在任何 Borel 集中，却未必知道 U 的符号。若知道 U，则两者都知道。因此
\sigma(U^2)\subseteq\sigma(U).信息的多少，成为事件系统的包含关系。
这并不要求每个能问的问题都具有正概率。我们改为保留所有能够根据观察提出的事件，而不是试图把世界拆成一批都可以相除的单点。
现在回想上一节：真正有希望保留下来的，不是分母 P(C_j)，而是每个已知事件上的积分等式。
这也是条件化在二十世纪获得新基础的一个关键转向。Kolmogorov 的1933年著作把条件概率与条件期望单列为第五章；原著英文译本中的存在论证明确应用 Nikodym 的测度密度定理，使条件概率成为只在几乎处处意义下确定的可测函数。原书记录 · 英文译本第五章。
不能把我们今天整套“信息”的术语原封不动地放回1933年。这里用子 \sigma-代数表达观察，用下面的平方几何证明存在，是本书的现代重建。历史上的密度道路并未消失；等我们先弄清平均为何存在，它将在下一章与这条道路相遇。
9.4 什么样的平均，才没有偷偷使用额外信息？
设 X 是实值可积随机变量。我们寻找一个实值可积随机变量 Y，满足两个条件：
Y\text{ 是一个 }\mathcal G\text{-可测随机变量},
\qquad
\int_A Y\,dP=\int_A X\,dP
\quad(A\in\mathcal G).这样的 Y 称为 X 关于 \mathcal G 的条件期望，记为
Y=\mathbb E[X\mid\mathcal G].第一个条件限制它能使用的语言，第二个条件约束它不能改动的账目。
只写第二个条件不够。原变量 X 自己当然保留所有积分，但它可能偷看了观察者不知道的细节。只写第一个条件也不够；随便给出一个可测报价，并不保证它与真正的收益相容。
这两个条件如果能够同时实现，就几乎确定了答案。
设 Y,Z 都满足它们。因为 Y,Z 均为 \mathcal G-可测，
A=\{Y>Z\}\in\mathcal G.在这个事件上，
\int_A(Y-Z)\,dP=0.而被积函数非负且在 A 上严格为正，所以 P(A)=0。交换 Y,Z，得到
Y=Z\quad P\text{-几乎必然}.因此条件期望唯一到几乎必然相等。一个具体的可测代表称为一个版本。
“版本可以在零集上不同”也有边界：改完以后仍须满足 \mathcal G-可测性。若 \mathcal G 未完备化，不能在任意一个仅属于 \mathcal F 的零集上随意修改，再宣称它自动还是一个合法版本。
积分等式还可以换一种读法。对任意有界、实值、\mathcal G-可测的 H，有
\mathbb E[XH]=\mathbb E[YH].先对指示函数使用定义，再作有限线性组合，最后以一致有界的简单函数逼近 H，由控制收敛就得到这个结论。反过来，取 H=\mathbf1_A，又回到原定义。
所以，观察者用已有信息决定任何一种有界权重，都无法在加权平均中区分 X 与 Y。
但我们目前只证明了“如果存在，就几乎唯一”。能不能找到它，仍然是一个真正的问题。
9.5 公平的积分等式，为什么会成为一个垂直条件？
先假设收益还有有限二阶矩：
\mathbb E X^2<\infty.这允许我们用平方误差衡量预测。所有平方可积实随机变量，按几乎必然相等认作同一个元素，组成 L^2(\mathcal F)。在其中定义
\langle U,V\rangle=\mathbb E[UV],
\qquad \|U\|_2=(\mathbb E U^2)^{1/2}.从一个看似只关于平均的对象，我们走进了一种几何。
这个内积的基本估计并不神秘。对每个实数 t，\mathbb E(U-tV)^2\ge0；查看这个二次式的最小值，便得到 Cauchy–Schwarz 不等式
|\mathbb E[UV]|\le\|U\|_2\|V\|_2.它既保证内积有意义，也给出三角不等式。概率空间总质量为1，还使
\mathbb E|U|\le\|U\|_2.观察者能够使用的平方可积预测组成线性子空间
\mathcal H=L^2(\mathcal G)\subseteq L^2(\mathcal F).若 Y\in\mathcal H 是条件期望，那么对所有有界的 \mathcal G-可测 H，
\langle X-Y,H\rangle=0.截断一个任意的 H\in\mathcal H，再用 Cauchy–Schwarz 控制截断误差，这个等式便对所有 H\in\mathcal H 成立。
于是，条件平均的要求变成了：误差必须与所有可用信息方向垂直。
如果误差还沿某个可观察的方向系统性偏向一边，我们就能沿那个方向调整报价，减少平方损失。真正充分利用了信息的预测，不应留下这种还可以被同一份信息纠正的偏差。
这个解释很有吸引力。但若只说“取一个正交投影”，我们就会像上一章直接说“应用扩张定理”那样，把存在困难藏到一个名称里面。
这里需要确认两件事：无限精细的近似预测会不会逃出空间，以及越来越好的预测是否真的有一个最好的极限。
9.6 一列越来越接近的预测，最后会不会不再是一种预测？
先看第一件事。
设 X_n 在 L^2 中是 Cauchy 列。可以抽取子列，使
\|X_{n_{k+1}}-X_{n_k}\|_2\le2^{-k}.于是
\sum_k\mathbb E|X_{n_{k+1}}-X_{n_k}|
\le\sum_k2^{-k}<\infty.Tonelli 定理告诉我们，差值绝对值的级数几乎处处有限。因而这条子列逐点收敛到一个有限随机变量 X。在不收敛的可测零集上把它设为0，得到可测代表。
不仅如此，有限三角不等式与 Fatou 引理给出
\|X-X_{n_k}\|_2
\le\sum_{j\ge k}2^{-j}\longrightarrow0.具体地，先对有限个差值的和估计 L^2 范数，再让求和上端趋于无穷，Fatou 把这个上界保留给极限。该估计也保证 X\in L^2。原列的 Cauchy 性随后使整个 X_n 都在 L^2 中趋向 X。
这证明了 L^2 的完备性。
这段论证与第七章的子序列思想相通：先挑出误差可求和的时间线，让几乎必然的极限出现，再把范数控制带回整列。
如果每个 X_n 都是 \mathcal G-可测，刚才选出的逐点收敛事件本身也属于 \mathcal G。把极限在其补集上定义为0，仍得到 \mathcal G-可测代表。
因此 \mathcal H 也是完备的，在 L^2(\mathcal F) 中是闭子空间。不会出现一列完全由已有信息决定的预测，越逼越近，最后却只能靠额外信息表达的情况。
这里的闭性不是说每个原始点值都有唯一极限，而是说按几乎必然相等识别以后，范数极限仍有一个合法的可观察代表。
我们终于可以寻找最好的预测，而不怕它在逼近过程中失去所在。
9.7 最好的平方预测怎样真正被构造出来？
令
d=\inf_{Z\in\mathcal H}\|X-Z\|_2.由于 0\in\mathcal H，这个下确界有限。选 Y_n\in\mathcal H，使 \|X-Y_n\|_2\to d。
它们会不会在不同方向上来回游走，虽然都快达到最小误差，却彼此并不接近？
平行四边形恒等式阻止了这种可能：
\|Y_n-Y_m\|_2^2
=2\|X-Y_n\|_2^2+2\|X-Y_m\|_2^2
-4\left\|X-\frac{Y_n+Y_m}{2}\right\|_2^2.中点仍属于 \mathcal H，所以最后一项中的平方范数至少为 d^2。右侧因而趋于0。也就是说，接近最优的预测必然彼此接近，否则它们的中点反而能把误差压到下确界以下。
由完备性与闭性，Y_n 在 L^2 中收敛到 Y\in\mathcal H，并有 \|X-Y\|_2=d。
再取任意 H\in\mathcal H。由于 Y+tH 也属于 \mathcal H，实二次式
\|X-Y-tH\|_2^2
=\|X-Y\|_2^2-2t\langle X-Y,H\rangle+t^2\|H\|_2^2在 t=0 达到最小值。因此
\langle X-Y,H\rangle=0.取 H=\mathbf1_A，便得到每个 A\in\mathcal G 上的积分等式。又因为 Y\in L^2\subseteq L^1，它正是我们所寻找的条件期望。
这也证明了投影唯一：若有两个这样的点，它们的差属于 \mathcal H，同时又垂直于 \mathcal H，差的平方范数只能为0。
至此，平方可积情形的存在不是一个借来的承诺。我们用误差极小化产生 Cauchy 列，用完备性留下极限，再从最小误差推出公平的积分等式。
有限分区中的逐块平均，与无限维空间中的正交投影，原来是在做同一件事。
9.8 收益没有有限方差时，公平平均还存在吗？
第二阶矩给了我们几何，却不应该成为求平均的入场条件。
第六章已经允许 X 只有有限的一阶绝对矩。若为了给定信息而突然要求有限方差，就会把许多已经能够积分的收益拒之门外。
先从投影得到的对象中提取一个不需要平方的性质。
若平方可积的 V\ge0，则它的条件期望 W 也非负。否则在 A=\{W<0\}\in\mathcal G 上，\int_AW\,dP<0，与 \int_AV\,dP\ge0 冲突。定义及唯一性还直接给出线性性，因此投影保持次序。
现在令 X\ge0、\mathbb E X<\infty，取
X_n=X\wedge n,\qquad Y_n=\mathbb E[X_n\mid\mathcal G].每个 X_n 有界，已有平方情形的存在证明。由保序性，Y_n 非负且递增，除去一个共同的 \mathcal G-可测零集后，这些不等式可对全部整数 n 同时成立。
取递增极限 Y。单调收敛给出
\mathbb E Y=\lim_n\mathbb E Y_n
=\lim_n\mathbb E X_n=\mathbb E X<\infty.所以 Y 几乎必然有限；在可能的无穷值零集上改成0，仍有一个 \mathcal G-可测、可积的代表。对每个 A\in\mathcal G，再次使用单调收敛：
\int_A Y\,dP
=\lim_n\int_A Y_n\,dP
=\lim_n\int_A X_n\,dP
=\int_A X\,dP.一般实值 X\in L^1，分成 X^+-X^-，分别构造后相减，就得到条件期望。唯一性的证明完全没有使用二阶矩，因此不同构造仍只能给出几乎必然相等的答案。
我们由此得到了完整的存在与唯一性结论：在任意概率空间上，对任意子 \sigma-代数和任意实值可积随机变量，条件期望存在，并且在几乎必然相等的意义下唯一。
原概率空间和 \mathcal G 都不必完备，也不必由可数个事件生成。这里没有假设正则条件分布存在，更没有借用后面才要建立的鞅收敛。
此外，取有界的 \mathcal G-可测权重 \operatorname{sgn}(Y)，得到
\mathbb E|Y|
=\mathbb E[X\operatorname{sgn}(Y)]
\le\mathbb E|X|.结合线性性，这给出了
\|\mathbb E[X\mid\mathcal G]-\mathbb E[Z\mid\mathcal G]\|_1
\le\|X-Z\|_1.平方几何帮助对象诞生，截断使它走进整个可积世界。现在留下来的，是一个不会放大平均绝对误差的算子。
9.8.1 如果连一阶平均都不是有限的，信息还能重新分配它吗？
第六章还留下了一场没有被刚才的结论覆盖的赌博：收益非负，每次实际支付都有限，理论期望却是无穷大。
对这样的收益，不能因为 X\notin L^1，就把一切条件化都宣布为没有意义。非负积分在第六章本来就允许取 +\infty。我们真正需要避免的是没有定义的正负无穷相减。
因此现在允许 X:\Omega\to[0,\infty] 可测，不再要求 \mathbb E X<\infty。仍然截断：
X_n=X\wedge n,\qquad Y_n=\mathbb E[X_n\mid\mathcal G].每个截断量有界，刚才的构造已经适用。选择版本，在一个共同的 \mathcal G-可测零集之外使 0\le Y_n\uparrow；在这个零集上把全部 Y_n 都设为0。于是可以处处定义
Y=\lim_{n\to\infty}Y_n\in[0,\infty].它是 \mathcal G-可测的。对每个 A\in\mathcal G，两次单调收敛给出
\int_A Y\,dP
=\lim_n\int_A Y_n\,dP
=\lim_n\int_A(X\wedge n)\,dP
=\int_A X\,dP.这些等式允许两边同时为 +\infty。这就是非负随机变量的扩展条件期望。当 \mathbb E X<\infty 时，它与前面的可积条件期望一致；期望无穷时，则不能再保证 Y 几乎必然有限。
唯一性仍成立，但不能直接在两个可能为无穷的版本之间写差。设 Y,Z\ge0 都满足定义，取
A_m=\{Y<Z,\ Y\le m\}\in\mathcal G.因为 \int_{A_m}Y\,dP\le m，相同的事件积分条件使 \int_{A_m}Z\,dP 也有限。现在才可以相减，得到 \int_{A_m}(Z-Y)\,dP=0。被积差在 A_m 上严格为正，故 P(A_m)=0。对 m 取可数并，再交换 Y,Z，就得到包括无穷值在内的几乎必然唯一性。这也说明，换一列非负、有界、递增到 X 的逼近，不会改变答案。
回到第六章的具体收益：
P(X=2^k)=2^{-k},\quad k\ge1,
\qquad P(X<\infty)=1,\quad \mathbb E X=\infty.如果什么也不知道，\mathcal G=\{\varnothing,\Omega\}，条件平均只能是一个常数；事件 \Omega 上的积分迫使
\mathbb E[X\mid\{\varnothing,\Omega\}]=+\infty
\quad\text{a.s.}如果已经看见收益本身，则
\mathbb E[X\mid\sigma(X)]=X<\infty
\quad\text{a.s.}同一场赌博，在完全不了解结果时有无穷的非负平均，在已经看见结果时却只剩那笔有限支付。这不是信息把无穷“算错”了，而是无穷平均原本就来自许多稀少的大额支付；看见具体结果以后，那些尚未区分的可能性不再混在一起。
这里的无穷期望仍不自动成为现实中的合理入场费，第六章关于风险、财富与定价假设的区别继续有效。对正负两部分期望都无穷的收益，也不能用本节把 \infty-\infty 包装成条件期望。
这个构造同时给出了不要求极限可积的条件单调收敛：若 0\le V_n\uparrow V，条件平均的递增极限在每个 A\in\mathcal G 上保留 V 的积分，刚证明的唯一性便使
\mathbb E[V_n\mid\mathcal G]\uparrow\mathbb E[V\mid\mathcal G]
\quad\text{a.s.}第9.13节将在可积控制下进一步研究极限。现在我们先记住：非负性本身已经允许平均走向无穷，而不使定义失去意义。
9.9 已经知道的东西，为什么可以从条件平均里拿出来？
条件期望已经存在，接下来不必靠猜公式。每个性质都可以交回那两项要求：可观察，以及保留事件上的积分。
下面先回到实值可积的收益 X，在需要平方损失时再明确加入二阶矩条件。非负、允许无穷的对象依然可以使用，但不能未经检查就参与带符号的相减。
若 X 本身是 \mathcal G-可测的，它已经是一个合法代表，所以
\mathbb E[X\mid\mathcal G]=X\quad\text{几乎必然}.取 A=\Omega，得到总期望公式
\mathbb E\,\mathbb E[X\mid\mathcal G]=\mathbb E X.如果 X 与 \mathcal G 独立，则对每个 A\in\mathcal G，
\mathbb E[X\mathbf1_A]=\mathbb E X\,P(A).先对 X 的非负简单函数验证，再以截断及积分极限推广，就得到上式。因此
\mathbb E[X\mid\mathcal G]=\mathbb E X.没有提供相关信息的观察，不能改变平均；但反向结论一般不成立，我们稍后会看到原因。
若 H 有界且 \mathcal G-可测，那么
\mathbb E[HX\mid\mathcal G]
=H\,\mathbb E[X\mid\mathcal G].证明也揭示了这个式子的含义。右侧可积且可观察；对 A\in\mathcal G，把定义中的有界权重取成 H\mathbf1_A，积分立刻相等。已经看见的数量不必在尚未看见的情形中重新平均。
这个性质也能用于无界的 H，但必须检查积分。若 H 实值、\mathcal G-可测且 HX\in L^1，则由保序性，
|\mathbb E[X\mid\mathcal G]|
\le\mathbb E[|X|\mid\mathcal G].把 |H| 截断，先使用有界权重等式，再单调取极限，得到
\mathbb E\!\left[|H|\,\mathbb E[|X|\mid\mathcal G]\right]
=\mathbb E|HX|<\infty.故右侧乘积也可积。对截断的 H 使用已有等式，两侧分别用 L^1 收缩性及控制收敛取极限，就证明无界情形的提出性质。
这里不是把形式上的“已知常数”口号无限延伸。真正允许提出去的，是可测性与可积性共同保证的数量。
9.10 先看得更多，再忘掉一部分，为什么会回到同一个平均？
仍在那场游戏里，想象有两位观察者。一位看见已经结束的两局，另一位只看见第一局。
第一位可以知道最终收益，第二位只能知道它在自己情形中的平均。如果先让第一位算完，再把他的答案交给第二位平均，应该与第二位直接对最终收益平均相同。
数学中的条件是，两份信息确实存在包含关系：
\mathcal H\subseteq\mathcal G\subseteq\mathcal F.令 Y=\mathbb E[X\mid\mathcal G]，再令 Z=\mathbb E[Y\mid\mathcal H]。对每个 A\in\mathcal H，它同时属于 \mathcal G，所以
\int_A Z\,dP=\int_A Y\,dP=\int_A X\,dP.Z 又是 \mathcal H-可测的。由唯一性，
\mathbb E[\mathbb E[X\mid\mathcal G]\mid\mathcal H]
=\mathbb E[X\mid\mathcal H].这叫塔式性质。反过来，已经关于较少信息平均过的变量，本身也能被较多的信息读出，因此
\mathbb E[\mathbb E[X\mid\mathcal H]\mid\mathcal G]
=\mathbb E[X\mid\mathcal H].信息包含关系在两条等式中承担了不同工作：第一条使每个检验事件能够跨过两层积分，第二条使内层答案已经可观察。
若两份信息没有嵌套，就不能把条件期望随意交换。
取三个等可能样本点，令 X=(0,0,3)。让 \mathcal G 区分第三点与前两点，让 \mathcal H 区分第一点与后两点。逐块计算可得
\mathbb E[X\mid\mathcal G]=(0,0,3),
\qquad
\mathbb E[X\mid\mathcal H]=(0,3/2,3/2).再平均一次，
\begin{aligned}
\mathbb E[\mathbb E[X\mid\mathcal G]\mid\mathcal H]
&=(0,3/2,3/2),\\
\mathbb E[\mathbb E[X\mid\mathcal H]\mid\mathcal G]
&=(3/4,3/4,3/2).
\end{aligned}它们并不相同。
遗忘一种细节，再按另一种分类重新分配平均，可能与反过来操作不同。塔式性质描述的是嵌套的信息，不是任意两个“平均按钮”都能够交换。
9.11 平均以后仍然非线性，为什么凸函数会留下一个方向？
第六、七章曾经警告我们：一个非线性操作通常不能随意穿过平均。给定信息以后也是如此。
如果 \varphi 是凸函数，情况却有一个确定的方向：
\varphi(\mathbb E[X\mid\mathcal G])
\le\mathbb E[\varphi(X)\mid\mathcal G]
\quad\text{几乎必然}.这里先假设 \varphi:\mathbb R\to\mathbb R 是有限凸函数，X\in L^1，并且 \varphi(X)\in L^1。这既说清积分的意义，也避免用未定义的无穷量相减。
为什么一个关于整条曲线的判断，能从条件平均中得到？
凸曲线可以由它下面的支撑直线恢复。更精确地，可选一列仿射函数
\ell_j(x)=a_jx+b_j,\qquad
\ell_j\le\varphi,\qquad
\varphi(x)=\sup_{j\ge1}\ell_j(x).只需在有理点选支撑斜率即可。有限凸函数在每个有界区间内部连续，邻近有理点的支撑斜率又被稍大区间的割线斜率夹住；让有理点趋向 x，对应直线在 x 的值便趋向 \varphi(x)。这样把原来可能不可数的一批支撑，收在了可数列中。
对每条直线，保序性与线性性给出
a_j\mathbb E[X\mid\mathcal G]+b_j
\le\mathbb E[\varphi(X)\mid\mathcal G].可数多个几乎必然成立的不等式，可以在同一个满概率集合上同时成立。取上确界，便得到条件 Jensen 不等式。
它还证明左侧可积：左侧从下被任意一条可积仿射函数控制，从上被右侧这个可积变量控制，所以正负部分都可积。
在这里，可数性又一次承担了看不见却关键的责任。不能先为不可数条直线分别选零集，再毫无检查地把它们全部合并。
取 \varphi(x)=|x|^p，对 1\le p<\infty 和 X\in L^p，得到
|\mathbb E[X\mid\mathcal G]|^p
\le\mathbb E[|X|^p\mid\mathcal G],
\qquad
\|\mathbb E[X\mid\mathcal G]\|_p\le\|X\|_p.当 p=\infty 时，从 -M\le X\le M 与保序性直接得到相同的范数收缩；再让 M 逼近本质上界即可。
因此，这种平均同时尊重所有这些误差尺度。不过，它并没有在所有 L^p 损失下都是最佳预测：正交与平方损失有特殊关系，绝对损失的最佳预测一般是条件中位数，不能把平方情形的结论原样推广。
9.12 剩下的随机性，怎样与已经解释的部分分开？
回到 X\in L^2，记 Y=\mathbb E[X\mid\mathcal G]。对任意 Z\in L^2(\mathcal G)，
X-Z=(X-Y)+(Y-Z).第一项与所有 \mathcal G-可测的平方可积变量正交，第二项正是这样的变量。展开平方，交叉项消失：
\mathbb E(X-Z)^2
=\mathbb E(X-Y)^2+\mathbb E(Y-Z)^2.所以 Y 是所有使用这份信息的平方可积预测中，均方误差最小的一个；等号达到同一个最小值，只可能发生在 Z=Y 几乎必然时。
这条恒等式比“条件期望最优”更具体。它告诉我们，换用任何其他可观察预测所增加的损失，恰好是它与条件平均之间的平方距离。
把尚未被信息解释的波动记为
\operatorname{Var}(X\mid\mathcal G)
=\mathbb E[(X-Y)^2\mid\mathcal G].这是一个非负可积随机变量。利用上一节的 L^2 收缩以及第9.9节已经证明的无界提出性质，可展开为
\operatorname{Var}(X\mid\mathcal G)
=\mathbb E[X^2\mid\mathcal G]-Y^2.这里 XY 可积，由 Cauchy–Schwarz 保证；Y^2 可积，由 L^2 收缩保证。因此提出 Y 时没有越过积分的定义域。
再取总期望，并把 \mathbb E X 加减进去，得到
\operatorname{Var}(X)
=\mathbb E[\operatorname{Var}(X\mid\mathcal G)]
+\operatorname{Var}(\mathbb E[X\mid\mathcal G]).总波动分成两部分：在每种已知情形内部仍未消失的波动，以及不同已知情形之间平均值的波动。
这不是把随机性简单变少了，而是辨认了哪些差别已经可以由信息解释。
若 \mathcal H\subseteq\mathcal G，关于 \mathcal H 的最佳预测也属于 L^2(\mathcal G)，所以增加信息不会增加最小均方误差：
\mathbb E\!\left(X-\mathbb E[X\mid\mathcal G]\right)^2
\le
\mathbb E\!\left(X-\mathbb E[X\mid\mathcal H]\right)^2.这里比较的是平均损失。不要据此宣称两种条件方差在每个样本点上都按同样方向排列；不同信息把世界分成了不同的情形，逐点比较没有这个一般保证。
9.12.1 知道一个量，与只允许画一条直线，有什么不同？
还是令 U 在 [-1,1] 上均匀分布，收益 X=U^2。
如果完整观察 U，那么
\mathbb E[X\mid\sigma(U)]=U^2.但如果只允许用 a+bU 这种直线预测，最佳答案却是常数 1/3：对称性使 \mathbb E U=\mathbb E U^3=0，而 \mathbb E U^2=1/3；展开 \mathbb E(U^2-a-bU)^2，最小值在 a=1/3,b=0 达到。
两种投影使用的子空间不同。条件期望允许一切平方可积的可观察函数，而线性回归只允许其中的线性组合。除非有额外结构，不能把线性预测当成条件期望。
反过来，若收益为 U，我们只观察 U^2，则
\mathbb E[U\mid\sigma(U^2)]=0.因为对任何有界 Borel 函数 h，u\,h(u^2) 是奇函数，其在对称区间上的积分为0。这正是定义中的有界检验条件。
平均没有改变，却不表示观察毫无信息。事件 \{|U|\le1/2\} 已被 U^2 完全确定，概率为 1/2。如果 U 与 U^2 独立，这个同属于两份信息的事件与自身的交应有概率 1/4，而实际仍为 1/2。
一种收益的条件均值没有变化，只说这份观察没有改变它的平均；独立性则要求所有可测事件的概率关系都分离。后者远强于前者。
9.13 第七章的尖峰，在给定信息以后会怎样？
我们已经知道怎样作一次条件平均。若收益本身随近似改变，条件平均会不会跟着稳定？
对于 L^1 收敛，答案直接来自收缩性：
X_n\longrightarrow X\text{ 于 }L^1
\quad\Longrightarrow\quad
\mathbb E[X_n\mid\mathcal G]
\longrightarrow\mathbb E[X\mid\mathcal G]\text{ 于 }L^1.相同论证适用于有限 p\ge1 的 L^p 收敛。这里固定同一个 \mathcal G；不断增加的信息系统会提出另一类极限问题。
若只有几乎必然收敛，答案则可能失败。
在 (0,1) 上取 Lebesgue 概率，令
X_n=n\mathbf1_{(0,1/n)}.它几乎处处趋向0，而 \mathbb E X_n=1。当 \mathcal G=\{\varnothing,\Omega\} 什么也不告诉我们时，
\mathbb E[X_n\mid\mathcal G]=1始终成立。
第六章的尖峰没有因“条件”二字而消失。没有充分控制尾部，逐条记录的极限仍可能带不走平均。第七章的一致可积性正是在这里重新接上来：依概率收敛加上 UI 给出 L^1 收敛，继而让条件平均也在 L^1 中收敛。
但控制收敛还会给出一个更强的、逐条记录的结论。
先看条件单调收敛。若 0\le V_n\uparrow V 且 V\in L^1，则 \mathbb E[V_n\mid\mathcal G] 保序递增。其极限的总期望不超过 \mathbb E V，每个 A\in\mathcal G 上的积分又由单调收敛趋向 \int_AV\,dP。唯一性表明
\mathbb E[V_n\mid\mathcal G]\uparrow\mathbb E[V\mid\mathcal G]
\quad\text{几乎必然}.若 X_n\to X 几乎必然，且 |X_n|\le Z\in L^1，在共同满概率集合上有 |X|\le Z。定义
R_n=\sup_{k\ge n}|X_k-X|.它满足 0\le R_n\le2Z、R_n\downarrow0 几乎必然。将刚才的单调结论用于 R_1-R_n\uparrow R_1，得到
\mathbb E[R_n\mid\mathcal G]\downarrow0
\quad\text{几乎必然}.而
\left|\mathbb E[X_n\mid\mathcal G]-\mathbb E[X\mid\mathcal G]\right|
\le\mathbb E[R_n\mid\mathcal G].这便证明了条件控制收敛：条件期望几乎必然收敛；同时，普通控制收敛与 L^1 收缩又保证其 L^1 收敛。
为什么要引入整个尾部的上确界？单次误差的平均趋零，只能直接给出 L^1 控制；尾部包络把所有未来误差一起压住，才得到了逐点的最终安静。
四种收敛的区别，在条件平均内部依旧存在。条件期望不是抹平这些区别的工具，而是让我们更清楚地看见，哪些极限真正保住了平均。
9.14 第二章的硬币，怎样进入同一个无限概率世界？
现在回到那枚不知道正面概率的硬币。
第二章曾从有限记录计算后验。第八章已经使我们有资格把未知参数和无限记录放在一起，而不是每计算一次就临时搭建一份模型。
用 \Theta\in[0,1] 表示未知正面概率，先取均匀先验。对于每个有限记录 x_1,\ldots,x_n\in\{0,1\}，规定联合概率
P(\Theta\in d\theta,\ X_1=x_1,\ldots,X_n=x_n)
=\theta^{s}(1-\theta)^{n-s}\,d\theta,
\qquad s=\sum_{j=1}^n x_j.端点处的幂仍按 Bernoulli 取值概率的乘积理解。对所有记录求和，总质量为1；删去最后一项，相当于乘上 \theta+(1-\theta)=1，所以这些有限规则一致。
把参数坐标与逐次硬币坐标合在一个可数乘积中，第八章的标准 Borel 扩张给出了共同概率空间。我们在这里并未先假设一般条件分布核的存在；先写下有限联合规则，再让扩张承担存在责任。
记
\mathcal F_n=\sigma(X_1,\ldots,X_n),
\qquad S_n=X_1+\cdots+X_n.每个有限记录都有正概率。第9.2节的分区公式给出
\mathbb E[\Theta\mid\mathcal F_n]
=
\frac{\int_0^1\theta^{S_n+1}(1-\theta)^{n-S_n}\,d\theta}
{\int_0^1\theta^{S_n}(1-\theta)^{n-S_n}\,d\theta}.这个比值可以完全算出。对非负整数 a,b，令
I_{a,b}=\int_0^1\theta^a(1-\theta)^b\,d\theta.当 b\ge1，分部积分，边界项为0，得到
I_{a,b}=\frac{b}{a+1}I_{a+1,b-1}.再由 I_{a,0}=1/(a+1) 逐次回代，
I_{a,b}=\frac{a!\,b!}{(a+b+1)!}.因此
M_n:=\mathbb E[\Theta\mid\mathcal F_n]
=\frac{S_n+1}{n+2}.有限记录的顺序会改变，但只要正面总数相同，这个条件平均就相同。这里的“只需要记住总数”是刚才的联合模型与具体积分算出来的事实，不是把一般统计充分性理论偷偷当成已经证明。
对下一次硬币也直接使用同一联合规则：
P(X_{n+1}=1\mid\mathcal F_n)=\frac{S_n+1}{n+2}=M_n.分子比当前记录的概率多出一个 \theta 因子，因而得到与上面相同的积分比值。未知参数的条件均值，与下一次成功的预测概率，在这个模型中恰好统一了。
这不是说真实世界的每枚未知硬币都必须有均匀先验。它说明，一旦选择了一份明确的联合概率，推断、预测与给定信息后的平均，就必须在同一份账本中相互一致。
9.15 一份不断改变的判断，怎样仍然是一场公平游戏？
继续观察 M_n。
第一次若出现正面，它从 1/2 上升到 2/3；若出现反面，则下降到 1/3。之后的记录还会让它改变。我们并没有得到一列逐点单调的判断。
公平赌博的想法比现代鞅理论古老得多，二者却不能直接画上等号。Ville 的1939年著作从赌博策略检验“随机集体”的概念；Doob 后来回忆，自己评阅此书时受到其中最大不等式和 Bernoulli 强大数律论证的启发。Ville 原著档案 · Doob 本人访谈。
Lévy 在1935年的随机级数研究中，也已讨论由逐步观察得到的条件概率及其极限；用今天的语言看，这是鞅极限理论的一条早期道路，而不是说原文已经采用我们下面的整套定义。Lévy 原论文。Doob 将公平关系、增加的信息与随机观察时刻组织成系统理论，并在1953年的 Stochastic Processes 中作广泛展开。因而下面的等式既连接老问题，也属于后来才清楚定型的数学结构；不能把它的全部内容归给某一场古代赌博。
但塔式性质保证
\mathbb E[M_{n+1}\mid\mathcal F_n]
=\mathbb E[\mathbb E[\Theta\mid\mathcal F_{n+1}]\mid\mathcal F_n]
=\mathbb E[\Theta\mid\mathcal F_n]
=M_n.所以，在现有信息看来，下一次更新没有系统地向上或向下偏移。
更一般地，让信息依次增加：
\mathcal F_0\subseteq\mathcal F_1\subseteq\cdots.这样的信息流称为滤过。对任意可积的最终收益 X，令
M_n=\mathbb E[X\mid\mathcal F_n].每个 M_n 可积、\mathcal F_n-可测，并满足相同的公平等式。这就是鞅的基本结构：在自己的信息流中可观察，并且下一步的条件平均等于当前值。
我们先在这里看见它，而不急于把所有鞅定理搬到面前。因为此刻真正产生的是一个新问题。
如果信息越来越多，这些重新计算的价格会不会稳定？若
\mathcal F_\infty=\sigma\left(\bigcup_n\mathcal F_n\right),是否有
M_n\longrightarrow\mathbb E[X\mid\mathcal F_\infty]?在哪一种收敛意义下？仅仅可积是否够？不断增加的信息，与第七章的尾部控制又有什么联系？
这些都不是塔式等式自己证明的。一个步步公平的过程仍需要极限理论；“最终知道全部信息”也需要说明全部信息究竟包含什么。
在硬币模型中，还会进一步问，整条记录是否几乎必然识别 \Theta。那又把条件化与独立序列的大数规律连接起来。我们已经看见连接的接口，不应在接口处假装已经走完所有道路。
第一章里的公平游戏，至此不再局限于一笔赌金。一个不断吸收新观察的判断，本身也能够成为公平过程。
9.16 条件均值已经存在，是否也已经得到每个观察值上的概率世界？
给定事件 A\in\mathcal F，可以定义
P(A\mid\mathcal G)=\mathbb E[\mathbf1_A\mid\mathcal G].保序性保证它几乎必然位于0与1之间。若 A_j 是一列不交事件，有限线性性与条件单调收敛给出
P\left(\bigcup_{j\ge1}A_j\mid\mathcal G\right)
=\sum_{j\ge1}P(A_j\mid\mathcal G)
\quad\text{几乎必然}.每一份预先指定的可数关系，都可以在除去一个零集后成立。
可是，这还没有自动给出一个对每个样本点都同时满足所有概率公理的映射
(\omega,A)\longmapsto K(\omega,A).不同事件的版本可以使用不同例外集；不同可数关系的例外集也可能不同。不能把不可数多种要求的零集全部合并，便宣称剩下一个共同的满概率世界。
如果确实有这样的 K，其中对每个 \omega，A\mapsto K(\omega,A) 是概率，而对每个 A，\omega\mapsto K(\omega,A) 是 \mathcal G-可测并给出条件概率的一个版本，那么我们得到的才是相应的正则条件概率核。为随机元素构造标准 Borel 状态空间上的条件分布核，是后面需要建立的更有结构的存在结论；对任意原始可测空间，不能不加条件地照搬。
即使只考虑实值观察 Z，也要小心点值的含义。
一个实值 \sigma(Z)-可测变量 Y，确实可写成某个 Borel 函数 g 作用于 Z：
Y=g(Z).这个可测分解可直接证明。先用 \sigma(Z)-可测简单函数逐点逼近 Y。每个简单函数的水平集都能写成 Z^{-1}(B)，因此该简单函数等于某个 Borel 简单函数作用于 Z。把这些 Borel 函数在收敛到有限值的点上取极限，在其余点设为0，就得到所需 g。原像中的表达保证在 Z(\Omega) 上逐点得到 Y。
所以 \mathbb E[X\mid\sigma(Z)] 可以写成 g(Z)。但 g 只在 Z 的分布几乎处处意义下确定。
若 Z 连续分布，对一个固定 z_0 修改 g(z_0)，仍可能给出同一个条件期望版本。于是“给定 Z=z_0”不能在没有版本约定或额外连续结构时，被理解为唯一确定的点值答案。
例如 X=U、Z=U 时，可以取 g(u)=u。在某个固定零概率点把 g 改成别的值，g(U) 仍与 U 几乎必然相等。自然的表达可以很好，数学上允许的版本却不只这一种。
我们并没有失去定义。恰恰相反，先把几乎必然的对象说明白，才能进一步提出哪些点值结构值得保留、又有哪些结构能够被证明存在。
9.17 一种新的密度，为什么出现在信息内部？
对非负可积 X，在 \mathcal G 上定义一份测度
\nu(A)=\int_A X\,dP,\qquad A\in\mathcal G.它可数可加，且若 P(A)=0，就有 \nu(A)=0。因此
\nu\ll P|_{\mathcal G}.条件期望 Y 的定义恰好说
\nu(A)=\int_A Y\,dP\quad(A\in\mathcal G).也就是说，Y 是这份测度相对于已知信息中原概率的密度。
第六章曾把离散权重与 Lebesgue 积分统一起来。如今，条件平均又把我们带到测度之间的比较：一份测度能不能通过另一份测度上的权重来表达？
这就是 Radon–Nikodym 理论将要系统回答的问题。本章已经自证了条件期望所需的这个特殊密度存在，但并未因此证明任意两个绝对连续测度之间的一般密度定理。我们没有先借一般定理得到条件期望，再反过来用同一个条件期望冒充一般定理的证明。
对于实值观察 Z，也可以把这份账搬到观察空间。记它的分布为 \mu_Z，并定义
\nu_Z(B)=\mathbb E[X\mathbf1_{\{Z\in B\}}],
\qquad B\in\mathcal B(\mathbb R).若 Y=g(Z) 是条件期望，则变量代换给出
\nu_Z(B)=\int_Bg(z)\,\mu_Z(dz).这让我们看见了后续理论的自然顺序：先解释怎样在测度之间建立密度，再解释怎样把所有条件事件组织成一个概率核，最后让这个核逐步选择下一次实验。
第八章从有限窗口走向共同概率，第九章在共同概率中分清已知与未知。核的构造将把两条道路接在一起，使“按当前状态生成下一步”成为一个真正可证明存在的无限实验。
第九章结语：公平不是知道未来，而是不浪费已经知道的事情
让我们最后一次回到桌上的64枚金币。
没有人因为掌握条件期望，就能预言尚未打完的比赛。最终收益依然随机，赢家仍未出现。
我们得到的是另一种能力：每当新的情况被看见，就重新计算一份只使用这些情况的价格；而在任何能够根据这些情况辨认的事件中，这份价格都与真实收益保留同一份平均。
有限分区里的逐块相除，曾让这种想法看起来只是几行算术。连续观察使分母变成零，迫使我们把条件从单点搬到事件系统；平方误差使事件上的公平变成正交，完备性使越来越好的预测留下极限，截断又使这份平均越过有限方差的边界。
于是，第一章的公平定价、第二章的 Bayes 更新、第六章的积分与第七章的极限控制，终于在同一个对象中相遇。
同一个期望，可以在不同的信息层次中重新计算。观察越多，并不表示每一步判断都向同一方向移动；它表示能够辨认的差别越来越多，已经知道的细节不必继续混在未知的波动里。
但如果我们不仅想知道一个平均，还想知道每一种未来结果的条件规律，就必须让这些分别存在的答案成为一份彼此相容的概率。若下一步实验又依赖当前状态，这份概率还必须随状态可测地改变。
所以，我们又站在一个熟悉的门槛前：逐个问题都有答案，是否足以使所有答案共同组成一个世界？
下一章，我们将从两份测度之间的相对密度出发，走向条件分布与概率核。我们不再只把窗口拼成记录，还要理解：当信息改变时，记录的下一步怎样被选择。
无限世界已经有了所在。现在，我们开始学习怎样在其中观察。
历史与进一步阅读
第一章的赌金分配与第二章的 Bayes 硬币，提供本章的历史问题来源；这里的四记录算例、\sigma-代数信息语言、几何构造及后验过程，是现代数学重建，不归作 Pascal、Fermat 或 Bayes 当时已经使用的抽象理论。
Kolmogorov 的1933年原书，在数学期望之后另设条件概率与条件期望的章节。这个可核实的目录事实，说明条件化是其基础框架中的明确主题；它不表示本章的投影证明复刻原书。原书记录与目录。
现代定义和理论接口可对照 MIT 18.175，Scott Sheffield，条件期望讲义。本章的证明从前面已经建立的积分、收敛与无限实验发展，有限分区、L2构造、L1截断和信息边界的安排由本书自身问题决定。
全书理论广度参照仍为 Kallenberg，Foundations of Modern Probability，第三版。官方书目与目录。这里只用它核对条件化、测度分解、核与后续随机过程之间应有的理论范围，不移用其正文或章节推进方式。
本次正文中的鞅史背景分别据 Ville 的原著档案、Lévy 的1935年论文与 Doob 本人访谈核对。早期工作中的条件概率极限，与现代滤过、停时和鞅体系的系统表述，在叙述中分开处理；本章的赌金、投影和截断证明仍是现代数学重建。