Haobai Wang · 公开阅读版 · ch12-zh-08a787e5184f
内容指纹用于核对本章文本，不表示学术终审或独立的作者身份证明。
SHA-256: 08a787e5184f58c7ff205099719c6ee18effc835cd212560ccc416c22ce0d62e
《偶然的数学》
第二卷 · 无限世界中的概率
第十二章：无穷多次相加，何时仍有答案？
桌上的账本还没有合上。
上一章让我们在实验次数不断增加时，听见了终点分布中的 Gaussian 轮廓。但一位一直做下去的实验者，并不是每次都站在另一份世界里。他只有一条不断延长的记录：昨天的误差不会因为今天重新计算分布就被擦掉，偶尔到来的巨额损失也不会因为概率很小就自动消失。
第七章已经证明，公平硬币的频率沿着几乎每条记录稳定下来。那是一个真正的无限时间结论，却还不是最后的答案。硬币收益有界、分布相同，尾部没有机会藏起一笔无法承受的账。若每次收益都不同，若误差越来越小却永远不能绝对求和，若平均收益存在而方差不存在，稳定还能保住吗？
我们需要从终点转向途中，从一次偏差转向所有未来偏差。最后会发现，随机相加的困难可以被拆成三种互不替代的机制：偶发的大跳、持续的漂移、以及中心化之后仍然积累的波动。
12.1 一个终点没有失控，不代表途中没有越界
设独立实随机变量 X_k 已经中心化，\mathbb EX_k=0，且各有有限方差。写 S_n=X_1+\cdots+X_n。第十一章研究 S_n 的分布，第六章的二阶估计则给出 Chebyshev 不等式：
P(|S_n|\ge u)\le\frac{\mathbb ES_n^2}{u^2}=\frac1{u^2}\sum_{k=1}^n\operatorname{Var}(X_k),\qquad u>0.但是，我们想问的是 \max_{1\le k\le n}|S_k| 会不会超过 u。某条记录可能先大幅偏离，又在终点回到原处。若对每个时刻分别使用 Chebyshev，再把概率相加，同一份方差会被反复计算，代价可能随时间变得无法使用。
应该怎样只计算一次越界？最自然的办法不是猜测最危险的时刻，而是把每条越界记录交给它第一次越界的那个时刻。之后的误差还没有发生；独立性会使它们无法系统地抹去已经发生的偏差。
Kolmogorov 在1928年发表的论文题为“独立随机量之和”。这个题目正落在我们面对的问题上：原刊记录。这里仅据出版记录说明这一研究主题；下面按已经建立的测度与积分语言组织证明，不声称复现该论文的原始叙述或逐条定理版本。
12.2 把每条记录交给第一次越界
定义互不相交的事件 A_k=\{|S_j|<u\ (j<k),\ |S_k|\ge u\}。它只由前 k 次实验决定，所以独立于未来的和 S_n-S_k。有限组独立如何推广到它们生成的事件，正由π–λ 定理保证；这里不需要可选停止定理。
展开平方。交叉项的期望为零，因为 S_k\mathbf1_{A_k} 可积，未来的和可积、均值为零，且两者独立。其余的未来平方项非负。因此
\mathbb E[S_n^2\mathbf1_{A_k}]=\mathbb E[S_k^2\mathbf1_{A_k}]+\mathbb E[(S_n-S_k)^2\mathbf1_{A_k}]\ge u^2P(A_k).把互不相交的首次越界事件加起来，它们只使用终点二阶矩中的一部分，便得到 Kolmogorov 极大不等式：
P\left(\max_{1\le k\le n}|S_k|\ge u\right)\le\frac{1}{u^2}\sum_{k=1}^n\operatorname{Var}(X_k).右边与刚才只控制终点的估计一样。我们没有为每个时刻再付一次代价。这并不是说路径没有额外困难，而是说独立、中心化的未来增量，使第一次越界留下的二阶成本无法在平均意义下被撤销。
把起点移到 m，再让终点 N 趋于无穷，事件从下连续性给出
P\left(\sup_{n\ge m}\left|\sum_{k=m}^nX_k\right|>u\right)\le\frac{1}{u^2}\sum_{k=m}^\infty\operatorname{Var}(X_k).这条不等式第一次同时抓住了从现在到无限未来的所有部分和。第七章的 Borel–Cantelli 引理，终于有了一批适合送进去的事件。
12.3 方差的总预算有限，误差就能真正加完
假设 X_n 独立、中心化，且 \sum_n\operatorname{Var}(X_n)<\infty。选确定的递增整数 m_j，使从 m_j 开始的方差尾和不超过 2^{-3j}。在上一节取 u=2^{-j}，得到
P\left(\sup_{n\ge m_j}|S_n-S_{m_j-1}|>2^{-j}\right)\le2^{-j}.概率可求和。由 Borel–Cantelli 第一引理，几乎每条记录上，所有充分大的 j 都不再发生这样的越界。于是任意 n,l\ge m_j 满足 |S_n-S_l|\le2^{1-j}。这正是整列部分和的 Cauchy 条件，而不只是某个挑选子列的收敛。实数完备性给出有限极限 S；把例外可测零集上的 S 定义为0，可得可测版本。
还可以知道这种收敛在平均平方意义下也成立。固定起点后，对未来终点使用 Fatou，而不是未经证明就把极限穿过平方积分：
\mathbb E|S-S_n|^2\le\liminf_{N\to\infty}\mathbb E|S_N-S_n|^2=\sum_{k>n}\operatorname{Var}(X_k)\longrightarrow0.因此，独立中心化且方差可求和的级数，几乎必然并且在 L^2 中收敛。这里的二阶矩是每项都有、总预算有限，不要求同分布。对于一般有均值的独立变量，把它们先中心化，得到 \sum_n(X_n-\mathbb EX_n) 的相同结论。
例如独立公平符号 \varepsilon_n=\pm1 产生随机调和级数 \sum_n\varepsilon_n/n。它的绝对值之和是发散的调和级数，但方差之和为 \sum_n n^{-2}<\infty，所以原级数几乎必然收敛。随机抵消不是逐项变小的别名：若把所有符号都取成同一个公平符号 Z，则 X_n=Z/n 仍有相同的方差和，却沿每条记录发散。独立性正是极大不等式中不能删去的条件。
然而，方差可求和只是一个充分条件。令 X_n 以各 1/(2n^2) 的概率取 n 与 -n，其余时候取0，并使各项独立。非零事件的概率之和有限，所以几乎每条记录只有有限项非零，级数当然收敛；但每项方差都是1。我们不能把一个好用的估计误认成最终判别。
12.4 无穷远之后还剩下什么信息？
刚才的稀有跳跃反例提示：有限次发生的事情可以改变级数的值，却不能改变它是否收敛。这个区别值得先停下来。它把“前面发生了什么”与“无穷远之后仍然成立什么”分开。
令 \mathcal F_m=\sigma(X_1,\ldots,X_m)，\mathcal F_\infty=\sigma(X_1,X_2,\ldots)，并定义尾部 \sigma-代数
\mathcal T=\bigcap_{m\ge1}\sigma(X_{m+1},X_{m+2},\ldots).这里的独立性推广可逐步核对。固定 m，先取由前 m 个坐标构成的矩形事件，以及只涉及 m 之后有限多个坐标的柱集；有限独立性使其交概率分解。固定后者，对前者应用 π–λ 定理，推广到整个 \mathcal F_m；再固定这个推广后的前部事件，对后部柱集应用同一定理，推广到 \sigma(X_{m+1},X_{m+2},\ldots)。所以这两份信息确实独立，不是把无限独立性作为新的假设。
级数收敛事件 C 确实属于它，而不只是直觉上“不怕删掉前几项”。对任意 m，Cauchy 条件可以写成
C=\bigcap_{r\ge1}\ \bigcup_{N\ge m+1}\ \bigcap_{q\ge p\ge N}\left\{\left|\sum_{k=p}^qX_k\right|\le\frac1r\right\}.这是可数集合运算，并只使用 m 之后的坐标，所以 C\in\mathcal T。若 A\in\mathcal T，独立性和 π–λ 推广使 A 独立于每个 \mathcal F_m。对固定 A，事件类 \{B:P(A\cap B)=P(A)P(B)\} 是 \lambda-系统，包含 \bigcup_m\mathcal F_m。这个并是代数，生成 \mathcal F_\infty，所以 A 独立于全部 \mathcal F_\infty，尤其独立于它自己。
P(A)=P(A\cap A)=P(A)^2,\qquad P(A)\in\{0,1\}.这就是 Kolmogorov 0–1律。无限实验没有变成确定实验；第一枚硬币仍然随机。被迫平凡的，只是任何有限开头都不能决定的尾部事件。级数收敛因此不是一个介于0与1之间的机会：对独立项，它要么几乎必然发生，要么几乎必然不发生。可是0–1律没有告诉我们是哪一种。
同样，一个有限实值的尾部可测随机变量必几乎必然为常数：其每个有理阈值事件都只有0或1的概率，单调性与实值性把这些阈值压向同一个分界点。但收敛级数的和一般不是尾部变量，因为改动第一项会改动总和。不能把“收敛与否是尾部事件”误读为“极限没有随机性”。
12.5 把一本无限账本拆成三份
选一个固定阈值 a>0，把大跳暂时放在账本旁边，记
Y_n=X_n\mathbf1_{\{|X_n|\le a\}},\qquad b_n=\mathbb EY_n,\qquad v_n=\operatorname{Var}(Y_n).原来的 X_n 可以根本没有均值，但 Y_n 有界，所以这两项读数总有定义。若大跳只发生有限次，原级数与截断级数的收敛性相同；截断级数再分成确定漂移与中心化波动。因此三个自然的问题是
\sum_nP(|X_n|>a)<\infty,\qquad\sum_nb_n\ \text{converges in }\mathbb R,\qquad\sum_nv_n<\infty.Kolmogorov 三系定理。 对独立实随机变量 X_n，\sum_nX_n 几乎必然收敛，当且仅当这三个条件对某个 a>0 成立。若收敛，它们对每个 a>0 都成立。中间的均值级数只要求通常的实数收敛，不要求绝对收敛。
充分性已经握在手里。第一项经 Borel–Cantelli 第一引理保证 X_n=Y_n 最终成立；第三项和第12.3节使 \sum_n(Y_n-b_n) 几乎必然收敛；加上第二项，\sum_nY_n 收敛，再补回有限次大跳。
真正需要补上的方向是必要性。我们刚看过一个方差和无限而级数仍然收敛的例子，凭什么截断以后又能要求方差可求和？答案不是把这个反例忘掉，而是发现反例的全部二阶成本都藏在已被移走的大跳里。对一致有界的误差，情况不同。
12.6 有界的波动，不能无限积累而始终看不见
先证明一个足够精确的引理：若独立中心化变量 Z_n 满足 |Z_n|\le B<\infty，且其部分和是依概率 Cauchy 的，那么 \sum_n\mathbb EZ_n^2<\infty。依概率 Cauchy 的意思是：对每个 u>0，所有足够晚的两个部分和之差超过 u 的概率一致趋于0；几乎必然收敛当然蕴含这个条件。
最后一句也有一个可数事件的证明：对几乎必然收敛的部分和 R_n，事件 \{\sup_{n,l\ge m}|R_n-R_l|>u\} 随 m 递减，其交包含在不满足 Cauchy 条件的零集中。概率从上连续性使这些概率趋零，从而一致控制所有晚期端点。
取任意有限连续区块的和 T，记 V=\mathbb ET^2=\sum\mathbb EZ_k^2。展开四次幂时，任何只出现一次的指标都因独立与中心化而消失；留下四次单项和两两配对。因此
\mathbb ET^4=\sum_k\mathbb EZ_k^4+6\sum_{i<j}\mathbb EZ_i^2\,\mathbb EZ_j^2\le B^2V+3V^2.这里没有向原问题强加四阶矩条件：有界性本身已经提供它。把二阶质量分成 T^2\le V/2 与其补集，并用 Cauchy–Schwarz，若 V>0，
V\le\frac V2+\bigl(\mathbb ET^4\,P(T^2>V/2)\bigr)^{1/2},\qquad P(T^2>V/2)\ge\frac{V^2}{4\mathbb ET^4}\ge\frac{V}{4(B^2+3V)}.若方差总和发散且 B>0，无论把区块起点推得多远，都能找到有限终点使 V\ge B^2。上式便给出 P(|T|>B/\sqrt2)\ge1/16，与依概率 Cauchy 矛盾。B=0 时结论显然。引理得证。它说：有界误差不可能把无限方差永久藏在概率趋零、幅度趋无穷的孤立灾难里。
12.7 对称化：先消去未知漂移，再找回它
现在假定 \sum_nX_n 几乎必然收敛。对每个固定 a>0，必要条件 X_n\to0 说明 \{|X_n|>a\} 几乎必然只发生有限次。这些事件独立，Borel–Cantelli 第二引理的逆否命题因此给出第一系可求和。于是 \sum_nY_n 也几乎必然收敛。
可是我们还不知道 \sum_nb_n 是否收敛，不能先声称中心化级数也收敛。第八章的乘积概率空间允许另取整列 Y_n 的独立同分布副本 Y_n^\prime。两列分别收敛的事件各有概率1，在乘积空间上同时成立，故差分级数收敛。令
D_n=Y_n-Y_n^\prime,\qquad\mathbb ED_n=0,\qquad|D_n|\le2a,\qquad\operatorname{Var}(D_n)=2v_n.差分各项独立、中心化、一致有界。上一节的引理给出 \sum_nv_n<\infty。现在才可以使用第12.3节，得到原空间上 \sum_n(Y_n-b_n) 几乎必然收敛。它与 \sum_nY_n 在同一个概率1事件上相减，确定的部分和 \sum_{k\le n}b_k 便有有限极限。一个确定序列只要在其中任意一条这样的记录上有极限，就已经收敛。
必要性的三部分全部完成。它们对每个固定阈值都成立，而充分性只需一个阈值。对称化在这里不是为了制造漂亮的对称分布，而是为了在尚未知道漂移收敛时，合法地消去漂移；然后用波动的可控性把那份漂移重新找回来。
12.8 三份账，任何一份都不能拿另一份代替
让 X_n 以各 1/(2n) 的概率取 1,-1，其余取0，各项独立。在阈值 a=1/2 下，截断均值与方差全为0，只有大跳概率之和发散。Borel–Cantelli 第二引理使大小为1的项出现无穷多次，所以连 X_n\to0 都不成立。不能用“每次大跳的概率趋零”代替第一系的可求和。
若 X_n=1/n 完全确定，大跳最终没有，方差全为0，漂移却组成发散的调和级数。若改成 X_n=(-1)^{n+1}/n，漂移条件收敛，原级数就收敛；这再次说明第二系不是绝对可求和条件。随机理论仍然尊重普通实数级数中精细的抵消。
再取独立公平符号，令 X_n=\varepsilon_n/\sqrt n。阈值1下，大跳没有、漂移为0，但方差和 \sum_n1/n 发散。三系定理排除几乎必然收敛，0–1律进一步说明收敛概率为0。这里每个误差都趋于0，却仍不能加成一个有限答案。
一般地，对 \alpha>0，\sum_n\varepsilon_n/n^\alpha 的收敛概率在 \alpha>1/2 时为1，在 0<\alpha\le1/2 时为0；而绝对收敛只在 \alpha>1 时发生。区间 1/2<\alpha\le1 精确展示独立随机抵消比绝对求和多保住了什么。临界点来自平方的可求和，不是来自每项大小本身的可求和。
回看第12.3节的稀有大幅跳跃 \pm n：在阈值1下，除有限项外全部被截掉，大跳概率可求和，剩下的均值与方差系当然通过。三系定理容纳了这个例子，没有错误地要求原变量的总方差有限。截断不是修改问题，而是区分一条记录上只出现有限次的灾难，与持续出现的小波动。
12.9 一个确定性引理，把级数变成平均
我们最初关心的并不只有级数。实验者还会把总收益除以实验次数。一个随机级数已经收敛，为什么能约束另一份平均？这里有一座完全不随机的桥。
Kronecker 引理。 设 0<b_n\uparrow\infty。若实数级数 \sum_nx_n/b_n 收敛，则 b_n^{-1}\sum_{k\le n}x_k\to0。记 t_n=\sum_{k\le n}x_k/b_k\to t，t_0=0。有限分部求和给出
\frac1{b_n}\sum_{k=1}^nx_k=t_n-\frac1{b_n}\sum_{k=1}^{n-1}(b_{k+1}-b_k)t_k.右边第二项的权重非负，总和为 1-b_1/b_n\to1。对任意 \varepsilon>0，先固定 K 使 |t_k-t|<\varepsilon 对 k\ge K 成立。前面有限项除以 b_n 趋零，后面的加权误差不超过 \varepsilon。因此第二项趋于 t，与第一项抵消。证明完成，也解释了 b_n 单调增长为什么有用。
把引理逐条用于概率1的收敛记录。若独立 X_n 有有限方差且 \sum_n\operatorname{Var}(X_n)/b_n^2<\infty，先对 (X_n-\mathbb EX_n)/b_n 使用方差判别，再用 Kronecker，便得到
\frac1{b_n}\sum_{k=1}^n(X_k-\mathbb EX_k)\longrightarrow0\quad\text{a.s.}取 b_n=n 便得到一个非同分布强律。它已经超出硬币频率，但仍然要求每项二阶矩存在。我们想知道：如果数学上有意义的平均收益只需要一阶可积性，为什么长期平均却要向方差另付一笔费用？
12.10 门槛随着时间移动：只保留一阶矩
设 X_1,X_2,\ldots 独立同分布，\mathbb E|X_1|<\infty。把 W=|X_1|。非负积分的可数求和公式给出
\sum_{n\ge1}P(W>n)=\mathbb E\sum_{n\ge1}\mathbf1_{\{W>n\}}\le\mathbb EW<\infty.所以，第 n 次实验中超过 n 的大跳，只会发生有限次。我们不再用固定截断，而取 Y_n=X_n\mathbf1_{\{|X_n|\le n\}}。这些变量仍独立，却不再同分布。Borel–Cantelli 第一引理保证 Y_n=X_n 最终成立。门槛移动得足够快，保留下来的记录与原记录只差有限项。
关键问题是：截断后越来越大的二阶矩，除以时间平方，是否反而能够求和？把求和送进非负期望，就能看见同一份一阶矩控制着全部时间。
\sum_{n\ge1}\frac{\operatorname{Var}(Y_n)}{n^2}\le\mathbb E\left[W^2\sum_{n\ge1}\frac{\mathbf1_{\{W\le n\}}}{n^2}\right]\le2\mathbb EW<\infty.最后一步有一个简单的逐点理由。当 0\le W\le1，括号中的量不超过 2W^2\le2W。当 W>1，令 m=\lceil W\rceil，用 \sum_{n\ge m}n^{-2}\le m^{-2}+m^{-1}\le2/m\le2/W，也得到 2W。这个计算没有假设 \mathbb EX_1^2 有限。
因此，上一节强律给出 n^{-1}\sum_{k\le n}(Y_k-\mathbb EY_k)\to0 几乎必然。另一方面，同分布与 DCT 给出 \mathbb EY_n=\mathbb E[X_1\mathbf1_{\{W\le n\}}]\to\mathbb EX_1，控制函数正是 W。一个收敛数列的 Cesàro 平均也趋于同一极限：把有限开头除以 n，其余项与极限的距离最终任意小。于是
\frac1n\sum_{k=1}^nY_k\longrightarrow\mathbb EX_1\quad\text{a.s.}在原变量与截断变量最终相同的概率1事件上，\sum_{k\le n}(X_k-Y_k) 最终是一份固定的有限随机数；除以 n 后趋零。我们终于得到 一般可积 i.i.d. 强大数定律：
\boxed{\ \frac{X_1+\cdots+X_n}{n}\longrightarrow\mathbb EX_1\quad\text{a.s.},\qquad \mathbb E|X_1|<\infty.\ }这不是再次证明第七章的硬币定律。真正新增的机制，是让截断高度随记录长度移动，使原本可能无限的二阶矩，被时间权重重新组织成有限的一阶成本。强律没有要求我们先有 Gaussian 波动，更没有要求方差存在。
例如密度 p(x)=\alpha x^{-\alpha-1}\mathbf1_{\{x\ge1\}}、1<\alpha<2，积分为1，均值为 \alpha/(\alpha-1)，二阶矩为无穷。独立重复这种收益，长期平均仍几乎必然趋向该均值；第十一章有限方差 CLT 的标准化却不能直接套用。平均稳定与 Gaussian 波动是两份不同的问题。
12.11 如果连一阶成本都付不起
一阶绝对可积性只是充分条件吗？在 i.i.d. 实变量的有限极限问题中，它也是必要的。若 S_n/n 几乎必然趋于某个有限值，那么对 n\ge2，
\frac{X_n}{n}=\frac{S_n}{n}-\frac{n-1}{n}\frac{S_{n-1}}{n-1}\longrightarrow0.所以独立事件 \{|X_n|>n\} 只能发生有限次，BC2 迫使 \sum_nP(W>n)<\infty。逐点有 W\le1+\sum_{n\ge1}\mathbf1_{\{W>n\}}，积分便给出 \mathbb EW<\infty。我们没有从“有限平均值看起来合理”猜测可积性，而是从一项新收益相对于整个时间尺度必须变小，推回了尾部成本。
若 \mathbb EW=\infty，尾和发散，BC2 反而使 |X_n|>n 几乎必然发生无穷多次。于是平均不可能收敛到有限值。对非负 i.i.d. 变量，还可以说得更强：令 X_n^{(M)}=\min(X_n,M)，对每个正整数 M 使用已证明的强律，再在可数个概率1事件上同时工作，得到
\liminf_n\frac1n\sum_{k=1}^nX_k\ge\mathbb E\min(X_1,M)\uparrow\mathbb EX_1=\infty.所以非负无限均值时，平均几乎必然趋于正无穷。对正负两侧都无法积分的变量，则不能随意写出一个不存在的“均值”，再让大数定律朝它收敛。第十一章的 Cauchy 例子正保留了这种警告：平均的分布甚至可能每一次都完全不变。
12.12 不只一个平均：整份经验分布怎样稳定
回到第二章，我们不只想估计一个价格，也想从观察中认识未知的分布。如今强律可以处理任何一个有界可测收益，但“每个固定收益几乎必然正确”，并不自动允许把不可数多个收益的概率1事件相交。这个老问题，现在可以借助分布函数的单调性解决。
对 i.i.d. 实变量定义 F(x)=P(X_1\le x) 与经验分布函数 F_n(x)=n^{-1}\sum_{k\le n}\mathbf1_{\{X_k\le x\}}。固定 x 时强律给出 F_n(x)\to F(x)。我们要证明更强的 Glivenko–Cantelli 定理：
\sup_{x\in\mathbb R}|F_n(x)-F(x)|\longrightarrow0\quad\text{a.s.}固定整数 r\ge2。取有限个分位点 q_j=\inf\{x:F(x)\ge j/r\}，j=1,\ldots,r-1，去掉重复后依次排列，外加端点 -\infty,+\infty。相邻不同端点 a<b 之间的开区间概率不超过 1/r。否则在 F(a) 与 F(b-) 之间必有一个严格居中的 j/r，它的分位点应落在 (a,b)，与相邻矛盾。两侧无穷区间同样处理。
对这些有限端点，同时给指标 \mathbf1_{\{X\le a\}} 与 \mathbf1_{\{X<a\}} 应用强律。因此 F_n(a)\to F(a)，F_n(a-)\to F(a-)；无穷端点的值约定为0或1。必须保留左极限，因为一个端点可能装着很大的原子。若只用右侧分布函数作网格，可能把整个原子错误地计入区间误差。
当 a<x<b，单调性把 F_n(x) 夹在 F_n(a) 与 F_n(b-) 之间，把 F(x) 夹在相应的真实概率之间。两边的真实开区间差至多 1/r，所以区间内的最大误差至多为有限端点误差的最大值加 1/r；端点本身的误差已经控制。故几乎必然有 \limsup_n\sup_x|F_n-F|\le1/r。
只需再对可数个 r 合并概率1事件，并令 r\to\infty。此外，上确界本身是可测随机变量：两份分布函数均右连续，任意实点可从右侧有理点逼近，故该上确界等于在 \mathbb Q 上取的可数上确界。这样，结论的事件与证明中的例外集都得到说明。
整条经验分布曲线因此稳定，不只是某一个阈值。这条结论没有要求原变量有均值，因为被平均的是有界事件指标。原变量的一阶矩控制收益平均，分布函数的单调结构控制全部阈值；不同对象需要不同的有限预算。
12.13 在零长度的集合里，放进一整份随机分布
第五章的 Cantor 集表明，长度为零不代表集合只有很少的点。第六章谈到奇异分布时，又需要真正构造一份住在这个零集上的概率。现在第八章的无限硬币与本章的随机级数，可以把这个承诺具体实现。
在已经构造的无限独立硬币空间中取 B_n\in\{0,1\}，各以概率 1/2 取值，定义
Z=\sum_{n=1}^\infty\frac{2B_n}{3^n},\qquad 0\le Z\le1.尾和至多 3^{-n}，因此每条记录都收敛，且极限可测。前 n 位决定第 n 层的一个 Cantor 区间，所以 Z\in C。测度基础已经证明，0与2数字的这种编码单射且 m(C)=0。
对任意固定 z\in C，至多一条数字序列能给出它。该序列的前 n 位同时实现的概率为 2^{-n}，所以 P(Z=z)\le2^{-n} 对所有 n 成立，因而为零。Z 的分布没有原子，却全部集中在 Lebesgue 零集上。其分布函数连续，因为每个跳跃都等于相应单点质量；它不可能有 Lebesgue 密度，否则零集上的积分只能为0，不能为1。
非负求和与独立性还给出 \mathbb EZ=1/2、\operatorname{Var}(Z)=\sum_{n\ge1}3^{-2n}=1/8。方差公式可先用于有限部分和，再用一致尾界给出的 L^2 收敛取极限。这份连续而奇异的概率不是一个仅凭曲线外形命名的对象，而是一项项实验真正构造出来的分布。
12.14 终点的形状与一生的稳定，是两种答案
现在可以把第十一章与这一章放在同一张桌上。一个终点分布趋于 Gaussian，告诉我们许多误差在平方根尺度上的共同形状；一条记录的平均几乎必然稳定，告诉我们同一个实验者终其一生会看到什么。二者不是强弱关系的简单替代：可积但无限方差的收益已经说明，长期平均可以成立，而有限方差 CLT 的条件不成立。
本章真正贯穿的也不只是“相加”。第一次越界把所有途中事件压进一份二阶预算；截断把大跳从小误差中分离；对称化在未知漂移面前仍能提取波动；Kronecker 把收敛级数转换为时间平均；尾部0–1律则告诉我们，有限开头无法左右的收敛问题不会保留中间概率。每个工具都回应了前一个工具还不能回答的困难。
但三系定理也给出了一个新的方向。如果大跳不是一份可求和、因而最终消失的概率账，它们就可能不断出现。对级数来说，这常常意味着无法收敛；对另一种观察方式来说，它们却可能组成值得研究的新对象。
第十二章结语：账本之外，那些稀少却仍然到来的事情
重新翻回那本没有合上的账本。我们终于能够说清，哪些小误差可以不断记下去，却仍然留下有限的总差；哪些收益即使没有方差，仍有稳定的长期平均。答案不是“多做几次就会抵消”，而是一份关于大跳、漂移与波动的精确分工。
然而，实验者可能并不打算把所有收益加成一个有限数。他也可能关心一份很长记录中出现了多少次事故，多少次极端变化，多少次在单次实验里几乎看不见的机会。
每次机会都很小，总次数却很多。那些被我们暂时移到账本旁边的大跳，也许没有消失，只是需要另一种尺度与另一种计数方式。
下一章，我们将从这些稀少事件出发，追问它们为什么能够汇成一种不再像 Gaussian 的规律。
历史与进一步阅读
Kolmogoroff，Über die Summen durch den Zufall bestimmter unabhängiger Größen，Mathematische Annalen 99（1928），309–319：出版社原刊记录。出版信息可核验；本章首次越界、四阶有界区块、对称化与移动截断的安排是现代证明组织，不把具体写法归作历史原证。
现代独立级数与大数定律可参照 Durrett 的作者公开教材相应章节；本章独立给出所用结论的证明。全书广度继续对照 Kallenberg 第三版官方书目。本章仍限独立实随机序列，不把这里的结论当作相关过程、一般鞅或平稳序列强律。