T-SANOV:Polish经验测度、熵变分与指数紧
E为Polish空间,μ为任意Borel概率。Xᵢ独立同分布于μ,Lₙ为经验测度,在概率测度空间采用弱拓扑。有限样本到Lₙ的映射连续:每个有界连续检验的经验平均对样本连续,弱拓扑由这些读数定义,故它确为可测随机概率测度。
S.1 相对熵与有界Borel指数检验
若ν≪μ,选密度ρ并令H=∫ρ logρ dμ,否则H无穷。采用0 log0=0,负部不超过1/e,定义无歧义。积分r log r−r+1≥0给H非负,等于0当且仅当ν=μ。对有界Borel f,Z=μeᶠ严格正且有限,定义μf=eᶠμ/Z。有限H时,对数密度分解各项可积;H无穷时下面的不等式平凡。
0\le H(\nu\mid\mu_f)=H(\nu\mid\mu)-\nu f+\log\mu e^f,\qquad\nu f-\log\mu e^f\le H(\nu\mid\mu).反向若ν≪μ,令fᴹ为logρ截在[−M,M],log0按负无穷截断。在ν下ρ严格正且有限几乎处处。正部单调收敛、负部由ρ|logρ|在ρ<1处可积支配,给νfᴹ趋H,包括H无穷。又e的fᴹ次方逐点μ几乎处处趋ρ,且不超过ρ+1,故μe的fᴹ次方趋1。若ν不绝对连续,取μ(A)=0<ν(A),用f=M指标A,使表达式等于Mν(A)趋无穷。
H(\nu\mid\mu)=\sup_{f\in B_b(E)}\{\nu f-\log\mu e^f\}.S.2 为什么可以把全部检验换成连续检验
固定有限测度η=μ+ν。开U的指标由min(1,k距离到U补集)单调逼近;U=E用常数1。这些连续[0,1]函数在L¹(η)逼近指标。所有有此逼近的Borel集合,对补集用1减近似,对有限并用最大值,均保留;对可数并,先截有限并以η的从下连续控制尾,再对角选近似。故它们构成包含开集的σ代数,包含所有Borel集。
量化一个|f|≤M的有界Borel函数为简单函数,以前述连续函数逼近有限个指标,最后再截到[−M,M],就有同界gₖ在C_b中且L¹(η)趋f。指数在此固定有界区间Lipschitz,μeᵍᵏ趋μeᶠ,νgₖ趋νf。先固定f及M作此逼近,再在S.1取上确界;不得在M增长时擅自使用同一个Lipschitz常数。
H(\nu\mid\mu)=\sup_{f\in C_b(E)}\{\nu f-\log\mu e^f\}.由此H是弱连续仿射函数族的上确界,所以弱下半连续且凸。这条逼近只用度量及有限测度,未误用第28章限于局部紧空间的C₀表示定理。
S.3 熵水平集紧性,独立于样本指数紧
取A且p=μ(A)在0与1之间,在B_b变分式用f=log(1/p)指标A;μeᶠ=2−p≤2,得到下式。p=0时有限熵的绝对连续性直接给ν(A)=0。
\nu(A)\log(1/p)\le H(\nu\mid\mu)+\log2.给定熵上界M和尾质量ε,μ在Polish空间紧,选紧K使μ(K补集)极小,上式使所有H≤M的ν尾质量≤ε。这些ν一致紧;S.2给水平集闭,第24章Prokhorov给其紧。μ本身是熵零点,所以全速率非空。
这里若需要直接回看母分布紧性的机制:在每个尺度2⁻ᵏ用可数稠密中心球覆盖E,取有限子族使遗漏质量≤ε2⁻ᵏ;把这些球稍扩大为同尺度闭球,并在所有尺度取有限并的交。该交闭、全有界,E完备使其紧;并界给质量至少1−ε。
S.4 Sanov开下界与紧上界
令G弱开,ν在G且H有限。G包含一个围绕ν、由有限个有界连续f检验定义的基本邻域。ν样本下每个经验读数依大数定律趋νf,因此Lₙ进G概率趋1。logρ可积,平均logρ也趋H。用T-LDP的有限似然引理,在这个交事件上得到μ样本的下指数至少−H。对ν优化即开下界。
紧上界固定紧C及b<inf_C H。对每个ν在C,S.2给某个f使νf−log μeᶠ>b。该严格不等式定义ν的弱开邻域Uν。独立性给Eμ exp(nLₙf)=(μeᶠ)ⁿ,指数Markov遂给Pμ(Lₙ在Uν)≤e⁻ⁿᵇ。有限子覆盖给C概率≤有限倍e⁻ⁿᵇ,再b上升到最小熵。若最小熵无穷,b任意大。
S.5 明确参数下的经验测度指数紧
给L>0,j从1起,选如下δⱼ与θⱼ。母分布紧性给紧Kⱼ使pⱼ=μ(Kⱼ补集)≤e⁻ᶿʲ,可取有限并使Kⱼ递增。定义概率测度集合如下。
\delta_j=2^{-j},\qquad\theta_j=\frac{L+j+1}{\delta_j},\qquad\mathcal K_L=\bigcap_{j\ge1}\{\nu:\nu(K_j^c)\le\delta_j\}.Kⱼ补集开,Portmanteau使ν↦ν(Kⱼ补集)下半连续,故每条不超过δⱼ的约束闭。δⱼ趋0保证全族一致紧,Prokhorov给该闭集紧。对实际经验测度,nLₙ(Kⱼ补集)是参数pⱼ的二项计数,Chernoff给完整估计。
\begin{aligned}P\{L_n(K_j^c)>\delta_j\}&\le\exp\{-n[\theta_j\delta_j-\log(1+p_j(e^{\theta_j}-1))]\}\\&\le e^{-n(L+j)},\\P\{L_n\notin\mathcal K_L\}&\le\sum_{j\ge1}e^{-n(L+j)}=\frac{e^{-nL}}{e^n-1}\le e^{-nL}.\end{aligned}中间一步只用log(1+u)≤u与pⱼe的θⱼ次方≤1,因此不要求nδⱼ为整数或大于1。所有j的尾部约束真正被共同控制,未把无穷并误作有限并。
S.6 全闭集上界与适用拓扑
闭F分成F∩集合Kᴸ与集合外,分别用S.4和S.5。有限和的上指数至多max{−inf_F H,−L}。L趋无穷给闭上界;S.4下界与S.3好性已经完成,Sanov全定理成立。
没有对μ施加矩条件。代价和指数紧都是弱拓扑下的陈述,不包括任意无界矩或Wasserstein拓扑。正文给出的逃逸质量反例说明这些差别不可省略。