查看“︁柯尔莫哥洛夫不等式”︁的源代码

在[[概率论]]中，'''柯尔莫哥洛夫不等式'''是一个关于[[独立 (概率论)|独立]][[随机变量]]序列的部分和的不等式。这个不等式以苏联数学家[[安德雷·柯爾莫哥洛夫|安德雷·柯尔莫哥洛夫]]的名字命名，他在1929年发现了这个不等式。<ref>{{Cite book|title=概率论教程|last=Chung|first=Kai-Lai|year=2022|isbn=9787111699170|location=北京|pages=121-122|publisher=机械工业出版社}}</ref>

== 不等式的陈述 ==
设<math>\{X_n\}</math>是独立的随机变量序列，并且对所有正整数''i''，第''i''个随机变量的[[期望值|期望]]<math>E[X_i]=0</math>，[[方差]]<math>\operatorname{var}(X_i)=E[X_i^2]<\infty</math>是有限的，那么对于任意<math>\varepsilon>0</math>，

: <math>\Pr \left(\max_{1\leq k\leq n} | S_k |\geq\varepsilon\right)\leq \frac{1}{\varepsilon^2} \operatorname{var} (S_n) =\frac{1}{\varepsilon^2}\sum_{k=1}^{n}\text{E}[X_k^2], </math>
其中，<math>S_k = X_1 + \cdots + X_k </math>为前''k''项的部分和。

柯尔莫哥洛夫不等式很有用，例如可以给出[[隨機漫步|随机游走]]最大的偏离，也可以证明[[大数定律|强大数定律]]。

在不等式中，将最大值符号去掉即为[[切比雪夫不等式]]。

== 证明 ==
对于给定的 <math display="inline">\varepsilon>0</math>, 记事件
 
: <math>\Lambda = \left\{ \max_{1\le j\le n}|S_j|\ge \varepsilon\right\}.</math>
 
设随机时间 <math display="inline">T=\min\{j: |S_j|\ge \varepsilon\}</math> 为 <math display="inline">|S_j|</math> 首次超过 <math display="inline">\varepsilon</math> 的时刻, 并定义事件 <math display="inline">\Lambda_k = [T=k]</math>, 即
 
: <math>\Lambda_k = \left\{ \max_{1\le j \le k-1} |S_j|<\varepsilon, |S_k|\ge \varepsilon \right\}.</math>
 
注意到 <math display="inline">\Lambda_k</math> 两两不交, 构成了 <math display="inline">\Lambda</math> 的划分, 即 <math display="inline">\Lambda = \displaystyle\sqcup_{k=1}^n \Lambda_k</math>, 所以我们有
 
: <math>\begin{aligned}
  \operatorname{E}[S_n^2 \mathbf{1}_\Lambda] &= \sum_{k=1}^n \operatorname{E}[S_n^2 \mathbf{1}_{\Lambda_k} ]\\
  &= \sum_{k=1}^n \Big( \operatorname{E}[S_k^2 \mathbf{1}_{\Lambda_k} ] + 2\operatorname{E}[S_k \mathbf{1}_{\Lambda_k} (S_n-S_k) ] + \operatorname{E}[(S_n-S_k)^2 \mathbf{1}_{\Lambda_k} ] \Big)
 \end{aligned}</math>

这里<math display="inline">\mathbf{1}_\Lambda = \begin{cases}1,&\omega \in \Lambda,\\ 0,& \omega\notin \Lambda.\end{cases}</math>.

因为 <math display="inline">S_k \mathbf{1}_{\Lambda_k}</math> 与 <math display="inline">S_n-S_k = X_{k+1}+ \cdots + X_n</math> 独立, 因此其乘积期望为 0. 从而
 
: <math>\operatorname{E}[S_n^2 \mathbf{1}_\Lambda] = \sum_{k=1}^n \Big( \operatorname{E}[S_k^2 \mathbf{1}_{\Lambda_k} ] + \operatorname{E}[(S_n-S_k)^2 \mathbf{1}_{\Lambda_k} ] \Big) \ge \sum_{k=1}^n \operatorname{E}[S_k^2 \mathbf{1}_{\Lambda_k} ]</math>

又因为 <math display="inline">\operatorname{E}[S_k^2\mathbf{1}_{\Lambda_k}] \ge \varepsilon^2 \Pr[\Lambda_k]</math>, 所以

: <math>\operatorname{E}[S_n^2 \mathbf{1}_\Lambda] = \sum_{k=1}^n \operatorname{E}[S_n^2 \mathbf{1}_{\Lambda_k} ] \ge \varepsilon^2 \sum_{k=1}^n \Pr[\Lambda_k] = \varepsilon^2 \Pr[\Lambda].</math>
 
这样就证明了
 
: <math>\Pr[\Lambda] \le \frac{1}{\varepsilon^2} \operatorname{E}[S_n^2\mathbf{1}_\Lambda] \le \frac{1}{\varepsilon^2} \operatorname{E}[S_n^2].</math>
定理得证。

== 参考文献 ==
[[Category:包含证明的条目]]
[[Category:概率不等式]]
[[Category:随机过程]]