查看“︁伯恩施坦不等式”︁的源代码

{{NoteTA |G1=Math}}
在[[概率论]]中，'''伯恩施坦不等式'''（Bernstein inequalities）给出了随机变量的和对平均值偏离的概率。在最简单的情况下，设<math>X_1,\cdots,X_n</math>是独立的[[伯努利試驗|伯努利随机变量]]，取值+1和-1的概率各是1/2，则对任意正数<math>\varepsilon</math>

<math>\mathbb{P}\left(\left|\frac 1n\sum_{i=1}^n{X_i}\right|>\varepsilon\right)\le2\exp{\left(-\frac{n\varepsilon^2}{2(1+\varepsilon/3)}\right)}</math>

伯恩施坦不等式由[[谢尔盖·伯恩施坦]]于1920年代证明，并于1930年代发表<ref>S.N.Bernstein, "On a modification of Chebyshev’s inequality and of the error formula of Laplace" vol. 4, #5 (original publication: Ann. Sci. Inst. Sav. Ukraine, Sect. Math. 1, 1924) </ref><ref>Bernstein, S. N. (1937). "Об определенных модификациях неравенства Чебышева" [On certain modifications of Chebyshev's inequality]. Doklady Akademii Nauk SSSR. 17 (6): 275–277. </ref><ref>S.N.Bernstein, "Theory of Probability" (俄语), Moscow, 1927 </ref><ref>J.V.Uspensky, "Introduction to Mathematical Probability", McGraw-Hill Book Company, 1937 </ref>。之后，这些不等式多次被其他数学家独立地发现。因此，伯恩施坦不等式的一些特例也被称为Chernoff界，Hoeffding不等式，以及[[吾妻不等式]]。

== 不等式 ==
1.设<math>X_1,\cdots,X_n</math>是数学期望为0的独立的随机变量。若对所有<math>i</math>，<math>|X_i|\le M</math>几乎必然成立，则对任意正数<math>t</math>

<math>\mathbb{P}\left(\sum_{i=1}^n{X_i}>t\right)\le\exp{\left(-\frac{t^2/2}{\sum{\mathbb{E}X_j^2}+Mt/3}\right)}</math>

2.设<math>X_1,\cdots,X_n</math>是独立的随机变量。若存在正实数<math>L</math>，使得对任意整数<math>k>1</math>，都有<math>\mathbb{E}|X_i^k|\le\frac 12k!L^{k-2}\mathbb{E}X_i^2</math>，则对<math>0<t<\frac 1{2L}\sqrt{\sum{\mathbb{E}X_j^2}}</math>

<math>\mathbb{P}\left(\sum_{i=1}^n{X_i}\ge 2t\sqrt{\sum{\mathbb{E}X_i^2}}\right)<\exp{(-t^2)}</math>

3.设<math>X_1,\cdots,X_n</math>是独立的随机变量。若对任意整数<math>k \ge 4</math>，都有<math>\mathbb{E}|X_i^k|\le\frac{k!}{4!}\left(\frac L5\right)^{k-4}</math>，记<math>A_k=\sum_{i=1}^n{\mathbb{E}X_i^k}</math>，则对于<math>0<t\le \frac{5\sqrt{2A_2}}{4L}</math>

<math>\mathbb{P}\left(\left|\sum_{j=1}^n{X_j}-\frac{A_3t^2}{3A_2}\right|\ge\sqrt{2A_2}t\left(1+\frac{A_4t^2}{6A_2^2}\right)\right)<2\exp{(-t^2)}</math>

4.伯恩施坦也把以上不等式推广到弱相关随机变量的情况。例如，不等式（2）可以推广成以下形式。<math>X_1,\cdots,X_n</math>可以不是独立随机变量。若对任意正整数<math>i</math>，

<math>\mathbb{E}(X_i|X_1,\cdots,X_{i-1}) = 0,</math>

<math>\mathbb{E}(X_i^2|X_1,\cdots,X_{i-1}) \le R_i\mathbb{E}X_i^2,</math>

<math>\mathbb{E}(X_i^k|X_1,\cdots,X_{i-1}) \le \frac{k!L^{k-2}}{2}\mathbb{E}(X_i^2|X_1,\cdots,X_{i-1}),</math>

则对于<math>0<t<\frac 1{2L}\sqrt{\sum_{i=1}^n{R_i\mathbb{E}X_i^2}}</math>，

<math>\mathbb{P}\left(\sum_{i=1}^n{X_i}\ge 2t\sqrt{\sum_{i=1}^n{R_i\mathbb{E}X_i^2}}\right)<\exp{(-t^2)}</math>

== 另见 ==

* [[集中不等式]]

== 参考资料 ==
<references />
[[Category:概率不等式]]