切比雪夫不等式

切比雪夫不等式（Template:Lang-en），是概率论中的一个不等式，顯示了隨機變量的「幾乎所有」值都會「接近」平均。在20世纪30年代至40年代刊行的书中，其被称为比奈梅不等式（Template:Lang）或比奈梅-切比雪夫不等式（Template:Lang）。切比雪夫不等式对任何分布数据都适用。

切比雪夫不等式可表示为以下形式：对于任何随机变量 $X$ 和实数 $b>0$，都有 $P(|X-E(X)|\ge b)\le \frac{Var(X)}{b^2}$，其中 $E(X)$ 表示 $X$ 的数学期望，$Var(X)$ 为 $X$ 的方差。

概念

這個不等式以數量化這方式來描述，究竟「幾乎所有」是多少，「接近」又有多接近：

• 與平均相差2個標準差以上的值，數目不多於1/4
• 與平均相差3個標準差以上的值，數目不多於1/9
• 與平均相差4個標準差以上的值，數目不多於1/16

……

• 與平均相差k個標準差以上的值，數目不多於1/k²

舉例說，若一班有36個學生，而在一次考試中，平均分是80分，標準差是10分，我們便可得出結論：少於50分或多於110分（與平均相差3個標準差以上）的人，數目不多於4個（=36*1/9）。
公式：$P(\mu -k\sigma <X<\mu +k\sigma )\ge 1-\frac{1}{k^2}$

推论

測度論說法

設(X,Σ,μ)為一測度空間，f為定義在X上的廣義實值可測函數。對於任意實數t > 0，

$\mu (\{x\in X:|f(x)|\ge t\})\le \frac{1}{t^2}\underset{X}{\int }{f}^{2}d\mu .$

一般而言，若g是非負廣義實值可測函數，在f的定義域非降，則有

$\mu (\{x\in X:f(x)\ge t\})\le \frac{1}{g(t)}\underset{X}{\int }g\circ fd\mu .$

上面的陳述，可透過以|f|取代f，再取如下定義而得：

$g(t)=\{\begin{array}{cc}{t}^2& \text{if }t\ge 0\\ 0& \text{otherwise,}\end{array}$

概率論說法

設$X$為隨機變量，期望值為$\mu$，标准差為$\sigma$。對於任何實數k>0，

$\mathrm{Pr}(|X-\mu |\ge k\sigma )\le \frac{1}{k^2}.$

改進

一般而言，切比雪夫不等式給出的上界已無法改進。考慮下面例子：

$\mathrm{Pr}(X=1)=\mathrm{Pr}(X=-1)=1/(2k^2)$

$\mathrm{Pr}(X=0)=1-1/k^2$

這個分布的標準差$\sigma =1/k$，$\mu =0$。

对于任意分布形态的数据，根据切比雪夫不等式，至少有 $1-1/k^2$ 的数据落在k个标准差之内。其中k>1，但不一定是整数。

當只求其中一邊的值的時候，有Cantelli不等式：

$\mathrm{Pr}(X-\mu \ge k\sigma )\le \frac{1}{1+k^2}.$[1] Template:Wayback

證明

定義$A_t:=\{x\in X\mid f(x)\ge t\}$，設$1_{A_t}$為集$A_t$的指示函数，有

$0\le g(t)1_{A_t}\le g\circ f{1}_{A_t}\le g\circ f,$

$g(t)\mu (A_t)=\underset{X}{\int }g(t)1_{A_t}d\mu \le \underset{A_t}{\int }g\circ fd\mu \le \underset{X}{\int }g\circ fd\mu .$

又可從馬爾可夫不等式直接證明：馬氏不等式說明對任意隨機變量Y和正數a有$\mathrm{Pr}(|Y|>a)\le \mathrm{E}(|Y|)/a$。取$Y=(X-\mu {)}^2$及$a=(k\sigma {)}^2$。

亦可從概率論的原理和定義開始證明：

$\mathrm{Pr}(|X-\mu |\ge k\sigma )=\mathrm{E}(I_{|X-\mu |\ge k\sigma })=\mathrm{E}(I_{[(X-\mu )/(k\sigma ){]}^2\ge 1})$

$\le \mathrm{E}\left({\left(\frac{X-\mu }{k\sigma }\right)}^2\right)=\frac{1}{k^2}\frac{\mathrm{E}((X-\mu {)}^2)}{{\sigma }^2}=\frac{1}{k^2}.$

參見

• 馬爾可夫不等式
• 弱大數定律
• 大數定律

参考来源

• 《基本統計學 觀念與應用二版》，林惠玲 陳正倉 著
• 《應用統計學 第四版》 修訂版，林惠玲 陳正倉 著

Template:統計學