查看“︁二項式分布”︁的源代码

{{NoteTA|G1=Math
|T=zh-tw:二項式分布;zh-cn:二项分布;
|1=zh-tw:二項式分布;zh-cn:二项分布;
|2=zh-tw:動差;zh-cn:矩
|3=zh-tw:原動差;zh-cn:原点矩;
|4=zh-tw:主動差;zh-cn:中心矩;
|5=zh-tw:史特靈;zh-hk:士他令;zh-cn:斯特林;
}}

{{Infobox 機率分佈
| name = 二項分布
| type = 質量
| pdf_image = [[File:Binomial distribution pmf.svg|300px]]
| cdf_image = [[File:Binomial distribution cdf.svg|300px]]
| notation = <math>\operatorname{B} (n, p)</math>
| parameters = <math>n > 0</math><br /><math>0 \leq p \leq 1</math>
| support = <math>k \in \{0, \dots, n\}</math>
| pdf = <math>{n \choose k} p^k (1 - p)^{n - k}</math>
| cdf = <math>I_{1 - p}(n - \lfloor k \rfloor, \lfloor k \rfloor + 1)</math>
| mean = <math>np</math>
| median = <math>\lfloor np \rfloor</math>或<math>\lceil np \rceil</math>
| mode = <math>\lfloor (n + 1)p \rfloor</math>
| variance = <math>np(1 - p)</math>
| skewness = <math>\frac {1 - 2p} {\sqrt {np(1 - p)}}</math>
| kurtosis = <math>\frac {1 - 6p(1 - p)} {np(1 - p)}</math>
| entropy = <math>\frac{1}{2} \ln \left( 2 \pi nep (1-p) \right) + O \left( \frac{1}{n} \right)</math>
| pgf = <math>(1 - p + pz)^n</math>
| mgf = <math>(1 - p + pe^t)^n</math>
| char = <math>(1 - p + pe^{it})^n</math>
}}

在[[概率论]]和[[统计学]]中，'''二项分布'''（{{lang-en|binomial distribution}}）是一种[[离散概率分布|离散]][[概率分布]]，描述在进行[[独立 (概率论)|独立]][[随机试验]]时，每次试验都有相同[[概率]]“成功”的情况下，获得成功的总次数。[[掷硬币]]十次出现五次正面的概率、产品合格率<math>\, 99 \% \,</math>时抽出一百件样本没有发现一件次品的概率等等，都可以由二项分布给出。

只有“成功”和“失败”两种[[样本空间|可能结果]]，每次重复时成功概率不变的独立随机试验称作[[伯努利试验]]，例如上述的掷硬币出现正面或反面、对产品进行抽样检查时抽到正品或次品。伯努利试验作为理论模型，其前提在现实中无法完全得到满足，比如生产线会磨损，因此每件产品合格的概率并非固定{{sfn|Feller|1968|pp=146&ndash;147}}。尽管如此，二项分布给出的概率通常足以用于提供有用的推断；即使在已知前提没有满足的场合，二项分布也能用于参考和比较。二项分布的应用出现在[[遗传学]]、[[质量控制]]等领域之中。{{sfn|Johnson|Kemp|Kotz|2005|pp=135&ndash;136}}

== 定义 ==

若[[随机变量]]<math>\, X \,</math>有[[概率质量函数]]
:<math>\Pr(X = k) = {n \choose k} p^k (1 - p)^{n - k} \quad (k = 0, 1, \ldots, n),</math>
其中<math>\, n \,</math>为[[正整数]]、<math>\, 0 \leq p \leq 1 \,</math>，则称<math>\, X \,</math>服从[[参数 (数学)|参数]]为<math>\, n, p \,</math>的二项分布{{sfn|Johnson|Kemp|Kotz|2005|p=108}}，记为<math>\, X \sim \operatorname{B} (n, p) \,</math>或<math>\, X \sim \operatorname{Bin} (n, p) \,</math>。习惯上<math>\, 1 - p \,</math>也用<math>\, q \,</math>表示。{{sfn|Feller|1968|pp=146&ndash;147}}

=== 推导 ===

进行<math>\, n \,</math>次[[独立 (概率论)|独立]][[伯努利试验]]的结果可以由<math>\, n \,</math>个字母表示，例如用<math>\, S \,</math>表示成功，<math>\, F \,</math>表示失败，则
:<math>SSFSF</math>
表示五次试验中第一、二、四次的结果为成功，其余为失败。设每次试验成功的概率为<math>\, p \,</math>，失败的概率为<math>\, 1 - p \,</math>。因为试验相互独立，每一种排列<math>\, k \,</math>个<math>\, S \,</math>、<math>\, n - k \,</math>个<math>\, F \,</math>的方式对应的概率为<math>\, p^k (1 - p)^{n - k} \,</math>。{{sfn|Feller|1968|pp=146&ndash;147}}

从<math>\, n \,</math>个不同[[元素 (数学)|元素]]中选出含<math>\, k \,</math>个元素的[[子集]]的方法数量等于[[二项式系数]]
:<math>{n \choose k} = \frac {n!} {k! (n-k)!}.</math>{{sfn|Feller|1968|p=34}}
而每种对<math>\, k \,</math>个<math>\, S \,</math>、<math>\, n - k \,</math>个<math>\, F \,</math>的排列都可理解为从<math>\, n \,</math>个位置中选出<math>\, k \,</math>个作为字母<math>\, S \,</math>的位置的方法，这种方法的数量即为<math>\, {n \choose k} \,</math>。与每种排列方式对应的概率相乘，便得到定义中的概率
:<math>{n \choose k} p^k (1 - p)^{n - k}.</math>{{sfn|Feller|1968|pp=147&ndash;150}}

== 历史 ==

二项分布是最早得到研究的概率分布之一{{sfn|Johnson|Kemp|Kotz|2005|p=109}}。丹麦统计学家[[安德斯·哈爾德]]认为其历史可以追溯至[[布莱兹·帕斯卡]]与[[皮埃尔·德·费马]]于1654年对[[点数分配问题]]的讨论：两名玩家赢得每局游戏的机会相同，赢得一定局数的胜者可获得奖金，但比赛仅进行了数局，尚未分出胜负就被迫中断，则奖金该如何分配？帕斯卡认为，奖金的分配应当基于玩家距离胜利所差的局数：若一名玩家还需<math>\, r \,</math>局获胜，另一名玩家还需<math>\, s \,</math>局获胜，则应考虑在<math>\, r + s - 1 \,</math>局比赛的<math>\, 2^{r + s - 1} \,</math>种结果中，两名玩家分别在多少种情况中获胜。两人的讨论限于这一问题本身，并未推导出二项分布的概率，但这一解法可被视作基于参数<math>\, p = 1/2 \,</math>的二项分布。{{sfn|Hald|2003|pp=54&ndash;63}}

对二项分布概率的推导为[[雅各布·伯努利]]于《{{tsl|en|Ars Conjectandi|猜度术}}》中作出。该著作在他去世后，于1713年得到出版，被视作[[概率论]]的奠基性作品。伯努利还在其中首次给出了弱[[大数定律]]的严格证明{{sfn|Hald|2003|pp=223&ndash;228}}{{sfn|Stigler|1986|pp=62&ndash;70}}。对二项分布的[[正态分布|正态]]近似则是由[[亞伯拉罕·棣莫弗]]发现，这一工作于1733年完成，于1738年出版在其著作《{{tsl|en|The Doctrine of Chances|机遇论}}》的第二版中。{{sfn|Stigler|1986|pp=70&ndash;85}}

== 性质 ==

参数为<math>\, n, p \,</math>的二项分布的[[期望值]]为<math>\, np \,</math>，[[方差]]为<math>\, np(1 - p) \,</math>。其[[概率母函数]]为
:<math>G(z) = (1 - p + pz)^n,</math>
[[矩母函数]]为
:<math>M_X(t) = (1 - p + pe^t)^n,</math>
[[特征函数 (概率论)|特征函数]]为
:<math>\varphi_X(t) = (1 - p + pe^{it})^n.</math>{{sfn|Johnson|Kemp|Kotz|2005|p=108}}{{sfn|Johnson|Kemp|Kotz|2005|p=109&ndash;112}}

参数<math>\, n = 1 \,</math>的二项分布称作[[伯努利分布]]{{sfn|Johnson|Kemp|Kotz|2005|p=108}}。{{tsl|en|Multinomial distribution|多项分布}}是二项分布的拓展，描述重复进行不限于两种结果、可能有多种可能结果的随机试验时的概率{{sfn|Feller|1968|pp=167&ndash;169}}。二项分布本身是[[超几何分布]]的极限形式。{{sfn|Johnson|Kemp|Kotz|2005|p=140}}

=== 二项分布的和 ===

若<math>\, X_1, X_2 \,</math>两个随机变量独立，分别服从参数为<math>\, n_1, p \,</math>和<math>\, n_2, p \,</math>的二项分布，则<math>\, X_1 + X_2 \,</math>即是在<math>\, n_1 + n_2 \,</math>次独立伯努利试验中取得成功的次数，所以<math>\, X_1 + X_2 \,</math>服从参数为<math>\, n_1 + n_2,p \,</math>的二项分布。这一结论亦可通过将两者的概率母函数相乘而得出。在条件<math>\, X_1 + X_2 = k \,</math>之下，随机变量<math>\, X_1 \,</math>的[[条件概率分布]]是参数为<math>\, k, n_1, n_1 + n_2 \,</math>的超几何分布。{{sfn|Johnson|Kemp|Kotz|2005|p=115}}

=== 众数 ===

计算<math>\, \Pr(X = k) \,</math>和<math>\, \Pr(X = k + 1) \,</math>的比值可以得到
:<math>\frac{\Pr(X = k + 1)}{\Pr(X = k)} = \frac{(n - k)p}{(k + 1)(1 - p)} \quad (k = 0, 1, \ldots, n - 1),</math>
因此，当<math>\, k < (n + 1)p - 1 \,</math>时，<math>\, \Pr(X = k) \,</math>随<math>\, k \,</math>增加而上升；当<math>\, k > (n + 1)p - 1 \,</math>时，<math>\, \Pr(X = k) \,</math>随<math>\, k \,</math>增加而下降。故二项分布的[[众数 (数学)|众数]]为<math>\, (n + 1)p \,</math>的[[下取整]]<math>\, \lfloor (n + 1)p \rfloor \,</math>。若<math>\, (n + 1)p \,</math>本身是整数，则<math>\, (n + 1)p \,</math>和<math>\, (n + 1)p - 1 \,</math>均是众数。若<math>\, p < (n + 1)^{-1} \,</math>，则众数为<math>\, 0 \,</math>。{{sfn|Johnson|Kemp|Kotz|2005|p=112}}

=== 中位数 ===

二项分布的[[中位数]]<math>\, m \,</math>位于<math>\, np \,</math>的上下[[取整]]之间，即<math>\, \lfloor np \rfloor \leq m \leq \lceil np \rceil \,</math>；若<math>\, np \,</math>为整数，则中位数<math>\, m = np \,</math>。中位数<math>\, m \,</math>和期望值<math>\, np \,</math>之间的差满足
:<math>|m - np| < \max \{p, 1-p\}.</math>
若<math>\, p > \ln 2 \,</math>或<math>\, p < 1 - \ln 2 \,</math>，则该上界可进一步缩减为
:<math>|m - np| < \ln 2.</math>
若<math>\, n \,</math>为[[奇数]]、<math>\, p = 1/2 \,</math>，则<math>\, (n - 1)/2 \,</math>和<math>\, (n + 1)/2 \,</math>均为中位数。{{sfn|Kaas|Buhrman|1980}}{{sfn|Hamza|1995}}

=== 累积分布函数 ===

二项分布的[[累积分布函数]]和尾概率可以用[[正则化不完全贝塔函数]]表示为
:<math>\Pr(X \leq k) = I_{1 - p} (n - \lfloor k \rfloor, \lfloor k \rfloor + 1),</math>
:<math>\Pr(X \geq k) = I_p (\lceil k \rceil, n - \lceil k \rceil + 1).</math>{{sfn|Johnson|Kemp|Kotz|2005|p=119}}

=== 矩 ===

二项分布的<math>\, r \,</math>阶[[矩 (数学)|原点矩]]满足
:<math>\mu'_r = E[X^r] = \sum_{j = 0}^r \frac {S(r,j) n! p^j} {(n-j)!},</math>
其中<math>\, S(r,j) \,</math>表示{{tsl|en|Stirling numbers of the second kind|第二类斯特林数|第二类}}[[斯特林数]]。具体而言，
:<math>\mu'_1 = np,</math>
:<math>\mu'_2 = np + n(n - 1)p^2,</math>
:<math>\mu'_3 = np + 3n(n - 1)p^2 + n(n - 1)(n - 2)p^3,</math>
:<math>\mu'_4 = np + 7n(n - 1)p^2 + 6n(n - 1)(n - 2)p^3 + n(n - 1)(n - 2)(n - 3)p^4.</math>
其低阶[[中心矩]]为
:<math>\mu_2 = np(1 - p),</math>
:<math>\mu_3 = np(1 - p) (1 - 2p),</math>
:<math>\mu_4 = 3[np(1 - p)]^2 + np(1 - p)[1 - 6p(1 - p)].</math>{{sfn|Johnson|Kemp|Kotz|2005|p=110}}

== 近似 ==

=== 正态近似 ===

[[Image:Binomial Distribution.svg|right|250px|thumb|<math>n = 6</math>、<math>p = 0.5</math>时的[[二项分布]]及其正态近似]]

标准二项分布
:<math>X' = \frac {X - np} {\sqrt {np(1 - p)}}</math>
在<math>\, n \to \infty \,</math>时[[随机变量的收敛|趋近]]于标准[[正态分布]]。这一结果称作{{tsl|en|De Moivre–Laplace theorem|棣莫弗-拉普拉斯定理}}，为[[中心极限定理]]的特殊形式。基于这一定理可以得到
:<math>\Pr(\alpha < \frac {X - np} {\sqrt {np(1 - p)}} < \beta) \to \Phi(\beta) - \Phi(\alpha),</math>
其中<math>\, \Phi \,</math>为标准正态分布的[[累积分布函数]]。{{sfn|Feller|1968|pp=182&ndash;185}}

正态分布为[[连续概率分布]]，在近似二项分布这类离散概率分布时，可将端点向外偏移<math>\, 0.5 \,</math>得到
:<math>\Pr(X \leq k) \approx \Phi \left( \frac {k + 0.5 - np} {\sqrt {np(1 - p)}}\right),</math>
从而提升近似的准确性，这种技巧称作{{tsl|en|Continuity correction|连续性校正}}{{sfn|Feller|1968|pp=185&ndash;186}}。何时能采用这一近似依赖于使用[[经验法则]]，例如要求<math>\, np(1 - p) > 9 \,</math>，或是在<math>\, p \leq 0.5 \,</math>时要求<math>\, np > 5 \,</math>、在<math>\, p > 0.5 \,</math>时要求<math>\, n(1 - p) > 5 \,</math>。{{sfn|Schader|Schmid|1989}}{{sfn|Johnson|Kemp|Kotz|2005|pp=116&ndash;117}}

=== 泊松近似 ===

当<math>\, n \to \infty, p \to 0 \,</math>，而<math>\, np \,</math>保持不变时，二项分布趋近于参数为<math>\, np \,</math>的[[泊松分布]]。以此为基础可以得到
:<math>\Pr(X \leq k) \approx e^{-np} \sum_{j = 0}^k \frac {(np)^j} {j!}.</math>{{sfn|Feller|1968|pp=153&ndash;154}}

二项分布与其泊松近似之间的绝对误差存在上界。若随机变量<math>\, X \,</math>服从参数为<math>\, n, p \,</math>的二项分布，随机变量<math>\, Y \,</math>服从参数为<math>\, np \,</math>的泊松分布，则
:<math>\sum_{k = 0}^{\infty} \| \Pr(X = k) - \Pr(Y = k) \| \leq \min \{ 2np^2, 3p \}.</math>{{sfn|Sheu|1984}}

== 参数估计 ==

=== 点估计 ===

通常参数<math>\, n \,</math>为已知。假设随机变量<math>\, X \,</math>服从二项分布，其参数<math>\, p \,</math>未知。若观测到<math>\, X \,</math>的值为<math>\, x \,</math>，采用[[矩估计]]和[[最大似然估计]]对参数<math>\, p \,</math>的[[估计量]]均为<math>\, \frac {x} {n} \,</math>，这一估计量为[[估计量的偏差|无偏]]的。{{sfn|Johnson|Kemp|Kotz|2005|p=126}}

参数<math>\, p \,</math>的{{tsl|en|Bayes estimator|贝叶斯估计量}}取决于使用的[[先验分布]]。若使用[[连续型均匀分布]]作为先验分布，即假设<math>\, 0 \,</math>和<math>\, 1 \,</math>之间任意等长的[[区间]]包含<math>\, p \,</math>的概率都相同，则后验均值估计量为
:<math>\widehat {p} = \frac {x + 1} {n + 2}.</math>
这被称作{{tsl|en|Laplace–Bayes estimator|拉普拉斯–贝叶斯估计量}}，曾被[[皮埃尔-西蒙·拉普拉斯]]用于估计在[[太阳]]连续升起<math>\, n \,</math>天之后，太阳明天还会升起的概率。由于人类知道太阳在过去五千年，即1,826,213天都正常升起，拉普拉斯愿意以1,826,214比1的赔率赌太阳明天继续升起。{{sfn|Feller|1968|pp=123&ndash;124}}

若使用参数为<math>\, \alpha,\beta \,</math>的[[贝塔分布]]作为先验分布，则后验均值估计量为
:<math>\widehat {p} = \frac {\alpha + x + 1} {\alpha + \beta + n + 2}.</math>
采用贝塔分布作为先验分布时，[[后验分布]]亦是贝塔分布，即贝塔分布为二项分布的[[共轭先验]]。{{sfn|Chew|1971}}

=== 区间估计 ===

若要对参数<math>\, p \,</math>以[[区间]]形式给出估计，通过求解
:<math>\sum_{j = x}^n {n \choose j} p_L^j (1 - p_L)^{n - j} = \frac {\alpha} {2},</math>
:<math>\sum_{j = 0}^x {n \choose j} p_U^j (1 - p_U)^{n - j} = \frac {\alpha} {2},</math>
所得的区间<math>\, (p_L, p_U) \,</math>为一个置信水平近似为<math>\, 1 - \alpha \,</math>的[[置信区间]]，称作克洛珀-皮尔逊区间（{{lang|en|Clopper-Pearson interval}}）。{{sfn|Johnson|Kemp|Kotz|2005|pp=130&ndash;131}}

正态分布可以用于推导近似的置信区间。若用<math>\, \lambda_{\alpha/2} \,</math>表示标准正态分布的第<math>\, 1 - \frac {\alpha} {2} \,</math>[[分位数]]，即<math>\, \Phi (\lambda_{\alpha/2}) = 1 - \frac {\alpha} {2} \,</math>，则区间两端的近似值为
:<math>\frac {x} {n} \pm \frac {\lambda_{\alpha/2}} {\sqrt n} \sqrt{\frac {x} {n} \left(1 - \frac {x} {n}\right)}.</math>{{sfn|Johnson|Kemp|Kotz|2005|p=132}}{{sfn|Blyth|1986}}

== 参见 ==

* [[概率论]]
* [[機率分布]]
* [[正态分布]]
* [[卜瓦松分布]]
* [[伯努利分布]]
* [[负二项分布]]
* {{tsl|en|Multinomial distribution|多项分布}}

== 注释 ==

{{reflist|20em}}

== 参考文献 ==

{{refbegin}}
* {{cite journal
| last1 = Blyth
| first1 = C. R.
| year = 1986
| title = Approximate Binomial Confidence Limits
| url = https://archive.org/details/sim_journal-of-the-american-statistical-association_1986-09_81_395/page/843
| journal = Journal of the American Statistical Association
| volume = 81
| pages = 843-855
| language = en
| doi = 10.1080/01621459.1986.10478343
| ref = {{sfnref|Blyth|1986}}
}}
* {{cite journal
| last1 = Chew
| first1 = V.
| year = 1971
| title = Point Estimation of the Parameter of the Binomial Distribution
| journal = The American Statistician
| volume = 25
| issue = 5
| pages = 47-50
| language = en
| doi = 10.1080/00031305.1971.10477305
| ref = {{sfnref|Chew|1971}}
}}
* {{cite book
| last1 = Feller
| first1 = W.
| author-link1 = 威廉·费勒
| year = 1968
| title = An Introduction to Probability Theory and Its Applications, Volume 1, Third Edition
| publisher = Wiley
| language = en
| isbn = 0-471-25708-7
| ref = {{sfnref|Feller|1968}}
}}
* {{cite book
| last1 = Hald
| first1 = A.
| author-link1 = 安德斯·哈爾德
| year = 2003
| title = A History of Probability and Statistics and Their Applications before 1750
| publisher = Wiley
| language = en
| isbn = 0-471-47129-1
| ref = {{sfnref|Hald|2003}}
}}
* {{cite journal
| last1 = Hamza
| first1 = K.
| year = 1995
| title = The Smallest Uniform Upper Bound on the Distance Between the Mean and the Median of the Binomial and Poisson Distributions
| journal = Statistics and Probability Letters
| volume = 23
| pages = 21-25
| language = en
| doi = 10.1016/0167-7152(94)00090-U
| ref = {{sfnref|Hamza|1995}}
}}
* {{cite book
| last1 = Johnson
| first1 = N. L.
| last2 = Kemp
| first2 = A. W.
| last3 = Kotz
| first3 = S.
| year = 2005
| title = Univariate Discrete Distributions, Third Edition
| publisher = Wiley
| language = en
| isbn = 0-471-27246-9
| ref = {{sfnref|Johnson|Kemp|Kotz|2005}}
}}
* {{cite journal
| last1 = Kaas
| first1 = R.
| last2 = Buhrman
| first2 = J. M.
| year = 1980
| title = Mean, Median and Mode in Binomial Distributions
| journal = Statistica Neerlandica
| volume = 34
| issue = 1
| pages = 13-18
| language = en
| doi = 10.1111/j.1467-9574.1980.tb00681.x
| ref = {{sfnref|Kaas|Buhrman|1980}}
}}
* {{cite journal
| last1 = Schader
| first1 = M.
| last2 = Schmid
| first2 = F.
| year = 1989
| title = Two Rules of Thumb for the Approximation of the Binomial Distribution by the Normal Distribution
| journal = The American Statistician
| volume = 43
| issue = 1
| pages = 23-24
| language = en
| doi = 10.1080/00031305.1989.10475601
| ref = {{sfnref|Schader|Schmid|1989}}
}}
* {{cite journal
| last1 = Sheu
| first1 = S. S.
| year = 1984
| title = The Poisson Approximation to the Binomial Distribution
| url = https://archive.org/details/sim_american-statistician_1984-08_38_3/page/206
| journal = The American Statistician
| volume = 38
| issue = 3
| pages = 206-207
| language = en
| doi = 10.1080/00031305.1984.10483202
| ref = {{sfnref|Sheu|1984}}
}}
* {{cite book
| last1 = Stigler
| first1 = S. M.
| author-link1 = 史蒂芬·史蒂格勒
| year = 1986
| title = The History of Statistics: The Measurement of Uncertainty before 1900
| url = https://archive.org/details/historyofstatist00stig
| publisher = Harvard University Press
| language = en
| isbn = 0-674-40340-1
| ref = {{sfnref|Stigler|1986}}
}}
{{refend}}

{{常见一元概率分布}}
{{概率分布類型列表}}

[[Category:离散分布]]
[[Category:阶乘与二项式主题]]
[[Category:指数族分布]]