查看“︁后验概率”︁的源代码

{{Expand|time=2013-02-14T04:03:30+00:00 }}
{{noteTA|G1=Math}}
在[[贝叶斯统计]]中，一个[[随机事件]]或者一个不确定事件的后验概率（Posterior probability）是在考虑和给出相关证据或数据后所得到的[[条件概率]]。同样，后验概率分布是一个未知量（视为[[随机变量]]）基于试验和调查后得到的概率分布。“后验”在本文中代表考虑了被测试事件的相关证据。
{{各地中文名
| 名詞 =posterior probability 
|cn = 后验概率
|hk = 後驗概率
|tw =事後機率
| where = 日本、韓國漢字
| other = 事後確率
}}

==定义==

后验概率是在给定证据<math>X</math>后，参数<math>\theta</math>的概率：<math>p(\theta|X)</math>。

与[[似然函数]]相对，其为在给定了参数<math>\theta</math>后，证据<math>X</math>的概率：<math>p(X|\theta)</math>。

两者有以下联系：

首先定义先验概率服从以下[[概率分布函数]]，<math>p(\theta)</math>，则样本<math>x</math>的似然性为<math>p(x|\theta)</math>，那么后验概率可以定义为
:<math>p(\theta|x) = \frac{p(x|\theta)p(\theta)}{p(x)}</math><ref>{{cite book| title=Pattern Recognition and Machine Learning| url=https://archive.org/details/patternrecogniti00bish_163| author=Christopher M. Bishop| publisher=Springer| year=2006| isbn=978-0-387-31073-2| pages=[https://archive.org/details/patternrecogniti00bish_163/page/n38 21]–24}}</ref>

此处<math>p(x)</math>为标准化常量，对于连续的<math>\theta</math>，按如下方法计算

<math>p(x)=\int p(x|\theta )p(\theta )d\theta</math>

对于离散的<math>\theta</math>，应对所有可能的<math>\theta</math>取值求和<math>p(x|\theta )p(\theta )</math> 。

因此，后验概率与[[似然函数|似然性]]和[[先验概率]]的乘积是[[比例|成比例的]]。

==实例==

假设一个学校裡有60％男生和40%女生。女生穿裤子的人数和穿裙子的人数相等，所有男生穿裤子。一个人在远处随机看到了一个穿裤子的学生。那么这个学生是女生的概率是多少？

使用[[贝叶斯定理]]，事件A是看到女生，事件B是看到一个穿裤子的学生。我们所要计算的是P(A|B)。

P(A)是忽略其它因素，看到女生的概率，在这里是40%

P(A')是忽略其它因素，看到不是女生（即看到男生）的概率，在这里是60%

P(B|A)是女生穿裤子的概率，在这里是50%

P(B|A')是男生穿裤子的概率，在这里是100%

P(B)是忽略其它因素，学生穿裤子的概率，P(''B'') = P(''B''|''A'')P(''A'') + P(''B''|''A''<nowiki>'</nowiki>)P(''A''<nowiki>'</nowiki>)</span>，在这里是{{nowrap|1= 0.5×0.4 + 1×0.6 = 0.8}}.

根据贝叶斯定理，我们计算出后验概率P(A|B)
:<math>P(A|B) = \frac{P(B|A) P(A)}{P(B)} = \frac{0.5 \times 0.4}{0.8} = 0.25</math>。

可见，后验概率实际上就是条件概率。

==计算==
根据[[贝叶斯定理]]，一个随机变量在给定另一随机变量值之后的后验概率分布可以通过[[先验概率|先验概率分布]]与[[似然函数]]相乘并除以[[归一化常数]]求得
:<math>f_{X\mid Y=y}(x)={f_X(x) L_{X\mid Y=y}(x) \over {\int_{-\infty}^\infty f_X(u) L_{X\mid Y=y}(u)\,du}}</math>
上式为给出了随机变量<math>X</math>在给定数据<math>Y=y</math>后的后验概率分布函数，式中

* <math>f_X(x)</math>为<math>X</math>的先验密度函数，
* <math>L_{X\mid Y=y}(x) = f_{Y\mid X=x}(y)</math>为<math>x</math>的似然函数，
* <math>\int_{-\infty}^\infty f_X(u) L_{X\mid Y=y}(u)\,du</math>为归一化常数，
* <math>f_{X\mid Y=y}(x)</math>为考虑了数据<math>Y=y</math>后<math>X</math>的后验密度函数。

==置信区间==
后验概率是考虑了一系列随机观测数据的条件概率。对于一个随机变量来说，量化其不确定性非常重要。其中一个实现方法便是提供其后验概率的[[置信区间]]。

== 参见 ==
* 经验贝叶斯方法
* [[边缘分布]]
* Lindley's 悖论

==引用==
{{reflist|2}}

{{Statistics}}

[[Category:概率论]]
[[Category:贝叶斯统计]]