查看“︁马尔可夫网络”︁的源代码

'''马尔可夫网络'''，（'''马尔可夫随机场'''、'''无向图模型'''）是关于一组有[[马尔可夫性质]][[随机变量]]<math>X</math>的全[[联合概率分布]]模型。

马尔可夫网络类似[[贝叶斯网络]]用于表示依赖关系。但是，一方面它可以表示贝叶斯网络无法表示的一些依赖关系，如循环依赖；另一方面，它不能表示贝叶斯网络能够表示的某些关系，如推导关系。马尔可夫网络的原型是[[易辛模型]]，最初是用来说明该模型的基本假设<ref>Ross Kindermann and J. Laurie Snell, [http://www.ams.org/online_bks/conm1/ 马尔可夫随机场及其应用] {{Wayback|url=http://www.ams.org/online_bks/conm1/ |date=20061206021345 }}（1980）美国数学协会, ISBN 0-8218-5001-6</ref>。
 
== 形式化定义 ==
形式上，一个马尔可夫网络包括：
* 一个[[无向图]]''G'' = (''V'',''E'')，每个[[顶点 (图论)|顶点]]''v'' ∈''V''表示一个在集合<math>X</math>的[[随机变量]]，每条边{''u'',''v''} ∈ ''E''表示随机变量''u''和''v''之间的一种依赖关系。
* 一个函数集合<math>f_k</math>（也称为''因子''或者''团因子''有时也称为''特征''），每一个<math>f_k</math>的定义域是图''G''的团或子团''k''.  每一个<math>f_k</math>是从可能的特定联合的指派（到元素''k''）到[[非负]][[实数]]的映射。

=== 联合分布函数 ===
联合分布（吉布斯测度）用马尔可夫网络可以表示为：
:<math> P(X=x) = \frac{1}{Z} \prod_{k} f_k (x_{ \{ k \}}) </math>

其中<math>x=x_{\{1\}}x_{\{2\}}x_{\{3\}}\cdots</math>是向量，<math>x_{ \{ k \}} = x_{\{k,1\}}x_{\{k,2\}}\cdots x_{\{k,|c_k|\}}</math>是随机变量<math>x</math>在第''k''个团的状态（<math>|c_k|</math>是在第''k''个团中包含的节点数。），乘积包括了图中的所有团。注意马尔可夫性质在团内的节点存在，在团之间是不存在依赖关系的。这里，<math>Z</math>是[[配分函数]]，有

:<math> Z = \sum_{x \isin \mathcal{X}} \prod_{k} f_k(x_{ \{ k \} })</math>.

实际上，马尔可夫网联络经常表示为[[对数线性模型]]。通过引入特征函数<math>\phi_k</math>，得到
:<math>f_k=\exp \left(w_k^{\top} \phi_k (x_{ \{ k \}}) \right) </math>
和
:<math> P(X=x) = \frac{1}{Z} \exp \left( \sum_{k} w_k^{\top} \phi_k (x_{ \{ k \}}) \right) </math>
以及划分函数 
:<math> Z = \sum_{x \isin \mathcal{X}} \exp \left(\sum_{k} w_k^{\top}\phi_k(x_{ \{ k \} })\right)</math>。

其中，<math>w_k</math>是权重，<math>\phi_k</math>是势函数，映射团<math>k</math>到实数。这些函数有时亦称为'''吉布斯势'''；术语''势''源于物理，通常从字面上理解为在临近位置产生的[[势能]]。

对数线性模型是对势能的一种便捷的解释方式。一个这样的模型可以简约的表示很多分布，特别是在领域很大的时候。另一方面，负的[[似然函数]]是[[凸函数]]也带来便利。但是即便对数线性的马尔可夫网络似然函数是凸函数，计算似然函数的梯度仍旧需要模型推理，而这样的推理通常是难以计算的。

=== 马尔可夫性质 ===
马尔可夫网络有这样的[[马尔可夫性质]]：图的顶点''u''在状态<math>x_u</math>的概率只依赖顶点''u''的最近临节点，并且顶点''u''对图中的其他任何节点是[[条件独立]]的。该性质表示为 
:<math>P(X_u=x_u|X_v, v\ne u) = P(X_u=x_u|X_v, v\isin N_u)</math>
顶点''u''的最近临节点集合<math>N_u</math>也称为顶点''u''的[[马尔可夫链]]。

== 推理 ==
在贝叶斯网络中，计算节点<math> V' = \{ v_1 ,..., v_i \} </math>集合对给出的另外节点<math> W' = \{ w_1 ,..., w_j \} </math>集合的[[条件分布]]可以通过的所有可能的<math>u \notin V',W'</math>指派值求和，这是[[精确推理]]。精确推理是NP-hard问题，一般相信不存在快速计算方法。近似推理技术如[[马尔科夫蒙特卡洛]]和[[置信度传播]]通常更加可行。一些马尔可夫随机场的子类，如树，有多项式时间复杂度的推理算法，发现这样的子类也是活跃的研究课题。也有一些马尔可夫随机场的子类允许有效最大后验概率估计，或者最可能的指派值；应用的例子包括关联网络。

== 条件随机场 ==
一个马尔可夫网络的重要变体是'''[[条件随机场]]'''，每个随机变量可以条件依赖于一组全局的观察<math>o</math>。这个模型中，每个函数<math>\phi_k</math>是从指派值到团''k''和从观察<math>o</math>到非负实数的映射。这样的马尔可夫网络更适于不对观察建立分布模型的区分性模型，不是生成性模型。

== 参见 ==
* [[圖模式]]
* [[马尔可夫链]]
* [[马尔可夫逻辑网络]]

==参考==
{{reflist}}

{{Stochastic processes}}

[[Category:人工智能]]
[[Category:概率图模型]]
[[Category:馬可夫網絡]]
[[Category:圖模式]]