查看“︁二次型 (统计)”︁的源代码

在[[多元变量统计]]中，如果 <math>\varepsilon</math> 为 <math>n</math> 维[[随机向量]]， <math>\Lambda</math> 是一个 <math>n</math> 维[[對稱矩陣|对称矩阵]]，则[[随机变量]] <math>\varepsilon^T\Lambda\varepsilon</math> 称为 <math>\varepsilon</math> 的二次型。

== 期望 ==
二次型的期望可表示为，<ref>{{cite web|url=http://www.stat.wisc.edu/~st849-1/lectures/Ch02.pdf|title=Quadratic Forms of Random Variables|accessdate=August 21, 2011|last=Douglas|first=Bates|work=STAT 849 lectures|archive-date=2016-03-04|archive-url=https://web.archive.org/web/20160304032637/http://www.stat.wisc.edu/~st849-1/lectures/Ch02.pdf|dead-url=no}}</ref>

:<math>\operatorname{E}\left[\varepsilon^T\Lambda\varepsilon\right]=\operatorname{tr}\left[\Lambda \Sigma\right] + \mu^T\Lambda\mu</math>

其中，<math>\mu</math> 和 <math>\Sigma</math> 分别表示 <math>\varepsilon</math> 的[[期望值]] 和[[协方差矩阵|方差-协方差矩阵]]， tr 为矩阵的[[迹]]。其结果仅仅取决于是否存在 <math>\mu</math> 和 <math>\Sigma</math>；并且，<math>\varepsilon</math> 的[[多元正态分布|正态性]]不是必要条件。

关于随机变量的二次型参考书籍 <ref name="Mathai">{{cite book|title=Quadratic Forms in Random Variables|author2=Provost, Serge B.|publisher=CRC Press|year=1992|isbn=978-0824786915|pages=424|lastauthoramp=yes|author1=Mathai, A. M.}}</ref>

=== 证明 ===
由于二次型是标量，所以二次型的迹就是它本身<math> \operatorname{E}\left[\varepsilon^T\Lambda\varepsilon\right] = \operatorname{tr}(\operatorname{E}[\varepsilon^T\Lambda\varepsilon])</math>。

由于矩阵的迹是其对角线元素之和（即矩阵元素线性组合的结果），因此服从期望的线性，有

: <math> \operatorname{tr}(\operatorname{E} \left[ \varepsilon^T \Lambda \varepsilon \right]) = \operatorname{E}[\operatorname{tr}(\varepsilon^T\Lambda\varepsilon)]. </math>

利用[[迹]]的可交换性，

:<math> \operatorname{E}[\operatorname{tr}(\varepsilon^T\Lambda\varepsilon)] = \operatorname{E}[\operatorname{tr}(\Lambda\varepsilon\varepsilon^T)]. </math>

由期望的线性可得

: <math> \operatorname{E}[\operatorname{tr}(\Lambda\varepsilon\varepsilon^T)] = \operatorname{tr}(\Lambda \operatorname{E}(\varepsilon\varepsilon^T)). </math>

由方差的标准属性可知：

: <math> \operatorname{tr}(\Lambda (\Sigma + \mu \mu^T)). </math>

再次应用[[迹]]的可交换性可得：

: <math> \operatorname{tr}(\Lambda\Sigma) + \operatorname{tr}(\Lambda \mu \mu^T) = \operatorname{tr}(\Lambda\Sigma) + \operatorname{tr}(\mu^T\Lambda\mu) = \operatorname{tr}(\Lambda\Sigma) + \mu^T\Lambda\mu.</math>

== 方差 ==
通常情况下，二次型的方差在很大程度上取决于 <math>\varepsilon</math> 的分布。 然而，如果 <math>\varepsilon</math> 服从[[多元正态分布]]，则二次型的方差的求解非常容易。假设 <math>\Lambda</math> 是一个对称矩阵，则有，

:<math>\operatorname{var} \left[\varepsilon^T\Lambda\varepsilon\right] = 2\operatorname{tr}\left[\Lambda \Sigma\Lambda \Sigma\right] + 4\mu^T\Lambda\Sigma\Lambda\mu</math> <ref>{{Cite book|url=https://www.worldcat.org/oclc/212120778|title=Linear models in statistics|last=1934-|first=Rencher, Alvin C.,|date=2008|publisher=Wiley-Interscience|others=Schaalje, G. Bruce., Wiley InterScience (Online service)|isbn=9780471754985|edition=2nd ed|location=Hoboken, N.J.|oclc=212120778}}</ref>.

事实上，这可以推广到同一向量 <math>\varepsilon</math> 的两个二次型的[[协方差]]计算中 (注意, <math>\Lambda_1</math> 和 <math>\Lambda_2</math> 必须都是对称矩阵):

:<math>\operatorname{cov}\left[\varepsilon^T\Lambda_1\varepsilon,\varepsilon^T\Lambda_2\varepsilon\right]=2\operatorname{tr}\left[\Lambda _1\Sigma\Lambda_2 \Sigma\right] + 4\mu^T\Lambda_1\Sigma\Lambda_2\mu</math>。 

=== 不对称矩阵的方差计算 ===
在某些参考资料中，在 <math>\Lambda</math> 为非对称矩阵情况下，也错误地得到了上述方差/协方差的结果。
在一般情况下，<math>\Lambda</math> 可以通过下面方式得到：

:<math>\varepsilon^T\Lambda^T\varepsilon=\varepsilon^T\Lambda\varepsilon</math>

因此

:<math>\varepsilon^T\tilde{\Lambda}\varepsilon=\varepsilon^T\left(\Lambda+\Lambda^T\right)\varepsilon/2</math>

但是，这'''是'''一个二次型的对称矩阵 <math>\tilde{\Lambda}=\left(\Lambda+\Lambda^T\right)/2</math>，所以其[[均值]]和[[方差]]表达式相同，只是将 <math>\Lambda</math> 替换为 <math>\tilde{\Lambda}</math>。

== 二次型举例 ==
设有观测值的集合 <math>y</math> 和运算矩阵 <math>H</math>，则 <math>y</math> 的[[残差平方和]]可表示为其二次型：
<div class="_1BN1N Kzi1t _3OU5v _2DJZN" style="z-index: 2; transform: translate(314.297px, 2121px);"><div class="_1HjH7"></div></div>

:<math>\textrm{RSS}=y^T(I-H)^T (I-H)y.</math>

其中，矩阵 <math>H</math> 为[[對稱矩陣|对称]]和[[等幂]]的，其误差为协方差矩阵为 <math>\sigma^2I</math> 的[[高斯分布]], <math>\textrm{RSS}/\sigma^2</math> 为自由度是 <math>k</math> 的[[卡方分布]]，参数为 <math>\lambda</math>，有

:<math>k=\operatorname{tr}\left[(I-H)^T(I-H)\right]</math>
:<math>\lambda=\mu^T(I-H)^T(I-H)\mu/2</math>

如果 <math>Hy</math> 在估计 <math>\mu</math> 时没有[[偏差]]，则参数 <math>\lambda</math> 为零且 <math>\textrm{RSS}/\sigma^2</math> 服从[[中心卡方分布]]。

== 参考文献 ==
<div class="_1BN1N Kzi1t _2DJZN" style="z-index: 2; transform: translate(314.297px, 2592.81px);"><div class="_1HjH7"></div></div>{{Reflist}}

== 参看 ==
<div class="_1BN1N Kzi1t _2DJZN" style="z-index: 2; transform: translate(314.297px, 2945.41px);"><div class="_1HjH7"></div></div>

* [[二次型]]
* [[协方差矩阵]]

<div class="_1BN1N Kzi1t _2DJZN" style="z-index: 2; transform: translate(314.297px, 3010.39px);"><div class="_1HjH7"></div></div>
[[Category:二次型]]
[[Category:統計理論]]