查看“︁赤池信息量准则”︁的源代码

{{NoteTA |G1=Math}}
'''赤池信息量准则'''（{{Lang-en|Akaike information criterion}}，简称'''AIC'''）是評估統计模型的复杂度和衡量[[统计]]模型「擬合」資料之优良性（{{Lang-en|Goodness of Fit}}，白話：合身的程度）的一种标准，是由[[日本]]统计学家[[赤池弘次]]创立和发展的。赤池信息量准则建立在[[熵 (信息论)|信息熵]]的概念基础上。

== AIC ==
在一般的情况下，AIC可以表示为：

:<math>AIC = 2k - 2\ln(L)\,</math>

其中：''K''是[[参数]]的数量，L是[[似然函数]]。

假设条件是模型的误差服从独立正态分布。

让''n''为观察数，''RSS''为[[残差]][[平方和]]，那么AIC变为：

:<math>AIC=2k + n\ln(RSS/n)\,</math>

增加自由参数的数目提高了拟合的优良性，AIC鼓励数据拟合的优良性但是尽量避免出现[[過適|过度拟合]]（Overfitting）的情况。

所以优先考虑的模型应是AIC值最小的那一个。赤池信息量准则的方法是寻找可以最好地解释数据但包含最少自由参数的模型。

== AICc和AICu ==
在[[样本]]少的情况下，AIC转变为AICc（改正的赤池信息量准则）：

:<math>AICc = AIC + \frac{2k(k + 1)}{n - k - 1}\,</math>

当''n''增加时，AICc收敛成AIC。所以AICc可以应用在任何样本大小的情况下（Burnham and Anderson, 2004）。

McQuarrie 和 Tsai（1998: 22）把AICc定义为：

:<math>AICc = \ln{\frac{RSS}{n}} + \frac{n+k}{n-k-2}\ ,</math>

他们提出的另一个紧密相关指标为AICu：

:<math>AICu = \ln{\frac{RSS}{n-k}} + \frac{n+k}{n-k-2}\ .</math>

== QAIC ==
QAIC（Quasi-AIC）可以定义为：

:<math>QAIC = 2k-\frac{1}{c}2\ln{L}\,</math>

其中：''c''是[[方差]]膨胀因素。因此QAIC可以调整过度离散（或者缺乏拟合）。

在小样本情况下, QAIC表示为：

:<math>QAICc = QAIC + \frac{2k(k + 1)}{n - k - 1}\,</math>.

== 参考文献 ==
* {{cite journal
 | first = Hirotsugu
 | last = Akaike
 | authorlink = 
 | year = 1974
 | month =
 | title = A new look at the statistical model identification
 | journal = IEEE Transactions on Automatic Control
 | volume = 19
 | issue = 6
 | pages = 716–723
 }}
* Burnham, K. P., and D. R. Anderson, 2002. ''Model Selection and Multimodel Inference: A Practical-Theoretic Approach'', 2nd ed. Springer-Verlag. ISBN 0-387-95364-7. 
* --------, 2004. ''[http://www2.fmg.uva.nl/modelselection/presentations/AWMS2004-Burnham-paper.pdf Multimodel Inference: understanding AIC and BIC in Model Selection] {{Wayback|url=http://www2.fmg.uva.nl/modelselection/presentations/AWMS2004-Burnham-paper.pdf |date=20090914035229 }}'', Amsterdam Workshop on Model Selection.
* Hurvich, C. M., and Tsai, C.-L., 1989. ''Regression and time series model selection in small samples''. Biometrika, Vol 76. pp. 297-307
* McQuarrie, A. D. R., and Tsai, C.-L., 1998. ''Regression and Time Series Model Selection''. World Scientific. 

== 另见 ==
* [[贝叶斯信息准则]]
* [[奥卡姆剃刀]]
* [[施瓦兹准则]]

== 外部链接 ==
* [http://www.garfield.library.upenn.edu/classics1981/A1981MS54100001.pdf 赤池弘次谈论AIC] {{Wayback|url=http://www.garfield.library.upenn.edu/classics1981/A1981MS54100001.pdf |date=20171118111219 }}

{{Authority control}}
[[Category:迴歸變數選擇]]
[[Category:日本發明]]