查看“︁损失函数”︁的源代码

{{NoteTA|1=zh-cn:瓦尔德;zh-tw:沃德;}}
在[[最优化|数学优化]]与[[决策论]]中，'''损失函数'''（亦称'''成本函数'''或'''误差函数'''）<ref name="ttf2001">{{cite book|first1=Trevor |last1=Hastie |authorlink1= |first2=Robert |last2=Tibshirani |authorlink2=Robert Tibshirani|first3=Jerome H. |last3=Friedman |authorlink3=Jerome H. Friedman |title=The Elements of Statistical Learning |publisher=Springer |year=2001 |isbn=0-387-95284-5 |page=18 |url=https://web.stanford.edu/~hastie/ElemStatLearn/}}</ref>是将[[事件 (概率论)|事件]]或变量值映射至[[实数|实数域]]的函数，其数值直观体现与该事件相关的“代价”。[[最佳化問題|优化问题]]的核心目标即是最小化损失函数。与之相对的'''目标函数'''在不同领域有不同称谓——收益函数、[[效用|效用函数]]、适应度函数等——这类函数则需要通过最大化来实现价值。值得注意的是，损失函数的设计往往融合多层级结构的要素。

统计学科领域内，损失函数常被应用于[[估计理论|参数估计]]过程，其函数形式通常反映数据实例中估计值与真实值之间的差异度量。这一概念虽可追溯至[[皮埃尔-西蒙·拉普拉斯|拉普拉斯]]时代，但直到20世纪中叶才经由[[沃德·亚伯拉罕]]重新引入统计学体系。<ref>{{cite book |first=A. |last=Wald |title=Statistical Decision Functions |publisher=Wiley |year=1950 |url=https://psycnet.apa.org/record/1951-01400-000}}</ref> 在[[经济学]]中，损失通常指经济成本或[[遗憾 (决策论)|遗憾]]；在[[统计分类|分类问题]]中，则体现为错误分类样本的惩罚项；[[精算学]]领域自[[哈拉尔德·克拉梅尔]]20世纪20年代的研究起，该函数主要应用于保险金与赔付额的建模<ref>{{cite book |last=Cramér |first=H. |year=1930 |title=On the mathematical theory of risk |publisher=Centraltryckeriet }}</ref>；[[最优控制]]理论中，它定义为未达成目标值的惩罚项；而在[[金融风险管理]]中，则直接对应货币价值的损失。
[[File:Comparison of loss functions.png|thumb|用于回归的常见损失函数（[[平均绝对误差|MAE]]、SMAE、Huber损失和 Log-Cosh损失）比较]]

==例子==

===平方损失函数===

[[平方]]损失函数十分常见，比如用在[[最小二乘法]]中。它在数学上通常比其他损失函数更容易进行处理，这是因为它具有[[方差]]的性质，以及对称性：高于目标值的误差产生的损失与低于目标值同样大小的误差产生的损失相等。假设目标值为''t''，那么平方损失函数为
:<math>\lambda(x) = C (t-x)^2 \; </math>
其中''C''为某个常数，它的值与决定无关，并且可以通过设为1来略去。

===0-1损失函数===

在[[统计学]]与[[决策论]]中，一个常见的损失函数是''0-1损失函数''

: <math>L(\hat{y}, y) = I(\hat{y} \ne y), \, </math>

其中<math>I</math>是[[指示函数]]。

== 参见 ==
*[[分类问题之损失函数]]

== 參考文獻 ==
{{reflist}}

[[Category:損失函數| ]]
[[Category:预期效用]]
[[Category:人工神经网络]]