Lp范数

$L_p$-范数（英语：$L_p$-norm，亦称 ${\ell }_p$-范数、$p$-范数)是向量空间中的一组范数。$L_p$-范数与幂平均有一定的联系。它的定义如下：

$L_p(\overrightarrow{x})=\Vert \overrightarrow{x}{\Vert }_p=(\sum _{i=1}^n|x_i{|}^p{)}^{1/p},\overrightarrow{x}=\{x_1,x_2,\dots ,x_n\},p⩾1.$

p 的不同取值

图中的$q$即是$L_p$范数中的$p$。这是当$p$取不同值时，在${ℝ}^2$空间上的$L_p$-范数等高线的其中一条。该图展现了各$L_p$-范数的形状。

• Template:来源请求
• $p=0$：$\Vert \overrightarrow{x}{\Vert }_0=\sum _{i=1}^n[x_i\ne 0]$，也就是所有 $x_i$ 中，不等于零的个数。注意，这里的 $L_0$-范数并非通常意义上的范数（不满足三角不等式或次可加性）。
• $p=1$：$\Vert \overrightarrow{x}{\Vert }_1=\sum _{i=1}^n|x_i|$，即 $L_1$-范数是向量各分量绝对值之和，又称曼哈顿距离。
• $p=2$: $\Vert \overrightarrow{x}{\Vert }_2=\sqrt{\sum _{i=1}^n|x_i{|}^2}$，此即欧氏距离。
• $p=+\mathrm{\infty }$: $\Vert \overrightarrow{x}{\Vert }_{\mathrm{\infty }}=\underset{p\to +\mathrm{\infty }}{\lim }(\sum _{i=1}^n|x_i{|}^p{)}^{1/p}=\underset{i}{\max }|x_i|$，此即无穷范数或最大范数，亦称切比雪夫距离。

在机器学习中的应用

在机器学习中，为了对抗过拟合、提高模型的泛化能力，可以通过向目标函数当中引入参数向量的 $L_p$-范数来进行正则化。其中最常用的是引入 $L_1$-范数的 $L_1$-正则项和引入 $L_2$-范数的 $L_2$-正则项；前者有利于得到稀疏解，后者有利于得到平滑解。