坐标下降法

坐标下降法（Template:Lang-en）是一种非梯度优化算法。算法在每次迭代中，在当前点处沿一个坐标方向进行Template:Link-en以求得一个函数的局部极小值。在整个过程中循环使用不同的坐标方向。对于不可拆分的函数而言，算法可能无法在较小的迭代步数中求得最优解。为了加速收敛，可以采用一个适当的坐标系，例如通过主成分分析获得一个坐标间尽可能不相互关联的新坐标系（参考Template:Link-en）。

算法描述

坐标下降法基于的思想是多变量函数$F(𝐱)$可以通过每次沿一个方向优化来获取最小值。与通过梯度获取最速下降的方向不同，在坐标下降法中，优化方向从算法一开始就予以固定。例如，可以选择线性空间的一组基${𝐞}_1,{𝐞}_2,\dots ,{𝐞}_n$作为搜索方向。 在算法中，循环最小化各个坐标方向上的目标函数值。亦即，如果${𝐱}^k$已给定，那么，${𝐱}^{k+1}$的第$i$个维度为

${𝐱}_i^{k+1}=\underset{y\in ℝ}{\mathrm{a}\mathrm{r}\mathrm{g}\mathrm{m}\mathrm{i}\mathrm{n}}f(x_1^{k+1},...,x_{i-1}^{k+1},y,x_{i+1}^k,...,x_n^k);$

因而，从一个初始的猜测值${𝐱}_0$以求得函数$F$的局部最优值，可以迭代获得${𝐱}_0,{𝐱}_1,{𝐱}_2,\dots$的序列。

通过在每一次迭代中采用Template:Link-en，可以很自然地获得不等式

$F({𝐱}_0)\ge F({𝐱}_1)\ge F({𝐱}_2)\ge \cdots ,$

可以知道，这一序列与最速下降具有类似的收敛性质。如果在某次迭代中，函数得不到优化，说明一个驻点已经达到。

这一过程可以用下图表示。

例子

对于非平滑函数，坐标下降法可能会遇到问题。下图展示了当函数等高线非平滑时，算法可能在非驻点中断执行。

应用

坐标下降法在机器学习中有应用，例如训练线性支持向量机（可见Template:Link-en）以及Template:Link-en。

参见

• Template:Link-en
• 共轭梯度法
• 梯度下降法
• 牛顿法
• 最优化
• Template:Link-en

参考

• Template:Citation
• Bertsekas, Dimitri P. (1999). Nonlinear Programming, Second Edition Athena Scientific, Belmont, Massachusetts. ISBN 1-886529-00-0.
• Template:Citation.
• Template:Citation.
• Template:Citation.
• Template:Citation.
• Template:Citation.