查看“︁线性预测”︁的源代码

{{NoteTA
|G1 = Math
}}
'''线性预测'''是根据已有采样点按照[[线性算子|线性函数]]计算未来某一[[离散信号]]的数学方法。

在[[数字信号处理]]中，线性预测经常称为[[线性预测编码]]（LPC），因此也可以看作是[[数字滤波器]]的一部分。在[[系统分析]]中，线性预测可以看作是[[数学建模]]或者[[最优化]]的一部分。

==预测模型==

最常见的表示是

:<math>\widehat{x}(n) = -\sum_{i=1}^p a_i x(n-i)</math>，

其中<math>\widehat{x}(n)</math>是预测的信号值，<math>x(n-i)</math>是前面观测到的值，<math>a_i</math>是预测系数。这种预测产生的误差是

:<math>e(n) = x(n) - \widehat{x}(n)</math>，

其中<math>x_n</math>是真正的信号值。

这个等式对于所有类型的一维线性预测都是有效的，它们的不同之处是参数<math>a_i</math>选择方式的不同。

对于多维信号，误差经常定义为

:<math>e(n) = ||x(n) - \widehat{x}(n)||</math>，

其中<math>||.||</math>是适当选择的向量[[范数]]。

==预测参数==

在参数<math>a_i</math>优化中最常见的选择是[[均方根]]准则，也称为[[自相关]]准则。在这种方法中减小了最小均方误差e<sup>2</sup>(n)的期望值E[e<sup>2</sup>(n)]，这样就得到等式

:<math>\sum_{i=1}^p a_i R(i-j) = -R(j)</math>，

对于1 ≤ ''j'' ≤ ''p'',其中''R''是信号''x''<sub>''n''</sub>的[[自相关]]，定义为

:<math>\ R(i) = E\{x(n)x(n-i)\}</math>，

其中''E''是[[期望值]]。在多维情况下，这相当于最小化[[Lp空间|L<sub>2</sub>范数]]。

上面的方程称为normal方程或者Yule-Walker方程，在矩阵形式下这个方程也可以写作

:<math>Ra = -r,</math>，

其中自相关矩阵''R''是元素为''r''<sub>''i'',''j''</sub> = ''R''(''i'' − ''j'')的对称[[轮换矩阵]]，矢量''r''是自相关矢量''r''<sub>''j''</sub> = ''R''(''j'')，矢量''a''是参数矢量。

另外一个更为通用的实现是最小化

:<math>e(n) = x(n) - \widehat{x}(n) = x(n) + \sum_{i=1}^p a_i x(n-i) = \sum_{i=0}^p a_i x(n-i)</math>

其中通常使用<math>a_0=1</math>约束参数<math>a_i</math>以避免trivial解。这个约束产生与上面同样的预测，但是normal方程是

:<math>\ Ra = [1, 0, ... , 0]^{\mathrm{T}}</math>

其中索引''i''的范围是从0到''p''，并且''R''是 (''p'' + 1)×(''p'' + 1)矩阵。

参数优化是一个非常广泛的话题，人们已经提出了大量的其它实现方法。

但是，自相关方法仍然是最为常用的方法，例如在[[GSM]]标准中的[[语音编码]]就在使用这种方法。

矩阵方程''Ra'' = ''r''的求解计算上工作量很大，[[高斯消去法]]求矩阵的逆可能是最为古老的解法了，但是这种方法没有有效地利用''R''和''r''的对称性。一种更快的算法是[[Norman Levinson]]在1947年提出的{{le|Levinson递归法|Levinson recursion}}，它递归地计算方程的解。后来[[Philippe Delsarte|Delsarte]] et al.提出了一种称为[[split Levinson recursion]]的改进方法，它仅需要一半的乘除计算量，它在随后的递归层面上使用了参数矢量的特殊对称特性。

==参见==
*{{le|Forecasting}}
*[[线性回归]]
*[[预测区间]]
*[[去卷积]]

==参考文献==
* G. U. Yule. On a method of investigating periodicities in disturbed series, with special reference to wolfer’s sunspot numbers. Phil. Trans. Roy. Soc., 226-A:267–298, 1927.
* J. Makhoul. Linear prediction: A tutorial review. Proceedings of the IEEE, 63 (5):561–580, April 1975.
* M. H. Hayes. Statistical Digital Signal Processing and Modeling. J. Wiley & Sons, Inc., New York, 1996.

[[Category:时间序列]]
[[Category:信号处理]]
[[Category:估计理论]]
[[Category:回归分析]]