现代信号处理维纳和卡尔曼滤波课件.ppt

维纳滤波和卡尔曼滤波 2.1 引言引言 2.2 维纳滤波器的离散形式维纳滤波器的离散形式————时域解时域解 2.3 离散维纳滤波器的离散维纳滤波器的z域解域解 2.4 维纳预测维纳预测 2.5 卡尔曼卡尔曼(Kalman)滤波滤波 现代信号处理-维纳和卡尔曼滤波2.1 引引 言言 　　在生产实践中，观测到的信号都是受到噪声干扰的如何最大限度地抑制噪声，并将有用信号分离出来，是信号处理中经常遇到的问题换句话说，信号处理的目的就是要得到不受干扰影响的真正信号相应的处理系统称为滤波器这里，只考虑加性噪声的影响，即观测数据x(n)是信号s(n)与噪声v(n)之和（如图2.1.1所示）, 即 x(n)=s(n)+v(n)（2.1.1） 现代信号处理-维纳和卡尔曼滤波图 2.1.1 观测信号的组成 2.1 引引 言言 现代信号处理-维纳和卡尔曼滤波2.1 引引 言言 　　为了得到不含噪声的信号s(n)，也称为期望信号，若滤波系统的单位脉冲响应为h(n)（如图2.1.2所示）， 系统的期望输出用yd(n)表示，yd(n)应等于信号的真值s(n)；系统的实际输出用y(n)表示，y(n)是s(n)的逼近或估计，用公式表示为yd(n)=s(n)， y(n) =　　 。

因此对信号x(n)进行处理，可以看成是对期望信号的估计，这样可以将h(n)看作是一个估计器，也就是说, 信号处理的目的是要得到信号的一个最佳估计那么， 采用不同的最佳准则，估计得到的结果可能不同 现代信号处理-维纳和卡尔曼滤波图 2.1.2 信号处理的一般模型 2.1 引引 言言 现代信号处理-维纳和卡尔曼滤波　　假若已知x(n-1), x(n-2), …, x(n-m)，要估计当前及以后时刻的信号值 , N≥0，这样的估计问题称为预测问题；若已知x(n-1), x(n-2), …, x(n-m) ，要估计当前的信号值 ，称为过滤或滤波； 根据过去的观测 值 x(n-1), x(n-2), …, x(n-m)， 估 计 过 去 的 信 号 值 , N≥1，称为平滑或内插 2.1 引引 言言 现代信号处理-维纳和卡尔曼滤波　　维纳(Wiener)滤波与卡尔曼(Kalman)滤波就是用来解决这样一类从噪声中提取信号的过滤或预测问题, 并以估计的结果与信号真值之间的误差的均方值最小作为最佳准则　　维纳滤波器的求解，要求知道随机信号的统计分布规律（自相关函数或功率谱密度），得到的结果是封闭公式；维纳滤波的最大缺点是仅适用于一维平稳随机信号，这是由于采用频域设计法所造成的 。

2.1 引引 言言 现代信号处理-维纳和卡尔曼滤波　　1950年，伯特和香农给出了当信号的功率谱为有理谱时，由功率谱直接求取维纳滤波器传输函数的设计方法 采用谱分解的方法求解，简单易行，具有一定的工程实用价值，并且物理概念清楚 因此人们逐渐转向在时域内直接设计最佳滤波器的方法 2.1 引引 言言 　　^现代信号处理-维纳和卡尔曼滤波2.2 维纳滤波器的离散形式维纳滤波器的离散形式——时域解时域解 2.2.1 维纳滤波器时域求解的方法维纳滤波器时域求解的方法　　根据线性系统的基本理论，并考虑到系统的因果性，可以得到滤波器的输出y(n), n=0, 1, 2, … 　　（2.2.2） 现代信号处理-维纳和卡尔曼滤波2.2 维纳滤波器的离散形式维纳滤波器的离散形式——时域解时域解 2.2.1 维纳滤波器时域求解的方法维纳滤波器时域求解的方法　　设期望信号为　　，误差信号　　　及其均方值　　　　　　　　　　分别为 ：（2.2.３） （2.2.４） 现代信号处理-维纳和卡尔曼滤波2.2.1 维纳滤波器时域求解的方法维纳滤波器时域求解的方法　　要使均方误差为最小，须满足因此，上式说明，均方误差达到最小值的充要条件是误差信号与任一进入估计的输入信号正交，这就是通常所说的正交性原理。

2.2.5） 2.2 维纳滤波器的离散形式维纳滤波器的离散形式——时域解时域解 现代信号处理-维纳和卡尔曼滤波2.2.1 维纳滤波器时域求解的方法维纳滤波器时域求解的方法　　它的重要意义在于提供了一个数学方法，用以判断线性滤波系统是否工作于最佳状态 　　下面计算输出信号与误差信号的互相关函数 (2.2.6) 2.2 维纳滤波器的离散形式维纳滤波器的离散形式——时域解时域解 现代信号处理-维纳和卡尔曼滤波2.2.1 维纳滤波器时域求解的方法维纳滤波器时域求解的方法　　假定滤波器工作于最佳状态，滤波器的输出yopt(n)与期望信号d(n)的误差为eopt(n)，把（2.2.5）式代入上式，得到 (2.2.7) 图 2.2.1 期望信号、 估计值与误差信号的几何关系 2.2 维纳滤波器的离散形式维纳滤波器的离散形式——时域解时域解 现代信号处理-维纳和卡尔曼滤波　2.2.1 维纳滤波器时域求解的方法维纳滤波器时域求解的方法　　图2.2.1表明在滤波器处于最佳工作状态时， 估计值加上估计偏差等于期望信号， 即 　　注意我们所研究的是随机信号，图2.2.1中各矢量的几何表示应理解为相应量的统计平均或者是数学期望。

再从能量的角度来看，假定输入信号和期望信号都是零均值, 应用正交性原理,则, 因此在滤波器处于最佳状态时， 估计值的能量总是小于等于期望信号的能量 2.2 维纳滤波器的离散形式维纳滤波器的离散形式——时域解时域解 现代信号处理-维纳和卡尔曼滤波2.2.2 维纳维纳—霍夫方程霍夫方程　　将（2.2.5）式展开， 可以得到将输入信号分配进去， 得到k=0, 1, 2, … 2.2 维纳滤波器的离散形式维纳滤波器的离散形式——时域解时域解 现代信号处理-维纳和卡尔曼滤波2.2.2 维纳维纳—霍夫方程霍夫方程　　对上式两边取共轭，利用相关函数的性质: 　　　　　　得到 ：上式称为维纳-霍夫（Wiener－Hopf）方程　　当h(n)是一个长度为M的因果序列(即h(n)是一个长度为M的FIR滤波器)时， 维纳-霍夫方程表述为k=0, 1, 2, … （2.2.8）2.2 维纳滤波器的离散形式维纳滤波器的离散形式——时域解时域解 现代信号处理-维纳和卡尔曼滤波2.2.2 维纳维纳—霍夫方程霍夫方程把k的取值代入(2.2.9)式， 得到：当k=0时，h1rxx(0)+h2rxx(1)+…+hMrxx(M-1)=rxd(0)k=1时， h1rxx(1)+ h2rxx(0)+…+ hMrxx(M-2)= rxd(+1) k=M-1时， h1rxx(M-1)+ h2rxx (M-2)+…+hMrxx(0)= rxd(M-1) …(2.2.10) 2.2 维纳滤波器的离散形式维纳滤波器的离散形式——时域解时域解 现代信号处理-维纳和卡尔曼滤波2.2.2 维纳维纳—霍夫方程霍夫方程定义可以写成矩阵的形式， 即求逆，得到 ：(2.2.11) 2.2 维纳滤波器的离散形式维纳滤波器的离散形式——时域解时域解 现代信号处理-维纳和卡尔曼滤波2.2.2 维纳维纳—霍夫方程霍夫方程　　（2.2.11）式表明已知期望信号与观测数据的互相关函数及观测数据的自相关函数时，可以通过矩阵求逆运算，得到维纳滤波器的最佳解。

同时可以看到，直接从时域求解因果的维纳滤波器， 当选择的滤波器的长度M较大时， 计算工作量很大， 并且需要计算Rxx的逆矩阵，从而要求的存贮量也很大2.2 维纳滤波器的离散形式维纳滤波器的离散形式——时域解时域解 现代信号处理-维纳和卡尔曼滤波2.2.2 维纳维纳—霍夫方程霍夫方程　　此外， 在具体实现时，滤波器的长度是由实验来确定的，如果想通过增加长度提高逼近的精度，就需要在新M基础上重新进行计算因此，从时域求解维纳滤波器，并不是一个有效的方法 2.2 维纳滤波器的离散形式维纳滤波器的离散形式——时域解时域解 　　^现代信号处理-维纳和卡尔曼滤波若不考虑滤波器的因果性，（2.2.8）式可以写为 设定d(n)=s(n)，对上式两边做Z变换，得到 Sxs(z)=Hopt(z)Sxx(z) （2.3.1）2.3 离散维纳滤波器的Ｚ域解离散维纳滤波器的Ｚ域解 现代信号处理-维纳和卡尔曼滤波Sxs(z)=Sss(z)Sxx(z)=Sss(z)+Svv(z) 假设信号和噪声不相关，即rsv(m)=0，则 （2.3.1）式可以写成 （2.3.2）显然，当噪声为0时，信号全部通过；当信号为0时， 噪声全部被抑制掉，因此维纳滤波确有滤除噪声的能力。

2.3 离散维纳滤波器的Ｚ域解离散维纳滤波器的Ｚ域解 现代信号处理-维纳和卡尔曼滤波　　把信号的频谱用Pss(ejω)表示，噪声的频谱用Pvv(ejω)表示，那么非因果的维纳滤波器的传输函数Hopt(ejω)的幅频特性如图2.3.1所示 图 2.3.1 非因果维纳滤波器的传输函数的幅频特性 2.3 离散维纳滤波器的Ｚ域解离散维纳滤波器的Ｚ域解 现代信号处理-维纳和卡尔曼滤波Pss(ejω)≠0, Pvv(ejω)=0 Pss(ejω)≠0, Pvv(ejω) ≠ 0 Pss(ejω)=0, Pvv(ejω) ≠ 0 然而实际的系统都是因果的对于一个因果系统，不能直接转入频域求解的原因是由于输入信号与期望信号的互相关序列是一个因果序列，如果能够把因果维纳滤波器的求解问题转化为非因果问题，求解方法将大大简化2.3 离散维纳滤波器的Ｚ域解离散维纳滤波器的Ｚ域解 现代信号处理-维纳和卡尔曼滤波　　假设x(n)的信号模型B(z)已知（如图2.3.2(a)所示），求出信号模型的逆系统B-1(z)， 并将x(n)作为输入，那么逆系统B-1(z)的输出ω(n)为白噪声一般把信号转化为白噪声的过程称为白化，对应的滤波器称为白化滤波器。

图 2.3.2 x(n)的时间序列信号模型及其白化滤波器 2.3 离散维纳滤波器的Ｚ域解离散维纳滤波器的Ｚ域解 现代信号处理-维纳和卡尔曼滤波　　具体思路如图2.3.3所示用白噪声作为待求的维纳滤波器的输入，设定1/B(z)为信号x(n)的白化滤波器的传输函数，那么维纳滤波器的传输函数G(z)的关系为： (2.3.3) 　　因此，维纳滤波器的传输函数H(z)的求解转化为G(z)的求解 图 2.3.3 维纳滤波解题思路 2.3 离散维纳滤波器的Ｚ域解离散维纳滤波器的Ｚ域解 现代信号处理-维纳和卡尔曼滤波2.3.1 非因果维纳滤波器的求解非因果维纳滤波器的求解 假设待求维纳滤波器的单位脉冲响应为ω(n)，期望信号d(n)=s(n)，系统的输出信号y(n)=s(n)，g(n)是G(z)的逆Z变换， 如图2.3.3所示 2.3 离散维纳滤波器的Ｚ域解离散维纳滤波器的Ｚ域解 现代信号处理-维纳和卡尔曼滤波2.3.1 非因果维纳滤波器的求解非因果维纳滤波器的求解(2.3.4) 2.3 离散维纳滤波器的Ｚ域解离散维纳滤波器的Ｚ域解 现代信号处理-维纳和卡尔曼滤波 -∞＜k＜∞ (2.3.5) 因此g(n)的最佳值为 -∞＜k＜∞ (2.3.6) 2.3.1 非因果维纳滤波器的求解非因果维纳滤波器的求解　　可以看出，均方误差的第一项和第三项都是非负数, 要使均方误差为最小，当且仅当 2.3 离散维纳滤波器的Ｚ域解离散维纳滤波器的Ｚ域解 现代信号处理-维纳和卡尔曼滤波(2.3.7) 2.3.1 非因果维纳滤波器的求解非因果维纳滤波器的求解　　对上式两边同时做Z变换，得到：这样，非因果维纳滤波器的最佳解为： (2.3.8) 2.3 离散维纳滤波器的Ｚ域解离散维纳滤波器的Ｚ域解 现代信号处理-维纳和卡尔曼滤波(2.3.9) 对上式两边做Z变换，得到： 因此： (2.3.10) 2.3.1 非因果维纳滤波器的求解非因果维纳滤波器的求解　　因为　　　　　　　，且　　　　　　　，根据相关卷积定理, 得到 ：2.3 离散维纳滤波器的Ｚ域解离散维纳滤波器的Ｚ域解 现代信号处理-维纳和卡尔曼滤波 2.3.1 非因果维纳滤波器的求解非因果维纳滤波器的求解　　将上式代入(2.3.８)式，并根据x(n)的信号模型，得到非因果的维纳滤波器的复频域最佳解的一般表达式 (2.3.11) 假定信号与噪声不相关，即当　　　　　　　时，有： 2.3 离散维纳滤波器的Ｚ域解离散维纳滤波器的Ｚ域解 现代信号处理-维纳和卡尔曼滤波 2.3.1 非因果维纳滤波器的求解非因果维纳滤波器的求解　　对上边两式做Z变换, 得到(2.3.12) (2.3.13) 把(2.3.12)式代入(2.3.10)式, 得到 (2.3.14) 2.3 离散维纳滤波器的Ｚ域解离散维纳滤波器的Ｚ域解 现代信号处理-维纳和卡尔曼滤波(2.3.15) 2.3.1 非因果维纳滤波器的求解非因果维纳滤波器的求解　　将（2.3.13）式和（2.3.14）式代入（2.3.11）式, 得到信号和噪声不相关时，非因果维纳滤波器的复频域最佳解和频率响应分别为(2.3.16) 2.3 离散维纳滤波器的Ｚ域解离散维纳滤波器的Ｚ域解 现代信号处理-维纳和卡尔曼滤波 2.3.1 非因果维纳滤波器的求解非因果维纳滤波器的求解　　以下推出该滤波器的最小均方误差E［|e(n)|2］min的计算, 重新写出(2.3.4)式的最佳解 2.3 离散维纳滤波器的Ｚ域解离散维纳滤波器的Ｚ域解 现代信号处理-维纳和卡尔曼滤波2.3.1 非因果维纳滤波器的求解非因果维纳滤波器的求解　　根据围线积分法求逆Z变换的公式, rss(m)用下式表示: (2.3.17) 得出 (2.3.18) 2.3 离散维纳滤波器的Ｚ域解离散维纳滤波器的Ｚ域解 现代信号处理-维纳和卡尔曼滤波2.3.1 非因果维纳滤波器的求解非因果维纳滤波器的求解由复卷积定理 (2.3.19) 取y(n)=x(n), 有 (2.3.20) 2.3 离散维纳滤波器的Ｚ域解离散维纳滤波器的Ｚ域解 现代信号处理-维纳和卡尔曼滤波2.3.1 非因果维纳滤波器的求解非因果维纳滤波器的求解因此 (2.3.21) 把(2.3.18)式和(2.3.21)式代入(2.3.4)式， 得到 ：(2.3.22) 2.3 离散维纳滤波器的Ｚ域解离散维纳滤波器的Ｚ域解 现代信号处理-维纳和卡尔曼滤波2.3.1 非因果维纳滤波器的求解非因果维纳滤波器的求解将（2.3.14）式代入上式， 得到 (2.3.23) 　　因为实信号的自相关函数是偶函数，因此： 2.3 离散维纳滤波器的Ｚ域解离散维纳滤波器的Ｚ域解 现代信号处理-维纳和卡尔曼滤波2.3.1 非因果维纳滤波器的求解非因果维纳滤波器的求解假定信号与噪声不相关，E［s(n)v(n)］=0， 则 (2.3.24) 2.3 离散维纳滤波器的Ｚ域解离散维纳滤波器的Ｚ域解 现代信号处理-维纳和卡尔曼滤波2.3.2 2.3.2 因果维纳滤波器的求解因果维纳滤波器的求解 若维纳滤波器是一个因果滤波器， 要求 g(n)=0 n＜0 则滤波器的输出信号 (2.3.26) (2.3.25) 2.3 离散维纳滤波器的Ｚ域解离散维纳滤波器的Ｚ域解 现代信号处理-维纳和卡尔曼滤波2.3.2 2.3.2 因果维纳滤波器的求解因果维纳滤波器的求解估计误差的均方值 类似于（2.3.4）式的推导，得到 (2.3.27) 2.3 离散维纳滤波器的Ｚ域解离散维纳滤波器的Ｚ域解 现代信号处理-维纳和卡尔曼滤波2.3.2 因果维纳滤波器的求解因果维纳滤波器的求解要使均方误差取得最小值， 当且仅当 (2.3.28) 令 (2.3.29) (2.3.30) 2.3 离散维纳滤波器的Ｚ域解离散维纳滤波器的Ｚ域解 现代信号处理-维纳和卡尔曼滤波2.3.2 因果维纳滤波器的求解因果维纳滤波器的求解又由（2.3.15）式得到 (2.3.31) 所以因果维纳滤波器的复频域最佳解为 (2.3.32) 2.3 离散维纳滤波器的Ｚ域解离散维纳滤波器的Ｚ域解 现代信号处理-维纳和卡尔曼滤波2.3.2 因果维纳滤波器的求解因果维纳滤波器的求解维纳滤波的最小均方误差为: 2.3 离散维纳滤波器的Ｚ域解离散维纳滤波器的Ｚ域解 现代信号处理-维纳和卡尔曼滤波2.3.2 因果维纳滤波器的求解因果维纳滤波器的求解即维纳滤波的最小均方误差为: (2.3.33) 2.3 离散维纳滤波器的Ｚ域解离散维纳滤波器的Ｚ域解 比较（2.3.23）式和（2.3.33）式，可以看出因果维纳滤波器的最小均方误差与非因果维纳滤波器的最小均方误差的形式相同，但公式中的　　　　的表达式不同, 分别参见(2.3.11) 式和(2.3.32)式。

现代信号处理-维纳和卡尔曼滤波 2.3.2 因果维纳滤波器的求解因果维纳滤波器的求解　　前面已经导出， 对于非因果情况，对于因果情况， 比较两式，它们的第二项求和域不同，因为因果情况下　 　 　 　，因此可以说明非因果情况的　　　　　一定小于等于因果情况　　　　　　　　　在在具具体体计计算算时时, ,可可以以选选择择单单位位圆圆作作为为积积分分曲曲线线，， 应应用用留留数数定定理理，， 计计算算积积分分函函数数在在单单位圆内的极点的留数来得到位圆内的极点的留数来得到 2.3 离散维纳滤波器的Ｚ域解离散维纳滤波器的Ｚ域解 现代信号处理-维纳和卡尔曼滤波 2.3.2 因果维纳滤波器的求解因果维纳滤波器的求解　　通过前面的分析, 因果维纳滤波器设计的一般方法可以按下面的步骤进行：  (1) 根据观测信号x(n)的功率谱求出它所对应的信号模型的传输函数，即采用谱分解的方法得到B(z)具体方法为　　　　　　　　　，把单位圆内的零极点分配给　　　，单位圆外的零极点分配给　　　，系数分配给　　 2.3 离散维纳滤波器的Ｚ域解离散维纳滤波器的Ｚ域解 现代信号处理-维纳和卡尔曼滤波 2.3.2 因果维纳滤波器的求解因果维纳滤波器的求解(2)求　　　取其因果部分再做Z变换，即舍掉单位圆外的极点，得： (3) 积 分 曲 线 取 单 位 圆 ， 应 用 （ 2.3.32） 式 和（2.3.33）式，计算：。

2.3 离散维纳滤波器的Ｚ域解离散维纳滤波器的Ｚ域解 　　^现代信号处理-维纳和卡尔曼滤波2.4 维维 纳纳 预预 测测 2.4.1 2.4.1 维纳预测的计算维纳预测的计算 在维纳滤波中，期望的输出信号　　　　　，实际的输出为　　　　　在维纳预测中，期望的输出信号　　　　　　　， 实际的输出　　　　　　前面已经推导得到维纳滤波的最佳解为：（2.4.1） 其中,　　　是观测数据的功率谱；　　　是观测数据与期望信号的互功率谱现代信号处理-维纳和卡尔曼滤波2.4 维维 纳纳 预预 测测 2.4.1 维纳预测的计算维纳预测的计算　　　　互相关函数　　　的傅里叶变换 ：（2.4.2） 对应于维纳预测器， 其输出信号y(n)和预测误差信号e(n+N)分别为 （2.4.3） （2.4.4） 现代信号处理-维纳和卡尔曼滤波2.4.1 维纳预测的计算维纳预测的计算同理，要使预测误差的均方值为最小，须满足 （2.4.5） 其中，hk表示h(k) 2.4 维维 纳纳 预预 测测 观测数据与期望的输出的互相关函数rxyd(k)和互谱密度Sxyd(z)分别为 （2.4.6） （2.4.7） 现代信号处理-维纳和卡尔曼滤波2.4.1 维纳预测的计算维纳预测的计算这样，非因果维纳预测器的最佳解为 （2.4.8） 因果维纳预测器的最佳解为： （2.4.9） 2.4 维维 纳纳 预预 测测 现代信号处理-维纳和卡尔曼滤波2.4.1 维纳预测的计算维纳预测的计算维纳预测的最小均方误差为 从上面分析可以看出， 维纳预测的求解和维纳滤波器的求解方法是一致的。

2.4 维维 纳纳 预预 测测 （2.4.10） 现代信号处理-维纳和卡尔曼滤波2.4.2 2.4.2 纯预测纯预测 假设 ，式中 是噪声，且 ，期望信号为 ，此种情况称为纯预测  假定维纳预测器是因果的，仍设s(n)与v(n)不相关，纯预测情况下的输入信号的功率谱及维纳预测器的最佳解分别为 （2.4.11） （2.4.12） 2.4 维维 纳纳 预预 测测 现代信号处理-维纳和卡尔曼滤波2.4.2 纯预测纯预测纯预测器的最小均方误差为 （2.4.13） 2.4 维维 纳纳 预预 测测 现代信号处理-维纳和卡尔曼滤波2.4.2 纯预测纯预测应用复卷积定理 （2.4.14） 2.4 维维 纳纳 预预 测测 取y(n)=x(n) （2.4.15） 现代信号处理-维纳和卡尔曼滤波2.4.2 纯预测纯预测将上式代入(2.4.13)式, 并考虑到b(n)是因果系统，得到 可以看到，随着N 增加， 也增加这一点也容易理解，当预测的距离越远，预测的效果越差，偏差越大，因而 越大。

2.4 维维 纳纳 预预 测测 现代信号处理-维纳和卡尔曼滤波2.4.3 2.4.3 一步线性预测的时域解一步线性预测的时域解 已知x(n-1), x(n-2)，…,x(n-p), 预测x(n)，假设噪声v(n)=0，这样的预测称为一步线性预测设定系统的单位脉冲响应为h(n)，根据线性系统的基本理论，输出信号： 令apk=-h(k)，则 （2.4.21） 2.4 维维 纳纳 预预 测测 现代信号处理-维纳和卡尔曼滤波2.4.3 2.4.3 一步线性预测的时域解一步线性预测的时域解　　预测误差 （2.4.22） 2.4 维维 纳纳 预预 测测 其中, ap0=1, 要使均方误差为最小值，要求：（2.4.23） 现代信号处理-维纳和卡尔曼滤波 2.4.3 一步线性预测的时域解一步线性预测的时域解同维纳滤波的推导过程一样, 可以得到 （2.4.24） 把(2.4.22)式代入(2.4.24)式, 得到 （2.4.25） 2.4 维维 纳纳 预预 测测 由于预测器的输出 是输入信号的线性组合，参见（2.4.21)式, 得到 （2.4.26） 现代信号处理-维纳和卡尔曼滤波 2.4.3 一步线性预测的时域解一步线性预测的时域解(2.4.24)式说明误差信号与输入信号满足正交性原理， (2.4.26)式说明预测误差与预测的信号值同样满足正交性原理。

预测误差的最小均方值 (2.4.27） 2.4 维维 纳纳 预预 测测 现代信号处理-维纳和卡尔曼滤波2.4.3 一步线性预测的时域解一步线性预测的时域解 将(2.4.25)式和(2.4.27)式联立， 得到下面的方程组： （2.4.28） 2.4 维维 纳纳 预预 测测 现代信号处理-维纳和卡尔曼滤波2.4.3 一步线性预测的时域解一步线性预测的时域解 将方程组写成矩阵形式 （2.4.29） 2.4 维维 纳纳 预预 测测 这就是有名的Yule-Walker方程现代信号处理-维纳和卡尔曼滤波 2.4.3 一步线性预测的时域解一步线性预测的时域解Yule-Walker方程具有以下特点：  (1) 除了第一个方程外，其余都是齐次方程; (2) 与维纳-霍夫方程相比，不需要知道观测数据x(n)与期望信号s(n)的互相关函数 2.4 维维 纳纳 预预 测测 现代信号处理-维纳和卡尔曼滤波 2.4.3 一步线性预测的时域解一步线性预测的时域解Yule-Walker方程组有p+1个方程，对应地，可以确定apk,k=1, 2, …, p和E［e2(n)］min，共计p+1个未知数，因此可用来求解AR模型参数。

　　这就是后面要介绍的AR模型法进行功率谱估计的原理，它再一次揭示了时间序列信号模型、功率谱和自相关函数描述一个随机信号的等价性 2.4 维维 纳纳 预预 测测 　　^现代信号处理-维纳和卡尔曼滤波2.5 卡尔曼卡尔曼(Kalman)滤波滤波 　　卡尔曼滤波是用状态空间法描述系统的，由状态方程和量测方程所组成　　卡尔曼滤波用前一个状态的估计值和最近一个观测数据来估计状态变量的当前值， 并以状态变量的估计值的形式给出现代信号处理-维纳和卡尔曼滤波2.5 卡尔曼卡尔曼(Kalman)滤波滤波 卡尔曼滤波具有以下的特点：  (1) 算法是递推的　　状态空间法采用在时域内设计滤波器的方法，因而适用于多维随机过程的估计；离散型卡尔曼算法适用于计算机处理现代信号处理-维纳和卡尔曼滤波2.5 卡尔曼卡尔曼(Kalman)滤波滤波 卡尔曼滤波具有以下的特点：  (2) 用递推法计算，不需要知道全部过去的值，用状态方程描述状态变量的动态变化规律，因此信号可以是平稳的，也可以是非平稳的， 即卡尔曼滤波适用于非平稳过程 (3) 卡尔曼滤波采取的误差准则仍为估计误差的均方值最小 现代信号处理-维纳和卡尔曼滤波2.5.1 2.5.1 卡尔曼滤波的状态方程和量测方程卡尔曼滤波的状态方程和量测方程 假设某系统k时刻的状态变量为xk，状态方程和量测方程（也称为输出方程）表示为 ：(2.5.1a) (2.5.1b) 2.5 卡尔曼卡尔曼(Kalman)滤波滤波 现代信号处理-维纳和卡尔曼滤波2.5.1 卡尔曼滤波的状态方程和量测方程卡尔曼滤波的状态方程和量测方程说明：k表示时间，指第k步迭代时，相应信号的取值ωk输入信号白噪声vk输出信号的观测噪声白噪声Ak表示状态变量之间的增益矩阵，可以随时间发生变化Ck 表示状态变量与输出信号之间的增益矩阵，可以随时间变化2.5 卡尔曼卡尔曼(Kalman)滤波滤波 现代信号处理-维纳和卡尔曼滤波2.5.1 卡尔曼滤波的状态方程和量测方程卡尔曼滤波的状态方程和量测方程信号模型如图2.5.1所示。

2.5 卡尔曼卡尔曼(Kalman)滤波滤波 图 2.5.1 卡尔曼滤波器的信号模型 现代信号处理-维纳和卡尔曼滤波2.5.1 卡尔曼滤波的状态方程和量测方程卡尔曼滤波的状态方程和量测方程　　将状态方程中时间变量k用k-1代替，得到的状态方程和量测方程如下所示： 其中，xk是状态变量;ωk-1表示输入信号是白噪声; vk是观测噪声; yk是观测数据 2.5 卡尔曼卡尔曼(Kalman)滤波滤波 现代信号处理-维纳和卡尔曼滤波 2.5.1 卡尔曼滤波的状态方程和量测方程卡尔曼滤波的状态方程和量测方程　　为了后面的推导简单起见，假设状态变量的增益矩阵A不随时间发生变化，ωk,vk都是均值为零的正态白噪声，方差分别是Qk和Rk，并且初始状态与ωk,vk都不相关，γi,j表示相关系数2.5 卡尔曼卡尔曼(Kalman)滤波滤波 现代信号处理-维纳和卡尔曼滤波 2.5.1 卡尔曼滤波的状态方程和量测方程卡尔曼滤波的状态方程和量测方程用数学形式表示为：其中 2.5 卡尔曼卡尔曼(Kalman)滤波滤波 现代信号处理-维纳和卡尔曼滤波2.5.2 2.5.2 卡尔曼滤波的递推算法卡尔曼滤波的递推算法 卡尔曼滤波是采用递推的算法实现的，其基本思想是先不考虑输入信号ωk和观测噪声vk的影响，得到状态变量和输出信号（即观测数据）的估计值，再用输出信号的估计误差加权后校正状态变量的估计值，使状态变量估计误差的均方值最小。

因此, 卡尔曼滤波的关键是计算出加权矩阵的最佳值2.5 卡尔曼卡尔曼(Kalman)滤波滤波 现代信号处理-维纳和卡尔曼滤波2.5.2 2.5.2 卡尔曼滤波的递推算法卡尔曼滤波的递推算法 　当不考虑观测噪声和输入信号时，状态方程和量测方程为： (2.5.4) (2.5.5) 2.5 卡尔曼卡尔曼(Kalman)滤波滤波 现代信号处理-维纳和卡尔曼滤波2.5.2 卡尔曼滤波的递推算法卡尔曼滤波的递推算法显然，由于不考虑观测噪声的影响，输出信号的估计值与实际值是有误差的，用 表示 (2.5.6) 为了提高状态估计的质量，用输出信号的估计误差 来校正状态变量 2.5 卡尔曼卡尔曼(Kalman)滤波滤波 现代信号处理-维纳和卡尔曼滤波2.5.2 卡尔曼滤波的递推算法卡尔曼滤波的递推算法　　如(2.5.7)所示：(2.5.7) 其中，H Hk为增益矩阵，实质是一加权矩阵2.5 卡尔曼卡尔曼(Kalman)滤波滤波 现代信号处理-维纳和卡尔曼滤波2.5.2 卡尔曼滤波的递推算法卡尔曼滤波的递推算法　　经过校正后的状态变量的估计误差及其均方值分别用 和Pk表示，把未经校正的状态变量的估计误差的均方值用 表示 2.5 卡尔曼卡尔曼(Kalman)滤波滤波 (2.5.8) (2.5.9) (2.5.10) 现代信号处理-维纳和卡尔曼滤波 卡尔曼滤波要求状态变量的估计误差的均方值Pk为最小， 因此卡尔曼滤波的关键就是要得到Pk与H Hk的关系式，即通过选择合适的H Hk,使Pk取得最小值。

 首先推导状态变量的估计值 和状态变量的估计误差 ， 然后计算 的均方值Pk ，并通过化简Pk ，得到一组卡尔曼滤波的递推公式 2.5 卡尔曼卡尔曼(Kalman)滤波滤波 2.5.2 卡尔曼滤波的递推算法卡尔曼滤波的递推算法现代信号处理-维纳和卡尔曼滤波将（2.5.3）、 (2.5.5)式代入（2.5.7）式： (2.5.11) 2.5 卡尔曼卡尔曼(Kalman)滤波滤波 2.5.2 卡尔曼滤波的递推算法卡尔曼滤波的递推算法现代信号处理-维纳和卡尔曼滤波同理，状态变量的估计误差 为： (2.5.12) 2.5 卡尔曼卡尔曼(Kalman)滤波滤波 2.5.2 卡尔曼滤波的递推算法卡尔曼滤波的递推算法现代信号处理-维纳和卡尔曼滤波由上式可以看出，状态变量的估计误差 由三部分组成， 可记为 ：其中 (2.5.13b) (2.5.13c) (2.5.13d) 2.5 卡尔曼卡尔曼(Kalman)滤波滤波 2.5.2 卡尔曼滤波的递推算法卡尔曼滤波的递推算法现代信号处理-维纳和卡尔曼滤波那么，状态变量的估计误差的均方值Pk就由9项组成:(2.5.14a) 2.5 卡尔曼卡尔曼(Kalman)滤波滤波 2.5.2 卡尔曼滤波的递推算法卡尔曼滤波的递推算法(2.5.14b) (2.5.14d) (2.5.14c) 其中 现代信号处理-维纳和卡尔曼滤波 下面化简Pk的表达式，根据假设的条件，状态变量的增益矩阵A A不随时间发生变化，起始时刻为k0，则（2.5.2）式经过迭代， 得到： 令l=k-k0-j，得到 2.5 卡尔曼卡尔曼(Kalman)滤波滤波 2.5.2 卡尔曼滤波的递推算法卡尔曼滤波的递推算法现代信号处理-维纳和卡尔曼滤波取k0=0，k=k-1，得到 (2.5.15) 所以xk-1仅依赖于x0,ω0, ω1,…,ωk-2,与ωk-1不相关，即： (2.5.16) 2.5.2 卡尔曼滤波的递推算法卡尔曼滤波的递推算法2.5 卡尔曼卡尔曼(Kalman)滤波滤波 现代信号处理-维纳和卡尔曼滤波又据(2.5.7)式和(2.5.3)式， 得 (2.5.17) 2.5.2 卡尔曼滤波的递推算法卡尔曼滤波的递推算法2.5 卡尔曼卡尔曼(Kalman)滤波滤波 所以 仅依赖于xk-1,vk-1，而与vk不相关，即 (2.5.18) (2.5.19) 现代信号处理-维纳和卡尔曼滤波 把（2.5.15）～（2.5.19）式代入(2.5.14)式, Pk中的9项可以分别化简为: (2.5.20a) (2.5.20b) 2.5 卡尔曼卡尔曼(Kalman)滤波滤波 2.5.2 卡尔曼滤波的递推算法卡尔曼滤波的递推算法(2.5.20c) (2.5.20j) 现代信号处理-维纳和卡尔曼滤波(2.5.20d) (2.5.20e) (2.5.20f) (2.5.20g) (2.5.20h) (2.5.20j) 2.5 卡尔曼卡尔曼(Kalman)滤波滤波 2.5.2 卡尔曼滤波的递推算法卡尔曼滤波的递推算法现代信号处理-维纳和卡尔曼滤波也就是说，Pk仅有其中的三项不为零， 化简成 (2.5.21) 2.5.2 卡尔曼滤波的递推算法卡尔曼滤波的递推算法2.5 卡尔曼卡尔曼(Kalman)滤波滤波 现代信号处理-维纳和卡尔曼滤波 为了进一步化简Pk，推导未经误差校正的状态估计误差的均方值Pk′，由下面推导结果可以看出，Pk′是一对称矩阵，满足Pk′=(Pk′)T。

(2.5.22) 2.5 卡尔曼卡尔曼(Kalman)滤波滤波 2.5.2 卡尔曼滤波的递推算法卡尔曼滤波的递推算法现代信号处理-维纳和卡尔曼滤波将(2.5.22)式代入(2.5.21)式，即把Pk′代入Pk, (2.5.23) 其中, 是正定阵. 2.5 卡尔曼卡尔曼(Kalman)滤波滤波 2.5.2 卡尔曼滤波的递推算法卡尔曼滤波的递推算法现代信号处理-维纳和卡尔曼滤波(2.5.24) 记令 (2.5.25) 2.5 卡尔曼卡尔曼(Kalman)滤波滤波 2.5.2 卡尔曼滤波的递推算法卡尔曼滤波的递推算法将上式代入（2.5.23）式，得 (2.5.26) 现代信号处理-维纳和卡尔曼滤波将(2.5.26)式后三项配对 (2.5.27) 2.5.2 卡尔曼滤波的递推算法卡尔曼滤波的递推算法2.5 卡尔曼卡尔曼(Kalman)滤波滤波 现代信号处理-维纳和卡尔曼滤波 第二项和第三项均与H Hk无关，第一项为一半正定阵，因此使Pk最小的Hk应满足 (2.5.28) (2.5.29) 2.5.2 卡尔曼滤波的递推算法卡尔曼滤波的递推算法2.5 卡尔曼卡尔曼(Kalman)滤波滤波 现代信号处理-维纳和卡尔曼滤波将Hopt代入Pk，得到最小均方误差阵 将(2.5.7)、 (2.5.22)、 (2.5.29)式和(2.5.30)式联立， 得到一组卡尔曼递推公式 (2.5.30) 2.5 卡尔曼卡尔曼(Kalman)滤波滤波 2.5.2 卡尔曼滤波的递推算法卡尔曼滤波的递推算法现代信号处理-维纳和卡尔曼滤波卡尔曼递推公式 ：(2.5.31a) (2.5.31b) (2.5.31c) (2.5.31d) 2.5 卡尔曼卡尔曼(Kalman)滤波滤波 2.5.2 卡尔曼滤波的递推算法卡尔曼滤波的递推算法现代信号处理-维纳和卡尔曼滤波　　假设初始条件 已知，其中x0=E［x0］, P0=var［x0］, 那么，递推流程见图2.5.2。

^^图 2.5.2 卡尔曼滤波递推流程 2.5 卡尔曼卡尔曼(Kalman)滤波滤波 2.5.2 卡尔曼滤波的递推算法卡尔曼滤波的递推算法现代信号处理-维纳和卡尔曼滤波　　卡尔曼滤波有一个过渡过程，而在稳态下与维纳滤波有相同的结果，是因为它们都是以最小均方误差为准则的线性估计器　2.5.3 2.5.3 卡尔曼滤波和维纳滤波的关系及存在问题卡尔曼滤波和维纳滤波的关系及存在问题2.5 卡尔曼卡尔曼(Kalman)滤波滤波 现代信号处理-维纳和卡尔曼滤波 卡尔曼滤波与维纳滤波中解决最佳滤波的方法也不相同维纳滤波是用频域及传递函数的方法，而卡尔曼滤波是用时域及状态变量的方法，在理论上是维纳滤波的推广和发展，特别是在处理多变量系统，时变线性系统及非线性系统的最佳滤波等领域，提供了一种比较有效的方法，克服了基于频域处理所遇到的困难2.5.3 2.5.3 卡尔曼滤波和维纳滤波的关系及存在问题卡尔曼滤波和维纳滤波的关系及存在问题2.5 卡尔曼卡尔曼(Kalman)滤波滤波 现代信号处理-维纳和卡尔曼滤波　　困难包括：维纳滤波要求平稳，而卡尔曼滤波则不要求；他容许初始时间不是负无穷大，这在很多情况下是有实际意义的；卡尔曼滤波的另一个不同点是把状态或信号过程的产生看成是白噪声激励有限维数系统的输出；此外，维纳滤波要求过程的自相关函数和互关函数的简单(先验)知识，而卡尔曼滤波则要求时域中状态变量及信号产生过程的详细知识。

　　2.5.3 2.5.3 卡尔曼滤波和维纳滤波的关系及存在问题卡尔曼滤波和维纳滤波的关系及存在问题2.5 卡尔曼卡尔曼(Kalman)滤波滤波 现代信号处理-维纳和卡尔曼滤波　　卡尔曼滤波在时域上采用线性递推形式对观测值进行处理，能实时地给出系统状态的最优估计，并突破了单维输入和输出的限制卡尔曼滤波算法的这些优点使它在信号和信息系统中得到了比较广泛的应用2.5 卡尔曼卡尔曼(Kalman)滤波滤波 2.5.3 2.5.3 卡尔曼滤波和维纳滤波的关系及存在问题卡尔曼滤波和维纳滤波的关系及存在问题现代信号处理-维纳和卡尔曼滤波 卡尔曼滤波算法在具体应用中也存在一些实际问题，包括：　　（1）模型误差和数值发散　　卡尔曼滤波算法的关键是建立系统的状态模型但实际系统有时很难得到精确描述，往往只能用近似模型来代替；2.5 卡尔曼卡尔曼(Kalman)滤波滤波 2.5.3 2.5.3 卡尔曼滤波和维纳滤波的关系及存在问题卡尔曼滤波和维纳滤波的关系及存在问题现代信号处理-维纳和卡尔曼滤波 卡尔曼滤波算法在具体应用中也存在一些实际问题，包括：　　（1）模型误差和数值发散　　即使能够获得精确的模型，也常会因精确模型太复杂，维数过高而与实时处理必须减少计算量及尽量简化模型的要求相矛盾。

近似或化简的模型与精确模型之间存在误差，模型误差必然会给滤波带来影响，严重时还会造成滤波结果不收敛2.5 卡尔曼卡尔曼(Kalman)滤波滤波 2.5.3 2.5.3 卡尔曼滤波和维纳滤波的关系及存在问题卡尔曼滤波和维纳滤波的关系及存在问题现代信号处理-维纳和卡尔曼滤波（2）实时要求　　影响卡尔曼滤波算法的实时性主要是状态维数n和增益矩阵的计算，它们往往有很大的计算量一般在计算中采取某些措施，例如应用定常系统新算法或在精度损失允许的情况下尽量减少维数等到措施，从而减少计算量以满足实时滤波的要求2.5 卡尔曼卡尔曼(Kalman)滤波滤波 2.5.3 2.5.3 卡尔曼滤波和维纳滤波的关系及存在问题卡尔曼滤波和维纳滤波的关系及存在问题现代信号处理-维纳和卡尔曼滤波。