
《自适应数字滤波器》ppt课件.ppt
141页第四章 自适应数字滤波器,4.1 引言 4.2 LMS横向自适应滤波器 4.3 LMS格型自适应滤波器 4.4 LS自适应滤波 4.5 自适应滤波的应用,4.1 引 言,自适应数字滤波器 自适应数字滤波器的应用 本章讨论的主要内容,1、自适应数字滤波器,维纳滤波存在的问题: 适用于平稳随机信号的最佳滤波; 维纳滤波器的参数是固定的; 必须已知信号和噪声的有关统计特性自适应的概念是从仿生学中引伸出来的,生物能以各种有效的方式适应生存环境 实际上,自适应滤波器是一种能自动调节本身的单位脉冲响应h(n)以达到最优化的维纳滤波器自适应数字滤波器:利用前一时刻已获得的滤波器参数等结果,自动地调节现时刻的滤波器参数,以适应信号与噪声未知的或随时间变化的统计特性,从而实现最优滤波维纳滤波器的输入-输出关系,自适应滤波器原理图,e(n)=d(n)-y(n),自适应滤波器H(z)的系数根据误差信号,通过一定的自适应算法,不断地进行改变, 使输出y(n)最接近期望信号d(n) 实际中,d(n)要根据具体情况进行选取图 4.1.3 自适应线性组合器,图 4.1.4 横向FIR结构的自适应滤波器,自适应滤波器的特点: 滤波器的参数可以自动地按照某种准则调整到最佳滤波,是一种最佳的时变数字滤波器; 实现时不需要任何关于信号和噪声的先验统计知识; 具有学习和跟踪的性能。
2、自适应数字滤波器的应用,1967年由美国B.Windrow 及Hoff等人提出自适应数字滤波算法,主要用于随机信号处理 自提出以来,自适应滤波器发展很快,在各个方面得到了广泛的应用: 系统模型识别; 通信信道的自适应均衡; 雷达与声纳的波束形成; 消除心电图中的电源干扰; 噪声中信号的检测、跟踪、 增强和线性预测等自适应滤波器分类: FIR自适应滤波器、IIR自适应滤波器 最小均方误差(LMS)自适应滤波器、最小二乘(LS)自适应滤波器 横向结构、格型结构,3、本章讨论的主要内容,主要内容:LMS自适应滤波器、LS自适应滤波、自适应滤波的应用; 分析思路:根据LMS或LS准则,求得自适应滤波器的最佳单位脉冲响应w(n) ,或者说求其最佳的滤波器加权系数wj4.2 LMS自适应滤波器,本节讨论的主要问题及方法 LMS自适应滤波器的基本原理 最陡下降法 Widrow-Hoff LMS算法 LMS算法的收敛性质,1、本节讨论的主要问题及方法,讨论的主要问题:LMS自适应滤波器的基本原理、最佳权系数的求解方法(最陡下降法和Widrow-Hoff LMS算法) 分析方法:,2、LMS自适应横向滤波器的基本原理,e(n)=d(n)-y(n),,LMS自适应横向滤波器的基本原理: 自适应数字滤波器的单位脉冲响应h(n)受误差信号e(n)控制; 根据e(n)的值而自动调节,使之适合下一刻(n+1)的输入x(n+1),以使输出y(n+1)更接近于所期望的响应d(n+1),直至均方误差 达到最小值; y(n)最佳地逼近d(n),系统完全适应了所加入的两个外来信号,即外界环境。
注意: x(n)和d(n)两个输入信号可以是确定的,也可以是随机的,可以是平稳的随机过程,也可以是非平稳的随机过程 从图中可见:自适应数字滤波器是由(普通数字滤波器+相关抵消回路)构成表示成矩阵形式:,式中,误差信号表示为,,利用LMS准则求最佳权系数和最小均方误差 误差信号被用来作为权系数的控制信号均方误差(性能函数)为,上式表明,当输入信号和期望信号是平稳随机信号时, 均方误差信号E[e2j]是权系数的二次函数,它是一个中间上凹的超抛物形曲面,是具有唯一最小值的函数图 4.2.5 二维权矢量性能表面,调节加权系数W使均方误差最小,相当于沿超抛物形曲面下降到最小值 在数学上,可用梯度法沿着该曲面调节权矢量的各元素得到均方误差E[ej2]的最小值用 表示E[ej2]的梯度向量,用公式表示如下:,为求最佳权系数,令 即,当滤波器的单位脉冲响应取最佳值时,其误差信号和输入信号是正交的可以得到,最佳权矢量W*:,均方误差将取最小值:,或者将上式取转置,用下式表示:,例 4.2.1 一个单输入的二维权矢量自适应滤波器如图 所示,图中输入信号与期望信号分别为,求:该滤波器的最佳权矢量和最小均方误差。
两个权的自适应滤波器,解: (1)、计算相关矩阵Rxx和Rdx,(2)、求梯度向量,(3)、求最佳权矢量和最小均方误差:,3、 最陡下降法,存在问题:自适应滤波过程是寻求W*的过程 ,需要知道Rxx和Rdx 解决方法:采用最优化的数学算法-最陡下降法(Steepest Descent Method),搜索性能函数表面寻找最佳权系数自适应过程的物理意义,最陡下降法的递推公式,其中,μ是一个控制稳定性和收敛速度的参量,称之为收敛因子 方向是性能函数下降最快的方向,因此称为最陡梯度下降法E[e2(j)]与W的关系在几何上是一个“碗形”的多维曲面收索方向为梯度负方向,每一步更新都使目标函数值减小4、 Widrow-Hoff LMS算法,存在问题:采用最陡下降法递推求最佳权系数W*时,关键是如何适时地求得(或估计得) ? 解决方法:由Widrow等人提出,采用梯度的估计值代替梯度的精确值LMS算法的权值计算 LMS(Least Mean Square)算法的梯度估计值用一条样本曲线进行计算,公式如下:,因为,所以,对梯度估计值求统计平均, 得到,上式说明梯度估计值是无偏估计的,梯度的估计量在理想梯度▽j附近随机变化。
最陡下降法的递推公式修改为:,权系数也是在理想情况下的权轨迹附近随机变化的,搜索方向为瞬时梯度负方向,不能保证每一步更新都使目标函数值减小,但总趋势使目标函数值减小图 4.2.8 FIR第i个支路的控制电路,图 4.2.8 LMS自适应滤波器总计算框图,5、 LMS算法的收敛性质,对加权矢量取统计平均:,将Rxx进行分解,得到,Rxx=QTΛQ,Λ=QTRxxQ,其中,Q称为正交矩阵或特征矩阵, Λ是由特征值组成的对角矩阵, 用下式表示:,其中,,欲使上式收敛必须满足,收敛条件还可以表示为,LMS算法加权矢量是在最陡下降法加权矢量附近随机变化的, 其统计平均值等于最陡下降法的加权矢量μ值对收敛稳定性和收敛速度影响很大,首先必须选择得足够小,使之满足收敛条件,同时,它还影响收敛速度加权矢量的收敛性质,,,,,,,,,,,W*,,,∆W,∆ Wj,W,E[ej2],性能函数和最小均方误差分别为:,令 ζ=E[e2j], 则,又,最陡下降法的过渡过程,可得,令,V=W-W*=[v1, v2, …, vN]T,V称为偏差权向量,它表示权向量对最佳权向量的偏差这样性能函数可以表示得更简单:,在上式两边都减去W *,并令Vj=W j-W*, 得到,Vj+1=[I-2μRxx]Vj,,因为,所以,将Rxx进行分解,得到,Rxx=QTΛQ, Λ=QTRxxQ,其中,Q称为正交矩阵或特征矩阵,Λ是由特征值组成的对角矩阵, 用下式表示:,由此可得,令,得到最陡下降法的性能函数递推公式:,假设起始值是V0′,可得到上式的递推解为,当 。
且 随 增加的衰减比 快一倍下面用二维权矢量的情况说明它的几何意义对于二维权矢量情况,有下面公式:,图 4.2.5 二维权矢量性能表面,图 4.2.6 等均方误差的椭圆曲线族,,,,权矢量的过渡过程:,第i个权系数递推方程是,令,上式说明第i个分量v i′按指数规律变化,其时常数为,i=1, 2, 3, …, N,因为一般μ取得比较小,可以近似得到,i=1, 2, 3, …, N,因为,所以,得到,,式中,i=1, 2, 3, …, N,第i个权矢量的时间常数为,性能函数的过渡过程:,性能函数的时常数,即自适应学习的时间常数为,最终的收敛要取决于最慢的指数过程,它的时常数最大,对应最小的特征值,公式如下:,稳态误差和失调系数 存在问题:实际中,工作于实时的自适应算法,权系数不能完全收敛于最佳值,只是其平均值可以收敛到最佳值这是由于采用梯度的估计值代替梯度值而产生的估计误差解决方法:引入失调系数M进行描述,其定义为,上式说明,μ和输入功率加大都会增加失调系数跟踪能力越好,曲线稳态越接近横轴图 4.2.10 LMS算法稳态误差,上式说明,当选择足够长的 ,M可以做到任意小但当 一定时,M随着权数目N的增加而增大。
另一方面, 越小,收敛也会越快如此,便产生了动态特性和静态特性的矛盾,这就要求我们在收敛速度和失调量间取得适当的折中一般而言,迭代次数选择为 例 设M=10%(一般M=10%可以满足大多数工程设计的要求)并设N=10,问应该取多少次迭代数? 解:,,按经验实际迭代次数应取100(=10滤波器长度N)或取,图 4.2.11 LMS算法的学习曲线,,4.3 LMS格型自适应滤波器,本节讨论的主要内容及方法 预测误差滤波器 预测误差格型滤波器 LMS格型自适应滤波器,1、本节讨论的主要内容及方法,讨论的主要内容:前、后向横向预测误差滤波器、预测误差格型滤波器和LMS格型自适应滤波器 主要方法:基于前、后向横向预测误差滤波器,导出预测误差格型滤波器,2、 线性预测误差滤波器,前向预测误差为,将前向预测误差用 表示,上式重写为,前向预测误差滤波器,,将上式用矩阵方程表示为,其Yule-Walker方程式为:,假设前、后向预测器具有相同的系数,则后向预测误差为,后向预测误差用 表示,上式可写为:,后向预测误差滤波器,,前、 后向预测误差滤波器的系数函数之间的关系是,为了求解前、后向预测误差滤波器的最佳系数,需要解Yule-Walker方程,求解方法采用Levinson-Durbin算法。
Levinson-Durbin的一般递推公式如下:,其中,kp称为反射系数σ2p和σ2p-1是预测误差的均方值,因此1-k2p必须大于等于0,这样kp应要求满足下式:,由上式可知,预测误差随递推次数增加而减少3、预测误差格型滤波器,由预测误差滤波器导出格型滤波器 将前面已推导的前向预测误差公式重写如下:,将系数ap,k(k=1,2,3,…,p)的递推公式代入上式,并令kp=ap,p,得到,由此,便可得到前向预测误差的递推公式, 即,类似地,得到后向预测误差的递推公式为,对于p=0的情况, 得到,图 4.3.5 全零点格型滤波器,格型滤波器的性质 (1) 各阶后向预测误差相互正交 用公式表示如下:,(2) 平稳随机序列可由自相关函数或反射系数表征 (3) 前向预测误差滤波器是最小相位滤波器,即它的全部零点在单位圆内后向预测误差滤波器是一个稳定的最大相位滤波器,全部零点在单位圆外4、LMS格型自适应滤波器,在满足预测误差的均方值最小的准则下,最佳自适应格型滤波器求解关键在于计算出反射系数其方法有:,采用使前、后向预测误差功率的和为最小的原则求反射系数 公式为,即,可以得到,实际计算时,上式中的统计平均值用时间平均计算, 公式为,对于复信号情况,公式为,如果输入数据为x(i), i=0, 1, 2, …, n, 当p=1时,,这里,因此,当p=2时,,其中,,以此类推,可以得到 的具体计算公式为,这种算法必须从低阶推起,要求较大的存储时间,有较大的计算延迟,使应用受到限制。
采用梯度算法计算反射系数,其中,,将上式代入前一式中, 得到,式中,β=2μ,为步长因子4.4 最小二乘自适应滤波,本节讨论的主要内容及方法 最小二乘(LS)滤波 递推最小二乘(RLS)算法,1、本节讨论的主要内容及方法,主要内容:讨论一种以误差的平方和最小作为最佳准则的误差准则——最小二乘准则,及其递推算法 分析方法:,2、最小二乘滤波,最小均方误差(LMS)滤波(统计分析法),最小二乘(LS)滤波(精。
