递推最小二乘辨识.ppt

单击此处编辑母版标题样式,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,*,常规最小二乘辨识的递推算法,主要内容,1.,思想及原理,2.,实例与,MATLAB,仿真,3.,应用,1,.,递推最小二乘法的思想及原理,1.1,递推最小二乘法的引入,*最小二乘法的缺陷,（,1,）数据量越多，系统参数估计的精度就越高，为了获得满意的辨识结果，矩阵的阶数 常常取得相当大这样矩阵求逆的计算量很大，存储量也很大2,）每增加一次观测量，都必须重新计算,，（）,-1,3,）如果出现,列相关，既不满秩的情况，,为,病态矩阵，则不能得到最小二乘估计值递推最小二乘参数辨识，就是当被辨识的系统在运行时，每取得一次新的观测数据后，就在前一次估计结果的基础上，利用新引入的观测数据对前次估计的结果，根据递推算法进行修正，从而递推地得出新的参数估计值这样，随着新的观测数据的逐次引入，一次接一次的进行参数计算,，直到参数估计,值达到满意的精确程度为止1.2,递推算法的思想,*,递推辨识算法的思想可以概括成,新的参数估计值,=,旧的参数估计值,+,修正项,即新的递推参数估计值是在旧的递推估计值的基础上而成，这就是递推的概念,.,递推算法不仅可减少计算量和存储量,而且能实现实时辨识,.,*,递推算,法是,依时间顺序,每获得一次新的观测数据就修正一次参数估计值,随着时间的推移,便能获得满意的辨识结果,.,RLS,法即为成批型,LS,算法的递推化，即将成批型,LS,算法化成依时间顺序递推计算即可。

该工作是,1950,年由,Plackett,完成的下面讨论无加权因素时的一般,LS,法的递推算法的推导,.,即将成批型算法化等效变换成如下所示的随时间演变递推算法,.,时不变,SISO,系统数学模型：,A(,z,-1,),y,(,k,)=B(,z,-1,),u,(,k,)+,e,(,k,),已知系统的输入,u(k),和输出,y(k),求参数,ai,bi,的估计值可以得到向量形式的线性方程组,：,Y=,+e,Y=,y,(1),y,(2),.,y,(,L,),T,=,(0),(1),.,(,L,-1),T,设在,k,-1,时刻和,k,时刻,系统的参数估计结果为,其中,和,分别为根据前,k,次和前,k,-1,次观测,/,采样数据得到的,LS,参数估计值,.,首先,假定在第,k,-1,次递推中,我们已计算好参数估计值,在第,k,次递推时,我们已获得新的观测数据向量,(,k,-1),和,y,(,k,),则记,k,-1=,(0),(1),.,(,k,-2),T,Y,k-1=,y,(1),y,(2),.,y,(,k,-1),T,k,=,(0),(1),.,(,k,-1),T,=,(,k-1,)T,(,k,-1),T,Y,k,=,y,(1),y,(2),.,y,(,k,),T,=,y,(,k,),T,仔细考察上述,LS,法,可以知道,该算法进行递推化的关键是算法中的矩阵求逆的递推计算问题,.,因此,下面先讨论该逆矩阵的递推计算,.,将,k,展开,故有,为便于逆矩阵递推算式的推导,下面引入如下,矩阵反演公式,(,设,A,和,C,为可逆方阵,),(A+BCD),-1,=A,-1,-A,-1,B(C,-1,+DA,-1,B),-1,DA,-1,(4),该公式可以证明如下,:,由于,(A+BCD)A,-1,-A,-1,B(C,-1,+DA,-1,B),-1,DA,-1,=I-B(C,-1,+DA,-1,B),-1,DA,-1,+BCDA,-1,-BCDA,-1,B(C,-1,+DA,-1,B),-1,DA,-1,=I-BI-C(C,-1,+DA,-1,B)+CDA,-1,B(C,-1,+DA,-1,B),-1,DA,-1,=I,因此,矩阵反演公式,(4),成立,.,下面讨论参数估计值,的递推计算,.,由上一讲的一般,LS,估计式,由式,(3),和矩阵反演公式,(4),可得,P,(,k,),的如下递推计算式,有,该乘积为标量,(A+BCD),-1,=A,-1,-A,-1,B(C,-1,+DA,-1,B),-1,DA,-1,即,利用公式,利用公式,P,(,k,)=,P,-1,(,k,-1)+,(,k,-1,),T,(,k,-1,),-1,将式,(5),和,(6),整理可得如下,RLS,估计算法表示,其中的计算顺序为先计算,P,(,k,),然后再计算,.,其中,K,(,k,),称为增益向量；令,上述算法的计算顺序为,先计算,K,(,k,-1),然后再分别计算 和,P,(,k,-1).,表示基于,k,-1,时刻的历史数据对,y,(,k,),的预报值。

有时,为计算方便并便于理解,上述,RLS,估计算法又可表示为,综上所述,RLS,法的基本计算步骤可总结如下,:,1.,确定被辨识系统模型的结构,以及多项式,A,(z,-1,),和,B,(z,-1,),的阶次,;,2.,设定递推参数初值,P,(0);,3.,采样获取新的观测数据,y,(,k,),和,u,(,k,),并组成观测数据向量,(,k,-1);,4.,用式,(7)(8),或,(9)(11),所示的,RLS,法计算当前参数递推估计值,;,5.,采样次数,k,加,1,然后转回到第,3,步骤继续循环,.,下面关于该,RLS,算法,有关于其实现问题的如下讨论,:,递推初始值选取,成批,LS,与,RLS,的比较,信号充分丰富,与系统充分激励,数据饱和,A.,递推初始值选取,在递推辨识中,如何选取递推计算中的 和,P,(,k,),的初值是一个相当重要的问题,.,一般来说,有如下两种选取方法,:,(1),选取 各元素为零或较小的参数,P,(0)=,I,其中,为充分大的实数（,10,5,10,10,）,;,(2),先将大于所需辨识的参数个数的,L,组数据,利用成批型的,LS,法求取参数估计值,LS,和协方差阵,P(,L,),并将这些量作为递推估计的初值,.,B.LS,法和,RLS,法的比较,LS,法和,RLS,法的比较,LS,法是一次完成算法,适于离线辩识,要记忆全部测量数据,程序长,;,RLS,法是递推算法,适于辩识和时变过程,需要记忆的数据少,程序简单,;,RLS,法用粗糙初值时,如若,N(,即样本数少,),较小时,估计精度不如,LS,法,.,C.,信号充分丰富与系统充分激励,对于所有学习系统与自适应系统,信号充分丰富,(,系统充分激励,),是非常重要的,.,若系统没有充分激励,则学习系统与自适应系统就不能一致收敛,.,不一致收敛则意味着所建模型存在未建模动态或模型误差较大,这对模型的应用带来巨大隐患,.,如对自适应控制,未建模动态可能导致系统崩溃,.,为保证学习系统与自适应系统一致收敛,则所产生的系统的学习样本数据,(,系统输入输出信号,),应具有尽可能多的模态,其频带要足够宽,而且其信号强度不能以指数律衰减,.,这样才能保证系统具有充分激励,所测取的信号数据是充分丰富的,相关性矩阵,P,(,k,),不为病态,.,D.,数据饱和,在辨识递推计算过程中,协方差矩阵,P,(,k,),随着递推的进程将衰减很快,此时算法的增益矩阵,K,(,k,),也急剧衰减,使得新数据失去对参数估计值的修正能力,.,这种现象称为数据饱和,.,因此需要考虑修正方案,以保持新数据对参数估计值的一定的修正能力,使得能得到更准确的参数估计值,或能适应对慢时变参数的辨识,.,例,:,采用递推最小二乘估计辨识模型参数,选择如下的辨识模型进行递推最小二乘参数辨识。

2.,递推最小二乘法实例与仿真,Matlab,程序：,%,最小二乘的递推算法,%Z(k+2)=1.5*Z(k+1)-0.7*Z(k)+u(k+1)+0.5*u(k)+v(k),%=,clear,clc,%=400,个产生,M,序列作为输入,=,x=0 1 0 1 1 0 1 1 1;%initial value,n=403;%n,为脉冲数目,M=;%,存放,M,序列,for i=1:n,temp=xor(x(4),x(9);,M(i)=x(9);,for j=9:-1:2,x(j)=x(j-1);,end,x(1)=temp;,end,%=,产生均值为,0,，方差为,1,的高斯白噪声,=,v=randn(1,400);,%=,产生观测序列,z=,z=zeros(402,1);,z(1)=-1;,z(2)=0;,for i=3:402,z(i)=1.5*z(i-1)-0.7*z(i-2)+M(i-1)+0.5*M(i-2)+v(i-2);,end,%,递推求解,P=100*eye(4);%,估计方差,Pstore=zeros(4,401);,Pstore(:,1)=P(1,1),P(2,2),P(3,3),P(4,4);,Theta=zeros(4,401);%,参数的估计值，存放中间过程估值,Theta(:,1)=3;3;3;3;,%K=zeros(4,400);%,增益矩阵,K=10;10;10;10;,for i=3:402,h=-z(i-1);-z(i-2);M(i-1);M(i-2);,K=P*h*inv(h*P*h+1);,Theta(:,i-1)=Theta(:,i-2)+K*(z(i)-h*Theta(:,i-2);,P=(eye(4)-K*h)*P;,Pstore(:,i-1)=P(1,1),P(2,2),P(3,3),P(4,4);,end,i=1:401;,figure(1),plot(i,Theta(1,:),i,Theta(2,:),i,Theta(3,:),i,Theta(4,:),title(,待估参数过渡过程,),figure(2),plot(i,Pstore(1,:),i,Pstore(2,:),i,Pstore(3,:),i,Pstore(4,:),title(,估计方差变化过程,),经过编程计算，各个参数的估计值为,仿真图形,3.,递推最小二乘法的应用,递推算法具有良好的学习、自适应能力，在,电力,系统,扩频通信系统,船舶航向控制,等方面有,相应,的应用。

电力,系统,基于递归最小二乘法的电压闪变研究,随着我国现代工业技术和国民经济的飞速发展，电能质量已经成为电力系统发、供、用电部门十分关注并且去刻意完善的重要指标为了有效提高电能质量，特别是对一些对电压闪变比较敏感的用户负责，我们必须对电压闪变进行分析研究对电压闪变进行分析，是采取适当措施降低闪变带来影响的前提因此对电力系统中的电压闪变的包络线与初相角进行实时跟踪就具有重要的理论意义和现实意义而递归最小二乘方法，正是可以应用到这种低频信号的一种迭代算法，由于该方法是在最小二乘的基础上发展起来的，所以该方法具有估计误差小的特点电力,系统,方面,在电力系统中使用,了一种新的改进递归最小二乘法跟踪闪变包络线和初相角，对电压闪变进行了准确，快速的跟踪作为常规的处理信号估计的方法，递归最小二乘法具有能够在估计的时候产生相对比较小的误差该方法采用一种迭代的形式，因为迭代算法只需要在上一次结果的基础上进行进一步的运算，而不需要将数据完全采集完成以后，对所有的数据一起计算，所以此方法相对其他一些非迭代算法上运算量较小扩频通信系统,基于递归最小二乘法的扩频通信系统中窄带干扰抑制技术的研究,扩频技术因其本身固有的干扰抑制特性得到了迅速的发展,其中直接序列扩频通信,(Direct Sequence Spread Spectrum,DSSS),系统是典型的扩频通信系统之一。

DSSS,系统的抗干扰能力由扩频处理增益决定,可以通过增加带宽来增加扩频增益,但是实际中由于带宽和技术方面的限制扩频增益总是有限的NBD,由于其功率谱密度比宽带干扰高得多,所以它对,DSSS,系统的破坏性更强,当有强窄带干扰存在时仅靠系统自身的抗干扰能力很难保证系统高质量的通信,甚至可能造成系统通信中断因此,研究有效的窄带干扰抑制技术具有重大的实际意义扩频通信,时域线性滤波技术、时域非线性滤波。