非线性动力系统时间序列分析方法及其应用研究.pdf

山东大学博士学位论文非线性动力系统时间序列分析方法及其应用研究姓名：孟庆芳申请学位级别：博士专业：通信与信息系统指导教师：彭玉华20080408原创性声明本人郑重声明：所呈交的学位论文，是本人在导师的指导下，独立进行研究所取得的成果除文中已经注明引用的内容外，本论文不包含任何其他个人或集体已经发表或撰写过的科研成果对本文的研究作出重要贡献的个人和集体，均已在文中以明确方式标明本声明的法律责任由本人承担论文作者签名：盂鏖董E l期：趔星：仝：墨关于学位论文使用授权的声明本人完全了解山东大学有关保留、使用学位论文的规定，同意学校保留或向国家有关部门或机构送交论文的复印件和电子版，允许论文被查阅和借阅；本人授权山东大学可以将本学位论文的全部或部分内容编入有关数据库进行检索，可以采用影印、缩印或其他复制手段保存论文和汇编本学位论文 保密论文在解密后应遵守此规定)论文作者签名：垂垂董导师签名：型l 生笨日期：诬主显生：墨论文作者签名：童坠壹导师签名：型l 生圣日期：诬主显生：墨山东大学博士学位论文摘要混沌现象是自然界和社会中广泛存在的一种不规则运动，是一种由确定的非线性动力系统生成的复杂行为。

随着混沌理论和应用技术研究的不断深入，非线性时间序列分析已成为非线性信息处理领域中近几年来的一个重要研究热点，并在相关工程领域有着越来越重要的应用论文的内容大致安排为：在第一章中将综述非线性时间序列分析的研究现状，并阐述本文的选题意义和研究内容第二章将研究动力系统吸引子的相空间重构问题和嵌入理论，研究主分量分析、关联维数G P 算法以及主分量分析法、饱和关联维数法、伪邻近点法三种最常用的选取嵌入维数方法的原理和算法实现第三章将深入分析现有选取嵌入维数方法存在的问题，提出基于高阶统计量的嵌入维数的选取方法和基于预测效果的嵌入维数的选取方法第四章将阐述动力系统的逆问题，深入研究全局预测方法、局域预测方法、自适应预测方法等非线性时间序列常用的建模预测方法的原理和算法实现第五章将着重研究局域预测方法，为了同时利用时间序列的时间相关性和空间相关性，提出改进的局域线性预测方法、新的局域线性预测模型，并分析局域线性预测模型的最优参数第六章将深入分析局域预测方法与邻近点的关系，基于信息准则提出选取局域线性预测方法和局域支持向量机预测方法中邻近点个数和邻域半径的定量方法，并将应用非线性时间序列分析方法来分析实际的激光数据。

第七章将深入研究L y a p u n o v 指数、替代数据、预测效果及其相结合的检测和度量非线性时间序列及其非线性确定性程度的方法，并应用非线性时间序列分析方法来分析生物医学信号第八章将系统地应用非线性时间序列分析方法来分析实测的网络流量序列，应用局域支持向量机预测方法来预测网路流量序列最后，第九章总结全文的贡献之所在论文的主要结果为：1 ．论文深入系统地研究了非线性时间序列分析的基本理论和一般方法在对包括相空间重构、嵌入定理、关联维数、局部动力学、L y a p u n o v 指数、替代数据、等基本理论与其物理意义的研究和讨论基础上；在对包括主分量分析、关联维数G P 算法、伪邻近点法、非线性时间序列预测、局域预测、自适应预测、神经网络山东大学博士学位论文模型、支持向量回归模型、预测效果、非线性检测、粗粒化方法、条件熵等非线性时闻序列一般分析方法的原理和算法研究基础上；构建了新的非线性时间序列分析的理论体系，归纳总结了非线性时间序列分析的基本问题和主要研究方面基于协方差矩阵的主分量分析方法，本质上是一种线性方法，其可靠性受到质疑用能反映非线性结构的四阶累积壁函数代瞽相关函数构造矩阵，对主分量分析方法进行改进。

对比分析了用四阶累积量函数构造矩阵的多种方法，褥到两种较好的构造矩阵的方法其中当四阶累积量函数的两个变量分别在矩阵的对角线方囱和偏离对角线方向取值并且第三个变量取零时，得到的矩阵的分辑效果最好实验结果表明了改进后方法适合小数据量的情况、计算效率高且对噪声稳定基予鼍} 线性时阉序列短期可预测的性质，提出了基于预测效果的嵌入维数的选取方法来从标量时间序列确定最优嵌入维数该方法通过优化非线性自回归预测模型来确定最优嵌入维数，该模型由嵌入维数和非线性阶数两个参数来决定仿真结果表明该方法适合小数据量的情况，对噪声的稳定性好，计算效率高，不受主双参数的影响3 ．基于B a y e s i a n 信息准则，提出了改进的局域线性预测方法来预测非线性时闻序列该方法同时利用了非线性时闻序列的时间相关性和空闻相关性仿真结果表明：改进的局域线性预测方法能够有效地预测非线性时间序列，并且改进的局域线性预测方法的预测性戆明显好于传统局域线性预测方法的预测性能在重构的相空间，提出了一种新的局域线性预测模型来预测非线性时间序列提出局域线性预测模型的参数可以取与相空闯重构的参数不同豹值基子模型的预测性能，提出了确定新的局域线性预测模型的参数的方法。

仿真结果表明：新的局域线性预测模型施够有效地预测菲线性时闻序列，并置新的局域线性预测模型的预测性能明显优于传统局域线性预测模型的预测性能提出了一种优化局域线性预测模型参数嵌入维数与延遴时间的方法仿真结果袭哽：用该方法优化后的局域线性预测方法能够有效地对非线性时问序列进行一步和多步预测，并且用该方法优化后的局域线饿预测方法的一步和多步预测精度都明显好于传统局域线性预测方法的～步和多步预测精度4 ．邻近点个数是局域预测方法的重要参数之一，它决定局域模型的预测精度2山东大学博士学位论文和计算量基于信息准则，提出了选取局域预测法中邻近点个数的定量方法，并用该方法分别选取局域线性预测方法和局域支持向量机预测方法的邻近点个数和领域半径实验结果表明用该方法选取邻近点的局域线性预测方法和局域支持向量机预测方法的一步和多步预测性能较好，在满足预测精度较高的条件下，计算量较小5 ．局域预测方法是目前最常用的一种非线性时间序列预测方法应用局域线性预测方法和局域支持向量机预测方法来预测实测激光数据应用基于预测效果的选取嵌入维数的方法来确定该组激光数据的最优嵌入维数应用基于信息准则的局域预测法邻近点的选取方法来确定局域线性预测法与局域支持向量机预测法的邻近点个数和邻域半径。

实验结果表明邻近点优化后的局域线性预测法和局域支持向量机预测法都能够有效地预测该组激光数据，一步和多步预测性能较好，在预测精度较高的条件下，计算量较小6 ．心率变异信号可被解释为由低维非线性动力机制控制验证呼吸和心率的耦合作用越来越受到人们的关注应用基于预测效果的嵌入维数的选取方法来确定心率变异信号的嵌入维数分别使用单变量时间序列和多变量时间序列，应用结合预测效果和替代数据的非线性检测方法来检测生理时间序列的非线性确定性成分应用粗粒化方法和条件熵来分析心率信号、呼吸信号与血氧浓度信号的相互关系实验结果表明：心率信号和呼吸信号中含有非线性确定性成分，心率信号与呼吸信号不是独立的，它们互相影响，心率信号和呼吸信号可看作起源于同一动力系统的两个变量7 ．系统地应用非线性时间序列分析方法来分析实测的网络流量序列为了对网络流量数据相空间重构，应用基于预测效果的选取嵌入维数的方法来确定最优嵌入维数应用局域支持向量机预测方法来预测网路流量序列并应用基于信息准则的局域预测法邻近点的选取方法来选取局域预测的邻近点个数实验结果表明邻近点优化后的局域支持向量机预测方法能够有效地预测网络流量序列，归一化均方误差很小；局域支持向量机回归模型生成的时间序列具有与原网络流量时间序列相一致的概率分布。

山东大学博士学位论文关键词：非线性时间序列分析、相空间重构、嵌入维数、主分量分析、四阶累计量、预测效果、局域预测、支持向量机、模型、信息准则、邻近点、邻域、激光数据、非线性检测、条件熵、心率变异信号、网络流量4山东大学博士学位论文A b s t r a c tD e t e r m i n i s t i cc h a o st h a ti sd e t e r m i n e db yn o n l i n e a rd e t e r m i n i s t i cd y n a m i c a lm e c h a n i s mi sak i n do fi r r e g u l a rm o v e m e n tw i d e l ye x i s t i n gi nn a t u r ea n ds o c i e t y ．W i t ht h ed e v e l o p m e n to fc h a o st h e o r ya n dr e s e a r c hO i li t sa p p l i c a t i o n , n o n l i n e a rt i m es e r i e sa n a l y s i sh a sb e c o m eam a j o rr e s e a r c hd o m a mo fn o n l i n e a rs i g n a lp r o c e s s i n g , a n dh a sb e e nw i d e l ya p p l i e dt ov a r i o u sr e g i o n ．T h ec o n t e n t so ft h i sp a p e ra r ea r r a n g e da sf o l l o w ：P r o g r e s so fr e s e a r c ho fn o n l i n e a rt i m es e r i e sa n a l y s i si sr e v i e w e di nC h a p t e r1 ，t h er e s e a r c hc o n t e n to ft h i sp a p e ri sa l s oi n t r o d u c e d ．P h a s es p a c er e c o n s t r u c t i o na n de m b e d d i n gt h e o r yo fd y n a m i c a ls y s t e ma r es m d i e di nC h a p t e r2 ，p r i n c i p l e sa n da l g o r i t h m so fm e t h o d so fp r i n c i p a lc o m p o n e n ta n a l y s i s ，s a t u r a t e dc o r r e l a t i o nd i m e n s i o na n df a l s en e i g h b o r sw h i c hi st h r e eb a s i cm e t h o d su s u a l l yu s e dt od e t e r m i n et h ee m b e d d i n gd i m e n s i o na r es m d i e dt o o ．C h a p t e r3w i l ld e e p l ya n a l y z em e t h o d su s u a l l yu s e dt od e t e r m i n et h ee m b e d d i n gd i m e n s i o n ，a n dp r o p o s et h en e wm e t h o do fd e t e r m i n i n gt h em i n i m u me m b e d d i n gd i m e n s i o nb a s e do nf o u r - o r d e rc u m u l a n ta n dt h en e wm e t h o do fd e t e r m i n i n gt h eo p t i m a le m b e d d i n gd i m e n s i o nb a s e do nn o n l i n e a rp r e d i c t i o n ．C h a p t e r4w i l le x p a t i a t et h ei n v e r s ep r o b l e mo fd y n a m i c a ls y s t e m ，a n ds t u d yt h e o r i e sa n da l g o r i t h m so fg l o b a lp r e d i c t i o n , l o c a lp r e d i c t i o n , a n da d a p t i v ep r e d i c t i o nu s u a l l yu s e dt op r e d i c t i o nn o n l i n e a rt i m es e r i e s ．C h a p t e r5i sm a i n l yc o n c e r n e dw i t hl o c a lp r e d i c t i o nm e t h o d s ，t os i m u l t a n e o u s l yu s e ss p a t i a lc o r r e l a t i o na n dt e m p o r a lc o r r e l a t i o n ，C h a p t e r5p r o p o s e st h ei m p r o v e dl o c a ll i n e a rp r e d i c t i o nm e t h o da n dt h en e wl o c a ll i n e a rp r e d i c t i o nm o d e l ，a n da n a l y s e st h eo p t i m a le m b e d d i n gd i m e n s i o na n dd e l a yo fl o c a ll i n e a rp r e d i c t i o nm o d e l ．T h er e l a t i o nb e t w e e nt h el o c a lp r e d i c t i o nm e t h o da n dn e i g h b o r si sd e e p l ya n a l y z e di nC h a p t e r6 ，b a s e do nt h ei n f o r m a t i o nc r i t e r i o n ，t h en e i g h b o rp o i n ts e l e c t i o nm e t h o df o rt h el o c a lp r e d i c t i o nm e t h o di sp r o p o s e di nC h a p t e r6 ，a n dt h i sC h a p t e rf i n a l l ya p p l i e st h en o n l i n e a rt i m es e r i e sa n a l y s i sa p p r o a c ht ot h el a s e rd a t a ．C h a p t e r7s t u d i e sm e t h o d so fL y a p u n o ve x p o n e n t s ，s u r r o g a t ed a t aa n dn o n l i n e a rp r e d i c t i o nt h a ti su s u a l l yu s e df o rt h e5山东大学博士学位论文d e t e c t i o na n da n a l y s i so fn o n l i n e a rt i m es e r i e s ，a n dt h i sC h a p t e rf i n a l l ya p p l i e st h en o n l i n e a rt i m es e r i e sa n a l y s i sm e t h o dt oa n a l y z ep h y s i o l o g i c a lt i m es e r i e s ．C h a p t e r8a p p l i e ss y s t e m a t i c a l l yt h en o n l i n e a rt i m es e r i e sa n a l y s i sa p p r o a c ht ot h et r a f f i cm e a s u r e m e n t s ，a n da p p l i e st h el o c a ls u p p o r tv e c t o rm a c h i n e sp r e d i c t i o nm e t h o dt op r e d i c tt h et r a f f i cm e a s u r e m e n td a t a ．F i n a l l y , t h em a i nc o n t r i b u t i o u sm a d ei nt h ep a p e ra r eg i v e ni nt h el a s tc h a p t e r ．R e s u l t so ft h i sp a p e ra r es u m m a r i z e da sf o l l o w s ：F i r s t ，b a s i ct h e o r i e sa n dg e n e r a lm e t h o d so fn o n l i n e a rt i m es e r i e sa n a l y s i sa r ed e e p l ya n ds y s t e m a t i c a l l ys t u d i e d ．B a s e do nt h er e s e a r c hw o r ko fb a s i ct h e o r i e si n c l u d i n gp h a s es p a c er e c o n s t r u c t i o n , e m b e d d i n gt h e o r e m , c o r r e l a t i o nd i m e n s i o n , l o c a ld y n a m i c s ，L y a p u n o ve x p o n e n t s ，s u r r o g a t ed a t ae t c ，b a s e do nt h er e s e a r c hw o r ko fg e n e r a lm e t h o d ss u c ha sp r i n c i p a lc o m p o n e n ta n a l y s i s ，c o r r e l a t i o nd i m e n s i o nG Pa l g o r i t h m , f a l s en e i g h b o r sm e t h o d ，n o n l i n e a rt i m es e r i e sp r e d i c t i o n , l o c a lp r e d i c t i o n ,a d a p t i v ep r e d i c t i o n ，n e u r a ln e t w o r km o d e l ，s u p p o r tv e c t o rm a c h i n e sr e g r e s s i o nm o d e l ，p r e d i c t i o np o w e r , n o n l i n e a rd e t e c t i o n , c o a r s e - g r a i n i n gm e t h o d o l o g y , c o n d i t i o n a le n t r o p ya n dS Oo n ，t h ef r a m e w o r ko fn o n l i n e a rt i m es e r i e sa n a l y s i s 舡．ec o n s t r u c t e d ．B a s i cp r o b l e m sa n dm a i nr e s e a r c ha r e a so fn o n l i n e a rt i m es e r i e sa n a l y s i sa r es u m m a r i z e d ．S e c o n d ，P r i n c i p a lc o m p o n e n ta n a l y s i si se s s e n t i a l l yal i n e a rm e t h o db a s e do nt h ec o v a r i a n c em a t r i xw h i c hr e f l e c t st h el i n e a rd e p e n d e n c e ．N u m e r i c a le x p e r i e n c el e ds e v e r a lr e s e a r c h e r st oe x p r e s ss o m ed o u b t sa b o u tt h er e l i a b i l i t yo fP C A ．I nt h i sp a p e rt h em a t r i xc o n s t r u c t e db yf o u r - o r d e rc u m u l a n tf u n c t i o ni n s t e a do fc o r r e l a t i o nf u n c t i o ni su s e dt oi m p r o v et h em e t h o do fP C A ．M e t h o d su s e df o u r - o r d e rc u m u l a n tf u n c t i o nt oc o n s t r u c tm a t r i x e si ss t u d i e da n dt h eb e s tt w om e t h o d sa r ef o u n d ．W h e nt w op a r a m e t e r so ff o u r - o r d e rc u m u l a n tf u n c t i o nc h o o s ev a l u e so ft h ed i a g o n a ld i r e c t i o na n dt h eo f f - d i a g o n a ld i r e c t i o no ft h em a t r i xa n dt h et l I i r dp a r a m e t e ri sZ e r o ，W eC a ng e tt h eb e s tm a t r i x ．S i m u l a t i o nr e s u l t ss h o wt h a tt h ei m p r o v e dm e t h o di sf i tf o rt h es m a l ls e tn o n l i n e a rt i m es e r i e s ，i sc o m p u t a t i o n a l l ye f f i c i e n t ，a n di ss t a b l et on o i s e ．An e wm e t h o d6山东大学博士学位论文o fd e t e r m i n i n gt h eo p t i m a le m b e d d i n gd i m e n s i o nb a s e do nn o n l i n e a rp r e d i c t i o ni sp r o p o s e dt od e t e r m i n et h eo p t i m a le m b e d d i n gd i m e n s i o nf r o mas c a l a rt i m es e r i e s ．T h i sm e t h o dd e t e r m i n e st h eo p t i m a le m b e d d i n gd i m e n s i o nb yo p t i m i z i n gt h en o n l i n e a ra u t o r e g r e s s i v ep r e d i c t i o nm o d e lp a r a m e t e r i z e db yt h ee m b e d d i n gd i m e n s i o na n dt h en o n l i n e a rd e g r e e ．S i m u l a t i o nr e s u l t ss h o wt h a tt h i sm e t h o di sa p p l i c a b l et oas h o r tt i m es e r i e s ，s t a b l et on o i s e ，c o m p u t a t i o n a l l ye f f i c i e n t ，a n dd o e sn o tc o n t a i na n yp u r p o s e di n t r o d u c e dp a r a m e t e r s ．T h i r d ，b a s e do nt h eB a y e s i a ni n f o r m a t i o nc r i t e r i o n , t h ei m p r o v e dl o c a ll i n e a rp r e d i c t i o nm e t h o di sp r o p o s e dt op r e d i c tn o n l i n e a rt i m es e r i e s ．T h i sm e t h o ds i m u l t a n e o u s l yu s e Ss p a t i a lc o r r e l a t i o na n dt e m p o r a lc o r r e l a t i o n ．S i m u l a t i o nr e s u l t ss h o wt h a tt h ei m p r o v e dl o c a ll i n e a rp r e d i c t i o nm e t h o dc a ne f f e c t i v e l yp r e d i c tn o n l i n e a rt i m es e r i e sa n dt h ep r e d i c t i o np e r f o r m a n c eo ft h ei m p r o v e dl o c a ll i n e a rp r e d i c t i o nm e t h o da r es u p e r i o rt ot h a to ft h et r a d i t i o n a ll o c a ll i n e a rp r e d i c t i o nm e t h o d ．I nt h er e c o n s t r u c t e dp h a s es p a c e ，an e wl o c a ll i n e a rp r e d i c t i o nm o d e li sp r o p o s e dt op r e d i c tn o n l i n e a rt i m es e r i e s ．W ep r o p o s et h a tt h ep a r a m e t e r so ft h el o c a ll i n e a rp r e d i c t i o nm o d e lc a nb ec h o s e nv a l u e st h a ta r ed i f f e r e n tt ot h o s eo ft h es t a t es p a c er e c o n s t r u c t i o n ．W ep r o p o s eac r i t e r i o nb a s e do np r e d i c t i o np o w e rt od e t e r m i n et h eo p t i m a lp a r a m e t e r so ft h en e wl o c a ll i n e a rp r e d i c t i o nm o d e l ．S i m u l a t i o nr e s u l t ss h o wt h a tt h en e wl o c a ll i n e a rp r e d i c t i o nm o d e lC a ne f f e c t i v e l yp r e d i c tn o n l i n e a rt i m es e r i e sa n dt h ep r e d i c t i o np e r f o r m a n c eo ft h en e wl o c a ll i n e a rp r e d i c t i o nm o d e li ss u p e r i o rt ot h a to ft h el o c a ll i n e a rp r e d i c t i o n ．Am e t h o do fo p t i m i z i n ge m b e d d i n gd i m e n s i o na n dd e l a yf o rl o c a ll i n e a rp r e d i c t i o nm o d e li sp r o p o s e d ．S i m u l a t i o nr e s u l t ss h o wt h a tt h el o c a ll i n e a rp r e d i c t i o nm e t h o d ，w h i c hh a sb e e no p t i m i z e d ，b yt h i sm e t h o dc a r le f f e c t i v e l ym a k eo n e ·s t e pa n dm u l t i ·s t e pp r e d i c t i o nf o rn o n l i n e a rt i m es e r i e s ，a n dt h eo n e ·s t e pa n dm u l t i - s t e pp r e d i c t i o na c c u r a c yo ft h eo p t i m i z e dl o c a ll i n e a rp r e d i c t i o nm e t h o di ss u p e r i o rt ot h a to ft h et r a d i t i o n a ll o c a ll i n e a rp r e d i c t i o n ．F o u r t h ，t h en u m b e ro fn e a r e s tn e i g h b o rp o i n t si sa ni m p o r t a n tp a r a m e t e rf o rt h el o c a lp r e d i c t i o nm e t h o d ，w h i c hh a sa ni m p o r t a n ti m p a c t0 1 1t h ep r e d i c t i o na c c u r a c ya n d7山东大学博士学位论文c o m p u t a t i o nc o m p l e x i t yo ft h el o c a lm o d e l ．B a s e do nt h ei n f o r m a t i o nc r i t e r i o n , t h en e i g h b o rp o i n ts e l e c t i o nm e t h o df o rt h el o c a lp r e d i c t i o nm e t h o di sp r o p o s e d ．S i m u l a t i o nr e s u l t ss h o wt h a tu s i n gt h ep r o p o s e dm e t h o dt os e l e c tn e i g h b o rp o i n t s ，t h eo n e - s t e pa n dm u l t i - s t e pp r e d i c t i o na c c u r a c yo ft h el o c a lp r e d i c t i o nm e t h o di sw e l l ，a n dt h ec o m p u t a t i o nc o m p l e x i t yi sr e d u c e d ．F i l t h ，w ea p p l i e dt h el o c a ll i n e a rp r e d i c t i o nm e t h o da n dt h el o c a ls u p p o r tv e c t o rm a c h i n e sp r e d i c t i o nm e t h o dt op r e d i c t i n gt h el a s e rm e a s u r e m e n td a t a ．W ea p p l i e dt h em e t h o do fd e t e r m i n i n gt h ee m b e d d i n gd i m e n s i o nb a s e do nn o n l i n e a rp r e d i c t i o nt od e t e r m i n i n gt h eo p t i m a le m b e d d i n gd i m e n s i o no ft h i sl a s e rd a t a , a n da p p l i e dt h en e i g h b o rp o i n ts e l e c t i o nm e t h o df o rl o c a lp r e d i c t i o nb a s e d0 1 1i n f o r m a t i o nc r i t e r i o nt od e t e r m i n i n gt h en e a r e s tn e i g h b o rp o i n t s ．S i m u l a t i o nr e s u l t ss h o wt h a tt h el o c a ll i n e a rp r e d i c t i o nm e t h o da n dt h el o c a ls u p p o r tv e c t o rm a c h i n e sp r e d i c t i o nm e t h o dw h o s en e i g h b o rp o i n t sh a v eb e e no p t i m i z e dc a ne f f e c t i v e l yp r e d i c tt h el a s e rm e a s u r e m e n t sd a t a , a n dt h eo n e - s t e pa n dm u l t i - s t e pp r e d i c t i o na c c u r a c yi sw e l l ．S i x t h ，t h eh e a r tr a t ev a r i a b i l i t yc o u l db ee x p l a i n e db yal o w - d i m e n s i o n a lg o v e r n i n gm e c h a n i s m ．T h e r eh a sb e e ni n c r e a s i n gi n t e r e s ti nv e r i f y i n ga n du n d e r s t a n d i n gt h ec o u p l i n gb e t w e e nt h er e s p i r a t i o na n dt h eh e a r tr a t e ．T h ee m b e d d i n gd i m e n s i o no ft h eh e a r tr a t ev a r i a b i l i t yi sd e t e r m i n e db yt h em e t h o db a s e do nn o n l i n e a rp r e d i c t i o n ．W eu s et h en o n l i n e a rd e t e c t i o nm e t h o dt od e t e c tt h en o n l i n e a rd e t e r m i n i s t i cc o m p o n e n ti nt h ep h y s i o l o g i c a lt i m es e r i e sb yas i n g l ev a r i a b l es e r i e sa n db yt w ov a r i a b l e ss e r i e sr e s p e c t i v e l y , a n du s et h ec o n d i t i o n a li n f o r m a t i o ne n t r o p yt oa n a l y z et h ec o r r e l a t i o nb e t w e e nt h eh e a r tr a t e ，t h er e s p i r a t i o na n dt h eb l o o do x y g e nc o n c e n t r a t i o n ．T h ec o n c l u s i o n sa r et h a tt h e r ei st h en o n l i n e a rd e t e r m i n i s t i cc o m p o n e n ti nt h eh e a r tr a t ed a t aa n dr e s p i r a t i o nd a t a , a n dt h eh e a r tr a t ea n dt h er e s p i r a t i o na r et w ov a r i a b l e so r i g i n a t i n gf r o mt h es a m eu n d e r l y i n gd y n a m i c s ．S e v e n t h ，t h i sp a p e ra p p l i e ds y s t e m a t i c a l l yt h en o n l i n e a rt i m es e r i e sa n a l y s i sa p p r o a c ht ot h et r a f f i cm e a s u r e m e n t sd a t a ．W ed e m o n s t r a t e dt h a tt h en o n l i n e a rt i m es e r i e sa n a l y s i sm e t h o d sc o u l db es u c c e s s f u l l yu s e df o rad e e p e ru n d e r s t a n d i n go fm a i n8山东大学博士学位论文f e a t u r e so ft h et r a f f i cd a t a ．T or e c o n s t r u c tp h a s es p a c eo ft h et r a f f i cd a t a , w ea p p l i e dt h em e t h o do fd e t e r m i n i n gt h ee m b e d d i n gd i m e n s i o nb a s e do nn o n l i n e a rp r e d i c t i o nt od e t e r m i n i n gt h eo p t i m a le m b e d d i n gd i m e n s i o no ft r a f f i cd a t a ．W ea p p l i e dt h el o c a ls u p p o r tv e c t o rm a c h i n e sp r e d i c t i o nm e t h o dt op r e d i c t i n gt h et r a f f i cm e a s u r e m e n td a t a ,a n da p p l i e dt h en e i g h b o rp o i n ts e l e c t i o nm e t h o df o rl o c a lp r e d i c t i o nb a s e do ni n f o r m a t i o nc r i t e r i o nt od e t e r m i n i n gt h en u m b e ro ft h en e a r e s tn e i g h b o rp o i n t s ．S i m u l a t i o nr e s u l t ss h o wt h a tt h el o c a ls u p p o r tv e c t o rm a c h i n e sp r e d i c t i o nm e t h o dw h o s en e i g h b o rp o i n t sh a v eb e e no p t i m i z e dc a ne f f e c t i v e l yp r e d i c tt h et r a f f i cm e a s u r e m e a 3 t sd a t a , t h en o r m a l i z e dm e 2 l l ls q u a r e de r r o ri sv e r yl o w , t h et i m es e r i e sg e n e r a t e db yt h es u p p o r tv e c t o rm a c h i n e sr e g r e s s i o nm o d e lh a v et h es a m es t a t i s t i c a lp r o p e r t i e s 、析Ⅱ1t h er e a lt r a 伍Cd a t a ．K e y w o r d s ：N o n l i n e a rt i m es e r i e sa n a l y s i s ，p h a s es p a c er e c o n s t r u c t i o n , e m b e d d i n gd i m e n s i o n ，p r i n c i p a lc o m p o n e n ta n a l y s i s ，f o u r - o r d e rc u m u l a n t ，p r e d i c t i o np o w e r , l o c a lp r e d i c t i o n , s u p p o r tv e c t o rm a c h i n e s ，m o d e l ，i n f o r m a t i o nc r i t e r i o n , t h en e a r e s tn e i g h b o rp o i n t s ；n e i g h b o r h o o d ，l a s e rd a t a , n o n l i n e a rd e t e c t i o n , t h ec o n d i t i o n a li n f o r m a t i o ne n t r o p y , t h eh e a r tr a t ev a r i a b i l i t y ，t r a f f i cd a t a9山东大学博士学位论文1 ．1 前言第1 章绪论对于混沌的数学研究的历史最早可以追溯到十九世纪末法国数学家H e n r iP o i n c a r e 的工作，它在考虑天体在引力场作用下的运动轨道时已经意识到从初始点出发的轨道将有可能非常复杂，他把动力学系统和拓扑学有机地结合起来，提出三体问题在一定范围内，其解是随机的，实际上这是一种保守系统中的混沌运动。

1 9 5 4 年，前苏联数学家K o l m o g r o v 发表了《哈密顿函数中微小变化时条件周期运动的保持》一文，该文章是K A M 定理的雏形后来他的学生V = I ．A r n o l d 和瑞士数学家J ．M o s e r 分别给出了严格的数学证明，这为早期明确不仅耗散系统中有混沌，而且保守系统中也有混沌的理论铺平了道路到了6 0 年代，美国数学家S t e p h e nS m a l e 研究了微分动力系统结构的不稳定性，他试图对动力系统行为性状的典型类型进行分类，混沌及是其中之一，著名的马蹄映射就是以他的名字命名的随着计算机的迅猛发展和普及，原来由于种种条件限制而难以完全达到预期效果的物理实验系统，而今能够在计算机上通过大量的计算来模拟仿真实际过程并达到理想化的境地，为发现混沌这种复杂运动形式作好了准备终于，到1 9 6 3 年一位研究大气的科学家E ．N ．L o r e n z 在考虑影响天气预报准确性的基本不利因素时，通过计算描述R a y l e i g h ．B e n a r d 对流换热问题的三维近似常微分方程组很偶然地发现了混沌运动【4 8 1 。

此后，在涉及到非线性的包括自然科学和社会科学的几乎所有学科领域都纷纷涌现关于混沌现象存在的报导，在世界范围内掀起了认识和研究混沌运动的热潮2 0 0 0 年，《自然》杂志发表论文“T h eL o r e n zA t t r a c t o rE x i s t s ’’首次从数学上严格证明了L o r e n z 吸引子在自然界中存在1 9 6 4 年，法国天文学家H e n o n从研究球状星团以及L o r e n z 吸引子中得到启发，给出了H e n o n 映射1 9 7 1 年，法国数学物理学家D ．R u e l l e 和荷兰学者E T a k e n s 联名发表论文《论湍流的本质》，第一次提出用混沌来描述湍流形成机理的新观点他们通严格的数学分析，独立地发现了动力系统存在一套特别复杂的新型吸引子，描述了它的的几何特征，证明与这种吸引子有关的运动即为混沌，发现了第一条通向混沌的道路，并命名这类l O山东大学博士学位论文新型吸引子为奇异吸引子1 9 7 5 年，李天岩和Y o 出在美国数学月刊上发表了“周期3 隐含着混沌" 一文，首次把混沌作为一个数学定义提出来，1 9 7 6 年，美国数学生态家R ．M a y 在《自然》上发表了< 具有复杂动力学过程的简单数学模型》综述文章，讨论了单峰映射L o g i s t i c 方程的动力学特性。

1 9 7 8 年至1 9 7 9 年，F o g e n b a u m在M a y 的基础上独立地发现了倍周期分叉过程中分叉间距的几何收敛率，并发现了费根包姆常数1 9 8 0 年，法国数学家M a n d e b r o t 用计算机绘出了第一张M a n d e b r o t集的混沌图像混沌学研究从定性分析推进到定量计算阶段1 9 8 4 年，中国著名的混沌科学家郝柏林编辑的《混沌》一书在新加坡出版，为混沌学的发展起到了一定的推动作用发现混沌的普遍和重要意义在于它彻底改变了人们过去把确定性和随机性作为两个完全独立和相互矛盾的事物来看待的认识方法，使得人们认识到确定性的系统完全有可能表现出不可预测的随机行为特征非线性是当今众多学科所共同面对不能再回避的共性问题，它的最新研究成果无疑将推动所有相关领域的发展混沌动力学的研究不再只是为少数数学家们所享有，而能够被众多学科领域的科研工作者所接受，这又反过来极大地促进了其发展，混沌的重要性正体现在它被认识的广度与深度上由于越来越多的科研人员开始意识到研究各种非线性现象对于解决工程实际问题的潜在重要性，自从二十世纪八十年代以来，混沌的实验研究工作越来越受到重视，如何来准确高效地处理实验中采集记录的数据成为正确分析实验结果的关键所在，为此，混沌研究中的一个新的分支方向——非线性时间序列分析又称作混沌时间序列分析，就应运而生。

非线性时间序列分析需要回答如何由时间序列来辨识混沌动力系统这一基本问题，围绕该问题，许多科研工作者从不同方面开展了大量的研究工作1 ．2 非线性时间序列分析的研究发展现状1 ．2 ．1 非线性时间序列分析的研究发展现状对于动力系统中复杂的混沌运动，早先认为它在相空间具有复杂混乱的运动轨道且频谱结构连续，从时域和频域来分析和认识混沌，并没有抓住这种典型非线性现象的本质，仍然属于传统时问序列的线性分析范畴1 9 8 0 年，P a c k a r d 等人山东大学博士学位论文第一次提出由非线性时间序列来重构奇异吸弓l 子相空间并研究其非线性动力学特性的思想方法【6 】，揭开了通过标量时间序列来研究动力系统复杂混沌运动的序幕与此同时，T a k e n s 独立地提出延时坐标法来利用标量时间序列重构奇异吸引予相空间【7 】，而且证明原系统和重构系统一一对应的著名的嵌入定理他们的工作奠定了非线性时间序列分析的基础，并对后来的研究影响巨大，使得相当长的一段时越里延时坐标法、嵌入定理几乎成为非线性时间序列分析的代名词但是，嵌入定理没有直接回答在相空间重构时如何选取嵌入维数和延迟时间这两个参数的问题，该阀题延续刘今天，成为非线性时闻序列分析的一个重要基本问题。

1 9 8 3 年，G r a s s b e r g e r 和P r o e a c e i a 在物理学( P h y s i c , a ) 上发表了度量奇异吸引子奇异性( 混沌程度) 的论文H o 】，提出了计算关联维数的著名的G P 算法由于G P 算法最先实现了由时间序列定量判断混沌，而且算法简便可行，因而成为非线性时间序列最为常用的分析方法：但是该算法是基于混沌吸弓| 子具有分形的凡何结构特征丽提出的，在处理工程实际问题时，很容易受到数据中噪声成份的影响而失效影响G P 算法豹不利因素孳| 发人们去思考：时间序列确定性和随机性的本质差异究竟在那里? 这成为非线性时间序列分析需要回答的又一个基本问题1 9 8 5 年，E c k m a n n和R u e l l e 两人在现代物理评论( R e v ．糙酣．P h y s ．) 上撰文提出根据实验数据来拟合奇异吸引子在相空间运动轨道上各点局部动力学关系的思想方法【1 4 1 ，对非线性时间序列分析作出了重要贡献，该思想方法使{ ! 孽实验研究混淹动力学真正成为可能，因而成为后序研究的出发点，并且为混沌控制的诞生作好了准备。

至此，非线性时闻序列分析已经上升到对混沌的分形和初值敏感等基本特征采用分形维数和L y a p u n o v 指数等特征指标进行总体度量的阶段，分析方法确实取得了长足的进步1 9 8 8 年，C v i t a n o v i e 指出：数毽无限的不稳定髑期孰道构成了混涎的骨架H 5 1 这一认识上的重要进步使人们不在只是从混沌运动所表现出的总体性质来理解它，而麓够由混沌的内部结构来细致地了解和把握它，因蓝上述观点可以认为是混沌在实验科学研究中的定义，且认识到混沌内嵌的数目无限的不稳定周期轨道使得混沌控制技术成为可能隧着实验中发现混沌的报导迅速累积，越来越多翡注意力开始转向研究混沌运动在包括机械、电子、化学和生物等各类系统中所起到的作用上，由予出现混沌的机电装置性能有可能会被降低，因而在这些系统中1 2山东大学博士学位论文如何抑制混沌的可能消极影响受到重视1 9 9 0 年，O t t 、G r e b o g i 和Y o k e 第一次提出控制混沌的参数小扰动方法【4 9 1 ，通过研究他们发现混沌为系统提供了极大的灵活性，表现在系统可能被稳定到任意周期轨道上运动，且只需要施加能量很小的扰动控制就可以达到要求，因此混沌同样为实现控制提供了极大的便利条件。

O G Y控制方法的提出大大激发了人们的热情，打消了对混沌所带来的可能消极影响的忧虑，使得研究混沌运动和控制达到了空前的高潮事实上，混沌控制策略的出现决非偶然，它是采用混沌时间序列分析方法对系统进行辨识并与控制方法巧妙结合的必然结果，混沌控制可以概括理解为通过拟合奇异吸引子在相空间运动轨道上的局部动力学关系使混沌运动经过控制以后最终稳定在所希望达到的某条内嵌的周期轨道上，因此，混沌时间序列分析的广泛深入研究为实现混沌控制作了充分的准备，而O G Y 三人的开创性工作正起到了画龙点睛的作用1 9 9 2 年，T h e i l e r等人从检验时间序列的非线性出发，在总结前人工作的基础上创造性地提出了替代数据的概念方法【1 2 0 】替代数据虽然并不具体指明非线性的具体形式，但是它为判别时问序列是否具有非线性提供了能够进行比较和参照的依据，因此，该方法迅速成为人们普遍使用的分析手段，而区别线性和非线性也自然成为混沌时间序列分析的一个基本问题1 9 9 6 年，B a r a h o n a 和P o o n 在自然( N a t u r e ) 上发表了预测效果非线性检测的论文【1 17 1 ，根据预测效果来检测时间序列中的非线性确定性成份。

19 8 7 年F a r m e r 在物理评论快报( P h y s ．R e v ．L e t t ．) 上撰文首次提出了局域预测方法，并证明在相同的嵌入维数下局域预测法的效果比全局预测法更好[ 9 0 l 【9 1 1 正是因为如此，局域预测法受到了学术界的重视和关注，成为预测非线性时间序列最基本的方法之一时至今日，国内外对局域预测法的研究仍然在继续进行，近些年来在这方面的工作如文献[ 9 5 —1 0 3 】等所示根据大量的非线性系统可用V o l t e r r a 级数来表征这一特点，近些年来文献[ 1 0 6 ．1 l o ] 提出并研究了非线性时间序列的自适应预测方法近年来，大量研究者采用非线性模型，尤其是神经网络模型和支持向量机模型8 2 舶】【1 4 8 1 ，对非线性时间序列进行全局或局域的建模和预测近年来，延迟坐标相空间重构方法被推广于非平稳信号处理的研究中，2 0 0 0 年，H e g g e r 等在物理评论快报( P h y s ．R e v ．L e t t ．) 上撰文首次提出了针对非平稳信号的过嵌入方法( o v e r e m b e d d i n gm e t h o d ) [ 1 2 " q ，2 0 0 6 年V e r d e s 等在该方法的基础上提山东大学博士学位论文出了对非平稳系统建模预测的方法f 1 2 9 ] 。

1 9 9 7 年，K a n t z 和S c h r e i b e r 在搜集整理大量文献资料的基础上编辑嗽舨了非线性时闻序列分析的专著——( N o n l i n e a rT i m eS e r i e sA n a l y s i s ) 1 1 1 ，其中每个章节精选汇集了围绕一定主题的部分代表性著作，涉及到非线性时闻序列分析中嵌入、维数、L y a p u n o v 指数、预测、降躁、控制等近乎所有方面，它的问世标志着非线性时间序列分析方法已经发展进入一个比较成熟的阶段，2 0 0 3 年K a n t z 和S c h r e i b e r 又进一步补充了鼍# 线性时闻序列分析的内容，出版了该书的第二版【¨非线性时闻序列分析提供的一般性方法和它的最新成果将推动相关学科研究取得进步，这种进步将有可能是突破性的，因此，自产生以来非线性时间序列分析一直是毒} 线性动力学最为活跃的领域汇集在这个研究方向上数决不仅限于翦面提到的少数几位学者的工作，一大批优秀的科研人员为分析处理非线性时间序列提供了源源不断的创造性愚维，使它一直在非线性动力学研究中保持着最为迅猛的发展势头。

来源于认识和解决包括信息、生物、医学、机械、电子、化学等等各类工程实际中遇到的以混淹为典型代表的j } 线性现象和阗题，这种实际需要和意义使得非线性时间序列分析无可争辩地成为非线性动力学最富生命力的研究发展方离；反过来，密切结合众多学科领域又为菲线性时间彦列提供了广阔的发展空间和丰富的研究内容可以不夸张地讲，正是由于非线性时间序列分析与广大学科的相互交叉才使得以混淹现象为代表性的j } 线性动力学研究能够在短短几十年时间罩迅速渗透到其它学科和工程领域中1 ．2 ．2 非线性时间序列分析的基本问题和研究方面菲线性时间序列分析的基本闷题可以归结如下：( 1 ) 嵌入参数的最佳选取，包括如何选取合适的嵌入维数和延迟时间两个方面这两方面问题在相空间重构率裁已经提漱，是人们在重构相空间的实践过程中逐渐认识到～方面，高维动力系统的运动轨道往往最终会收敛到相空间的低维吸引予上：另一方面，实验中采样得到的数据有可能包含大量的冗余信息因此，选取合适的嵌入维数和延迟时间会使非线性时间序列分析中的相空间重构变得经济有效，即只需要利用包含较小冗余信怠的实验数据就可以在低维的重构相1 4山东大学博士学位论文空间上再现出原来系统的动力学行为。

并且，嵌入参数还对其它的非线性时间序列分析方法的计算量和精度有重要的影响 2 ) 非线性时间序列预测，即由时间序列来辨识决定运动演化规律的动力系统，对观测时间序列建立模型来预测时间序列的未来值建模预测也是传统时间序列分析的最重要的问题之一混沌系统是由非线性动力机制决定的确定性系统，貌似随机运动的混沌系统内部存在确定性规律，所以非线性时间序列是短期可预测的非线性时间序列预测可以是由实验时间序列来建立决定轨道演化的整体非线性动力学模型的全局预测来实现，也可以是由实验时间序列来拟合运动轨道各点处的局部动力学关系的局域预测来实现除了建模预测本身的重要性，系统的可预测性还有重要的方法论意义例如根据时间序列的可预测性，可以判断时间序列的性质 3 ) 确定性和随机性，就是要分辨出观测数据到底是由确定性还是随机性机制所产生，时间序列不同的产生机制将决定所需要建立模型的性质是确定性的还是随机性的相对而言，区别纯粹由确定性和随机性两种机制决定的时间序列已经不再困难，实验数据有可能同时包含确定性和随机性两种成份，检测实验时间序列中是否具有确定性成份是当今一些非线性时间序列分析方法提出所主要针对的目标，与此同时，认识时间序列中随机成份的来源、性质和作用也同样受到重视。

目前，在生物医学工程等研究邻域，人们正逐渐认识N - 时间序列中的随机性不仅仅是实验记录过程中的误差所引起的，生物医学系统本身就会产生大量的随机因素，而这种随机性是内在的，系统所表现出的丰富行为往往是确定性和随机性两种力量综合作用的结果 4 ) 线性和非线性，即确定时间序列是由线性的还是非线性的机制所决定时间序列包含有确定性成份并不意味着确定性就必定是非线性的，还需要区分确定性关系究竟属于线性还是非线性，不同的确定性机制将决定所要建立的时间序列模型性质是线性的还是非线性的而且，对于非线性而言，系统表现出的程度可能差别显著，混沌就是系统表现出强非线性的结果，它显然要比极限环运动时非线性程度高出许多因此，非线性并不等于混沌，它会有不同的产生机制、表现形式以及强弱程度山东大学博士学位论文●———_ —_ ●——| _ —一I _ —目皇置———鼍—●- ————詈音I —●| 晕詈皇暑詈量皇量—●●—| I 置_ _ _ 曩—■—_ _ _ ●——l —_ _ —_ ●_ —_ _ _ _ _ —l I -上述非线性时间序列分析的基本问题并不是完全独立的，它们相互交织在一起，由于它们往往成为非线性时间序列分析过程中遇到的共性问题而又具有一定的相对独立性，因而把这些问题有必要单独列出。

除了这些一般性问题，非线性时间序列分析针对不同的要求和目的还包括以下几个方面：( 1 ) 相空间重构：即从标量时间序列重构与系统原相空间等价的相空间，保证嵌入关系成立 2 ) 统计不变量：即确定奇异吸引子的分形维数和混沌程度的L y a p u n o v 指数等总体性质的统计平均特征指标 3 ) 动力系统的辨识：即确定构成混沌运动骨架的内嵌于奇异吸引子的低阶不稳定周期轨道并拟合相应的局域动力学关系 4 ) 预测：即由观测时间序列来预测非线性动力系统的运动行为 5 ) 非线性降噪：即由实验数据确定噪声混沌轨道近旁的真实混沌轨道，从而去除噪声干扰 6 ) 控制：即把混沌轨道稳定在内嵌于奇异吸引子的某个不稳定周期轨道上，从而使系统达到所希望的输出形式这些问题具有很强的针对性，在解决它们的过程中将会不同程度地涉及前面列出的非线性时间序列分析的基本问题由于它们更为具体，特别适合于作为研究工作的出发点，而且它们的解决无疑会为基本问题的回答起到积极促进作用1 ．3 选题意义非线性动力学将对于众多学科领域遇到的非线性这～共性和基本问题进行回答和解决，它的重要性使之成为现今科学技术发展的前沿研究领域之一，世界各国都对它给予高度的重视，著名的大学和研究机构纷纷成立了各自的非线性科学研究中心，以非线性现象为主题的一大批学术刊物相继在国际上创办。

国内，在许多科学家学者的共同努力下，我国非线性科学的发展达到了较高的水平确定性混沌对于不呈现内在随机性系统中的不规则和复杂现象提供了一个引入注目的解释混沌揭示了有序与无序的统一，确定性与随机性的统一被当作随机的不规则运动的许多现象，实际上其背后都存在着决定论的法则对混沌这一确定的1 6山东大学博士学位论文非线性低维动力系统复杂行为的研究，形成了一套称作动力系统方法的分析手段混沌理论和现实世界之间的最直接的联结就是用非线性动力学对现实系统作时间序列分析非线性时间序列分析提供了处理、加强和分析实测信号的方法随着混沌理论和应用技术研究的不断深入，非线性时间序列分析已成为非线性信息处理领域中近几年来的一个重要研究热点，并在信号处理、通信、控制、电力系统、社会经济、边坡位移、水文、生物医学等领域中有着越来越重要的应用本论文的主要工作一方面体现在对非线性动力系统时间序列分析方法的研究和分析上，另一方面体现在对非线性时间序列分析方法在相关工程领域的应用研究，包括生物医学信号的非线性分析研究、实际激光数据的非线性分析研究和网络流量的非线性预测研究1 ．4 本论文的研究工作和内容安排对混沌这一非线性确定性低维动力系统复杂行为的研究，为非线性时间序列分析提供了一种新的手段一非线性动力系统方法。

本文的主要工作一方面体现在对非线性动力系统时间序列分析方法的研究和分析上，另一方面体现在对非线性时间序列分析方法在相关工程领域的应用研究，包括生物医学信号的非线性分析研究、实际激光数据的非线性分析研究和网络流量的非线性预测研究本论文的内容安排如下：第一章绪论首先综述非线性时间序列分析理论和方法的发展研究现状，归纳了非线性时间序列分析研究的基本问题，有针对性地将非线性时间序列分析按不同的要求和目的划分为若干个研究方面；然后阐述论文选题的意义，概括论文的研究工作和内容安排第二章相空间重构与嵌入理论首先研究动力系统相空间重构问题和嵌入理论，阐述了嵌入定理，讨论了它的物理意义，分析了相空间重构与其它非线性时间序列分析方法间的关系，讨论了相空间重构问题的关键及其参数选取中存在的问题；然后研究了主分量分析的原理和算法以及用它来确定嵌入维数和降低混沌信号中噪声影响的内容；接下来研究了计算关联维数G P 算法的原理以及存在的问题，研究了用来确定嵌入维数的饱和关联维数方法；最后研究了用来确定嵌入1 7山东大学博士学位论文维数的伪邻近点方法第三章基于离阶统计量与预测效果的嵌入维数的选取方法首先深入分析了现有选取嵌入维数方法的不足和存在的问题；然盾提出基予高阶统计量的嵌入维数的选取方法，对比分析了用四阶累积量函数构造矩阵的多种方法；接下来用此方法分析几组典型非线性时间序列：再接下来提出了基于预测效果的嵌入维数的选取方法；最后通过分析几组典型非线性对闻序列给出了此方法的性能。

第四章非线性时间序列的建模与预测首先阐述了动力系统的逆问题；然后深入研究了全局预测方法的原理、算法实现及其存在的问题，深入研究了具有普遍的非线性函数逼近能力的神经网络模型和基于统计学习理论的支持向量回归模型；接下来深入研究了局域预测方法包括局域平均预测方法和局域线性预测方法的基本思想、原理和算法实现；最后深入研究了能融适应地跟踪混沌的运动轨迹的自适应预测方法第五章改进的局域预测方法本章深入研究了局域预测方法，首先基于B a y e s i a n 信息准则提出了改进的局域线性预测方法，荠通过仿真实验研究了该改进的局域线性预测方法的预测性能；然后在重构的相空间提出了一种新的局域线性预测模型来预测习≥线性时闻序列，并通过仿真实验验汪了这种新的局域线性预测模型的预测性能；最后提出了一种优化局域线性预测模型参数嵌入维数与延迟时间的方法，并通过仿真实验验证了优化后的局域线性预测方法的预测性能第六章局域预测法邻近点的选取与激光数据的预测首先研究了在局域使用支持向量回归模型的局域支持向量机预测方法，讨论了多步预测的两种实现方法与局域预测中邻近点的两种选取方法；然后分析了为了避免模型过拟合问题而提出的套种信息准则的优势和不足；接下来深入分析7 局域线性预测方法和局域支持向量机预测方法中邻近点选取存在的问题，提出了基于信息准则的局域预测法邻近点的选取方法；再搂下来用此方法分析了L o r e n z 模型生成的典型非线性时间序列；最后应用非线性时间序列分析方法分析了由远红外激光器产生的激光数据，应用基于预测效采的选取嵌入维数的方法来确定该组实测激光数据的最优嵌入维数，应用局域预测方法预测该组激光数据。

第七章菲线性检测与生物医学信号的非线性分析首先研究了刻画混沌运1 8山东大学博士学位论文动对初始扰动敏感程度及确定混沌程度的L y a p u n o v 指数，着重讨论了如何由标量时间序列根据邻近轨道指数发散率或通过线性拟合轨道的局域动力学关系来计算L y a p u n o v 指数的算法；然后研究了检测时间序列非线性的替代数据方法；接下来研究了预测效果非线性检测方法的基本原理和算法实现：再接下来研究了应用于非线性时间序列分析的粗粒化方法和条件熵的基本原理和算法实现；最后应用非线性时间序列分析方法分析生物医学信号，应用基于预测效果的嵌入维数的选取方法来确定心率变异信号时间序列的嵌入维数，分别使用单变量时间序列和多变量时间序列，应用非线性检测方法来检测生理时间序列的非线性确定性成分，应用粗粒化方法和条件熵来分析心率变异信号、呼吸信号与血氧浓度信号的相互关系第八章网路流量的非线性预测首先深入分析了网络技术的飞速发展引起的网络流量特性的重大变化，及为网络流量的特性刻画与模型建立提出的新问题；然后系统地应用非线性时间序列分析方法来分析实测的网络流量序列；最后分析了局域支持向量机预测方法对网络流量数据的预测性能，对比分析了局域支持向量机回归模型生成时间序列和实际网络流量时间序列的统计特性。

第九章总结和结论总结本篇论文的主要贡献所在1 9山东大学博士学位论文2 ．1 相空间重构第2 章相空间重构与嵌入理论混沌现象自从被L o r e n z 发现以来，对它的认识和研究在不断地深入发现混沌的现实意义在于认识到确定性的非线性系统，尽管可能只有少数几个自由度，在非线性动力机制的作用下，却能够产生传统时间序列分析中认为是复杂且类似随机的输出信号在发现混沌现象以前，人们一般认为复杂信号只会是包含大量自由度的复杂系统输出结果因此，分析和判断复杂信号是源于低维混沌系统还是随机过程具有重要意义，该问题也由此成为非线性时间序列分析需要首先回答的区分随机和非线性确定性过程的重要性在于：对于随机系统，预测它的将来行为是在统计意义下，且也仅限于均值、相关系数、高阶矩等统计量；而对于非线性确定性系统，它的未来状态是由系统过去行为所决定的，因此，存在着根据非线性确定性模型来分析、预测和控制系统的可能性而当系统为低维混沌系统时，虽然初始条件靠近的轨道会以指数数率相互远离而使得系统长期行为无法预测，却短期可预测二十世纪八十年代以来，由于T a k e n s [ 7 】对W h i m e y 在拓扑学方面工作的发展，使得深入分析非线性时间序列的背景和非线性动力学机制成为可能。

从标量时间序列重构与系统原相空间等价的相空间是非线性时间序列分析的基础【¨在非线性确定性的基础上，对非线性时问序列动力学因素的分析，目前广泛采用的是延迟坐标相空间重构方法2 ．1 ．1 动力系统理论确定性动力系统描述系统在其相空间s ( S cR ) 的时问演化规律确定性动力系统可用微分方程的形式表示如下：_-dY：F(y)，(2-1)一= ，I J - l ，口f其中l ，= ( y I ( f ) ，Y 2 ( f ) ，⋯，Y f ) ) 为系统相空间( p h a s es p a c e ) 或状态空间( s t a t es p a c e ) S山东大学博士学位论文内的一点，相空间S 的维数刀表示系统的自由度当方程( 2 ．1 ) 表示的是耗散系统时，随着系统的演化，所有可能初始条件的解筇将会被吸引到称为吸引子的低维集合A 上设吸引子所在的光滑流形为膨，维数为d ，其中d < 刀在大多数情况下，这些吸引集是不规则的且有分数维数，则集合称为分形( 触c t a l ) 【2 5 1 ，而吸引子称为奇异吸引子【2 6 1 向量场F 是作用于相空间S 内点的非线性算子，若满足L i p s c h i t z条件，则方程( 2 ．1 ) 的初值问题存在唯一解。

若初始条件为K ，则在t 时刻方程的解为Y ( t ) = 线，其中映射缈：R “- - - ) A 对于两个C 7 矢量场F 和G ，如果存在一个C ‘( 七≤，．) 微分同胚①，则F 和G被看作是C 7 等价的可直观地把①看作是一个可逆的、非线性的坐标变换虽然使流形扭曲变形，但并不改变轨迹上点的次序当七= 0 时，①是同胚的，即为一个连续的双射这称作拓扑等价或C o 等价若k ≥l ，就有了更强的微分等价条件基于拓扑等价或微分等价，即可以把不同的吸引子归为性质明显不同的类型2 ．1 ．2 相空间重构和嵌入定理实验条件下动力系统( 2 ．1 ) 往往是未知的，且由于实验条件所限，人们不可能对所有系统变量进行测量，而只能对其中若干个进行测量设测量函数为H = ( h i , 五2 ，⋯，h ￡) ，测得的￡维时问序列为Z = Ⅳ( 】厂) ，( 2 —2 )其中Z 是￡( L < ，1 ) 维向量，当L = l 时就成为标量时间序列如何利用测量得到的实验数据来研究系统的动力学行为昵? 从标量时间序列重构与系统原相空间等价的相空间，即相空间重构( p h a s es p a c er e c o n s t r u c t i o n ，s t a t es p a c er e c o n s t r u c t i o n ) 是用动力系统方法分析非线性时间序列的首要步骤【I 】。

通常混沌系统可用低阶微分方程描述，假设原混沌系统的动力方程是由P 个一阶微分方程组成的方程组，该方程组通过求导和消元可化为一个只含一个变量的P 阶微分方程所以，决定系统长期演化的任一变量的时间序列均包含了系统2 l山东大学博士学位论文所有变量长期演化的信息，因此，可以通过决定系统长期演化的任一单变量时间序列来研究系统的混沌行为P a c k a r d 首次提出了用延迟坐标重构原系统相空间的方法【6 】T a k c n s 证明了可以找到一个合适的嵌入维数，即如果延迟坐标的维数朋≥2 d + 1 ，其中d 是动力系统的维数，在这个嵌入空间里可以把吸引子恢复出来即在重构的尺”空间中的轨线上原动力系统保持微分同胚，从而为非线性时间序列分析奠定了坚实的理论基础一个嵌入是一个光滑映射，即①将流形肘映射到一个空间U ，像①( M ) ( cU )是U 中的一个光滑子流形①是M 和①( M ) 之间的微分同胚换言之，M 在U 中的嵌入就是通过U 中的一个子流形来认识膨应该注意到，嵌入给出两个流形之间的一个微分同胚，意味着建立一个微分等价关系是重要的先决条件W h i t n e y 关于嵌入在欧几里得空间里普遍存在的定理【3 6 1 ，证明了一个光滑的( C 2 ) 力维流形( 紧的和H a u s d o r f f 的) 可被嵌入到尺2 肿1 中。

这一定理成为T a k e n s 提出的嵌入定理的基础定义2 ．1 ：设( Ⅳ，p ) ，( ⅣI ，岛) 是两个度量空间，如果存在映射9 ：N 专N 满足：( 1 ) 缈满映射；( 2 ) p ( x ，Y ) = 岛( 缈( 石) ，驴( y ) ) ( 坛，Y ∈忉，则称( Ⅳ，p ) ，( ⅣI ，岛) 是等距同构的定义2 ．2 ：如果( Ⅳl ，局) 与另一度量空间( Ⅳ2 ，p 2 ) 的子空间( Ⅳp 2 ) 是等距同构的，则称( ⅣI ，岛) 可以嵌入( Ⅳ2 ，以) 定理2 ．1 ( T a k e n s ) ：设M 是刀维的紧流行，F 是一个光滑的( C 2 ) 矢量场，v 是M上的一个光滑函数，①F ．，：M 专R 2 肿1，其中①，．，( z ) = ( v 0 ) ，’，( 仍( z ) ) ，V ( 仍( z ) ) ，⋯，以妒2 z ) ) ) 7 ’，则o ，，，是M 到R 2 川的一个嵌入，这里仍是F 的流’，( z ) 对应着系统状态为z ( ∈M ) 时的观测值，包含着像①n ( M ) 的空间称作嵌入空间嵌入空间的维数称作嵌入维数应用T a k e n s 定理重构相空间的方法就山东大学博士学位论文是延迟坐标相空间重构法。

延迟坐标是由时间序列构造出多维的相空间矢量假设实测标量时间序列为缸( 讲，i = 1 ，2 ，⋯N ，由延迟坐标相空间重构法可得延迟矢量：X ( 刀) = [ 工( ，1 ) ，x ( n —f ) ，⋯，x ( n 一( 朋一1 ) f ) 】7 ，刀= ( 历一1 ) r - I - l ，( 历一1 ) r + 2 ，⋯，N( 2 - 3 )其中m 为嵌入维数，f 为延迟时间由延迟矢量可得重构轨迹为：X = [ x ( 1 + ( 肌一1 ) f ) ，x ( 2 + ( m —O r ) ，⋯，石( Ⅳ) 】x O + ( ，，l 一1 ) 0x ( 2 + ( m 一1 ) O ⋯x ( 忉x ( 1 + ( m 一2 ) f ) x ( 2 + ( m 一2 ) 0 ⋯x ( N —f )⋯x ( N 一( 所一1 ) r )( 2 —4 )2 ．1 ．3 相空间重构参数的选取问题T a k e n s 的嵌入定理对相空间重构参数的选择没有任何指导性的建议这一定理隐含着分析数据没有噪声影响，且数据长度为无限长的假设在该条件下，即当标量时间序列为无限长且无噪声的情况下，从数学的观点来看，延迟时间f 可以取任意值。

但是实际上，实测时间序列是有限长的，且不可避免的被噪声污染，因此延迟时间不能取任意值当延迟时间f 太小的时候，式( 2 ．3 ) 中延迟矢量的各个分量的相关性很强，重构的吸引子被压缩在嵌入空间的主对角线附近，这称作冗余( 硎u n d 锄c e ) 问题f 2 7 】【2 引当延迟时间f 太大的时候，式( 2 ．3 ) 中延迟矢量的各个分量又都几乎各不相关，使得原本形状简单的吸引子在重构后显得极其复杂，这称作不相干( i 玎e l e V a l l c e ) 问题【2 7 】【2 引因此，由观测数据重构相空问时应选取合适的延迟时间，常用的方法包括自相关法和F r a s e r 和S w i n n e y 提出的互信息法( m u t u a li n f o r m a t i o n ) 等【2 9 1 自相关法根据自相关函数尺 f ) 选择合适的延迟时间f 自相关函数提供了信号工( f ) 与其延迟量之间相似性的一个测度，因而尺p ) 作为f 的函数，被认为是从冗余到不相关的一种合理测度典型地，将自相关函数R f ) 首次下降到初值的1 ／P作为选择延迟时间f 的标准【3 0 】【3 1 1 。

自相关法的优点是计算量较小，但该方法的局限在于对一些动力系统分析成功而对另一些却无法得到满意的结果【3 2 1 【3 3 1 关于这山东大学博士学位论文一点我们不难从单一时间序列时域的自相关并不能很好体现重构吸引子的空间分布中得到理解为此，F r a s e r 和S w i n n e y 提出了一种基于互信息的空问测度标准【2 9 1 互信息l ( r ) 提供了一种更一般依赖性的测度，而自相关如( r ) 仅反映的是线性相关F r a s e r 和S w i n n e y 将最大的不相关，即最小的互信息l ( r ) 处与最小冗余联系起来【2 9 1 ，认为以此可以得到最佳重构以此选择互信gI ( r ) 第一个局部最小作为选取延迟时间r 的准则【2 9 1 后来F r a s e r 把适用于两个变量的互信息推广为适用于多个变量的冗余信息的概念【3 5 1 互信息法的计算量要比自相关法的要多四至五个数量级嵌入维数是相空间重构的一个重要参数S a u e r [ 8 】指出嵌入维数m 与盒子维数域存在如下关系：m > 2 D o( 2 —5 )但是当嵌入维数的值取的太大时，将额外增加其它非线性时间序列分析方法的计算型圳。

作为实现嵌入的前提嵌入维数研> 2 D o 仅仅是充分条件而不是必要条件，而且事实证明往往是在m ≤2 D o 时就能够实现吸引子的重构嵌入定理并没有直接解决人们所关心的嵌入维数选取问题与延迟时间f 相类似，嵌入维数同样存在着最佳选择问题目前最小嵌入维数的选取方法主要有四种：饱和关联维数法、伪邻近点法、奇异值分解法和预测效果法延迟坐标相空间重构方法是最常用的一种相空间重构方法但是由于该方法的重构矢量是由原序列的延迟构成的，所以该方法重构的坐标之间存性相关及人为的对称性对L o r e n z 模型的x 分量生成的时间序列：f J c = t r ( y —x ){ 夕= x ( R —z ) 一Y( 2 —6 )【三= 砂一瑟其中盯= 1 6 、R = 4 5 ．9 2 、b = 4 ，采样间隔A t = O ．O l s ，用延迟坐标法重构其相空间，其延迟时间取为8 ，嵌入维数取为3 ，仿真结果如图2 ．1 和图2 ．2 所示从图2 一l 和图2 —2 图可见，延迟坐标法重构的吸引子虽然形状大小发生了变化，但是吸出东大学博士学位论文引子许多根本的动力学特性并没有改变，重构的坐标之闻存性襁关及人为的对称性，所以延迟坐标相空间重构法确实可以从系统的单变量时闻序列恢复和研究原系统的动力学特性。

翻2 - 1 原横空闻在x - y 平面的投影图2 - 2 延迟坐标法重掏的褶空闻在纠，平面盼投影2 ．2 主分量分析方法主分量分析( p r i n c i p a lc o m p o n e n ta n a l y s i s , 简稼P C A ) 是最早嗽B r o o m h e a d 和K i n g [ 2 0 1 引入非线性时间序列分析中，用作相空阐重构、确定最小嵌入维数、虑除信号中的噪声干扰，该方法消除了重构坐标阍的线性相关及人为的对称性主分山东大学博士学位论文量分析又称为奇异值分解( s i n g u l a rv a l u ed e c o m p o s i t i o n , 简称S V D ) 和K - L 变换( K a t h u n e n - L 0 6 v et r a n s f o r m a t i o n ) ，该方法在信号分析、数据压缩和特征提取中已得到了非常广泛的应用2 ．2 ．1 主分量分析的原理和算法主分量分析的第一步是构造协方差矩阵假设时间序列值已经过减去均值的处理贝1 J ( 2 - 4 ) 式定义的重构轨迹矩阵X 的协方差矩阵为疋= 志朋r =R ，( 0 )R ，( r )⋯R 』( 坍一1 ) f 】R ，( f )R ，( 0 )⋯R ，【( 所一2 ) r 】B 【( 脚一1 ) r 】R ，【( m 一2 ) r 】⋯疋( 0 )( 2 - 7 )其中L ∈R 删”，其元素为T x ( i ，_ ，) = E { x ( n ) x [ n + ( i 一／) r 】) = R 』O - j ) r 】( 2 - 8 )其中f 为延迟时间，f ，／= l ，2 ，⋯，m ，C ( f ，／) 的大小反映出延时坐标变量f 和_ ，之间的相关程度。

因为C 为一个实对称矩阵，对L 特征值分解可得￡= 距2 S ，，( 2 ．9 )其中∑2 是册×m 的对角阵，其对角线上的元素为p ；z ，i = l ，2 ，⋯，m ) ，S ：R 4 寸R ”为m ×m 的正交阵，表示延迟矢量X ( t ) 的旋转，即r ( t ) = S ，X ( t ) ．( 2 一l o )矢量Y ( t ) 的元素便称作主元主元是延迟矢量在特征矢量上的投影进一步定义Y = S r ·x 和弓= 】，·Y7 ’，则t 是主元的协方差矩阵且由式( 2 —7 ) 和( 2 ·9 ) 得乃= s r ·疋·s = ∑2 ．( 2 一1 1 )可见，主元的协方差矩阵是对角阵∑2 这就意味着矩阵X 经过坐标变换】，：S r ．X得到的新矩阵y 中变量是相互独立的，因此变换后以矩阵】，中变量所构成的坐标系具有正交性山东大学博士学位论文把吒按照从大到小的顺序排列，并称为主分量( p 血c i p a lc o m p o n e n t ) 黼值( s i n g u l a r v a l u e ) ，与主分量吼对应的正交向量S ( f ) 称为主轴( p r i n c i p a la x i s ) 。

根据奇异值在不同主轴上的分布，可以估计产生信号的动力系统的最小嵌入维数d E 并虑除信号中的噪声干扰奇异值的分布与系统有关，奇异值的大小表示信号在相对应主轴上投影的能量多少奇异值的平方称为奇异谱，它代表对应方向能量分布，其百分比即代表系统能量百分比一般而言，在系统的奇异谱中只有前面的若干个具有较大的值，它们代表信号成分，其余的值较小，它们代表噪声平台( n o i s ef l o o r ) ，信号成分对应方向包含了系统绝大部分能量，信号成分对应奇异谱的个数即为最小嵌入维数d ，而将信号在相应主轴构成的新坐标系中投影就能够消除噪声平台达到降低噪声的作用用S ( 耽i = l ，2 ，⋯，d E 表示信号成分的主分量所对应的主轴，并用0 表示噪声平台对应的主轴方向，由此构成坐标变换矩阵：S = [ s ( o ，S ( 2 ) ，⋯，S ( d ￡) ，0 ，⋯，0 】，( 2 - 1 2 )为了虑除原信号中的噪声，先将重构轨道矩阵x 向§构成的坐标系投影：Y = S lX、(2-13)得到的矩阵y 中变量是相互独立的，然后把变换后的矩阵y 变换回原坐标系统即延时坐标系统：^^^一X = S Y = S ·( S 。

X ) ．( 2 - 1 4 )获得的矩阵膏就是在原来延时坐标系统中由虑波数据所形成的主分量分析方法的基本步骤总结如下：( 1 ) 由标量时间序列{ 工( f ) ) ，f = 1 ，2 ，⋯N 重构相空间，得到重构轨迹矩阵X 2 ) 计算矩阵x 的协方差矩阵c2 志肠r 山东大学博士学位论文( 3 ) 对协方差矩阵特征值分解疋= 距2 S r ，得到主分量吒和对应的主轴S ( f ) 4 ) 根据信号成分确定最小嵌入维数，并形成坐标变换矩阵雪 5 ) 虑除嗓声获得新的轨道矩阵j = 基．S r ．z B r o o m h e a d 和融f 捌主张利用噪声平台来达到确定嵌入维数和滤除噪声提纯信号两方面目的，他们认为截取噪声平台以上的主分量和对应的主轴，信号能量将主要集中在截取出的主分量和对应的主轴方向上，因此高于噪声平台的主分量个数就是最小嵌入维数，丽将信号在相应主轴支成的新坐标系中投影就能够消除噪声平台达到降低噪声的作用对L o r e n z 模型的X 分量生成的时闻序列应用主分量分析方法重构相空闻，结果如图2 ．3 所示可见，主分量分析方法确实可以从系统的单变量时间序列恢复和重构原系统的动力学特性并且消除了重构坐标间的线性相关及人为的对称性。

圈2 - 3 主分繁分析法重构的相空闻在x - y 平面的投影2 ．2 ．2 主分量分析方法使用过程的限制然而，依靠噪声平台在信号奇异谱中的位置来选取嵌入维数将是不可靠的，因为噪声平台在信号奇异谱中的相对位置取决于信号信噪比的大小如果信号中含有较少的噪声，噪声平台以上出现的主分量个数多丽如果信号中含有较多的噪声，信号成分有可能被噪声平台淹没，离予噪声平台的主分量个数将减少针对信号成分被噪声平台淹没的低信嗓比信号的情况，文献【2 4 】提出了⋯种迭代的主山东大学博士学位论文分量分析方法当作滤波器使用时，主分量分析是有限脉冲响应滤波器的一种，它具有很好的性质，因为由主轴构成的新坐标系是正交的，它能够保证在主分量数目即嵌入维数大于关联维数的条件下，由滤波后的数据计算得到的关联维数不发生变化，也就是说，对于连续系统的奇异吸引子采用主分量分析方法滤波不会改变吸引子的分形结构但是，根据主分量分析滤波的原理，所有噪声平台中主分量对应的主轴都被排除在新坐标系以外，这种硬性截断主分量谱的作法势必同时给混沌信号中被噪声淹没的低能量成份带来损失，而它们决定了奇异吸引子的精细结构因此，用主分量分析滤除噪声的同时并不能修复被噪声污染和破坏的奇异吸引子分形结构。

事实上，主分量分析方法本质上是一种线性坐标变换，它与功率谱相类似，都是从能量角度来分析和处理数据由于噪声的能量大于噪声平台下信号的能量，因而主分量分析能够消除信号中的噪声，但其作用是有限的对于如何区分信号成分及噪声平台，人们提出许多判定准则，但都受一定主观因素影响，而在实际应用中，人们发现对有的系统根据奇异谱根本无法区分出信号成分和噪声平台，该方法的可靠性受到质疑【2 2 】【2 3 1 这是因为主分量分析方法本质上是一种线性坐标变换，是对实验数据的一种线性分析和处理方法尽管该方法本身具有很好的性质，能够保证时间序列滤波后关联维数不发生改变，但是用它来确定嵌入维数和降低噪声都受到很大限制，原因就是它所用的协方差阵是由仅包含二阶统计信息的相关函数组成的，它只能从信号能量分布出发来作为分析的主要依据，这点与频谱分析是类似的，而能量分布上的差异并非混沌运动区别于其它运动形式的本质特性2 ．3 关联维数方法耗散系统在随时间的演化过程中，其运动将会收敛到称为吸引子的低维集合上如果运动形式是混沌的，这些吸引集将是不规则的，并且会有分数维数，称为分形，而吸引子叫奇异吸引子分形结构的明显特点是局部与整体形态之间的相似性，分形维数是度量奇异吸引子分形结构的重要特征量，分形维数不仅量化了分形自相似性质，同时也是区分混沌和其它运动形式的主要依据。

山东大学博士学位论文盒子维数( b o x - c Ⅺu n t i n gd i m o n s i o n ) J T 称容积维数( c a p a c i t yd i m e n s i o n ) 是最早的分形维数计算方法之一．以二维相空间为例，其基本思想是先取边长为，的正方形盒子，然后用它来覆盖位于相空间中的集合M ，设完全覆盖集合M 所需要的最小盒子数目共计Ⅳ( ，) 个，则该集合的维数定义为：D 0 = l ，i 训r a 鬻( 2 ．1 5 )它刻画出随着正方形盒子的边长，不断缩小覆盖集合M 最小盒子数目的增长规律，根据定义有标度关系Ⅳ( ，) ∞，一以上定义存在很大缺陷，因为集合M 的元素在相空间分布可能是不均匀的，使得大量的盒子用来覆盖集合M 在相空间分布稀疏的- d , 部分；而大多数的元素由于分布集中，只占用了很小一部分盒子数目这种情况会在缩小盒子边长，时更加突出【3 引而且，研究表明当奇异吸引子的分形维数大于2 时，采用盒子维数的定义过程将难以从标量时间序列中有效计算它【3 9 1 为了克服定义中的缺陷和计算上的困难，必须寻求其它分形维数的定义和计算方法2 ．3 ．1 测度与分形维数下面先介绍与分形维数密切相关的测度的概念。

对于初始条件x ( o ) ，动力系统的运动在t = O 时刻从x ( 0 ) 出发经过时间r 以后在相空间中边长为，的盒子e 内停留时间记作刀( q ，z ( O ) ，丁) ，在盒子C f 内停留时间占总时间T 的比例在丁专∞时记为：粥删) = 煅华( 2 - 1 6 )如果对于动力系统吸引域中的几乎所有初始条件X ( O ) ，∥( G ，X ( 0 ) ) 都关于L e b e s g u e 测度相等，则称∥( C ) 是盒子C 的自然测度显然，对任意集合S ，其自然测度∥( S ) ≥0 ；并且，当S 是整个相空间时，∥( S ) = 1 ，因此自然测度本质是概率测度如果要研究的吸引子是通过相空问重构获得的，那么∥( G ) 代表在重构相山东大学博士学位论文空间时点落入盒子C f 的概率设相空间内任意数目有限个集合墨满足n 墨= o ，j则有：∥( U s ，) = ∑∥( 墨)( 2 - 1 7 )因此自然测度具有可加性给定映射G ，用G - 1 ( S ) 表示所有映射G 作用下象属于集合S 的点所组成的集合，如果对映射G 的任何集合S 满足：∥( S ) = ∥【G 。

1 ( S ) 】( 2 —18 )则称∥是不变概率测度建立了自然测度的概念就可以严格地定义维数为【删【4 1 l ：其中：见= g 一1 _ _ ．L ll M i ml n l I l I ( ( q D , 1 ) -^ ，f ，)t ( q ，，) = ∑[ ∥( e ) ] 9f = l( 2 - 1 9 )( 2 - 2 0 )而g 是连续变化的指标一0 0 < g < 佃当q = 0 时，方程( 2 - 1 9 ) 和( 2 —2 0 ) 就是盒子维数( 2 ．1 5 ) 从方程( 2 ．2 0 ) 可以看出指标g 反映的是对概率加权程度，它克服了盒子维数定义过程中对集合元素在盒子内出现的概率不分大小同等对待的缺陷当q 专1 时，采用L7H o p i t a l 法则从方程( 2 —1 9 ) 可以导出信息维数( i n f o r m a t i o nd i m e n s i o n ) D I ：卟耐掣当q = 2 时，将得到著名的关联维数( c o r r e l a t i o nd i m e n s i o n ) D 2 ：D 2 ．j 蛩l l n ∑．1 n ( ／1 f ) 2 ( C ／)并且，盒子维数、信息维数和关联维数三者之间存在以下大小关系：( 2 —2 1 )( 2 - 2 2 )山东大学博士学位论文n o ≥1 9 , ≥皿( 2 - 2 3 )对关联维数G r a s s b e r g e r 和P r o e a e e i a 提出了计算它的非常简便算法【1 0 】【l l l ，因此通过G P 算法计算关联维数成为后来根据实验数据研究各类系统不规则运动行为并由此来判定混沌和确定混沌程度的最常用方法。

设点x 0 ) ，X ( 2 ) ，⋯，x ( 以) 是相空间内吸引子上的点，用q [ x ( 川表示以参考点X ( j ) 为中心半径是，的球形盒子，盒子的形状不会影响维数的计算结果如果把式( 2 ．1 0 ) 中对自然测度的相空间平均用自然测度的轨道平均替代，则得到：肥' ，) = 去喜粥瞰朋}( 2 - 2 4 )由于∥{ c f 【x ( ／) 】) 代表盒子c ，【x ( ／) 】的概率测度，因此：粥瞰川) = 去喜驯一㈣) 叫刮l 】( 2 _ 2 5 )其- * l l ·0 是E u c l i d e a n 范数，而Ⅳ( ·) 是H e a v i s i d e 函数( 即阶跃函数)一器娄三等陆2 6 ，把式( 2 —2 5 ) 代入式( 2 - 2 4 ) 得关联积分C ( ，) ：c ( ，) = 肥，，) = 丢t l 窆i = l 窆1 = H 【，一№f ) 一x ( j ) 1 1 ]( 2 - 2 7 )再根据维数的定义公式( 2 ．1 9 ) 可得关联维数：2 = l ，i 卅mI n h C ( ，( ) I ) ，( 2 —2 8 )而l M i m c ( D = ! 姥砉喜喜Ⅳ[ ，一忙( f ) 一x ( ／) 8 】( 2 - 2 9 )3 2山东大学博士学位论文当，专0 时，关联积分C ( ，) 与，之间存在标度关系c ( t ) o c 厂岛，因此，从理论上来说作出l n C ( 1 ) 对l n ( 1 ) 的变化图，图中曲线的斜率就等于关联维数D 2 。

采用G P 算法计算对动力系统采样获得的标量时间序列关联维数步骤总结如下：( 1 ) 对实测时间序列{ 工O ) ) ，i = 1 , 2 ，⋯以相空间重构 2 ) 根据吸引子上的点X ( i ) 计算关联积分c ( t ) 3 ) 拟合关联积分曲线得到关联维数2 ．3 ．3 饱和关联维数法随着嵌入维数的增加，对混沌吸引子计算关联积分曲线的斜率将最终收敛于关联维数D ：，由于D ：≈哦，因此可以得到满足嵌入定理成立条件的嵌入维数聊= 2 D 2 + 1 ，这是关联维数D 2 被非线性时间序列分析广泛采用的重要原因之一但是，作为实现嵌入的前提嵌入维数m ≥2 D 2 + l 仅仅是充分条件而不是必要条件，而且事实证明分析数据往往是在m < 2 D 2 - I - l 时就能够顺利实现吸引子的重构实际上，无须满足嵌入定理对嵌入维数聊≥2 D ：+ 1 的要求，只要当嵌入维数，，l ≥B时，关联积分曲线的斜率就已经等于关联维数D ：该理论结果由下列定理2 ．2 【4 2 】厶＆．q 4；口叫定理2 ．2设映射G ：R ”专R ”，A 是映射G 的吸引子，并且它只有有限个周期为P 的周期轨道，在自然概率测度∥下集合彳的关联维数是D ：( ∥) 。

对于测量函数J I l ：R ”- - > R ，定义延时坐标映射函数瓦：R ”一R ”为只( X ) = [ J l ( X ) ，h ( G ．1 ( X ) ) ，⋯⋯，J l l ( G 一‘”1 ’( X ) ) 】R m ≥P E ( ∥) 是集合瓦( 彳) 在尺”空间中的自然概率测度，如果研≥D E 6 u ) ，则对几乎所有函数五：D 2 ( 吒( ∥”= D ：( ∥) 山东大学博士学位论文定理2 ．2 表明，在相空间重构过程中只要嵌入维数m ≥D 2 时，吸引子在延时坐标映射作用下的关联维数就将保持不变关联维数随嵌入维数的变化可作为相空间重构过程中选择最小嵌入维数的准则，既饱和关联维数法【1 1 1 饱和关联维数法是选取嵌入维数的最常用的方法之一随着嵌入维数的增加，对于由时间序列重构的混沌吸引子在根据关联积分曲线计算关联维数时，曲线斜率将在等于关联维数后保持稳定，关联维数开始趋于饱和时对应的嵌入维数即为最小嵌入维数如果关联维数随嵌入维数的增长而增长，并不收敛于一个稳定的值，则表明产生时间序列的系统是一个随机系统因此，关联维数还可以区分混沌和噪声，确定信号产生的机制是确定性的还是随机性的。

2 ．3 ．4 关联维数使用过程中的限制因素影响关联维数计算精度的最主要因素就是采样数据有限长和数据中噪声影响两个方面，而它们在实验条件下是无法避免的因此，盲目的使用G P 算法计算关联维数可能给关联维数带来很大的误差甚至会导致错误的结论有关数据量的要求E c k m a n n 和R u e l l e 证明【1 2 】，采用G P 算法计算的关联维数n 将不能超过2 1 0 9 I oN ，即D 2 ≤2 l o g l oN( 2 - 3 0 )采用G P 算法计算的关联维数时，文献[ 1 3 】推导出计算所采用的数据点数至少为N m i I l > 压( 压两) D 2 ，即N I I l i l > 压( 历) 见( 2 ．3 1 )除了上述外在因素会影响关联维数的估计结果以外，G P 算法本身也存在着缺陷，在根据关联维数的定义( 2 ．2 2 ) 导出G P 算法的过程中，式( 2 ．2 4 ) 是用自然测度轨道平均代替相空间平均的假设下得到的，如果自然概率测度在相空间的分布均匀，即I t l [ C l ( X ( j ) ) 】≈1 ／N ( O ，则假设是成立的；然而当奇异吸引子在相空间内分布不均匀时，吸引子不同区域在同一尺度下的标度行为将存在显著差异，也就是说不同参考点X ( - ，) 在不同的尺度，下出现标度区域，因此轨道平均即在同一，下对所山东大学博士学位论文有参考点平均将引起关联维数产生误差。

关联维数的使用范围还将受到其它限制，色噪声数据在计算关联维数时与混沌有相同的表现，它的关联积分曲线随着嵌入维数增长标度区域的斜率也收敛到分形维数【4 3 1 ，而色噪声可能正是对噪声数据进行滤波的结果M ；另外，数据量的增加会迅速提高关联维数的计算量，使G P 算法不能达到、实时分析实验结果的目的，另一方面，关联维数对时间序列平稳性的要求也会由于增加数据量而不能够得以满足2 ．4 伪邻近点方法文献【1 6 】首次提出伪邻近点法来选取最小嵌入维数伪邻近点法的基本思想是：当嵌入维数的值选的太小时，吸引子相当于投影到低维空间，原相空间中本来相距较远的点将在重构的相空间成为邻近点，因而产生了“伪邻近点”，因此通过判断伪邻近点的比率来选取合适的嵌入维数该方法根据重构吸引子的空间几何结构是否被完全打开来选取最小嵌入维数设式( 2 - 3 ) 中定义的重构延迟矢量x ( 刀) 的邻近点为X ( n 删) ，其中n 脯为邻近点X ( n 删) 的序号则x ( 刀) 和X ( n 删) 的欧式距离的平方《( 刀，n 脚) 定义如下：尺：( ，z ，刀删) = 0 x o ) 一石Q 删) 1 1 2 = ∑[ x ( n - k r ) - x ( n 删- k r ) ] 2 ．( 2 - 3 2 )当嵌入维数由m 增加为m + l 时，如果距离也+ 。

刀，疗删) 急剧增大，那么x ( 刀) 和X ( n 删)为一对伪邻近点因此判断伪邻近点的准则如下：衄三冬掣> 如，( 2 - 3 3 )心( 刀，刀删)一其中心为固定阈值，如> 1 01 3 4 1 ，如≈1 5 【2 1 式( 2 ．3 3 ) 由式( 2 ．3 2 ) 代入《+ 刀，刀删) 一R Z ( 疗，一删) 得到Y J 乡' b 判断伪邻近点的另一准则为：( 2 - 3 4 )山东大学博士学位论文其中《为已知时间序列的方差，厶为固定阈值，一般取为厶≈2 ．上述两准则的任一准则成立，则可判定为伪邻近点当伪邻近点的百分比趋于稳定，处于平台状态时，对应的嵌入维数为最小嵌入维数针对伪邻近点法的判定准则主观性强的问题，文献[ 1 7 】提出了改进的伪邻近点法把嵌入维数为聊时的重构延迟矢量写作X ，Q ) ，定义“加铬端仁3 5 ，口O ) 的均值定义为E ( 口) = 瓦| 品N 刍- m r 口 刀)( 2 —3 6 )定义砖= 哿( 2 - 3 7 )当嵌入维数大于最小嵌入维数时，E 将停止变化因此，改进的伪邻近点方法并不是根据曲线的平直部分来确定最小嵌入维数，而是根据曲线E 一所首次达到饱合时对应的嵌入维数为最小嵌入维数。

但是，当数据量不足时，对确定性系统即使嵌入维数足够大仍能发现伪邻近点【3 7 1 ，这是基于距离的方法难于避免的问题伪邻近点法不适合小数据量的情况，其判定准则主观性强，目．该方法的计算量大，对噪声的稳定性差2 ．5 本章小结本章首先从非线性时间序列分析的基本问题——动力系统吸引子相空间重构入手，详细地研究了解决该问题的嵌入理论，讨论了嵌入定理的内容和物理意义，讨论了动力系统相空间重构与其它非线性时间序列分析方法之间的关系及选择相空间重构参数存在的问题然后，研究了主分量分析的原理和算法，分析了使用该方法确定相空间重构山东大学博士学位论文的嵌入维数将受到信号的信噪比影响，而滤除噪声将同时给信号带来损失并不可能修复被噪声污染和破坏的奇异吸引子的精细分形结构两个不利方法，讨论了主分量分析存在缺陷和限制是由于它本质上是线性坐标变换且只能从信号的能量分布出发来作为分析和处理的主要依据接下来从测度和维数的概念和定义出发，重点研究了关联维数B 和G P 算法，研究了一种常用的选取最小嵌入维数的方法——饱和关联维数方法本章最后研究了另外一种常用的选取最小嵌入维数的方法一伪邻近点方法的基本思想、算法实现及其存在的问题。

3 7山东大学博士学位论文第3 章基于高阶统计量与预测效果的嵌入维数的选取方法3 ．1 概述从标量时间序列重构与系统原相空间等价的相空间是非线性时间序列分析的基础【1 1 在W h i t n e y 拓扑嵌入定理的基础上，做e 璐【7 1 证明了用延迟坐标重构的动力轨迹相空间与原动力系统保持微分同胚，即单变量时间序列在无限长且无噪声的情况下，延迟时间取任意值都能重构原系统相空间但实际上，实测时间序列是有限长的，且不可避免的被噪声污染，因此延迟时间取任意值不能重构原系统相空间，嵌入定理也没有提供嵌入维数的选取方法因此实测时间序列相空间重构的关键是其参数的选取最小嵌入维数不仅是相空间重构的一个重要参数而且是非线性时间序列预测器定阶问题的重要参数【5 2 】【1 0 3 1 ，并且对表征吸引子的统计不变量的计算方法有重要的影响因此，对嵌入维数该参数的优化将对其它非线性时间序列分析方法的计算量和非线性时间序列建模预测的精度有非常重要的作用和影响如何从标量时间序列确定嵌入维数的问题已经得到了广泛的研究和讨论目前嵌入维数的选取方法主要有四类第一类是基于吸引子的统计不变量的【1 1 1 【5 3 1 。

该类方法首先增加计算统计不变量时的嵌入维数的值，当统计不变量的值停止变化时对应的嵌入维数即为最小嵌入维数饱和关联维数法⋯】就属于该类方法该类方法的典型问题是：计算量大，不适合小数据量的情况，对噪声非常敏感，判定准则主观性强第二类方法是基于主分量分析又称奇异值分解的，由B r o o m h e a d和K i n g t 2 0 】首次提出主分量分析法又称奇异值分解法( S i n g u l a rV a l u eD e c o m p o s i t i o n ，简称S V D 法) 根据奇异值区分出信号成分及噪声平台，从而确定最小嵌入维数，它所用的由二阶矩函数组成的协方差阵，反映的是线性相关，因此该方法本质上是一种线性方法数值实验使多个研究者质疑该方法分析非线性时间序列的可靠性【笼】【2 3 】文献【2 1 】的改进方法虽然能反映非线性结构且能保持测度，但是估计出的最小嵌入维数的值偏大第三类是伪邻近点方法【1 6 】【1 7 1 ，该类方法的基本思想是：当嵌入维数的值选的太小时，相当于吸引子投影到低维空间，山东大学博士学位论文原相空间中本来相距较远的点将在重构的相空间成为邻近点，因而产生了“伪邻近点’’。

伪邻近点法的判定准则主观，要求延时已知，计算量大且对噪声敏感第四类方法是基于非线性预测误差的【5 4 ] [ 9 0 ] ，该类方法利用了非线性时间序列的短期可预测性还有其它方法，它们基本上都是上述方法的变形【5 5 】【5 6 1 ，但是它们依然存在一些缺点，例如不适合小数据量的情况，对噪声敏感等高阶统计作为一种非线性信号处理工具，能反映非线性结构文献[ 5 7 ] [ 5 8 ] [ 5 9 】把高阶统计应用于非线性时间序列分析得到较好效果用四阶累积量函数代替二阶矩函数构造矩阵，改进S V D 法本章分析了用四阶累积量函数构造矩阵的多种方法，得到两种较好的构造矩阵的方法数值仿真结果表明了改进后方法的有效性及稳定性本章提出基于预测效果的嵌入维数的选取方法来从标量时间序列确定最优嵌入维数该方法通过优化由嵌入维数和非线性阶数这两个参数决定的非线性自回归预测模型来确定最优嵌入维数该方法适合小数据量的情况，对噪声的稳定性好，计算效率高，不受主观参数的影响3 ．2 基于高阶统计量的嵌入维数的选取方法针对奇异值分解法本质上是线性方法，不适合用来分析非线性系统这一问题，用包含高阶统计信息的四阶累积量函数代替相关函数构造矩阵，从而改进奇异值分解法。

对比分析了用四阶累积量函数构造矩阵的多种方法，得到两种较好的构造矩阵的方法其中当四阶累积量函数的两个变量分别在矩阵的对角线方向和偏离对角线方向取值并且第三个变量取零时，得到的矩阵的分析效果最好3 ．2 ．1 高阶统计量高阶统计量包括高阶矩、高阶累积量及其谱，这里高阶指二阶以上高阶统计量应用于信号处理领域的主要动机和目的可归结为：检测、表征信号的非线性特征，识别非线性系统；压制高斯色噪声；提取信号中偏离高斯分布的信息；识别和重构非最小相位信号【鲫随机变量x 的k 阶矩及累积量分别定义为第一特征函数和第二特征函数的k阶导数在原点的值，即：3 9山东大学博士学位论文册 学I J l o = 砧铲} I 脚叫以，( 3 _ 1 )．d ‘甲( s ) ‘吒2 彳I 脚’黜一( 3 - 2 )、】}，)=jCblSc+s-三{C+2⋯S++妻Cc3⋯．c 3 - 3 ，去叩‰+ 扣‰．一c h ( f l ，f 2 ，⋯，f I —I ) = E { x ( ，1 ) x ( 拧+ r 1 ) ⋯工( 疗+ f I —1 ) ) 一( 3 - 4 )E { g ( n ) g ( n + r I ) ⋯g ( n + T k - i ) ) ．聊∥) = ∑％：，缈∽) ( 3 - 5 )“胪∑％- ，( 妒1 ( 州) 3 珥畎u ( 3 - 6 )其中∑U ：。

表示在，的所有分割( 1 ≤g ≤Ⅳ( 功内求和对零均值的平稳实随机山东大学博士学位论文c 3 ，( f I ，f 2 ) = E { 石( 刀) z ( 一+ 1 " 1 ) z ( 疗+ f 2 ) )( 3 —8 )c 4 ，( f l ，f 2 ，毛) = E { x ( n ) x ( n + f 1 ) z ( 刀+ f 2 ) 工( 刀+ l " 3 ) ) -B ( f 1 ) 尺，( f 2 一f 3 ) 一尺，( f 2 ) R ，( f 3 一f 1 ) 一( 3 —9 )R ，( 勺) 疋( f l —f 2 ) ．在实际应用中，人们经常使用高阶累积量而不使用高阶矩，主要原因如下：理论上，高阶累积量的使用可避免高斯有色观测噪声的影响，而高阶矩却不能；累积量问题的解具有唯一性，而矩问题的解却不具有唯一性；两个统计独立的随机过程的累积量等于各个随机过程的累积量之和，而该结论对于高阶矩却不成立【6 1 1 3 ．2 ．2 用四阶累积量估计最小嵌入维数的珊万法用四阶累积量函数代替相关函数构造矩阵C ，由于四阶累积量函数有三个变量，而矩阵￡只有两个变量，所以矩阵t 有多种形式。

为了构造矩阵疋，四阶累积量函数的两个变量分别沿矩阵的两组正交方向取值，其中一组正交方向为矩阵的横向f 和纵向／，另一组正交方向为矩阵的对角线方向p 一卅和偏离对角线方向I i + j - d - 1 I ，第三个变量分别取o ，j 『，l i —j 1 ，l i + j - d - 1 I ，那么矩阵￡元素分别为：列( f ，．，) = c 4 ( i t ，j r ，0 ) ，砰( f ，J ) = C 4 ( i r ，j r ，j r ) ，￡( f ，／) = c 4 ( i r ，j r ，l i 一／k ) ，巧( f ，／) = c 4 ( f f ，j r ，i + j - d - l l r ) ，巧( f ，- ，) = c 1 卜咖，i + j - d —l I r ，o ) ，霉( f ，- ，) = C 4 ( 1 i - j l ，l i + j - d - l i t ，i - j ／r ) ，巧( f ，／) = c 1 i - j l r ，l i + j - d - l i t ，f f ) ，霉( f ，．J 『) = c 1 i - j l r ，l i + j - d - l i t ，j r ) ，4 1山东大学博士学位论文其中f 为延迟时间，f ，J = l ，2 ’⋯，d 。

实验结果表明矩阵贮的分析效果明显好于矩阵巧，P ，F ；矩阵巧的分析效果明显好于矩阵露，巧，巧由此可得出结论：两个变量取正交方向后，第三个变量取为零的四阶累积量函数构成的矩阵已充分反映了数据内在关系，第三个变量取其它值反而使得数据间的相关性减弱还考虑了上面几个矩阵和( 如硭+ 口) 的分析效果，实验表明矩阵和的分析效果无实质性变化分别对矩阵F 和C 进行奇异值分解，得到奇异谱，取奇异谱百分比大于阈值3 ％的个数为最小嵌入维数，记作研，该分析方法分别称作H ．S V D 和H D ．S V D 当矩阵的阶数变化时，该类分析方法将得到不同结果，因此该类方法必须考虑矩阵阶数的取值问题而目前针对矩阵阶数的取值问题文献中讨论的甚少根据实验结果，矩阵阶数可在时间序列自相关函数的第一个极小值所对应的自变量值附近取值，这是针对该问题的一种方法，该问题有待进一步解决3 ．2 ．3 仿真实验与分析4 2( a ) 自相关函数山东大学博士学位论文d( b ) S V D 得到的奇异谱d( c ) H 1 ．S V D 得到的奇异谱dd( d ) H 2 ．S V D 得到的奇异谱( e ) 信噪比为7 d B 时H 2 ．S V D 得到的奇异谱图3 ．1H e n o n 映射生成时间序列的奇异谱( 用最大值归一化) ，d = - 1 0 ，1 2分析由H e n o n 映射的X 分量生成的时间序列：卜27 一+ 1 喇：( 3 ．1 0 )【Y 。

3b x n其中a = 1 ．4 、b = 0 ．3 ，该时序的自相关函数类似冲激函数，只在原点处有较大值，用于分析的矩阵的阶数值可取较大一点，如1 0 、1 2 图3 ．1 ( d ) 为延时分别取2 、3 ，嵌入维数取1 0 及延时分别取2 、4 ，嵌入维数取1 2 时，H D ．S V D 得到的奇异谱的分布图从图3 ．1 可看出，当数据长度为2 0 0 0 时，对不同的延时及嵌入维数，H D ．S V D 法得到最小嵌入维数m = 2 ( 图3 ．1 ( d ) ) ，且不受高斯白噪声的影响( 图3 ．1 ( e ) ) ，而S V D 和H ．S V D 得到的奇异谱却不能反映原系统的维数特征，但H ．S V D的效果明显好于S V D ( 图3 ．1 ( b ) 、( c ) ) 因此对该时间序列，H D - S V D 法适合小数据量、对不同的延时及嵌入维数稳定、对噪声不敏感4 3山东大学博士学位论文( a ) 采样时间为0 ．0 1 时的自相关( C ) S V D 得到的奇异谱( e ) H 2 ．S V D 得剑的奇异谱水罂皿㈣采样时间为0 ．0 2 5 时的自相关( d ) H 1 ．S V D 得到的奇异谱( f ) 采样时间为0 ．0 2 5 时H 2 - S V D 得到的奇异谱山东大学博士学位论文( g ) 信噪比为7 d B 时H 2 - S V D 得到的奇异谱图3 ．2L o r e n z 模型生成时间序列的奇异谱( 用最大值归一化) ，( c ) 、( 由、( c ) 、( g ) d = 3 0 、3 5 、4 0 ，( f ) d = 1 5 、2 0分析由L o r e n z 模型的石分量生成的时间序列：f 竞= 仃( y 一工){ 夕= x ( R —z ) - y( 3 - 1 1 )k = x y —b z其中仃= 1 6 、R = 4 5 ．9 2 、b = 4 ，采样『日J 隔垃= 0 ．0 1 s 时自相关函数在自变量为3 2 时第一次达到极小值，所以该分析矩阵的阶数在3 2 左右取值，采样间隔垃= O ．0 2 5 s 时自相关函数在自变量为1 6 时第一次达到极小值，所以该分析矩阵的阶数在1 6 左右取值。

从图3 ．2 可看出，当数据长度为2 0 0 0 时，对不同的延时及嵌入维数，S V D 法、H —S V D 法和H D ．S V D 法都得到最小嵌入维数所= 3 ( 图3 - 2 ( c ) 、( d ) 、( e ) ) ，其中H D ．S V D 法的结果不受高斯白噪声的影响( 图3 - 2 ( g ) ) 当采样间隔垃= 0 ．0 2 5 s 时，H D ．S V D 法仍得到最小嵌入维数m = 3 ( 图3 - 2 ( 0 ) 因此对该时间序列，H D ．S V D 法适合小数据量，对不同的采样间隔、延时及嵌入维数稳定，对噪声不敏感4 5山东大学博士学位论文( a ) 自相关函数( b ) S V D 得到的奇异谱( c ) H 1 ．S V D 得到的奇异谱( d ) H 2 ．S V D 得到的奇异谱( e ) 信噪比为7 d B 时H 2 - S V D 得到的奇异谱图3 - 3 式( 3 ．1 2 ) 生成时间序列的奇异谱( 用最大值归一化) ，d = 1 0 、1 2分析由下面映射生成的时间序列：工 4 = s i n ( x ．+ 5 ) + s i n ( 2 x ．+ I + 5 ) + s i n ( 3 x 。

2 + 5 ) + s i n ( 4 x ，+ 5 )( 3 - 1 2 )山东大学博士学位论文由式( 3 ．1 2 ) 可知该时间序列的最小嵌入维数为4 该时序的自相关函数类似冲激函数，其分析矩阵阶数取l O 、1 2 从图3 ．3 可看出，当数据长度为2 0 0 0 时，对不同的延时及嵌入维数，H D ．S V D 法得到最小嵌入维数肌= 4 ( 图3 - 3 ( d ) ) ，且不受高斯白噪声的影响r 图3 - 3 ( e ) ) ，而S V D 和H ．S V D 得到的奇异谱却无法反映原系统的维数特征( 图3 ．3 ( b ) 、( c ) ) 因此对该时间序列，H D ．S V D 法适合小数据量、对不同的延时及嵌入维数稳定、对噪声不敏感对由H e n o n 映射和式( 3 ．1 2 ) 生成的时间序列S V D 法得到的奇异谱无法反映原系统的维数特征( 图3 —1 ( b ) 、图3 ．3 ( b ) ) ，对由L o r e n z 模型生成的时间序列S V D 法是成功的( 图3 - 2 ( c ) ) 而对上述三组时间序列，H D ．S V D 法都能得到满意结果，并在不同的延时、嵌入维数、采样间隔及有噪声的情况下表现出较好的鲁棒性。

3 ．3 基于预测效果的嵌入维数的选取方法3 ．3 ．1 基于预测效果的嵌入维数的选取方法对非线性时间序列y 刀= 1 , 2 ，⋯，N ，其动力系统可被看作一个闭环，其中输出J ，作为一个延迟输入反馈到原系统在该分析框架下，我们对非线性时间序列建立离散V o l t e r r a 自回归模型，其阶数为d ，记忆长度为所，并计算得到预测时间序列儿A ，即夕n = a o + a l Y ^ 一l + 口2 Y ^ 一2 + ⋯+ 口I y 月一m + 口I + 1 y ^ 2 - 1托挑m + ．．咖川y l 窆印M‘3 3 ’其中基函数{ z ，z ) ) 包括延迟矢量( y 剃，Y H ，Y a - 3 ' " " Y 一研) 直到d 阶的所有离散组合，则基函数的总个数为M = 《+ d = ( 肌+ d ) ! ／( m ! d ! ) 因此，每个模型由两个参数聊和d 确定，l l ' ／和d 分别对应为相空问重构的嵌入维数和( 3 ．1 3 ) 式模型的非线性程度系数a 可以通过最d , - 乘曲线拟合计算得到模型的短期可预测性能可以由一步预测误差来表征4 7山东大学博士学位论文占( 聊，d ) 2Ⅳ∑[ 夕。

朋，d ) 一Y 2J l I ，∑帆- y ] 2( 3 —1 4 )其中歹= 志6 ( m ，d ) 2 实际上是预测误差的归一化方差寻找最优的模型，其参数为{ m 叫，d o p , } ，该最优模型使下列A k a i k e 信息准则( A k a i k ei n f o r m a t i o nc r i t e r i o n ) 【I 】【6 3 】取到最小值：C ( m ，d ) = l n s ( m ，d ) + 2 M ／N ．( 3 —1 5 )数值计算过程如下：对已知时间序列，首先，参数d 取固定值d = 1 ，寻找使C ( m ，d = 1 ) 取到最小值的参数册砌，得到最优线性模型C ( 小肠，d = 1 ) 然后，增加参数的d 值，重复上述过程来优化参数d ，得到最优阶数d 叫，此时参数m 取固定值m = m 钿最后，重复上述过程来优化参数m ，得到模型的最优嵌入维数m 叫，此时参数d 取固定值d = d 啊延迟嵌入定量表明当嵌入维数大于最小嵌入维数时系统的原相空间可以被嵌入到重构的相空间中但是，对实测时间序列，如果嵌入维数的值取的太大，将会增加其它非线性时间序列分析方法的计算量，并且放大噪声的影响。

固定参数d的值，增加非线性模型的另一个参数m 的值，当C ( m ，d ) 停止大幅下降丌始缓慢下降时，对应的参数m 即为最优嵌入维数当m = m 删时，C ( m ，d ) 已取到足够小的值，再增加参数m 的值，c ( 鸭们的值下降非常微小3 ．3 ．2 仿真结果及分析为了研究基于预测效果的嵌入维数的选取方法是否适合小数据量的情况和是否对数据长度稳定的问题，下面分别使用5 0 0 个数据点和6 0 0 0 个数据点来确定最优嵌入维数山东大学博士学位论文分析由H c n o n 映射的工分量生成的时间序列，其中a = 1 ．4 、b = 0 ．3 ，结果如图3 _ 4 所示从图3 _ 4 可见：当嵌入维数m = 2 时，C ( m ，d ) 取到最小值因此，该时间序列的最优嵌入维数是2 ，并且该方法适合小数据量的情况且对数据量的长度稳定性好0巧·' 0葛’1 5苦锄·五_ ∞．葛图3 4 H e 锄o n 映射生成时间序列的C ( m ，d ) 一m ( d = - 2 )分析由L o r e n z 模型的X 分量生成的时间序列，其中仃= 1 0 ，，= 2 8 ，b = 8 ／3 ，采样时间为0 ．0 1 。

分析结果如图3 ．5 所示从图3 ．5 可见：当嵌入维数m = 3 时，C ( m ，d ) 开始非常缓慢的下降且其值己足够小因此，该时问序列的最优嵌入维数是3 ，并且该方法适合小数据量的情况且对数据量的长度稳定性好4 9山东大学博士学位论文图3 - 5L o r e n z 模型生成时间序列的C ( m ，d ) 一所( d = - 3 )分析由D u f f i n g 模型的x 分量生成的时间序列，其中占= l ，c = 0 ．4 ，彳= 0 ．4 ，缈= 1 ，采样时间为O ．2 5 分析结果如图3 ．6 所示从图3 - 6 可见：该时间序列的最优嵌入维数是4 ，并且该方法适合小数据量的情况且对数据量的长度稳定性好图3 - 6D u f f i n g 模型生成时间序列的C ( m ，d ) - m ( d = - 3 )分析由C h e n 模型的X 分量生成的时间序列，其中a = 3 5 ，b = 3 ，c = 2 8 ，采样时『自J 为O ．O l 分析结果如图3 ．7 所示从图3 ．7 可见：该时间序列的最优嵌入维数是4 ，并且该方法适合小数据量的情况且对数据量的长度稳定性好。

山东大学博士学位论文图3 - 7C h e r t 模型生成时间序列的C ( m ，d ) - m ( 庐3 )下面分析两组非常用的非线性时间序列第一组时间序列通常被作为难于确定嵌入维数的例子第二组时间序列的嵌入维数已知，用该时间序列来验证本小节提出的方法能否给出正确的结果分析一个环形吸引子生成的时间序列分析数据由下面的流形生成：x @ ) = s i n ( t ) + 0 ．3 s i n ( 疵+ 1 ) ，t ∈R( 3 —1 6 )其中采样时间为0 ．1 分析结果如图3 ．8 所示从图3 ．8 可见：该时间序列的最优嵌入维数是4 ，并且该方法适合小数据量的情况且对数据量的长度稳定性好图3 - 8 环形吸引子生成时间序列的C ( m ，d ) 一，，l ( 存3 )5 1山东大学博士学位论文分析由下列映射生成的时间序列：工．+ 4 = s i n ( x ．+ 5 ) + s i n ( 2 x ．+ I + 5 ) + s i n ( 3 x 2 + 5 ) + s i n ( 4 x ．+ 3 + 5 ) ．( 3 - 1 7 )该映射生成的时间序列的最小嵌入维数是4 。

用该序列来验证本小节提出的方法分析结果如图3 - 9 所示从图3 - 9 可见：当嵌入维数聊= 4 时，C ( m ，d ) 的值已足够小因此该时间序列的最优嵌入维数是4 ，并且该方法适合小数据量的情况且对数据量的长度稳定性好图3 - 9 映射( 3 ．1 7 ) 生成时间序列的C ( m ，d ) 一m ( 扣2 )上面的例子表明了应用本节提出的方法来确定由六个混沌吸引子生成的六个时间序列的最优嵌入维数的有效性，并且本节提出的方法适合小数据量的情况且对数据量的长度稳定性好为了研究本节提出的方法对噪声的稳定性，分别分析由H e n o n 映射和L o r e n z模型生成的叠力n - J " 高斯白噪声的时间序列，并且信噪比( S i g n a l ．t o ．n o i s er a t i o ，简称S N R s ) 取不同的值使用本节提出方法的分析结果分别如图3 ．1 0 和图3 ．1 1 所示从图3 ．1 0 可以看出，当信噪比分别为S N R = 3 0 d B 和S N R = 2 0 d B 时，H e n o n映射生成的叠加了高斯白噪声的时间序列的最优嵌入维数都是2 。

从图3 ．1 l 可以看出，当信噪比分别为S N R = 3 0 d B 和S N R = 2 0 d B 时，L o r e n z 模型生成的叠加了高斯白噪声的时间序列的最优嵌入维数都是5 因此本节提出的方法对加性白噪声的鲁棒性好5 2山东大学博士学位论文图3 ．1 0 叠加高斯白噪声的H e n o n 映射生成时间序列的C ( m ，d ) 一历( 庐2 ) ( a ) S N R = 3 0 d B ；图3 ．1 l 叠加高斯白噪声的L o r e n z 模型生成时间序列的C ( m ，d ) 一所( d = - 3 ) ( a ) S N R = 3 0 d B ；( b ) S N R = 2 0 d B3 ．4 本章小结本章首先讨论了目前现有的四类嵌入维数的选取方法的基本思想及存在的问题然后用四阶累积量函数代替相关函数构造矩阵，改进了估计最小嵌入维数的奇异值分解法此方法只需要进行矩阵的乘法和奇异值分解运算，所以此方法的计算效率高用四阶累积量函数估计最小嵌入维数的H D ．S V D 法与传统的方法相5 3山东大学博士学位论文比有以下优点：( 1 ) 判定准则客观；( 2 ) 对采样时间及噪声有很好的鲁棒性；( 3 ) 适合小数据量；( 4 ) 计算效率高。

本章最后提出了基于预测效果的嵌入维数的选取方法来从标量时间序列确定最优嵌入维数使用从六个典型混沌系统生成的六组非线性时间序列来验证分析该方法的性能仿真结果表明了该方法从标量时间序列确定最优嵌入维数的有效性和可行性该方法有以下优点：( 1 ) 适合于小数据量的情况；( 2 ) 对噪声的稳定性好；( 3 ) 计算效率高( 尤其当分析数据的长度为5 0 0 时，只需要几秒钟的时间) ；( 4 ) 不包含任何主观引入的参数山东大学博士学位论文4 ．1 概述第4 章非线性时间序列的建模与预测混沌现象是自然界和社会中广泛存在的一种不规则运动，是一种由确定的非线性动力系统生成的复杂行为随着混沌理论和应用技术研究的不断深入，混沌系统的建模和混沌时间序列的预测【7 9 ’8 5 】【9 0 加3 1 已成为非线性信息处理领域中近几年来的一个重要研究热点，并在信号处理、通信、控制、电力系统、社会经济、边坡位移、水文、生物医学等领域中有着越来越重要的应用发现混沌的现实意义在于认识到确定性的非线性系统，尽管可能只有少数几个自由度，在非线性动力机制的作用下，却能够产生传统时间序列分析中认为是复杂且类似随机的输出信号。

在发现混沌现象以前，人们一般认为复杂信号只会是包含大量自由度的复杂系统输出结果混沌现象的发现改变了人们对复杂信号的认识即混沌系统在确定性的非线性动力机制的作用下即使只有几个自由度，却能够产生类似随机噪声的复杂的混沌时间序列混沌时间序列本质上是非线性的和确定性的混沌运动具有对初始条件的极端敏感性，它是由于相邻轨道指数发散而引起的，任何微小的扰动在系统经历长时间的演化以后其最终结果将不可预知，因而确定性的混沌系统具有了貌似随机过程的行为特征L o r e n z 最先在大气模型的研究中发现了混沌现象，并且认识到对天气的长期预报将由此而受到极大的限制混沌运动具有长期不可预测性，这是混沌区别于其它规则运动的显著特征，非线性时间序列是长期不可预测的但是混沌系统是由非线性机制决定的确定性系统，貌似随机运动的混沌系统内部存在确定性规律，所以非线性时间序列是短期可预测的4 ．2 动力系统中的逆问题对动力系统而言，其标准问题是，给出一个非线性映射，去描述其迭代的渐山东大学博士学位论文近行为而给出一个迭代时间序列，去构造产生该序列的非线性映射，便成为一个逆问题【7 4 1 设映射f ：R 一R “是构成奇异吸引子t T g 的光滑映射。

在．厂的作用下，产生了迭代序列z f “( ‰) ，1 ≤n < a o 其逆问题是根据z ．构造一个光滑映射五：尺4 寸R 用，使之满足z 州= 五( z ) ，l ≤疗< o o 该逆问题本质上能够保持解的唯一性，这是因为序列z n 在吸引子口中是紧致的，五是连续的，即可得五l 口= 卅口我们并不要求得到五的解析表达，对五在吸引子口以外的表现就没有限制而五确实在口上起到了一个预测器的作用但是，实际当中Ⅳ不可能是无穷大，这样逆问题解五的唯一性是不能保证的【7 4 1 这样评价五作为一个预测器的好坏，可通过比较预测误差来实现假设观测到的非线性时间序列为{ 工( f ) ，t = 1 , 2 ，⋯，Ⅳ) ，由延迟坐标相空间重构法I 刀可得延迟矢量X ( n ) = 【x ( 疗) ，x ( n —f ) ，⋯，x ( n 一( m —1 ) f ) 】r ，以= ( m - 1 ) r + l ，( m - 1 ) r + 2 ，⋯，N ( 4 —1 )其中m 为嵌入维数，f 为延迟时间由嵌入定理知，重构相空间的动力系统杪：R ”一R ”与原系统在微分同胚基础上是等价的，即在重构的相空间中，存在一个光滑映射沙：R ”- - - > R ”和F ：R 。

专R ，使得X ( n + T ) = 纠Z ( 刀) 】，( 4 —2 )或x ( n + r ) = 研X ( 甩) 】．( 4 - 3 )根据对动力方程的拟合方式的不同，非线性时间序列预测可分为全局预测法与局域预测法由一段有限的观测时间序列构造户去逼近F ，需要考虑到各种因素的影响首先，选择什么样的模型来建立户，我们将在后面讨论其次，嵌入维数研应选择合适的值，嵌入维数m 选择的过小，不能反映原系统动力学特性；嵌入维数m 选山东大学博士学位论文择的过大，将增加计算量且也会使模型受噪声的影响太大另外，数据长固然有助建模的准确性，但计算量太大；而数据太短又不能获得有用的户在这个问题上，目前主要还是凭经验，尚缺少相应的深入研究4 ．3 非线性时间序列建模方法分类及评述重构相空间概念的引入，使得对各种模型，尤其是非线性时间序列预测模型的研究成为一个重要的研究热点研究者提出了大量的模型来预测非线性时间序列对时间序列建模预测，根据模型的不同性质可分为线性和非线性模型【7 5 , 7 6 】，全局和局域模型【7 4 】【9 0 , 9 1 】，强近似和弱近似模型【7 6 】，以及强假设和弱假设模型【7 5 , 7 8 】等不同的类型。

对于线性模型，如A R ( p ) 模型，可以在不同阶数P 的情况下对模型进行拟合，直到阶数增大到一定值后，预测误差没有明显改善，从而得到一个预测模型可以看出，线性模型方法是比较好理解，并且易于操作的但是，这类模型对并不很复杂的系统有时都显得完全不适合【7 5 1 可以考虑的非线性模型种类也不少，如全局多项式、分段线性函数、径向基函数及神经网络等【7 6 1 对于复杂的非线性现象，在没有任何先验知识的前提下，选择一种合适的非线性模型是不容易做到的绝大多数建模方法都可归为全局近似和局域近似【7 4 】【9 0 ’9 ¨全局近似模型，如全局多项式、神经网络和支持向量回归模型等，是利用较多的观测序列，试图在模型中反映出原有动力系统全局近似的缺点则表现在计算量较大若考虑到实际情况，每隔一段时间来构造一个新模型，其灵活性就差一点局域近似是利用最近较少的观测序列，构造出相空间一系列点，而相应的预测就是寻找当f j { 『状态最邻近的点在高维情况下，B a r t o n 发现一些方法的近似能力比其它一些方法科7 “7 1 也可以说，一些方法的优化近似误差随维数增加增长较慢这种随维数增加表现比较好的方法称作强近似方法，如径向基函数、小波函数、神经网络及分段线性近似等【7 6 1 。

而相对应的弱近似方法主要有线性近似、全局多项式等这样，在维数较高的情况下就应优先考虑强近似模型以假设条件的强弱又可分为强假设模型和弱假设模型【7 8 】强假设模型具有相5 7山东大学博士学位论文对较强的假设，通常可用较少的公式及参数来表示与之相反，弱假设模型虽只有较少的假设条件，但包含了更多的参数虽然弱假设模型需要更多的拟合数据，并且相对更缺少理论的指导，但其更一般的适应能力，使它在非线性建模中日趋受到重视弱假设模型的思想并不是一种新思想，A R M A 模型就是一个很好的例子而新出现的弱假设模型，如神经网络，更结合了适应复杂非线性的能力W d g e n d 在总结圣塔菲时间序列预测和分析竞赛一文中【．7 5 l ，将成功的预测归结为两种技术：相空间重构和联接主义模型( 即神经网络模型) 相空间重构给出了确定性系统内在的自由度与系统状态的观测量之间关系的清晰理解4 ．4 全局预测方法全局预测方法【7 9 { 习用全部已知数据在整个重构的混沌吸引子上拟合动力方程全局预测法是将轨迹中的全部点作为拟合对象，找出其规律，即找出其映射，写出表达式F ( ．) ，由此预测轨迹的走向由于原混沌系统的动力学方程的形式一般未知，所以通常根据给定的数据构造映射痧：R “一R ”，用汐逼近理论的y ，即达到最小值的汐：R ”一R ”。

Ⅳ∑[ x ( H1 ) 一矿( x ( f ) ) 】2 ( 4 - 4 )当维数较低时，用较高阶的多项式进行全域近似；而当维数较高时，用高价多项式拟和重构相空间轨迹的计算量很大，为了简化计算一般用一阶线性模型，即典型的自回归分析m - I石( f + 1 ) = ∑口，x ( t - i ) + A( 4 —5 )i = 0由于系统往往是非线性的，常令A = 七六+ I( 4 - 6 )其中A 表示系统未知部分的影响，六可看作一个服从Ⅳ( o ’1 ) 分布的高斯随机变量，山东大学博士学位论文k 是一个较小的定长因子，用来调整随机性引入的强度从时间序列本身来求出a ，( f = o ' 2 ，⋯，r n - 1 ) ，并且尽量使得A 部分的影响最小，则我们要求系统的a i 使得下面的误差平方和最小．Ⅳm - I伤= ∑I x ( t ) - ∑q x ( t - i - 1 ) ] 2( 4 ·7 )f = mi = O对每一个口．，求偏导并令之等于零，则有变形得到r a —1．Ⅳ．Ⅳ∑q ( ∑x ( t - i ) x ( t - j ) ) = ∑x ( t ) x ( t - j ) ，( _ ，= o ，⋯，m - 1 ) ( 4 - 8 )f —mf=■tmmm - I∑口，C ( i - j ) = c ( ／) ，( _ ，= 0 ，．．·，m - 1 ) ( 4 - 9 )其中C ( i - j ) 、C ( j ) 是自相关函数，根据上式可以求出系数a ，( i = 0 , 2 ，⋯，m - 1 ) 。

再考虑彳部分，嗍= 压，一般参是随机的且月腑斯黼全局预测法一般计算比较复杂，尤其是当嵌入维数很高或痧很复杂时；并且对较高嵌入维数的系统，预测精度会迅速下降全局预测法一般适用于∥不是很复杂，同时噪声干扰比较小的情况在实际应用中，数据有限，相空间轨迹非常复杂，一般很难求出真正的映射沙4 ．4 ．1 神经网络模型由于各类神经网络具有普遍的非线性函数逼近能力，因而它们是用于非线性时间序列建模预测的重要工具之一【8 2 斟】神经网络不需要实际物理过程的任何先验知识假设输入数据和输出数据之间存在精确的映射关系，神经网络通过“训练”可以“学习”这种映射关系用于构造非线性时间序列全局预测模型，可以选择多层感知器、径向基函数网络和小波网络等多层感知器( m u l t il a y e rp e r c e p t r o n ，M L P ) 在输入一输出函数拟合和模式识别方面有卓越性能因此，神经网络9 0 ％以5 9山东大学博士学位论文上的应用都是基于多层感知器的多层感知器由输入层、隐含层和输出层组成多层感知器的输入和输出关系可以看成是一个映射关系，这一映射是一个高度非线性的映射如果输入节点数为m ，输出节点数为疗，网络是从m 维欧氏空间到n 维欧氏空间的映射。

输出层是对隐含层各节点输出进行加权求和所得非线性时间序列的预测模型的输入输出映射关系( 户：R 一寸R ) 可表示为：x P ( n + 1 ) = F I X ( n ) 】( 4 ·l O )或| | l ，_‘o + 1 ) = ‰+ ∑W i g [ Z b # x ( n - ( j 一1 ) f ) + 6 】( 4 - 1 1 )其中M 为隐含层的节点数，形为第i 个隐含层节点至输出层间的权值，％为第_ ，个输入层节点到第i 个隐含层节点间的权值，而岛和％分别为隐含层和输出层的门限值，函数g 为S i g m o i d 函数，典型地可取为‘7 9 】贴) = 专或如) = 等．( 4 —1 2 )( 4 - 1 3 )神经网络理论中有个K o l m o g o r o v 连续性定理，即：给定任一连续函数f ：E ”专R ”，这里E 是闭单位区间【0 ，1 】，则厂可以精确地由一个三层前向网络来实现【8 0 】多层感知器是前向网络中最主要的一种任一个非线性时问序列，都可看成是一个由非线性机制确定的输入输出系统因此，该定理从数学上保证了神经网络用于时间序列预测的可行性另外，如果系统足够复杂，存在较多的自由度，我们可以通过增加一层隐含层来构造预测模型。

神经网络实际训练时使用许多个训练对，网络通过依次放入这些训练对来进行学习常用于多层感知器的是B P ( b a c k ．p r o p a g a t i o n ) 反向传播算法，这种监督训练算法的名称源于网络中权值的更新过程它基于梯度下降技术，使得输出层山东大学博士学位论文产生的误差通过网络反向传递给每一个连接权【8 0 】在训练阶段，将m 个序列值送入输入层，通过前向过程得到一个输出结果；将该结果与目标值进行比较，如果存在误差，立即进入反向传播过程，修正网络中的各个权值，以减小误差正向输出计算结果与反向权值修J 下交替进行，直到误差达到允许的范围网络训练好以后，滑动窗口到时间序列训练段的最后m 个值，输入到多层感知器中，此时的输出是验证段的第一个值的预测值在验证段重复预测，对该预测器进行验证一旦验证通过，就可以对时间序列进行预测4 ．4 ．2 支持向量机模型统计学习理论( s t a t i s t i c a ll e a r n i n gt h e o r y ) 是由V a p n i k 建立的一种专门研究小样本情况下机器学习规律的理论【髂】，支持向量机( s u p p o r tv e c t o rm a c h i n e s ，简称S V M ) 是在这一理论基础上发展起来的一种新的分类和回归工具。

支持向量机通过结构风险最小化原理来提高泛化能力，较好地解决了小样本、非线性、高维数、局部极小点等实际问题，已在模式识别、信号处理、函数逼近、建模预测等领域得N - f 广泛的应用【8 9 】经验风险最小化原则一直是解统计模式识别等统计机器学习问题的基本思想，在此思想的指导下，人们主要解决如何更好的求取最小经验风险( 训练误差最小) 但实践证明，一味地追求训练误差最小并不能得到最好的泛化能力，有些情况下训练误差太小反而会导致泛化能力下降，这在神经网络学习中表现的尤为突出，即过拟合问题导致出现该问题的一个根本原因就是传统统计学是一种渐进理论，它的许多结论都是在样本数目趋向于无穷大的条件下得出的而在小样本条件下，以传统渐进统计学为理论基础的经验风险最小化原则并不能很好地实现由贝叶斯决策理论导出的期望风险最小化原则为了解决传统渐进统计学应用在小样本统计学习中的不足，V a p n i k 等建立了统计学习理论统计学习理论指出，在小样本条件下，只有同时控制经验风险和学习机容量( 用V C 维衡量) ，才能获得具有良好泛化能力的学习机【8 8 】支持向量机的基本思想为：通过非线性变换将输入空间变换到一个高维的特征空间，然后在这个特征空间中求取最优线性分类面，使分类边界，即分类平面6 l山东大学博士学位论文与最近点( 支持向量) 之间的距离最大；并且这种非线性变换是通过定义合适的核函数来实现，然后将S V M 问题转化为一个二次规划问题，从而求解。

设给定样本集为{ ( 而，Y 1 ) ，( 而，Y 2 ) ，⋯，( 而，所) ) ，其中而∈X 鬣R ‘，Y gY c _ R ，，为样本点的个数支持向量机是透过内积函数定义的薯} 线性变换将输入空间交换到高维特征空间，在高维特征空间利用线性函数灭砖= 国·≯( 矽+ 6( 4 —1 4 )实现数据的拟合闷题，其中≯( 曲为特征空闻，缈与b 分别为权值系数及偏差根据结构风险最小化原则【8 8 1 ，权值系数彩和偏差b 可以通过最小化如下目标函数得到尺( 国) ：寻妻∽一厂( 坼) l E + q | 彩8 2 ，( 4 - 1 5 )其中e 为泛化常数，代价涵数H 为v 鑫p 垂k 譬一不敏感损失函数l Y i - f ( x i 籽黔八圳_ 嚣’√“牡占( 4 - l ◇通过引入两组非负的松弛变量媛) 厶和{ ￡) 毛，( 4 一1 5 ) 式的最优化问题可转化为约束最小化的形式扣| 2 + e ；喜( 掌《) ，㈣7 )且需满是如下不等式约束条件：f Y ，一[ c o ·矽( ．■) + b 】≤占+ 辱，{ [ c o ·≯《赡) + 6 】一罗I ≤s + 等，< 4 —1 8 )I 毒≥o ' 爵≥o , i = 1 , 2 ，⋯，1 - 1 ，六从而，可以定义L a g r a n g e 函数上：丢㈣2 + c 圭( 缶+ 等) 一圭( 仇茧+ 玎：l 等) 一∑I ％( g + 磊一儿+ 缈．地) + 6 )‘，扣1扭1扣1(4-19)一∑掰；( s + 并～Y ，一掰·≯( ‘) + 6 ) ，其中酝，翠? ，《，瑾；是L a g r a n g e 乘子，且满足j } 受限制条件6 2山东大学博士学位论文，7 ，，刁：．≥o 和口f ，口? ≥0 ．( 4 —2 0 )( 4 ．1 8 ) 式描述的优化问题为回归的原问题，通常转换成其对偶形式下进行求解。

根据K a r u s h ．K u h n ．T u c k e r ( K K T ) 条件，对L a g r a n g e 函数L 分别求国，b ，磊及￡的偏导，整理后得到回归对偶问题的优化目标函数W ( a ，，口? ) = ∑y ，( 口，一口? ) 一占∑( 口，一口；)扣1 ．，，j = 1( 4 ．2 1 )1，f、一一，一去∑∑( ％- a T ) ( a 』- a j ‘) ×( O ( x ，) ·O ( x 』) ) ，‘i = 1 扣I且满足约束条件最大化( 4 ．2 1 ) 式有，∑( q 一口；) = 0 ，f = lq ，口；∈～t o ，c 】．口j ，口j ∈，C J ·( 4 - 2 2 )，厂( 石) = ∑( 口，一口淞( t ，石) + 6 ，( 4 - 2 3 )其中，核函数可以有多种选择，目前常用的主要有线性核函数K ( x ，Y ) = x y ，多项式核函数K ( x ，y ) = ( 砂+ 1 ) d ，及径向基核函数K ( z ，y ) = e x p ( q x —y l ；／仃2 ) 等等4 ．5 局域预测方法局域预测方法是通过分段逼近的形式来拟合函数F ，即每次利用相空间中的几个局域邻近点来逼近函数，的一个局域子集，该方法更能体现混沌系统的动态性，具有比全局预测方法更好的预测性能。

门限自回归模型( t h r e s h o l da u t o r e g r e s s i v em o d e l ，简称T A R 模型) 【8 刀是最早的局域预测模型，T A R 模型对时间序列建立分段的自回归模型，可视为局域预测模型的极端粗粒化形式一d ≤z 1 )( z I < x 一一d ≤z2 )( 4 - 2 4 )破+一HX( ．，口必乙爿=一X旌+一X但，口肿芝一=r山东大学博士学位论文工．：M ∑( r l 矽，石，，+ ∥( z ，．．< 石叫)p ．n其中d 为门限滞后量，z l ，．一，z ，为门限值，，为分段数4 ．5 ．1 局域平均预测方法局域平均预测方法( 1 0 c a la v e r a g i n gp r e d i c t i o nm e t h o d ) 又称为零阶局域预测方法( z e r o t h - o r d e rl o c a lp r e d i c t i o nm e t h o d ) 是一种最简单的局域预测方法，该方法由GS u g i h a r a 和R ．M a y 提出‘9 0 1 其基本思想可以回溯到A ．P i k o v s k y ，甚至E ．N ．L o r e n z 。

这一方法的基本出发点和思路是：确定性动力系统在相空间的轨道不会交叉，在短时间内，相邻近的轨道发散不很大，而且大体平行设标量时间序列的观测值为x ( n ) = Ⅱ】，( 咒) 】，孵= 1 , 2 ，⋯，N( 4 —2 5 )设延迟时间为f ，嵌入维数为m ，采用延迟坐标相空间重构法【引，在尺柳中建立与原始矢量Y ( n ) 等价的重建延迟矢量X ( 刀) = [ x ( 甩) ，x ( n - r ) ，⋯，x ( n 一( 小一1 ) r ) l r ，刀= ( m 一1 ) r + l ，( 脚一1 ) r + 2 ，⋯，N ．( 4 ．2 6 )选取邻域半径厂，在点X ( 忉周围构成邻域U [ X ( Ⅳ) 】，寻找X ( n ) ∈U ，[ x ( Ⅳ) 】的所有点( 亦即距x ( 忉的距离小于，．的所有点，其中以< N ) ，即使d ( ”) = l l X ( n ) - X ( g ) l I < 厂( 4 —2 7 )把X ( N ) 的邻近点记为X ( M ) ( 汪1 , 2 ，⋯，七) ，其中k 为邻域U ，【X ( Ⅳ) 】内邻近点的个数，M 为第f 个邻近点在原时间序列中的序号。

同时查询邻近点各自的“预测值’’工( M + 乃( 即它们经历了步长r 之后的点的第一个分量的实际值) 则可以用这些“预测值”的平均值作为X ( i v ) 向前预测丁步的未来值x ( Ⅳ+ T ) 的第一个山东大学博士学位论文分量z ( Ⅳ+ D 的预测值讳( Ⅳ+ D = 丢喜x ( M + D( 4 - 2 8 )此处求平均是一种线性运算，但是延时坐标重构是一种非线性变换，在重建的相空间中寻找邻近点也是一种非线性的操作，所以本方法仍然是非线性的求平均时还可以再加权，则加权的局域平均预测为k∑以石( M + Dx ，( Ⅳ+ 乃= 旦—F 一( 4 - 2 9 )∑耳j l l其中订为加权函数，它控制着邻近点x ( M ) 对模型输出的影响的大小通常研是当前延迟矢量x ( 忉与它的第f 个邻近点x ( M ) 的距离的函数当加权函数研GS u g i h a r a 和R ．M a y 的论文6 P [ 9 0 ] 提出只取m + 1 个邻近点，而且要求这些邻近点构成一个“单纯形’’，并将点X ( 忉包含在这个“单纯形’’中这种做法太麻烦，现在一般都不考虑是否“单纯形”，对邻近点的个数也不作硬性要求。

邻域的大小可以用其“半径’’，．来确定( 此时邻域的大小固定，而邻近点的个数不定) ，也可以用用邻近点的个数后来规定( 此时邻近点的个数固定，但邻域的大小不一样) 的大小要恰当，当，．太大时，参与计算的邻近点多，计算中过于平均，预测的误差可能加大；而，．太小时，参与计算的邻近点太少，偶然性的影响加大，预测的误差也可能加大，在极端情况下，甚至可能会找不到邻近点，根本无法计算山东大学博士学位论文4 ．5 ．2 局域线性预测方法方程( 4 - 3 ) 描述了R 4 中的一个标量场，或者说描述了尺肿1 中的一个m维超曲面如果F 是线性的，这个超曲面仅仅是一个超平面；而当F 是非线性的，则这个超曲面是弯曲的局域平均预测方法是一种局域的准自由模型，这种方法在相空间的一个很小的局部范围( 邻域) 内进行搜索，并采用邻近点的演化点的平均位置进行预测，它仅仅假设在该相空间内动力学是确定性的而且是连续的，除此之外没有其它任何要求或约束局域预测有不同的阶数，局域平均预测是最简单的局域预测，是零阶近似进一步的方法是一阶近似或线性近似，即采用最小二乘法对邻近点对{ 顶Ⅳj + 乃，x ( Ⅳj ) ) ，f = 1 , 2 ，⋯，k 进行拟合，得到一个线性回归方程，用当前点X ( 忉的值代人，即可得到预测值石，( Ⅳ+ D 。

局域线性预测模型【9 1 】为X p ( Ⅳ+ r ) = 口o + ∑口j x ( N - ( i - 1 ) r ) = ％+ A C N ) X ( N ) ，( 4 - 3 t )其中彳( Ⅳ) = 【a l , 口：，⋯，a 系数爿( 忉和a 可基于最小二乘准则最小化下式来得到圭f 工( ⅣI + T ) - a 0 - 月( Ⅳ) x ( ⅣI ) 1 2 ，( 4 ．3 2 )应当注意的是，所有各点的局域线性模型的集合构成了整体的非线性拟合，而单独一个局域线性模型是整体的非线性动力学在相空间某一点附近的线性化，也就是对上述弯曲的超曲面的切空间的逼近这种方法不仅要求确定性和连续性，还要求，的一阶导数存在为了更好地逼近非线性的超曲面，邻域应当尽可能小一些，但是邻域的大小又不可能太小，它还被两个方面的要求所束缚：( 1 ) 为了减少统计误差，需要足够的邻近点，这就要求邻域不能太小，当时间序列太短时，势必会增大邻域的直径；( 2 ) 邻域的直径必须大于噪声的幅度，否则我们所拟合的将主要是噪声的性质，而不是确定性的结构山东大学博士学位论文4 ．6 自适应预测方法基于混沌信号产生的确定性、非线性机制以及大量的非线性系统可用V o l t e r r a级数来表征这一特点，文献[ 1 0 6 ．1 1 0 】提出了非线性时间序列的自适应预测方法。

该方法只需要很少的训练样本就能对混沌序列作出很好的预测，适合小数据量的情况，便于实际应用；并且该方法能自适应地跟踪混沌的运动轨迹，预测精度较高自适应预测方法又可分为全局自适应预测方法【1 嘶1 1 0 1 和局域自适应预测方法[ 9 8 ·I 鲫4 ．6 ．1 自适应预测模型理论研究和实践经验表明：实际中大量的非线性系统可用V o l t e r r a 级数表征因此可用V o l t e r r a 级数展开式来构造预测混沌信号的非线性预测模型设非线性离散动力系统的输入为X ( n ) = [ x ( 甩) ，x ( n 一1 ) ，⋯，x ( n 一Ⅳ+ 1 ) 】r ，输出为y ( n ) = 曼O + T ) ，其中r 为预测步长，则此非线性系统的V o l t e r r a 级数展开式为主( ，z + 丁) = F ( X ( 胛) )= h o + ∑h l ( m ) 石( 万一所)+三鹭z(ml,m2沁(r／--mIh(H-m2=Om) ，( 4 - 3 4 - J 3 )历I，= O，IjI+ ⋯+ ∑∑⋯∑^ p ( 聊m ：，⋯，m p )m I = O r e 2 = 0m P 2 0·x ( n 一，确) 石( 刀一m 2 ) ⋯x ( n —m 口) + ⋯其中h p ( _ ，，l 。

所2 ，⋯，m p ) 为P 阶V o l t e r r a 核采用有限截断和有限次求和的形式，其二阶展开式为曼( 玎+ 丁) = J l l Z h l ( f ) x ( 玎一f )i = 0^ ，一l N - I+ ∑∑J i l 2 ( f ，j ) x ( n —i ) x ( n - j )( 4 —3 4 )6 7山东大学博士举位论文对应滤波器系数总个数为M = “Ⅳ+ N ( N + 1 ) ／2 可见随着V o l t e r r a 级数滤波器阶数的增加，V o l t e r r a 级数滤波器系数的个数将按幂次增加，翱应所需的计算次数也呈幂指数增加，使其在工程上的实现越来越困难当滤波器的阶数等于最小嵌入维数m 时，其预测性能最优[ 7 0 0 3 1 为了减小V o l t e r r a 级数滤波器的复杂性，K o h 和P o w e r s [ 1 0 4 1 研究了二次滤波器的线性滤波器的乘积耦合近似实现问题对应的二阶V o l t c r r a 级数滤波器线性纯近似可表示为m - IJ ，( 捍) = h o + ∑i h ( i ) x ( n - i )。

一i = o ( 4 - 3 5 ) m - Im —l+ ∑E g f ) 9 2 ( j ) x ( n - i ) x ( n - j )i = Ol = 电式( 4 ．3 2 ) 滤波器系数个数为3 m + l ，复杂性大为减小为了进一步减少V o l t e r r a 级数滤波器系数的个数和计算的复杂性，可以采用带常数项的F I R 滤波器的乘积耦合来代替线性滤波器的乘积耦合f l o s ] ，为此定义以下滤波器：y ( 咒) = ‰+ ∑h ¨x ( n - i ) ]4 1 转一3 鳓．×魄o + ∑h 2 0 ，x ( n - j ) ]J = I其中h i ．i , h 2 0 ( f ，J = 侥l ，⋯，珑) 分别为掰个线性滤波器的系数，茂滤波器系数个数为2 m + 2 ，复杂性更为减少4 ．6 ．2 非线性归一化L M S 囱适应滤波算法在现有的各种自适应算法中，针对菲线性滤波器的归一化最小均方自适应滤燃( N o n l i n e a rN o r m a l i z e dL M SA l g o r i t h m ，简称N N L M S 算法) 1 7 l 】f 诩具有较好的自适应性能，现将N N L M S 算法描述如下：设x ( n ) 和y ( n ) 分别表示未知系统在弹时刻的系统输出和预测输出值，堆表示预测模型的待定参数，则在时刻，l 的瞬时平方误差为e 2 《嚣> = 【x 《嚣≥一岁《矬) 】2《4 曩3 7 )山东大学博士学位论文w f ( 肼1 ) 叫∽卜南㈣．P ( 刀) 当( ，1 ) ，f = l ∥2 一，Ⅳ．但是，当兰j = l ( 熹j ( 刀) ) 2 < 1 时，梯度误差将被放大，因为姜( 考( 刀) ) 2 不能保证恒大于1 ，所以( 4 ．3 8 ) 式不能保证滤波器系数稳定收敛。

为了保证迭代技术的收敛性，应保证梯度误差始终单调减小，可在( 4 ．3 8 ) 5 L 4 ：@ i J I , K - - 个大于零的常数C 来保证梯嵋( 刀+ 1 ) = w ( 万) +c + 芸( 考㈣y( 4 ．3 9 )．P ( 刀) { ；L ( 以) ，f ：1 ，2 ，⋯，^ L眺根据( 4 ．3 9 ) 式和( 4 ．3 6 ) 式所描述的二阶V o l t e r r a 滤波器结构，可得出这种近似实现结构的非线性归一化L M S 算法如下其中A ( n + 1 ) = 彳( ，1 ) +c + 怯r ( n ) 1 1 2 “B r ( ，z ) x r ( ，z ) 】2 ( 4 - 4 0 )．[ Br ( ，1 ) X r ( 刀) 】P ( 珂) X 7 ' ( 以)B ( ，l + 1 ) = B ( 疗) + —c —+ —[ X —r —( —n —) H —2 _ 』x 垒[ A —r —( —n ) —X —r —( 一n ) ] 2 ．( 4 ．4 1 )·【47 ’( ，1 ) X r ( 玎) 】P ( ，1 ) X7 ’( 聆)X7 _ 0 ) = [ 1 ，x ( n - T ) ，x ( n - T - 1 ) ，⋯，x ( n - T - m + 1 ) ] r ，彳( ，1 ) = [ 口o ，a I ，a 2 , - - ．, a 。

r ，召( ，1 ) = 【6 0 ，b l ，6 2 ，⋯，b m 】7 ’，∥和∥：为控制收敛的辅助常数不相等且大于零，彳( ，1 ) ，口( 刀) 分别为两个F I R 滤波器的系数山东大学博士学位论文当T = 1 , 2 , 3 ，⋯时，仅对一个未来值进行的预测称为单步预测；相应的对多个未来值进行的预测称为多步预测下面就这种全局自适应预测方法对非线性时间序列的预测性能进行仿真研究仿真数据采用L o r e n z 模型的x 分量生成的时间序列，其中口= 1 6 ，R = 4 5 ．9 2 ，b = 4 ，采样时间为O ．0 1 用四阶R u n g e - K u t t a 算法求解L o r e n z 模型，获得8 0 0 0点数据，取其后1 6 0 0 点数据作为仿真数据，并按下式对分析序列进行归一化处理：荆邛∞一圭壹z(k)]／max(I性勘机(4-42)kflk f f i l颤沪㈨) 一÷∑zz 一÷∑z ( 七) 1 ) ，oIoI其中口( f ) ) 为原始的混沌序列，{ x ( f ) ) 为归一化的混沌序列，L 为混沌序列的总长度取{ x ( f ) ) 前1 0 0 个点作为训练样本用于训练二阶V o l t e r r a 自适应预测模型，然后预测最后1 5 0 0 点归一化的混沌时间序列，以预测均方误差和相对误差作为评测标准，其预测的均方误差和相对误差定义为1L．M S E = ÷∑m I ) 一主( 七n( 4 - 4 3 )r ‘一、’’7 ●’’p e e r = ∑[ 主( 后) 一石( 研／∑工2 ( 七) ．( 4 小)图4 ．1 给出了采用二阶V o l t e r r a 自适应预测模型对L o r e n z 系统的z 分量进行一步、三步及六步预测结果，图中横坐标n 为预测样本数，纵坐标x ( n ) 为真实值( 实线o ) ，y ( n ) 为预测值( 虚线奉) 。

a ) 一步预测的真实值与预测值( b ) 一步预测误差山东大学博士学位论文( c ) 三步预测的真实值与预测值姻三步预测误差( e ) 六步预测的真实值与预测值( O 六步预测误差图禾l 用二阶V o l t e r r a 自适应预测滤波器对L o r e n z 系统X 分量混沌序列的预测结果一步预测结果：必她卸．0 0 1 7 ；p e e r = O ．0 11 8 ，三步预测结果：M S E = O 0 0 5 9 ；p e e r = O ．0 4 1 0 ，六步预测结果：M S E = O ．0 13 0 秽e e r = O ．0 9 0 2从图4 ．1 可以看出，二阶V o l t e r r a 全局自适应预测模型能够有效地预测菲线性时间序列，预测精度高，均方误差和相对误差都很小值得一提的是仅用1 0 0 个样本训练预测模型就能对非线性时间序列作出有效预测，说明用此模型能很快地逼近被预测的混沌系统，这一结果更符合工程上的实际需要，具有较好的应用价值4 ．6 ．3 局域自适应预测方法局域自适应预测方法【9 8 - 1 蛔通过对当蘸延迟矢量X 《拜) 的邻域内的最近几个点的r 次迭代后的像进行自适应拟合来得到对未来值x ( n + r ) 的预测值。

该方法结合山东大学博士学位论文_ _I II II I II I／■_ -了局域法和自适应法的优点，预测性能大大提高该方法也可看作对局域平均预测方法也称零阶局域预测方法的改进，即对中心点的邻近点不是进行线性拟含，而是进行自适应拟合用局域自适应预测方法对已知序列进行预测时，首先需要知道延迟矢量x ( 嚣)的邻域内的最近的几个点根据重构轨迹，计算延迟矢量X ( 栉) 与前面的忍一1 个延迟矢量X ( 项汪1 , 2 ，3 ，⋯，n 一1 ) 的距离蠢( 0 = l 盖( 0 一X < n ) I I ：，( 4 - 4 5 )找出m 个最近点的丁次迭代后的像# O + 聊( j ；= 1 ，2 ，3 ，⋯，掰) ，组成重排矢量EZ =i 0 + D工：Q + D‘O + r )( 4 ．4 6 )然后根据彳o + D 萨l ，2 ，3 ，⋯，磁> ，进行自适疲预测，得蔽嚣+ D = ∑毪( 嚣) ‘扣+ 砷．( 4 4 7 )根据最陡下降原理，可得递推公式为e 西+ D = x ( n + T ) - J ( n + 研，w j ( n + ∞= w i ( n ) + 2 ／．t e ( n + T ) ，j 『= 1 , 2 ，3 ，⋯，m其中／a 为控制算法收敛的系数。

于是，非线性时间序列的局域自适应预测方法的基本步骤如下：( 4 —4 8 )( 4 - 4 9 )( 1 ) 墩定某个控制算法收敛的系数为0 < l a ≤l ，令初始误差为l ，令初始权系数全部为0 ‘( 2 ) 重构己知Ⅳ点序列的相空间轨迹《3 ) 根据( 4 ．4 2 ) 式和《4 4 3 ) 式计算当前延迟矢量X ( n ) 的邻域内的m 令最邻近点山东大学博士学位论文的r 次迭代像组成的向量x ： 4 ) 根据( 4 ．4 7 ) 式州9 ) 式自适应预测第力+ r 点的值下面就这种局域自适应预测方法对非线性时间序列的预测性能进行仿真研究仿真数据采用L o r e n z 模型的x 分量生成的时间序列，其中仃= 1 6 ，R = 4 5 ．9 2 ，b = 4 ，采样时间为0 ．0 l 用四阶R u n g e —K u t t a 算法求解L o r e n z 模型，获得9 8 0 0点数据，取其后1 8 0 0 点数据作为仿真数据，并归一化到区间【0 ，1 】迭代步长∥取为0 ．0 0 2 取缸( f ) ) 前8 0 0 个点作为训练样本用于训练局域自适应预测模型，然后预测最后1 0 0 0 点归一化的非线性时间序列，以( 4 - 4 0 ) 式和( 4 ．4 1 ) 式定义的均方误差和相对误差作为评测标准。

仿真结果如图4 _ 2 所示 a ) 1 步预测的真实值与预测值菩( b ) 1 步预测的绝对误差( d )刈Ⅳ叫州I( c ) 3 0 步预测的真实值与预测值( d ) 3 0 步预测的绝对误差图4 - 2 局域自适应预测方法对L o r e n z 系统序列的预测结果l 步预测结果：胁5 ．1 4 9 6 x 1 0 " 5 , p e e r = 1 ．3 1 8 7 x 1 0 4 ；3 0 步预测结果：朋距= 0 ．0 0 1 2 ，p e e r = O ．0 0 3 1山东大学博士学位论文从图4 ．2 可以看出，局域自适应预测方法能够有效地预测非线性时间序列，预测精度高，均方误差和相对误差都很小，其中l 步预测的均方误差和相对误差数量级分别为1 0 - 5 , 1 0 ‘4 ，分别比文献[ 9 9 】中的最小数量级1 0 - 3 ' 1 0 ．2 低2 个数量级4 ．7 本章小结本章首先阐述了动力系统的逆问题，评述了现有的非线性时间序列建模预测方法；然后深入研究了全局预测方法的原理、算法实现及其存在的问题，深入研究了具有普遍的非线性函数逼近能力的神经网络模型和基于统计学习理论的支持向量回归模型；接下来深入研究了局域预测方法包括局域平均预测方法和局域线性预测方法的基本思想、原理和算法实现及其存在的问题；最后深入研究了能自适应地跟踪混沌的运动轨迹的自适应预测方法，研究了自适应预测模型、针对非线性滤波器的归一化最小均方自适应滤波算法和局域自适应预测方法。

7 4山东大学博士学位论文5 ．1 概述第5 章改进的局域预测方法从观测时间序列预测系统的时间演化序列是时间序列分析的最重要的经典问题之一除了预测本身的重要性，系统的可预测性还有重要的方法论意义系统的可预测性是非线性时间序列分析的一个有力工具【I 】预测效果主要在以下三个方面有重要应用非线性预测效果通常被作为判断时间序列中是否存在非线性确定性成份的依据，大量的基于非线性预测效果的方法被提出来区别确定性混沌与随机噪声[ 1 1 1 ．1 1 7 ] 基于预测效果的方法也是选取嵌入维数的一种重要方法【5 4 】【矧数据的可预测性还被应用于检测时间序列的平稳性【1 1 引近二十年来，许多预测非线性时间序列的方法被提出，它们可被分为两类，全局预测方法和局域预测方法【l 】全局预测方法【7 9 ‘8 4 】利用全部的过去信息来预测未来值，用全部已知数据来拟合动力方程例如用神经网络建立的全局预测模型，它通过全部的输入一输出对神经网络进行训练但当新的数据加入已知样本时，全局预测模型须重新估计其参数，因此全局预测法计算量较大并且因为吸引子的结构非常复杂，所以拟合全局动力方程的难度也往往较大而局域预测法[ 9 0 。

9 7 】仅利用部分的过去信息来预测未来值，局域动力方程较容易拟合，且计算量较小F a r m e r 和S i d o r o w i c h 早已证明，在相同的嵌入维数下，局域预测法的效果比全局预测法更好【9 1 】局域预测方法是非线性时『白J 序列预测最常用的方法之一文献[ 9 8 ．1 0 0 1 使用自适应技术来改进局域模型，文献[ 1 0 1 ] [ 1 0 2 ] 采用支持向量回归模型来改进局域模型文献[ 1 0 3 ] 基于局域二次多项式模型并用离散余弦变换来降低求解系数矩阵的复杂性，从而改进局域预测法在传统的局域预测方法中，局域预测模型的参数取与相空间重构的参数相同的值本章提出局域预测模型的参数可以取与相空间重构的参数不同的值，这样即利用了时间序列的空间相关性，又利用了时间序列的时间相关性7 5山东大学博士学位论文5 ．2 改进的局域线性预测方法5 ．2 ．1 改进的局域线性预测方法时间序列的相关性是可预测性之源现有的时间序列预测方法主要基于两类相关性，即线性相关性与非线性相关性时间序列时间上相邻数据存在很强线性相关性，这种时间上的线性相关性是目前被充分研究的时间序列的可预测性之源。

线性随机预测模型，如自回归模型( a u t o r e g r e s s i v em o d e l ，简称A R 模型) 、滑动平均模型( m o v i n ga v e r a g em o d e l ，简称M A 模型) 与自回归滑动平均模型( a u t o r e g r e s s i v em o v i n ga v e r a g em o d e l ，简称A R M A 模型) ，就是基于时间上线性相关性的模型，并充分利用了时间上线性相关的信息时间序列另外一类可预测性之源是非线性相关性混沌系统是由非线性动力学机制决定的非线性确定性系统混沌系统内部含有非线性确定性规律非线性时间序列预测就是基于非线性确定性规律的，非线性确定性规律表明相同的状态将有相同的发展趋势，相近似的状态将有相近似的发展规律从标量时间序列重构与原系统相空间相对应的相空间是非线性时间序列预测的基础基于W h i t n e y 的拓扑嵌入定理，T a k e n s 证明了用延迟坐标法能重构标量时间序列的m 维动力系统【刀假设观测标量时间序列为{ x ( 万) ，n = 1 , 2 ，3 ，⋯，Ⅳ) ，根据T a k e n s 的嵌入定理，奇异吸引子的重构可以通过构造延迟矢量X ( n ) = [ z ( 甩) ，x ( n —r ) ，⋯，x ( n 一( 肌一1 ) r ) 】r ，刀= ( m 一1 ) r + l ，( 所一1 ) r + 2 ，⋯，N 来得至0 ，其中m 是嵌入维数，f 是延迟时间。

在实际应用中相空间重构的关键是确定合适的嵌入参数嵌入维数大于最小嵌入维数时，重构轨迹就能反映原系统状态演化当数据有无限的精度时，从数学的观点来看，延迟时间r 可以取任意的值，但对实际数据延迟时间r 应选取合适的值局域线性预测方法的首要步骤是在重构的相空间寻找当前状态X ( 刀) 的邻近点根据重构轨迹，计算当前延迟矢量X ( 以) 与它前面的厅一1 个延迟矢量X ( f ) ( f = 1 , 2 ，⋯，刀一1 ) 的距离d ( i ) = I I x ( i ) 一x ( 甩) b( 5 ·1 )7 6山东大学博士学位论文并得到后个最邻近的点工( 刀，) “= l ，2 ，⋯，后) 在该寻找邻近点的过程中，相空间重构参数嵌入维数，，l 与延迟时间f 选取对相空间重构来说最优的参数值聊叫和f 叫并且后> m o p t ⋯局域线性预测模型可被看作m 叫维延迟嵌入空间的一个阶数为m 叫的自回归模型，因此预测可看作延迟矢量的所叫个分量的线性叠加，即m Ⅻ舅( 甩+ 1 ) = 口o + 芝：a i x ( ，l - ( i - 1 ) r 叫) = 似’( 厅) ，( 5 —2 )其中A = 【口。

口l ，口2 ，⋯，口，叫】，X ’( n ) = 【1 ，z ( 以) ，x ( n 一‰) ，⋯，工( 刀一( ％一1 ) ‰) 】r 基于非线性确定性规律的预测方法假设重构轨迹是由一个确定性的光滑连续映射F 决定的，即映射F 反映当前状态与未来状态的关系如果／时刻的状态与当前状态X ( n ) 相近似，那么映射F 的连续性将决定状态X ( j + 1 ) 将与未来的状态X ( n + 1 ) 相近似在方程( 5 ．2 ) 的预测过程中，预测模型的参数与相空间重构的参数取相同的值，即m = ‰，r = f 叫预测模型的参数与相空间重构的参数不是必须取相同的值，它们可以取不同的值预测模型参数的值应更适合模型预测，可以根据模型的预测性能来选取预测模型的参数为了同时利用时间序列的线性相关性和非线性相关性，本节取预测模型的参数为f = l 和m = P ，其中P 是方程( 5 - 2 ) 中自回归模型的阶数，此时方程( 5 —2 ) 可被改写为P舅∽+ 1 ) = 口o + ∑a f x ( n - i + 1 ) = 彳，x ：( 以) ，( 5 ·3 )j = I其中A ，= 【口o ，口l ，口2 ，⋯，口J 口】，x ：∽) = 【1 ，x ( 甩) ，x ( n —1 ) ，⋯，x ( n —p + 1 ) ] r 。

系数矢量A ，的值由当前状态X ∽) 的位置及其拓扑邻近点X ( 啊) ( f = 1 , 2 ，⋯，七)决定系数矢量A ，的值可通过求解下列方程来得到A p B = D ，( 5 —4 )山东大学博士学位论文其中B 是( p + 1 ) xk 的矩阵，其第f 列由x ：( 刀J ) 组成，D 是lxk 矢量，其第f 列由z ( 刀f + 1 ) 组成，其中z ：( 刀f ) = [ 1 ，工( 刀f ) ，工( 刀广1 ) ，⋯，x ( n f —p + 1 ) 】r ，D = 【《万l + 1 ) ，x ( n 2 + 1 ) ，x ( n 3 + 1 ) ，⋯，x ( n I + 1 ) 】·当最后一个延迟矢量为X ( n + 1 ) 时，重复上述过程，可得到预测值舅仰+ 2 ) 依此类推，实现多步预测通过最小化下列的B a y e s i a n 信息准则( B a y e s i a ni n f o r m a t i o nc r i t e r i o n ，简称B I C ) [ 6 s 儿6 9 1 ，来得到方程( 5 ．3 ) 描述的自回归模型的最优阶数c ( p 灿以p 帅警，0 4 )其中占2 ( p ) 是p 阶自回归模型的预测误差，￡是预测数据的长度。

本节使用多步预测误差1L9 2 ( 力= ÷∑【x ( ，l + f ) 一支( 厅+ 明2 ．( 5 - 6 )- i = 15 ．2 ．2 仿真结果及分析下面通过仿真实验来研究改进的局域线性预测方法的预测性能仿真数据采用L o r e n z 模型的x 分量生成的时间序列，其中o r = 1 0 ，，．= 2 8 ，b = s ／3 ，采样时间为0 ．0 1 用四阶R u n g e ．K u t t a 算法求解L o r e n z 模型随机选取两段不同的时间序列，其中训练样本的长度为3 ／= 1 0 0 0 0 用延迟坐标法对该时间序列相空间重构，其中相空间重构的参数分别取为嵌入维数m 3 与延迟时间f 1 4 在本节的仿真实验中，参数k 取为聊州+ 1 对这两组不同的时间序列，使用局域线性预测方法和改进的局域线性预测方法分别进行3 5 0 步和1 0 0 0 步的多步预测，结果如图5 ．2 和图5 —3 所示在图5 ．2和图5 ．3 中，为了比较而列出了实际值，它们没有参与多步预测过程，图中横坐标以为预测步数，纵坐标X ( n ) 为实际值( 实线o ) ，y ( 以) 为预测值( 虚线木) 。

山东大学博士学位论文C ( p ) 一P 的关系图如图5 - 1 所示，其中L = 7 0 0 ，从该图可以看出：当P = 1 0时，C ( p ) 取到最小值因此预测过程中自回归模型的最优阶数取为1 0 图5 - 1L o r e n z 模型生成时间序列的C ( p ) - p从图5 ．2 ( a ) 和5 ．2 ( b ) 可以看出，对第一组时间序列，局域线性预测法的预测误差的绝对值在2 4 8 步之内较小，从第2 4 9 步开始急剧增大，其中在前1 1 7步之内预测误差的绝对值的最大值为0 ．0 1 4 8 ，从第1 1 8 步到第2 4 8 步预测误差在．2 ．2 4 0 2 , - - 4 ．0 9 9 7 的范围内波动从图5 ．2 ( c ) 和5 ．2 ( d ) 可以看出，对第二组时间序列，局域线性预测法的预测误差的绝对值在1 3 3 步之内较小，从第1 3 4 步开始急剧增大，其中在前1 3 3 步之内预测误差的绝对值的最大值为0 ．3 4 4 3 从图5 ．3 ( a ) 和5 ．3 ( b ) 可以看出，对第一组时间序列，改进的局域线性预测法的预测值在前7 8 0 步之内与真实值的偏差很小，从第7 8 1 步开始预测值急剧偏离真实值，其中在前2 9 7 步之内预测误差的绝对值的最大值仅为O ．0 5 1 0 ，从第2 9 8 步到第5 4 6 步预测误差在．1 ．8 1 6 1 一1 ．4 1 2 6 的范围内波动，从第5 4 7 步到第7 8 0步预测误差在- 4 ．7 2 4 8 —5 ．1 0 1 6 的范围内波动。

从图5 ．3 ( c ) 和5 ．3 ( d ) 可以看出，对第二组时间序列，改进的局域线性预测法的预测值在前8 2 0 步之内与真实值的偏差很小，从第8 2 1 步开始预测值急剧偏离真实值，其中在前5 2 3 步之内预测误差的绝对值的最大值仅为0 ．3 8 6 3 ，从第5 2 4 步到第8 2 0 步预测误差在．3 ．5 0 0 9 ～2 ．5 3 4 1的范围内波动山东大学博士学位论文图5 ．2 局域线性预测方法的预测结果；( a ) 第一组时间序列的实际值与预测值，( b ) 第一组时间序列的预测误差，( c ) 第二组时间序列的实际值与预测值，( d ) 第二组时间序列的预测误差．山东大学博士学位论文图5 ．3 改进的局域线性预测方法的预测结果；( a ) 第一组时间序列的实际值与预测值，( b )第一组时间序列的预测误差，( c ) 第z _ 鱼i t 时间序列的实际值与预测值，( d ) 第二组时间序列的预测误差．因此，改进的局域线性预测方法的预测性能明显好于传统局域线性预测方法的预测性能5 ．3 新的局域线性预测模型5 - 3 ．1 新的局域线性预测模型对局域线性模型，其参数的取值没有必要与相空间重构的参数的取值相同，即研≠m 叫与f ≠‰。

相空间重构的参数{ 聊掣，f 叫) 对相空间重构是最优的，对在重构的相空间寻找邻近点是最优的，但是对局域线性预测模型不是最优的局域线性模型的参数{ m ，f ) 应选取更适合进行预测的值因此一种新的局域线性预测模型，其参数为{ m ，f ) ，可用公式表示如下：曼( 以+ 1 ) = 口o + ∑口f x ( n - ( i - 1 ) r ) = A 2 E ( 甩) ，( 5 ·7 )扭l其中A 2 = [ 口o ，口l ，口2 ，⋯，a y 2 ( 刀) = 【l ，z ( 刀) ，x ( n —r ) , - - - , x ( n - ( m - 1 ) r ) ] r 系数矢量A ：的值由当前状态x ( 刀) 的位置及其拓扑邻近点x ( n f ) ( f - 1 , 2 ，⋯，七)决定系数矢量彳：的值可通过求解下列方程来得到山东大学博士学位论文A 2 B = D ，( 5 ·8 )其中B 是( m + 1 ) xk 的矩阵，其第i 列由E ( 刀，) 组成，D 是1 ×k 矢量，其第f 列由x ( n i + 1 ) 组成，其中K ( 以j ) = 【1 ，x ( n f ) ，x ( n 广1 ) ，⋯，x ( n j —p + 1 ) 】r ，D = 【x ( n l + 1 ) ，x ( n 2 + 1 ) ，x ( n 3 + 1 ) ，⋯，x ( n t + 1 ) 】。

当最后一个延迟矢量为X ( n + 1 ) 时，重复上述过程，可得到预测值曼伽+ 2 ) 依此类推，实现多步预测模型的预测性能可由下列的标准预测误差来表征：其中j = 圭喜x c 刀+ D ，￡E [ x ( n + i ) - f c ( n + i ) 1 2s ( m ，f ) 2 = 旦T ————一，( 5 —9 )∑【砌+ 沪司2c ( m ，f ) 2 实际上是预测误差的归一化方差，三是预测数据的长度通过最小化下列准则来得到方程( 5 —7 ) 描述的新的局域线性预测模型的参数的最优值{ 略，吃)C ( m ，f ) = h a 6 ( m ，f ) ，( 5 —1 0 )本节使用多步预测误差在数值计算过程中，基于训练样本的平均多步预测误差来确定新的局域线性预测模型的参数的最优值{ ％P ，吃) 把训练样本分为两部分，其中训练样本共有M 个数据点；分别使用训练样本的前M 一脚( ，．= 1 , 2 ，⋯，R ) 个数据点来预测紧跟的Ⅳ个数据点，得到C ，( m ，f ) ( 厂= l ，2 ，⋯，尺) ，其中H 的值是由局域线性预测的多步预测性能决定的C ，( ，．= 1 , 2 ，⋯，R ) 的平均值作为C 的值。

模型的一个参数取固定值，通过最小化C 来得到另一个参数的最优值局域线性预测的参数做为初始值当日= l ，厂= L 时，可得到对￡个数据的一步预测误差山东大学博士学位论文5 ．3 ．2 仿真结果及分析为了验证本节提出的新的局域线性预测模型的预测性能，下面进行仿真实验研究仿真数据采用L o r e n z 模型的X 分量生成的时间序列，其中o r = 1 0 ，，．= 2 8 ，b = 8 ／3 ，采样时间为o ．o l 用四阶R u n g e - K u t t a 算法求解L o r e n z 模型选取四段相连的时间序列，其中训练样本的长度为M = 1 0 0 0 0 ，对训练样本之后的1 0 0 0 个数据点进行多步预测，预测结果分别如图5 ．5 ，5 ．7 ，5 - 9 和5 ．1 1 所示，在图中为了比较而列出了实际值，它们没有参与多步预测过程用延迟坐标法对已知时间序列相空间重构，其中相空间重构的参数分别取为嵌入维数m e = 3 与延迟时间f 1 4 为了确定新的局域线性预测模型的参数{ m ，f > ，参数值取为H = 3 0 0 和R = 3 ，即分别使用训练样本的前9 1 0 0 个数据点来预测其后的3 0 0 个数据点，使用训练样本的前9 4 0 0 个数据点来预测其后的3 0 0 个数据点，使用训练样本的前9 7 0 0 个数据点来预测其后的3 0 0 个数据点，分别得到C 。

m ，f ) ，C ：( m ，f ) 和C 3 ( 研，f ) C 的值取为q ，C 2 和c 3 平均值一个参数取固定值，选取使C 取到最小值的另一个参数为其最优值，数值过程如图5 - 4 ，5 - 6 ，5 ．8 和5 ．1 0 所示模型的初始值取为局域线性预测模型的值，即m = 3 ，f = 1 4 从图5 _ 4 可以看出，对第一组时间序列，新的局域线性预测模型的最优参数为m 叫P = 4 ，f 叫P = 1 0 ，其预测误差小于局域线性预测的从图5 ．5 可以看出，对第一组时间序列，局域线性预测模型的预测值从第1 9 1步开始急剧偏离真实值，而新的局域线性预测模型的预测值从第7 8 0 步开始急剧偏离真实值山东大学博士学位论文( a ) f = 1 4( b ) 朋= 4( c ) f = l O图5 - 4 第一组时间序列的c ( 历，f )( a ) 实际值( 实线) 与预测值( ”预测误差图5 ．5 局域线性预测( 点线) 和新的局域线性预测模型( 虚线) 对第一组时间序列的预测结果山东大学博士学位论文从图5 - 6 可以看出，对第二组时间序列，新的局域线性预测模型的最优参数为脚叫P = 2 ，‰P = 1 0 ，其预测误差小于局域线性预测的。

从图5 ．7 可以看出，对第二组时间序列，局域线性预测模型的预测误差从第1 5 7 步开始急剧增大，然后在1 6 1 步内波动，而新的局域线性预测模型的预测误差的绝对值在5 3 2 步之内都非常小，从第5 3 3 步开始急剧增加 a ) f = 1 4( b ) m = 2( C ) f = 1 0图5 - 6 第二组时间序列的C ( m ，f )山东大学博士学位论文( a ) 实际值( 实线) 与预测值( b ) 预测误差图5 - 7 局域线性预测( 点线) 和新的局域线性预测模型( 虚线) 对第二组时间序列的预测结果从图5 ．8 可以看出，对第三组时间序列，新的局域线性预测模型的最优参数为朋刍= 5 ，f 刍= 8 从图5 - 9 可以看出，对第三组时间序列，局域线性预测模型的预测值从第2 0 6步开始急剧偏离真实值，而新的局域线性预测模型的预测值在前7 4 0 步之内与真实值的偏差都很小 a ) f = 1 4( b ) 肌= 5山东大学博士学位论文( c ) r = 8图5 ．8 第三组时间序列的C ( m ，f )( a ) 实际值( 实线) 与预测值( b ) 预测误差图5 - 9 局域线性预测( 点线) 和新的局域线性预测模型( 虚线) 对第三组时间序列的预测结果从图5 ．1 0 可以看出，对第四组时间序列，新的局域线性预测模型的最优参数为坍叫P = 4 ，f 刍= 1 5 。

从图5 ．1 1 可以看出，对第四组时间序列，局域线性预测模型的预测误差从第1 2 2 步开始急剧增加，然后在1 2 6 步内波动；而新的局域线性预测模型的预测误差从第5 7 3 步开始急剧增加，然后在7 9 步内波动因此，本节提出的新的局域线性预测模型的预测性能明显好于传统局域线性预测模型的预测性能8 7山东大学博士学位论文( a ) f = 1 4( ”m = 4( C ) f = 1 5图5 ．1 0 第四组时间序列的C ( m ，f )( a ) 实际值( 实线) 与预测值( b ) 预测误差图5 ．1 1 局域线性预测( 点线) 和新的局域线性预测模型( 虚线) 对第四组时间序列的预测结果山东大学博士学位论文5 ．4 局域线性预测模型的最优参数分析5 ．4 ．1 局域线性预测模型的最优参数对局域线性预测模型，预测模型的参数{ 历，，f P ) 没有必要与相空间重构的参数伽t ) 相等预测模型的参数{ m P ，f p ) 的取值应更适合预测因此参数为伽p ，f ，)的局域线性预测模型可用公式表示如下：M pX p ( ，l + 1 ) = t o + ∑饥双厅一一1 ) f P ) = 6 。

B ( 刀) x7 ( 刀) ，( 5 - 1 1 )i = l其中B ( 玎) = [ b l ，b 2 ，⋯，k ，】，X ’( 刀) = 【x ( _ ，1 ) ，z ( 刀一0 ) ，⋯，x ( n - ( m p - 1 ) r p ) ] r 系数烈甩) 和b o 可通过最小化下式来得到圭№，+ 1 ) 一t , o —B ( 咒) x ，( 刀汗，( 5 - 1 2 )可以使用最小二乘准则，其中X ’( 仇) = [ x ( 以，) ，x ( n ，一r ，) ，⋯，x ( n ，- ( m p 一1 ) r ，) 】r 当最后一个延迟矢量为X ( n + 1 ) 时，重复上述过程，可得到预测值曼0 + 2 ) 依此类推，实现多步预测一个模型的短期可预测性能可由多步验证误差占( ·) 2 表征多步验证误差占( ·) 2 可通过下述过程来计算得到，首先从原始数据中取走％个相连的数据点，然后使用剩余的N - n s 个数据点建立模型，最后使用建立的模型来预测被取走的瑰个数据点上述计算过程在已知数据上重复，l c 次，然后用下式计算平均误差( 1 ／n c n , ) 艺羔l 虹y ( f ) + _ ，】一％[ v ( 卅州2F ( ，，l ，，f p ) 2 =( 5 —1 3 )( 1 ／Ⅳ) ∑㈨) 一司2i = 1其中n 。

控制估计误差的精度，“f ) 是第f 个交叉验证数据点在己知数据集中的8 9山东大学博士学位论文序号，i = 专善川) 通过最小化下列的赤池信息准则( A k a i k ei n f o r m a t i o nc r i t e r i o n ，简称A I C ) t 1 】【6 3 1 ，来N N ] y N ( 5 —1 1 ) 描述的预测模型的最优参数伽P ，f ，)C ( m ，，f ，) = l n z ( m p ，f ，) + ( 研，+ f p ) ／n n ，，( 5 - 1 4 )其中呐是预测数据点的长度为了降低上述优化过程的计算复杂性，本小节使用循环坐标法，该方法每次实现每一个参数的全局最优化，然后重复优化过程直到收敛数值计算过程如下：首先固定参数m p 的值畛册优化参数f p ，得到t l t 允值f ，I ；然后固定参数f ，的值f ，= f ，I ，优化参数m ，，得到最优值m ，I ；重复该过程直到收敛5 ．4 ．2 仿真结果及分析为了验证本节优化后的局域线性预测方法的预测性能，以L o r e n z 模型为例，分析由L o r e n z 模型的x 分量生成的时间序列，其中仃= 1 0 ，，．= 2 8 ，b = 8 ／3 ，采样时间为0 ．0 1 。

用四阶R u n g e ．K u t t a 算法求解L o r e n z 模型取一组总长度为3 0 0 0 的时间序列作为仿真数据，其中前N = 2 0 0 0 个数据点做为训练集，其后的1 0 0 0 个数据点做为检验集首先用延迟坐标法对该时间序列相空间重构，其中相空间重构的参数分别取为嵌入维数m 3 与延迟时间r 1 4 用归一化均方误差来表征预测精度，( 1 ／￡) ∑I z ( Ⅳ+ f + 丁) - - X p ( Ⅳ+ f + 丁) 1 2P 脓( r ) =( 1 ／Ⅳ) ∑[ x ( 沪孑】2( 5 —1 5 )其中F 是预测步长用本节方法来优化局域线性预测模型的最优参数的分析结果如图5 ．1 2 所示在计算过程中参数值取为t l s = 3 ，n c = 4 0 0 从图5 ．1 2 可以看出，局域线性预测模型的最优参数为m p = 3 和r ，= l ，g - 次循g N ，预测模型的参数值就达到收敛山东大学博士学位论文( a ) 咿3( b ) f ，= 1图5 - 1 2L o r e n z 模型生成时间序列的C ( m p ，f ，)分别应用传统局域线性预测模型和本节优化后的局域线性预测模型的预测结果如图5 ．1 3 、图5 ．1 4 和表5 ．1 所示，图中纵坐标工( 甩) 为实际值( o ) ，x p ( n ) Y g 预测值( + ) ，“，z ) = x ( n ) - x p ( n ) 。

从图5 ．1 3 和图5 ．1 4 可以看出，局域线性预测方法和本节优化后的局域线性预测方法都能够有效地预测非线性时间序列，并且本节优化后的局域线性预测方法的预测精度更好同时，从一步预测到多步预测上述两种预测方法的预测性能都不同程度的退化，这更加证实了非线性时间序列在局域是可预测的，并且非线性时间序列具有短期可预测的特性 a ) 一步预测的真实值与预测值( b ) 一步预测误差，e N M S f 5 ．4 3 3 0 ×1 0 ’89 1山东大学博士学位论文六步预测的真实值与预测值( d ) 六步预测误差，‰懈E = 2 ．7 5 6 3X1 0 ’6图5 ．1 3 局域线性预测方法对L o r e n z 模型生成时间序列的预测结果( a ) 一步预测的真实值与预测值( b ) 一步预测误差，懈= 8 ．5 9 9 6 ×l f f l o( c ) 六步预测的真实值与预测值( d ) 六步预测误差，懈= 2 ．0 8 4 4 ×1 0 J图5 ．1 4 优化后的局域线性预测方法对L o r e n z 模型生成时间序列的预测结果山东大学博士学位论文上述两种预测方法的对比结果如表5 ．1 所示。

从表5 ．1 可见，本节优化后的局域线性预测方法的一步预测精度和多步预测精度都明显优于传统局域线性预测方法的同时表5 ．1 也表明了本节优化方法的可行性与有效性表5 一l 局域线性预测方法与优化后的局域线性预测方法的对比结果( e N M S E )预测步长局域线性预测方法优化后的局域线性预测方法一步5 ．4 3 3 0 X1 0 88 ．5 9 9 6X1 0 ’1 0六步2 ．7 5 6 3 X1 0 ．62 ．0 8 4 4X1 0 ‘75 ．5 本章小结本章首先提出了改进的局域线性预测方法来预测非线性时间序列，该方法基于B a y e s i a n 信息准则来选取预测过程中的参数此方法同时利用了时间序列的空间相关性与时间相关性仿真结果表明该改进的局域线性预测方法能够有效地预测非线性时间序列，并且该改进的局域线性预测方法的预测性能明显好于传统局域线性预测方法的预测性能然后提出了一种新的局域线性预测模型来预测非线性时间序列首次提出局域线性预测模型的参数可以取与相空间重构的参数不同的值基于模型的预测性能，提出了确定新的局域线性预测模型的参数的方法仿真结果表明新的局域线性预测模型能够有效地预测非线性时间序列，并且新的局域线性预测模型的预测性能明显优于传统局域线性预测模型的预测性能。

本章最后提出了一种优化局域线性预测模型参数嵌入维数与延迟时间的方法仿真结果表明用该方法优化后的局域线性预测方法能够有效地对非线性时间序列进行一步和多步预测，并且用该方法优化后的局域线性预测方法的一步和多步预测精度都明显好于传统局域线性预测方法的9 3山东大学博士学位论文第6 章局域预测法邻近点的选取与激光数据的预测6 ．1 局域预测与邻近点近二十年来，许多预测非线性时间序列的方法被提出，它们可被分为两类，全局预测法和局域预测法【l 】全局预测法利用全部的过去信息来预测未来值，用全部已知数据来拟合动力方程例如用支持向量机建立的全局预测模型，它通过全部的输入一输出对支持向量机进行训练但当新的数据加入已知样本时，全局预测模型须重新估计其参数，因此全局预测法计算量较大并且因为吸引子的结构非常复杂，所以拟合全局动力方程的难度也往往较大而局域预测法仅利用部分的过去信息来预测未来值，局域动力方程较容易拟合，且计算量较小F a r m e r 和S i d o r o w i c h 早已证明，在相同的嵌入维数下，局域预测法的效果比全局预测法更好【9 1 1 正是因为如此，局域预测法受到了学术界的重视和关注，成为预测非线性时间序列最基本最常用的方法之一。

文献[ 9 0 】和文献【9 l 】曾在这方面作过开创性的研究，堪称经典时至今日，国内外对局域预测法的研究仍然在继续进行，国内外近些年来在这方面的工作如文献【9 8 —1 0 2 】等所示在建立局域预测模型前，首先必须确定三个参数，即嵌入维数、延迟时间与邻近点个数关于嵌入维数和延迟时间的选取，人们已经作了大量的研究，有不少定量的方法可供应用，而邻近点的个数却大多仅凭经验选取，或者简单地取为聊+ l ( 历为嵌入维数) 【恻【9 ¨，难以见到关于邻近点个数选取的定量研究其实，邻近点的个数既与计算量密切相关，也影响到局域模型的预测精度，同样是十分重要的一个参数本章基于信息准则，提出了确定局域预测法中邻近点个数的定量方法6 ．1 ．1 局域支持向量机预测方法相空间重构理论是非线性时间序列分析的基础【l J 假设观测到的非线性时间序列为{ z ( f ) ，t = 1 , 2 ，⋯，Ⅳ) ，由延迟坐标相空间重构法‘刀可得重构延迟矢量为山东大学博士学位论文X ( n ) = 瞰”) ，x ( n - r ) ，⋯，x ( n 一( m - 0 r ) ] r ，尢= ( m - 1 ) r + l ，( m - 1 ) r + 2 ，⋯，Ⅳ．( 6 - 1 )其中m 为嵌入维数，f 为延迟时间。

由嵌入定理知在重构的相空间中，存在一个光滑映射F ：R ”专R ，使得z ，∽+ 丁) = F ( X ( 刀) ) ．( 6 - 2 )根据对动力方程的拟合方式，非线性时间序列预测可分为全局预测方法与局域预测方法其中，全局预测方法用全部已知数据在整个重构的混沌吸引子上拟合动力方程；而局域预测方法则是通过分段逼近的形式来拟合函数，，即每次利用相空间中的几个局域邻近点来逼近函数F 的一个局域子集，该方法更能体现混沌系统的动态性，具有比全局预测方法更好的预测性能局域预测的首要步骤是在重构的相空间中选取当前延迟矢量X ( n ) 的邻近点根据重构轨迹，计算当前延迟矢量X ( n ) 与它前面的n —1 个延迟矢量z ( f ) ，i = 1 , 2 ，3 ，⋯，刀一l 的距离d ( f ) = l l x ( i ) 一X < n > l l ：( 6 —3 )可得到尼个最近的邻近点X ( n ) ( f = 1 , 2 ，⋯，k ) 局域线性预测模型为工口( 玎+ 丁) = a n X ( n ) + 吃．( 6 - 4 )其中a 为l ×m 维行向量，b 为常数，，为预测步长局域线性预测法利用当前延迟矢量x ( ，1 ) 的邻近点X ( n 『) ( 江1 , 2 ，⋯，k ) 来估计参数a 。

和乞的值参数a 的值可通过最小化下式来得到m i n ∑k №，+ 丁) 一口x ( ，l ，) 一b ．1 2 ．( 6 ．5 )局域线性预测法用线性映射来近似当前延迟矢量X ( 刀) 与未来值x p ( ，l + 1 ) 的演化方程，并用X ( n ) 的邻近点来近似该线性映射除了使用线性模型在重构相空间的局域建模，还可以使用其它的常用模型( 如神经网络模型、支持向量回归模型)在重构相空间的局域建模例如，文献[ 1 0 1 】[ 1 0 2 】用支持向量回归模型代替局域线9 5山东大学博士学位论文性模型，并用邻近点训练该局域支持向量回归模型，提出局域支持向量机预测法即把X ( n i X i = 1 , 2 9 " e ' 9 k )作为支持向量机预测模型中的输入值，x ( n ，+ D ( f = 1 , 2 ，⋯，k ) 作为输出值训练支持向量机，得到对应的支持向量及权重系数( 即F 一个子集的逼近) ；然后利用训练得到的局域支持向量机，计算得到对未来值的预测值z p 积+ D 局域支持向量机预测法的算法步骤如下：( 1 ) 对非线性时间序列{ 石( f ) ，t = 1 , 2 ，⋯，册，选择合适的嵌入维数m 和延迟时间f ，由延迟坐标相空间重构法1 7 ] 可得延迟矢量为’X ( n ) = 【石( 刀) ，x ( n —f ) ，⋯，x ( n - ( m —1 ) f ) 】1 ，万= ( 朋- 1 ) r + l ，( 册一1 ) f + 2 ，⋯，Ⅳ．( 2 ) 根据重构轨迹，计算当前延迟矢量X ( n ) 与前面的刀一1 个延迟矢量X ( 耽江1 , 2 ，3 ，⋯，n - 1 的距离。

可得到k 个最近的邻近点X ( n ，) O = 1 , 2 ，⋯，k ) 3 ) 把X ( n 从f - 1 , 2 ，⋯，k )作为支持向量机回归模型中的输入值，x ( n ，+ 丁) ( 扛1 , 2 ，⋯，k ) 作为输出值训练支持向量机，得到对应的支持向量及权重系数( 即，一个子集的逼近) 4 ) 利用上面训练得到的局域支持向量机，根据当前重构矢量X ( n ) ，计算得到对未来值的预测值x 口( 甩+ 丁) 5 ) 重复步骤( 1 H 4 ) ，直到计算出所有的预测值6 ．1 ．2 多步预测的两种实现方法实现多步预测的方法通常有两种，即直接法和迭代法设多步预测的预测步长为r ，其中T > l 直接法直接建模，直接预测未来值z ，( 刀+ r ) ，直接实现多步预测迭代法建立一步预测的模型，做一步预测，得到预测值x P ( 疗+ 1 ) 把预测值z p ( 刀+ 1 ) 加入原始数据，作为模型的输入，重复上述过程，得到预测值x p ( 刀+ 2 ) 9 6山东大学博士学位论文依次类推上述过程共迭代T 次，得到多步预测值z p ( 万+ r ) ，实现多步预测该过程如下所示：X ( n ) = 【z ( 刀) ，．“刀一f ) ，⋯，x ( n - ( m —1 ) r ) r ，z ，( 行+ 1 ) = ，( X ( ，1 ) ) ，X ( ，l + 1 ) = 【x P ( 万+ 1 ) ，x ( n + 1 - r ) ，⋯，x ( n + l - ( m —1 ) f ) 】r ，( 6 —6 )x p ( n + 2 ) = F ( X ( n + 1 ) )x p ( n + 乃= F ( X ( n + T 一1 ) ) ．迭代法每次仅建立一步预测的模型，每次仅做一步预测。

直接法的问题在于建立Z 步预测的模型比建立一步预测的模型更复杂且更难于建模[ 9 1 1 迭代法的问题在于在迭代多步预测过程中上一步预测误差将积累到下一步中[ 1 1 9 】大部分研究者发现迭代法多步预测比直接法多步预测更精确[ 5 4 ] [ 9 1 ] 本章用迭代法实现多步预测6 ．1 ．3 局域预测邻近点的选取方法选取局域预测邻近点的方法通常有两种，即固定邻近点个数法和固定邻域半径法固定邻近点个数法是指对所有的点其邻近点X ( n 从f = 1 , 2 ，⋯，庀) 的个数k取固定值固定邻域半径法是指选取落在以当前延迟矢量X ( n ) 为中心，半径取固定值的超球内的点为邻近点，即对邻近点X ( n i ) ( f = 1 , 2 ，⋯，k ) 满足T Y U 条件肛( 珂，) 一X ( n ) l l ：≤厂，i = l ，2 ，⋯，k ．( 6 - 7 )其中，．为超球的半径，，取固定值固定邻域半径法对不同的点选取的邻近点的个数将不同山东大学博士学位论文6 ．2 信息准则在任何一种建模问题中，当然希望模型的拟合效果要好，但如果一味地追求拟合的效果( 使拟合的误差极小) ，所使用的模型就可能非常复杂( 参数很多) ，这就会出现“过拟合( o v e r - f i t ) 一的情况。

过拟合’’不仅使得计算量很大，而且会把一些非本质的东西加到模型中去，使得尽管拟合效果很好，真正外推预测的效果却反而很差，因而是必须避免的这样，就出现了一个问题：模型的究竟要复杂到一个什么样的程度才好( 亦即模型中的独立参数个数究竟应当取多少才合适) ? A I C 准则就是为解决这一问题而提出的1 9 7 1 年，日本数学家赤池弘次( H ．A k a i k e ) 提出了识别A R 模型( 自回归模型) 阶数的最小最终预报误差( f i n a lp r e d i c t i o ne r r o r ) 准则，即F P E 准则【6 2 1 按照下式计算F P E 值：脚：竺竺彦2( 6 ．8 )N —p、’其中，Ⅳ为样本的数据点数，P 为A R 模型的阶数，舌z 为该模型一步预测的方差显然，F P E 值受拟合误差子z 和参数个数P 两个量的影响，彦z 越小，F P E 值越小，但同时，P 的增加却会使F P E 值增大F P E 准则存在较大的局限性，在这一准则的基础上，赤池弘次( H ．A k a i k e )正式提出了最小信息准则【6 3 1 ，这一原则得到了人们的普遍认可和广泛应用，被称为赤池信息准则( A k a i k ei n f o r m a t i o nc r i t e r i o n ) ，简称A I C 准则。

A I C 准则是在传统的线性时间序列分析的研究中提出的，用于客观确定A R M A 模型( 自回归滑动平均模型) 的阶数，亦即确定独立参数的个数在模型参数极大似然估计的基础上，运用K u l l b a c k - ．L c l i b l e r 信息量推导出以下一般形式的准则：A ／C = 一2l o g ( 模型最大似然度) + 2 ( 模型的自由参数个数)( 6 - 9 )在该式中，前一项体现模型拟合的好坏，后一项则体现了模型的复杂程度，A I C量实际上是这两个方面的一种折衷，亦即这两个方面的一种加权平均( 2 就是权系山东大学博士学位论文数) 设参数的个数为k ，而最佳的参数个数为k o 当七< k o 时，第一项起主要作用，七越大A I C 量也越大，说明模型还不够好；在七= k o 时，A I C 量达到最小值，此时模型的独立参数个数为最佳值；而在k < k o 时，第二项的作用迅速增大，k 越大A I C 量反而越小，出现“过拟合" 现象显然，从权重的角度来看，第一项的权重越大，表明越重视拟合的效果；反之，第二项的权重越大，说明越看重防止“过拟合”的一面对于A R M A ( p ，g ) 模型，赤池弘次给出的A I C 值的计算公式为A I C ( p ，沪l nd - 2 + ( p + q + 1 ) 专( 6 - 1 0 )在实际操作时，采用不同的P 和q 值，分别建模，分别计算其A I C 值，当A I C 值最小时，相应的P 和g 值就是最佳的阶数。

应当强调的是，这一公式是在一定的前提( 其极大似然估计是相容的、渐近正态的和优效的，其密度函数存在一致可积的一阶、二阶偏导数等等) 之下严格推导得出的，不是经验公式A I C 准则在概率统计界得到了普遍的认同和广泛的应用与此同时，人们也发现了A I C 准则仍然存在着一些局限性有人证明这一准则确定的模型阶数在理论上并不是相容估计，也就是说，当样本长度Ⅳ趋于无穷大时，用用A I C 准则定出的模型阶数估计值并不能依概率收敛到真值【删此外，在实际问题中，A I C 准则所要求的那些前提( 正态性等等) 不一定成立因此，人们又对A I C 准则作了一些改进，提出了其它一些类似的准则赤池在贝叶斯原理的基础上提出了A I C 准则的贝叶斯改进形式，即贝叶斯信息准则( B a y e s i u mi n f o r m a t i o nc r i t e r i o n ) ，简称B I C 准则【6 5 】【6 6 1 对于A R M A ( p ，g )模型，使以下的B I C 值达到最小，来确定最佳的自回归阶数P 和滑动平均阶数gB t C ( p , q ) - 1 ∥m 埘1 ) 警( 6 - 11 )它所确定的阶数是真阶的相容估计。

显然，这一公式中第二项的系数比A I C 准则的大H a n n a n 和Q u i n n 提出了另一种定阶准则【6 7 1 ，即山东大学博士学位论文吣灿“足半，( 靴)其中K = P + q + 1 ，为独立参数个数；C 为常数，且C > 2 ，C 值越大，第二项的权重越大，则阶数的估计值越偏低：这一公式中第二项的系数也比A I C 准则的大他们证明：如果预先知道模型阶数的上界，则使用①( 七) 可以得到模型阶数的相容估计安鸿志等进一步得出了更为一般的准则函数旧1 ，即彳C H ( K ) 乩“K 鲁( 6 - 1 3 )在范围足内求A C H ( K ) 的最小值点，即可找到最佳的参数个数其中的C 0 分别取值为2 、I n N 和C I n I n N 时，A C H ( K ) 就分别相应于前面所述的A I C 、B I C 和①( 七) 这样一来，就把前面的几种准则统一了起来安鸿志等还指出，G 值越大，阶数的估计值越偏低( 因为第二项的权重越大) ，因此用①( k ) 和B I C 得到的阶数比A I C 更低；同时，阶数上界K Ⅳ越大，A C H ( K )的最小值可能就越不明显。

因此，在实际应用中，如果G 值和K Ⅳ值选取适当，而且在K Ⅳ范围内求出的最小值点詹又明显地小于K Ⅳ，则这种估值霞就是比较好的；相反，如果c Ⅳ值和K Ⅳ值稍有变化，詹就有明显改变，或者詹与K Ⅳ过分接近，这就意味着的估计带有过多的“人为性" ，客观性较差6 ．3 基于信息准则的局域预测法邻近点的选取方法局域预测模型由三个参数决定，即嵌入维数、延迟时间与邻近点个数邻近点个数影响局域模型的预测精度和计算量对于局域线性预测法，如果邻近点的个数七取的太小或者邻域的半径厂取的太小，邻近点将过少，那么将不能充分利用历史信息，并且将增加噪声的影响文献[ 9 0 1 1 9 1 1 提出邻近点个数应大于或等于m + l 如果邻近点的个数k 取的太大1 0 0山东大学博士学位论文或者邻域的半径，．取的太大，邻近点将过多，那么局域线性模型的线性假设条件将不能满足，将降低模型预测精度；并且，邻近点过多时，邻近点将包括与基准点所在轨道相距较远的轨道上的那些点，由于混沌系统本身所存在的指数发散的性质，那些点加入到模型中以后，将降低模型预测精度所以，对于局域线性预测法，在满足预测精度较高的条件下，邻近点不易过多。

对于局域支持向量机预测法，如果邻近点的个数七取的太小或者邻域的半径，．取的太小( 这也意味着邻近点过少) ，则将不能发挥局域支持向量回归模型非线性拟合的优势，不能提高模型的预测精度文献[ 1 0 2 ] 就提出局域支持向量机预测法的邻近点个数必须大于一定的数值同时，局域支持向量机预测法不受局域线性这一假设条件的限制，因此其邻近点个数和邻域半径也都完全可以比局域线性预测法更大但是，另一方面，如果邻近点的个数k 取得太大或者邻域的半径，取得太大，不仅局域支持向量机预测法的计算量将大大增大，计算时间大大增加，而且有可能出现“过拟合" ( o v e n C i t t i n g ) 的现象，反而降低预测的精度所以，对于局域支持向量机预测法，在满足预测精度较高的条件下，邻近点也不易过多由于一步预测误差不能反映模型迭代多步预测过程中误差积累作用，本文用多步预测误差来表征模型的短期可预测性能把训练样本分为两部分把训练样本第二部分的数据均匀的分为，段，并对每段数据进行多步预测，预测步长为％其中，为了充分利用已知数据，对训练样本第二部分某段数据进行多步预测时，使用训练样本除去该段数据的所有剩余数据寻找邻近点。

用归一化均方误差来表征模型的短期可预测性能，其定义为占2 =击荟l 弘／l a 川M - l 】_ M 卅川】1 2O ／N ) E [ z ( f ) 一i 】2Ⅳ其中V ( f ) 为每段数据的起始数据的序号，i = ( 1 ／M ∑z ( f ) 6 —1 4 )本章分别用B I C 信息准则和H a n n a n ．Q u i n n 信息准则，确定局域线性预测法和局域支持向量机预测法的邻近点个数和邻域半径在采用B I C 信息准则时，通过对以下两式极小化来选取局域线性预测法和局l O l山东大学博士学位论文域支持向量机预测法的邻近点个数和邻域半径：对于固定邻近点个数法a 七) 地占( 七) 2 + ( 七+ 1 ) 可I n N ' ．( 6 - 1 5 a )对于固定邻域半径法c ( ，．) 乩占( ，．) 2 + ( 云+ 1 ) 可I n N ' ．( 6 - 1 5 b )其中f 为当，．取某固定值时邻近点个数的平均值，拟合数据个数N ’= Z ·疗在采用H a n n a h ．Q u i n n 信息准则时，通过对以下两式极小化来选取局域线性预测法和局域支持向量机预测法的邻近点个数和邻域半径：对于固定邻近点个数法c ( 七) = l I l g ( 七) 2 + ( 七+ 1 ) 兰三垒；雾生笙．( 6 - 1 6 a )对于固定邻域半径法c ( ，．) = l I l 占( ，) 2 + ( 云+ 1 ) 兰三堑≥笋生堑．( 6 - 1 6 b )D 为常数，目．D > 2 。

6 ．4 非线性时间序列局域预测邻近点选取的算例与讨论6 ．4 ．1 非线·| 生时间序列局域预测邻近点的选取本章以L o r e n z 模型生成的典型非线性时间序列为实验数据，验证基于信息准则的选取局域预测法邻近点方法的有效性L o r e n z 模型的参数取为仃= 1 0 ，R = 2 8 ，b = 8 ／3 ，用四阶R u n g e —K u t t a 算法求解获得数据，采样间隔万= O ．0 1 ，丢弃过渡数据，取一组工变量生成的数据作为仿真数据，序列总长度为2 5 0 0 ，前2 0 0 0 个点作为训练样本，后5 0 0 个点作为测试样本对该序列相空『自J 重构时，嵌入维数取m = 3 ，延迟时间取f = 1 4 局域支持向量回归模型的核函数取为径向基核函数K ( x ，y ) = e x p ( 一I I x - y l l ；1 2 0 " 2 ) ，参数取为C = 1 0 6 ，s = 0 ．0 0 0 0 1 ，盯= 2 把该序列训练样本分为两部分，前1 0 0 0 个点作为第一部分，后1 0 0 0 个点作为第二部分用基于信息准则的方法选取局域线性预测法和局域支持向量机预测山东大学博士学位论文法的邻近点个数和邻域半径，参数，= 2 0 0 ，刀。

3 ，D = 8 ，仿真结果如图6 - l ～图6 _ 4 所示a)C(k)-k(b)C(O-r图6 ．1 对L o r e n z 系统工分量混沌序列，局域线性预测法的基于B I C 准则的邻近点个数和邻域半径( a ) C ( 助- k( b ) C ( r ) - r图6 ．2 对L o r e n z 系统X 分量混沌序列，局域支持向量机预测法的基于B I C 准则的邻近点个数和邻域半径1 0 3山东大学博士掌位论文∞C ( k ) - k渤C ( r ) - r图6 _ 3 对L o r e n z 系统工分量混沌序列，局域线性预测法的基于H a n n a n - Q u i n n 准则的邻近点个数窝邻域半径( a ) C ( k ) - k№) c ‘一中圈6 0 对L o r e n z 系统x 分量混沌序列，局域支持向量机预测法的基于H a n n a n - Q u i n n 准! I ! | j 的邻近点个数和邻域半径对该组L o r e n z 模型生成的仿真数据，从图6 ．1 和图6 ．3 可见，用B I C 准则和H a n n a n ．Q u i n n 准则选取的局域线性预测法的邻近点个数和邻域半径分别为k = 6 ，，= 1 ．2 ；从图6 ．2 和图鲋可见，用B I C 准则和H a n n a n - Q u i n n 准则选取的局域支持向量机预测法的邻近点个数和邻域半径分别为k 嚣2 8 ，厂= 3 ．2 。

可见局域支持向量枫预测法的邻近点个数和邻域半径大予髑域线性预测法的邻近点个数和邻域半径山东大学博士学位论文6 ．4 ．2 非线性时间序列局域预测结果为了分析用基于信息准则选取邻近点的局域预测法的预测性能，对该序列测试样本进行1 至1 0 步预测，用归一化均方误差( N M S E ) 作为评测标准，该单步预测的归一化均方误差定义为( 1 ／￡) 壹l 石( Ⅳ+ f + D 一～( Ⅳ+ f + 州2N M S E ( n =O ／m Z [ 工( f ) 一司2( 6 - 1 7 )其中T = 1 , 2 ，⋯，1 0 ，为预测步长，L 为外推预测数据长度仿真结果如表6 —1 所不表6 - l 对L o r e n z 系统X 分量混沌序列，局域预测法的归一化均方误差( N M S E )预测局域线性预测法局域支持向量机预测法步长k = - 6r = 1 ．2七= 2 8r = 3 ．2l6 ．0 1 0 7 ×1 0 " 81 ．5 4 0 7 ×1 0 ‘77 ．4 0 1 7 ×1 0 - 93 ．2 6 0 5 ×1 0 952 ．1 6 6 4 X1 0 - 63 ．9 6 7 8 ×1 0 。

68 ．6 9 7 5 ×1 0 - 71 ．5 1 0 9 ×1 0 - 61 01 ．5 9 4 1 ×1 0 ‘52 ．0 6 4 9X1 0 —58 ．0 1 2 1 ×1 0 - 61 ．2 1 8 0 X1 0 " 5从表6 ．1 可见，用基于信息准则的方法选取邻近点的局域线性预测法和局域支持向量机预测法都能够有效地预测混沌时间序列，一步和多步预测精度高，归一化均方误差( M 燃E ) 很小可见，用本节提出的方法选取邻近点的局域线性预测法和局域支持向量机预测法的一步和多步预测性能较好，在预测精度较高的条件下，计算量较小6 ．5 激光数据的局域预测混沌现象是自然界和社会中广泛存在的一种不规则运动，是一种由确定的非线性动力系统生成的复杂行为，非线性时间序列预测方法已广泛地应用于各个领域，如电力系统短期负荷预测、水文数据预测、边坡位移预测、交通流量预测等1 0 5山东大学博士学位论文局域预测方法是目前最常用的一种非线性时间序列预测方法本小节将应用局域预测方法来预测实测的激光数据该数据是由远红外激光器产生的实际测量数据，是S a n t aF c 时间序列竞赛的第A 组数据相空间重构是非线性时间序列分析的基础和首要步骤。

首先应用基于预测效果的选取嵌入维数的方法来确定该组实测激光数据的晟优嵌入维数，从而对该组数据相空问重构，实验结果如图6 ．5 所示从图6 ．5 可以看出当m = 8 时，C ( m ，d )的值开始非常缓慢的下降且足够小，因此该组实测激光数据的最优嵌入维数为8 该分析结果与文献【1 7 】的分析结果一致对该组序列相空间重构，嵌入维数m = 8 ，延迟时间f = 1 246B1 01 21 4n l图6 ．5 激光数据的C ( m ，力一m ( d - = - 2 )然后分别应用局域线性预测方法和局域支持向量机预测方法来预测该组实测激光数据由于邻近点个数是局域预测方法的重要参数之一，它对局域预测方法的预测精度有重要的影响因此本小节将先应用基于信息准则的局域预测法邻近点的选取方法来分别选取局域线性预测方法和局域支持向量机预测方法的邻近点个数和领域半径6 ．5 ．1 激光数据局域预测邻近点的选取S a n t aF e 时间序列竞赛的激光数据( D a t a A ) 的总长度为1 0 0 0 ，前9 0 0 个点作山东大学博士学位论文为训练样本，后1 0 0 个点作为测试样本把该序列训练样本分为两部分，前7 0 0个点作为第一部分，后2 0 0 个点作为第二部分。

应用基于信息准则的局域预测法邻近点的选取方法来分别选取局域线性预测方法和局域支持向量机预测方法的邻近点个数和领域半径，参数，= 1 0 0 ，甩 2 ，D = 3 ，实验结果如图6 —6 ～图6 - 9 所示其中局域支持向量回归模型的核函数取为径向基核函数，参数取为C = 1 0 6 ，s = 0 ．0 1 ．仃= 1 5 0 a ) C ∞舌( b ) C ( ，) ．，图6 - 6 对激光数据局域线性预测法的基于B I C 准则的邻近点个数和邻域半径( a ) C ( 七) - k( b ) C ( 厂) ·，．图6 - 7 对激光数据，局域支持向量机预测法的基于B I C 准则的邻近点个数和邻域半径山东大学博士学位论文《鑫> C 鳓素秭C ∞o r图6 ．8 对激光数据，局域线性预测法的基于H a n n a n - Q u i n n 准则的邻近点个数和邻域半径( a ) C ( k ) - k( b ) C ∽- r图6 - 9 对激光数据，越域支持向量机预测法的基予H a n n a n - Q u i n n 准则的邻近点个数和邻域半径对S a n t aF e 激光数据，从图6 - 6 和图6 —8 可见，用B I C 准则和H a n n a n —Q u i n n准则选取的局域线性预测法的邻近点个数和邻域半径分别为k = 1 6 ，，= 2 9 ；从图6 ．7 和图6 - 9 可见，用B I C 准则和H a n n a n —Q u i n n 准则选取的局域支持向量机预测法豹邻近点个数和邻域半径分别为k = 2 6 ，r = 3 8 。

6 ．5 ．2 激光数据的局域预测结果为了分析局域预测方法对该组实测激光数据的预测性能，对该序列测试样本1 0 8山东大学博士学位论文进行l 至l O 步预测，仿真结果如图6 - 1 0 和表6 ．2 所示 a ) 局域线性预测法的一步预测( b ) 局域线性预测法的一步预测的真实值与预测值，k = 1 6( C ) 局域支持向量机预测法的一步预测( d ) 局域支持向量机预测法的一步预测的真实值与预测值，k = 2 6误差，k = 2 6 ，N M S E = 6 ．0 3 3 3 ×1 0 4图6 - 1 0 局域预测法对S a n t aF e 激光数据的一步预测结果表6 - 2 对S a n t aF e 激光数据，局域预测法的归一化均方误差( N M S E )预测局域线性预测法局域支持向量机预测法步长k = - 1 6r = 2 9k = - 2 6r = 3 8l0 ．0 0 3 0O ．0 0 2 06 ．0 3 3 3 ×1 0 ’46 ．7 4 7 8X1 0 - 450 ．0 0 2 5O ．0 0 3 41 ．0 8 7 8 ×1 0 ‘39 ．9 1 7 4 ×1 0 ‘41 00 ．0 0 7 00 ．0 0 4 91 ．1 7 2 6 ×1 0 32 ．1 7 7 6 ×1 0 。

3山东大学博士学位论文从图6 - 1 0 和表6 ．2 可见，用基于信息准则的局域预测法邻近点的选取方法选取邻近点后的局域线性预测法和局域支持向量机预测法都能够有效地预测S a n t aF e 激光数据，一步和多步预测精度高，归一化均方误差( 删) 很小可见，邻近点优化后的局域线性预测法和局域支持向量机预测法的一步和多步预测性能较好，在预测精度较高的条件下，计算量较小6 ．6 本章小结邻近点个数是局域预测法的重要参数之一，它决定局域模型的预测精度和计算量本章基于信息准则，提出了一种确定局域预测法中邻近点个数的定量方法，并用L o r e n z 模型生成的典型非线性时间序列验证该方法的有效性实验结果表明用该方法选取邻近点的局域线性预测法和局域支持向量机预测法的一步和多步预测性能较好，在预测精度较高的条件下，计算量较小A k a i k e 等的信息准则是在传统的线性时间序列分析的研究中提出的，用于客观确定A R M A 模型的参数的个数我们这罩遇到的则是非线性时间序列分析问题，情况有很大的不同，但信息准则的基本思想和原则应当同样适用而且，由于混沌系统本身所存在的指数发散的性质，邻近点过多时，反而会降低预测效果，这更是一般的建模问题所没有的现象。

本章的工作，只是这方面的一个初步尝试，信息准则在非线性时间序列分析中的应用，还有许多问题有待进一步研究本章最后对实际数据一S a n t aF e 时间序列竞赛的激光数据进行局域预测应用基于预测效果的选取嵌入维数的方法来确定该组实测激光数据的最优嵌入维数应用基于信息准则的局域预测法邻近点的选取方法来确定局域线性预测法与局域支持向量机预测法的邻近点个数和邻域半径实验结果表明邻近点优化后的局域线性预测法和局域支持向量机预测法都能够有效地预测S a n t aF e 激光数据，一步和多步预测性能较好，在预测精度较高的条件下，计算量较小1 1 0山东大学博士学位论文第7 章非线性检测与生物医学信号的非线性分析7 ．1 概述非线性动力学近二十年的突飞猛进为相关学科的发展创造了契机，这一点在生物医学工程领域体现得尤为突出，因为该领域的研究对象和系统一般都具有很强的非线性性质非线性动力学的理论方法尤其是非线性时间序列分析技术的引入对传统处理方法提出了有力的挑战，使得人们对过去实验观察和记录到的大量复杂无规则的生物医学信号现在有了全新的理解和认识，它们不能够再像过去那样只被当作是随机过程，而完全可能是由非线性确定性机制所决定的混沌运动，这种观点随着研究的不断深入、范围的迅速扩大和分析处理方法的推陈出新而逐步得到证实。

现在，围绕着心率变异性、呼吸过程以及脑功能等方面研究复杂运动形式在这些生物医学系统或活动过程中所扮演的角色引起了科研工作者的极大兴趣和广泛注意，因为这些可能会为心脏和大脑某些疾病提供新的预防、诊断和治疗方案不同于机械电子装置中混沌的出现会引起系统性能降低而应当被抑制以消除它的消极影响，生物医学系统中混沌运动的存在预示着生物体本身更聪明和健康，因此有证据表明：混沌程度的降低而运动规则性的升高是心脏和脑发生病变的先兆混沌在生物医学系统活动中所起的积极作用正在渐渐被越来越多的人所认同并日益受到重视文献[ 1 3 5 ] 的研究发现在健康情况下心率变异信号表现为明显持续的混沌运动，而在充血性心脏衰竭的情况下心率变异信号表现为随机运动，非线性确定性成份明显降低研究复杂现象的非线性时间序列分析在过去的二十年里得到了非常广泛的研究[ 1 ．1 0 ] 很多方法被提出，来从实测时间序列中提取非线性信息该领域的重要的研究问题如下：时间序列是否由内在的非线性动力机制决定，时间序列是否由低维的吸引子产生等检测实测时间序列的非线性动力机制和确定时间序列的性质对实际数据是非常重要1 拘[ 1 2 0 —1 2 4 ] [ 1 1 1 ．1 1 7 ] 。

目前被广泛接受的检测策略如下：检验原始数据与某种规律模式的一致程度，通常通过原始数据与替代数据的某个统计量的比较来实t g [ 1 2 0 ．1 2 4 ] ；基于非线性短期可预测性能来推断时间序列中非山东大学博士学位论文线性确定性机制的存在【1 1 1 ．1 1 7 】但是大部分方法需要较长的时间序列且对噪声不稳定自从二十世纪八十年代早期，心率变异信号就引起了许多研究者的关注一致认为有节奏的心率是病态的健康的心脏受多种神经的和多种激素的输入的影响，表现为I 讯间隔的变异研究表明，心率变异信号中蕴含着有关心血管调节的大量信息，对这些信息的提取和分析可定量评估心脏交感、迷走神经的张力，两者的均衡性及其对心血管活动的影响当迷走神经功能受损时，心率变异性降低，易促发心肌缺血、心功能紊乱等心脏疾病这使得心率变异分析在指导临床、观察疗效和判断预后等方面具有广泛而重要的应用价值该领域的研究主要以发现或解释I 汛间隔变异模式的转变和病理学的关系为目标即使经过二十多年的研究，新的分析技术依然用来揭示R R 间隔时间序列的特性，包括统计分析、功率谱分析、非线性动力学理论鉴于自主神经的复杂控制原理以及其传导过程中存在延迟反馈结构，研究者普遍认为心脏节律存在着非线性的动力学机制。

心率变异信号的非线性特性已经引起研究者的广泛关注非线性时间序列分析理论已成为有力的分析心率变异信号的工具，如分形维数、L y a p u n o v 指数、信息熵与非线性预测效果已广泛应用于研究心率变异信号越来越多的研究表明心率信号的变异性可能与低维的控制机制有关，因此理解该机制显然是非常重要的心率和呼吸是潜在地相互作用的变量呼吸和心率的相互作用经常被观测到验证呼吸和心率的耦合作用越来越受到人们的关注7 ．2L y a p u n o v 指数动力系统发生混沌运动时，运动轨道处于相空间的低维子流形上，称作奇异吸引子，从外观上看，奇异吸引子具有分形自相似的结构特征，作为刻画这种结构特征的统计指标，分形维数定量地表示出奇异吸引子的分数维数的大小，因此是动力系统发生混沌的一个重要特征指数另一方面，混沌运动自身具有对于初始条件的极端敏感性，任何微小的扰动都会导致系统的长期行为发生巨烈改变借助S m a l eh o r s e s h o e 中的伸展( s t r e t c h i n g ) 操作可以直观地解释上述现象【1 6 4 】，而要是量化混沌对外界微弱扰动的这种敏感程度，就需要借助L y a p u n o v 指数。

1 1 2山东大学博士学位论文7 ．2 ．1 非线性动力系统的L y a p u n o v 指数设m 维相空间中动力系统F ：R 啊呻R ”j = F ( x )( 7 ．1 )对系统( 7 ．1 ) 扰动获得其变分方程为：翻= D F ( X ( t ) ) 6 X( 7 - 2 )其中矩阵D F 是系统，在点X ( t ) 处的J a c o b i 矩阵D F = a F ／O X ，又称为切空间( t a n g e n ts p a c e ) 或线性化空间，它是一个线性算子；而向量砑( f ) 是切空间中的t ) J l f i ] 量( t a n g e n tv e c t o r ) 设系统在初始时刻x ( o ) 受到的初始扰动为科( 0 ) ，在方程( 7 —2 ) 作用下经历时间t 后扰动变成砑( f ) ，则定义L y a p u n o v 指数：五( 川，o W ( O ) ) = l ⋯i m1 fl n 网P x ( o l l( 7 —3 )它表示出扰动砑随时间的平均指数变化率，其中I I ．I I 是关于某种R i e m a n n i a n测度的范数。

根据已有理论结果【1 捌，如果系统( 7 ．1 ) 是各态历经的，方程( 7 ．3 )中的极限存在且与初始条件x ( o ) 无关要计算L y a p u n o v 指数，根据式( 7 —3 ) 有：吲姆! t ·n ㈥l a x ( 0 ) ≈÷t - n 聪l a x ( t ·㈥5 x ( t ⋯·㈣㈣I x c ( tn 4 ，H I¨) I l l IH ) 00 科( f 1 ) 1 l) 0、’将式( 7 ．2 ) 代入( 7 ．4 ) 得：五= 扣号黼掣⋯·可[ D F ( X ( t o ) ) 6 X ( t o ) [n 5 ，令单位向量■胱- - - - r f ＼- I 、Iq5 獗珊并代入( 7 ．5 ) 式有山东大学博士学位论文兄= 丢副胛c 删，刁( 7 —6 )设单位正交矩阵巳是‘时刻点工( ‘) 处切空间的基底，它由单位正交向量彰组成，把( 7 —6 ) 式中的e i 用e l 代替得：五= 丢剁州删) ‘刁川，2 ' ⋯，m( 7 - 7 )它表示了切空间不同方向上单位扰动向量e ／随时间的平均指数变化率把乃按照从大到小的顺序依次排列得到L y a p u n o v 指数谱为：^ ≥如≥⋯≥厶对于由方程( 7 ．1 ) 描述的连续动力系统出现混沌运动时有：^ ≥如≥⋯≥^ ≥o ≥乃+ 2 ≥t + 3 ≥⋯≥丸其中乃¨= 0 ，即系统至少有一个L y a p u n o v 指数为零，因此混沌运动的标志就是动力系统的L y a p u n o v 指数大于零，而且研究表明只要最大L y a p u n o v 指数满足^ > 0 ，就可以判定发生了混沌运动。

在求得系统L y a p u n o v 指数谱的前提下，可以根据K a p l a n ．Y o r k e 猜想进一步估计混沌运动时奇异吸引子的分形维数设尸是满足式( 7 —8 ) 的最大整数：∑丑≥o( 7 ·8 )定义L y a p u n o v 维数D 工：卟P + 南喜^( 7 - 9 )根据K a p l a n ．Y o r k e 猜想有吸引子的维数L y a p u n o v 维数优等于其信息维数D l ：D I = D L( 7 - 1 0 )1 1 4山东大学博士学位论文7 ．2 ．2 根据时间序列计算L y a p u n o v 指数的原理和算法在动力系统方程( 7 ．1 ) 已知的时候，可以先求出方程( 7 ．2 ) 中的J a c o b i 矩阵，然后根据( 7 ．7 ) 式就可以较为方便地计算系统的L y a p u n o v 指数谱，其中切空间的基底需要采用G r a m ．S c h m i d t 单位正交化方法来形成单位正交向量如果有由实验记录到的时间序列来计算L y a p u n o v 指数，这时系统方程和J a c o b i 矩阵都将是未知的，给直接计算带来了很大困难，但是由于L y a p u n o v 指数是判定系统发生混沌运动的主要指标之一，因此如何利用非线性时间序列来计算未知动力系统的L y a p u n o v 指数成为非线性时间序列分析研究的重要问题。

7 ．2 ．2 ．1 基准轨道方法一种方法就是根据定义式( 7 ．3 ) 直接计算L y a p u n o v 指数，它是W o l f 等人提出的第一个计算时间序列L y a p u n o v 指数算法的思想基础【1 叨其基本过程为：取相空间中的一条观测轨道作为基准，在t 时刻一邻近点到基准轨道上该时刻点的距离用L ( t o ) 表示，到达t 时刻这两点间的距离成为L ’( ^ ) ；为了避免由于两点分别所在的两条轨道在奇异吸引子的折叠区域距离缩短，演化时间t 一f o 不能太长，为此在t ，时刻重新选取基准轨道外一邻近点使得它到基准轨道上该时刻点的距离L ( t )较d , R L ( t ) 与￡’( f ) 之间夹角q 很小，即L ( t ) 与￡’( ‘) 的方向几乎相同；在此基础上继续演化，到达f ：时刻新的两点间距离成为L ’( f ：) 如此反复下去，最后估计出最大L y a p u n o v 指数为：五= 去篓·n 等伊Ⅲ采用以上思想和过程一般只能估计出最大L y a p u n o v 指数来，而且是在系统处于混沌运动时估计值才较为准确，因为此时系统运动轨道确实存在一个明确的伸展方向。

由于在实际应用过程中需要确定合适的演化时间、夹角和距离等诸多参量，该算法的使用不很方便而受到较大的限制山东大学博士学位论文7 ．2 ．2 ．2 局部线性化方法另一种计算L y a p u n o v 指数的可行方法是由E c k m a n n 和R u e l l e 以及S a n o 和S a w a d a 等人分别独立地提出【4 2 】【1 矧其基本思想就是利用时间序列重构相空间并拟合得到不同时刻运动轨道的线性化空间即J a c o b i 矩阵D F ，然后再利用式( 7 ．7 )计算得到L y a p u n o v 指数谱，该思想方法为后序研究工作所广泛采用【1 6 】【2 8 】设有标量时间序列而，屯，⋯⋯，采用延时坐标方法重构相空间，获得吸引子轨道上的点为x ‘，⋯⋯，轨道上任取一点x ，作为参考，作为参考，它的邻域∈范围内点置满足：0 置一z8 ≤∈( 7 —1 2 )令Z = 置一墨，向量Z 是点五和x ，之间的位移向量经过时间演化，参考点x ，和它邻域∈内的点五分别成为Z + 点Z + 间的位移向量是珞在∈充分小时，位移向量E 和Z + 能够近似作为切空间中的切向量，它们的演化规律可以表示为：r + 。

A ，Z 或五+ ．一t + A ，( 五一以)( 7 - 1 3 )其中矩阵彳，就是式( 7 - 2 ) 中点X ，处的J a c o b i 矩阵D F ，它可以通过已有的位移向量l 和Z + 拟合得到由以上算法理论上可以计算得到L y a p u n o v 指数谱，即动力系统的所有L y a p u n o v 指数，但是由于负的L y a p u n o v 指数所对应方向的轨道收缩在一起，会给计算带来很大困难，既便数据量足够大精度足够高，其准确性和可靠性都大大低于正的L y a p u n o v 指数计算结果对于实验记录到的数据，再加上噪声的影响，一般只能较为准确地估计最大L y a p 吼o v 指数另外，由于相空间重构过程中选取的嵌入维数d 一般高于吸引子所在相空间内子流行的维数朋，因而在计算L y a p u n o v指数谱得到朋个真实L y a p u n o v 指数的同时还会得到d —m 个虚假指数，它们是在嵌入过程中引起的，P a r l i t z 提出采用时间序列逆序计算L y a p u n o v 指数谱可以判定出其中虚假L y a p u n o v 指数。

最后值得一提的是，要正确估计L y a p u n o v 指数，并1 1 6山东大学博士学位论文由此得到L y a p u n o v 维数D 工，所需要的时间序列长度Ⅳ为：仇= D l < l o g I oN( 7 —1 4 )它是估计关联维数D 2 所需数据量的平方根7 ．3 替代数据T h e i l e r 等人首次提出了替代数据( S U l T o g a t ed a t a ) 作为检验时间序列中非线性成份的方法【1 2 0 1 该方法的基本思想是首先指定某些特定的线性过程作为零假设( n u l lh y p o t h e s i s ) ，再实施具体算法由待检验的时间序列出发产生出既满足零假设条件又保留了原序列的诸如均值、方差或者功率谱等性质的替代数据，然后分别计算待检序列和替代数据的统计指标，最后根据原序列和替代数据统计指标的显著性差异水平在一定的置信度内决定接受或者拒绝假设条件如果零假设为真，则说明待检序列和替代数据的特征指标无显著差异，因而原来的实验数据与替代数据都是由相同的线性随机过程所产生；相反，零假设若是不成立，就意味着待检序列和替代数据的特征指标之间差异显著，由于排除了实验数据是由线性过程决定的可能性，因而数据当中必定包含有非线性成份在内。

替代数据是检验时间序列非线性因素的重要方法，尽管只采用该方法还不能确定引起时序非线性的内在机制，但是当它与某些专门的算法譬如非线性时间序列分析方法相互结合使用时【1 2 0 】【1 2 1 】，就可以使两者的潜在能力得以充分发挥，为检测时间序列非线性的产生机制提供客观依据，因而，替代数据方法自提出后就在有关非线性时间序列的研究中得到广泛迅速地采用下面研究四种零假设和生成相应替代数据的算法零假设1观测数据是由独立同分布的随机变量所产生在零假设1 中通常采用的随机变量分布形式是高斯型的，产生出的替代数据是时间独立的序列，它与实验数据具有相同的均值、方差和幅值分布，但是原来数据中任何时间关联都已被破坏要由实验数据生成符合零假设l 条件的替代数据，可以首先用伪随机数发生器形成高斯型白噪声，然后以噪声序列的秩或次序来重新排列实验数据，所得到的就是符合零假设l 并与实验数据具有相同的均值、1 1 7山东大学博士学位论文方差和幅值分布的替代数据显然零假设l 是最简单的情况零假设2观测数据是由O m s t e i n - U h l e n b e c k 过程所产生与零假设l 相比，零假设2 用色噪声代替了白噪声，产生的替代数据是具有最简单时间相关性的序列。

O r n s t e i n - U h l e n b e c k 过程可以由以下方程经过迭代褥到：x ( t ) = a o + a l x ( t - 1 ) + 盯8 0 )( 7 ·1 5 )其中窖( f > 是零均值、方差为l 的高斯自噪声，系数a o ，a ；和∥一起决定时间廖列的均值、方差和自相关时间其自相关函数为指数形式，令名= 一l o g a ，，则刖= 1 E [ x ( 丽t ) x ( t 下- r ) 丽] - E [ x ( t ) ] 2 = e 一州( 7 - l 6 )要由实验数据产生符合零假设2 的替代数据，应该先计算原始数据的均值∥、方差7 和t l 相关函数R ( I ) ，荐拟合方程( 7 - 1 5 ) 的系数a l = R ( I ) ，a o 嚣∥( 1 - a 1 ) ，∥2 = y ( 1 一瘁玲，最后迭代方程( 7 ．1 5 ) 就获德满足零假设条件2 并与实验数据有相同的均值、方差和自相关函数R ( 1 ) 的替代数据零假设3观测数据是由线性相关的离斯过程所产生与零假设2 相比，零假设3 是推广方程( 7 ．1 5 ) 而得到的，因为线性相关的高斯过程可以用下述自回归模型表示：《≠) ：露。

专主颤x ( t —k ) + O r e ( t ) ( 7 - 1 7 )k = i要获得与实验数据相同的均值、方差和自相关函数的替代数据，一种方法就是不断迭代方程( 7 ．1 7 ) ，但是在用实验数据拟合式( 7 - 1 7 ) 系数过程中产生的误差会导致最终迭代结果发敖，因此，为了保持算法稳定，必须寻找其它的算法过程为此，T h e i l e r 等入采用的是对F o u r i e r 变换结果的相位进行随机化处理的方法其过程是先对实验数据进行F o u r i e r 变换，设观测数据为x < 嚣) ，它的离敖F o u r i e r 变换是：撑～l石( 后) = ∑x ( n ) e x p ( 2 a f n k ／N )( 7 ·18 )n - - O山东大学博士学位论文得到各个频率处的复数幅值乘以e 印进行相位随机化处理：x ’( 七) = x ( k ) ·[ e o s 缈( k ) + f ·s i I l 缈( 七) 】( 7 —1 9 )其中伊从区间[ 0 , 2 n " 】随机地选取，且满足对称条件缈( 七) = 一缈( Ⅳ一七) 使得工’( 后) = 石’( Ⅳ一k ) ，以确保F o u r i e r 逆变换的结果是实数。

再进行F o u r i e r 逆变换：z b ) = 专蓑石职) e X p ( 一2 砌七／聊( 7 ．2 0 )x ’∽) 就是所要求的替代数据不难看出，生成的替代数据保留了原始数据的线性自相关函数，也就是说，替代数据与原始数据有相同的功率谱，而非线性自相关性被相位随机化处理去除了零假设4观测数据是由线性相关的高斯噪声经静态非线性变换所产生静态非线性变换是指观测或是测量函数具有非线性，静态或称单调指的是t 时刻观测结果x ( f ) 只取决于该时刻动力过程的取值y ( t ) ，而与以前时刻的值或者导数等无关设观测函数为h ，则：x ( f ) = J I z ( y ( f ) )( 7 - 2 1 )数据采样中的离散化就是观测函数具有非线性的情况，此时尽管产生时间序列抄( f ) ) 的动力学过程是线性相关的，但是观测到的时间序列{ J ( f ) ) 严格地说是非线性的与零假设4 对应的替代数据将不仅隐含原始数据的线性相关性质，更为重要的是由测量函数引起原始数据表现出的静态、单调非线性仍然能够为替代数据所反映比较动力学过程引起的非线性，观测函数带给时间序列的非线性体现在序列的幅值分布上，因此，由符合零假设4 的替代数据出发可以检验观测数据中的非线性成份是否源于测量函数还是动力过程本身。

要产生替代数据，第一步是用伪随机数发生器形成高斯噪声序列抄( f ) ) ，接下来以观测数据{ x ( f ) ) 的秩来重新排列噪声序列，得到的重排噪声序列遵循观测数据的排列顺序又具有高斯型幅值分布形式，然后对重排噪声序列进行F o u r i e r 变换和相位随机化处理获得新的序列抄’( f ) ) ，最后再按照序列{ J ，’( f ) ) 的秩来排列原始观测数据，就产生出了替代数据1 1 9山东大学博士学位论文显然，替代数据与原始序列的幅值分布形式相一致，因此，替代数据能够反映出原始序列的静态、单调非线性性质，与此同时，时闻序列◇《≠，) 和痧’( ≠) } 又具有相同的功率谱或是线性相关性，线性相关得以保持被隐含在产生替代数据的过程中事实上，在产生替代数据时雳到了时闻序列痧( f ) ；和◇’∞≥意味着：y ◇) = h - l ( 《f ) ) ( 7 - 2 2 )就是说观测函数h 是可逆的，它也是零假设4 的一部分内容与零假设3 和4 对应的替代数据在非线性时间序歹| 1 分析当中经常被用到，按照它们的产生过程分别被称作随机相位替代数据( r a n d o mp h a s es u r r o g a t e ，R e ) 和高额尺度重摊替代数据( G a u s s i a n - s e a l e ds h u f f l es u r r o g a t e , G S ) 。

7 4 预测效果方法预测效果方法是根据时间序列的短期可预测性来检测时间序列中非线性动力机制的方法，它根据菲线性时间序列预测方法的预测效果来检测时间序列中的非线性确定性成份文献【l1 7 1 提出的方法就属于预测效果方法，它适合禽噪声的小数据量序列把时间序列抄} ，行= 1 , 2 ，⋯，N 看作一个闭环动力结构，即输出以作为一个延迟输入在该框架下，用离敖V o l t e r r a 囱回归模型来得到预测时闻序列J ，∥：y T ' - - a o + 龟Y 一l + 口2 Y 一2 中⋯+ 露l Y ^ 一J } + 口I + l y l l．芒j( 7 —2 3 )+ 口枷Y 剃Y 柚+ ．．．+ 口剃y 幺= ∑‰％( 露)·V其中基Q 埘∽) ) 豳嵌入空间坐标( J ，¨，Y n - 2 , J ，¨，⋯，Y ¨) 的d 阶的所有截断的组合项组成，总维数为M = 礤d = ( 露+ d ) l 必露! o ! ) 因此，每一个模型国两个参数奄和d 决定，它们分别对应予嵌入维数和模型的非线性阶数( 例如d = l 为线性模型，d > l 为非线性模型) 系数a 可通过G r a m —S c h m i d t 过程来递归估计得到。

1 2 0线性或非线性模型的拟合程度可由归一化的均方误差来表征：山东大学博士学位论文^ ，∑[ 少∥一少2么一L 一，一一，雁J占似，d ) 2 = 型铲—一∑[ y y ] 2坩= ^ f + I( 7 - 2 4 )其中歹= 丙专西占( 朋，d ) 2 实际上是误差的归一化方差最优的模型{ 后叫，d 叫) 是使下列A k a i k e 信息准则最小化的模型C ( ，．) = l o g 占( ，．) + ，．／N其中，．∈【l ，M 】是参数为{ 七，d ) 的V o l t e r r a 多项式的项数 7 - 2 5 )计算过程如下：对每个时间序列，通过寻找使d = 1 时的C ( r ) 最小的k 妇，得到最优的线性模型增加k 和d > 1 的值并重复上述过程，得到最优的非线性模型同样的得到替代数据的最优线性模型和最优非线性模型其中替代数据与原始数据有相同的自相关函数和功率谱，是按照零假设3 产生的随机相位替代数据可得到四个模型及其标准差占啦l i n ，占咄n l ，占- E ．，l i n 和占盘如果d 叫> l ，表明原始数据存在非线性确定性机制当原始数据的最优非线性模型明显好于原始数据的最优线性模型和替代数据的最优线性模型和最优非线性模型时，即唆，鬈n 。

l ，‘l i n > 吃，非线性预测算子的优势建立了，既非线性预测模型的预测性能优于线性模型的预测性能，原始数据的可预测性优于替代数据的可预测性，零假设不成立，所以原始数据存在非线性确定性成份该检验方法是基于预测效果和替代数据的上述检验过程是基于单变量时问序列的，该过程可以推广到多变量时间序列例如，由两个变量序列Y 和z 构成的y 变量序列的预测模型如下：1 2 l6c - 二7d 卜Z吖6+d 卜yo盯而怕6¨¨k以铂口一+％～砣+ 以2+啦昧+¨¨∥y“％扣o ：卜乙一¨吨卜一∥订口“+以％+=比Hy山东大学博士学位论文7 ．5 粗粒化方法与条件熵L e h r m a n [ 1 2 5 ] 把粗粒化方法和条件熵应用于非线性时间序列分析．符号序列爷S ：，岛，⋯) 与时间序列饥，Y ：，y ，，⋯) 通过粗粒化方法【1 2 5 - 1 2 7 ] 建立联系，使与轨道相关的信息被适当编码该过程通过下面对相空间的划分来实现首先划分相空间，给定朋个符号，缈％，⋯，少剃) 和m + 1 个临界点切Z l ’．一，Z ) ，时间序列抄，，Y ：，Y ，，⋯) 通过下列规则被转化为一组符号序列S ，= 缈I ，当Z t < y ／< Z I + l( 7 - 2 7 )％付七的关系便于定义长度为￡的子序列的指针，即显然子序列沿着序列{ S 。

S ：，S ，，⋯) 从位置i 开始 7 - 2 8 )一个子序列由‘( 厶f ) 唯一表征如果气是出现‘的概率，那么信息熵可定义为E = 一! L ∑i x 气l n 气( 7 —2 9 )对某一信号为了得到临界点切) ，必须使该熵对所有的划分取最大值增加临界点的个数将增加信息但是对该符号分析的最优表达是已经选取足够数量的临界点，且进一步的增加临界点并不能增加信息熵对两个信号{ X ) 和{ y ) ，条件熵定义如下刚旧一击荨三莩P ( I r ／I x ) l n P ( 1 r ／l x )( 7 - 3 )其中，r 有如，x 类似的定义，P ( t ，／l x ) 是当变量y 为状态勺且变量x为状态‘时的概率，Ⅳ，为得到的不同k 值的总数量SI卜m￡∑纠=力乙，Lr，山东大学博士学位论文7 ．6 生物医学信号的非线性分析自从二十世纪八十年代早期，心率变异信号就引起了许多研究者的关注一致认为有节奏的心率是病态的健康的心脏受多种神经的和多种激素的输入的影响，表现为R R 间隔的变异即使经过二十多年的研究，新的分析技术依然用来揭示R R 间隔时间序列的特性该领域的研究主要以发现或解释R R 间隔变异模式的转变和病理学的关系为目标。

越来越多的研究表明心率信号的变异性可能与低维的控制机制有关，因此理解该机制显然是非常重要的心率和呼吸是潜在地相互作用的变量呼吸和心率的相互作用经常被观测到验证呼吸和心率的耦合作用越来越受到人们的关注本节分别使用单变量时间序列和多变量时间序列，应用预测效果非线性检测方法来检测生理时间序列的非线性确定性成份应用条件熵来分析心率、呼吸与血氧浓度的相互关系，其中如果信号起源于同一动力系统那么条件熵将在零点取到最小值分析同时测得的某病人的心率变异信号、呼吸信号和血氧浓度信号的时间序列一S a n t aF e 数据B 对每个测量的采样频率是2 H z ，因此相邻测量数据的时间问隔是0 ．5 秒图7 - 1 心率变异信号的c ( m ，d ) 一加( d = - 3 )山东大学博士学位论文应用基于预测效果的嵌入维数的选取方法来分析心率变异信号数据，使用1 0 0 0 个数据分析结果如图7 ．1 所示由图7 ．1 可见，当m = 3 时，C ( m ，d ) 取到最小值因此该时间序列的最优嵌入维数是3 因此该组心率变异信号主要受三个因素的影响应用预测效果非线性检测方法【1 1 7 】来分析心率变异信号和呼吸信号数据，分析结果如图7 - 2 所示。

从图7 - 2 可见d 叫> l 且‰n ／< ％l ／n ，％n ／，毒因此心率变异信号数据和呼吸信号数据中含有非线性确定性成分图7 _ 2I ne ( r ) ( a ) 心率变异信号，C b ) 呼吸信号，k - - 4 ( 原始数据口，替代数据一)使用两个变量的时问序列( 心率变异信号序列和呼吸信号序列) 代替单个变量的时间序列来分别建立心率变异信号序列与呼吸信号序列的模型，分析结果如图7 ．3 所示从图7 ．3 可以看出，使用两个变量序列建立模型的误差的归一化方差小于使用单个变量序列建立模型的，且下降趋势更明显因此心率变异信号与呼吸信号不是独立的，它们互相影响山东大学博士学位论文图7 - 3 同时使用心率变异信号序列和呼吸信号序列建立模型得到的I n 占( ，．) ( a ) 心率变异信号序列，( b ) 呼吸信号序列，k - - - 4 ( 原始数据口，替代数据一)尽管心率变异信号和呼吸信号在某些生理模型中是重要的耦合变量，但是仅仅从时间序列中很难看出这种相关作用需要适当的定量分析方法来确定变量的动力耦合统计量，如相关系数或相关函数，对生理变量的动力耦合通常不能提供明确的答案。

例如心率信号和呼吸信号的相关系数仅为0 ．1 2 互相关函数％( 刀) = E { X ( n ) Y ( n + n o ) ) 的值较低，其中X 和】，是两个被比较的变量( 心率变异信号和呼吸信号) ( 如图7 - 4 ( a ) 所示) 图7 4 ( a ) 自相关函数( b ) 呼吸信号序列与心率变异信号序列的条件熵，刀为延迟时间应用粗粒化方法，并计算条件熵E ( R e ／H r ) 的值，其中R e 和H r 分别代表呼山东大学博士学位论文吸信号和心率变异信号E ( R e ．／H r ) 在n O = 0 ( 图7 - 4 C o ) ) 处取到最小值，表明了这两个变量的动力耦合血氧浓度信号影响心率变异信号和呼吸信号，并被心率变异信号和呼吸信号影响它们是潜在的相互作用的变量这种相互作用包括延迟粗粒化方法适合该分析分别对血氧浓度信号和心率变异信号，对血氧浓度信号和呼吸信号，应用粗粒化分析方法，来寻找并验证该相互作用图7 - 5 ( a ) 血氧浓度信号与心率变异信号的条件熵，( b ) 血氧浓度信号与呼吸信号的条件熵血氧浓度信号与心率变异信号的条件熵( E ( B o ／H r ) ) 如图7 - 5 ( a ) 所示，其中B o为血氧浓度信号。

从图7 ．5 ( a ) 可以看出，条件熵在‰= 1 7 时取到最小值，表明该组心率变异信号以8 ．5 秒的延迟时间影响该组血氧浓度信号血氧浓度信号与呼吸信号的条件熵( E ( B o ／R e ) ) 如图7 - 5 ( b ) 所示从图7 - 5 ( b ) n - - I " 以看出，条件熵在‰= 7 8 时取到最小值，表明该组呼吸信号以3 9 秒的延迟时间影响该组血氧浓度信号7 ．7 本章小结本章首先从非线性时间序列分析角度出发研究了动力系统对微小扰动的敏感性，通过L y a p u n o v 指数对混沌所表现出的基本动力学特征给予定量地度量研究了L y a p u n o v 指数的定义和计算，研究了L y a p u n o v 指数谱的概念和性质，着重探山东大学博士学位论文讨了如何由标量时间序列根据邻近轨道指数发散率或者通过线性拟合轨道局域动力学关系来求出未知动力系统的最大或是全部L y a p u n o v 指数然后细致研究了作为检测时间序列非线性因素的重要方法一替代数据，给出了四种常用的具有不同针对性的零假设和相应的替代数据原理与产生算法接下来深入研究了检测非线性时间序列非线性确定性程度的预测效果法的基本思想、原理和算法实现。

然后又研究了应用于非线性时间序列分析的粗粒化方法和条件熵的原理和算法实现本章最后应用非线性时间序列分析方法分析了生物医学信号，得到以下结论：( 1 ) 心率变异信号主要受三个因素影响；( 2 ) 心率变异信号序列和呼吸信号序列中含有非线性确定性成份；( 3 ) 心率信变异信号与呼吸信号不是独立的，它们互相影响，心率变异信号和呼吸信号可看作起源于同一动力系统的两个变量；( 4 ) 心率变异信号以8 ．5 秒的延迟时间影响血氧浓度信号，呼吸信号以3 9 秒的延迟时间影响血氧浓度信号1 2 7山东大学博士学位论文8 ．1 概述第8 章网路流量的非线性预测网络流量的特性刻画与模型建立一直是网络技术研究中的一个热点问题一个具有精确刻画能力的模型的建立，对分析、理解和仿真网络的动态行为，对指导网络流量均衡控制方案的设计，对相关网络路由、交换和管理设备及其支撑软件的开发都具有基础性的重要意义国内外许多研究机构和研究人员对网络流量进行了大量的研究，提出了网络流量具有长相关特性( 1 0 n g - r a n g ed e p e n d e n c e ) 和自相似特性( s d f - s i m i l a r ) ，并基于此理论建立了许多符合特定环境网络流量的模型。

这些网络流量模型在目前的网络规划、设计、控制和管理中起到了重要的作用但是近几年来，通信与网络技术得到了飞速发展，其结果是带来了网络流量特性的重大变化，其主要表现为以下三个方面第一个方面是数据量的急剧增大因特网用户数以及每一个用户所产生的流量均是以指数形式增长数据量的急剧增大带来了两个问题一个是整个网络的统一性问题另一个是尺度问题，许多原有的网络协议和机制的设计尺度为运行于由几百或上千台计算机组成的网络，而实际网络中计算机的数量远远超出了此数量，为此数量的几百倍或上千倍第二个方面是服务功能的变化目前因特网提供越来越多的个性化服务项目，例如多媒体技术的应用是因特网为用户提供了诸如视频点播等多种新的应用服务，而保证个性化服务的传输机制，可以造成流量的个性化特性第三个方面是移动及无线网技术的发展目前大量的无线用户的接入，改变了原有的因特网流量特性，因为无线接入流量与传统流量在特性上有很大不同网络技术的发展为网络技术的研究提出了诸多新问题，就网络流量的特性刻画与模型建立等方面，主要有以下三方面的问题首先，网速的提高以及流量的增大将对网络流量的特性分析方法带来重大变化对于目前相对低速的互联网流量，其流量的统计分析方法都是基于对流量在山东大学博士学位论文大尺度上( 1 秒及以上) 特性的分析，其长相关和自相似特性也是基于大尺度上的分析结果而得出。

而现有的网络流量模型也是基于流量在大尺度上的特性分析结果而建立的因此对于速度为目前网速1 0 0 0 - - - 1 0 0 0 0 倍以上的高速网，1 秒及其以上的分析尺度显然是太大了，无法精确地刻画网络的特性因此，需要重点研究流量在小尺度( O ．1 s 及其以下) 和中尺度( O ．1 r l s ) 的特性现有的研究表明网络流量在小尺度和中尺度上的特性不同于其在大尺度上的特性f 1 3 6 】【1 3 7 】因此，原有的网络流量模型已不再适用，需要建立新的流量模型其次，多媒体的广泛应用为网络流量的特性分析与模型建立提出了新问题视频流具有不同于因特网流的自身特点，其特点决定了传统的分析方法和模型将无法满足其要求【1 3 引最后，移动性和无线网技术的实施会带来信号的多径衰落和频率选择性衰落等诸多问题从上面的分析可以看出，下一代互联网的实施将会使网络流量特性分析从大尺度转N 4 , 尺度上，同时，也会使原有的流量特性和原有的流量模型失去意义因此，基于高速网的网络流量的特性刻画与模型建立是一个迫切需要解决的问题此问题的解决，对下一代互联网的网络设计、管理及其运营，对网络流量均衡控制和网络服务质量保障方案的设计，对网络路由、交换和管理设备及其支撑软件的研制和开放都具有基础性的重要意义。

复杂性是网络信息传输的一个关键问题网络流量的复杂性表现为多种形式，例如长相关特性和自相似性现有研究表明不同尺度的网络流量表现出不同的性质网络流量的复杂性表明网络流量不能仅在现有的网络流量建模预测的框架内分析【1 4 2 —1 州应该把适合网络流量特性的新的信号处理理论与方法应用于网络流量的特性刻画、建模预测和控制等【1 3 8 Ⅱ1 3 9 1 基于非线性动力学理论的非线性时间序列分析也称混沌时间序列分析提供了处理非线性不规则时问序列新的方法和思路已有研究表明网络流量序列中存在非线性确定性成份‘1 4 0 】【1 4 1 1 本章将应用非线性时间序列分析方法来分析网络流量序列本章的研究将对网络流量有更加深入的认识1 2 9山东大学博士学位论文8 ．2 网络流量数据及预处理本章的网络流量数据取自L a w r e n c eB e r k e l e yL a b o r a t o r y 发布的T C P 流量数据，这些数据包括了该实验室与世界其它地方通过广域网进行联系的数据，本章使用数据包D E C ．P k t l ，该流量为1 小时的广域网T C P 流量，通信双方为D i g i t a lE q u i p m e n tC o r p o r a t i o n 与世界其它地方，时间精度为l m s 【1 4 5 ] 。

对D E C —P k t l ，聚类时间为l s 时，既l s 时间间隔内包到达的数量，对应的网络流量数据如图8 ．1 所示；聚类时间为O ．1 s 时，既O ．1 s 时间间隔内包到达的数量，对应的网络流量数据如图8 ．2 所示本章将应用非线性时间序列分析方法来研究聚类时间为0 ．I s 的D E C ．P k t l 小尺度网络流量数据1 3 0图8 - 1 网络流量数据( 聚类时间为l s )山东大学博士学位论文通常网路流量可被看作规律过程和随机部分之后，其中随机部分通常被认为由高频噪声引起去除网路流量的噪声部分将简化网路流量序列的分析为了从随机噪声中分离出网路流量序列的规律部分，本章应用小波软阈值去噪方法来滤除网络流量数据的随机噪声成份众所周知小波具有分离分析信号的随机噪声成份的优良性能图8 ．3 表示了原始网路流量的部分序列、对应的小波去噪后的信号和滤除的随机噪声把去除噪声成份后的网路流量序列作为分析信号，并把分析序列归一化到区间[ - 1 ，1 】01 6 0 02 0 0 03 0 0 04 0 0 0r i C 0 06 咖7 0 0 0 唧9 0 0 01 0 0 0 0( a ) 原始网路流量序列( b ) 去噪后网路流量序列山东大学博士学位论文( C ) 去除的噪声部分图8 - 3 网络流量序列的小波软阈值去噪结果8 ．3 网络流量的相空间重构相空间重构是非线性时间序列分析的基础和首要步骤。

相空间重构的关键是其参数的选取本章应用基于预测效果的选取嵌入维数的方法来确定该组网路流量分析序列的最优嵌入维数，实验结果如图8 - 4 所示其中预测模型使用局域支持向量回归模型从图8 _ 4 可以看出当嵌入维数m = 5 时，C ( 聊) 的值取到最小值，因此该组网路流量序列的最优嵌入维数为5 对该组网路流量序列相空间重构，嵌入维数取为5 ，延迟时间取为1 1 3 2图8 _ 4 网路流量序列的C ( m ) - m山东大学博士学位论文然后应用局域支持向量机预测方法来预测该组网路流量序列由于邻近点个数是局域预测方法的重要参数之一，它对局域预测方法的预测精度有重要的影响因此本章将先应用基于信息准则的局域预测法邻近点的选取方法来选取局域支持向量机预测方法的邻近点个数8 ．4 网络流量局域预测邻近点的选取该组网路流量分析序列的总长度为3 6 0 0 0 个数据点为了表征局域支持向量机预测方法对该组网络流量序列的预测精度，把该组分析序列的前3 3 0 0 0 个点作为训练样本，后3 0 0 0 个点作为测试样本既用分析序列的前3 3 0 0 0 个点训练局域支持向量机回归模型，然后对后3 0 0 0 个点进行预测。

应用基于信息准则的局域预测法邻近点的选取方法来选取局域支持向量机预测方法的邻近点个数把该序列训练样本分为两部分，前3 1 0 0 0 个点作为第一部分，后2 0 0 0 个点作为第二部分参数，= 2 0 0 0 ，n 实验结果如图8 ．5 所示其中局域支持向量回归模型的核函数取为径向基核函数，参数取为C = 1 0 6 ，占= 0 ．0 0 0 0 1 ，盯= 1 0 从图8 —5 可见，对该组网路流量分析序列，用B I C 准则选取的局域支持向量机预测方法的邻近点个数为k = 1 6 图8 ．5 对网路流量序列，局域支持向量机预测方法的基于B I C 准则的邻近点个数( C ( k ) - k )山东大学博士学位论文8 ．5 网络流量的局域预测结果为了分析局域支持向量机预测方法对该组网路流量分析序列的预测性能，对该序列测试样本进行一步预测，用归一化均方误差( N M S E ) 作为评测标准，归一化均方误差定义为N M s E =( 1 ／￡) ∑LI 工( Ⅳ+ 沪～( Ⅳ+ 叫2( 1 ／忉∑[ x ( f ) 一司2( 8 - 1 )其中三为外推预测数据长度，此处L = 3 0 0 0 。

实验结果如图8 - 6 所示对比分析实际网络流量时间序列和局域支持向量机回归模型生成时间序列的统计特性，实验结果如图8 ．7 所示分析网络流量预测误差的统计特性，实验结果如图8 ．8 所示，其中横坐标为预测误差的值，纵坐标为预测误差的概率 a ) 网络流量的真实值㈣网络流量的预测值山东大学博士学位论文⋯l L“k1 1．¨上．一㈠¨f f l『I ⋯ll( c ) 网络流量的一步预测误差，N M S E = 1 ．0 1 3 5X1 0 - 2图8 - 6 局域支持向量机预测方法对网络流量序列的一步预测结果，k = - 1 6从图8 - 6 可见，邻近点优化后的局域支持向量机预测方法能够有效地预测网络流量序列，预测精度高，归一化均方误差很小，仅为1 ．0 1 3 5X1 0 之从图8 ．7 可见，局域支持向量机回归模型生成的时间序列具有与原网络流量时间序列非常近似的概率分布从图8 —8 可见，局域支持向量机预测方法对网络流量序列的预测误差绝大部分集中在0 值左右，绝对值较大的预测误差的概率非常小 a ) 真实值的概率分布( b ) 预测值的概率分布图8 - 7 网络流量真实值和预测值的概率分布山东大学博士学位论文8 ．6 本章小结L 一．．．‘．0 ．3 - 0 ．2 5 - 0 ．2 - 0 ．佰n ' - 0 ∞00 0 50 ' 0 1 50 2图8 _ 8 网络流量预测误差的概率分布本章系统地应用非线性时间序列分析方法来分析实测的网络流量序列。

本章的研究表明非线性技术的成功应用将使研究者们对网络流量数据的主要特征有更加深入的认识为了分离出网络流量的规律部分，应用小波软阈值去噪方法来滤除网络流量数据的随机噪声成份应用基于预测效果的选取嵌入维数的方法来确定网络流量序列的最优嵌入维数基于重构的相空间，应用局域支持向量机预测方法来预测网路流量序列并应用基于B I C 准则的局域预测法邻近点的选取方法来选取局域支持向量机回归模型的邻近点个数实验结果表明邻近点优化后的局域支持向量机预测方法能够有效地预测网络流量序列，预测精度高，归一化均方误差很小，预测误差绝大部分集中在0 值左右；局域支持向量机回归模型生成的时间序列具有与原网络流量时间序列相一致的概率分布山东大学博士学位论文第9 章总结和结论本篇论文的贡献归纳总结如下：1 ．深入系统地研究了非线性时间序列分析的基本理论和一般方法，归纳总结了非线性时间序列的基本问题和研究方面研究了包括相空间重构、嵌入定理、关联维数、局部动力学、L y a p u n o v 指数、替代数据等基本理论和它们的物理意义；研究了包括主分量分析、关联维数G P 算法、伪邻近点方法、非线性时间序列预测、全局预测、局域预测、自适应预测、神经网络模型、支持向量回归模型、预测效果、非线性检测、粗粒化方法、条件熵等非线性时间序列分析方法的原理和算法实现；从而构建了非线性时间序列分析的理论体系基础，并通过模型和仿真实验数据分析验证了理论和方法的科学性。

2 ．针对主分量分析方法本质上是一种线性方法，不适合分析非线性时间序列的问题，使用能反映非线性结构的四阶累积量函数代替相关函数构造矩阵，对主分量分析方法进行改进对比分析了用四阶累积量函数构造矩阵的多种方法，得到两种较好的构造矩阵的方法其中当四阶累积量函数的两个变量分别在矩阵的对角线方向和偏离对角线方向取值并且第三个变量取零时，得到的矩阵的分析效果最好并用此方法分析了典型非线性时间序列仿真实验结果表明此方法与传统的方法相比有以下优点：判定准则客观；对采样时间及噪声有很好的鲁棒性；适合小数据量：计算效率高3 ．根据非线性时间序列的短期可预测的性质，提出了基于预测效果的嵌入维数的选取方法来从标量时间序列确定最优嵌入维数该方法通过优化非线性自回归预测模型来确定最优嵌入维数，该模型由嵌入维数和非线性阶数两个参数来决定使用从六个典型混沌系统生成的六组非线性时间序列来分析验证该方法的性能仿真实验结果表明该方法与传统的方法相比有以下优点：适合于小数据量的情况；对噪声的稳定性好；计算效率高( 尤其当分析数据的长度为5 0 0 时，只需要几秒钟的时间) ：不受主观参数的影响4 ．基于B a y e s i a n 信息准则，提出了改进的局域线性预测方法来预测非线性时间序列。

该方法同时利用了非线性时间序列的时间相关性和空间相关性仿真结1 3 7山东大学博士学位论文果表明改进的局域线性预测方法能够有效地预测非线性时间序列，并且改进的局域线性预测方法的预测性能明显好于传统局域线性预测方法的预测性能5 ．在重构的相空间，提出了一种新的局域线性预测模型来预测非线性时间序列首次提出局域线性预测模型的参数可以取与相空间重构的参数不同的值基于模型的预测性能，提出了确定新的局域线性预测模型的参数的方法仿真结果表明：新的局域线性预测模型能够有效地预测非线性时间序列，并且新的局域线性预测模型的预测性能明显优于传统局域线性预测模型的预测性能6 ．提出了一种优化局域线性预测模型参数嵌入维数与延迟时间的方法为了降低计算复杂性，使用循环坐标法来优化参数，每次优化一个参数直至收敛仿真结果表明：优化后的局域线性预测方法能够有效地对非线性时间序列进行一步和多步预测，并且用该方法优化后的局域线性预测方法的一步和多步预测精度都明显好于传统局域线性预测方法的7 ．邻近点个数是局域预测方法的重要参数之一，它决定局域模型的预测精度和计算量基于信息准则，提出了选取局域预测方法中邻近点个数的定量方法并用此方法分析典型模型生成的非线性时间序列。

实验结果表明用该方法选取邻近点的局域线性预测方法和局域支持向量机预测方法的一步和多步预测性能较好，在预测精度较高的条件下，计算量较小8 ．应用局域预测方法来预测实测激光数据应用基于预测效果的选取嵌入维数的方法来确定该组实测激光数据的最优嵌入维数，从而对该组数据相空间重构应用基于信息准则的局域预测法邻近点的选取方法来确定局域预测方法的邻近点个数，然后对该组激光数据进行局域预测实验结果表明邻近点优化后的局域线性预测方法和局域支持向量机预测方法都能够有效地预测S a n t aF e 激光数据，一步和多步预测性能较好，预测精度高9 ．心率变异信号可被解释为由低维非线性动力机制控制验证呼吸和心率的耦合作用越来越受到人们的关注应用基于预测效果的嵌入维数的选取方法来确定心率变异信号的嵌入维数分别使用单变量时间序列和多变量时间序列，应用结合预测效果和替代数据的非线性检测方法来检测生理时间序列的非线性确定性成分应用粗粒化方法和条件熵来分析心率信号、呼吸信号与血氧浓度信号的相山东大学博士学位论文互关系实验结果表明：心率信号和呼吸信号中含有非线性确定性成份；心率信号、呼吸信号与血氧浓度信号不是独立的，它们互相影响，心率变异信号和呼吸信号可看作起源于同一动力系统的两个变量。

1 0 ．系统地应用非线性时间序列分析方法来分析实测的网络流量序列本论文的研究表明非线性技术的成功应用将使研究者们对网络流量的主要特征有更加深入的认识应用基于预测效果的选取嵌入维数的方法来确定网络流量序列的最优嵌入维数，从而对网络流量数据相空间重构应用局域支持向量机预测方法来预测网路流量序列并应用基于信息准则的局域预测法邻近点的选取方法来选取局域预测的邻近点个数实验结果表明邻近点优化后的局域支持向量机预测方法能够有效地预测网络流量序列，归一化均方误差很小，预测误差绝大部分集中在O值左右；局域支持向量机回归模型生成的时间序列具有与原网络流量时间序列相一致的概率分布1 3 9山东大学博士学位论文参考文献【l 】1H ．K a n t z , T ．S c h r e i b c r ．N o n l i n e a rt i m es e r i e sa n a l y s i s ( S e c o n dE d i t i o n ) 【M 】．C a m b r i d g e ：C a m b r i d g eU n i v e r s i t yP r e s s ，2 0 0 3 ．【2 】H ．D ．LA b a r b a n d ．A n a l y s i so fo b s e r v e dc h a o t i cd a t a 【M 】．N e wY o r k ：S p r i n g e r - V e r l a gP r e s s ，【3 】E ．O t t ，C ．C n ' e b o # ，J ．A ．Y o r k e ．C o p i n g 谢t l lc h a o s 【M 】．N e wY o r k ：W i l e yP r e s s ，1 9 9 4 ．【4 】九S ．W e i g e n d , N ．八G e r s h e n f e l d ．T i m es e r i e sp r e d i c t i o n ：f o r e c a s t i n gt h ef u t u r ea n du n d e r s t a n d i n gt h ep a s t 【M 】．N e wM e x i c o ：A d d i s o n - W e s l e y , 1 9 9 4 ．【5 】吕金虎，陆金安，陈士华．混沌时间序列分析及其应用[ M 】．武汉：武汉大学出版社，2 0 0 2 ．【6 】6N ．H ．P a d 黜t , J ．EC m t c h f i e l d , J ．D ．F a r m e r s ，e ta 1 ．G e o m e t r yf i ' o mat i m es e r i e s 【J 】．P h y sR e vL e t t ，1 9 8 0 ，4 5 ：7 1 2 - 7 1 6 ．【7 】7ET a k e n s ．D e t e c t i n gs t r a n g ea t t r a c t o r si nf l u i dt u r b u l e n c e ．D ．R a n d ．L ．S ．Y o u n g ．D y n a m i c a ls y s t e m sa n dt u r b u l e n c e ．B e r l i n ：S p r i n g e r ，19 81 ：3 6 6 - 3 81 ．【8 】T ．S a u e r , J ．A ．Y o r k e ，M ．C a s d a g l i ．E m b e d o l o g y 【J 】．J ．S t a t ．P h y s ．，1 9 9 1 ，6 5 ：5 7 9 ．【9 】9T ．S a u e r ．R e c o n s t r u c t i o no fd y n a m i c a ls y s t e m sf i ' o mi n t e r s p i k ei n t e r v a l s 【J 】．P h y s ．R e v ．L e t t ．，1 9 9 4 ，7 2 ，3 8 1 1 ．【l0 】PG r a s s b e r g e r , I ．P r o c a c c i a ．M e a s u r i n gt h es t r a n g e n e s so fs t r a n g eA t t r a c t o r s 【J 】．P h y s i c aD ，1 9 8 3 ．9 ：1 9 8 ·2 0 8 ．【11 】P ．G r a s s b e r g e r , I ．P r o c a c c i a ．C h a r a c t e r i s a t i o no fs t r a n g ea t t r a c t o r s 【J 】．P h y sR e vL e t t ，1 9 8 3 ，5 0 ：3 4 6 ．3 4 9 ．【l2 】J ．一RE c k m a n na n dD ．R u e l l e ．F u n d a m e n t a ll i m i t a t i o n sf o re s t i m a t i n gd i m e n s i o n sa n dL y a p u n o ve x p o n e n t si nd y n a m i c a ls y s t e m s 【J 】．P h y s i c aD ，1 9 9 2 ，5 6 ：18 5 ．【l3 】S ．- Z ．H o n ga n dS ．- M ．H o n g ．A na m e n d m e n tt ot h ef u n d a m e n t a ll i m i t so nd i m e n s i o nc a l c u l a t i o n s 【J 】．F r a c t a l s ，1 9 9 4 ，2 ( 1 ) ：1 2 3 —1 2 5 ．【1 4 】J ．- P ．E c k m a n na n dD ．R u e l l e ．E r g o d i ct h e o r yo fc h a o sa n ds t r a n g ea t t r a c t o r s 【J 】．R e v ．M o d ．P h y s ．，1 9 8 5 ，5 7 ：6 1 7 ．【l5 】P ．C v i t a n o v i c ．I n v a r i a n tm e a s u r e m e n to fs t r a n g es e t si nt e r m so fc y c l e s 【J 】．P h y s ．R e v ．L e t t ．，1 4 01 9 8 8 ．6 l ：Z 7 2 9 ．【1 6 】M ．K e n n e l ，艮B r o w n , H ．D ．I ．A b a r b a n e l ．D e t e r m i n i n ge m b e d d i n gd i m e n s i o nf o rp h a s e舢璐帅c t i o nu s i n gag e o m e t r i c a lr e c o n s t r u c t i o n 【J 】．P h y sR e v A , 1 9 9 2 ，4 5 ：3 4 0 3 ·3 4 1 1 ·[ 1 7 1L ．C a o ．P r a e t i c a lm e t h o df o rd e t e r m i n i n gt h em i n i m t me m b e d d i n gd i m e n s i o no fas c a l a rt i m es e r i e s 忉．P h y s i c aD ，1 9 9 7 ，11 0 ，4 3 - 5 0 ．【l8 】S ．黜l m d a l l i ，J ．- F ．C a s t i e s ，EB o u c h a r a , D ．M o t t e t ．I n f l u e n c eo fn o i s eO nt h ea v e r a g e df a l s en e i g h b o r sm e t h o df o ra m l y z m gt i m es e r i e s 【J 】．P h y s i c aD ，2 0 0 6 ，2 2 3 ，2 2 9 - 2 4 1 ·【l9 】L ．T ．P o r , S ．P u t h u s s e r y p a d y ．P o s t p r o c e s s i n gm e t h o d sf o rf i n d i n gt h ee m b e d d i n gd i m e n s i o no fc h a o t i ct i m es e r i e s 【J 】．P h y s ．R e v ．E ，2 0 0 5 ，7 2 ( 2 ) ：0 2 7 2 0 4 ．【2 0 】D ．S ．B r o o m h e a d , GP ．K i n g ．E x t r a c t i n gq u a l i t a t i v ed y n a m i c sf r o me x p e r i m e n t a ld a t a 【J 】·P h y s i c aD ，1 9 8 6 ，2 0 ：2 1 7 - 2 3 6 ．【2 l 】M ．城Z ．W a n g ，Z ．F e n g ．Am e t h o do fe m b e d d i n gd i m e n s i o ne s t i m a t i o nb a s e dO i ls y m p l ∞t i cg e o m e t r y [ f 1 ．P h y s i c sL e t t e r a A ，2 0 0 2 ，3 0 3 ( 2 —3 ) ：1 7 9 ·1 8 9 ·【2 2 】A ．I ．M e e s ，P ．E ．R a p p ，L ．S ．J e n n i n g s ．S i n g u l a r - v a l u ed e c o m p o s i t i o na n de m b e d d i n gd i m e n s i o n【J 】．P h y s ．R e v ．A ，19 8 7 ，3 6 ：3 4 0 ．【2 3 】A ．M ．F r a s e r ．R e c o n s t r u c t i n ga t t r a c t o r sf r o ms c a l a rt i m es e r i e s ：ac o m p a r i s o no fs i n g u l a rs ) ，s t 锄a n dr e d u n d a n c yc r i t e r i a 【J 】．P h y s i c aD ，19 8 9 ，3 4 ：3 91 ·【2 4 】kS h i n ，kH a m m o n d ，P ．R ．W h i t e ．I t e r a t i v eS V Dm e t h o df o rn o i s er e d u c t i o no fl o w t d i m e I l s i o m lc h a o t i ct i m es e r i e s 【J 】．M e c h a ．S y s t ．a n dS i g n ．P r o c e ．，1 9 9 9 ，1 3 ( 1 ) ：11 5 —1 2 4 ·1 2 5 ] B ．B ．M a n d e l b r o t ．T h eF r a c t a lG e o m e t r yo f N a t u r e 【M 】．F r e e m a n ：S a nF r a n c i s c o ，1 9 8 2 ·f 2 6 】D ．R u e l l ea n dF ．T a k c n s ．O nt h en a t u r eo ft u r b u l e n c e 【J ] ．C o m m u n ．M a t h ．P h y s ．，19 71 ，2 0 ：16 7 ·[ 2 7 1M 。

C a s d a g l i ，S ．E u b a n k ，J ．D ．F a r m e r , a n dJ ．EG i b s o n ·S t a t es p a c er e c o n s t r u c t i o n1 1 1t h ep r e s e n c eo f n o i s e 【J 】．P h y s i c aD ，1 9 9 1 ，51 ：5 2 ．[ 2 8 1J ．F ．G i b s o n ．J ．D ．F a r m e r , M ．C a s d a g l i ，a n dS ．E u b a n k ．A na n a l y t i ca p p r o a c ht op r a c t i c a l8 ‘a ‘es p a c er e c o n s t r u c t i o n [ J 1 ．P h y s i c aD ，1 9 9 2 ，5 7 ：1 ·【2 9 】A ．M ．F r a s e ra n dH ．L ．S w i n n e y ．I n d e p e n d e n tc o o r d i n a t e sf o rs t r a n g ea t t r a c t o r sf r o mm u t u a li n f o r m a t i o n 【J 】．P h y s ．R e v ．A ，1 9 8 6 ，3 3 ：113 4 ．【3 0 】A ．M ．A l b a n o ，J ．M u e n c h ，C ．S c h w a r t z ，A ．I ．M e e s ，a n dEE ．R a p p ·S i n g u l a r - v a l u e1 4 l山东大学博士学位论文d e c o m p o s i t i o na n dt h eG - r 嬲s b e r g e r - P r o c a c c i aa l g o r i t h m 川．P h y s ．R e v ．A1 9 8 8 ，3 8 ：3 0 1 7 ．【3l 】M ．ZR o s e n s t e i n ，J ．J ．C o l l i n s ，a n dC ．J ．D ．L u c a ．Ap r a c t i c a lm e t h o df o rc a l c u l a t i n gl a r g e s tL y a p u n o ve x p o n e n t sf r o ms m a l ld a t as t e s 忉．P h ) l S i c aD ，1 9 9 3 ，6 5 ：I17 ．【3 2 】A ．M ．F r a s e ra n dH ．LS w i n n e y ．I n d e p e n d e n tc o o r d i n a t e sf o rs t r a n g ea t t r a c t o r s 丘．0 mm u t u a li n f o r m a t i o n 【J 】．P h y s ．R e v ．～1 9 8 6 ，3 3 ：11 3 4 ．【3 3 】J ·M ．M a r t i n e r i e ，九M ．A l b a n o ，A ．I ．M e e s ，a n dP ．E ．R a p p ．M u t u a li n f o r m a t i o n , s t r a n g ea t t r a c t o r s ，a n dt h eo p t i m a le s t i m a t i o no f d i m e n s i o n 【J 】．P h y s ．R c v ．A1 9 9 2 ，4 5 ：7 0 5 8 ．【3 4 】M ·B ．K e n n e l ，R ．B r o w n ，a n dH ．D ．I ．A b a r b a n e l ．D e t e r m i n i n ge m b e d d i n gd i m e n s i o nf o rp h a s e - s p a c er e c o n s t r u c t i o nu s i n gag e o m e t r i c a lc o n s t r u c t i o n 【J 】．P h y s ．R e v ．A , 19 9 2 ，4 5 ，3 4 0 3 ．【3 5 】A ·M ．F r a s e r ．I n f o r m a t i o na n de n t r o p yi ns t r a n g ea t t r a c t o r s 啡I E E ET r a m ．I n f ．T h e o r yr r , 1 9 8 9 ，3 5 ：2 4 5 ，．【3 6 ] H ．W h i t n e y ．D i f f e r e n t i a b l em a n i f o l d s 【J 】．A 衄．M a t h ．，19 3 6 ，3 7 ：6 4 5 ．【3 7 】I LH e g g e ra n dH ．K a n t z ．I m p r o v e df a l s en e a r e s tn e i g h b o rm e t h o dt od e t e c td e t e r m i n i 锄i nt i m es e r i e sd a t a 【J 】．P h y s ．R o y ．E ，1 9 9 9 ，6 0 ( 4 ) ：4 9 7 0 - 4 9 7 3 ．【3 8 】J ．D ．F a r m e r , E ．O t ta n dJ ．A ．Y o r k e ．T h ed i m e n s i o no f c h a o t i ca t t r a c t o r s 田．P h y s i c aD ，1 9 8 3 ，7 ( 2 ) ：1 5 3 —1 8 0 ．【3 9 】H ．S ．G r e e n s i d e ，A ．W o l f , J ．S w i f t ，a n dTP i g n a t a r o ．I m p r a c t i c a l i t yo fab o x - c o u n t i n ga l g o r i t h mf o rc a l c u l a t i n gt h ed i m e n s i o n a l i t yo fs t r a n g ea t t r a c t o r s 【J 】．P h y s ．R e v ．A ，19 8 2 ，2 5 ( 6 ) ：3 4 5 3 - 3 4 5 6 ．【4 0 】P ．G r a s s b e r g e r ．G e n e r a l i z e dd i m e n s i o n so fs t r a n g ea t t r a c t o r s 【J 】．P S y s ．L e t t ．气19 8 3 ，9 7 ( 3 ) ：2 2 7 —2 3 3 ．[ 411H ．GE ．H e n t s c h e la n dI ．P r o c a c c i a ．T h ei n f i n i t en u m b e ro fg e n e r a l i z e dd i m e n s i o n so ff r a c m l sa n ds t r a n g ea t t r a c t o r s 【J 】．P h y s i c aD ，19 8 3 ，8 ( 3 ) ：4 3 5 - 4 4 4 ．[ 4 2 】M ．D i n g ，C ．G r e b o 百，E ．O R ，T ：S a n e r , a n dJ ．A ．Y o r k e ．P l a t e a uo n s e tf o rc o r r e l a t i o nd i I n e n s i o n ：W h e nd o e si to c c u r ? 【J 1 ．P h y s ．R e v ．L e t t ．，19 9 3 ，7 0 ( 2 5 ) ：3 8 7 2 —3 8 7 5 ．【4 3 】A ．＆O s b o r n ea n dA ．P r o v e n z a l e ．F i n i t ec o r r e l a t i o nd i m e n s i o nf o rs t o c h a s t i cs y s t e m sw i t hp o w e r - l a ws p e c t r a 【J 】．P h y s i c aD ，19 8 9 ，3 5 ( 3 ) ：3 5 7 ．3 81 ．m 】P ．E ．R a p p ，A ．M ．A l b a n o ，T ．I ．S c h m a h ，L ．A ．F a r w e l l ．F i l t e r e dn o i s ec a nm i m i c1 4 2l o w - d i m e n s i o n a lc h a o t i ca t t r a c t o r s 【J 】．P h y s ．R e v ．E ，19 9 3 ，4 7 ( 4 ) ：2 2 8 9 - - 2 2 9 7 ．山东大学博士学位论文[ 4 5 】M ．A t a e i ，B ．L o h m a n n ，A ．K h a k i ·s e d i g ha n dC ．L u e a s ．M o d e lb a s e dm e t h o df o re s t i m a t i n ga na t t r a c t o rd i m e n s i o nf r o mt m i ／m u l t i v a r i a t ec h a o t i ct i m es e r i e s 、析t ha p p l i c a t i o nt oB r e m e nc l i m a t i cd y n a m i c s 【J 】．C h a o s ，S o l i t o n s & F r a c t a l s ，2 0 0 4 ，1 9 ( 5 ) ：1 1 3 1 —1 1 3 9 ．[ 4 6 】N ．T a n a k a ，H ．O k a m o t oa n dM ．N a i t o ．E s t i m a t i n gt h ea c t i v ed i m e n s i o no ft h ed y n a m i c si nat i m es e r i e sb a s e do n 姐i n f o r m a t i o nc r i t e r i o n 【J 】．P h y s i c aD ，2 0 0 1 ，1 5 8 ( 1 ) ：1 9 ·3 1 ．【4 7 】RH e g g e r , HK a n t z ，TS c h r c i b e r ．P r a c t i c a li m p l e m e n t a t i o no fn o n l i n e a rt i m es e r i e sm e t h o d s ：T h eT I S E A Np a c k a g e 叨．C h a o s ，19 9 9 ，9 ( 2 ) ：413 - 4 3 5 ．[ 4 8 】E ．N ．L o r e n z ．D e t e r m i n i s t i cn o n p e r i o d i cf l o w 【J 】．J ．A t m o s ．S c i ．，1 9 6 3 ，2 0 ：1 3 0 ．[ 4 9 】E ．O t t ，C ．G r e b o g ia n dJ ．A ．Y o r k e ．C o n t r o l l i n gc h a o s 【J 】．P h ) r s ．R e v ．L e t t ．，1 9 9 0 ，6 4 ：11 9 6 ．【5 0 】B ．EB e z r u c h k o ，A ．S ．K a r a v a c v , VLP o n o m a r e n k o ，e ta 1 ．R e c o n s t r u c t i o no ft i m e - d e l a ys y s t e m sf r o mc h a o t i ct i m es e r i e s 叨．P h y s ．R e v ．E ，2 0 01 ，6 4 ，l - 3 ．【5l 】VI ．P o n o m a r e n k o ，M ．D ．P r o k h o r o v ．E x t r a c t i n gi n f o r m a t i o nm a s k e db yt h ec h a o t i cs i g n a lo fat i m e - d e l a ys y s t e m 【J 】．P h y s ．R e v ．E ，2 0 0 2 ，6 6 ，3 - 5 ．【5 2 】H ．C ．L i ，J ．S ．Z h a n ga n dX ．C ．X i a o ．N e u r a lV o i t e r r af i l t e rf o rc h a o t i ct i m es e r i e sp r e d i c t i o n 【J 】．C h i n ．P h y s ．，2 0 0 5 ，1 4 ( 1 1 ) ：2 1 8 1 - 2 1 8 8 ．【5 3 】肖方红，阎桂荣，韩宇航．混沌时序相空间重构参数确定的信息论方法【J 】．物理学报，2 0 0 5 ，5 4 ( 2 ) ：5 5 0 —5 5 6 ．【5 4 】M ．C a s d a g l i ．N o n l i n e a rp r e d i c t i o no fc h a o t i ct i m es e r i e s 【J 】．P h y s i c aD ，19 8 9 ，3 5 ：3 3 5 - 3 5 6 ．【5 5 】A ．G a l k a ，T ．M a a 8a n dGP f i s t e r ．E s t i m a t i n gt h ed i m e n s i o no fh i g h - d i m e n s i o n a la t t r a c t o r s ：Ac o m p a r i s o nb e t w e e nt w oa l g o r i t h m s 【J 】．P h y s i c aD ，1 9 9 8 ，121 ( 4 ) ：2 3 7 - 2 51 ．【5 6 】kJ u d da n dA ．M e e s ．E m b e d d i n ga sam o d e l i n gp r o b l e m 【J 】．P h y s i c aD ，1 9 9 8 ，1 2 0 ( 3 ) ：2 7 3 —2 8 6 ．【5 7 】S ．H e i d a r i ，C ．L ．N i k i a s ．C h a r a c t e r i z i n gc h a o t i ca t t r a c t o r su s i n gf o u r t h - o r d e ro f f - d i a g o n a lc u m u l a n ts l i c e s 【A 】．1 9 9 3C o n f e r e n c eR e c o r do fT h eT w e n t y - S e v e n t hA s i l o m a rC o n f e r e n c eo nS i g n a l sS y s t e m sa n dC o m p u t e r s 【C 】．P a c i f i cG r o v e ( C A ，U S A ) ：I E E EC o m p u t e rS o c i e t yP r e s s ．1 9 9 3 ，1 ：4 6 6 - 4 7 0 ．【5 8 】C ．S c h i t t e n k o p f , GD e c o ．T e s t i n gn o n l i n e a rM a r k o v i a nh y p o t h e s e si nd y n a m i c a ls y s t e m s 【J ] ．P h y s i c aD ，1 9 9 7 ，1 0 4 ：6 1 - 7 4 ．【5 9 】袁坚，肖先赐．非线性时间序列的高阶奇异谱分析【J 】．物理学报，1 9 9 8 ，4 7 ( 6 ) ：8 9 8 ．9 0 5 ．1 4 3山东大学博士学位论文【6 0 】C ．LN i k i a s ，J ．M ．M e n d e l ．S i g n a lp r o c e s s i n gw i t hh i g h e r - o r d e rs p ∞妇川．I E E ES i g n a l[ 6 1 1 张贤达．时间序列分析一高阶统计量方法【M 】．北京：清华大学出版社，1 9 9 6 ．[ 6 2 】H ．A k a i k e ．A Rm o d e lf i t t i n gf o r c o n t r o l 【J 】．A n n ．I m t ．S t a t i s t ．M a t h ．，1 9 7 1 ，2 3 ：1 6 3 - 1 8 0 ．【6 3 】H ．A k a j k e ．An e wl o o ka ts t a t i s t i c a lm o d e li d e n t i f i c a t i o n 【J 】．I E E ET r a m ．A u t o ．C o n t r ．，1 9 7 4 ，1 9 ：7 1 6 ．畔】R ．S h i b a t a ．S e l e c t i o no ft h eo r d e ro fa na u t o r c g r e s s i o nm o d e lb yA k a i k ei n f o r m a t i o nc r i t e r i o n【J 】．B i o m e t r i k a ，1 9 7 6 ，6 3 ：11 7 —1 2 6 ．【6 5 】H ．A k a i k e ．AB a y e s i a na n a l y s i so ft h em i n i m u mA I Cp 砌捌l 鹏阴．A n n ．I n s t ．S t a t i s t ．M a t h ．，1 9 7 8 ，3 0 ：9 - 1 4 ．【6 6 】H ．A k a i k e ．AB a y e s i a ne x t e n s i o no ft h em i n i m u mA I Cp r o c e d u 托o fa u t o r e g r e s s i v em o d e lf i t t i n g【J 】．B i o m e t r i k a , 19 7 9 ，6 6 ：2 3 7 ·2 4 2 ．【6 7 】E ．J ．H a n n a na n dB ．G ．Q u i n n ．T h ed e t e r m i n a t i o no ft h eo r d e ro fa na u t o r e g r e 髓i o n 【J 】．J ．R o y ．S t a t i s t ．S o c ．，1 9 7 9 ，4 1 ：1 9 0 - 1 9 5 ．【6 8 】A ．C h e n ，E ．J ．H a n n a h ．A u t o c o r r e l a t i o n ，a u t o r c g r e s s i o na n da u t o r e g r e s s i v ea p p r o x i m a t i o n 【J 】．A n n ．S t a t i s t ．，19 8 2 ，l0 ( 3 ) ：9 2 6 - 9 3 6 ．【6 9 】张贤达．现代信号处理( 第二版) 【M 】．北京：清华大学出版社，2 0 0 3 ．【7 0 ] S ．H a y k i n ．A d a p t i v ef i l t e rt h e o r y ．( 3 r de d ．) ( E n g l e w o o dc l i f f s ，N e wY o r k ：P r e n t i c e - H a l l ，19 9 6 ) ．【71 】S ．C ．D o u g l a s ，H ．YM e n g ．N o r m a l i z e dd a t an o n l i n e a r i t i e sf o rL M Sa d a p t a t i o n 【J 】．I E E ET r a m ．o nS i g n a lP r o c e s s i n g ，19 9 4 ，4 2 ( 6 ) ，13 5 2 - 13 6 5 ．【7 2 】S ．K a l l u r i ，GR ．A r c e ．Ag e n e r a lc l a s so fn o n l i n e a rn o r m a l i z e da d a p t i v ef i l t e r i n ga l g o r i t h m s 【J 】．I E E ET r a m ．o nS i g n a lP r o c e s s i n g ，19 9 9 ，4 7 ( 8 ) ，2 2 6 2 —2 2 7 2 ．【7 3 】郭双冰，肖先赐．混沌时间序列的V o l t e r r a 自适应预测滤波器定阶[ J 】．电子与信息学报，2 0 0 2 ，2 4 ( 1 0 ) ，1 3 3 4 ·1 3 4 0 ．[ 7 4 1M ．C a s d a g l i ．N o n l i n e a rp r e d i c t i o no f c h a o t i ct i m es e r i e s 【J 】．P h y s ．D ，1 9 8 9 ，3 5 ( 3 ) ：3 3 5 —3 5 6 ．【7 5 】N ．A ．G e r s h e n f e l d ，A ．S ．W c i g e n d , T h ef u t u r eo ft i m es e r i e s ：l e a r n i n ga n du n d e r s t a n d i n g ，i n ：1 4 4T i m es e r i e sp r e d i c t i o n ：f o r e c a s t i n gt h ef u t u r ea n du n d e r s t a n d i n gt h ep a s t ，e d s ．W e i g e n dAS ，G e r s h e n f e l dNA ，R e a d i n g ，M A ：A d d i s o n - W e s l e y ( 19 9 4 )山东大学博士学位论文【7 6 ] KJ u d da n dA ．M e 器．O ns e l e c t i n gm o d e l sf o rn o n l i n e a rt i m es e r i e sf J 】．P h y s ．D ，19 9 5 ，8 2 ( 4 ) ：4 2 6 - 4 4 4 ．【7 7 】八1 LB a r t o n ．U n i v e r s a la p p r o x i m a t i o nb o u n d sf o rs u p e r p o s i t i o n so fas i g m o i d a lf u n c t i o n 【J 】．I E E ET r a n s ．O nI n f o r m a t i o nT h e o r y , 19 9 3 ，3 9 ：9 3 0 ．【7 8 】H ．T o n g ．C h a o sa n df o r e c a s t i n g 【M 】．S i n g a p o r e ：W o r l dS c i e n t i f i c ，1 9 9 5 ．【7 9 】LYC a o ，YGH o n g ，H ．P ．F a n ga n dGW ：H e ．P r e d i c t i n gc h a o t i ct i m es c 洒e sw i t hw a v e l e tn e t w o r k s 【J 】．P h y S ．D ，1 9 9 5 ，8 5 ( 1 ) ：2 2 5 —2 3 8 ．【8 0 】J ．S ．Z h a n ga n dX ．C ．X i a o ．P r e d i c t i n gc h a o t i ct i m es e r i e su s i n gr e c u r r e n tn e u r a ln e t w o r k [ J 】．C h i n ．P h y s ．L e t t ．，2 0 0 0 ，l7 ( 2 ) ：8 8 ·9 0 ．【8 l 】张森，肖先赐．混沌时间序列全局预测新方法一连分式法【J 】．物理学报，2 0 0 5 ，5 4 ( 1 1 ) ：5 0 6 2 ．5 0 6 8 ．[ 8 2 】D ．S ．kK a r u n a s i n g h ea n dS ．- Y ．L i o n g ．C h a o t i ct i m es e r i e sp r e d i c t i o nw i t hag l o b a lm o d e l ：A r t i f i c i a ln e u r a ln e t w o r k 【J 】．J o u r n a lo f H y d r o l o g y , 2 0 0 6 ，3 2 3 ( 1 ) ：9 2 - 1 0 5 ．[ 8 3 】丸F r e k i n g ，w - K i n z e la n dI ．K a n t e r ．L e a r n i n ga n dp r e d i c t i n gt i m es e r i e sb yn e u r a ln e t w o r i ( s [ J J ．P h ) ，s ．R e v ．E ，2 0 0 2 ，6 5 ：0 5 0 9 0 3 ．【8 4 】M ．S m a l la n dC ．I CT s e ．M i n i m u md e s c r i p t i o nl e n g t hn e u r a ln e t w o r k sf o rt i m es e r i e sp r e d i c t i o n[ J 】．P h y s ．R c v ．E ，2 0 0 2 ，6 6 ：0 6 6 7 0 1 ．【8 5 】H ．L i u ，D ．L i u ，a n dL ．一ED e n g ．C h a o t i ct i m es e r i e sp r e d i c t i o nu s i n gf u z z ys i g m o i dk e r n e l - b a s e ds u p p o r tv e c t o rm a c h i n e s 【J 】．C h i n ．P h y s ．，2 0 0 6 ，15 ( 6 ) ：119 6 ．12 0 0 ．【8 6 】M ．也Y ea n dX ．·D ．W a n g ．C h a o t i ct i m es e r i e sp r e d i c t i o nu s i n gl e a s ts q u a r e ss u p p o r tv e c t o rm a c h i n e s 【J 】．P h y s ．，2 0 0 4 ，1 3 ( 4 ) ：4 5 4 - 4 5 8 ．【8 7 】H ．T o n g ．T h r e s h o l dm o d e l si nn o n ·l i n e a rt i m es e r i e sa n a l y s i s 【J 】．L e c t u r eN o t e si nS t a t i s t i c s ，1 9 8 3 ，2 1 ．【8 8 】VV a p n i k ．T h en a t u r eo fs t a t i s t i c a ll e a r n i n gt h e o r y [ M ] ．N e wY o r k ：S p r i n g e rV e r l a g ，19 9 9 ．[ 8 9 】M ．D o m i n i q u ea n dB ．A l i s t a i r ．N o n l i n e a rb l i n ds o u r c es e p a r a t i o nu s i n gk e r n e l s 【J 】．I E E ET r a m ．O nN e u r a lN e t w o r k s ，2 0 0 3 ，1 4 ( 1 ) ：2 2 8 —2 3 5 ．【9 0 】QS u g i h a r a ，I LM ．M a y ．N o n l i n e a rf o r e c a s t i n ga saw a yo fd i s t i n g u i s h i n gc h a o sf r o mm e a s u r e m e n te r r o ri nt i m es e r i e s 【J 】．N a t u r e ，19 9 0 ，3 3 4 ：7 3 4 ．【91 】J ．D ．F a r m e r , J ．J ．S i d o r o w i c h ．P r e d i c t i n gc h a o t i ct i m es e r i e s 【J 】．P h y s ．R e v ．L e t t ．，19 8 7 ，5 9 ( 8 ) ：1 4 5山东大学博士学位论文8 4 5 ．8 4 8 ．【9 2 】乙U l l ’X ．LR e na n dz ．W ：Z h u ．E q u i v a l e n c eb e ! t 、j I 嗍ld i f f e r e n tl o c a lp r e d i c t i o nm e t h o d so fc h a o t i ct i m es e r i e s 【J 】．P h ) ，s ．L 熊．～19 9 7 ，2 2 7 ( 1 ) ：3 7 - 4 0 ．【9 3 】B ．S i v a k u m a r ．Ap h a s e - s p a c er e c o n s t r u c t i o na p p r o a c ht op r e d i c t i o no fs u s p e n d e ds e d i m e n tc o n c e n t r a t i o ni nr i v e r s 【J 】．J o u r n a lo f H y d r o l o g y , 2 0 0 2 ，2 5 8 ( 2 ) ：1 4 9 - 1 6 2 ．【9 4 】M ．G i o n a , EL e n t i n i ，a n dVc i m a g a l l i ．F u n c t i o n a lr e c o n s t r u c t i o na n dl o c a lp r e d i c t i o no fc h a o t i ct i m es e r i e s 【J 】．P h y s ．R e v ．八1 9 9 1 ，州6 ) ：3 4 9 6 - 3 5 0 2 ．【9 5 】D ．K u g i u m t z i s ，0 ．C ．L i n g j a r d ea n dN ．C h r i s t o p h e r s e n ．R e g u l a r i z e dl o c a ll i n e a rp r e d i c t i o no fc h a o t i ct i m es e r i e s 【J 】．P h y s i e aD ，1 9 9 8 ，11 2 ( 3 ) ，3 4 4 - 3 6 0 ．【9 6 ] A ．WJ a y a w a r d e n a , W ．kL i , a n dP ．X u ．N e i g h b o u r h o o ds e l e c t i o nf o rl o c a lm o d e l l i n ga n dp r e d i c t i o no f h y d r o l o g i c a lt i m es e r i e s 【J 】．J o u r n a lo f H y d r o l o g y , 2 0 0 2 ，2 5 8 ( 1 ) ：4 0 ·5 7 ．【9 7 】M ．R a g w i t za n dH ．K a n t z ．M a r k o vm o d e l sf r o md a t ab ys i m p l en o n l i n e a rt i m es e r i e sp r e d i c t o r si nd e l a ye m b e d d i n gs p a c e s 【J 】．P h 粥．R e v ．E ，2 0 0 2 ，6 5 ( 5 ) ：0 5 6 2 0 1 ．【9 8 】甘建超，肖先赐．基于相空间邻域的混沌时间序列自适应预测滤波器( I ) 线性自适应滤波【J 】．物理学报，2 0 0 3 ，5 2 ( 5 ) ：1 0 9 6 - 11 0 1 ．【9 9 ] 甘建超，肖先赐．基于相空间邻域的混沌时间序列自适应预测滤波器( I I ) ：1 线性自适应滤波【J 】．物理学报，2 0 0 3 ，5 2 ( 5 ) ：11 0 2 ．11 0 7 ．【1 0 0 】甘建超，肖先赐．混沌时间序列基于邻域点的非线性多步自适应预测【J 】．物理学报，2 0 0 3 ，5 2 ( 1 2 ) ：2 9 9 5 - 3 0 0 1 ．【101 】H ．C ．L ia n dJ ．S ．Z h a n g ．L o c a lp r e d i c t i o no fc h a o t i ct i m es e r i e sb a s e do ns u p p o r tv e c t o rm a c h i n e 【J 】．C h i n ．P h ) ，s ．L e t t ．，2 0 0 5 ，2 2 ( 11 ) ：2 7 7 6 - 2 7 7 9 ．【1 0 2 】张家树，党建亮，李恒超．时空混沌序列的局域支持向量机预测【J 】．物理学报，2 0 0 7 ，5 6 ( 1 ) ：6 7 - 7 7 ．【10 3 】J ．S ．Z h a n g ，H ．C ．L ia n dX ．C ．X i a o ．L o c a ld i s c r e t ec o s i n et r a n s f o r m a t i o nd o m a i nV o l t e r r ap r e d i c t i o no f c h a o t i ct i m es e r i e s 【J 】．C h i n ．P h y s ．，2 0 0 5 ，1 4 ( 1 ) ：4 9 - 5 4 ．【10 4 】T - K o h ，E ．J ．P o w e r s ．S e c o n d - o r d e rV o l t c r r af i l t e r i n ga n di t sa p p l i c a t i o nt on o n l i n e a rs y s t e mi d e n t i f i c a t i o n 【J 】．I E E ET r a m ．o nA S S P , 1 9 8 5 ，3 3 ( 6 ) ，1 4 4 5 —1 4 5 5 ．【10 5 】C ．GA t k e s o n ，A ．W ．M o o r e ，S ．S c h a a l ．L o c a l l yw e i g h t e dl e a r n i n g 【J 】．A r t i f ．I n t e l l ．R e v ．，19 9 7 ，1 4 6山东大学博士学位论文1 l ( 1 ) ：1 l - 7 3 ．【10 6 】J ．S ．Z h a n ga n dX ．C ．X i a o ．M u l t i s t a g ea d a p t i v eh i g h e r - o r d e rn o n l i n e a rf i n i t ei m p u l s er e s p o n s ef l i e r sf o rc h a o t i ct i m es e r i e sp r e d i c t i o n s 【1 1 ．C h i n ．P h y s ．，2 0 0 1 ，l O ( 5 ) ：3 9 0 —3 9 4 ．[ 10 7 】I CC ．N i s b e t ，B ．M u l g r e wa n dS ．M c l a u g h l i n ．R e d u c e ds t a t em e t h o d si nn o n l i n e a rp r e d i c t i o n阴．S i g n a lP r o c e s s ．，1 9 9 6 ，4 8 ( 1 ) ：3 7 - 4 9 ．【1 0 8 】张家树，肖先赐．用于混沌时间序列自适应预测的一种少参数二阶V o l t e r r a 滤波器【J 】．物理学报，2 0 0 1 ，5 0 ( 7 ) ：1 2 4 8 —1 2 5 4 ．【1 0 9 】张家树，李恒超，肖先赐．连续混沌信号的离散余弦变换域二次实时滤波预测【J 】．物理学报，2 0 0 4 ，5 3 ( 3 ) ：71 0 - 716 ．【1 l O 】H ．C ．L ia n dJ ．S ．Z h a n g ．N e u r a lV o l t e r r af i l t e rf o rc h a o t i ct i m es e r i e sp r e d i c t i o n 叨．C h i n ．P h y s ．，2 0 0 5 ，1 4 ( 11 ) ：2 1 8 1 - 2 1 8 8 ．【111 】A ．AT s o n i sa n dJ ．B ．E i s n e r ．N o n l i n e a rp r e d i c t i o n 勰aw a yo f d i s t i n g u i s h i n gc h a o sf r o mr a n d o mf r a c t a ls e q u e n c e s 【J 】．N a t u r e ，19 9 2 ，3 5 8 ：2 17 - 2 2 0 ．【112 】D ．M ．R u b i n ．U s eo ff o r e c a s t i n gs i g n a t u r e st oh e l pd i s t i n g u i s hp e r i o d i c i t y , r a n d o m n e s s ，a n dc h a o si nr i p p l e sa n do t h e rs p a t i a lp a t t e r n s 【J 】．C h a o s ，1 9 9 2 ，2 ( 4 ) ：5 2 5 - 5 3 5 ．【113 】T ．K o ha n dE ．J ．P o w e r s ．S e c o n d - o r d e rV o l t e r r af i l t e r i n ga n di t sa p p l i c a t i o nt on o n l i n e a rs y s t e mi d e n t i f i c a t i o n [ J 】．I E E ET r a m ．A c o ．S p e e c hS i g n ．P r o e ．，1 9 8 5 ，3 3 ( 6 ) ：1 4 4 5 - 1 4 5 5 ．【11 4 】J ．S u g i h a r a ，R ．M ．M a y ．N o n - l i n e a rf o r e c a s t i n ga saw a yo fd i s t i n g u i s h i n gc h a o sf r o mm e a s u r e m e n te r r o ri nt i m es e r i e s [ J 】．N a t u r e ，1 9 9 0 ，3 4 4 ：7 3 4 - 7 4 1 ．【11 5 】T ．I k e g n c h ia n dkA i h a r a ．D i f f e r e n c ec o r r e l a t i o nc a nd i s t i n g u i s hd e t e r m i n i s t i cc h a o sf r o m1 ／f o t - t y p ec o l o r e dn o i s e 【J 】．P h y s ．R e v ．E ，19 9 7 ，5 5 ：2 5 3 0 —2 5 3 8 ．【116 】T ．G a u t a m a ，D ．P ．M a n d i c ，M ．M ．V a nH u l l e ．An o v e lm e t h o df o rd e t e r m i n gt h en a t u r eo ft i m es e r i e s 【J 】．I E E ET r a n s 。

o nB i o m ．E n g i ，2 0 0 4 ，51 ：7 2 8 —7 3 6 ．【117 】M ．B a r a h o n a ，C ．- S ．P o o n ．D e t e c t i o no fn o n l i n e a rd y n a m i c si ns h o r t ，n o i s yt i m es e r i e s [ J 】．N a t u r e ，1 9 9 6 ，3 8 1 ：2 1 5 ·2 1 7 ．【118 】T ．S c h r e i b e r ．D e t e c t i n ga n da n a l y z i n gn o n s t a f i o n a r i t yi nat i m es e r i e su s i n gn o n l i n e a rc r o s sp r e d i c t i o n s 【J 】．P h y s ．R e v ．L e t t ．，1 9 9 7 ，7 8 ( 5 ) ：8 4 3 —8 4 6 ．【119 】J ．M c N a m e s ．I n n o v a t i o n si nl o c a lm o d e l m gf o rt i m es e r i e sp r e d i c t i o n ．P h ．DT h e s i s ，S t a n f o r d1 4 7山东大学博士学位论文U n i v e r s i t y , 19 9 9 ．[ 1 2 0 ] J ．T h e i l e rc ta 1 ．T e s t i n gf o rn o n l m e a r i t yi nt i m es e r i e s ：T h em e t h o do fs u r r o g a t ed a t a 【J 】．P h y s i c aD ，19 9 2 ，5 8 ：7 7 ．[ 1 2 1 ] T ．S c h r d b e r , A ．S c h m i t z ．I m p r o v e ds u r r o g a t ed a t af o rn o n l i n o a r i t yt e s t s 【J 】．P h y s 胁虮19 9 6 ，7 7 ：6 3 5 - 6 3 8 ．[ 1 2 2 ] TS c h r e i b e r , A ．S c h m i t z ．S u r r o g a t et i m es 既i e s 【J 】．P h y s i c aD ，2 0 0 0 ，1 4 2 ：3 4 6 - 3 8 7 ．[ 1 2 3 ] D ·K u g ／u m t z ／s ．T e s ty o u rs u r r o g a t ed a t ab e f o r ey o u 嚼tf o rn o n l i n e a r i t y 阴．P h y sR e vE ，1 9 9 9 ，6 0 ：2 8 0 8 ．2 8 1 6 ．[ 1 2 4 1M ．L e h n n a n ，A ．B ．R e c h e s t e r , & B ．W h i t e ．S y m b o l i ca n a l y s i so fc h a o f i cs i g n a l sa n dt u r b u l e n tf l u c t u a t i o n s [ f 1 ．P h y sR o yL e 也19 9 7 ，7 8 ：5 4 - 5 7 ．[ 12 5 1A ·B ·R e c h e s t e r , R ．B ．W h i t e ．S y m b o l i ck i n e t i ce q u a t i o n sf o rac h a o t i ca t t r a c t o r 唧．P h y sL e t t^ 1 9 9 1 ，1 5 6 ：4 1 9 - 4 2 4 ．[ 12 6 1A ·B ·R e c h e s t e r , R ．B ．W h i t e ．S y m b o l i ck i n e t i ca n a l y s i so ft w o - d i m e n s i o n a lm a p s 们．P h y sL e t t A ，1 9 9 1 。

1 5 8 ：5 1 ．5 6 ．[ 12 7 ] RH e g g e r , H ．K a n t z ，L ．M a t a s s i n i ，a n dT ．S c h r e i b e r ．C o p i n gw i t hn o n s t a t i o n a r i t yb yo v e r e m b e d d i n g [ J 】．P h y s ．R e xL e n ．，2 0 0 0 ，8 4 ( 18 ) ：4 0 9 2 - 4 0 9 5 ．1 1 2 8 1REV e r d e s ，EM G r a n i t t o ，H ．D ．N a v o n e , a n dH ．A ．C e c c a t ￡o ．N o n s t a t i o n a r yt i m e ．s e r i e sa n a l y s i s ：a c c u r a t er e c o n s t r u c t i o no f d r i v i n gf o r c e s 【J 】．P l a y s ．R e v ．L e t t ．，2 0 0 1 ，8 7 ( 1 2 ) ：1 2 4 1 0 1 ．[ 12 9 ] REV e r d e s ，P ．M ．G r a n i t t o ，a n dH ．A ．C e c c a R o ．O v e r e m b e d d i n gM e t h o df o rM o d e l i n gN o n s t a t i o n a r yS y s t e m s 【J 】．P h y s 。

R e v ．I ．e t t ．，2 0 0 6 ，9 6 1 1 1 ) ：1 1 8 7 0 1 ．[ 13 0 ] C ．R i e k e ，R ．G ．A n d = 0 a k , EM o r m a n n ．a n dI CL e h n e r t z ．I m p r o v e ds t a t i s t i c a lt e s tf o rn o n s t a t i o n a r i t yu s i n gr e c u r r e n c et i m es t a t i s t i c s 明．P h y s ．R e v ．E ，2 0 0 4 ，6 9 ：0 4 6 1l1 ．[ 131 ] QW a n g - EY a n g ．Ac o m p o u n dr e c o n s t r u c t e dp r e d i c t i o nm o d e lf o rn o n s t a f i o n a r yc l i m a t ep r o c e s s e s 【J 】．I n t e r ．J o u r ．o f C l i m a t o l o g y , 2 0 0 5 ，2 5 ( 9 ) ：1 2 6 5 ．1 2 7 7 ．[ 13 2 ] J ．- C ．G a na n dX ·- C ．X i a o ．N o i s er e d u c t i o nm e t h o db a s e do nw e i g h t e dm a n i f o l dd e c o m p o s i t i o n[ J 】．C h i n ．P h ) ，s ．，2 0 0 4 ，1 3 ( 3 ) ：3 1 2 ．3 1 6 ．[ 13 3 ] J ．S u n ，YZ h a o ，J ．Z h a n g ，X ．L u o ，a n dM ．S m a l l ．R e d u c i n gc o l o r e dn o i s ef o rc h a o t i ct i m e1 4 8s e r i e si 1 1t h el o c a lp h a s es p a c e 【J 】．P h y s ．R e v ．E ．，2 0 0 7 ，7 6 ：0 2 6 211 ．山东大学博士学位论文【13 4 】＆H e g g e r , H ．K a n t z ，L ．M a t a s s i n i ．N o i s er e d u c t i o nf o rh u m a ns p e e c hs i g n a l sb yl o c a lp r o j e c t i o n si ne m b e d d i n gs p a c e s 【刀．I E E ET r a n ．o nC i r c ．a n dS y s ．，2 0 0 1 ，4 8 ( 1 2 ) ：1 4 5 4 —1 4 6 1 ．【13 5 】J ．- C ．F e n g ．AN o i s ec l e a n i n gM e m o df o rc h a o t i ct i m es e r i e sa n di t sa p p l i c a t i o ni nc o m m u n i c a t i o n 【J 】．C h i l l e ．P h y s ．L e t t ．，2 0 0 5 ，2 2 ( 8 ) ：1 8 5 1 - 1 8 5 4 ．[ 13 6 】Z ．- L ．Z h a n g , VJ ．R i b e i r o ，S ．M o o o n ，C ．D i o t ．S m a l l —t i m es c a l i n gb e h a v i o r so fI n t e r n e tb a c k b o n et r a f f i c ：a ne m p i r i c a ls t u d y 【J 】．I E E EI N F O C O M ，2 0 0 3 ，3 ：1 8 2 6 - 1 8 3 6 ．【13 7 ] S ．U g l i g ．N o n —s t a t i o n a r i t ya n dh i g h - o r d e rs c a l i n gi nT C Pf l o wa r r i v a l s ：am e t h o d o l o g i c a la n a l y s i s 【J 】．A C MS I G C O M M ，c o m p u t e rc o m m u n i c a t i o n sr e v i e w , 2 0 0 4 ，3 4 ．【13 8 】A ．D ．D o u l a m i s ，N ．D ．D o u l a m i sa n dS ．D ．K o l l i a s ．A na d a p t a b l en e u r a l - n e t w o r km o d e lf o rr e c u r s i v en o n l i n e a rt r a f f i cp r e d i c t i o na n dm o d e l i n go fM P E Gv i d e os o u r c e s 【J 】．I E E ET r a n s ．o nN e u t ．N a w ．，2 0 0 3 ，1 4 ( 1 ) ：1 5 0 - 1 6 5 ．【13 9 】Y - B ．X i e ，W ．- X ．W a n g ，a n dB ．- H ．W a n g ．M o d e l i n gt h ec o e v o l u t i o no ft o p o l o g ya n dt r a f f i co nw e i g h t e dt e c h n o l o g i c a ln e t w o r k s 【J 】．P 1 l y s ．R e v ．E ，2 0 0 7 ，7 5 ：0 2 6111 ．【1 4 0 】P ．S h a n g ，X ．L ia n dS ．K a m a e ．N o n l i n e a ra n a l y s i so ft r a f f i ct i m es e r i e sa td i f f e r e n tt e m p o r a ls c a l e s 【J 】．P h y ．sL e t t ．A ，2 0 0 6 ，3 5 7 ( 4 ) ：31 4 - 31 8 ．【1 4 1 】P ．S h a n g ，X ．L ia n dS ．K a m a e ．C h a o t i ca n a l y s i so ft r a f f i ct i m es e r i e s 【J 】．C h a o sS o l i t o n sF r a c t a l s ，2 0 0 5 ，2 5 ( 1 ) ：1 2 1 - 1 2 8 ．【1 4 2 】G ．O r o s z ，B ．K r a u s k o p fa n dl 乙E ．W i l s o n ．B i f u r c a t i o n sa n dm u l t i p l et r a f f i cj a n l si nac a r - f o l l o w i n gm o d e l 州Ⅱlr e a c t i o n - t i m ed e l a y 【J 】．P h y s i c aD ，2 0 0 5 ，2 1l ( 3 ) ：2 7 7 - 2 9 3 ．【1 4 3 】GO r o s z ，＆E ．W i l s o na n dB ．K r a u s k o p f ．G l o b a lb i f u r c a t i o ni n v e s t i g a t i o no fa no p t i m a lv e l o c i t yt r a f f i cm o d e l 谢t l ld r i v e rr e a c t i o nt i m e [ J 】．P h y s ．R e v ．E ，2 0 0 4 ，7 0 ( 2 ) ：0 2 6 2 0 7 ．【1 4 4 】I ．G a s s e r , GS i r i t oa n dB ．W e r n e r ．B i f u r c a t i o na n a l y s i so fac l a s so f ‘c a rf o l l o w i n g ’t r a f f i cm o d e l s 【J 】．P h y s i c aD ，2 0 0 4 ，19 7 ( 3 ) ：2 2 2 - 2 41 ．【1 4 5 】I n t e r n e tt r a f f i ca r c h i v e ．h t t p ：H i t a ．∞．1 b 1 ．g o v ／【1 4 6 】C ．C ．S t r e l i o f fa n dA ．w ．H u b l e r ．M e d i u m - t e r mp r e d i c t i o no fc h a o s 【J 】．P h y s ．R e v ．L e t t ．，2 0 0 6 ，9 6 ( 4 ) ：0 4 4 1 0 1 ．【1 4 7 】VV a r a d a n ，H ．L e u n ga n dE ．B o s s e ．D y n a m i c a lm o d e lr e c o n s t r u c t i o na n da c c u r a t ep r e d i c t i o no f p o w e r - p o o lt i m es e r i e s 【J 】．I E E ET r a n s ．o nI n s t r u ．a n dM e a s u ．，2 0 0 6 ，5 5 ( 1 ) ：3 2 7 - 3 3 6 ．1 4 9山东大学博士学位论文【1 4 8 】YC h e n , B ．Y a n g ，J ．D o n g ．T i m e - s e r i e sp r e d i c t i o nu s i n gal o c a ll i n e a rw a v e l e tn e u r a ln e t w o r k1 5 0阴．N e m ' o c , o m p u t i n g ，2 0 0 6 ，6 9 ：4 4 9 - 4 6 5 ．山东大学博士学位论文致谢在我的博士论文即将完成，三年的博士研究生学习即将结束之际，我衷心感谢所有为该论文的写作完成提供帮助，对本人的学习和生活给予关心和支持的人们。

首先由衷的感谢导师彭玉华教授三年来对我的辛勤培养和悉心指导论文是在导师的精心指导下完成的，从论文的选题、研究方案的制定到论文的定稿，无不浸透了导师大量的心血三年的求学期间，学到的不仅仅是知识，深深铭刻在心的是导师正直的为人和严谨的治学态度导师深厚的学术造诣、一丝不苟的工作作风、兢兢业业的工作精神以及渊博深厚的专业学识对我影响至深，将使我终生受益，导师活跃的学术思想、敏锐的思维、严谨求实的研究作风是我今后学习的榜样在此，对导师的精心培养和在生活上给予的关怀表示最衷心的感谢成都市地震局洪时中教授对课题研究工作给予了重要指导和大力帮助，洪老师深厚的学术造诣和渊博的知识使我受益匪浅许多研究工作的顺利进展，得益于洪老师提供的大量宝贵资料和意见特在此对洪老师给予的最无私有力的帮助和指导表示衷心的感谢感谢山东大学信息学院的陈迪教授、王欣教授、吴小娟教授、王汇源教授等各位老师，他们广博的知识和严谨的治学态度都深深影响了我，感谢他们给我的热心指导、帮助和鼓励感谢实验室的各位同学，同学们的天资、勤奋和友爱让我无法忘怀，感谢他们陪伴我走过这三年难忘的时光，感谢他们在学习和生活中给我的巨大帮助和支持最后特别感谢我的父母和丈夫，没有他们的理解、鼓励和支持，三年的博士研究生学习任务是不可能如此顺利地完成的。

山东大学博士学位论文攻读博士学位期间发表的论文【1 】Q ．M e n ga n dYP e n g ．An e wl o c a ll i n e a rp r e d i c t i o nm o d e lf o rc h a o t i ct i m es e r i e s ．P h y s i c sL e t t e r sA ，2 0 0 7 ，3 7 0 ：4 6 5 - 4 7 0 ．( S C I 收录，影响因子1 ．5 5 ) ( 第一作者)[ 2 】Q ．一EM e n g , YP e n g , Y ．- X ．L i ua n dW ．一F ．S u n ．A n a l y s e so fo p t i m a le m b e d d i n gd i m e n s i o na n dd e l a yf o rl o c a ll i n e a rp r e d i c t i o nm o d e l ．C h i n e s eP h y s i c sL e t t e r s ，2 0 0 7 ，2 4 ( 7 ) ：1 8 3 3 —1 8 3 6 ．( S C I 收录，影响因子1 ．2 7 6 ) ( 第一作者)【3 】Q ．- F ．M e n g , YP e n ga n dP ．- J ．X u e ．An e wm e t h o do fd e t e r m i n i n gt h eo p t i m a le m b e d d i n gd i m e n s i o nb a s e do nn o n l i n e a rp r e d i c t i o n ．C h i n e s eP h y s i c s ，2 0 0 7 ，16 ( 5 ) ：1 2 5 2 ．1 2 5 7 ．( S C I ，E 1 收录，影响因子1 ．5 5 9 ) ( 第一作者)【4 】Q ．一F ．M e n g , YP e n ga n dJ ．S u n ．T h ei m p r o v e dl o c a ll i n e a rp r e d i c t i o no fc h a o t i ct i m es e r i e s ．C h i n e s eP h y s i c s ，2 0 0 7 ，1 6 ( 1 1 ) ：3 2 2 0 —3 2 2 5 ．( S C I ，E 1 收录，影响因子1 ．5 5 9 ) ( 第一作者)【5 】孟庆芳，彭玉华，曲怀敬，韩民．基于信息准则的局域预测法邻近点的选取方法．物理学报，2 0 0 8 ，5 7 ( 3 ) ：1 4 2 3 ．1 4 3 0 ．( S O l ，E 1 收录，影响因子1 ．2 4 2 ) ( 第一作者)【6 】孟庆芳．混沌时间序列多步自适应预测方法．物理学报，2 0 0 6 ，5 5 ( 4 ) ：1 6 6 6 ．1 6 7 1 ．( S C I ，E I 收录，影响因子1 ．2 4 2 ) ( 第一作者)【7 】孟庆芳．四阶累积量用于最小嵌入维数估计的新方法．系统工程理论与实践，2 0 0 5 ，2 5 ( 9 ) ：8 3 - 8 8 ．( E l 收录) ( 第一作者)【8 】孟庆芳．混沌序列自适应多步预测及在股票中的应用．系统工程理论与实践，2 0 0 5 ，2 5 ( 1 2 ) ：6 2 —6 8 ．( E l 收录) ( 第一作者)【9 ] Q ．一F ．M e n g ，YP e n g , Y —L ．X u ea n dM ．H a n ．N o n l i n e a ra n a l y s i so fp h y s i o l o g i c a lt i m es e r i e s ．中国生物医学工程学报( 英文版) ，2 0 0 7 ，1 6 ( 4 ) ：1 6 3 - 1 6 9 ．( E 1 收录)( 第一作者)【1 0 】孟庆芳，彭玉华．混沌时间序列改进的加权一阶局域预测法．计算机工程与应用，2 0 0 7 ，4 3 ( 3 5 ) ：6 1 —6 4 ．( 核心期刊) ( 第一作者)1 5 2山东大学博士学位论文【1 1 】孟庆芳．基于高阶统计量的嵌入维数的估计方法．山东大学学报( 工学版) ，2 0 0 5 ，3 5 ( 2 ) ：2 2 ．2 6 ．( 核心期刊) ( 第一作者)【1 2 】刘云霞，彭玉华，孟庆芳，尹勇．一种基于角度的正交F R I T 变换及其在图像去噪中的应用．电子学报，2 0 0 7 ，3 5 ( 1 ) ：4 0 - 4 3 ．( E I 收录) ( 第三作者)【1 3 】潘金凤等．基于检测的脉冲噪声滤除方法．控制工程，2 0 0 6 ，1 3 ( 9 ) ：1 - 3 ．( 核心期刊) ( 第三作者)山东大学博士学位论文附：已发表的英文论文两篇An e wm e t h o do fd e t e r m i n i n gt h eo p t i m a le m b e d d i n gd i m e n s i o nb a s e do nn o n l i n e a rp r e d i c t i o n ·M e n gQ i n g - F a n g ( 孟庆芳) a 卜，P e n gY u ．H u a ( 彭玉华) a ) ，X u eP e i ．J 岫( 薛佩军) ¨，L i uY u n ．X i a ( 刘云霞) | )" ) S c h o o lo f I n f o r m a t i o nS c i e n c ea n dE n g i n e e r i n 吕S h a n a b n gU n i v e m i 锄, J i n a n2 5 0 1 0 0 , C h i n ab ) G r a d u a t eS c h o o lo f S h a n d o n gU n i v e r s i t y , J i n a n2 5 0 1 0 0 , C h i n a( R e c e i v e d15A u g u s t2 0 0 6 ；r e v i s e dm a n u s c r i p tr e c e i v e d2 8A u g u s t2 0 0 6 )An e wm e t h o di sp r o p o s e dt od e t e r m i n et h eo p t i m a le m b e d d i n gd i m e n s i o nf r o mas c a l a rt i m es e r i e si n t h i sp a p e r ．T h i sm e t h o dd e t e r m i n e st h eo p t i m a le m b e d d i n gd i m e n s i o nb yo p t i m i z i n gt h en o n l i n e a ra u t o r e g r e s s i v ep r e d i c t i o nm o d e lp a r a m e t e r i z e db yt h ee m b e d d i n gd i m e n s i o na n dt h en o n l i n e a rd e g r e e ．S i m u l a t i o nr e s u l t ss h o wt h ee f f e c t i v e n e s so ft h i sm e t h o d ．A n dt h i sm e t h o di sa p p l i c a b l et oas h o r tt i m es e r i e s ，s t a b l et on o i s e ，c o m p u t a t i o n a l l ye f f i c i e n t ，a n dd o e sn o tc o n t a i na n yp u r p o s e di n t r o d u c e dp a r a m e t e r s ．K e y w o r d s ：e m b e d d i n gd i m e n s i o n ；n o n l i n e a ra u t o r e g r e s s i v ep r e d i c t i o nm o d e l ；n o n l i n e a rt i m es e r i e sP A C C ：0 5 4 51 ．I n t r o d u c t i o nT h er e c o n s t r u c t i o no fap h a s es p a c ew h i c hi se q u i v a l e n tt ot h eo r i g i n a lp h a s es p a c eo fas y s t e mf r o mas c a l et i m es e r i e si st h eb a s i so fn o n l i n e a rt i m es e r i e sa n a l y s i s ．【1 1B a s e do nW h i t n e y ’St o p o l o g i c a le m b e d d i n gt h e o r e m ，T a k e n s I z jh a sp r o v e dt h ed e l a ye m b e d d i n gt h e o r e mw h i c ho f f e r st h ep o s s i b i l i t yo fr e c o n s t r u c t i n gm - d i m e n s i o n a ld y n a m i c sf r o mas c a l et i m es e r i 懿i nt h ea b s e n c eo fn o i s e ．H o w e v e r , t h ed e l a ye m b e d d i n gt h e o r e md o e sn o td i r e c t l ya n s w e rh o wt oc h o o s ei t sp a r a m e t e r s - e m b e d d i n gd i m e n s i o na n dd e l a yt i m e ．S ot h ek e yt ot h ep h a s es p a c er e c o n s t r u c t i o nf r o mar e a It i m es e r i e si st o1 5 4d e t e r m i n ei t so p t i m a lp a r a m e t e r s ．R e f e r e n c e s[ 3 - 18 】a r ed e v o t e dt ot h es t u d yo fp h a s es p a c er e c o n s t r u c t i o na n dm e t h o d so fd e t e r m i n i n gi t sp a r a m e t e r s ．T h eo p t i m a le m b e d d i n gd i m e n s i o ni sa ni m p o r t a n tp a r a m e t e rn o to n l yf o rt h ep h a s es p a c er e c o n s t r u c t i o nb u ta l s of o rt h en o n l i n e a rp r e d i c t i o n ．【1 9 ’2 0 1T h e r eh a v eb e e nm a n yd i s c u s s i o n so nh o wt od e t e n n i n et h eo p t i m a le m b e d d i n gd i m e n s i o nf r o mas c a l a rt i m es e r i e s ．T h e r ea r ef o u rb a s i cm e t h o d sw h i c ha r eu s u a l l yu s e dt od e t e r m i n et h ee m b e d d i n gd i m e n s i o n ．T h ef i r s tk i n do fm e t h o di sb a s e dO i lc o m p u t i n gs o m ei n v a r i a n t0 nt h ea t t r a c t o r , i S " 6 】B yi n c r e a s i n gt h ee m b e d d i n gd i m e n s i o nu s e df o rt l l ec o m p u t a t i o no n en o t e st h em i n i m u m山东大学博士学位论文e m b e d d i n gd i m e n s i o na p p e a r i n gw h e nt h ev a l u eo ft h ei n v a r i a n ts t o p sc h a n g i n g ．1 1 l et y p i c a lp r o b l e m so ft h i sm e t h o da r et i m e - c o n s u m i n gf o rc o m p u t a t i o n ，u n s u i t e df o ras h o r tt i m es e r i e s ，a n ds e n s i t i v et on o i s e ．T h es e c o n dk i n do fm e t h o di sb a s e do nas i n g u l a rv a l u ed e c o m p o s i t i o n ，w h i c hi sp r o p o s e db yB r o o m h e a da n dK i n g ．【7 】B u tt h es i n g u l a rv a l u ed e c o m p o s i t i o ni se s s e n t i a l l yal i n e a rm e t h o db a s e do nt h ec o v a r i a n c em a t r i xw h i c hr e f l e c t st h el i n e a rd e p e n d e n c e ．【8 】N u m e r i c a le x p e r i e n c eh a sl e ds e v e r a lr e s e a r c h e r s 【9 ，10 】t os u s p e c tt h ea u t h e n t i c i t yo ft h i sm e t h o di nt h ea n a l y s i so fn o n l i n e a rt i m es e r i e s ．n em e t h o di nR e f ．[ 1l №m e a s u r ep r e s e r v i n ga n dc a nr e f l e c tt h en o n l i n e a rs t r u c t u r e ，b u tt h er e s u l t sa r ec o n s i d e r a b l yl a r g e rt h a nt h em i n i m u me m b e d d i n gd i m e n s i o n ．I nR e f e r e n c e s 【12 ，13 】u s e di saf o u r - o r d e rc u m u l a n tf u n c t i o ni n s t e a do fc o r r e l a t i o nf u n c t i o nt oi m p r o v et h i sm e t h o d ．n et h i r di st h em e t h o do ff a l s en c i g h b o u r s ．【1 4 ’1 5 】w h i c hi sb a s e do nt h ef a c t t h a tc h o o s i n gt o ol o wa ne m b e d d i n gd i m e n s i o nr e s u l t si np o i n t st h a ta r ef a ra p a r ti nt h eo r i g i n a lp h a s es p a c em o v i n gc l o s e rt o g e t h e ri nt h er e c o n s t r u c t i o np h a s e s p a c e ．B u tt h e c r i t e r i o ni nR e ￡[ 1 4 】i s跚b j e c t i v ei ns o m es e n s e ，a n di si m p r o v e di nt h eR e f ．[ 1 5 ] ．T h ef o u r t hk i n d o fm e t h o di sb a s e do nn o n l i n e a rp r e d i c t i o ne r r o r s [ 1 6 】．i nw h i c ht h es h o r tt e r mp r e d i c t a b i l i t yo fn o n l i n e a rt i m es e r i e si su t i l i z e d ，a n dt h em e t h o du s e di nt h i sp a p e rb e l o n g si nt h i sk i n d ．T h e r ea r es o m eo t h e rm e t h o d sa n dt h e i rm o d i f i e dm e t h o d sd e v e l o p e db a s e do nt h ea b o v em e t h o d s ，【17 ，18 】b u tt h e ya l s oh a v es o m es h o r t c o m i n g sl i k ei n a p p l i c a b l et oas h o r tt i m es e r i e s ，s e n s i t i v et on o i s e ，e t c ．I nt h i sp a p e rw ep r o p o s ean e wm e t h o dt od e t e r m i n et h eo p t i m a le m b e d d i n gd i m e n s i o nf r o mas c a l a rt i m es e r i e sb yo p t i m i z i n gt h en o n l i n e a ra u t o r e g r e s s i v ep r e d i c t i o nm o d e lp a r a m e t e r i z e db yt h ee m b e d d i n gd i m e n s i o na n dt h en o n l i n e a rd e g r e e ．O u rm e t h o di sa p p l i c a b l et oas h o r tt i m es e r i e s ，s t a b l et on o i s e ，c o m p u t a t i o n a l l ye f f i c i e n t , a n dd o e sn o tc o n t a i na n yp u r p o s e l yi n t r o d u c e dp a r a m e t e r s ．2 ．M e t h o do fd e t e r m i n i n gt h eo p t i m a le m b e d d i n gd i m e n s i o nF o rn o n l i n e a rt i m es e r i e s 儿，w h e r e刀= 1 , 2 ，⋯，Ⅳ，w eu s eac l o s e d - l o o pv e r s i o no ft h ed y n a m i c s ，i nw h i c ht h eo u t p u tY ．f e e d sb a c ka sad e l a y e di n p u t ．W i t h i nt h i sf r a m e w o r k ,w ea n a l y z ean o n l i n e a rt i m es e r i e sb yu s i n gad i s c r e t eV o i t e r r aa u t o r e g r e s s i v es e r i e so fd e g r e ed ，a n d m e m o r ym ，a sa m o d e l t oc a l c u l a t e t h ep r e d i c t i o nt i m es e r i e s 免，i ．e ．Y 。

a o + a I Y 一- l + a 2 y P 2 + ⋯+ a I Y 卜一+ a ^ + l y 二．1+ 口“2 Y ．_ I ．以．2 + ⋯+ 口_ 一I Y a m = Ea z I ( 刀) ，●—由( 1 )w h e r et h ef u n c t i o n a lb a s i s{ z I ( 刀) )i sc o m p o s e do fa l lt h ed i s t i n c tc o m b i n a t i o n so ft h ee m b e d d i n gs p a c ec o o r d i n a t e s( Y H ，Y n - z , J ，一，⋯，Y ．一) u pt Od e g r e ed ，w i t hat o t a ld i m e n s i o nM = c ：+ d = ( 历+ d ) ! ／( 肌! d ! ) ．T h u s ．e a c hm o d e li sp a r a m e t e r i z e db y ，竹a n ddw h i c hc o r r e s p o n dt ot h ee m b e d d i n gd i m e n s i o na n dt h ed e g r e eo ft h en o n l i n e a r i t yo ft h em o d e l ，r e s p e c t i v e l y ．T h ec o e f f i c i e n t sa IC a l lb ec a l c u l a t e dt h r o u g hl e a s ts q u a r e sc a l v ef i t t i n g ．T h es h o r tt e r mp r e d i c t i o np o w e ro fam o d e lc a nb em e a s u r e db yt h es t a n d a r do n e - s t e pp r e d i c t i o ne r r o r , i ．e ．∑咪研，J ) 一y 。

2e ( m ，J ) 2= 竺型■——————一Ⅳ∑∽一y - ] 2n = M + I( 2 )w n e r e 歹= 志羔，．a n d 咖∽2i sme f f e c tan o r m a l i z e dv a r i a n c eo ft h ep r e d i c t i o ne r r o LW en o ws e a r c hf o rt h eo p t i m a lm o d e l1 5 5山东大学博士学位论文p a r a r n e t e r i z e db y 忉叫，d q , } t h a tm i n i m i z e st h ef o l l o w i n gA k a i k ei n f o r m a t i o nc r i t e r i o n ：[ 1 a 1 ]C ( m ，d ) = I n e ( m ，d ) + 2 M ／N ．( 3 )T h en u m e r i c a lp r o c e d u r ei sa 8f o l l o w s ：f o re a c ht i m es e r i e s ，o b t a i nt h eb e s tl i n e a rm o d e lb ys e a r c h i n gf o r 埘抽w h i c hm i n i m i z e sC ( m ，d ) w i t hd = 1 ．R e p e a t 丽t l li n c r e a s i n gd > 1 ，t oo b t a i nt h em o d e l ’so p t i m a ld e g r e e九w i t hm = m 如．T h e nr e p e a tw i t hi n c r e a s i n gm ≥1 。

t oo b t a i nt h em o d e l ’So p t i m a le m b e d d i n gd i m e n s i o nw i t hd = 屯．T h ed e l a ye m b e d d i n gt h e o r e ms t a t e st h a tw h e nt h ee m b e d d i n gd i m e n s i o ni sl a r g e rt h a nt h em i n i m u me m b e d d i n gd i m e n s i o nt h eo r i g i n a lp h a s es p a c eo fas y s t e mc a l lb ee m b e d d e di nt h er e c o n s t r u c t e dp h a s es p a c e ．H o w e v e r ，f o rap r a c t i c a lt i m es e r i e s ，i ft h ee m b e d d i n gd i m e n s i o ni st a k e nt O Ol a r g et h eo t h e rn o n l i n e a ra n a l y s i sm e t h o d sa r et i m e - c o n s u m i n gf o rc o m p u t a t i o na n di n f l u e n c e db yn o i s e s ．B yi n c r e a s i n gt h ee m b e d d i n gd i m e n s i o n ( m ≥1 ) o ft h en o n l i n e a rm o d e lp a r a m e t e r i z e db yma n dd ，晰t ht h ep a r a m e t e rdn e d , o n en o t e st h eo p t i m a le m b e d d i n gd i m e n s i o nw h e nC ( m ，d ) s t o p sd r a s t i c a l l yd e c l i n i n ga n db e g i n st Os l o w l yd e c l i n e ．W h e nm = m 。

l l l ev a l u eo fC ( m ，d )i ss m a l le n o u g h ，a n dw i t hmi n c r e a s i n gt h ev a l u eo fC ( m ，d ) d e c l i n e sv e r yl i t t l e ．3 ．S i m u l a t i o na n dr e s u l t sT oi n v e s t i g a t ew h e t h e rO u rm e t h o di sa p p l i c a b l et oas h o r tt i m es e r i e sa n dw h e t h e rO u rm e t h o dd e p e n d ss t r o n g l yo nt h el e n g t ho ft i m es e r i e s ，w er e s p e c t i v e l yU S e5 0 0d a t ap o i I l t Sa n d6 0 1 0 0d a t ap o i n t st od e t e r m i n et h eo p t i m a le m b e d d i n gd i m e n s i o n ．1 5 6mF i g ．I ．a 鸭d ) 一辫f o r at i m e s e r i e s 劬mH c n o na 1 1 1 ．, ／圮t o r ( 扫2 )A n a l y z ed a t af r o mt h ej - c o m p o n e n tv a l u e so fH e n o na t t r a c t o rw i t ht h eu s u a lp a r a m e t e r sa = 1 ．4a n db = 0 ．3 ．O u rr e s u l t sa r os h o w ni nF i g ．1 ．W bc a ns ∞t h a tw h e nt h ee m b e d d i n gd i m e n s i o n 肘= 2 ，t h ev a l u eo fC ( m ，d ) i ss m a l le n o u g h ．S ot h eo p t i m a le m b e d d i n gd i m e n s i o ni s2 ，a n dt h em e t h o di sa p p l i c a b l et oas h o r tt i m es e r i e sa n dd o e sn o ts t r o n g l yd e p e n dO I lh o wm a n yd a t ap o i n t sa r ou s e d ．mF i g ．2 ．C ( m ，d ) 一mf o rat i m es e r i e sf r o mL o r e n z酬畹t o r ( 出3 )A n a l y z ed a t a 丘D mt h ex - c o m p o n e n tv a l u e so fL o r e n za t t r a c t o rw i t ht h eu s u a lp a r a m e t e r s 仃= 1 0 ，r = 2 8 ，a n db = 8 ／3 ．T h es a m p l i n gt i m ei sO ．0 1 ．S h o w ni nF i g ．2a r eo u rr e s u l t s ．W eg a l lS e et h a tw h e nt h ee m b e d d i n gd i m e n s i o nm = 3 ，t h ev a l u eo fC ( m ，d )山东大学博士学位论文b e g i n st os l o w l yd e c l i n ea n di ss m a l le n o u g h ．S ot h eo p t i m a le m b e d d i n gd i m e n s i o ni s3 ，a n dt h er e s u l ti sa p p l i c a b l et oas h o r tt i m es e r i e sa n dd o e sn o ts t r o n g l yd e p e n d0 1 1h o wm a n yd a t ap o i n t sa r eu s e d ．mF i g ．3 ．C ( m ，d ) - - mf o rat i m es e r i e sf r o mD u f f i n ga t t r a c t o r ( d f f i 3 )A n a l y z ed a t af r o mt h e 工- c o m p o n e n tv a l u e so fD u f f m ga t 订a c t o r 、析t l lt h eu s u a lp a r a m e t e r s 占= 1 ，c = 0 ．4 ，A = 0 ．4 ，a n d缈= 1 ．T h es a m p l i n gt i m ei s0 ．2 5 ．O u rr e s u l t sa r es h o w ni nF i g ．3 ，f r o mw h i c hw ec a ns o et h a tt h eo p t i m a le m b e d d i n gd i m e n s i o ni s4a n do u rm e t h o di sa p p l i c a b l et oas h o r tt i m es e r i e sa n dd o e sn o ts t r o n g l yd e p e n do nh o wm a n y( 1 a t ap o i n t sa r eu s e d ．，hF i g ．4 ．C ( m ．d ) 一历f o rat i m es e r i e sf r o mC h 舶a t t r a c t o r( 出3 )A n a l y z ed a t af r o mt h e 工- c o m p o n e n tv a l u 髓o fC h e na t t r a c t o rw i 也t h eu s u a lp a r a m e t e r sa = 3 5 ，6 = 3 ，a n dc = 2 8 ．T h es a m p l i n gt i m ei sO ．0 1 ．O u rr e s u l t sa r es h o w ni nF i g ．4 ，f r o mw h i c hw eC a ns e et h a tt h eo p t i m a le m b e d d i n gd i m e n s i o ni s4 a n dO u rm e t h o di sa p p l i c a b l et oas h o r tt i m es e r i e sa n dd o e sn o ts t r o n g l yd e p e n do nh o wm a n yd a t ap o i n t sa r eu s e d ．I nt h ef o l l o w i n gw et e s tt w ou n u s u a lt i m es e r i e s ．n ef i r s to n ei su s u a l l yc o n s i d e r e dt ob ea ne x a m p l ei nw h i c hi ti sd i f f i c u l tt od e t e r m i n et h ee m b e d d i n gd i m e n s i o n ．F o rt h es e c o n do n e ，w ek n o wi t se x a c te m b e d d i n gd i m e n s i o n ，a n dw ej u s tt e s tw h e t h e rO u rm e t h o dc a n 百v et h ec o r r e c tr e s u l to rn o t ．F i g ．5 ．C ( m ，d ) 一用f o rat i m es e r i e sf r o mT o m sa t t r a c t o r( 赤3 )A n a l y z ed a t af r o mat o r u s ．’I ’h ed a t aa r eg e n e r a t e df r o mt h ef l o w ：x ( f ) = s i n ( t ) + 0 ．3 s i n ( 7 z r + 1 ) ，t ∈R( 4 )w i t has a m p l i n gt i m eo f0 ．1 ．N o t et h a tE q ．( 4 )i saf l o w , n o tam a p ．n er e s u l t so b t a i n e db yu s i n gO u rm e t h o df o rt h i st i m es e r i e sa r es h o w ni nF i g ．5 ．O n eC a ns e et h a tt h ev a l u eo fc ( m ，e 1 )i ss m a l le n o u g ha t 胁= 4 ，t h e r e f o r e ，t h eo p t i m a le m b e d d i n gd i m e n s i o nf o r t h et i m es e r i e ss h o u l db e4 ．O b v i o u s l yt h er e s u l ti sa p p l i c a b l et oas h o r tt i m es e r i e sa n dd o e sn o ts t r o n g l yd e p e n do nh o wm a n yd a t ap o i n t sa r eu s e d ．1 5 7山东大学博士学位论文F i f r 6 ．C ( m ．d ) - 历f o rat i m es 谢伪f r o mt h em a pE q ．( 5 ) ( 扣2 )1 5 8A n a l y z ed a t af r o mt h ef o l l o w i n gm a p ；k ·。

s i n ( x ．+ 5 ) + s i n ( 2 x ¨+ 5 )( 5 )+ s i n ( 3 x ．．2 + 5 ) + s i n ( 4 x ．，+ 甄‘1W e 伽s e ec l e a r l yt h a tt h em i n i I n u n le m b e d d i n gd i m e n s i o ni s4f o rat i m es e r i e sf r o mt h i sm a p ．胎c h e c ko u rm e t h o db yt e s t i n gt h i st i m es e r i e s ，a n dt h er e s u l t sa r es h o w ni nF i g ．6 ．W ．ec a n 嘲t h a tw h e nt h ee m b e d d i n gd i m e n s i o n 历= 4 ，t h ev a l u eo fC ( m ，J ) i ss m a l le n o u g h ．S ot h eo p t i m a le m b e d d i n gd i m e n s i o ni s4w h i c hi st h es a _ r n e 笛t h et h e o r v t i c a Ir e s u l t ．田地a b o v ee x a m p l e sh a v es h o w nt h ee f f e c t i v e n e s so fo u rm e t h o di na p p l y i n gt ot h ed e t e r m i n a t i o no ft h eo p t i m a le m b e d d i n gd i m e n s i o no fs i xt i m es e r i e sf r o ms i xc h a o t i ca t t r a c t o r s ，a n dO u rm e t h o di sa p p l i c a b l et oas h o r t 缸es e r i e sa n dd o e sn o ts t r o n g l yd e p e n do nh o wm a n yd a t ap o i n t sa r eu s e d ．mmF i g ．7 ．C ( m ，d ) 一坍f o rat i m es e r i e sf r o mH e n o na t t r a c t o r , w i t hw h i t en o i s ea d d e d ( d = 2 ) f o r ( a ) S N R = 3 0 d B ；( b ) S N R f 2 0 d BF i g ．8 ．C ( m ，d ) 一用f o rat i m es e r i e sf r o mL o r e n za t t r a c t o r , w i t hw h i t en o i s ea d d e d ( d = 3 ) f o r ( a ) S N R = 3 0 d B ；( b ) S N R = 2 0 d a山东大学博士学位论文T oi n v e s t i g a t et h er o b u s t n e s so fo u rm e t h o du n d e rn o i s e sw ea n a l y z e 山et i m es e r i e sf r o mH e n o na t t r a c t o ra n dL o r e n za t t r a c t o rw i t ha d d i t i v ew h i t eG a u s s i a nn o i s ew i t hd i f f e r e n tS i g n a l - t o - n o i s er a t i o ( S N R s ) ．T I 地r e s u l t so b t a i n e db yu s i n g0 1 1 1 " m e t h o da r cs h o w ni nF i g ．7a n dF i g ．8 ．O n ec a rs e et h a tt h eo p t i m a le m b e d d i n gd i m e n s i o n sf o rt h et i m es e r i e sf r o mH e n o na t t r a c t o rw i t hS N R = 3 0 d Ba n dS M b 2 0 d Ba r e2 ，a n dt h eo p t i m a le m b e d d i n gd i m e n s i o n sf o rt h et i m es e r i e sf r o mL o r e n za t t r a c t o rw i t hS N R 寻3 0 d Ba n ds N R = 2 0 d Ba r e5 ．S o0 1 1 1 " m e t h o di sr o b u s tt ot h ea d d i t i v ew h i t en o i s e ．I nt h ef o l l o w i n gw ea p p l y0 1 1 1 " m e t h o dt oap r a c t i c a lt i m es e r i e sw h e r et h eu n d e r l y i n gd y n a m i c si su n k n o w R ．mF i g ．9 ．C ( m ．d ) - mf o rt h ee x p e r i m e n t a ll a s e rd a t a - S a n t aF eD a t a 八w h e r et h et i m es e r i e sh a so n l y1 0 0 0s a m p l e s ．( d 三2 )A n a l y z ed a t af r o mt h ee x p e r i m e n t a ll a s e rd a t a ．S a n t aF eD a t aA ．T h et i m es e r i e sc o n t a i n s10 0 0s a m p l e s ．T h er e s u l t so b t a i n e db yu s i n go u rm e t h o da r es h o w ni nF i g ．9 ．W eC a n 溉t h a tt h ev a l u eo fC ( m ，d ) b e g i n st os l o w l yd e c l i n ea n di Ss m a l le n o u g ha t 研= 8 ，t h e r e f o r e ，t h eo p t i m a le m b e d d i n gd i m e n s i o nf o rt h i st i m es e r i e ss h o u l db e8 ．O u rr e s u l ti si na c c o r d谢t I It l l a ti nR e f ．[ 1 5 1 ．F i g ．1 0 ．C ( m ．d ) - 膈f o rt h eh e a r tr a t ev a r i a b i l i t yd a t a - S a n t aF eD a t aB ，w h e r eu s i n go n l y10 0 0d a t ap o i n t s ．( d 兰3 )A n a l y z ed a t af r o mt h eh e a r tr a t ev a r i a b i l i t ys i g n a l - S a n t aF eD a t aB ．u s i n g1 0 0 0d a t ap o i n t s ．F i g u r e1 0s h o w st h er e s u l t so b t a i n e db yu s i n go u rm e t h o d ．O n eC a ns ∞t h a tt h ev a l u eo fC ( m ，d ) b e g i n st os l o w l yd e c l i n ea n di ss m a l le n o u g ha t 埘= 3 ，t h e r e f o r e ，t h eo p t i m a le m b e d d i n gd i m e n s i o nf o rt h i st i m es e r i e ss h o u l db e3 ．S ot h eh e a r tr a t eo ft h ep a t i e n td u r i n gs l e e pi Sm a i n l yi n f l u e n c e db yt h r e ef a c t o r s ．4 ．C o n c l u s i o nAn e wm e t h o di sp r o p o s e dt od e t e r m i n et h eo p t i m a le m b e d d i n gd i m e n s i o nf r o mas c a l a rt i m es e r i e s ．w et e s ts i xt i m es e r i e sf r o ms i xc h a o t i ca t t r a c t o r s ，a n dt h en u m e r i c a lr e s u l t ss h o wt h ee f f e c t i v e n e s so fo u rm e t h o di na p p l y i n gt ot h ed e t e r m i n a t i o no ft h eo p t i m a le m b e d d i n gd i m e n s i o nf r o mas c a l a rt i m es e r i e s ．T h em e t h o dp r e s e n t e di n t h i sp a p e rh a st h ef o l l o w i n ga d v a n t a g e s ，i ti s ( 1 ) a p p l i c a b l et oas h o r tt i m es e r i e s ；( 2 ) s t a b l et on o i s e ；( 3 )c o m p u t a t i o n a U ye f f i c i e n t ( t y p i c a l l y , a n a l y s i so fa5 0 0 - p o i n tt i m es e r i e st a k e sj u s ts e c o n d so nad e s k t o pc o m p u t e r ) ；( 4 ) i td o e sn o tc o n t a i na n yp u r p o s e l yi n t r o d u c e dp a r a m e t e r s ．R e f e r e n c e s1 5 9m引舶邶J们¨帕邶之苦．喜山东大学博士学位论文i l ll ( a n t zH 柚dS e h r e i b e rT2 0 0 3N o n l i n e a rT i m eS e r i e sA n a l y s i s ( S e c o n dE d i t i o n ) ( C a n i l ' r i d g c ：．C a m b r i d g eU n i v e r s i t yP 礴s )【2 】T a k e mF1 9 8 1D y n , 枷c a iS y s t e m sa n dT u r t m l a l c c【q ．( B e r l i n ：S l , r i n g e r ) p 3 6 6【3 】Y o uRYC h e r tZ ，X uSCa n dW hBX2 0 0 4A e t aP h y s ．S i n ．5 32 8 8 2 ( i nC h i n e s e )【4 】Y a n gSQa n dJ i aCY 2 0 0 2A c t aP h y s ．S i n ．5 12 4 5 2( i nC h i n e s e )【5 】X i n oFI - l , Y a hG Ra n dH m YH2 0 0 5A c t aP h y s ．S i n ．, 5 45 5 0 ( i nC h i n e s e )【6 】C , r a s s b e , 售e rPa n dP r o e a e e i aI19 8 3P h y s ．胍L e t t5 03 4 6【7 1B r o o m h e a dDSa n dK i n gGP1 9 8 6t ' h y s i c aD 加2 1 7【8 】P n l u sMa n dD v o r a kl1 9 9 2P h y s i c aD5 52 2 1【9 】M e s sAL 咖PE ，a n dJ e n n i n g sL S1 9 8 7J , h y s ．尼“A3 63 4 0【lo 】F r a s e r AM1 9 8 9P h y s i c aD3 43 9 l【l l 】L e iM ，W a n gza n dF e n gZ2 0 0 2P h y s ．1 ．1 蹦oA3 0 31 7 9[ 1 2 】Y u a nJa n dX i a oXC1 9 9 8A c t aP h y s ．S i n ．4 78 9 7( i nC h i n e s e )【1 3 】M e n g QF ’Z h a n g Qa n d P a nJF2 0 0 5 S y s t ．E n g i ．r h e o ．a n dP r a c ．2 58 3 ( i nC h i n e s e )【14 】K e n n e lM ，B r o w nRa n dA b a r b a n e lH DI1 9 9 2P h y s ．R e v ．彳4 53 4 0 3【1 5 】C a o L1 9 9 7 P h y s i c a D1 1 0 4 3[ 1 6 】S u g i h a r aGa n dM a yRM1 9 9 0N a t u r e3 4 4 7 3 4【l7 1G a l k aA ’M a a BTa n dP f i s t e rG1 9 9 8P h y s i c aD1 2 12 3 7【1 8 】J u d d Ka n d M e e s A l 9 9 8 P h y s i c a D l 2 0 2 7 3【1 9 ] Z h a n gJS ，L iH Ca n dX i a oXC2 0 0 5 凸玩P h y s ．1 4 4 9【2 0 】L iHC ，Z h a n gJSa n dX i a oX C2 0 0 5C h ／n ．P h y s ．1 42 1 8 l【2l 】Z h a n gXD2 0 0 3M o d e mS i g n a lP r o c e s s i n g( S e c o n dE d i d o n ) ( 8 e i j i n g ：T s i n g h U aU n i v e r s i t yP r e s s ) ( i nC l a i n e s c )1 6 0山东大学博士学位论文An e wl o c a ll i n e a rp r e d i c t i o nm o d e lf o rc h a o t i ct i m es e r i e sQ i n 曲n gM e n g , Y u h u aP e n gS c h o o lo f l n f o r m a t i o nS c i e n c ea n dE n g i n e e r i n g , S h a n d o n gU n i v e r s i t y , ．f i n a n2 5 0 1 0 0 , P R C h i n aA b s t r a c tAn e wl o c a ll i n e a rp r e d i c t i o nm o d e li sp r o p o s e dt op r e d i c tc h a o t i ct i m es e r i e si nt h i sp a p e r ．W ep r o p o s et h a tt h ep a r a m e t e r s - t h ee m b e d d i n gd i m e n s i o na n dt h et i m ed e l a yo ft h el o c a ll i n e a rp r e d i c t i o nm o d e lC a l lb ec h o s e nv a l u e sw h i c ha r ed i f f e r e n tt ot h o s eo ft h es t a t es p a c er e c o n s t r u c t i o ni nt h ep r o c e d u r eo ff i n d i n gt h en e a r e s tn e i g h b o rp o i n t s ．W ep r o p o s eac r i t e r i o nb a s e do np r e d i c t i o np o w e rt od e t e r m i n et h eo p t i m a lp a r a m e t e r so ft h en e wl o c a ll i n e a rp r e d i c t i o nm o d e l ．S i m u l a t i o nr e s u l t ss h o wt h a tt h en e wl o c a ll i n e a rp r e d i c t i o nm o d e lc a ne f f e c t i v e l yp r e d i c tc h a o t i ct i m es e r i e sa n dt h ep r e d i c t i o np e r f o r m a n c eo ft h en e wl o c a ll i n e a rp r e d i c t i o nm o d e li ss u p e r i o rt ot h a to ft h el o c a ll i n e a rp r e d i c t i o n ．K e y w o r d s ：L o c a ll i n e a rp r e d i c t i o n ；C h a o t i ct i m es e r i e s ；M o d e l1 ．I n t r o d u c t i o nP r e d i c t i n gt h et i m ee v o l u t i o no fas y s t e mf r o mo b s e r v a t i o n si so n eo ft h em o s ti m p o r t a n tc l a s s i c a lp r o b l e m so ft i m es e r i e sa n a l y s i s ．I na d d i t i o nt ot h ei m p o r t a n c eo ft h ep r e d i c t i o n st h e m s e l v e s ，t h em e t h o d o l o g yb a s e do nt h es y s t e m s ’p r e d i c t a b i l i t yi sap o w e r f u lt o o lt oa n a l y z en o n l i n e a rt i m es e r i e s 【1 】，a n dt h e r ea r em a i n l yt h r e ea s p e c t so fa p p l i c a t i o no fp r e d i c t i o n s ．T h es u p e r i o r i t yo fn o n l i n e a rp r e d i c t i o ni su s u a l l yi n t e r p r e t e da sa i ! i n d i c a t i o nf o rn o n l i n e a rd e t e r m i n i s mi nt h ed a t a , a n dm e t h o d sb a s e do np r e d i c t i o n sp o w e ra r ep r o p o s e dt od i s t i n g u i s hd e t e r m i n i s t i cc h a o sf r o mn o i s e 【2 - 6 ] ．M e t h o d sb a s e do np r e d i c t i o n sp o w e ra r e 锄i m p o r t a n tk i n d o fm e t h o dt od e t e r m i n et h em i n i m u me m b e d d i n gd i m e n s i o n【7 ，8 】．A n dt h ed a t a ’Sp r e d i c t a b i l i t yi sa l s ou s e dt op r o b es t a t i o n a r i t y 【9 】．W i t ht h ed e v e l o p m e n to fc h a o st h e o r ya n dr e s e a r c ho ni t sa p p l i c a t i o nt e c h n i q u e ，m a n ym e t h o d sh a v eb e e np r o p o s e dt op r e d i c tc h a o t i ct i m es e r i e s [ 1 0 ·1 5 ] ，w h i c hC a nb eg r o u p e di n t ot w om a j o rc l a s s e s ：g l o b a la n dl o c a l ．1 1 1 eg l o b a lm e t h o d su s et h ew h o l et i m es e r i e st om o d e lt h et r u ef u n c t i o no nt h ew h o l ea t t r a c t o r ．I ti sc l e a rt h a tt h i sk i n do fm e t h o dh a st h ed i s a d v a n t a g et l l a ti fn e wi n f o r m a t i o ni st a k e ni n t oa c c o u n tt h e na l lt h ep a r a m e t e r so ft h em o d e lm a yc h a n g e ，t h e nal o n gp a r a m e t e re s t i m a t i o nt i m em a yb er e q u i r e d ．n el o c a lm e t h o d s [ 10 —15 】o v e r c o m et h i sd r a w b a c kb yb u i l d i n gm o d e lo n l yo nt h el o c a la t t r a c t o ra n du t i l i z i n go n l yp a r to ft h ep a s ti n f o r m a t i o n ．1 1 1 ep a r a m e t e r so ft h el o c a ll i n e a rp r e d i c t i o nm o d e la r ec h o s e nt h es a n l ev a l u e sa st h ee m b e d d i n gp a r a m e t e r si nt h ep r o c e d u r eo ff i n d i n gt h en e a r e s tn e i g h b o rp o i n t si nt h er e c o n s t r u c t e ds t a t es p a c e ．I nt h i sp a p e rw ep r o p o s et h a tt h ep a r a m e t e r so ft h el o c a ll i n e a rp r e d i c t i o nm o d e lc a nb ec h o s e nv a l u e st h a ta r ed i f f e r e n tt ow h a ta r eo p t i m a lf o rt h es t a t es p a c ec o n s t r u c t i o n ．W ep r o p o s eam e t h o do f1 6 l山东大学博士学位论文■■—●●一I I I l l l l l l l lI l lIIIIlllllllll,,,"1I l l l l l l lI I I II II -d a e t m i m gt h eo p t i m a lp a r a m e t e r so ft h en 攀呼l o c a ll i n e a rp r e d i c t i o nm o d e lb ym i n i m i z i n gt h em u l t i - s t e pp r e d i c t i o na 僦T h i sp a p e ri so r g a n i z e da sf o l l o w s ．T h en e wl o e a ll i n e a rp r e d i c t i o nm o d e li sd e s c r i b e di nS c 髦t i O R2 ，a n dt h ee f f e c t i v e n e s so ft h en e wl o c a ll i n e a rp r e d i c t i o nm o d e li si l l u s t r a t e db yc o m p a r i n gw i t ht h el o e a ll i n e a rp r e d i c t i o ni nS e c t i o n3 。

S c i o n4c o n t a i n ．, ab r i e fs m l m l a r ya n dd i s c u s s i o n ．t h ed i f f e r e n te l e m e n t so ft h ed e l a yv e c t o r s , a n ds h o u l d n ’tb et a k e nt o ol a r g e 也a tt h ed i f f e r e n tc o o r d i n a t e 群m a yb ea l m o s tu n c o r r e l a t e d ．T h ef i r s ts t e po ft h el o c a ll i n e a rp r e ：d i c t i o ni st of i n dt h en e i g h b o rp o i n t so ft h ec t L r r e n ts t a t eX 《露) i nt h er e e o m t r u e t e ds t a t es p a c e ．A c c o r d i n gt ot h er e c o n s l r u e t e dt r a j e c t o r y ,c o m p u t et h ed i s t a n c e , b e t w e e nt h ec u r r e n td e l a yw c | o ! 搭菇《磅a n di t sn - Ip r e c e d i n gd e l a yv e c t o r sx ( f x i = l ’2 ，⋯，霸一1 ) w i t ha n2 ．T h en e wl o c a ll i n e a rp r e d i c t i o ni m p o s e dm e t r i c 腿m o d e lT h er e c o n s t r u c t i o no fas t a t es p a c ew h i c h毽e q u i v a l e n tt ot h eo r i g i n a ls t a t es p a c eo fas y s t e mf r o mas c a l et i m es e r i e si st h eb a s i so fc h a o t i ct i m es e r i e sp r e d i c t i o n s 【l 】。

B a s e dO nW h i t n e y ’St o p o l o g i c a le m b e d d i n gt h e o r e m ,T a k e u sh a sp r o v e dt h ed e l a ye m b e d d i n gt h e o r e mw h i c ho f f e r st h ep o s s i b i l i t yo fr e c o n s t m e t i n gm - d i m e n s i o n a ld y n a m i c sf r o mas c a l et i m es e r i e s 【1 6 - 1 8 ] ．S u p p o s ea no b s e r v e d8 l x i i a rt i m es e r i e si s { 《嚣) ’嚣= l ，2 3 ⋯，挪．A c c o r d i n gt oT a k e m ’sd e l a ye m b e d d i n gt h e o r e m ,a ne m b e d d i n go ft h es t r a n g ec h a o t i ca t t r a c t o r sc a nb eo b t a i n e db yc o n s t r u c t i n gd e l a yV O C 《O I ' 8d ( f ) = I x ( o —x ( 一) I | ，( 1 )a n df i n dt h ekn e a r e s tm g h b o rp o i n t s搿( 嚣，) ( f = l ，2 ，⋯，七) ，w h e r et h ee m b e d d i n gd i m e n s i o na n dt h et i m ed e l a ya r ec h o s e nt h ep r o p e rv a l u e 撙掣a n dow h i c ha r co p t i m a lf o rt h es t a t es p a c ec o n s t r u c t i o n ，a n dki st a k e nv a l u eg r e a tt h a n ％f i0 ] ．T h el o c a ll i n e a rp r e d i c t i o nm o d e li na l l辨Ⅲ一d i m e n s i o n a ld e l a ye m b e d d i n gs p a c ei sa l la u t o r e g r e s s i v em o d e lo fo r d e rm , v v ，s u c ht h a tx O ) ：【善O ) ' x ( n —f ) ，⋯，缸再一( 黼一1 ) f ) 】7 ，t l l ep r e d i c t i o ni sal i l l e 牡s u p 叩o s i t i 。

n ft t l e撵= 铆一1 ) r + l ，O 撵- 1 ) r + 2 ，⋯，Ⅳf r o mt i m e - d e l a y e dc o o r d i n a t e s ．w h e r e ，竹i sae m b e d d i n gd i m e n s i o na n dfi sat i m ed e l a y ．I na p p l i c a t i o nt h ek e yf o rt h es t a t es p a c er e c o n s t r u c t i o ni sd e t e r m i n i n gi t so p t i m a lp a r a m e t e r s ．W h e nt h ee m b e d d i n gd i m e n s i o ni sl a r g e rt h a nt h em i n i m u me m b e d d i n gd i m e n s i o n ,t h et r a j e c t o r yo fr e c o n s t r u c t e dv e c t o r 8c a l lr e f l e c tt h et r u es t a t es p a c ee v o l u t i o no fc h a o t i cs y s t e m s 。

F r o mam a t h e m a t i c a lp o i n to fv i e wt h et i m ed e l a yfi sa r b i t r a r y , s i n c et h ed a t ai t e m sa r ea s s u m e d 轮h a v ei n f i n i t ep r e c i s i o n ．I na p p l i c a t i o n st h et i m ed e l a ys h o u l d n ’tb et a k e nt O os m a l It h a tt h e r ei sl i t t l ed i f f e r e n c eb e t w e e n1 6 2掰wd e m e n t so fd e l a yv e c t o r , t h a ti s肿_文撑+ 1 ) = 订 芝二口，工( 万- ( i —1 ) z ．啊) = 爿．誓( 刀)G )w h e r e4 = 【口0 ，a l ，口2 ，⋯，a ～】，一( 以) = 【l ，Ⅳ( 一) ’】7* f l ，《疗) ，工( 一一乇∥) ，⋯，x ( 一一( 刀’0 一1 ) f 掣) 】7’D e t e z m i n i s t i cp r e d i c t i o n sa $ s t l n l et h a tt h er e c o n s t r u c t e dt r a j e c t o r yi sg o v e r n e db yad e t e r m i n i s t i cc o n t i n u o u s l ym a p p i n gFb e t w e e nt h ec u r r e n ts t a t ea n dt h ef u t u r es t a t e 。

I ft h es t a t ea tt i m eJw a gs i m i l a rt ot h ec u r r e n t山东大学博士学位论文s t a t eX ( 一) ，c o n t i n u i t yo fFg u a r a n t e e st h a tt h es t a t eX ( _ ，+ 1 ) w i l la l s ob ec l o s et ot h ef u t u r es t a t eX ( n + 1 ) ．I nt h el o c a ll i n e a rp r e d i c t i o nm o d e l ．i ti sn o tn e c e s s a r yt h a t 册= m 叫a n dl - 2 ～w h i c ha r co p t i m a lf o rt h es t a t es p a c ec o n s t r u c t i o na n df i n d i n gt h en e i g h b o rp o i n t sb u tn o to p t i m a lf o rm a k i n gp r e d i c t i o n s ．n ep a r a m e t e r sma n dfs h o u l db et a k e nv a l u e sw h i c hi sm o r es u i t a b l ef o rm a k i n gp r e d i c t i o n s ．T h e nt h en e wI o c a ll i n e a rp r e d i e t i o nm o d e lp a r a m e t r i z e db y { m ，f ，c a nb ef o r m u l a t e d 弱f o l l o w s ：j ( 刀+ 1 ) = a 。

∑口，x ( n - ( i - 1 ) r ) = A 2 Y 2 ( n ) ( 3 )1 ．iw h e r e4 = 【‰，a l ，口2 ，⋯，巳】，y 2 ( n ) = 【l ，工( 靠) ，x ( n —f ) ，⋯，x ( n - ( m —1 ) f ) 】r ．T h ee n t r i e so ft h ec o e 伍c i e n tv e c t o r4d e p e n do nt h el o c a t i o no fc u r r e n ts t a t e sx ( 刀)a n di t st o p o l o g i c a ln e i g h b o r h o o dX ( 啊) ( f = 1 , 2 ，⋯，k ) ．T h ec o e f f i c i e n tv e c t o r4c a nb eo b t a i n e df x o mt h ef o l l o w i n ge q u a t i o n ：A ：B = D ，( 4 )w h e r eBi sa ( 肌+ 1 ) ×km a t r i xw h o s e ／t hc o l u m ni sm a d eo fE ( 疗，) a n dDi sa l ll x kv e c t o rw h o s ei t hc o l u m ni sm a d eo f “啊+ 1 )a n dl ' l ( n ，) = 【l ，x ( n ．) ，x ( n ，一1 ) ，⋯，x ( n ．一p + 1 ) 】7 ，D = 【x ( n l + 1 ) ，x ( n 2 + 1 ) ，x ( n ，+ 1 ) ，⋯，x ( n I + 1 ) 】．T h es a m es c h e m em a yb ef o l l o w e dt oc a l c u l a t ei ( 一+ 2 ) ，w h i c hf o l l o w st h el a s tp o i n t ，w h i c h i s n o wx ( n + 1 ) ．T h ep r e d i c t i o np o w e ro fam o d e li st h e nm e a s u r e db yt h es t a n d a r dp r e d i c t i o ne r r o r 8 ：∑【工( 刀+ D —j ( 刀+ D 】2F 伽，f ) 2 = 型1 —————一，( 5 )∑【工( 玎+ f ) 一i 】2w h e r e 孑= ÷∑x ( 刀+ f ) ' e ( m ，f ) 2i si ne f f e c tan o r m a l i z e dv a r i a n c eo ft h ee r r o rr e s i d u a l s ，a n dLi st h el 鲫g t l lo ft h ep r e d i c t i o nd a t a ．W es e a r c hf o rt h eo p t i m a lp a r a m e t e r s 沏叫p ，吃}o ft h en e wl o c a ll i n e a rp r e d i c t i o nm o d e li ne q u a t i o n ( 3 ) t h a tm i n i m i z e st h ef o l l o w i n gc r i t e r i o nC ( m ，f ) = l n E ( m ，f ) ，( 6 )I nt h i sp a p e rw eu ∞t h em u l t i - s t e pp r e d i c t i o ne r r o r ．I nt h en u m e r i c a lp r o c e d u r e ，w ed e t e r m i n et h eo p t i m a lp a r a m e t e r s { m 叩| p ，f 二} o ft h en e wl o c a ll i n e a rp r e d i c t i o nm o d e lb a s e do nt h ea v e r a g em u l t i - s t e pp r e d i c t i o ne r l " O l 瞎o ft h et r a i n i n gs e t ．W es p l i tt h et r a i n i n gs e tw i t hMp o i n t si n t ot w op a r t s ．a n dr e s p e c t i v e l yu s et h eM - r H ( r = l ，2 ，⋯，R ) p o i n t st op r e d i c tt h ef o l l o w i n g日p o i n t sa n dg e tc ，沏，r ) ( r = 1 , 2 ，⋯，R ) ，w h e r et h ev a l u eo fHi sd e t e r m i n e db yt h em u l t i - s t e pp r e d i c t i o np e r f o r m a n c eo ft h el o c a ll i n e a rp r e d i c t i o n ．C h o o s et h ea v e r a g ev a l u eo fC ( r = 1 , 2 ，⋯，R )a sC ．W bs e a r c hf o rt h eo p t i m a lp a r a m e t e rm a tm i n i m i z e st h ec r i t e r i o nCw i t ho t h e rp a r a m e t e r st a k i n g 血e dv a l u e ．W et a k et h ep a r a m e t e r ’si n i t i a lv a l u e sa st h ep a r a m e t e r so ft h el o c a ll i n e a rp r e d i c t i o n ．W h e nH = l ，，．= L ，w ec a ng e tt h eo n e —s t e pp r e d i c t i o ne r r o rf o rLd a t a ．3 ．S i m u l a t i o na n dr e s u l t sT oi l l u s t r a t et h ep e r f o r m a n c eo ft h en e wl o c a ll i n e a rp r e d i c t i o nm o d e l ，w eU S et h eL o r e n zm o d e la sa l le x a m p l e ．T h i sm o d e ld e s c r i b e st h eR a y l e i g h —B e n a r dc o n v e c t i o na r i s i n gf r o mt h et w od i m e n s i o n a lN a v i e r - S t o k e se q u a t i o n , w h i c hi sf o r m u l a t e df o raf l u i ds l a bo ff i n i t et h i c k n e s ss u b j e c t e dt og r a v i t yl o a d i n g ，h e a t e df r o mb e l o wa n db e t w e e nt h et o pc o l da n dt h eb o t t o mh o ts u r f a c et h et e m p e r a t u r ei sh e l dc o n s t a n t ．T h ep a r t i a ld i f f e r e n t i a le q u a t i o n sw e r et r a n s f o r m e dt oas e to ft h r e eo r d i n a r y1 6 3山东大学博士学位论文d i f f e r e n t i a le q u a t i o n s ．L a t e rL o r e n zd e s c r i b e dt h ew a yh ed e r i v e dt h em o d e lb o t hp h y s i c a l l ya n dm a t h e m a t i c a l l y 【19 ] ．T h eL o r e n ze q u a t i o nc a nb ew r i t t e ni nt h ef o l l o w i n gf o r m s ：瞄= a ( 譬y - 喘( 7 )w h e r e 工i st h ea m p l i t u d eo ft h ec o n v e c t i o nm o t i o n , yi st h et c m p e m t u r eb e C w o o t lt h ea s c e n d i n ga n dd e s c e n d i n gc u n e n t s , zi st h ed i s t o r t i o no ft h ev e r t i c a lt e m p e r a t u r ep r o f i l ef r o ml i n e a r i t y , a n d 盯，r ，a n dba r ed i m e n s i o n l e s sp i l l - a m e t e m ．n ep a r a m e t e r sa r em o s tc o m m o n l ys e l e c t e d t o b e 仃= 1 0 ，r = 2 8 ，a n db = 8 ／3f o r ar i c hd y n a m i c a db e h a v i o r 【2 0 ] ．田托s t a n d a r df o u r t h - o r d e rR u n g o - K u t t am e t h o di su s e dt os o l u t et h ee q u a t i o n s( d i s c a r d i n gt h et r a n s i e n t s ) ．1 1 1 et i m es t e pi ss e tt 0b e 万= O ．0 1 ．a n dt h e 工v a l u e sa r eu s e dt Or e c o n s t r u c tt h es t a t es p a c ew i t ht h et i m ed e l a yo = 1 4a n dt h ee m b e d d i n gd i m e n a i o nm 叫= 3 ．S e l e c t e df o u rs u c c e s s i o nt i m es e r i e s1 6 4( a ) f = 1 4谢t ht h el e n g t ho fM = 1 0 0 0 0a r ou s e da st r a i n i n gs e t , a n dt h ep r e d i c t i o ni sm a d ea sf a ra 8l0 0 0t i m es t e p si n t ot h ef u t u r e ．T h er e s u l t sa r es h o w ni nF i g ．2 ，4 ，6a n d8r e s p e c t i v e l y , i nw h i c hw el i s tt h ea c t u a lv a l u ef o rc o m p a r i s o n ，w h i c hi s n ’ti n c l u d e di nt h em u l t i - s t e pp r e d i c t i o np r o c e d u r e ．T od e t e r m i n et h ep a r a m e t e r s 伽，f } o ft h en e wl o c a ll i n e a rp r e d i c t i o nm o d e l ，w et a k eH = 3 0 0a n dR = 3 ．t h a ti sr e s p e c t i v e l yu s i n gt h e910 0p o i n t so ft h et r a i n i n gs e tt op r e d i c tt h ef o l l o w i n g3 0 0p o i n t s ．u s i n gt h e9 4 0 0p o i n t st Op r e d i c tt h ef o l l o w i n g3 0 0p o i n t s ，a n du s i n gt h e9 7 0 0p o i n t st op r e d i c tt h ef o l l o w i n g3 0 0p o i n t sa n dg e tc I ( 肌，f ) ，C 2 ( m ，f ) a n dC 3 ( 肌，f ) ．C h o o s et h ea v e r a g ev a l u eo fc l ，Ga n dC ，a sC ．W es e a r c hf o rt h eo p t i m a lp a r a m e t e rt h a tm i n i m i z e st h ec r i t e r i o nCw i t ho t h e rp a r a m e t e r st a k i n g6 x e dv a l u e ．a n dt h en u m e r i c a lp r o c e d u r ei ss h o w ni nF i g ．1 ，3 ，5a n d7 ．W ct a k et h ep a r a m e t e r ’Si n i t i a lv a l u e sa st h ep a r a m e t e r so ft h el o c a ll i n e a rp r e d i c t i o n ，t h a ti sm = 3 ．f = 1 4 ．( b ) m = 4山东大学博士学位论文( c ) f = 1 0F i g ．1 ．C ( m ，f ) f o r t h e f i r s t t i m es e r i e sF r o mF i g ．1w e 锄s ∞t h a tt h eo p t i m a lp a r a m e t e r so ft h en e wl o c a ll i n e a rp r e d i c t i o nm o d e lf o rt h ef i r s tt i m es e r i e sa 他m 二r = 4 ，％P = 1 0w h i c hh a sl o w e rp r e d i c t i o n啪rt h a nt h el o c a ll i n e a rp r e d i c t i o n ．F i g ．2 ．P r e d i c t e da n do b s e r v e d ( s o l i dl i n e ) v a l u e so ft h ef i r s tt i m es e r i e s ，a n dp r e d i c t i o ne r l ' o r su s i n gt h el o c a ll i n e a rp r e d i c t i o n ( d o t t e dl i n e s ) a n dt h en e wl o c a ll i n e a rp r e d i c t i o nm o d e l ( d a s h e dl i n e s )F r o mF i g ．2 ，i tc a nb es 鲫lt h a t ，f o rt h ef i r s tt i m es e r i e s ，t h ep r e d i c t i o nv a l u e so ft h el o c a ll i n e a rp r e d i c t i o n $ t a l ' td i v e r g i n gs i g n i f i c a n t l yf r o mt h ea c t u a lv a l u ef r o mt h e191s tt i m es t e p ，( a ) f = 1 4t h o s eo ft h en e wl o c a ll i n e a rp r e d i c t i o nm o d e ls t a r td i v e r g i n gs i g n i f i c a n t l ya f t e ra r o u n d7 8 0t i m es t e p s ．( b ) m = 21 6 5山东大学博士学位论文( c ) f = 1 0F i g ．3 ．C ( m ，f ) f o rt h es e c o n dt i m es ∞o 岱F r o mF i g ．3w 弓c a ns ∞t h a tt h eo p t i m a lp a r a m e t e r so ft h en e wl o c a ll i n e a rp r e d i c t i o nm o d e lf o rt h es e c o n dt i m es e r i e sa 砖m 二= 2 ，f 掣P = 1 0w h i c hh a sl o w e rp r e d i c t i o ne l T o rt h a nt h el o c a ll i n e a rp r e d i c t i o n ．F 远一4 ．P r e d i c t e da n do b s e r v e d ( s o l i dl i n e ) v a l u e so f t h es e c o n dt i m es e r i e s ．a n dp r e d i c t i o ne l Y o r su s i n gt h el o c a ll i n e a rp r e d i c t i o n ( d o t t e dl i n e s ) a n dt h en e wl o c a ll i n e a rp r e d i c t i o nm o d e l ( d a s h e dl i n e s )F r o mF i g ．4 ．i tc a l lb e ＆啪t h a t , f o rt h es e c o n dt i m es e r i e s ，t h ep r e d i c t i o ne r r o r so ft h el o c a ll i n e a rp r e d i c t i o ns t a r t sg r o w i n gc o n s i d e r a b l ya f t e ra r o u n d15 7t i m es t e p s ，t h e n1 6 6( a ) T = 1 4f l u c t u a t ew i t h i n16 1t i m es t e p s ，a n dt h o s eo ft h en e wl o c a ll i n e a rp r e d i c t i o nm o d e la r ev e r yl o ww i t h i n5 3 2t i m es t e p s ，a n dg r o wr a p i d l yf r o mt h e5 3 3 r dt i m es t e p ．( b ) 胁= 5山东大学博士学位论文_ - I 目目E _ _ _ _ - l - _ I —_ _ - _ _ _ _ l ——_ 薯E _ E | _ 群q l l l l---|__HI||g|_j-—_《c ) f = SF i g ．5 ．C ( m ，i t " ) f o rt h et h i r dt i m es e r i e s‰Ⅸ9 5w e ㈨湖竺& 删戚珊刍吒吃；8 。

p a r a m e t e r so ft h en e wl o c a ll i n e a rp r e d i c t i o n即’掣m o d df o rt h et h i r dt i m es e r i e s黜F i g ．6 - P r e d i c t e da n do b s e r v e d ( s o l i dl i n e ) v a l u e so ft h et h i r dt i m es e r i e s ，a n dp r e d i c t i o ne t ' r o r su s i n gt h el o c a ll i n e a rp r e d i c t i o n ( d o t t e dl i n e s ) a n dt h en e wl o c a ll i n e a rp r e d i c t i o nm o d e l ( d a s h e dl i n e s )F r o mF i g ．6 i tc 搬b es e e nt h a t , f o rt h et h i r dt i m es e r i e s ，t h ep r e d i c t i o nv a l u e so ft h el o c a ll i n e a rp r e d i c t i o n8 t a r td i v e r g i n gs i g n i f i c a n t l yf r o mt h ea c t u a lv a l u ef r o mt h e( a ) f = 1 42 0 6 t ht i m es t e p ，t h o s eo ft h en e wl o c a ll i n e a rp r e d i c t i o nm o d e lf o l l o wt h ea c t u a lt r a j e c t o r yv e r yw e l lw i t h i n7 4 0t i m es t e p s ．( b ) 肼= 41 6 7山东大学博士学位论文( c ) f = 1 5F i & 7 ．C 沏，f ) f o rt h ef o u r t ht i m es e r i e sp a r a m m e t e m r s №o f Jt 骶h e 锄p r o p 娥o s e 岫dl o 岫c a l 鼍i n 姗e a r l 朋二= 4 ，吃= 1 5 ．1”’甲p r e d i c t i o nm o d e lf o rt h ef o u r t ht i m es e r i e sa ∞F i g8 ．P r e d i c t e da n do b s e r v e d ( s o l i dl i n e ) v a l u e so ft h ef o u r t ht i m es e r i e s ，a n dp r e d i c t i o n 盯。

幅u s i n gt h el o c a ll i n e a rp r e d i c t i o n ( d o t t e dl i n e s ) a n dt h en c wl o c a ll i n e a rp r e d i c t i o nm o d e l ( d a s h e dl i n e s )F r o mF i g ．8 ，i tC a r lb es e 即t h 矾f o rt h ef o u r t ht i m es e r i e s ，t h ep r e d i c t i o ne r r o r so ft h el o c a ll i n e a rp r e d i c t i o n8 t a r t 8g r o w i n gc o n s i d e r a b l ya f t e ra r o u n d12 2t i m es t e p s ，t h e nf l u c t u a t ew i m i n12 6t i m es t e p s ．a n dt h o s eo ft h en e wl o c a ll i n e a rp r e d i c t i o nm o d e ls t a r t sg r o w i n gc o n s i d e r a b l ya f t e ra r o u n d5 7 3t i m es t e p s ，t h e nf l u c t u a t ew i t h i n7 9t i m es t e p s ．S ot h ep r e d i c t i o np e r f o r m a n c eo ft h en e wl o c a l l i n e a rp r e d i c t i o nm o d e li so b v i o u s l yb 雌' r i o rt ot h a to ft h el o c a ll i n e a rp r e d i c t i o n ．4 ．C o n c l u s i o n1 6 8I nt h i sp a p e rw ep r o p o s ean e wl o c a ll i n e a rp r e d i c t i o nm o d e lt op r e d i c tc h a o t i ct i m es e r i e s ，w h e r ei nt h ep r o c e d u r eo ff i n d i n gt h en e a r e s tn e i g h b o rp o i n t st h ee m b e d d i n gd i m e n s i o na n dt h et i m ed e l a ya r ec h o s e nv a l u e sw h i c h 锄≈o p t i m a lf o rt h es t a t es p a c ec o n s t r u c t i o na n di nt h ep r e d i c t i o nm o d e lt h ee m b e d d i n gd i m e n s i o na n dt h et i m ed e l a ya r ec h o s e nd i f f e r e n tv a l u e s ．W ep r o p o s eac r i t e r i o nb a s e do np r e d i c t i o np o w e rt Od e t e r m i n et h eo p t i m a lp a r a m e t e r so ft h en e wl o c a Il i n e a rp r e d i c t i o nm o d e l ．S i m u l a t i o nr e s u l t ss h o wt h a tt h ep r e d i c t i o np e r f o r m a n c eo ft h en e wl o c a ll i n e a rp r e d i c t i o nm o d e li ss u p e r i o rt ot h a to ft h el o c a ll i n e a rp r e d i c t i o n ．山东大学博士学位论文【l 】H ．K a n t za n dT ．S c h r e i b e r , N o n l i n e a r T t m eS e r i e sA n a l y s i s ( S e c o n dE d i t i o n ) ( C a m b r i d g eU n i v e r s i t yP 陀s s ．C a m b r i d g e , 2 0 0 3 ) ．【2 】T ．K o ha n dE ．J ．P o w e r s ，I E E ET r a n ．O nA c o ．S p e ．a n dS i g ．P r o ．3 3 ，( 19 8 5 ) 1 4 4 5 ．【3 】九九T s o n i sa n dJ ．B ．E i s n e r , N a t u r e3 5 8 ，2 1 7( 1 9 9 2 ) ．【4 】D ．M ．R u b i n , C h a o s2 ，5 2 5 ( 1 9 9 2 ) ．【5 1M ．B a r a h o n aa n dC ．·S ．P o o h ，N a t u r e3 8 1 ，2 1 5( 1 9 9 6 ) ．【6 】T ．1 k e g u c h ia n dI CA i h a r a , P h y s ．R e v ．E5 5 ，2 5 3 0( 1 9 9 7 ) ．阴GS u g i h a r aa n dRM ．M a y ’N a t u r e3 3 4 ，7 3 40 9 9 0 ) ．【8 】M ．C a s d a g l i ，P h y s i c aD3 5 ，3 3 5 ( 1 9 8 9 ) ．【9 JtS c h r e i b e r , P h y s ．R e v ．L e t t ．7 8 ，8 4 3 ( 19 9 7 ) ．[ t 0 】J ．D ．F a r m e ra n dJ ．J ．S i d o r o w i c h ，P h y s ．R ．e v oL e t t5 9 ，8 4 5 ( 1 9 8 7 )f II 】GS u g i h a r aa n dRM ．M a y , N a t u r e3 3 4 ，7 3 4( 1 9 9 0 ) ．【1 2 】M ．G i o n a , F ．L e n t i n i ，a n dVC i m a g a l l i ，P h y s ．R e v ．A 4 4 ，3 4 9 6 ( 1 9 9 1 ) ．[ 13 】D ．g u g i u m t z i s ，O ．C ．L i n g j a r d ea n dN ．C h r i s t o p h e r s e n ，P h y s i c aD11 2 ，3 4 4 ( 19 9 8 ) ．【1 4 】A ．w ．J a y a w a r d e n a ，W ．K ．L i ，a n dP ．X u ，J ．o fH y d r o ．2 5 8 , 4 0 ( 2 0 0 2 ) ．【l5 】M ．R a g w i t za n dH ．g a n t z , P h y s ．R e v ．E6 5 ，0 5 6 2 0 1 ( 2 0 0 2 ) ．【1 6 】N ．P a c k a r de ta l ，P h y s ．R e v ．L e t t ．4 5 ，7 1 20 9 8 0 ) ．【1 7 ] T a k e n sF ，i nD y n a m i c a lS y s t e m sa n dT u r b u l e n c e ,W a r w i c k , 19 8 0 ，e d i t e db yR a n dDa n dY o u n gL —S( S p r i n g e r , B e r l i n ，19 81 ) ，p ．3 6 6【l8 】T ．S a u e r , J ．AY o r k e ，a n dM ．C a s d a g l i ，J ．S t a t ．P h y s ．6 5 ，5 7 9 ( 1 9 9 1 ) ．[ 1 9 】E ．N ．L o r e n z , T e l l u s ，S e tA3 6 ，9 8 ( 1 9 8 4 ) ．【2 0 】A ．J ．L i c h t e n b e r ga n dM ．八L i e b e r m a n ，R e g u l a ra n dS t o c h a s t i cM o t i o n ( S p r i n g e r , N e wY o r k , 1 9 8 3 ) ．1 6 9非线性动力系统时间序列分析方法及其应用研究非线性动力系统时间序列分析方法及其应用研究作者：孟庆芳学位授予单位：山东大学 相似文献(10条)相似文献(10条)1.期刊论文 李素萍.姚洪兴.LI Su-ping.YAO Hong-xing 多变量时间序列分析及其应用 -科学技术与工程2008,8(11) 在非线性动力系统中,单变量应用于预测已进行了大量研究,在讨论多个变量间依赖性的基础上,将其应用于预测,并对小波神经网络和主成分分析法进行了推广.由预测结果可知,当时间序列很短而同时有多个变量的时序可测时,多变量比单变量更能提供有效信息;从而获得更好的预测结果.2.学位论文 杨一文 基于计算智能的非线性时间序列分析及其在金融工程中的应用 2002 该文共分为4个部分,第1部分包括第一、二章.第一章介绍了计算智能的主要技术方法及其在金融工程中的应用.第二章首先分析了非线性时间序列模型的缺陷,其次介绍了非线性时间序列分析的基本理论-嵌入延迟定理,由最初的Whitney定理逐步推广至嵌入延迟定理;并且介绍了嵌入维、前入延迟时间、最大Lyapunov指数和相关维的数值估计方法.第2部分包括第三章,运用第二章的理论与方法分别对上海和深圳两地证券市场进行非线性动力特性研究.第3部分包括第四、五、六章,对于由未知的非线性动力系统产生的时间序列,注重研究在重构相空间（而非一维时域）内进行预测的方法.第4部分包括第七、八两章,研究引入人的先验知识或经验以增强预测能力的方法.利用分形市场的特点和神经模糊系统对函数的逼近能力,并将股指序列变化的普遍规律用于对输入空间的模糊划分,大大提高了预测能力.3.学位论文 姜建东 非线性时间序列分析在机械故障诊断中的应用研究 1999 该文的工作目的是研究前沿的非线性动力系统、非线性时间序列分析方法,开发基于混沌和分形动力学的机械设备故障诊断方法,包括数据分析和特征提取方法的研究.该文较为系统地提出了基于非线性时间序列的振动信号分析方法,将非线性降噪、相空间重构、非线性特征量的计算等有机地结合起来,构成了完整的基于非线性时间序列的故障信号分析方法.针对算法中关键参数的选取进行了深入的研究,提出了改善关联维数计算精度的方法.4.期刊论文 李亚安.冯西安.张群飞.黄建国 非线性时间序列的信息流研究 -探测与控制学报2004,26(2) 基于Takens定理的相空间重构为利用时间序列分析研究非线性动力系统提供了理论基础.相空间重构不仅给出了用于分析的动态模型,而且揭示了存在于状态变量之间的信息流.本文以Lorenz模型为例,通过相空间重构,验证了存在于Lorenz模型各状态变量之间的信息流.提出了利用信息流概念进行虚拟测量的方法.5.学位论文 曹海云 基于非线性动力系统的水声信号非线性性质检测 2003 水声信号是一种复杂且不规则的信号。

传统的方法是对采集到的声呐信号运用线性的方法进行处理,在时域和频域上对信号进行分析,导出对信号源的描述这里认为信号所表现的复杂和不规则性是由于外部随机性作用于动力系统而产生的非线性时间序列分析理论认为确定性的动力系统内在的非线性会导致系统输出信号的复杂和不规则性 本论文首先介绍了非线性动力系统和混沌的基本理论,包括Takens嵌入定理和嵌入参数的选择问题,以及基于非线性动力学系统的信号处理的方法其次介绍了鉴别信号非线性性质的基本方法,这里最主要的是介绍时反性的方法,以及在检测中所选用的鉴别时反性的统计量最后,我们介绍了滴定算法,Volterra自适应滤波器和非线性归一化最小方差(NLMS)算法,并将检测信号非线性的方法与滴定算法相结合 在计算时反性统计量时,时延和嵌入维对统计量的特性都有一定的影响其中时延对统计量的特性的影响较大,并通过对理想混沌信号检测结果对此作了说明在本论文中,时反性的方法与滴定算法相结合,回答了实测水声信号线性与否的问题,并且确定了实测水声信号中混沌分量的相对大小6.期刊论文 程瑜蓉.郭双冰 基于混沌时间序列分析的股票价格预测 -电子科技大学学报2003,32(4) 根据股票市场是非线性动力系统的假设,利用混沌理论对混沌时间序列的分析方法,提出了股票价格预测方法.同时利用重构相空间的嵌入维数和延迟时间分别确定经向基函数模型网络的结构和训练样本对,对实际的股票时间序列预测结果表明,该方法能有效地进行短期预测,并与前馈神经网络模型相比,可得到较好的预测结果,因而在股票时间序列预测中有广泛的实用价值.7.学位论文 陶玉静 液体火箭发动机响应特性研究及稳定性的非线性分析 2006 动态特性包括响应特性和稳定性，本文采用理论分析、数值仿真和试验研究等手段对目前这两方面研究的不足及存在的难题开展了深入的研究工作。

设计了用于液氧流量调节的低温可调汽蚀文氏管；建立了低温可调汽蚀文氏管汽蚀状态和非汽蚀状态下统一的动力学模型；对低温流量控制系统进行了大量冷态、热态试验，得到了流量系数、压力恢复系数随文氏管入口压力及调节针锥位移的变化规律，并成功实现了多级流量调节和工况转换 建立了两位五通常开式电动气阀、杠杆式气动液阀的动力学模型；分析了控制气体压力、最大气隙以及工作电压等因素对电动过程的影响；分析了控制气体压力、控制腔容腔半径、与电动气阀之间连接管长度以及工质腔入口压力等因素对气动液阀启动过程的影响；对电动气阀和气动液阀联立时的工作特性进行了大量试验研究 建立了三组元工况和两组元工况下统一的燃烧室模型；对三组元发动机地面试验系统的常温和低温推进剂充填过程、起动时序、转工况时序以及动态响应过程进行了深入的仿真研究，提出了用液体体积分数来直观描述容腔的充填过程；进行了大量地面热态试验，验证仿真分析的结果 首次将基于相空间重构的非线性时间序列分析方法用于液体火箭发动机稳定性分析中，从一个全新的视角来研究复杂的液体火箭发动机系统的稳定性，得到发动机工作的稳定性极限，揭示出系统的动力学本质，为解决系统稳定性和燃烧过程稳定性这一理论和工程上的难题提供新的思路和手段。

非线性时间序列分析的基础是干净、真实的时间序列数据，本文对现有小波去噪方法进行改进，提出了一种基于小波变换模极大值与阈值决策相融合的去噪方法该方法融合了小波变换模极大值去噪法和阈值去噪法的优点，克服了将非模极大值点的小波系数全部置为0，从而舍弃部分有用信息的缺陷，也克服了对阈值简单设置的不足，针对不同尺度下模极大值的情况，进行合理的阈值设置；利用经典的Lorenz非线性动力系统对改进方法进行验证，结果表明改进方法具有精度高、算法简单、计算效率高的优点；利用改进方法对PCB高频压力传感器测得的试验数据进行去噪处理，既达到了良好的去噪效果，又保留了原始信号的主要特征 对基于相空间重构的非线性时间序列分析进行了深入的理论研究，开发出重构参数(时间延迟、嵌入维数)、关联维数和最大Lyapunov指数的计算程序；针对三组元发动机地面试验系统，首次计算出正常工况下发动机系统的关联维数在2.9和3.2之间，最大Lyapunov指数在0.0006和0.001之间且利用两种非线性特征量的突变，可以检测出发动机的故障以及看似正常的燃烧室压力脉动曲线对应的参数稳定性边界对三组元发动机地面试验系统的客观试验数据进行了基于相空间重构的非线性时间序列分析，定量计算出：氢含量的稳定性边界是12％左右，氢温度的稳定性边界是112K左右，氢喷注压降的稳定性边界为室压的16％左右，一旦低于这些边界，系统就容易激发不稳定；余氧系数的稳定性裕度较宽，在0.6～1的范围内发动机都可以正常工作，这利于工况设定。

8.学位论文 陈静 舰船辐射噪声的混沌特征提取方法研究 2006 水下目标特征提取技术在现代水声信号处理领域具有十分重要的意义将混沌理论应用于水下信号处理，通过相空间重构、混沌特征参数提取等非线性时间分析方法可以达到对舰船信号识别的目的本文以基于混沌理论的非线性时间序列分析为基础，围绕舰船辐射噪声的特征提取这一主题，进行了如下工作： 1.在相空间重构的基础上，对Takens嵌入定理进行了研究，并对重构的两个参数—延迟时间和最小嵌入维数进行了估计利用平均互信息法确定相空间重构的时间延迟利用伪最邻近点法确定相空间重构的最小嵌入维数介绍了非线性动力系统状态变量之间的信息流概念，有助于进一步了解非线性的本质 2.研究了基于相空间重构的非线性局部投影滤波方法，该方法的原理是将低维的时间序列拓展到高维的相空间，将高维相空间分解为两个正交的子空间，将具有较小特征值的特征矢量所在的流形向较大的特征值所在的特征矢量投影利用局部投影滤波方法对舰船辐射噪声进行降噪，可以较好地恢复波形和相空间轨迹 3.研究了舰船辐射噪声的特征提取方法通过对舰船辐射噪声进行关联维数、最大Lyapunov指数、h2熵等混沌特征参数的提取，结果表明：利用关联维数的确可以对不同的舰船目标进行分类；由于舰船辐射噪声具有正的最大Lyapunov指数及正的h2熵，说明舰船辐射噪声中确实有混沌成分存在。

4.研究了基于相空间重构的递归图及定量递归分析通过对舰船辐射噪声递归图的分析及对定量递归分析特征量的计算，得出：舰船辐射噪声的递归图与其混沌特征量如关联维数之间存在着某种关系；定量递归分析的特征量，如确定率、递归率和熵等，可以作为混沌特征参数对实际舰船信号进行识别、分类；定量递归分析的特征量与混沌特征参数之间具有某种对应关系；提出：递归分析是一种新的非线性方法分析的有效工具9.期刊论文 刘耀宗.温熙森.胡茑庆.LIU Yao-zong.WEN Xi-sen.HU Niao-qing 非最小相位线性非高斯序列的替代数据检验 -物理学报2001,50(4) 替代数据法作为检验时间序列非线性和混沌的统计方法获得了广泛应用. 常用的替代数据法的零假设为“原序列来自（经过单调静态非线性变换的）平稳线性高斯随机过程”. 拒绝此假设，并不能说明序列必然来自确定性的非线性动力系统，非最小相位的线性非高斯序列也会导致基于相位随机化的替代数据检验拒绝此假设.10.学位论文 彭章艳 沪、深股票市场非线性特征及其预测模型研究 2004 股票市场作为市场经济的一个重要组成部分,对国民经济的发展起到了非常巨大的作用.十多年来,我国股票市场取得了令人瞩目的成就,但同时也出现了诸多难以解决的问题.传统的线性方法,由国内外大量的实证研究表明这一方法不甚合理,不能客观地描述股票市场随时间变化的情况和特征,应该应用各种非线性方法来研究我国股票市场的预测问题,以便推动我国股票市场的健康发展.因此,股票市场的非线性特征问题,非线性动力学预测模型的建立问题是近几年来国内外金融界、学术界非常关注的课题.由于上海、深圳的股市起步早,数据多,且大盘指数综合了各个方面的影响,具有较强的代表性.本文首先对沪、深股市中上海邯郸钢铁和深圳宝安股票多年的收盘价进行了分析,描绘了其股票的收盘价随时间变化的趋势图,采用R/S分析法,计算出了H指数均小于0.5,表明了这两种股票市场的变化都具有抗持续相关性,具有长期记忆性,因而短期预测是可能的.接着利用时间序列分析方法,运用了一种关于时间序列分析的门限自回归模型的通用的建模方法,将非线性的门限自回归模型转化为线性的AR模型进行处理、分割数据、分段建模,建立了股市非线性动力学模型.结果表明:该模型既考虑到了实际应用的需要,也比较好地拟合了实际数据.并且残差分析的结果也证实了这一点.然后,用已建的非线性动力学模型对沪、深股市进行了预测,将预测数据与实际数据的图形进行了拟合,并将实际的数据(20个交易日)与预测的数据进行了比较,结果令人满意,进一步表明了该模型的合理性和准确性.最后,通过选用上海、深圳的几支股票进行实证检验,结果也同样表明了沪、深股票市场复杂的非线性特征,揭示了股票市场的显著的非线性动力系统特征.这些都将为政府调整决策,为股民规避风险,提供科学的理论依据.总之,本文运用非线性分析方法,克服了股票市场中的传统观念,即:决定论观点和随机论观点的局限性.揭示了沪、深股票市场的非线性特征.建立了一个时间序列的门限自回归的预测模型,为股票市场的非线性研究这一前沿领域作了一点新的尝试. 本文链接：。