《时间序列模型》PPT课件.ppt

第六章、第六章、时间序列分析模型时间序列分析模型（（1））E&M-IMU问题的引出：非平稳变量与经典回归模型问题的引出：非平稳变量与经典回归模型 1、常见的数据类型：、常见的数据类型： 到目前为止，经典计量经济模型常用到的数据有：n时间序列数据时间序列数据（time-series data)；n截面数据截面数据(cross-sectional data)n平行平行/面板数据面板数据（panel data/time-series cross-section data) ★时间序列数据是最常见，也是最常用到时间序列数据是最常见，也是最常用到的数据的数据E&M-IMU2 2、经典回归模型与数据的平稳性、经典回归模型与数据的平稳性 经典回归分析经典回归分析暗含暗含着一个重要的着一个重要的假设假设：： 数据是平稳的数据是平稳的 1））数据非平稳数据非平稳，大样本下的统计推断基础，大样本下的统计推断基础——“一一致性致性”要求要求——被破怀 经典回归分析的假设之一：经典回归分析的假设之一：解释变量解释变量X是非随机变量是非随机变量 放宽该假设：放宽该假设：X是随机变量，则需进一步要求：是随机变量，则需进一步要求： (1)X与随机扰动项与随机扰动项   不相关不相关∶ ∶Cov(X, )=0依概率收敛：依概率收敛： (2)E&M-IMU 第（2）条是为了满足统计推断中大样本下的“一致性”特性：第（1）条是OLS估计的需要▲如果如果X是非平稳数据是非平稳数据（如表现出向上的趋势），（如表现出向上的趋势），则（则（2）不成立，回归估计量不满足）不成立，回归估计量不满足“一致性一致性”，基，基于大样本的统计推断也就遇到麻烦。

于大样本的统计推断也就遇到麻烦因此：注意：注意：在双变量模型中：在双变量模型中：E&M-IMU 表现在表现在:两个本来没有任何因果关系的变量，却有两个本来没有任何因果关系的变量，却有很高的相关性（有较高的很高的相关性（有较高的R R2 2) )：： 例如：例如：如果有两列时间序列数据表现出一致的变化趋势（非平稳的），即使它们没有任何有意义的关系，但进行回归也可表现出较高的可决系数 在现实经济生活中在现实经济生活中： 情况往往是实际的时间序列数据是非平稳的实际的时间序列数据是非平稳的，而且主要的经济变量如消费、收入、价格往往表现为一致的上升或下降这样，仍然通过经典的因果关系模型仍然通过经典的因果关系模型进行分析，一般不会得到有意义的结果进行分析，一般不会得到有意义的结果2 2、数据非平稳，往往导致出现、数据非平稳，往往导致出现“虚假回归虚假回归”问题：问题：E&M-IMU 时间序列分析时间序列分析模型方法模型方法就是在这样的情况下，以通过揭示时间序列自身的变化规律为主以通过揭示时间序列自身的变化规律为主线而发展起来的全新的计量经济学方法论线而发展起来的全新的计量经济学方法论。

时间序列分析时间序列分析已组成现代计量经济学的重要内容，并广泛应用于经济分析与预测当中一、数据的平稳性及其检验一、数据的平稳性及其检验二、时间序列模型的基本概念及其适用性二、时间序列模型的基本概念及其适用性三、随机时间序列模型的平稳性条件三、随机时间序列模型的平稳性条件四、随机时间序列模型的识别四、随机时间序列模型的识别五、随机时间序列模型的估计五、随机时间序列模型的估计六、模型的检验六、模型的检验时间序列分析模型时间序列分析模型假定某个时间序列是由某一假定某个时间序列是由某一随机过程随机过程（（stochastic process）生成的，即假定时间序）生成的，即假定时间序列列{Xt}（（t=1, 2, …）的每一个数值都是从一个概）的每一个数值都是从一个概率分布中随机得到，如果满足下列条件：率分布中随机得到，如果满足下列条件： 1）均值）均值E(XE(Xt t)=)= 是是与时间与时间t 无关的常数；无关的常数； 2）方差）方差Var(XVar(Xt t)=)= 2 2是是与时间与时间t 无关的常数；无关的常数； 3）协方差）协方差Cov(XCov(Xt t,X,Xt+kt+k)=)= k k 是是只与时期间隔只与时期间隔k有关，与时间有关，与时间t 无关的常数；无关的常数； 则称该随机时间序列是则称该随机时间序列是平稳的平稳的（（stationary)，，而该随机过程是一而该随机过程是一平稳随机过程平稳随机过程（（stationary stochastic process）。

一、时间序列数据的平稳性一、时间序列数据的平稳性 例例1．一个最简单的随机时间序列是一具有零均值同方差的独立分布序列： Xt=t ， t~N(0,2) 例例2．另一个简单的随机时间列序被称为随随机机游游走走（（random walk）），该序列由如下随机过程生成： Xt=Xt-1+t这里， t是一个白噪声该序列常被称为是一个白噪声（白噪声（white noisewhite noise）） 由于Xt具有相同的均值与方差，且协方差为零,由定义,一个白噪声序列是平稳的一个白噪声序列是平稳的 为了检验该序列是否具有相同的方差，可假设Xt的初值为X0，则易知 X1=X0+1 X2=X1+2=X0+1+2 … … X Xt t=X=X0 0+ +1+2+…+ +t 由于X0为常数，t是一个白噪声，因此Var(Xt)=t 2 即即Xt的的方方差差与与时时间间t t有有关关而而非非常常数数，，它它是是一一非非平平稳稳序序列 容易知道该序列有相同的均值均值：E(Xt)=E(Xt-1)n然而，对X取一阶差分一阶差分（first difference）: Xt=Xt-Xt-1=t由于t是一个白噪声，则序列{Xt}是平稳的。

后面将会看到后面将会看到: :如果一个时间序列是非平稳的，如果一个时间序列是非平稳的，它常常可通过取差分的方法而形成平稳序列它常常可通过取差分的方法而形成平稳序列• 事事实实上上，，随随机机游游走走过过程程是是下下面面我我们们称称之之为为1 1阶阶自自回回归归AR(1)AR(1)过程过程的特例的特例 X Xt t= = X Xt-1t-1+ +t 不不难难验验证证:1)|1)| |>1|>1时时，，该该随随机机过过程程生生成成的的时时间间序序列列是是发发散散的的，，表表现现为为持持续续上上升升( ( >1)>1)或或持持续续下下降降( ( <-1)<-1)，，因因此此是是非非平平稳的；稳的；可以证明可以证明:只有当只有当-1<-1< <1<1时，该随机过程才是平稳的时，该随机过程才是平稳的 2) 2) =1=1时，是一个随机游走过程，也是非平稳的时，是一个随机游走过程，也是非平稳的• 1阶阶自自回回归归过过程程AR(1)又又是是如如下下k阶阶自自回回归归AR(K)过过程程的特例：的特例： Xt=  1 1X Xt-1t-1+ + 2 2X Xt-2t-2…+ + k kX Xt-kt-k该随机过程平稳性条件将在以后介绍。

该随机过程平稳性条件将在以后介绍  平稳性检验的图示判断平稳性检验的图示判断 n给出一个随机时间序列，首先可通过该序列的时间路径图时间路径图来粗略地判断它是否是平稳的n一个平稳的时间序列平稳的时间序列在图形上往往表现出一种围绕其均值不断波动的过程；n而非平稳序列非平稳序列则往往表现出在不同的时间段具有不同的均值（如持续上升或持续下降） n进一步的判断: 检验样本自相关函数及其图形检验样本自相关函数及其图形 定义随机时间序列的自自相相关关函函数数（（autocorrelation function, ACF））如下： k=k/0 自相关函数是关于滞后期自相关函数是关于滞后期k k的递减函数的递减函数(Why?)(Why?) 实际上实际上, ,对一个随机过程只有一个实现（样本），对一个随机过程只有一个实现（样本），因此，只能计算因此，只能计算样本自相关函数样本自相关函数（（Sample Sample autocorrelation functionautocorrelation function）。

一个时间序列的样本自相关函数定义为：一个时间序列的样本自相关函数定义为： 易易知知，，随随着着k的的增增加加，，样样本本自自相相关关函函数数下下降降且且趋趋于于零零但但从从下下降降速速度度来来看看，，平平稳稳序序列列要要比比非非平平稳稳序列快得多序列快得多n注意注意: 确定样本自相关函数确定样本自相关函数r rk k某一数值是否足够接近某一数值是否足够接近于于0 0是非常有用的，因为它可是非常有用的，因为它可检验对应的自相关函检验对应的自相关函数数 k k的真值是否为的真值是否为0 0的假设 Bartlett曾曾证证明明:如如果果时时间间序序列列由由白白噪噪声声过过程程生生成成，，则则对对所所有有的的k>0，，样样本本自自相相关关系系数数近近似似地地服服从从以以0为均值，为均值，1/n 为方差的正态分布，其中为方差的正态分布，其中n为样本数为样本数 也也可可检检验验对对所所有有k>0k>0，，自自相相关关系系数数都都为为0 0的的联联合合假假设，这可通过如下设，这可通过如下Q QLBLB统计量进行：统计量进行： 该统计量近似地服从自由度为m的2分布（m为滞后长度）。

因此:如果计算的如果计算的Q Q值大于显著性水平为值大于显著性水平为 的的临界值，则有临界值，则有1-1- 的把握拒绝所有的把握拒绝所有 k k(k>0)(k>0)同时为同时为0 0的假设 在讨论了平稳时间序列的重要性之后，接下来的一一个实际问题个实际问题是： 1、如何建立一个平稳时间序列的模型， 2、如何用所建的模型进行预测回答： 可以通过建立随机时间序列分析模型随机时间序列分析模型来进行 与经典回归分析不同的是与经典回归分析不同的是： 1、这里所建立的时间序列模型主要不是以不同变量间的因果关系为基础，而是寻找时间序列自身的变化规律； 2、、同样地，在预测一个时间序列未来的变化时，不再使用一组与之有因果关系的其他变量，而只是用该序列的过去行为来预测未来二、时间序列模型的基本概念及其适用性二、时间序列模型的基本概念及其适用性 1、时间序列模型的基本概念、时间序列模型的基本概念 时时间间序序列列模模型型（（time series modeling））是是指指仅仅用用它它的的过过去去值及随机扰动项所建立起来的模型，值及随机扰动项所建立起来的模型，其一般形式为 Xt=F(Xt-1, Xt-2, …, t) 建立具体的时间序列模型，需解决如下三个问题建立具体的时间序列模型，需解决如下三个问题： (1)模型的具体形式模型的具体形式 (2)时序变量的滞后期时序变量的滞后期 (3)随机扰动项的结构随机扰动项的结构 例如，取线性方程、一期滞后以及白噪声随机扰动项（ t =t），模型将是一个1阶阶自自回回归归过过程程AR(1)(Autoregressive process)： Xt=Xt-1+ t这里， t特指一白噪声一白噪声。

 一般的p阶自回归过程阶自回归过程AR(p)是 Xt=1Xt-1+ 2Xt-2 + … + pXt-p + t (*) (1)如果随机扰动项是一个白噪声(t=t)，则称(*)式为一纯纯AR(p)过过程程（（pure AR(p) process）），记为 Xt=1Xt-1+ 2Xt-2 + … + pXt-p +t (2)如果t不是一个白噪声，通常认为它是一个q阶的移动平均（移动平均（moving average）过程）过程MA(q)： t=t - 1t-1 - 2t-2 -  - qt-q 该式给出了一个纯纯MA(q)过过程程（（pure MA(p) process））  将纯AR(p)与纯MA(q)结合，得到一个一般的自回归移动自回归移动平均（平均（autoregressive moving average）过程）过程ARMA（（p,q））： Xt=1Xt-1+ 2Xt-2 + … + pXt-p + t - 1t-1 - 2t-2 -  - qt-q 该式表明：该式表明：（（1））一一个个随随机机时时间间序序列列可可以以通通过过一一个个自自回回归归移移动动平平均均过过程程生生成成，，即该序列可以由其自身的滞后值以及随机扰动项来解释。

2））如如果果该该序序列列是是平平稳稳的的，即它的行为并不会随着时间的推移而变化，那那么么我我们们就就可可以以通通过过该该序序列列过过去去的的行行为为来预测未来来预测未来 这也正是随机时间序列分析模型的优势所在n 经典回归模型的问题：经典回归模型的问题：n 迄迄今今为为止止，，对一个时间序列Xt的变动进行解释或预测，是通过某个单方程回归模型或联立方程回归模型进行的，由于它们以因果关系为基础，且具有一定的模型结构，因此也常称为结构式模型（结构式模型（structural modelstructural model））n 然然而而，，如如果果XtXt波波动动的的主主要要原原因因可可能能是是我我们们无无法法解解释释的的因因素素，，如气候、消费者偏好的变化等，则利用结构式模型来解释Xt的变动就比较困难或不可能，因为要取得相应的量化数据，并建立令人满意的回归模型是很困难的n 有有时时，，即使能估计出一个较为满意的因果关系回归方程，但由于对对某某些些解解释释变变量量未未来来值值的的预预测测本本身身就就非非常常困困难难，甚至比预测被解释变量的未来值更困难，这时因果关系的回归模型及其预测技术就不适用了。

2、时间序列分析模型的适用性 例例如如，时时间间序序列列过过去去是是否否有有明明显显的的增增长长趋趋势势，如果增长趋势在过去的行为中占主导地位，能否认为它也会在未来的行为里占主导地位呢？ 或者时时间间序序列列显显示示出出循循环环周周期期性性行行为为，我们能否利用过去的这种行为来外推它的未来走向？ ●随随机机时时间间序序列列分分析析模模型型，，就就是是要要通通过过序序列列过过去去的的变变化化特特征来预测未来的变化趋势征来预测未来的变化趋势 使用时间序列分析模型的另一个原因在于使用时间序列分析模型的另一个原因在于： 如果经济理论正确地阐释了现实经济结构，则这一结构可以写成类似于ARMA(p,q)式的时间序列分析模型的形式 在这些情况下，我们采用另一条预测途径在这些情况下，我们采用另一条预测途径：通过时间序列的历史数据，得出关于其过去行为的有关结论，进而对时间序列未来行为进行推断 例如，例如，对于如下最简单的宏观经济模型： 这里，Ct、It、Yt分别表示消费、投资与国民收入 Ct与与Yt作作为为内内生生变变量量，，它它们们的的运运动动是是由由作作为为外外生生变量的投资变量的投资It的运动及随机扰动项的运动及随机扰动项 t的变化决定的。

的变化决定的上述模型可作变形如下：n 两个方程等式右边除去第一项外的剩余部分可看成一个综合性的随机扰动项，其特征依赖于投资项It的行为n 如如果果It是是一一个个白白噪噪声声，则消费序列Ct就成为一个1阶阶自自回回归归过过程程AR(1)，而收入序列Yt就成为一个(1,1)阶阶的的自回归移动平均过程自回归移动平均过程ARMA(1,1) 自回归移动平均模型（ARMA）是随机时间序列分析模型的普遍形式，自回归模型（AR）和移动平均模型（MA）是它的特殊情况 关于这几类模型的研究，是时时间间序序列列分分析析的的重重点点内内容容：主要包括主要包括模型的平稳性分析模型的平稳性分析、模型的识别模型的识别和和模型的估计模型的估计 三、随机时间序列模型的平稳性条件三、随机时间序列模型的平稳性条件 1、、AR(p)模型的平稳性条件模型的平稳性条件 随随机机时时间间序序列列模模型型的的平平稳稳性性，可可通通过过它它所所生生成成的的随随机机时时间间序列的平稳性来判断序列的平稳性来判断 如如果果一个p阶自回归模型AR(p)生成的时间序列是平稳的，就说该AR(p)模型是平稳的， 否则否则，就说该AR(p)模型是非平稳的。

考虑p阶自回归模型AR(p) Xt=1Xt-1+ 2Xt-2 + … + pXt-p +t (*)n引入滞后算子（滞后算子（lag operator ））L： LXt=Xt-1, L2Xt=Xt-2, …, LpXt=Xt-p(*)式变换为 (1-1L- 2L2-…-pLp)Xt=t 记(L)= (1-1L- 2L2-…-pLp),则称多项式方程 (z)= (1-1z- 2z2-…-pzp)=0为AR(p)的特征方程特征方程(characteristic equation)(characteristic equation) 可以证明，可以证明，如果该特征方程的所有根在单位圆外如果该特征方程的所有根在单位圆外（根的模大于（根的模大于1 1），则），则AR(p)AR(p)模型是平稳的模型是平稳的  例、例、AR(1)模型的平稳性条件对1阶自回归模型AR(1)方程两边平方再求数学期望，得到Xt的方差由于Xt仅与t相关，因此，E(Xt-1t)=0如果该模型稳定，则有E(Xt2)=E(Xt-12)，从而上式可变换为：在稳定条件下，该方差是一非负的常数，从而有 ||<1。

 而AR(1)的特征方程的根为 z=1/ AR(1)稳定，即 || <1，意味着特征根大于1AR(2)AR(2)模型的平稳性模型的平稳性 对AR(2)模型 方程两边同乘以Xt，再取期望得： 又由于于是 同样地，由原式还可得到于是方差为 由平稳性的定义，该方差必须是一不变的正数，于是有 1+2<1, 2-1<1, |2|<1这就是AR(2)的平稳性条件的平稳性条件，或称为平稳域平稳域它是一顶点分别为（-2,-1），（2,-1），（0,1）的三角形 对应的特征方程1-1z-2z2=0 的两个根z1、z2满足： z1z2=-1/2 , z1+z2 =-1/2 AR(2)模型解出1，2由AR(2)的平稳性，|2|=1/|z1||z2|<1 ，则至少有一个根的模大于1，不妨设|z1|>1，有于是| z2 |>1由 2 - 1 <1可推出同样的结果 对高阶自回模型对高阶自回模型AR(p)来说来说，多数情况下没有必要直接计算其特征方程的特征根，但有一些有用的一些有用的规则可用来检验高阶自回归模型的稳定性规则可用来检验高阶自回归模型的稳定性： (1)AR(p)模型稳定的必要条件是模型稳定的必要条件是： 1+2++p<1 (2)(2)由于i(i=1,2,p)可正可负，AR(p)模模型稳定的充分条件是：型稳定的充分条件是： |1|+|2|++|p|<1  对于移动平均模型MR(q)： Xt=t - 1t-1 - 2t-2 -  - qt-q 其中t是一个白噪声，于是 2、、MA(q)模型的平稳性模型的平稳性 当滞后期大于q时，Xt的自协方差系数为0。

因此:有限阶移动平均模型总是平稳的有限阶移动平均模型总是平稳的  由于ARMA (p,q)模型是AR(p)模型与MA(q)模型的组合：Xt=1Xt-1+ 2Xt-2 + … + pXt-p + t - 1t-1 - 2t-2 -  - qt-q 3、、ARMA(p,q)模型的平稳性模型的平稳性 而而MA(q)模型总是平稳的，因此模型总是平稳的，因此ARMA (p,q)模型的平模型的平稳性取决于稳性取决于AR(p)部分的平稳性部分的平稳性 当当AR(p)部分平稳时，则该部分平稳时，则该ARMA(p,q)模型是平稳的，模型是平稳的，否则，不是平稳的否则，不是平稳的 最后最后 （（1 1）一个平稳的时间序列总可以找到生成它的平稳的随机）一个平稳的时间序列总可以找到生成它的平稳的随机过程或模型；过程或模型； （（2 2）一个非平稳的随机时间序列通常可以通过差分的方）一个非平稳的随机时间序列通常可以通过差分的方法将它变换为平稳的，对差分后平稳的时间序列也可找出对法将它变换为平稳的，对差分后平稳的时间序列也可找出对应的平稳随机过程或模型应的平稳随机过程或模型。

因此，因此，如果我们将一个非平稳时间序列通过如果我们将一个非平稳时间序列通过d d次差分，将次差分，将它变为平稳的，然后用一个平稳的它变为平稳的，然后用一个平稳的ARMA(p,q)ARMA(p,q)模型作为它的模型作为它的生成模型，则我们就说该原始时间序列是一个生成模型，则我们就说该原始时间序列是一个自回归单整移自回归单整移动平均（动平均（autoregressive integrated moving averageautoregressive integrated moving average）时）时间序列，记为间序列，记为ARIMA(p,d,q)ARIMA(p,d,q) 例如，例如，一个一个ARMA(2,1,2)ARMA(2,1,2)时间序列在它成为平稳序列之前时间序列在它成为平稳序列之前先得差分一次，然后用一个先得差分一次，然后用一个ARMA(2,2)ARMA(2,2)模型作为它的生成模模型作为它的生成模型的 当然，当然，一个一个ARMA(p,0,0)ARMA(p,0,0)过程表示了一个纯过程表示了一个纯AR(p)AR(p)平稳过程；平稳过程；一个一个ARMA(0,0,q)ARMA(0,0,q)表示一个纯表示一个纯MA(q)MA(q)平稳过程。

平稳过程 所所谓谓随随机机时时间间序序列列模模型型的的识识别别，就是对于一个平稳的随机时间序列，找出生成它的合适的随机过程或模型，即判断该时间序列是遵循一纯AR过程、还是遵循一纯MA过程或ARMA过程 所所使使用用的的工工具具主要是时间序列的自自相相关关函函数数（autocorrelation function，ACF））及偏偏 自自 相相 关关 函函 数数 （ partial autocorrelation function， PACF ） 四、随机时间序列模型的识别四、随机时间序列模型的识别1 1、、AR(p)AR(p)过程过程 (1)(1)自相关函数（自相关函数（ACFACF）） 1阶自回归模型AR(1) Xt=Xt-1+ t 的k阶滞后自协方差自协方差为：=1,2,…因此，AR(1)模型的自相关函数自相关函数为 =1,2,… 由由AR(1)的稳定性知的稳定性知| |<1，因此，，因此，k时，自相关函时，自相关函数呈指数形衰减，直到零数呈指数形衰减，直到零这种现象称为拖尾拖尾或称AR(1)有无有无穷记忆穷记忆（infinite memory）。

注意注意， <0时，呈振荡衰减状  Xt=1Xt-1+ 2Xt-2 + t该模型的方差0以及滞后1期与2期的自协方差1, 2分别为２阶自回归模型２阶自回归模型AR(2) 类似地,可写出一般的一般的k期滞后自协方差期滞后自协方差： (K=2,3,…)于是,AR(2)的k 阶自相关函数阶自相关函数为： (K=2,3,…)其中 :1=1/(1-2), 0=1如果如果AR(2)AR(2)稳定，则由稳定，则由 1 1+ + 2 2<1<1知知| | k k| |衰减趋于零，呈拖尾衰减趋于零，呈拖尾状至于衰减的形式，要看至于衰减的形式，要看AR(2)AR(2)特征根的实虚性，特征根的实虚性，若为实根，若为实根，则呈单调或振荡型衰减，若为虚根，则呈正弦波型衰减则呈单调或振荡型衰减，若为虚根，则呈正弦波型衰减 一般地，p p阶自回归模型阶自回归模型AR(p)AR(p) k期滞后协方差为: 从而有自相关函数 : 可见，可见，无论无论k k有多大，有多大， k k的计算均与其１到的计算均与其１到p p阶滞阶滞后的自相关函数有关，后的自相关函数有关，因此因此呈拖尾状呈拖尾状。

如果如果AR(p)AR(p)是稳定的，则是稳定的，则| | k k| |递减且趋于零递减且趋于零 Xt=1Xt-1+ 2Xt-2 +… pXt-p + t 其其中中：：1/zi是AR(p)特征方程(z)=0的特征根，由AR(p)平稳的条件知，|zi|<1; 因因此此，，当当1/z1/zi i均均为为实实数数根根时时，， k k呈呈几几何何型型衰衰减减（单调或振荡）；（单调或振荡）； 当当存存在在虚虚数数根根时时，，则则一一对对共共扼扼复复根根构构成成通通解解中中的一个阻尼正弦波项，的一个阻尼正弦波项， k k呈正弦波衰减呈正弦波衰减事实上，自相关函数是一p阶差分方程，其通解为 （（2 2）偏自相关函数（）偏自相关函数（PACFPACF ） 自相关函数自相关函数ACF(k)给出了给出了X Xt t与与X Xt-1t-1的总体相关性，但总的总体相关性，但总体相关性可能掩盖了变量间完全不同的隐含关系体相关性可能掩盖了变量间完全不同的隐含关系 例如，在AR(1)随机过程中，Xt与Xt-2间有相关性可能主要是由于它们各自与Xt-1间的相关性带来的:即：自相关函数中包含了这种所有的即：自相关函数中包含了这种所有的“间接间接”相关。

相关 与之相反，与之相反，X Xt t与与X Xt-kt-k间的间的偏自相关函数偏自相关函数(partial (partial autocorrelationautocorrelation，简记为，简记为PACF)PACF)则是消除了中间变量则是消除了中间变量X Xt-1t-1，，…，，X Xt-k+1t-k+1 带来的间接相关后的直接相关性，它带来的间接相关后的直接相关性，它是在已知序列值是在已知序列值X Xt-1t-1，，…，，X Xt-k+1t-k+1的条件下，的条件下，X Xt t与与X Xt-kt-k间间关系的度量关系的度量 从Xt中去掉Xt-1的影响，则只剩下随机扰动项t，显然它与Xt-2无关，因此我们说Xt与Xt-2的偏自相关系数偏自相关系数为零，记为 在AR(1) Xt= Xt-1+  t 中， 同样地，在在AR(p)过程中过程中，对所有的k>p，Xt与与Xt-k间的偏自相关系数偏自相关系数为零 AR(p)的一个主要特征是的一个主要特征是:k>p时，时， k*=Corr(Xt,Xt-k)=0 即即 k*在在p以后是截尾的。

以后是截尾的一随机时间序列的识别原则：一随机时间序列的识别原则： 若若XtXt的的偏偏自自相相关关函函数数在在p以以后后截截尾尾，，即即k>p时时，， k k* *=0=0，，而而它它的的自自相相关关函函数数 k k是是拖拖尾尾的的，，则则此此序序列列是是自回归自回归AR(p)AR(p)序列 在实际识别时，由于样本偏自相关函数rk*是总体偏自相关函数 k*的一个估计，由于样本的随机性，当k>p时，rk*不会全为0，而是在0的上下波动但可以证明，当k>p时，rk*服从如下渐近正态分布: rk*~N(0,1/n)式中n表示样本容量 因此，如果计算的rk*满足 需指出的是，需指出的是，我们就有95.5%的把握判断原时间序列在p之后截尾 对MA(1)过程 2 2、、MA(q)MA(q)过程过程 可容易地写出它的自协方差系数自协方差系数： 于是，MA(1)过程的自相关函数自相关函数为：可见，当可见，当k>1k>1时，时， k k=0=0，即，即X Xt t与与X Xt-kt-k不相关，不相关，MA(1)MA(1)自自相关函数是截尾的。

相关函数是截尾的  MA(1)过程可以等价地写成过程可以等价地写成 t关于无穷序列关于无穷序列Xt，，Xt-1，，…的线性组合的形式：的线性组合的形式：或或（（*）） (*)(*)是一个是一个AR(AR( ) )过程，它的偏自相关函数非截尾过程，它的偏自相关函数非截尾但却趋于零，因此但却趋于零，因此MA(1)MA(1)的偏自相关函数是非截尾但的偏自相关函数是非截尾但却趋于零的却趋于零的 注意注意: : (*) (*)式只有当式只有当| |<1时才有意义，否则意味着距时才有意义，否则意味着距Xt越远的越远的X值，对值，对Xt的影响越大，显然不符合常理的影响越大，显然不符合常理 因此，我们因此，我们把把| |<1称为称为MA(1)的可逆性条件的可逆性条件（（invertibility condition））或可逆域或可逆域 其自协方差系数自协方差系数为 一般地，一般地，q q阶移动平均过程阶移动平均过程MA(q)MA(q) 相应的自相关函数自相关函数为 可可见见，，当当k>q时时，， Xt与与Xt-k不不相相关关，，即即存存在在截截尾尾现现象象，，因因此此，，当当k>q时，时，  k=0是是MA(q)的一个特征的一个特征。

于于是是：：可可以以根根据据自自相相关关系系数数是是否否从从某某一一点点开开始始一一直直为为0 0来来判断判断MA(q)模型的阶模型的阶 与MA(1)相仿，可以验证MA(q)过程的偏自相关函数是非截尾但趋于零的 MA(q)模型的识别规则：模型的识别规则：若随机序列的自相关函数截尾，若随机序列的自相关函数截尾，即自即自q以后，以后， k=0（（ k>q））；而它的偏自相关函数是拖尾的，；而它的偏自相关函数是拖尾的，则此序列是滑动平均则此序列是滑动平均MA(q)序列 同样需要注意的是：同样需要注意的是：在实际识别时，由于样本自相关函数rk是总体自相关函数 k的一个估计，由于样本的随机性，当k>q时，rk不会全为0，而是在0的上下波动但可以证明，当k>q时，rk服从如下渐近正态分布: rk~N(0,1/n)式中n表示样本容量我们就有我们就有95.5%95.5%的把握判断原时间序列在的把握判断原时间序列在q之后截尾之后截尾因此，如果计算的如果计算的rk满足满足：： ARMA(p,q)的自相关函数的自相关函数，可以看作MA(q)的自相关函数和AR(p)的自相关函数的混合物。

当当p=0时，它具有截尾性质时，它具有截尾性质； 当当q=0时，它具有拖尾性质；时，它具有拖尾性质； 当当p、、q都不为都不为0时，它具有拖尾性质时，它具有拖尾性质 从识别上看，通常： ARMA(p，，q)过程的偏自相关函数（过程的偏自相关函数（PACF））可能在可能在p阶阶滞后前有几项明显的尖柱（滞后前有几项明显的尖柱（spikes），但从），但从p阶滞后项开始阶滞后项开始逐渐趋向于零；逐渐趋向于零； 而而它的自相关函数（它的自相关函数（ACF））则是在则是在q阶滞后前有几项明显阶滞后前有几项明显的尖柱，从的尖柱，从q阶滞后项开始逐渐趋向于零阶滞后项开始逐渐趋向于零 3、、ARMA(p, q)过程过程  AR(p)、、MA(q)、、ARMA(p,q)模模型型的的估估计计方方法法较较多多，，大体上分为大体上分为3 3类：类： （（1 1）最小二乘估计；）最小二乘估计； （（2 2）矩估计；）矩估计； （（3 3）利用自相关函数的直接估计利用自相关函数的直接估计 下面有选择地加以介绍。

下面有选择地加以介绍结构结构阶数阶数模型模型识别识别确定确定估计估计参数参数五、随机时间序列模型的估计五、随机时间序列模型的估计 ⒈ ⒈ AR(p)模型的模型的Yule Walker方程估计方程估计 在AR(p)模型的识别中，曾得到 利用k=-k，得到如下方程组： 此方程组被称为此方程组被称为Yule Walker方程组方程组该方程组该方程组建立了建立了AR(p)模型的模型参数模型的模型参数 1, 2,, p与自相关与自相关函数函数 1, 2,, p的关系，的关系，  利利用用实实际际时时间间序序列列提提供供的的信信息息，，首首先先求求得得自自相相关关函函数数的的估估计值计值 然后然后利用利用Yule Walker方程组，求解模型参数的估计值方程组，求解模型参数的估计值由于 于是 从而可得  2的估计值的估计值 在具体计算时，可用样本自相关函数rk替代 ⒉ ⒉ MA(q)模型的矩估计模型的矩估计 将MA(q)模型的自协方差函数中的各个量用估计量代替，得到： 首先首先求得自协方差函数的估计值，(*)是一个包含(q+1)个待估参数 (*)的非线性方程组，可以用直接法直接法或迭代法迭代法求解。

常常用用的的迭迭代代方方法法有有线线性性迭迭代代法法和和Newton-Raphsan迭迭代代法法 （（1 1））MA(1)MA(1)模型的直接算法模型的直接算法 对于MA(1)模型，（*）式相应地写成于是 或有于是有解 由于参数估计有两组解，可根据可逆性条件| 1|<1来判断选取一组  （（2 2））MA(q)模型的迭代算法模型的迭代算法 对于q>1的MA(q)模型，一般用迭代算法估计参数： 由（*）式得 第一步第一步，给出的一组初值，比如代入（**）式，计算出第一次迭代值 （**） 第二步第二步，将第一次迭代值代入（**）式，计算出第二次迭代值 按此反复迭代下去，直到第m步的迭代值与第m-1步的迭代值相差不大时（满足一定的精度），便停止迭代，并用第m步的迭代结果作为（**）的近似解  ⒊⒊ ARMA(p,q)模型的矩估计模型的矩估计 在ARMA(p,q)中共有(p+q+1)个待估参数1,2,,p与1,2,,q以及2，其估计量计算步骤及公式如下： 第一步第一步，估计1,2,,p 是总体自相关函数的估计值，可用样本自相关函数rk代替。

 第二步，第二步，改写模型，求 1, 2,, q以及  2的估计值 将模型 改写为： 令 于是(*)可以写成： (*) 构成一个MA模型按照估计MA模型参数的方法，可以得到1,2,,q以及2的估计值  ⒋⒋ AR(p)的最小二乘估计的最小二乘估计假设模型AR(p)的参数估计值已经得到，即有 残差的平方和为： (*) 根据最小二乘原理，所要求的参数估计值是下列方程组的解： 即 j=1,2,…,p (**) 解该方程组，就可得到待估参数的估计值  为了与AR(p)模型的Yule Walker方程估计进行比较，将(**)改写成： j=1,2,…,p由自协方差函数的定义，并用自协方差函数的估计值 代入，上式表示的方程组即为： 或 j=1,2,…,pj=1,2,…,p解该方程组，得到： 即为参数的最小二乘估计 Yule Walker方程组的解比较发现，当n足够大时，二者是相似的  2的估计值为：  需要说明的是，需要说明的是，在上述模型的平稳性、识别与估计的讨在上述模型的平稳性、识别与估计的讨论中，论中，ARMA(p,q)模型中均未包含常数项。

模型中均未包含常数项 如果包含常数项，该常数项并不影响模型的原有性质如果包含常数项，该常数项并不影响模型的原有性质，因为通过适当的变形，可将包含常数项的模型转换为不含常数项的模型 下面以一般的ARMA(p,q)模型为例说明 对含有常数项的模型 方程两边同减 /(1- 1-- p)，则可得到 其中其中 1 1、残差项的白噪声检验、残差项的白噪声检验 由于ARMA(p,q)模型的识别与估计是在假设随机扰动项是一白噪声的基础上进行的，因此，如果估计的模型确认正确的话，残差应代表一白噪声序列 如果通过所估计的模型计算的样本残差不代表一白噪声，如果通过所估计的模型计算的样本残差不代表一白噪声，则说明模型的识别与估计有误，需重新识别与估计则说明模型的识别与估计有误，需重新识别与估计 在实际检验时，主要检验残差序列是否存在自相关在实际检验时，主要检验残差序列是否存在自相关 六、模型的检验六、模型的检验 时间序列模型的识别与估计过程往往是同步进行的由于在实际识别ARMA(p,q)模型时，滞后项阶数的选择并不是一件容易的事，因此模型在识别与估计之后还需进行检验。

 2 2、、AIC与与SBC模型选择标准模型选择标准 另外一个遇到的问题是，在实际识别ARMA(p,q)模型时，需多次反复偿试，有可能存在不止一组（p,q）值都能通过识别检验 显然，增加增加p与与q的阶数，可增加拟合优度的阶数，可增加拟合优度，但却同时降但却同时降低了自由度低了自由度 因此，对可能的适当的模型，存在着模型的对可能的适当的模型，存在着模型的“简洁性简洁性”与模型的拟合优度的权衡选择问题与模型的拟合优度的权衡选择问题 可用可用QLB的统计量进行的统计量进行 2检验检验：在给定显著性水平下，可计算不同滞后期的QLB值，通过与 2分布表中的相应临界值比较，来检验是否拒绝残差序列为白噪声的假设 若大于相应临界值，则应拒绝所估计的模型，需重新识别与估计  其中，n为待估参数个数（p+q+可能存在的常数项），T为可使用的观测值，RSS为残差平方和（Residual sum of squares） 在选择可能的模型时，在选择可能的模型时，AIC与与SBC越小越好越小越好 显显然然，，如如果果添添加加的的滞滞后后项项没没有有解解释释能能力力，，则则对对RSSRSS值值的的减减小小没没有有多多大大帮帮助助，，却却增增加加待待估估参参数数的的个个数数，，因因此此使使得得AICAIC或或SBCSBC的值增加。

的值增加 需需注注意意的的是是：：在不同模型间进行比较时，必须选取相同的时间段 常用的模型选择的判别标准有：常用的模型选择的判别标准有：赤池信息法赤池信息法（Akaike information criterion，简记为简记为AIC）与施瓦兹贝叶斯法施瓦兹贝叶斯法（Schwartz Bayesian criterion，简记为简记为SBC）： 中国支出法GDP是非平稳的，但它的一阶差分是平稳的，即支出法GDP是I(1)时间序列 可以对经过一阶差分后的GDP建立适当的ARMA(p,q)模型 记GDP经一阶差分后的新序列为GDPD1，该新序列的样本自相关函数图与偏自相关函数图如下： 例、；例、；中国支出法中国支出法GDP的的ARMA(p,q)模型估计模型估计 图形：图形：样本自相关函数图形呈正弦线型衰减波，而偏自相关函数图形则在滞后两期后迅速趋于0因此可初步判断该序列满足可初步判断该序列满足2 2阶阶自回归过程自回归过程AR(2)AR(2) 自相关函数自相关函数与偏自相关函数偏自相关函数的函数值：函数值： 相关函数具有明显的拖尾性； 偏自相关函数值在k>2以后，可认为：可认为：偏自相关函数是截尾的。

再次验证了一阶差分后的偏自相关函数是截尾的再次验证了一阶差分后的GDPGDP满足满足AR(2)AR(2)随机过程随机过程设序列GDPD1的模型形式为 有如下Yule Walker 方程： 解为： 用用OLSOLS法回归的结果为：法回归的结果为： （7.91) (-3.60) r2=0.8469 R2=0.8385 DW=1.15 有时，在用回归法时，也可加入常数项有时，在用回归法时，也可加入常数项 本例中加入常数项的回归为： （1.99） （7.74） （-3.58） r2 =0.8758 R2 =0.8612 DW.=1.22 n模型检验模型检验 下表列出三模型的残差项的自相关系数及QLB检验值 模型1与模型3的残差项接近于一白噪声，但模型2存在4阶滞后相关问题，Q统计量的检验也得出模型2拒绝所有自相关系数为零的假设因此: 模型模型1 1与与3 3可作为描述中国支出法可作为描述中国支出法GDPGDP一阶差分序列的随机生成过程。

一阶差分序列的随机生成过程n用建立的用建立的AR(2)模型对中国支出法模型对中国支出法GDP进行外推预测进行外推预测 模型模型1可作如下展开： 于是，当已知t-1、t-2、t-3期的GDP时，就可对第t期的GDP作出外推预测 模型模型3的预测式与此相类似，只不过多出一项常数项 对对20012001年中国支出法年中国支出法GDPGDP的预测结果（亿元）的预测结果（亿元） 预测值预测值 实际值实际值 误差误差 模型模型1 95469 95933 -0.48%1 95469 95933 -0.48% 模型模型3 97160 95933 1.28%3 97160 95933 1.28%  由由于于中国人均居民消费（CPC）与人均国内生产总值（GDPPC）这两时间序列是非平稳的，因此不宜直接建立它们的因果关系回归方程 但但它它们们都都是是I(2)I(2)时时间间序序列列，因此可以建立它们的ARIMA(p,d,q)模型。

下下面面只只建建立立中中国国人人均均居居民民消消费费（（CPCCPC））的的随随机机时时间间序序列列模模型 中国人均居民消费（CPC）经过二次差分后的新序列记为CPCD2，其自相关函数、偏自相关函数及Q统计量的值列于下表： 例例 、、 中国人均居民消费的中国人均居民消费的ARMA(p,q)ARMA(p,q)模型模型 在5%的显著性水平下，通过Q统计量容易验证该序列本身就接近于一白噪声，因此可考虑采用零阶考虑采用零阶MA(0)MA(0)模型模型: 由于k=2时，|r2|=|-0.29|> 因此,也可考虑采用下面的MA模型：  当然，还可观察到自相关函数在滞后4、5、8时有大于0.2的函数值，因此，可考虑在模型中增加MA(4)、MA(5)、MA(8)不同模型的回归结果列于下表中不同模型的回归结果列于下表中 可以看出可以看出: :在纯在纯MAMA模型中，模型模型中，模型4 4具有较好的性质，但由具有较好的性质，但由于于MA(5)MA(5)的的t t检验偏小，因此可选取模型检验偏小，因此可选取模型3 3 最后，给出通过模型3的外推预测。

模型3的展开式为： 即 由于t表示预测期的随机扰动项，它未知，可假设为0，于是t期的预测式为: 为模型3中滞后2期与滞后4期的相应残差项的估计值。