经典线性回归模型(高级计量经济学清华大学潘文清)课件
55页1、第四章 经典线性回归模型(I),Classical Linear Regression Model (I),4.1 经典线性回归模型 Classical Linear Regression Models,一、经典回归模型 Classical Regression Model,假设随机抽取一容量为n的样本(Yi, Xi), i=1,n,其中,Yi是标量,Xi=(1,X1i,X2i,Xki),或,经典回归模型(classical regression model)建立在如下假设之上:,假设1(linearity): Yi=0+1X1i+kXki+i =Xi+i (i=1,2,n) 或 Y=X+ 其中,=(0, 1,k), =(1,2,n),注意: 这里的线性性指Y关于参数是线性的。,假设2(strict Exogeneity): E(i|X)=E(i|X1,X2,Xn)=0, (i=1,2,n),注意: (1) 由E(i|X)=0 易推出:E()=0, E(Xji)=0 或有: Cov(Xj, i)=0 (i, j=1,2,n) (2) 由于可以有ji, 或ji, 意味着i既不依赖过去的X
2、,也不依赖于未来的X。因此排除了动态模型。 例:对AR(1)模型: Yi=0+1Yi-1+i=Xi+i 这里Xi=(1, Yi-1),显然E(Xii)=E(Xi)E(i)=0,但E(Xi+1i)0。因此,E(i|X)0,(3) 计量经济学中,关于严格外生性有其他的定义。如定义为i独立于X,或X是非随机的。这一定义排除了条件异方差性。而我们这里的假设2是允许存在条件异方差性的。,如果X是非随机的,则假设2变成 E(i|X)=E(i)=0,(4)假设2的向量形式: E(|X)=0,注意: (1)本假设排除了解释变量间的多重共线性(multicollinearity) (2) 本假设意味着XX是非奇异的,或者说X必须满秩于k+1。因此应有k+1n。 (3) 由于表述了矩阵XX的相关信息,因此本假设意味着当n时应有新信息进入X,即Xi不能老是重复相同的值。,假设4(Spherical error variance) (a) conditional homoskedasticity: E(i2|X)=20, i=1,2,n (b) conditional serial uncorrelatedn
3、ess: E(ij|X)=0, i, j=1,2,n,注意: (1) 假设4可写成 E(ij|X)=2ij, 其中, i= j时,ij=1; ij时,ij=0 矩阵形式: E()=2I,(3) 假设4意味着存在非条件同方差性: var(i)=2 类似地, Cov(i, j)=0,(2)由假设2, Var(i|X)=E(i2|X)-E(i|X)2=E(i|X)=2 同理, Cov(i,j|X)=E(ij|X)=0,(4) 假设4并不意味着i与X是独立的。它充许i的条件高阶矩(如:偏度、峰度)可依赖于X。,二、参数的估计 Estimation of ,由假设1与假设2知: E(Y|X)=0+1X1+kXk=X 其中,X=(1, X1, ,Xk) 即线性模型Y=X+关于E(Y|X) 正确设定。,因此,其最佳线性最小二乘近似解(beat linear LS approximation coefficient)*等于参数的真实值0。 即,min E(Y-X)2 的解为 *=0=E(XX)-1E(XY),由类比法,对样本回归模型 Yi=Xib+ei i=1,2,n 其中,Xi=(1, X1i, ,
4、Xki), b=(b0, b1, ,bk) 需求解极值问题 min (1/n)(ei)2,上述问题相当于求解残差平方和(sum of squared residuals, SSR)的极小值 min SSR(b)=ei2=(Yi-Xib)2=ee=(Y-Xb)(Y-Xb) 其中,e=(e1,e2,en),在假设3下,解为: b=(XX)-1(XY),该方法称为普通最小二乘法(ordinary Least Squares),(1) 1阶偏导: SSR/b= -2X(Y-Xb) 2阶偏导: 2SSR/2b=2XX 由min(XX)0 知2XX0, 从而b=(XX)-1(XY)是最小值 由1阶极值条件可以得到所谓正规方程(normal equations): X(Y-Xb)=Xe=0 正规方程是OLS所特有的,而不论是否有E(i|X)=0,注意:,一些有用的等式,(1) Xe=0 (2) b-=(XX)-1X 因为 b=(XX)-1XY=(XX)-1X(X+)=+(XX)-1X (3) 定义nn方阵: P=X(XX)-1X , M=In-P 则 P=P , M=M P2=P, M2=M 且 P
《经典线性回归模型(高级计量经济学清华大学潘文清)课件》由会员F****n分享,可在线阅读,更多相关《经典线性回归模型(高级计量经济学清华大学潘文清)课件》请在金锄头文库上搜索。
2024-04-27 32页
2024-04-27 46页
2024-04-27 32页
2024-04-27 32页
2024-04-27 46页
2024-04-27 46页
2024-04-27 33页
2024-04-27 37页
2024-04-27 33页
2024-04-27 39页