计量经济学第二章--一元线性回归模型

计 量 经 济 学,1,第二章 一元线性回归模型,建立模型是计量经济学的核心，我们首先介绍最简单的模型一元线性回归模型，该模型的特点是只有两个变量（自变量和因变量），而且函数形式为线性。,计 量 经 济 学,2,第一节 回归分析和回归方程,2.1 回归分析 1.含义 经济变量之间的关系，大体可以分为两种类型： 函数关系 随机关系 (相关关系) 随机关系的基本特征是一个变量不能根据其他变量的数值,精确地、一一对应地求出其数值，但我们可根据大量统计数据找出其数量变化方面的统计规律，这种统计规律即回归关系，表示这种规律的数学公式称为回归方程，有关回归关系的计算方法和理论称为回归分析。,计 量 经 济 学,3,2.内容 (1)根据样本观察值确定样本回归方程 (2)检验样本回归方程对总体回归方程的近似程度 (3)利用样本回归方程分析总体的平均变化规律 即:收集数据、参数估计、回归模型的建立、检验 和预测。,计 量 经 济 学,4,某总体的家庭收支情况,计 量 经 济 学,5,人均月收入与人均月消费支出条件均值,计 量 经 济 学,6,从散点图(Scatterplot)可以看出，各个家庭的消费支出存在差异，但是各组家庭的平均消费支出随着收入水平的提高也在不断增加，消费支出的条件均值都落在一条直线上，这条直线描述了家庭收入变化时，消费支出的平均变化规律。,计 量 经 济 学,7,2.1.1 总体回归方程,图21中的直线称作总体回归直线，其对应的线性方程 称作总体线性回归方程，系数 称为总体回归参数。,称为总体回归方程的随机设定形式,回归分析的主要任务就是设法求出总体回归参数的具体数值，进而利用总体回归方程描述和分析总体的平均变化规律,计 量 经 济 学,8,2.1.2 样本回归方程,从前面所举的例子中可以看出，只有了解总体的概率分布，才能够确定总体回归方程，但是在现实的经济生活中，一般没有办法获得总体的数据，只能从总体中得到样本数据，利用样本信息对总体进行推断。设样本回归方程为：,其中,其随机误差形式为,Y,X,总体回归方程,样本回归方程,计 量 经 济 学,9,2.1.3 随机干扰项产生原因,1、模型中被忽略因素的影响 2、模型函数形式设定误差 如采用线性函数代替非线性函数 3、数据的测量误差 登记性误差 代表性误差 4、随机因素的影响,计 量 经 济 学,10,2.2 参数的最小二乘估计,2.2.1 古典线性回归模型的基本假设 1、 零均值假定：随机误差项的期望或均值为零 ，该假定表明，随机误差项对Y没有任何影响,该假定表明：给定X对应的每个条件分布都是同方差的，每个Y值以相同的分布方式在它的期望值E(Y)附近波动,2 、同方差假定：每一个随机误差项的方差为常数，即:,计 量 经 济 学,11,3、无自相关假定：任意两个随机误差项之间不相关，用数学形式表示为：,4、 解释变量与随机误差项不相关假定，即,该假定表明，解释变量和随机误差项相互独立，互不相关，它们独自对因变量产生作用,计 量 经 济 学,12,2.2.2 普通最小二乘法,1.基本原理：选择参数 使得残差平方和 最小,由于,是,的二次函数，非负且连续可微，要使残差平方和最小,即求其极值，分别用,对,求偏导数，并令偏导数为0,（2.2.1）,(2.2.2),计 量 经 济 学,13,整理得：,(2.2.3),(2.2.4),求解方程组,有,计 量 经 济 学,14,令,斜率系数的离差形式,计 量 经 济 学,15,例2.1 我国税收预测模型,计 量 经 济 学,16,税收收入对GDP的散点图,计 量 经 济 学,17,计 量 经 济 学,18,从而得到我国税收模型线性回归方程,估计出来的回归(斜率)系数,它表明：国内生产总值每增加一亿元，我国税收将平均增加0.0946亿元,计 量 经 济 学,19,2.3 普通最小二乘估计量的性质和分布,2.3.1 最小二乘估计量的性质 1、线性 即估计参数 因变量 的线性组合,计 量 经 济 学,20,同样可以证明,令,则,其中,计 量 经 济 学,21,同理可得,计 量 经 济 学,22,2.无偏性,即,因为,所以,计 量 经 济 学,23,3、最小方差性,在所有的线性无偏估计量中，最小二乘估计量的方差是最小的,由古典线性回归模型的假定可知，对每一个随机变量，有,计 量 经 济 学,24,证最小方差，设,为斜率系数的另外一个无偏估计量，从而有,计 量 经 济 学,25,2.3 .2 估计参数的概率分布,经过前面的推导可得：,由于估计参数,都是,的线性组合，它们的概率分布,取决于,计 量 经 济 学,26,2.4 随机误差项方差的估计,即总体方差，,只有知道总体方差才能计算出估计参数的方差，但是总体随机误差项无法观测，因此只能 从它的估计值的残差,出发，对总体随机误差项进行估计，可以证明,计 量 经 济 学,27,2.5 一元线性回归模型的统计检验,2.5.1 拟合优度检验：对样本回归直线和样本观测值之间拟合优度的检验,(2.5.2),(2.5.1),从图中可以看出，第i个因变量y的观测值与样本均值的总离差,计 量 经 济 学,28,将公式（2.5.1）两边平方后再求和，有,由线性回归模型的基本假定可知,(2.5.3),计 量 经 济 学,29,上式用文字表示即为： TSS(总离差平方和)RSS(残差平方和)ESS(回归平方和),TSS-Total Sum of Square,RSS-Residual Sum of Square,ESS-Explained Sum of Square,从等式中可以看出，如果回归平方和ESS在总离差TSS平方和中占的比重越大，残差平方和RSS就越小，,那么模型的拟合误差就越好，样本回归方程就越接近总体回归方程,计 量 经 济 学,30,为此提出拟合系数（判定系数）,拟合系数具有下面两个性质：,计 量 经 济 学,31,请大家注意回归平方和,样本回归方程,计 量 经 济 学,32,现在可以回到例2.1中，计算该线性回归模型的拟合系数,拟合系数的经济意义,线性回归模型的拟合效果是比较好的,计 量 经 济 学,33,2.5.2 参数显著性检验,在一元线性回归模型中，还需要对回归参数进行检验，也就是检验,为此提出假设,在前面已经推导过回归参数服从概率分布,从而可以构造统计量,1、检验原理,计 量 经 济 学,34,但是由于总体方差和标准差未知，因此只能用其估计量进行代替，此时Z不再服从正态分布，而是服从t分布,计 量 经 济 学,35,2、检验步骤,对总体参数提出假设,对原假设构造统计量,给定显著性水平，查自由度为n-2的t分布表，得到临界值,计 量 经 济 学,36,再次回到例2.1中，对模型的斜率系数进行参数显著性检验,现在已经计算出,还没有计算出斜率参数的标准差，前面已经证明斜率参数的方差,这个公式中，总体随机误差项方差,未知，只能用其估计,计 量 经 济 学,37,计 量 经 济 学,38,因此拒绝原假设，可以认为自变量和因变量之间存在显著的线性关系,计 量 经 济 学,39,第一次作业,研究某国货币数量Y 和国民收入X 之间的关系，随机抽取了12年进行调查，得到右表中资料： (1) 试建立货币数量Y 对国民收入X 之间的一元线性回归模型； (2) 计算线性回归模型的拟合系数， 并解释其经济意义； (3) 在5%的显著性水平下,计算斜率系数的 t检验值，判断其是否通过参数显著性检验。,计 量 经 济 学,40,样本回归方程为,计 量 经 济 学,41,计 量 经 济 学,42,斜率系数通过参数显著性检验。,计 量 经 济 学,43,2.6 一元线性回归模型的预测,点预测 总体均值的预测 总体个值的预测,计 量 经 济 学,44,对于一元线性回归模型,给定样本以外的解释变量的观测值X0，可以得到被解释变量的点预测值0 ，可以此作为其条件均值E(Y|X=X0)或个别值Y0的一个近似估计。,注意： 严格地说，这只是被解释变量的预测值的估计值，而不是预测值。 原因:（1）参数估计量不确定； （2）随机项的影响,2.6.1 点预测,计 量 经 济 学,45,0是条件均值E(Y|X=X0)或个值Y0的一个无偏估计,计 量 经 济 学,46,计 量 经 济 学,47,由于,于是,可以证明,2.6.2 总体均值预测值的置信区间,计 量 经 济 学,48,因此,计 量 经 济 学,49,于是，在1-的置信度下，总体均值E(Y|X0)的置信区间为,计 量 经 济 学,50,于是,从而在1-的置信度下， Y0的置信区间为,2.6.3 总体个值预测值的预测区间,计 量 经 济 学,51,我国的税收消费支出模型为,因此，总体均值E(Y|X=81911)的95%的置信区间为：,计 量 经 济 学,52,同样地，对于Y在X=81911的个体值，其95%的置信区间为：,总体回归函数的置信带（域）（confidence band） 个体的置信带（域）,计 量 经 济 学,53,对于Y的总体均值E(Y|X)与个体值的预测区间（置信区间）:,（1）样本容量n越大，预测精度越高，反之预测精度越低； （2）样本容量一定时，置信带的宽度当在X均值处最小，其附近进行预测（插值预测）精度越大；X越远离其均值，置信带越宽，预测可信度下降。,