一元线性回归模型计量经济学

在第二章，我们以人为设计的收入与消费数据，讨论了总体回归模型与样本回归模型。本章分析一元线性回归模型的经典假定，以及经典假设下的最小二乘估计方法和估计量的统计性质、区间估计、假设检验，并运用蒙特卡洛模拟直观认识和验证最小二乘估计量的统计性质。,回归分析,回归的古典意义： 高尔顿遗传学的回归概念 (父母身高与子女身高的关系) 子女的身高有向人的平均身高“回归“的趋势 回归的现代意义： 一个被解释变量对若干个 解释变量依存关系的研究 回归的目的（实质）： 由解释变量去估计被解释变 量的平均值,被解释变量Y的条件分布和条件概率： 当解释变量X取某固定值时（条件），Y 的值不确定，Y的不同取值会形成一定的分布，这是 Y 的条件分布。 X取某固定值时，Y 取不同值的概率称为条件概率。 被解释变量 Y 的条件期望： 对于 X 的每一个取值， 对 Y 所形成的分布确 定其期望或均值，称 为 Y 的条件期望或条件均 值，用 表示。注意:Y的条件期望是随X的变动而变动的,Y,X,明确几个概念（为深刻理解“回归”）,4,回归线：对于每一个X的取值 ，都有Y的条件期望 与之对应，代表Y的条件期望的点的轨迹形成的直线或曲线称为回归线。 回归函数：被解释变量Y 的条件期望 随 解释变量X的变化而有规律 的变化，如果把Y的条件期 望表现为 X 的某种函数 ， 这个函数称为回归函数。 回归函数分为：总体回归函数和样本回归函数,X,Y,5,1、总体回归函数的概念 前提：假如已知所研究的经济现象的总体的被解释变量Y 和解释变量X的每个观测值（通常这是不可能的！），那 么，可以计算出总体被解释变量Y的条件期望 ， 并将其表现为解释变量X的某种函数 这个函数称为总体回归函数（PRF） 本质:总体回归函数实际上表现的是特定总体中被解释变 量随解释变量的变动而变动的某种规律性。 计量经济学的根本目的是要探寻变量间数量关系的规律,也 就要努力去寻求总体回归函数。,6,条件期望表现形式 例如Y的条件期望 是解 释变量X的线性函数，可表示为： 个别值表现形式（随机设定形式） 对于一定的 ，Y的各个别值 并不一定等于条件期望，而 是分布在 的周围，若令各个 与条件期望 的 偏差为 ，显然 是个随机变量，则有,2.总体回归函数的表现形式,PRF,作为总体运行的客观规律，总体回归函数是客观存在的，但在实际的经济研究中总体回归函数通常是未知的，只能根据经济理论和实践经验去设定。计量经济学研究中“计量”的根本目的就是要寻求总体回归函数。 我们所设定的计量模型实际就是在设定总体回归函数的具体形式。 总体回归函数中 Y 与 X 的关系可以是线性的，也可以是非线性的。,7,3、如何理解总体回归函数,概念 在总体回归函数中，各个 的值与其条件期望 的偏差 有很重 要的意义。若只有 的影响， 与 不应有偏差。若偏 差 存在，说明还有其他影响因素。 实际代表了排除在模型以外的所有因素对 Y 的影响。 性质： 是期望为 0 有一定分布的随机变量。 重要性：随机扰动项的性质决定着计量经济分析结果的性质和计量经济方法的选择。,1、随机扰动项, 是未知影响因素的代表(理论的模糊性) 是无法取得数据的已知影响因素的代表(数据欠缺) 是众多细小影响因素的综合代表(非系统性影响) 模型可能存在设定误差(变量、函数形式的设定） 模型中变量可能存在观测误差(变量数据不符合实际) 变量可能有内在随机性(人类经济行为的内在随机性),9,2、引入随机扰动项 的原因,样本回归线： 对于X的一定值，取得Y的样本观测值，可计算其条件均值，样本观测值条件均值的轨迹，称为样本回归线。 样本回归函数： 如果把被解释变量Y的样本条件 均值表示为解释变量X的某种函 数，这个函数称为样本回归函 数（SRF）。,10,X,Y,SRF,1、样本回归函数（SRF）,11,样本回归函数如果为线性函数，可表示为 其中： 是与 相对应的 Y 的样本条件均值 和 分别是样本回归函数的参数 个别值（实际值）形式： 被解释变量Y的实际观测值 不完全等于样本条件均值 ，二者之差用 表示， 称为剩余项或残差项： 则 或,2、样本回归函数的函数形式,条件均值形式：,样本回归线随抽样波动而变化:每次抽样都能获得一个样本，就可以拟合一条样本回归线（SRF不唯一)。 样本回归函数的函数形式 应与设定的总体回归函数的 函数形式一致。 样本回归线只是样本条件均 值的轨迹，还不是总体回归 线，它至多只是未知的总体 回归线的近似表现。,12,3、样本回归函数的特点,SRF1,SRF2,Y,X,A X,13,PRF,SRF,4、样本回归函数与总体回归函数的关系,如果能够通过某种方式获得 和 的数值，显然: 和 是对总体回归函数参数 和 的估计 是对总体条件期望 的估计 在概念上类似总体回归函数中的 ，可视 为对 的估计。,14,对比： 总体回归函数 样本回归函数,4、对样本回归的理解,第三章 一元线性回归模型,§3.4 例子：中国消费函数,§ 3.5 对最小二乘估计量统计性质的直观认识-蒙特卡洛模拟,§3.3 回归参数的区间估计和假设检验,§3.2 拟合优度,§3.1 一元线性回归模型参数的估计,本章小结,§3.1 一元线性回归模型参数的估计,一元线性回归模型是指模型中只有一个解释变量的模型，也称为简单线性回归模型，其一般形式是：,（3.1.1）,Y为被解释变量，X为解释变量。因为模型中共有两个变量，所以，模型（3.1.1）也被称为双变量线性回归模型，0与1为待估参数，ui为随机误差项或随机扰动项。,一、基本假定,1、对模型与变量的假定,假定1：回归模型对参数（系数） 而言是线性模型。,所谓线性回归模型是指关于参数是线性的模型。无论关于变量是线性还是非线性的模型，只要它关于参数（系数）是线性模型，都称为线性回归模型。比如：,(1)变量、参数均为“线性”，这是线性回归模型；,(2)参数“线性”，变量“非线性”，这也是线性回归模型；,(3)变量“线性”，参数“非线性”，这就是一个非线性回归模型。,(2),(3),(1),假定2：解释变量X是外生变量。即在重复抽样中，X取固定不变的值。这一假定意味着回归分析是条件回归分析，就是以解释变量X的给定值作为条件的。根据这一假定，有解释变量X与随机扰动项ui不相关，即：,假定3：模型是正确设定的。,i=1，2，N,以上这些对随机扰动项的假定是由德国数学家高斯（Gauss）最早提出的，也称为线性回归模型的经典假定或高斯假定，满足上述假定的线性回归模型，称为经典线性回归模型,一、基本假定,2、对随机扰动项的假定,假定6：无自相关假定。,假定5：同方差假定。在给定X的条件下，ui的条件方差为某个常数,i=1，2，N,19,二、普通最小二乘法（OLS）,Yi的变化可以分为两部分，一部分是可以由Xi的变化解释的，另一部分来自随机扰动。Yi向Xi所解释的“平均水平”回归，这就是“回归”的含义。而斜率系数1是指，Xi每变化一个单位，Yi平均变化1个单位。0是样本回归直线的截距。,基于假定3，我们对模型（3.1.1）取条件期望，则有：,（3.1.6）,即：,第一步 构造含有待估计系数的残差平方和 并对其求最小,第二步 对残差平方和求两个系数的偏导数 （一阶条件）,对第二步的进一步演算,在（3.1.9）式中，令 ， ，xi和yi分别称为Xi和Yi的离差形式，也可称为对Xi和Yi的中心化处理。为方便，我们 以下分析过程中，将和号简写。容易证明： （3.1.10） （3.1.11） 于是，估计量（3.1.9）可以表示为离差形式： （3.1.12） 在计量经济学中，往往以小写字母表示对均值的离差。由于 和 是从最小二乘原理推导出来的，故称为普通最小二乘估计量。将样本数据代入估计量的计算公式（3.1.12）即可求得参数的估计值。,例3.1.1,题目,表3.1.1 2008年中国各地区城市居民人均年消费支出和可支配收入,数据来源：中国统计年鉴2009,请回答：我国宏观经济中的边际消费倾向是多少？,例3.1.1,解答,我们设定样本回归模型 其中Yi为城市居民家庭平均每人每年消费支出；Xi为城市居民人均年可支配收入。使用这组样本数据，对(3.1.13)做最小二乘估计，结果为 从样本回归函数可知，边际消费倾向 ， 也就是说收入每增加1元，消费平均增加0.6647元。,（3.1.13）,（3.1.14）,例3.1.1,思考,25,三、最小二乘估计量的统计性质,参数估计量的主要性质,无偏性,有效性,线性性,即估计量是随机样本数据的线性函数；,即估计量的期望等于总体的真实值， 即：,即估计量 在所有线性无偏估计量 中具有最小方差，也称为最小方 差性，即：,最优线性无偏估计量,估计 量的 有限 样本 性质,26,三、最小二乘估计量的统计性质,参数估计量的主要性质,渐近无偏性,渐近有效性,一致性,即样本容量趋于无穷大时，估计量的期望趋于总体真实值，即：,即样本容量趋于无穷大时，估计量依概率收剑于总体的真实值，即：,其中：符号“Plim”表示概率极限，因 为随机变量没有极限值，只能求概率 极限。,即样本容量趋于无穷大时，估计量 在所有的一致估计量 中具有最小的渐近方差，即：,估计 量的 大样本性质或 渐近 性质,高斯-马尔可夫定理,由以上分析可以看出，普通最小二乘估计量（ordinary least squares estimators）在经典假定下具有线性性、无偏性和最小方差性等性质，称具有这些性质的估计量为最优线性无偏估计量（ best linear unbiased estimator ，BLUE）。 高斯-马尔可夫定理（Gauss-Markov theorem） 在经典假定下，普通最小二乘估计量具有线性性、无偏性和最小方差性（ BLUE） 。,§3.2 拟合优度,如图3.2.1（a）和（b）中的直线，它们分别表示由散点表示的样本数据所对应的样本回归直线（OLS估计的样本回归直线），它们都是通过残差平方和最小而产生的直线，但是二者对样本观测值的拟合程度显然是不同的。这两条直线，谁拟合得更好？这就需要使用拟合优度的概念。,3.2.1,一、总离差平方和的分解,已知由一组样本观测值 得到如下样本回归直线： Y的第 个观测值与样本均值的离差 可分解为两部分之和,（3.2.1）,（3.2.2）,图3.2.2 总离差的分解示意图,RSS称为残差平方和（residual sum of squares，RSS），反映样本观测值与估计值偏离的大小，也是模型中解释变量未解释的离差。,（3.2.7),（3.2.6),ESS称为回归平方和（explained sum of squares，ESS），反映由模型中解释变量所解释的那部分离差的大小。,TSS称为总平方和（total sum of squares，TSS），它反映样本观测值总体离差的大小。,对于所有样本点，由于 可以证明 ，所以有,（3.2.3),（3.2.5),（3.2.4）,二、拟合优度,ESS占Y的总离差平方和的比例,度量