程老师计量经济学：线性回归模型概述和一元模型的参数估计

2019/4/21,1,第二章 单方程计量经济模型理论与方法,单方程模型的特点： 模型中只包含一个方程 是应用最广泛的模型 是联立方程模型理论与方法的基础,2019/4/21,2,单方程回归模型概述,单方程回归模型分为：线性和非线性。线性指下面两种情形之一： 线性模型（按变量划分）：变量以1次的形式出现。 线性模型（按参数划分）：参数以1次的形式出现。,2019/4/21,3,第二章 内容,§2.1 线性回归模型概述 §2.2 一元线性回归模型的参数估计 §2.3 多元线性回归模型的参数估计 §2.4 多元线性回归模型的统计检验 §2.5 多元线性回归模型的置信区间 §2.6 异方差 §2.7 序列相关 §2.8 多重共线性 §2.9 单方程计量经济模型综合练习,2019/4/21,4,§2.1 线性回归模型概述,一、 线性回归模型的特征 二、 线性回归的普遍性 三、 线性回归模型的基本假设,2019/4/21,5,一、线性回归模型的特征,消费函数模型 ： 凯恩斯绝对收入假设消费理论：消费是由收入唯一确定,是收入的线性函数。,实际上消费与收入之间的关系式并不是准确的。 原因在于： （1）消费还受到除收入以外的因素的影响； （2）线性关系是一种近似关系； （3）收入、消费数据也是一个近似 。,边际消费消费与收入的比重。,2019/4/21,6,为了更准确、符合实际地描述消费与收入间的关系，必须引入随机误差。 即：,2019/4/21,7,一、综合归纳用统计学方法去认识消费函数,对收入水平X=80，称P(YX=80)为给定X=80时Y的条件概率。,一个假设的例子，X收入， Y消费(不同家庭）,表中表明：对于同一等级的收入水平，有不同的消费支出。如何考虑Y与X的关系呢？,2019/4/21,8,对于同一等级收入水平，消费支出Y的平均值称为条件期望，记为E（YX）。,把所有点（Xi, E(YXi)）描在平面图上，可看出其轨迹接近于一条直线。 此直线称为总体回归函数曲线，其形式为： E(YXi)= 0+1Xi ,即尽管对于同一收入水平Xi，有不同的消费支出Y，但Y的条件期望值与Xi接近于一条直线。,2019/4/21,9,注意这里所描述X与Y的表达式不是精确的表达式，而是Y的平均值（即条件期望）与X的平均关系。 将总体因变量的条件期望表示为自变量的某种函数，这个函数称为总体回归函数，若只有一个自变量，则可写为E(YXi)=f(Xi)，其线性形式为 E(YXi)= 0+1Xi , 或Yi=0+1Xi+i ，i为随机扰动项。这里引入随机扰动项更能客观地描述Y与X的变动关系。 总体回归曲线的几何意义：表示当自变量给定时，因变量的条件期望值的轨迹，总体回归函数实际上是概率性模型。,2019/4/21,10,样本残差ei=实际值-（模型确定的）拟合值。,样本回归函数 前面所讲总体回归函数是假定总体所有数据均可获得，但若总体数目较大时，在实际中无法取得总体所有单位的全部数值，则此时总体回归函数无法建立。这时所采用方法是在总体中抽取若干单位的样本数据，用此样本组建立函数，此函数称为样本回归函数，用它来推断总体回归函数的参数。 例如对应于总体回归函数：Yi=0+1Xi+i 的样本回归函数记为：,2019/4/21,11,二、随机干扰项的包括的因素,（1）在解释变量中被忽略的因素 （2）观察值（数据）的误差 （3）模型数学形式设定误差 （4）其他随机因素的影响 随机扰动项是不可观察的，但可通过残差（实际值与拟合值的差）进行估计。,2019/4/21,12,二、线性回归模型的普遍性,虽然在经济现象中，因素间关系直接表现为线性的并不很多，往往是非线性的，但是许多非线性的，可以通过一些简单的数学处理，将非线性的关系化为线性关系。所以，将线性回归模型作为计量经济模型研究的主要形式。 有关将非线模型化为线性模型的方法在第三章讲,2019/4/21,13,三、线性回归模型的基本假定,通常采用普通最小二乘法（OLS）估计线性回归模型，为了保证OLS估计量具有良好的统计特性线性、无偏性和有效性，对计量经济模型给出五项基本假定。 满足这些基本假定，OLS估计量将具有优良性，否则OLS方法不能使用，应寻找其它估计方法。 显然，基本假定是针对OLS方法提出来的。,2019/4/21,14,五项基本假定,假定1：解释变量X1,X2,Xk是确定性变量（非随机的，即E(Xi)=Xi)。解释变量之间互不相关. 假定2：随机误差项i具有0均值和同方差。即： E(i)=0， Var(i)=2 （不依赖于样本期数i) 假定3：随机误差项在不同样本点之间是独立的。即： Cov(i,j)=0，ij，表示误差不存在序列相关。 假定4：随机误差项与解释变量之间不相关,但与被解释变量Y相关。即: Cov(i,Xji)=0，但：Cov(i,Y) 0. 假定5：随机误差项服从0均值、同方差的正态分布。即: i N(0,2),2019/4/21,15,计量经济学检验,对计量经济模型进行关于5项基本假定的检验称为计量经济学检验。即进行：解释变量之间不相关检验（称为多重共线性检验），随机误差项i同方差（称为异方差检验），序列相关检验。,2019/4/21,16,§2.2 一元线性回归模型的参数估计,一、普通最小二乘法OLS 二、最大似然法ML（不讲） 三、参数估计量的性质 四、一元线性回归模型参数估计的实例,2019/4/21,17,“回归”一词的由来,回归分析最旱起源于生物学的研究，“回归”最初是遗传学中的一个名词。1889年英国的生物学家兼统计学家F.Gallton和他的朋友K.Pearson收集了上千个家庭成员的身高、臂长和腿长的记录。 企图寻找出子女们身高与父母们身高之间关系的具体表现形式。 根据1078个家庭的调查结果得到：,2019/4/21,18,但从他们的研究结果来看，并非高的越长越高，矮的越长越矮（父母身高增加一个单位，而Y仅增加0.516个单位）。高个子父母的子女身高有低于其父母身高的趋势，而矮个子父母的子女身高有高于其父母身高的趋势，结论：父母所生子女有回归于人类平均身高的趋势，故某人种的平均身高是相当稳定的。 见1889年F.Gallton的论文普用回归定律。 回归的含义：任何变异的东西总有趋向于一般、平稳的势头。 后来人们将此种方法普遍用于寻找变量之间的规律 。,X为父母的身高，Y为成年子女的身高。,2019/4/21,19,一元线性回归模型的一般形式,要求估计： （1）模型结构参数0和1 （2）模型分布参数2,2019/4/21,20,一、普通最小二乘法OLS（Ordinary Least Square ),普通最小二乘法的思路: 1为了精确地描述Y与X之间的关系，用这两个变量的每一对观察值（n组观察值），作Y与X的散点图，方法很多，可用Eviews来画。 2. 观察Y与X的散点图是否存在直线关系或近似直线关系。如果是则设定为： 真实模型为：yi=0+1xi+i 最小二乘法的核心是找一条直线（2.2.2)，使得所有这些点yi到该直线的距离的和（平方和）最小实际与理论抽象最接近。,2019/4/21,21,最小二乘法的数学原理,距离是Y的实际值与拟合值之差，差异大,则拟合不好，差异小拟合好，所以称为残差、拟合误差或剩余值。,“最好”直线就是使误差平方和最小的直线。 于是可以运用求极值的原理，求出待定参数。,2019/4/21,22,二、参数估计量的性质（证明略）,参数估计量的性质实际上指的是用某种方法（如OLS）导出的参数估计量是否具有优良性。 衡量优良性的标准： 1、线性； 2、无偏性； 3、有效性（最小方差性）； 4、随机误差项方差估计量的无偏性。,2019/4/21,23,三.一元线性回归模型的实例,认为我国用于文教科学卫生事业费用的支出（ED）主要由财政收入（FI）决定，二者之间具有线性关系（从散点图可看出）。,平均百分误差在10%以内，表明是一个拟合得比较好的模型,2019/4/21,24,1、作业记录,2.估计结果：系数、标准误差、 T统计量、显著性水平prob,拟合优度R2,残差标准差SE,F统计量,F显著性水平prob,2019/4/21,25,四、模型的检验,（一）、经济意义检验。 （二）、统计检验：主要包括如下几种检验： 1、拟合优度检验（R2检验）；2、方程显著性检验（F检验）；3、自变量显著性检验（t检验）；4、残差标准差检验（SE检验）。 注意 可以证明在一元回归模型中R2检验与F检验与t检验均等价，故只要对其中一种进行检验即可。,