简单回归模型ppt课件.ppt

第二讲第二讲 简单回归模型简单回归模型Simple Regression Model一、根本概念一、根本概念二、普通最小二乘法〔二、普通最小二乘法〔OLS〕〕三、几个问题三、几个问题四、四、OLS估计量的性质估计量的性质1.回归的涵义回归的涵义2.一个根本假定一个根本假定3.总体回归函数总体回归函数一、根本概念一、根本概念回归的涵义回归的涵义o最初的涵最初的涵义：回：回归〔〔regress〕一〕一词最早由英国生理学家高最早由英国生理学家高尔顿〔〔Galton〕提出，用以指〕提出，用以指给定父母的身高后，儿女的定父母的身高后，儿女的身高有回复到人口身高有回复到人口总体平均身高的体平均身高的趋势，即，即“回回归到中等〞到中等〞〔〔regression to mediocrity〕〕o回回归分析：在其他条件不分析：在其他条件不变的情况下，的情况下，调查一个一个变量量对另另一个一个变量的影响量的影响回归的涵义回归的涵义X自变量自变量Independent variable解释变量解释变量Explanatory variable控制变量控制变量Control variable预测元预测元Predictor回归元回归元RegressorY因变量因变量Dependent variable被解释变量被解释变量Explained variable响应变量响应变量Response variable预测子预测子Predictand回归子回归子Regressando回归分析中的变量和参数回归分析中的变量和参数回归的涵义回归的涵义o例子例子o简单回归分析〔即只需一个解释变量〕难以做到控制其他简单回归分析〔即只需一个解释变量〕难以做到控制其他条件不变，但可以为我们学习多元回归分析〔即两个及两条件不变，但可以为我们学习多元回归分析〔即两个及两个以上解释变量〕奠定根底个以上解释变量〕奠定根底X价格价格教育教育教育教育Y需求量需求量收入收入总产出总产出其他其他条件条件收入收入其他商品价格其他商品价格个人偏好个人偏好……工作经验工作经验个人能力个人能力家庭背景家庭背景……物质资本投入物质资本投入劳动力投入劳动力投入技术技术……一个根本假定一个根本假定零条件均零条件均值假定〔假定〔zero conditional mean assumption〕〕如何保如何保证其他条件不其他条件不变？？简单地，假地，假设X和和u是独立的，即是独立的，即X的的变化不会化不会对u呵斥影响，那么呵斥影响，那么b1就可以度量其他条件不就可以度量其他条件不变的情况下的情况下X对Y的影响。

在的影响在计量分析中，采用一个更弱一些量分析中，采用一个更弱一些的技的技术性假定性假定——零条件均零条件均值假定假定零条件均零条件均值假定的关假定的关键是假定是假定u的均的均值独立性，假独立性，假设均均值独立独立性成立，那么性成立，那么u的条件均的条件均值必然等于零必然等于零一个根本假定一个根本假定三个假定三个假定u与与X独立独立u的均值独立于的均值独立于X〔均值独立性〕〔均值独立性〕u与与X不相关不相关1是比是比2和和3更强的假定，而更强的假定，而2是比是比3更强的假定对于回归分析，更强的假定对于回归分析，假定假定2是必需的，但假定是必需的，但假定1和和3更易于了解更易于了解总体回归函数总体回归函数o总体回归函数〔总体回归函数〔population regression function, PRF〕〕..x1x2总体回归函数总体回归函数E(y|x) = b0 + b1xyf(y)x....y4y1y2y3x1x2x3x4}}{{u1u2u3u4xyE(y|x) = b0 + b1x总体回归函数总体回归函数1.OLS的推导的推导2.OLS的推导：另一种方法的推导：另一种方法3.OLS的计算步骤的计算步骤4.拟合优度拟合优度二、普通最小二乘法〔二、普通最小二乘法〔OLSOLS〕〕OLS的推导的推导n为了估了估计出出总体回体回归函数中的参数，需求从函数中的参数，需求从总体中抽取一个体中抽取一个样本。

用本用{(Xi ,Yi): i=1, …,n} 表示从表示从总体中得到的一个体中得到的一个样本本容量容量为n的随机的随机样本有：nYi=b0+b1Xi+uiOLS的推导的推导根据零条件均根据零条件均值假定，假定，Cov(X,u) = E(Xu) – E(X)E(u)=E(Xu)=0所以：所以：E(Y – b0 – b1X) = 0 E[X(Y – b0 – b1X)] = 0OLS的推导的推导n即：即：OLS的推导的推导n普通最小二乘〔普通最小二乘〔ordinary least square, OLS 〕估计量〕估计量OLS的推导的推导进一步的分析进一步的分析OLS的推导的推导n拟合值〔拟合值〔fitted value〕、残差〔〕、残差〔residual〕和样本回归函数〕和样本回归函数〔〔sample regression function, SRF〕〕....y4y1y2y3x1x2x3x4}}{{û1û2û3û4xySRFOLS的推导的推导....y4y1y2y3x1x2x3x4xySRF1OLS的推导的推导SRF2n不同的样本得到不同的样本回归函数不同的样本得到不同的样本回归函数OLS的推导：另一种方法的推导：另一种方法o根本思想：找到参数的适宜估计值使得根本思想：找到参数的适宜估计值使得Y的拟合值与实践值的拟合值与实践值总体而言尽能够地接近，也就是总体而言令残差最小总体而言尽能够地接近，也就是总体而言令残差最小OLS的计算步骤的计算步骤OLS的计算步骤的计算步骤OLS的计算步骤的计算步骤例例题2_1〔〔课本本p31：例：例2.3〕〕salary: CEO的薪水的薪水roe：公司的股本：公司的股本报答率答率OLS估估计：：方法一：用方法一：用excel方法二：用方法二：用stata〔先〔先请看看“课程相关程相关资料〞中料〞中“stata根本操作〞根本操作〞〕〕结果：果：拟合优度拟合优度o为了衡量根据为了衡量根据OLS估计得出的样本回归函数对真实数据的估计得出的样本回归函数对真实数据的拟合程度，引入拟合优度〔拟合程度，引入拟合优度〔goodness of fitness〕的概念〕的概念拟合优度拟合优度o图解图解XiSRFYiABC拟合优度拟合优度v总平方和〔总平方和〔total sum of squares, SST〕：衡量〕：衡量Y的样本总变异的样本总变异v解释平方和〔解释平方和〔explained sum of squares, SSE〕：〕：Y的样本总变的样本总变异可以被解释变量解释的部分异可以被解释变量解释的部分v残差平方和〔残差平方和〔residual sum of squares, SSR〕：〕：Y的样本总变的样本总变异不能被解释变量解释的部分，也称为剩余平方和异不能被解释变量解释的部分，也称为剩余平方和拟合优度拟合优度断定系数〔断定系数〔coefficient of determination〕〕留意：断定系数并不是判别模型好坏的主要规范！留意：断定系数并不是判别模型好坏的主要规范！拟合优度拟合优度断定系数的计算断定系数的计算拟合优度拟合优度例题例题2_2〔课本〔课本p38，例，例2.8〕〕salary: 薪水薪水roe：股本报答率：股本报答率R2=0.0132意味着股本报答率可以解释意味着股本报答率可以解释CEO薪水变异的薪水变异的1.3%1.丈量单位丈量单位2.函数方式函数方式3.过原点回归过原点回归三、几个问题三、几个问题丈量单位丈量单位解释变量或解释变量或/和被解释变量的丈量单位变化会改动回归结果和被解释变量的丈量单位变化会改动回归结果例题例题2_3函数方式函数方式o线性模型〔线性模型〔Linear model〕：所谓线性，是指对参数是线〕：所谓线性，是指对参数是线性的，并非指对变量是线性的。

性的，并非指对变量是线性的函数方式函数方式o假设对解释变量或被解释变量进展某种方式的函数变换，假设对解释变量或被解释变量进展某种方式的函数变换，不会改动模型的参数线性性，但会使得模型的经济意义更不会改动模型的参数线性性，但会使得模型的经济意义更为合理我们讨论三种常用的函数方式：为合理我们讨论三种常用的函数方式：o对数对数-程度模型〔程度模型〔log-level〕〕o对数对数-对数模型〔对数模型〔log-log〕〕o程度程度-对数模型〔对数模型〔level-log〕〕函数方式函数方式对数对数-程度模型〔不变增长率模型〕程度模型〔不变增长率模型〕函数方式函数方式o对数对数-程度模型：工资模型程度模型：工资模型WSLnWS函数方式函数方式例题例题2_4：对数：对数-程度模型〔课本程度模型〔课本p42, 例例2.10〕〕函数方式函数方式o对数对数-对数模型〔常弹性模型〕对数模型〔常弹性模型〕函数方式函数方式o对数对数-对数模型：需求价钱弹性对数模型：需求价钱弹性QdPLnQdLnP函数方式函数方式例题例题2_5：对数：对数-对数模型〔课本对数模型〔课本p42, 例例2.11〕〕函数方式函数方式o程度程度-对数模型对数模型函数方式函数方式例题例题2_6：程度：程度-对数模型对数模型过原点回归过原点回归o在分析在分析经济问题时有有时要求被解要求被解释变量量为0时解解释变量也量也为0，，此此时需求用到需求用到过原点回原点回归〔〔regression through the origin〕〕o实例：例：o可可变本本钱正比于正比于产量量o永久性消永久性消费正比于永久性收入正比于永久性收入o通通货膨膨胀率正比于率正比于货币供供应量量o此此时β1 的的OLS估估计量同量同样由前面由前面给出的公式出的公式计算算1.简单回归模型的高斯简单回归模型的高斯-马尔科夫假定马尔科夫假定2.OLS估计量的无偏性估计量的无偏性3.OLS估计量的方差估计量的方差4.OLS估计量的有效性估计量的有效性四、四、OLSOLS估计量的性质估计量的性质简单回归模型的高斯简单回归模型的高斯- -马尔科夫假定马尔科夫假定o以上引见了回归系数的以上引见了回归系数的OLS点估计，但为了判别点估计的点估计，但为了判别点估计的无偏性、有效性等性质以及进展假设检验，还需对回归模无偏性、有效性等性质以及进展假设检验，还需对回归模型做出一些假定型做出一些假定o简单回归模型的高斯简单回归模型的高斯-马尔科夫假定马尔科夫假定简单回归模型的高斯简单回归模型的高斯- -马尔科夫假定马尔科夫假定o同方差性〔同方差性〔homoscedasticity〕：误差项的条件方差一样〕：误差项的条件方差一样o异方差性〔异方差性〔heteroscedasticity〕：误差项的条件方差不一样〕：误差项的条件方差不一样简单回归模型的高斯简单回归模型的高斯- -马尔科夫假定马尔科夫假定同方差性同方差性XY概概率率密密度度X：受教育年限：受教育年限Y：工资：工资简单回归模型的高斯简单回归模型的高斯- -马尔科夫假定马尔科夫假定异方差性异方差性XY概概率率密密度度X：受教育年限：受教育年限Y：工资：工资简单回归模型的高斯简单回归模型的高斯- -马尔科夫假定马尔科夫假定异方差性异方差性XY概概率率密密度度X：时间：时间Y：打字正确率：打字正确率OLS估计量的无偏性估计量的无偏性OLS估计量的无偏性估计量的无偏性证明见课本证明见课本p47-48在保证在保证OLS估计量无偏性的四个假定中，零条件均值假定〔估计量无偏性的四个假定中，零条件均值假定〔SLR.4〕能够是最难被满足的，在今后的学习中我们将反复〕能够是最难被满足的，在今后的学习中我们将反复讨论这个问题。

〔参看课本讨论这个问题〔参看课本p48，例，例2.12〕〕无偏性无法保证无偏性无法保证OLS估计量的离散程度，因此还需求讨论估计估计量的离散程度，因此还需求讨论估计量的有效性量的有效性OLS估计量的方差估计量的方差回归规范误〔回归规范误〔standard error of the regression〕〕证明见课本证明见课本p54OLS估计量的方差估计量的方差回归规范误的计算步骤回归规范误的计算步骤OLS估计量的方差估计量的方差OLS估计量的方差估计和规范差估计估计量的方差估计和规范差估计在得出回归规范误后，可以证明回归系数的方差估计和规范在得出回归规范误后，可以证明回归系数的方差估计和规范差估计〔即规范误，差估计〔即规范误，standard error〕为〔课本〕为〔课本p52〕：〕：OLS估计量的方差估计量的方差OLS估计量的规范误的计算步骤估计量的规范误的计算步骤OLS估计量的方差估计量的方差例题例题2_7salary: 薪水薪水roe：股本报答率：股本报答率OLS估计量的有效性估计量的有效性OLS估计量的有效性估计量的有效性证明见课本证明见课本p108，附录，附录3A.6OLS估计量的有效性估计量的有效性OLS估估计量的性量的性质——高斯高斯-马尔科夫定理科夫定理习题习题2.42.9C2.3C2.4。