第三章非线性回归分析法韩苗.ppt

第三章第三章 非线性回归分析法非线性回归分析法3.1 可化为线性的回归模型3.2 不可化为线性的回归模型3.3 非线性回归应用的几个问题3.4 预测实例学习目标•了解：非线性回归模型的一般形式•理解：可线性化的非线性回归的形式变换、不可线性化的参数估计方法•掌握：应用Eviews软件进行非线性趋势预测3.1 可化为线性的回归模型一、非线性回归模型的直接代换1. 多项式函数模型令令原模型可化为线性形式即可利用线性回归分析的方法处理了新引进的自变量只能依赖于原始变量，而不能与未知参数有关新引进的自变量只能依赖于原始变量，而不能与未知参数有关任何一连续函数都可用分段多项式来逼近，所以任何一连续函数都可用分段多项式来逼近，所以在实际问题中，不论变量在实际问题中，不论变量y y与其他变量的关系如与其他变量的关系如何，在相当宽的范围内我们总可以用多项式来拟何，在相当宽的范围内我们总可以用多项式来拟合2. 双曲线模型令令原模型可化为线性形式即可利用线性回归分析的方法处理了3. 半对数函数模型和双对数函数模型半对数函数模型双对数函数模型令令原模型可化为线性形式4. 三角函数回归模型令令则则这类变换本身不涉及模型参数，其参数估计这类变换本身不涉及模型参数，其参数估计就是原模型的参数估计。

就是原模型的参数估计二、非线性模型的间接代换（对数变换法）1. 指数曲线模型对数变换对数变换再采用前述代换的形式建立线性模型如：著名的柯布——道格拉斯（Cobb—Douglas）生产函数就是其中一个典型2. 幂函数曲线回归模型对数变换对数变换令令原模型可化为线性形式模型变换涉及模型变换涉及参数，估计参参数，估计参数后要还原数后要还原3.2 不可转换成线性的趋势模型一、不可线性化模型1、不可线性化模型：无论采取什么方式变换都不可 能实现线性化的模型2、常用的处理方法：一般采用高斯一牛顿迭代 法进行参数估计，即借助于泰勒级数展开式 进行逐次的线性近似估计 二、迭代估计法二、迭代估计法基本思路是：1、通过泰勒级数展开使非线性方程在某一组初始参数 估计值附近线性化；2、然后对这一线性方程应用OLS法，得出一组新的参 数估计值；3、使非线性方程在新参数估计值附近线性化，对新 的线性方程再应用OLS法，又得出一组新的参数估 计值；4、不断重复上述过程，直至参数估计值收敛时为止三、迭代估计法的Eviews软件实现⒈ 设定代估参数的初始值，可采用以下两种方式：（1）使用param命令。

命令格式为param 初始值1 初始值2 初始值3 ……（2）在工作文件窗口双击序列C，并在序列窗口中直接输入参数的初始值（注意序列C中总是保留着刚建立模型的参数估计值，若不重新设定，系统自动将这些值作为参数的默认初始值）⒉ 估计非线性模型（1）命令方式在命令窗口直接键入:NLS 非线性函数表达式例如，对于非线性模型 ，其估计命令格式为NLS y=c(1)*k^c(2)*L^c(3)其中， c(1)、c(2)、c(3)表示待估计的三个参数A、 、 回车后，系统会自动给出迭代估计的参数估计值在数组窗口，点击Procs→Make Equation，在弹出的方程描述对话框中，输入非线性函数表达式：（2）菜单方式选择估计方法为最小二乘法后，点击OK按钮y=c(1)*k^c(2)*L^c(3)几点说明：（1）在方程描述对话框中，点击Option按钮，可以设置迭代估 计的最大迭代次数(Max Iteration)和误差精度(Convergence)，以便控制迭代估计的收敛过程2）利用NLS命令也可估计可划为线性的非线性回归模型例如 NLS y=c(1)+c(2)/x NLS y=c(1)+c(2)*ln(x)（3）迭代估计是一种近似估计，并且参数初始值和误差精度的设定不当还会直接影响模型的估计结果，甚至出现错误。

 非线性回归模型参数估计的基本思想可以类似非线性回归模型参数估计的基本思想可以类似于线性估计，也是设法找到使于线性估计，也是设法找到使的一组参数值的一组参数值1 1、求偏导为零，得未知参数的非线性方程组，一、求偏导为零，得未知参数的非线性方程组，一 般用般用Newton 迭代法求解迭代法求解2、直接极小化残差平方和，求出未知参数的非线、直接极小化残差平方和，求出未知参数的非线 性最小二乘估计性最小二乘估计3.3 3.3 非线性回归应用的几个问题非线性回归应用的几个问题一、参数估计一、参数估计注：注： 在非线性最小二乘法中，一些精确的分布式很在非线性最小二乘法中，一些精确的分布式很难得到的，在大样本时，可以得到近似分布，因此难得到的，在大样本时，可以得到近似分布，因此可以得到近似的参数的区间估计，显著性检验等回可以得到近似的参数的区间估计，显著性检验等回归诊断3、将非线性模型转化为线性模型再采用最小二、将非线性模型转化为线性模型再采用最小二乘估计直接变换法、对数变换法、泰勒级数展开法等直接变换法、对数变换法、泰勒级数展开法等常用的转化方法：常用的转化方法：二、确定非线性模型形式的方法二、确定非线性模型形式的方法 非线性模型的形式复杂多样，如何根据实际的非线性模型的形式复杂多样，如何根据实际的数据选择合适的模型时建模的关键数据选择合适的模型时建模的关键1 1、根据散点图来确定类型、根据散点图来确定类型2 2、根据一定得经济知识背景、根据一定得经济知识背景如：商品的销售量与广告费用之间的关系。

如：商品的销售量与广告费用之间的关系S S型曲线型曲线三、模型的比较三、模型的比较1 1、首先应从经济学角度考虑，因为数据分析的目的、首先应从经济学角度考虑，因为数据分析的目的是解释经济现象所以要重视经济学理论和行为规是解释经济现象所以要重视经济学理论和行为规律提供的理由律提供的理由2 2、从统计分析角度来比较，最重要是残差分析如、从统计分析角度来比较，最重要是残差分析如果残差平方和最小，并且看起来残差最随机，这样的果残差平方和最小，并且看起来残差最随机，这样的模型应当选择模型应当选择3.4 预测实例预测实例例：柯布例：柯布————道格拉斯（道格拉斯（CobbCobb——DouglasDouglas）生产函数）生产函数其中，其中，Y为产出，为产出，K( (资本资本) )，，L( (劳动力劳动力) )为两个投入要素为两个投入要素是产出对资本投入的弹性系数是产出对资本投入的弹性系数为效率系数；为效率系数；为为K和和L的产出弹性的产出弹性均为待估参数均为待估参数度量在劳动投入保持不变时，资本投入增加度量在劳动投入保持不变时，资本投入增加1%1%时，时，产出增加的百分比产出增加的百分比。

是产出对劳动投入的弹性系数是产出对劳动投入的弹性系数度量在资本投入保持不变时，劳动投入增加度量在资本投入保持不变时，劳动投入增加1%1%时，产出时，产出增加的百分比增加的百分比表示规模报酬表示规模报酬 表示规模报酬递减，即表示规模报酬递减，即1 1倍的投入带来少倍的投入带来少 于于1 1倍的产出倍的产出 表示规模报酬不变，即表示规模报酬不变，即1 1倍的投入带来倍的投入带来 倍的产出倍的产出 表示规模报酬递增，即表示规模报酬递增，即1 1倍的投入带来大倍的投入带来大 于于1 1倍的产出倍的产出对对C-DC-D生产函数，我们可以按两种形式设定随机误差项生产函数，我们可以按两种形式设定随机误差项（（1 1）乘性误差项）乘性误差项（（2 2）加性误差项）加性误差项乘性误差项，可以线性化乘性误差项，可以线性化两边取对数两边取对数线性形式线性形式线性回归线性回归加性误差项，不可以线性化加性误差项，不可以线性化用非线性最小二乘法求解用非线性最小二乘法求解参数估计参数估计线性化方法：线性化方法：非线性化方法非线性化方法注：注：用非线性最小二乘法估计参数操作与普通最小二用非线性最小二乘法估计参数操作与普通最小二乘法基本相同，只是方程估计窗口或命令行中，模型乘法基本相同，只是方程估计窗口或命令行中，模型必须以方程的形式出现，没有简化相形式。

必须以方程的形式出现，没有简化相形式 Y 国内生产总值（国内生产总值（GDP））( (亿元亿元) )，，K资金投入资金投入（亿元）包括固定资产投资和库存占用资金亿元）包括固定资产投资和库存占用资金L就业就业总人数（万人）总人数（万人） 参数估计出现了差异，因为这两种方法分别采参数估计出现了差异，因为这两种方法分别采用乘性和加性误差形式，本质上是两个模型用乘性和加性误差形式，本质上是两个模型建模的过程见第三章试验具体软件操作建模的过程见第三章试验具体软件操作。