经济预测与决策3.3非线性回归法.ppt

3.3 非线性回归分析法,1 可化为线性的回归模型 2 不可化为线性的回归模型 3 非线性回归应用的几个问题 4 预测实例,学习目标,了解：非线性回归模型的一般形式 理解：可线性化的非线性回归的形式变换、不可线性化的参数估计方法 掌握：应用Eviews软件进行非线性趋势预测,1 可化为线性的回归模型,一、非线性回归模型的直接代换,1. 多项式函数模型,令,原模型可化为线性形式,即可利用线性回归分析的方法处理了新引进的自变量只能依赖于原始变量，而不能与未知参数有关任何一连续函数都可用分段多项式来逼近，所以在实际问题中，不论变量y与其他变量的关系如何，在相当宽的范围内我们总可以用多项式来拟合2. 双曲线模型,令,原模型可化为线性形式,即可利用线性回归分析的方法处理了3. 半对数函数模型和双对数函数模型,半对数函数模型,双对数函数模型,令,原模型可化为线性形式,4. 三角函数回归模型,令,则,这类变换本身不涉及模型参数，其参数估计就是原模型的参数估计二、非线性模型的间接代换（对数变换法）,1. 指数曲线模型,对数变换,再采用前述代换的形式建立线性模型如：著名的柯布——道格拉斯（Cobb—Douglas）生产函数就是其中一个典型。

2. 幂函数曲线回归模型,对数变换,令,原模型可化为线性形式,模型变换涉及参数，估计参数后要还原2 不可转换成线性的趋势模型,一、不可线性化模型,1、不可线性化模型：无论采取什么方式变换都不可 能实现线性化的模型2、常用的处理方法：一般采用高斯一牛顿迭代 法进行参数估计，即借助于泰勒级数展开式 进行逐次的线性近似估计二、迭代估计法,基本思路是：,1、通过泰勒级数展开使非线性方程在某一组初始参数 估计值附近线性化；,2、然后对这一线性方程应用OLS法，得出一组新的参 数估计值；,3、使非线性方程在新参数估计值附近线性化，对新 的线性方程再应用OLS法，又得出一组新的参数估 计值；,4、不断重复上述过程，直至参数估计值收敛时为止设有模型,,式中，k为自变量的个数，p为参数的个数，f 为 非线性函数利用泰勒级数展开式，将模型展开作线性逼近,一、将非线性函数 f 对系数 的给定初始值 展开为泰勒级数,,,,,取式右边的前二项，略去 f 展开式第三项及以后所有项，即高阶项，作非线性模型的线性近似对上式利用OLS估计出一组系数,重复对 作另一次泰勒级数展开，得到一新的线性近似，利用OLS估计出一组系数,,,,如此反复，得出一点列 使其收敛为止，即满足下述条件,,i=1,2,…, p,δ为一很小的值, δ小到何种程度,根据需要而定.,五、如第四步得的点列不收敛，这时再选一组新的 初始系数值，重新作逐次线性近似估计。

最后，需要说明非线性回归应注意的几个问题 第一，对非线性模型来说：首先，我们不能从回归 残差中得出随机项方差的无偏估计量其次，由于 非线性模型中的参数估计量同随机项不成线性关系， 所以它们不服从正态分布，其结果使得t检验和F检 验都不适用 第二，我们用上面的方法得出的样本回归方程，可以 用来预测未来某个时期的因变量值，其计算公式如下： 这里应该指出，由于已经不再是随机项的线性函 数，因此，已经不具备线性回归中估计值的最佳、线 性、无偏的性质，置信区间也无法构造了三、迭代估计法的Eviews软件实现,⒈ 设定代估参数的初始值，可采用以下两种方式：,（1）使用param命令命令格式为param 初始值1 初始值2 初始值3 ……,（2）在工作文件窗口双击序列C，并在序列窗口中直接输入参数的初始值（注意序列C中总是保留着刚建立模型的参数估计值，若不重新设定，系统自动将这些值作为参数的默认初始值）⒉ 估计非线性模型,（1）命令方式,在命令窗口直接键入:NLS 非线性函数表达式,例如，对于非线性模型 ，其估计命令格式为,NLS y=c(1)*k^c(2)*L^c(3),其中， c(1)、c(2)、c(3)表示待估计的三个参数A、 、 。

回车后，系统会自动给出迭代估计的参数估计值在数组窗口，点击Procs→Make Equation，在弹出的方程描述对话框中，输入非线性函数表达式：,（2）菜单方式,选择估计方法为最小二乘法后，点击OK按钮y=c(1)*k^c(2)*L^c(3),几点说明： （1）在方程描述对话框中，点击Option按钮，可以设置迭代估 计的最大迭代次数(Max Iteration)和误差精度(Convergence)，以便控制迭代估计的收敛过程 （2）利用NLS命令也可估计可划为线性的非线性回归模型例如 NLS y=c(1)+c(2)/x NLS y=c(1)+c(2)*ln(x) （3）迭代估计是一种近似估计，并且参数初始值和误差精度的设定不当还会直接影响模型的估计结果，甚至出现错误非线性回归模型参数估计的基本思想可以类似于线性估计，也是设法找到使,的一组参数值1、求偏导为零，得未知参数的非线性方程组，一 般用Newton 迭代法求解2、直接极小化残差平方和，求出未知参数的非线 性最小二乘估计3.3 非线性回归应用的几个问题,一、参数估计,注：,在非线性最小二乘法中，一些精确的分布式很难得到的，在大样本时，可以得到近似分布，因此可以得到近似的参数的区间估计，显著性检验等回归诊断。

3、将非线性模型转化为线性模型再采用最小二乘估计直接变换法、对数变换法、泰勒级数展开法等,常用的转化方法：,二、确定非线性模型形式的方法,非线性模型的形式复杂多样，如何根据实际的数据选择合适的模型时建模的关键,1、根据散点图来确定类型,2、根据一定得经济知识背景,如：商品的销售量与广告费用之间的关系S型曲线,三、模型的比较,1、首先应从经济学角度考虑，因为数据分析的目的是解释经济现象所以要重视经济学理论和行为规律提供的理由2、从统计分析角度来比较，最重要是残差分析如果残差平方和最小，并且看起来残差最随机，这样的模型应当选择3.4 预测实例,例：柯布——道格拉斯（Cobb—Douglas）生产函数,其中，Y为产出，K(资本)，L(劳动力)为两个投入要素是产出对资本投入的弹性系数为效率系数；,为K和L的产出弹性均为待估参数度量在劳动投入保持不变时，资本投入增加1%时，产出增加的百分比是产出对劳动投入的弹性系数度量在资本投入保持不变时，劳动投入增加1%时，产出增加的百分比表示规模报酬表示规模报酬递减，即1倍的投入带来少 于1倍的产出表示规模报酬不变，即1倍的投入带来 倍的产出表示规模报酬递增，即1倍的投入带来大 于1倍的产出。

对C-D生产函数，我们可以按两种形式设定随机误差项,（1）乘性误差项,（2）加性误差项,乘性误差项，可以线性化,两边取对数,线性形式,线性回归,,,加性误差项，不可以线性化,用非线性最小二乘法求解,参数估计,线性化方法：,非线性化方法,注：用非线性最小二乘法估计参数操作与普通最小二乘法基本相同，只是方程估计窗口或命令行中，模型必须以方程的形式出现，没有简化相形式Y 国内生产总值（GDP）(亿元)，K资金投入（亿元）包括固定资产投资和库存占用资金L就业总人数（万人）参数估计出现了差异，因为这两种方法分别采用乘性和加性误差形式，本质上是两个模型建模的过程见第三章试验具体软件操作,。