医学统计学多重线性回归

多重多重线线性回性回归归概述概述参数参数估估 计计假假设设检检 验验变变量量筛筛 选选模型模型评评 价价应应用用注意注意事事 项项演示演示多重多重线线性回性回归归是直是直线线回回归归的的扩扩展和延伸，其基本原理和直展和延伸，其基本原理和直线线回回归归相同。相同。案例案例 讨论讨论概述概述参数参数估估计计假假设设检检 验验变变量量 筛选筛选模型模型 评评价价应应用用注意注意 事事项项演示演示模型概述：数据模型概述：数据库库格式格式案例案例 讨论讨论概述概述参数参数估估计计假假设设 检验检验变变量量 筛选筛选模型模型 评评价价应应用用注意注意事事 项项演示演示模型概述：模型基本模型概述：模型基本结结构构 bj xjy b0 b1x1 b2 x2 yhat：因因变变量量y的的估估计计值值；b0：常数：常数项项，是是 0的估的估计计，表表示示当当所有所有自自变变量量为为0时时反反应应变变量量y的的估估计值计值；bj：是是 j的的估估计计值值，自自变变量量xj的的偏偏回回归归系系数数（partial regression coefficient），表表示示当当方方程程中中其其他他自自变变量量保保持持不不变变时时，自自变变量量xj变变化化一一个个单单位位，因因变变量量y平平均均 变变化的化的单单位数位数。y 48.011.59time 0.12IQ 1.37gender案例案例 讨论讨论概述概述参数参数估估计计假假设设 检验检验变变量量 筛选筛选模型模型评评 价价应应用用注意注意 事事项项演示演示模型求解：最小二乘法模型求解：最小二乘法基本原理：基本原理：利利用用观观察察或或收收集集到到的的因因变变量量和和自自变变量量的的一一组组数数据据建建立立一一个个因因变变量量关关于于 自自变变量量的的线线性性函函数数模模型型，使使得得这这个个模模型型的的估估计计值值和和观观察察值值之之间间的的离离差差 平方和尽可能地小，即残差平方和最平方和尽可能地小，即残差平方和最小小。SPSS案例案例 讨论讨论概述概述参数参数估估计计假假设设 检验检验 变变量量 筛选筛选模型求解：最小二乘法模型求解：最小二乘法ModelBStd.ErrorBetatSig.Lower BoundUpper Bound1(Constant)48.0126.673 7.195.00034.76561.258time spent studying1.590.093.85117.017.0001.4041.775IQ.120.065.0941.852.067-.009.248gender1.373.899.0751.526.130-.4123.158案例案例 讨论讨论CoefficientsaUnstandardized CoefficientsStandardized Coefficients95.0%Confidence Interval for B模型模型 评评价价应应用用注意注意事事 项项a.Dependent Variable:score演示演示概述概述参数参数估估计计假假设设 检验检验变变量量 筛选筛选模型模型评评 价价应应用用注意注意 事事项项演示演示假假设检验设检验1：回：回归归模型的假模型的假设检验设检验ANOVAaModelSum ofSquaresdfMeanSquareFSig.6303.41731846.423968149.84099a.Dependent Variable:scoreb.Predictors:(Constant),gender,time spent studying,IQP0.001，拒拒绝绝H0，接受接受H1，说说明从整明从整体体上而上而言言，用用3个自个自变变量量构成构成的的1RegressionSS回回归归 回回归归2101.139109.243.000bResidualSS 残差残差19.234Total残差残差SS总总 总总 FM S回回归归/MS残残回回归归方程解方程解释释成成绩绩的的变变化是有化是有统计统计学意学意义义的的。案例案例讨讨 论论差差概述概述参数参数估估计计假假设设 检验检验变变量量 筛选筛选模型模型 评评价价应应用用注意注意事事 项项演示演示案例案例 讨论讨论假假设检验设检验2：偏回：偏回归归系数的假系数的假设检验设检验CoefficientsaUnstandardized CoefficientsStandardized Coefficients95.0%Confidence Interval for BModelBStd.ErrorBetatSig.Lower BoundUpper Bound1(Constant)48.0126.673 7.195.00034.765 61.258time spent studying1.590.093.85117.017.0001.4041.775IQ.120.065.0941.852.067-.009.248gender1.373.899.0751.526.130-.4123.158a.Dependent Variable:score=1.590=17.017bibitS0.093bi概述概述参数参数估估计计案例案例讨讨 论论假假设设 检验检验变变量量 筛选筛选模型模型 评评价价应应用用注意注意 事事项项演示演示自自变变量量筛选筛选常用方法常用方法所有可能自所有可能自变变量子集量子集选择选择（最（最优优子集回子集回归归）Forward：前前进进法法Backward：后退法后退法Stepwise：逐步回逐步回归归法法无无论论采用采用何何种种选择选择自自变变量的方量的方法法，都需要都需要对对不不同的自同的自变变量量子集子集进进行行比比较较，计计算量很算量很大大。借助借助统计软统计软件件概述概述参数参数估估计计案例案例讨讨 论论假假设设 检验检验变变量量 筛选筛选模型模型 评评价价应应用用注意注意 事事项项演示演示 所有可能自所有可能自变变量子集量子集选择选择p个个变变量，所有可能的自量，所有可能的自变变量子集有量子集有2p个。个。根据某种根据某种变变量的量的选择选择准准则则，通，通过过比比较较各子集符合准各子集符合准则则的程的程度度，从中，从中选选 择择出一个或几个最出一个或几个最优优的回的回归归，称，称为为“最最优优子集回子集回归归”。仅仅适合于自适合于自变变量个数不太多的情量个数不太多的情况。况。概述概述参数参数估估计计案例案例讨讨 论论假假设设 检验检验变变量量 筛选筛选模型模型 评评价价应应用用注意注意事事 项项演示演示 Forward：向前向前选择选择法法从从仅仅含含常常数数项项的的模模型型开开始始，首首先先对对每每个个变变量量计计算算反反映映其其进进入入模模型型后后该该变变量量 对对新新模模型型贡贡献献量量的的F值值，然然后后将将最最大大F统统计计量量与与预预先先指指定定的的临临界界值值Fin比比较较，如如果果FFin，程程序序停停止止，否否则则将将其其最最大大F值值所所对对应应的的自自变变量量引引入入模模型型；然然后后 在在此此基基础础上上，重重复复以以上上过过程程；如如此此反反复复，每每次次增增加加一一个个变变量量到到模模型型中中，直直 到剩下的到剩下的变变量中无一个能使量中无一个能使其其F值值大于大于Fin为为止止。局局限限性性：不：不一一定定能能保保证证“最最优优”（后后续续变变量的量的引引入入会会使得使得先先进进入入方程方程的的自自 变变量量变变得不重要）。得不重要）。概述概述参数参数估估计计案例案例讨讨 论论假假设设检检 验验变变量量 筛选筛选模型模型 评评价价应应用用注意注意 事事项项演示演示 Backward：向后剔除法向后剔除法首首先先建建立立包包含含所所有有p个个自自变变量量的的全全模模型型，然然后后逐逐个个计计算算出出剔剔除除某某一一变变量量后后仅仅包包含含p-1 个个自自变变量量的的p个个模模型型，同同时时计计算算剔剔除除变变量量后后所所致致残残差差平平方方和和增增量量的的F值值，然然后后将将p个个 F值值的的最最小小值值与与预预先先指指定定的的剔剔除除临临界界Fout相相比比较较，若若最最小小的的FFout，则则将将最最小小F值值所所 对对应应的的自自变变量量从从模模型型中中剔剔除除；然然后后在在选选中中的的含含p-1个个自自变变量量的的模模型型基基础础上上，重重复复以以 上上剔剔除除自自变变量量的的计计算算、比比较较、剔剔除除过过程程。每每次次循循环环剔剔除除一一个个对对模模型型贡贡献献最最可可忽忽略略的的 变变量。如此反复，直到量。如此反复，直到再再没有没有任任何何变变量量的的F值值低低于于Fout为为止止。特特点点：考考虑虑了了自自变变量量的的组组合合作作用用，选选中中的的自自变变量量数数目目一一般般会会比比前前进进法法多多；当当自自变变量量 数数目目较较多多或或某某些些自自变变量量高高度度相相关关时时，可可能能得得不不出出正正确确的的结结果果，前前进进法法可可以以自自动动去去掉掉 高度相关的自高度相关的自变变量量。概述概述参数参数估估计计案例案例讨讨 论论假假设设 检验检验变变量量 筛选筛选模型模型 评评价价应应用用注意注意 事事项项演示演示 逐步逐步选择选择法法是是在在前前述述两两种种方方法法基基础础上上进进行行双双向向筛筛选选的的过过程程，本本质质上上前前进进法法。即即在在 逐逐步步选选择择的的过过程程中中，把把经经F检检验验有有意意义义的的变变量量引引入入方方程程后后，又又在在对对已已 在在方方程程中中的的自自变变量量进进行行一一次次关关于于剔剔除除的的F检检验验，保保留留有有统统计计学学意意义义的的 变变量量，而而剔剔除除无无统统计计学学意意义义的的变变量量。反反复复进进行行引引入入、剔剔除除过过程程，直直到到 既没有既没有变变量被引入，也没有量被引入，也没有变变量被剔除量被剔除为为止。止。是是选择变选择变量的有效方量的有效方法法。概述概述参数参数估估计计案例案例讨讨 论论假假设设检检 验验变变量量 筛选筛选模型模型 评评价价应应用用注意注意 事事项项演示演示自自变变量量筛选筛选常用方法常用方法前前进进法、后退法、逐步法、后退法、逐步选择选择法的法的侧侧重点不同。重点不同。当自当自变变量之量之间间不存在不存在简单线简单线性相关关系性相关关系时时，三种方法，三种方法计计算算结结果是一致果是一致的。的。当当自自变变量量之之间间存存在在简简单单线线性性相相关关关关系系时时，前前进进法法侧侧重重于于向向模模型型中中引引入入 单单独独作作用用较较强强的的变变量量，后后退退法法侧侧重重于于引引入入联联合合作作用用较较强强的的变变量量，逐逐步步 回回归归法法则则介于两者之介于两者之间间。注意：剔除注意：剔除变变量的量的标标准准（0.1）应应大于或等于引入大于或等于引入变变量的量的标标准准（0.05）概述概述参数参数估估 计计假假设设检检 验验变变量量 筛选筛选模型模型 评评价价应应用用注意注意 事事项项演示演示案例案例讨讨 论论Coefficientsa.047.701.099胰岛素-.339-2.229.036糖化血红蛋白.638.243.3982.623.016(Constant)总胆固醇 甘油三酯Model1BStd.ErrorUnstandardized CoefficientsStandardized CoefficientsBetatSig.a.Dependent Vari able:血 糖y 6.500 0.402x2 0.287x3 0.663x42(Constant)6.5002.3962.713.012甘油三酯.402.154.3542.612.016胰岛素-.287.112-.360-2.570.017糖化血红蛋白.663.230.4132.880.008问问5.94题题3：各：各自自2.82变变9量量对对因因变变量的量的影影2.1响响01比比较较？.偏偏078 回回归归系系.数数390 代表代表其