郑州大学概率论与数理统计课程 第8章 方差分析与回归分析

第八章第八章 方差分析与回归分析方差分析与回归分析郑州郑州大学大学* *第第1 1页页第八章第八章 方差分析与回归分析方差分析与回归分析§8.1 方差分析 §8.2 多重比较 §8.3 方差齐性分析 §8.4 一元线性回归 §8.5 一元非线性回归 第八章第八章 方差分析与回归分析方差分析与回归分析郑州郑州大学大学* *第第2 2页页§8.1§8.1 方差分析方差分析8.1.1 问题的提出实际工作中我们经常碰到多个正态总体均值的比较问题，处理这类问题通常采 用所谓的方差分析方法。 第八章第八章 方差分析与回归分析方差分析与回归分析郑州郑州大学大学* *第第3 3页页例8.1.1 在饲料养鸡增肥的研究中，某研究 所提出三种饲料配方：A1是以鱼粉为主的 饲料，A2是以槐树粉为主的饲料，A3是以苜蓿粉为主的饲料。为比较三种饲料的效 果，特选 24 只相似的雏鸡随机均分为三 组，每组各喂一种饲料，60天后观察它们的重量。试验结果如下表所示： 第八章第八章 方差分析与回归分析方差分析与回归分析郑州郑州大学大学* *第第4 4页页表表8.1.18.1.1 鸡饲料试验数据鸡饲料试验数据饲料A鸡 重（克）A110731009106010011002101210091028A21107109299011091090107411221001A310931029108010211022103210291048第八章第八章 方差分析与回归分析方差分析与回归分析郑州郑州大学大学* *第第5 5页页本例中，我们要比较的是三种饲料对鸡的增肥 作用是否相同。为此，把饲料称为因子，记为A ，三种不同的配方称为因子A的三个水平，记为 A1, A2, A3，使用配方Ai下第 j 只鸡60天后的重量 用yij表示，i=1, 2, 3, j=1, 2, 10。我们的目的是比较三种饲料配方下鸡的平均重量是否相等 ，为此，需要做一些基本假定，把所研究的问 题归结为一个统计问题，然后用方差分析的方 法进行解决。 第八章第八章 方差分析与回归分析方差分析与回归分析郑州郑州大学大学* *第第6 6页页8.1.28.1.2 单因子方差分析的统计模型单因子方差分析的统计模型 在例8.1.1中我们只考察了一个因子，称其为单因子试验。通常，在单因子试验中，记因子为 A, 设其 有r个水平，记为A1, A2, Ar，在每一水平 下考察的指标可以看成一个总体 ，现有 r 个水平，故有 r 个总体， 假定：第八章第八章 方差分析与回归分析方差分析与回归分析郑州郑州大学大学* *第第7 7页页1)每一总体均为正态总体，记为 N(i , i 2)， i1, 2, r ；2)各总体的方差相同: 1 2= 22= r2 = 2 ；3)从每一总体中抽取的样本是相互独立的， 即所有的试验结果 yij 都相互独立。 第八章第八章 方差分析与回归分析方差分析与回归分析郑州郑州大学大学* *第第8 8页页我们要比较各水平下的均值是否相同,即要对如下的一个假设进行检验: H0 ：1 =2 =r （8.1.1）备择假设为 H1 ：1, 2, , r 不全相等在不会引起误解的情况下， H1 通常可省略不写。如果H0成立，因子A的r个水平均值相同，称因子A的r 个水平间没有显著差异，简称因子A不显著；反之， 当H0不成立时，因子A的r个水平均值不全相同，这时 称因子A的不同水平间有显著差异，简称因子A显著。 第八章第八章 方差分析与回归分析方差分析与回归分析郑州郑州大学大学* *第第9 9页页为对假设（8.1.1）进行检验，需要从每一水 平下的总体抽取样本，设从第i个水平下的总 体获得m个试验结果，记 yij 表示第i个总体的 第j次重复试验结果。共得如下n=rm个试验结果： yij， i1, 2, r ， j1, 2, , m, 其中r为水平数，m为重复数，i为水平编号， j 为重复编号。 第八章第八章 方差分析与回归分析方差分析与回归分析郑州郑州大学大学* *第第1010页页在水平Ai下的试验结果yij与该水平下的指标均值 i 一般总是有差距的，记 ij = yiji，ij 称为随机误差。于是有yij = i +ij （8.1.2）（8.1.2）式称为试验结果 yij 的数据结构式。 第八章第八章 方差分析与回归分析方差分析与回归分析郑州郑州大学大学* *第第1111页页单因子方差分析的统计模型：（8.1.3）总均值与效应:称诸 i 的平均 为总均值 . 称第 i 水平下的均值 i 与总均值 的差: ai=i - 为 Ai 的效应。 第八章第八章 方差分析与回归分析方差分析与回归分析郑州郑州大学大学* *第第1212页页模型（8.1.3）可以改写为(8.1.8)假设（8.1.1）可改写为H0 ：a1 =a2 =ar =0 （8.1.9） 第八章第八章 方差分析与回归分析方差分析与回归分析郑州郑州大学大学* *第第1313页页8.1.38.1.3 平方和分解平方和分解一、试验数据通常在单因子方差分析中可将试验数据列成 如下页表格形式。表8.1.2中的最后二列的和与平均的含义如 下：第八章第八章 方差分析与回归分析方差分析与回归分析郑州郑州大学大学* *第第1414页页表表8.1.28.1.2 单因子方差分析试验数据单因子方差分析试验数据因子水平 试 验 数 据 和 平均 A1y11 y12 y1m T1A2y21 y22 y2mT2Aryr1 yr2 yrmTrT第八章第八章 方差分析与回归分析方差分析与回归分析郑州郑州大学大学* *第第1515页页数据间是有差异的。数据yij与总平均 间 的偏差可用yij 表示，它可分解为二个偏差之和（8.1.10）记二、组内偏差与组间偏差第八章第八章 方差分析与回归分析方差分析与回归分析郑州郑州大学大学* *第第1616页页由于（8.1.11）所以yij - 仅反映组内数据与组内平均的随机误差，称为组内偏差；而（8.1.12）除了反映随机误差外，还反映了第i个水平的效应，称为组间偏差。第八章第八章 方差分析与回归分析方差分析与回归分析郑州郑州大学大学* *第第1717页页Ø在统计学中，把k个数据y1 , y2 , , yk分别对其均 值 =(y1+ + yk )/k 的偏差平方和称为k个数据的偏差平方和，它常用来度量若干个数据分散的程度。三、偏差平方和及其自由度第八章第八章 方差分析与回归分析方差分析与回归分析郑州郑州大学大学* *第第1818页页Ø在构成偏差平方和Q的k个偏差y1 , , yk 间 有一个恒等式 ，这说明在Q中独立 的偏差只有k1个。Ø在统计学中把平方和中独立偏差个数称为该平 方和的自由度，常记为f，如Q的自由度为 fQ=k1。自由度是偏差平方和的一个重要参数 。 第八章第八章 方差分析与回归分析方差分析与回归分析郑州郑州大学大学* *第第1919页页Ø各yij间总的差异大小可用总偏差平方和表示，其自由度为 fT=n1； 四、总平方和分解公式Ø 仅由随机误差引起的数据间的差异可以用 组内偏差平方和 表示，也称为误差偏差平方和，其自由度为 fe=nr ；第八章第八章 方差分析与回归分析方差分析与回归分析郑州郑州大学大学* *第第2020页页Ø由于组间差异除了随机误差外，还反映了效应间的差异，故由效应不同引起的数据差异可用组间偏差平方和 表示，也称为因子A的偏差平方和，其自由度为 fA=r1； 第八章第八章 方差分析与回归分析方差分析与回归分析郑州郑州大学大学* *第第2121页页定理8.1.1 在上述符号下，总平方和ST可以 分解为因子平方和SA与误差平方和Se之和，其自由度也有相应分解公式，具体为：ST =SA +Se , fT =fA +fe （8.1.16）（8.1.16）式通常称为总平方和分解式。 第八章第八章 方差分析与回归分析方差分析与回归分析郑州郑州大学大学* *第第2222页页偏差平方和Q的大小与自由度有关，为了便于在偏差平方和间进行比较，统计上引入了均方和 的概念，它定义为MS=Q/fQ ，其意为平均每个自由度上有多少平方和，它比较好地度量了一 组数据的离散程度。如今要对因子平方和 SA 与误差平方和 Se 之间进 行比较，用其均方和 MSA= SA /fA ， MSe= Se /fe 进行比较更为合理，故可用 作为 检验H0的统计量。8.1.4 检验方法第八章第八章 方差分析与回归分析方差分析与回归分析郑州郑州大学大学* *第第2323页页定理8.1.2 在单因子方差分析模型 (8.1.8) 及前述符号下，有(1) Se / 2 2(nr) ，从而E(Se ) (nr) 2 ，进一步，若H0成 立，则有SA/ 2 2(r1) (2) SA与Se独立。 第八章第八章 方差分析与回归分析方差分析与回归分析郑州郑州大学大学* *第第2424页页, 若成立，则SSE与 独立第八章第八章 方差分析与回归分析方差分析与回归分析郑州郑州大学大学* *第第2525页页第八章第八章 方差分析与回归分析方差分析与回归分析郑州郑州大学大学* *第第2626页页由定理8.1.2，若H0成立，则检验统计量F服从自由度 为fA和fe的F分布，因此拒绝域为W=FF1 (fA ,fe)，通常将上述计算过程列成一张表格，称为方差分析 表。 表8.1.3 单因子方差分析表来源平方和 自由度均方和F比因子SAfA=r1MSA= SA/fAF MSA/ MSe误差Sefe=nrMSe= Se/fe总和STfT=n1第八章第八章 方差分析与回归分析方差分析与回归分析郑州郑州大学大学* *第第2727页页对给定的，可作如下判断：Ø 若F F1 (fA ,fe) ，则说明因子A不显著。该检验的p值也可利用统计软件求出，若 以Y记服从F(fA ,fe)的随机变量，则检验的p 值为 p=P(YF)。Ø 如果 F >F1 (fA ,fe)，则认为因子A显著；第八章第八章 方差分析与回归分析方差分析与回归分析郑州郑州大学大学* *第第2828页页常用的各偏差平方和的计算公式如下：（8.1.19）一般可将计算过程列表进行。 第八章第八章 方差分析与回归分析方差分析与回归分析郑州郑州大学大学* *第第2929页页例8.1.2 采用例8.1.1的数据，将原始数据减去1000，列表给出计算过程：表8.1.4 例8.1.2的计算表水 平数据（原始数据-1000）TiTi2A173 96012129281943763610024A210792-101099074122158534222560355A393 2980212232294835412531620984113350517791363第八章第八章 方差分析与回归分析方差分析与回归分析郑州郑州大学大