概率论与数理统计浙大四版 第七章 第七章2讲

1、第二节 估计量的评选标准 首先回忆上一节的内容，主要介绍了点估计的两种方法：矩估计和极大似然估计。矩估计的具体做法是：设总体的分布函数中含有设总体的分布函数中含有k个未知参数个未知参数 都是这都是这k个参数的函数个参数的函数,记为：记为：,那么它的前那么它的前k阶矩阶矩一般一般i=1,2,k从这从这k个方程中解出个方程中解出j=1,2,k那么用诸那么用诸 的估计量的估计量 Ai分别代替上式分别代替上式中的诸中的诸 ,即可得诸即可得诸 的矩估计量的矩估计量：j=1,2,k求极大似然估计的一般步骤是：求极大似然估计的一般步骤是：(1)由总体分布导出样本的联合概率函数由总体分布导出样本的联合概率函数 (或联合密度或联合密度);(2)把样本联合概率函数把样本联合概率函数(或联合密度或联合密度)中自变中自变 量看成已知常数量看成已知常数,而把参数而把参数 看作自变量看作自变量,得到得到似然函数似然函数L();(3)求似然函数求似然函数L()的最大值点的最大值点(常常转化常常转化 为求为求ln L()的最大值点的最大值点)，即，即 的的MLE;下面看上一节的例3：例例3 设设X1,X2,Xn是取自

2、总体是取自总体X的一个样本的一个样本其中其中 0,求求 的矩估计的矩估计.解得解得而 是极大似然估计。显然二者是不同的估计量。是极大似然估计。显然二者是不同的估计量。从例从例3可以看到可以看到,对于同一个参数对于同一个参数,用不同的估用不同的估计方法求出的估计量可能不相同计方法求出的估计量可能不相同.而且而且,很很明显明显,原那么上任何统计量都可以作为未知原那么上任何统计量都可以作为未知参数的估计量参数的估计量.(1)对于同一个参数究竟采用哪一个估计量好对于同一个参数究竟采用哪一个估计量好?(2)评价估计量的标准是什么评价估计量的标准是什么?在在介介绍绍估估计计量量的的评评选选标标准准之之前前，我我们们必须强调指出：必须强调指出：评价一个估计量的好坏，不能仅仅依评价一个估计量的好坏，不能仅仅依据一次试验的结果，而必须由屡次试验结据一次试验的结果，而必须由屡次试验结果来衡量果来衡量.这是因为估计量是样本的函数，是随机这是因为估计量是样本的函数，是随机变量变量.因此，由不同的观测结果，就会求得因此，由不同的观测结果，就会求得不同的参数估计值不同的参数估计值.因此一个好的估计，应因此一个好的

3、估计，应在屡次试验中表达出优良性在屡次试验中表达出优良性.常用的几条标准是：常用的几条标准是：1无偏性无偏性2有效性有效性3相合性相合性这里我们重点介绍前面两个标准这里我们重点介绍前面两个标准.估计量是随机变量，对于不同的样本值估计量是随机变量，对于不同的样本值会得到不同的估计值会得到不同的估计值.我们希望估计值在未我们希望估计值在未知参数真值附近摆动，而它的期望值等于未知参数真值附近摆动，而它的期望值等于未知参数的真值知参数的真值.这就导致无偏性这个标准这就导致无偏性这个标准.1无偏性无偏性则称则称 为为 的无偏估计的无偏估计.设设是未知参数是未知参数 的估计量，若的估计量，若 例例如如，用用样样本本均均值值作作为为总总体体均均值值的的估估计计时时，虽虽无无法法说说明明一一次次估估计计所所产产生生的的偏偏差差，但但这这种种偏偏差差随随机机地地在在0的的周周围围波波动动，对对同同一一统统计问题大量重复使用不会产生系统偏差计问题大量重复使用不会产生系统偏差.无偏性是对估计量的一个常见而重要的要求无偏性是对估计量的一个常见而重要的要求.无偏性的实际意义是指没有系统性的偏差无偏性的实际意义是

4、指没有系统性的偏差.证证例例1特别的特别的:不管总体不管总体 X 服从什么分布服从什么分布,只要它的数学期望存在只要它的数学期望存在,证证例例2(这种方法称为这种方法称为无偏化无偏化).证证例例3所以无偏估计以方差小者为好所以无偏估计以方差小者为好,这就引进了这就引进了有效性这一概念有效性这一概念.的大小来决定二者的大小来决定二者和和一个参数往往有不止一个无偏估计一个参数往往有不止一个无偏估计,若若 和和都是参数都是参数 的无偏估计量，的无偏估计量，比较比较我们可以我们可以谁更优谁更优.由于由于2有效性有效性D()D()则称则称 较较 有效有效.都是参数都是参数 的无偏估计量，若有的无偏估计量，若有设设和和证明证明例例4 (续例续例3)3、相合性 这一讲，我们介绍了参数点估计，讨论了这一讲，我们介绍了参数点估计，讨论了估计量的优良性准那么估计量的优良性准那么.参数点估计是用一个确定的值去估计未参数点估计是用一个确定的值去估计未知的参数知的参数.看来似乎精确，实际上把握不大看来似乎精确，实际上把握不大.为了使估计的结论更可信，需要引入区间估计为了使估计的结论更可信，需要引入区间估计.这是

5、下一讲的内容这是下一讲的内容.当总体为正态分布时，教材上给出了当总体为正态分布时，教材上给出了几个重要的抽样分布定理几个重要的抽样分布定理.这里我们不加这里我们不加证明地表达证明地表达.除定理除定理2外，其它几个定理外，其它几个定理的证明都可以在教材上找到的证明都可以在教材上找到.四、几个重要的抽样分布定理四、几个重要的抽样分布定理 定理定理 1 (样本均值的分布样本均值的分布)设设X1,X2,Xn是取自正态总体是取自正态总体的样本，则有的样本，则有n取不同值时样本均值取不同值时样本均值 的分布的分布解解例例3查标准正态分布表知查标准正态分布表知 定理定理 2 (样本方差的分布样本方差的分布)设设X1,X2,Xn是取自正态总体是取自正态总体的样本的样本,分别为样本均值和样本方差分别为样本均值和样本方差,则有则有n取不同值时取不同值时 的分布的分布 定理定理 3 设设X1,X2,Xn是取自正态总体是取自正态总体的样本的样本,分别为样本均值和样本方差分别为样本均值和样本方差,则有则有 定理定理 4(两总体两总体样本样本均值差的分布均值差的分布)分别是这两个样本的分别是这两个样本的且且X与与

6、Y独立独立,X1,X2,是取自是取自X的样本的样本,取自取自Y的样本的样本,分别是这两个样本的样本方差分别是这两个样本的样本方差,均值均值,则有则有Y1,Y2,是是样本样本 定理定理 5(两总体两总体样本样本方差比的分布方差比的分布)分别是这两个样本的分别是这两个样本的且且X与与Y独立独立,X1,X2,是取自是取自X的样本的样本,取自取自Y的样本的样本,分别是这两个样本的样本方差分别是这两个样本的样本方差,均值，均值，则有则有Y1,Y2,是是样本样本上述上述5个抽样分布定理很重要，个抽样分布定理很重要，要牢固掌握要牢固掌握.练习哪个更有效哪个更有效哥色特哥色特 与t分布 哥色特，其笔名哥色特，其笔名Student比他的真名更为人所知比他的真名更为人所知.奈曼曾指出，许多统计学家在哥色特于奈曼曾指出，许多统计学家在哥色特于1937年去年去世后，尚不知他就是世后，尚不知他就是Student,哥色特哥色特1876年出生于年出生于坎特伯雷坎特伯雷.他曾在温彻斯特大学和牛津大学就读他曾在温彻斯特大学和牛津大学就读.1899年作为一名酿酒师进入爱尔兰的都柏林一家年作为一名酿酒师进入爱尔兰的都柏林一

7、家啤酒厂工作，在那里他涉及到有关酿造过程的数啤酒厂工作，在那里他涉及到有关酿造过程的数据处理问题据处理问题.。1906到到1907年他有年他有1年的时间去皮尔逊那里学习和年的时间去皮尔逊那里学习和研究统计学。研究统计学。他着重关心的是由人为试验下所得他着重关心的是由人为试验下所得的少量数据的统计分析问题，在当时这是一个全的少量数据的统计分析问题，在当时这是一个全新的课题，新的课题，因为如前面曾指出的，当时统计学中占主导地位因为如前面曾指出的，当时统计学中占主导地位的卡尔的卡尔皮尔逊学派强调的是由自然观察得来的大皮尔逊学派强调的是由自然观察得来的大量数据的统计处理。这一研究的成果，就是那篇量数据的统计处理。这一研究的成果，就是那篇使他名垂统计史册的论文使他名垂统计史册的论文?均值的或然误差均值的或然误差?，发，发表于表于1908年的年的?生物计量生物计量?杂志上。而这一思想的杂志上。而这一思想的中心就是从正态分布的数据中抽取样本，总体标中心就是从正态分布的数据中抽取样本，总体标准差未知的情况下，由样本标准差代替，标准化准差未知的情况下，由样本标准差代替，标准化变量并不服从正态分布，而是服从变量并不服从正态分布，而是服从n1自由度的自由度的t分布，分布，t分布也是一种对称分布，只有一个参数就分布也是一种对称分布，只有一个参数就是样本含量是样本含量N，随之，随之n的增大经趋向正态分布。的增大经趋向正态分布。他首次将小样本理论提到日程，随着小样本他首次将小样本理论提到日程，随着小样本理论的进度，其重要意义日益为统计学界理论的进度，其重要意义日益为统计学界所理解，特别是所理解，特别是t分布的意义，因为这个分分布的意义，因为这个分布以后屡次出现在一些重要统计量分布的布以后屡次出现在一些重要统计量分布的结果中，于是结果中，于是Student这一结果的行情逐日这一结果的行情逐日看涨，导致后来统计界将他尊为小样本理看涨，导致后来统计界将他尊为小样本理论的开创者和鼻祖论的开创者和鼻祖.从从Student的工作意义和的工作意义和对以后数理统计学开展所起的影响来看，对以后数理统计学开展所起的影响来看，应该说他对这一评价是当之无愧的应该说他对这一评价是当之无愧的.

《概率论与数理统计浙大四版 第七章 第七章2讲》由会员资****亨分享，可在线阅读，更多相关《概率论与数理统计浙大四版 第七章 第七章2讲》请在金锄头文库上搜索。