参数估计-3 理论讲义

周 圣 武,数理统计,Tel: 13852138385 E-mail: zswcumt163.com,中国矿业大学 理学院,常用的估计量评价标准：,1无偏性,2有效性,3相合性,本节重点介绍前面两个标准 .,§3.3 估计的评选标准,对同一个参数，用不同的估计方法求出的估,计量可能不相同，采用哪一个估计量好呢?,而它的期望值等于未知参数的真值.,1无偏性,估计量是随机变量，,对于不同的样本值会得到不同的,估计值 .,我们希望估计值在未知参数真值附近摆动，,这就导致无偏性这个标准 .,定义1 设 是未知参数的估计量,存在，且对任意的，有,则称 为的无偏估计。,无偏性的实际意义是指没有系统偏差,例如 设总体X的数学期望为方差为2 ，,是X的样本，求证,均为的无偏估计。,为2 的无偏估计量。,一个未知数可以有不同的无偏估计量。,解,例1,例2 设,是总体,的样本.,使,为,的无偏估计量。,求,故当,时,解,的大小来决定二者谁更优。,和,一个参数往往有不止一个无偏估计, 若,和,都是参数 的无偏估计量，,我们通过可以比较,由于,2. 有效性,定义2 设,都是参数的无偏估计量，若有,则称 有效。,例3,设 X1, X2, , Xn 是取自总体 X 的一个样本, 问那个估计量最有效?,解 设,由于,因为,例4 （1）求均匀总体U(0, )中 的矩估计量1和最大似然估计量2 ； （2）判断1和2 是否为 的无偏估计量，请对其中不具有无偏性的估计量进行无偏修正* ； （3）判断上述无偏估计量中哪个最有效。,答案,定义3 设,则称 的相合估计量或一致估计量。,为参数的估计量，,3.一致性,例5 设 X1, X2, , Xn 是取自总体 X 的一个样本, 证明样本均值是总体均值的一致估计量。,例6 设 X1, X2, , Xn 是总体 XU(0,) 的一个样本, 证明Y=maxX1, X2, , Xn是的一致估计量。,4.最小方差无偏估计,定义:,Problem：,无偏估计的方差是否可以任意小? 如果不能任意小,那么它的下界是什么?,（1） Fisher信息量,5.罗-克拉美（CramerRao ）不等式,(1)是实数轴上的一个开区间;,设总体X 的概率函数为f(x; ),且满足条件:,正则条件,注：,I() 的另一表达式为,设总体X 的概率函数为f(x ; ), 满足上面定义条件；x1,.,xn 是来自总体X的一个样本, T(x1,.,xn ) 是g( )的一个无偏估计.,定理 (Cramer-Rao不等式):,的微分可在积分号下进行，即,则有,上述不等式的右端称为C-R下界, I() 为Fisher信息量.,特别，对的无偏估计有,注:,(1) 定理对离散型总体也适用.只需改积分号为求和号。,(2) 在定理条件下, 若g( ) 的无偏估计量T 的方差D(T),达到下界, 则T必为g( ) 的最小方差无偏估计. 但是它不一定存在, 也就是说, C-R不等式有时给出的下界过小.,6.有效估计,定义,求证T是g()的有效估计的步骤:,例1 设总体 X的概率密度为,为 X 的一个样本值.,求 的最大似然估计量, 并判断它是否为达到方差下界的无偏估计,即有效估计.,解 由似然函数,经检验知 的最大似然估计量为,所以它是 的无偏估计量, 且,而,故 是达到方差下界的无偏估计.,所以,C-R下界为,因此,=的C-R下界为,是的有效估计,因此,解： 为无偏估计, 现求的C-R下界,由于,解 由于,所以2的C-R下界为,由于,所以,= 2的C-R下界为,注： S2为2 的渐近有效估计.,练 习,P 68：10，11，12，13，14,