点估计.ppt

参数的点估计,一 、 参数的点估计 设总体X的分布函数的形式为已知,但它的一个或多 个参数为未知,借助于总体X的一个样本来估计总体未知 参数的值的问题称为参数的点估计问题. 例1 在某炸药制造厂，一天中发生着火现象的次数 Ｘ是一个随机变量,假设它服从以0为参数的泊松分布 ，参数为未知设有以下的样本值，试估计参数 着火次数k 0 1 2 3 4 5 6 发生K次着火的天数nk 75 90 54 22 6 2 1 =250,,解 由于X()故有=E(X).我们自然想到用样本 均值来估计总体的均值E(X).现由已知数据计算得到,得估计 E(X) =的估计值为1.22 点估计问题的一般提法：设总体X的分布函数F(X;) 的形式为已知,为待估参数X1 ,X2 ,. . ., Xn是X的一个样 本， x1 ,x2 ,. . .,xn是相应的一个样本值. 点估计问题就是要 构造一个适当的统计量 (X1 , X2 , . . . , Xn), 用它的观察值 (x1 ,x2 , . . . ,xn)来估计未知参数, 我们称 (X1 ,X2 ,.,Xn)为 的估计量， (x1 ,x2 , . . . ,xn)为的估计值.在不致混淆的情 况下统称估计量和估计值为估计。

并都简记为 如在例1中，用样本均值估计总体均值即有估计量,估计值,二、 矩估计法 设X为连续型随机变量, 其概率密度为f(x;1, 2 , .,k),或X为离散型随机变量, 其分布规律为PX = x = p(x;1 ,2 ,…,k)其中1,2,…,k为待估参数,X1 , X2 , . . ., Xn是来自X的样本, 假设总体X的前 k 阶距,(X连续型),或,(X离散型),l = 1 , 2 , · · · , k (其中R(x)是x可能取值的范围)存在. 一般来说, 它们是1, 2 ,.,k的函数基于样本矩,依概率收敛于总体矩 l ( l = 1 , 2 , · · · , k)样本矩的连续函 数依概率收敛于相应的总体矩函数，故用样本矩作为总 体矩的估计量，而以样本矩的连续函数作为相应的总体 矩的连续函数的估计量，这种方法称为矩估计法，具体,作法是：令 l = Al ， l = 1 , 2 , · · · , k 这是包含k个未知参数1,2,.,k,的联立方程组， 用解 1, 2,…, k作为估计量,这种估计量称为矩估计量。

矩估计量的观察值称为矩估计值例2 设总体X在[a ,b]上服从均匀分布, a, b未知. X1, X 2, . . ., Xn是一个样本,试求a ,b的矩估计值令,解上述联立方程组，得到a，b的矩估计量为,例3 设总体X的均值m及方差s2都存在，且有s2 0. 但m, s2均未知又设X1, X2 , ···· , Xn是一个样本试求 m,s2的矩估计量或即,解 m1=E(X)=m, m2=E(X2)=D(X)+[E(X)]2 =s2+m2, 令 m= A1 , s2+m2=A2 . 解上述方程组，得m和s2的矩估计量分别为,所得结果表明，总体均值与方差的矩估计量的表达式不因 不同的总体分布而异 例如，X~N(m,s2), m, s2未知，即得m, s2的矩估计量为,三 、 极大似然估计法 例 1 某学员与一位神枪手一同进行实弹射击,各打 一发,同一靶,仅中一发,试问认为这一发是谁打中较合理？ 例 2 假设在一罐中放有许多白球和黑球，并知两种球的数目之比是1:3; 但不知那种球的颜色多. (现抽一球,为黑的概率可能是3/4，也可能是1/4)今连抽两球，全为黑球。

问袋中黑球多还是白球多？ 解 直观上可以回答现以概率的角度考虑设抽 一球为黑球的概率为p，抽n个而出现x个黑球的概率服,从b(n, p).,这就是说，罐中黑球多时，出现两个全黑的的概率 比白球多时出现两个全黑的概率大的多,或说使n=2的样 本来自p=1/4的总体的可能性大的多用到“概率最大的,事情最可能出现”原理, 从参数角度，对总体p有,供选择者较多，自然选最大者作p的估计，此方法称为极 大似然估计法设X为离散型, 分布律为P{X=x}=p{x;q},(连续型, 其 概率密度f(x,q)), qQ的形式已知,q为待估参数，Q是q 可能取值的范围设X1, X2 , ···· , Xn是来自X的样本，则 X1, X2 , ···· , Xn的分布律(联合密度)为,易知样本X1, X2 , ···· , Xn取到观察值x1, x2 , ···· , xn的概率 即事件{X1,= x1 , X2 ,=x2, ···· , Xn=xn}发生的概率,这一概率随q的取值而变化，它是q的函数 L(q)称为样本的似然函数,由Fisher引进的极大似然估计法，就是固定样本观察值x1, x2 , ···· , xn，在q 的可能取值的范围Q内 挑选使概率L(x1, x2 , ···· , xn; q)达到最大的参数值q，作为参数q的估计值 。

即取q使,若总体X为连续型，设x1, x2 , ···· , xn是相应于样本X1, X2 , ···· , Xn的一个样本值, 则随机点(X1, X2 , ···· , Xn)近似地落在点(x1, x2 ,···· ,xn)的邻域(边长为dx1, dx2 , ···· , dxn的n维立方体)内的概率近似为,这样得到的q 与样本观察值x1, x2 , ···· , xn有关，记作,称为参数q的极大似然估计值，称统计量,类似，引入函数,为q的极大似然估计量则L(q)称为样本的似然函数若,为q的极大似然估计值，称,求法：若p(x ; q)或f(x ; q)可微, 这时可从方程,求得，也可从,为q的极大似然估计量求得,例4 设X~B(1, p). X1, X2 , ···· , Xn是来自X的一个样本， 试求参数p的极大似然估计量 解 设x1, x2 , ···· , xn 是来自X1, X2 , ···· , Xn 的一个样本 值Ｘ的分布律为 P{X=x}=px(1-p)1-x , x=0, 1. 故似然函数为,而,令,解得p的极大似然估计值,p的极大似然估计量为,极大似然估计法适用于多个参数。

若似然函数为 L(q1 ,q2 ,····,qk)，则求关于qi的偏倒数即可 例5 设X~N(m,s2), m, s2为未知参数 , x1, x2 , ···· , xn 是来自X的一个样本值求m, s2的极大似然估计量 解 X的概率密度为,似然函数为,而,令,因此得m, s2 的极大似然估计量分别为,它们与相应的矩估计量相同 例6 设总体X在[a, b]上服从均匀分布，a, b未知， x1, x2 , ···· , xn是一个样本值, 试求a, b的极大似然估计量 解 记 x(1)=min(x1, x2 , ···· , xn), x(n)=max(x1, x2 , ···· , xn). X的概率密度是,于是对于满足条件ax(1), bx(n) 的任意a, b有,由于a x1, x2 , ···· , xnb，等价于ax(1) , x(n) b.作为a,b的 函数的似然函数为,即L(a,b)在a=x(1) , b=x(n)时取到最大值(x(1) -x(n) )-n.故a, b 的极大似然估计值为,a, b的极大似然估计量为,极大似然估计的性质,当总体分布中含有多个未知参数时，也具有以上性 质。

例如，在例5中已得到的极大似然估计为,根据上述性质，得到标准差s的极大似然估计为,其中x1, x2 , ···· , xn)是X的一个样本值。