第八章_参数估计课件

第八章 参数估计,参数估计是统计推断的基本问题之一。对于总体X，当知道其分布类型，但其中的参数 （有时是多个参数1， 2 , ， k ）未知时，还需要确定参数。因为只有当参数确定后，才能利用概率密度函数求出其概率。这就是本章要讨论的参数估计问题：设总体X的概率密度函数f(x; )分布类型已知，但其中未知，运用样本X1， X2 , ， Xn所提供的信息，对未知参数作出估计，这类统计问题就称为参数估计问题,对未知参数进行估计有两种方式，一种是通过样本X1， X2 , ， Xn对被估计的参数合理地给出一个估计量 （表示的估计量（值）这是所谓点估计问题。另一种是通过样本寻求一个区间，使之有一定把握包含被估计的参数 ，这是所谓区间估计问题,8.1 估计量的优劣标准8.2 获得估计量的方法点估计8.3 区间估计,8.1 估计量的优劣标准,对于同一个参数，用不同的估计方法求出的估计量可能不同，那么采用哪一个估计量好呢？这就涉及到用什么样的标准来评价估计量。常用的标准有三个，即无偏性，有效性，一致性。,（一） 一致估计,定义8.1,一致性是对于极限性质而言的，它只在样本容量较大时才起作用。,由于未知参数的估计量是一个随机变量，每次抽样后得到的的估计值不一定与真值相吻合，一般有误差，误差分为系统性误差和随机性两种，系统性误差指的是该理论不是它所要描述的现象的正确理论，理论和经验之间的误差在本质上无法弥合，而随机性误差指的是该理论的所要描述的现象的正确理论，理论和经验之间的不尽一致，是由于无法控制的随机因素干扰所致.,（二）无偏估计,无偏估计的实际意义就是无系统误差（即系统误差等于零）,定义8.2,在经济科学技术中，,由定义可知，无偏性的验证关键在于求出未知参数的估计量 的期望，,例1 从总体中 取一样本（ X1, ,Xn ）， E = ,D = 2 , 试证样本平均数,分别是及2的无偏估计。,证,样本均值是的无偏估计。,S2是2的无偏估计,若设, S02 不是2的无偏估计。,则,故,注：由于用S02 估计方差2时，有系统误差，所以，常用样本方差S2估计总体方差2 。 用n/n-1乘S02 ，所得到的估计量就是无偏的了，称S2为修正的样本方差，称S02 为未修正的样本方差。无偏性的要求正是引进修正样本方差的原因。 要注意，并非一切有偏估计都可修正为无偏的,如果从总体中随机取出两个相互独立的样本（ X11 , ,X1n1 ）及（X21 , ,X2n2），则可以证明,分别是总体中和2的无偏估计量。其中，,对总体的某一参数的无偏估计量往往不止一个，而且无偏性仅仅表明 所有可能取的值按概率平均等于，可能它取的值大部分与相差很大。为保证 的取值能集中与附近，自然要求 的方差越小越好。,（三）有效估计,定义8.3 设 和 都是的无偏估计，若样本容量为 n , 的方差小于 的方差，则称 是比 有效的估计量。如果在的一切无偏估计量中, 的方差达到最小，则 称为的有效估计量。,即,由定义，要证明两个无偏估计哪一个更有效，只须证明它们的方差，看哪一个方差较小。,例2 比较总体期望值的两个无偏估计的有效性。,解：,利用不等式,8.2 获得估计量的方法点估计,点估计就是以样本的某一函数值作为 总体中未知参数的估计值的一种估计方法,若(x1, x2 ,xn)是样本的一个观测值,以,由于f(x1, x2 ,xn) 是实数域上的一个点，用 它来估计， 故称这种估计为点估计。 点估计的经典方法是矩估计法与最（极）大似然估计法。,(一）矩估计法（简称“矩法”）,矩法是求估计量的最古老的方法。 具体的做法是：以样本矩作为相应的总体矩的估计， 以样本矩的函数作为相应的总体矩的同一函数的估计。 常用的是用样本平均数 估计总体期望值 。,因此，矩估计法的基本思想就是“替换”的思想,因此总体的期望是它的一阶原点矩，方差是其二阶中心矩,矩是随机变量的数字特征，它有两种：原点矩和中心矩，对总体X而言,称为总体X的k阶原点矩.它是随机变量X的k次幂的数学期望,称为总体X的k阶中心矩.它是随机变量离差的k次幂的数学期望,样本矩可类似定义，对统计量而言，样本原点矩是指,当k =1时，就是样本均值,当k=2时，就是二阶样本中心矩.,样本中心矩是指,例1 某灯泡厂某天生产了一大批灯泡，从中抽取了10个进行寿命实验，得数据如下（单位：小时）问该天生产的灯泡平均寿命是多少？,矩法比较直观，求估计量有时也比较直接，但它产生的估计量往往不够理想。,解 计算出x1147，以此作为总体期望值的估计。,（二）最大似然估计法,1、最大似然思想 有甲乙两个射手，甲的命中率为0.9,乙的命中率为0.2,现在他们中的一个向目标射击了一发，结果命中了，估计是谁射击的？,从这个例子，我们悟出一个基本想法：如果在一次试验中事件A发生了，那么试验的条件应最有利于A的出现，换言之，试验的条件应使A发生的概率最大。这就是最大似然估计法的直观想法。,最大似然估计法是要选取这样的 ，当它作为 的估计值时，使观察结果出现的可能性最大。,对于连续型的随机变量就是估计概率密度中的。,对于离散型的随机变量就是估计概率函数中的参数；,设为连续性随机变量，它的分布函数是F(x;),概率密度是 ，其中是未知参数，可以是一个值，也可以是一个向量。由于样本的独立性，则样本X1, X2 ，,Xn 的联合概率密度是,对每一个取定的样本值， x1,xn是常数，L是参数 的函数，称L为样本的似然函数（如果 是一个向量，则L 是多元函数）,设为离散型随机变量，有概率函数 则似然函数,定义8.4 如果 在 处达到最大值，即存在 则称 是的最大似然估计。,如何把的最大似然估计 求出来， 由高等数学知识知道，L()的最大值常用求导方法求得，由于 L与L同时达到最大值，故只需求 L的最大值点即可，一般通过解方程 来得到参数的最大似然估计,求最大似然估计的步骤,(1) 做似然函数,(2) 做对数似然函数,(3) 求导数，列似然方程,若该方程有解，则其解就是的最大似然估计。,(4) 解似然方程,如果是一个向量，即,则，解似然方程组：,其解,就分别是,的最大似然估计,例2 已知,(x1, x2 ,xn)为 的一组样本观察值，求的最大似然估计。,解： 似然函数,解似然方程,x 就是 的最大似然估计。,取对数得,求导数得,得,例3 某电子管的使用寿命（从开始使用到初次失效为止）服从指数分布（概率密度见例2），今抽取一组样本，其具体数据如下；问如何估计 ？,解 根据例2的结果，参数用样本平均数估计,为的估计值。,(x1, x2 ,xn)为的一组样本观察值，用最大似然估计法估计,2 的值。,解,例4 已知服从正态分布N(,2 ),解似然方程组,解似然方程组,得,EX,P164 2,前一节介绍的参数的点估计是用样本观测值计算总体参数的估计值，它是参数的真值的近似值。为了了解估计值的精确度，希望对的取值估计出一个范围，为了了解其可靠性，希望知道这个范围包含参数的真值的可靠程度，这样的范围通常用区间的形式给出，这就是本节讨论的参数的区间估计,8.3 区间估计,一、概念,定义： 设总体X的分布函数F(x；)含有未知参数，对于给定值（0< <1),若存在两个统计量,则称随机区间 为的置信度为1的置信区间,注：F(x;)也可换成概率密度或分布律。,使,是事先给定的一个小正数，它是指参数估计不准的概率，一般常给 =5%或1%,未知参数的区间估计，应掌握两类题型,一类是推导正态总体中未知参数区间估计 另一类是给出样本值，求单个正态总体的期望和方差的置信区间,求置信区间的一般步骤是： 1、明确问题 要求的是什么参数的置信区间，置信度有多大？ 2、构造含未知参数且有确定分布的随机变量 3、根据随机变量的分布，对给定的置信度1-定出 4、利用不等式变形，求出的置信区间,如何理解置信区间的置信度1 ？,在所给的一个样本值之下，假设得到了一个确定的常数区间a,b，如果独立地再取一个样本，又会得到另一个常数区间，如果独立地取100个样本，那么会得到100个这种常数区间，为方便计，设置信度1=0.90=90%，其含义：从统计意义看，这100个常数区间中约有90%包含 =EX ，只有约10%的区间不包含 =EX，既然绝大多数区间都包含 =EX ，那么就可认为区间a,b包含 =EX ，当然也可能遇上正好这个区间不包含 =EX的偶然情况，这时我们就作了错误的判断，不过出现这种情况的可能性很小，仅有约10%,一 总体期望E的区间估计,1、总体分布未知，方差已知，估计期望,利用切贝谢夫不等式进行估计,从总体中抽取样本（X1, X2 ，,Xn ），令,则,利用切贝谢夫不等式，有,若要求P(X E < )95%，如果D 0，则取=20D /n,得到,由上式看出，有95%以上的把握保证,即,因此，对于已知方差 D 的一般总体，估计E的置信区间按如下确定,上式左边不是随机变量落在某一确定区间内的概率，而是常数E 被随机区间盖住的可能性,即平均每100次抽样（每次抽n个样品）计算得到的100个区间中，至少有（1-）100个区间包含E,例1 某灯泡厂某天生产了一大批灯泡,从中抽取了10个进行寿命实验，得数据如下（单位：小时），如果知道该天生产的灯泡寿命的方差是8，试找出灯泡平均寿命的置信区间（ = 0.05）.,解：用表示该天灯泡的寿命，,已知D = 8,X=1147, D / n =4,于是，E 的置信区间为（1147-4,1147+4）即（1143,1151）,2、总体分布为正态分布N( ， 2 ), 2已知，估计,即,对于给定的，查附表3可以确定 ，使,因此，的置信度为1的置信区间为,例2 若灯泡寿命服从正态分布N( ,8),从中抽取了10个进行寿命实验，得数据如下（单位：小时）试估计平均寿命所在范围（ =0.05）.,解：已知=0.05， 所以,根据样本值计算,的置信度为1- 0.95的置信区间是 （1145.25，1148.75）,根据（8,6）式得,例3 已知某炼铁厂的铁水中含碳量在正常情况下服从 正态分布，其方差2 = 0.1082 .现在测定了9炉铁水，其 平均含碳量为4.484.按此资料计算该厂铁水平均含碳量 的置信区间，并要求有95% 的可靠性。,解：设该厂铁水平均含碳量为,已知 0.05，查表确定,根据样本值计算,的置信系数为1- 0.95的置信区间是 （4.413，4.555）,3、一般总体大样本下E 的区间估计,根据中心极限定理，当样本容量相当大时，X渐近地服从正态分布，故大样本情况下，对于一般总体仍然可以用（8.6）式对E 进行估计,4、正态总体方差2未知，期望的区间估计,因此，m的1-a置信区间为,对于给定的，查附表4，可确定,设样本(X1, X2 ，,Xn )来自正态总体N(,2 ),例4 假定初生婴儿（男孩）的体重服从正态分布，随机抽取12名婴儿，测其体重为3100，2520，3000，3600，3160，3560，3320，2880，2600，3400，2540。试以0.95的置信系数估计新生婴儿的平均体重（单位：g）,解:设新生男婴儿体重为,因为 =0.05，n=12，查表确定,用（8.8）式求的置信区间,的置信度为0.95的置信区间是,根据样本值计算：,二、小样本下正态总体方差的区间估计,对于给定的，查附表5可以确定a及b,令,设样本(X1, X2 ，,Xn )来自正态总体N(,2 ),在确定a,b时，一般取,因此， s2的置信区间由下式确定,例5 根据例4测的数据对新生男婴儿体重的方差进行区间估计（=0.05）.,0.05，n-1=11,查表得a=3.82,b=21.9, a,b,则s2的置信度为1的置信区间为（70