概率论与数理统计（第二版）第6章参数点估计1节.ppt

第5章数理统计的根本知识根本概念总体X样本(X1,X2,Xn)统计量三大抽样分布正态总体X下统计量的分布 分位点分位点第六章 参数估计根本内容：一、参数的点估计:1.矩估计法 2.最大似然估计法二、判别估计量好坏的标准:无偏性；有效性；一致性三、正态总体参数的区间估计.第一节 参数的点估计一、参数点估计的概念二、矩估计法 三、最大似然估计法 根本内容：但参数但参数 是未知的是未知的.未知参数，这就是参数估计问题参数估计问题.事实上，我们常遇到这样的实际问题从总体X中抽取一个样本相应的一、参数点估计的概念一、参数点估计的概念总体总体X X的分布的形式为，的分布的形式为，然后用观测值去估计解决思路：解决思路：一个观测值为已知某种元件的寿命 ，即 的概率密度函数 的形式,但 未知.例如例如1050,1100,1080,1200,1300,1250,1340,1060,1150,1150.现用抽取的观测值那么称统计量 参数参数 的点估计的思路的点估计的思路估计,即令的点估计值点估计值.构造一个适宜的统计量构造一个适宜的统计量作为参数为点估计量点估计量;的观测值称为点估计的定义点估计的定义：设总体X的分布中含有未知参数从总体X中抽取样本 X1,X2,Xn,注：注：矩估计法是由英国统计学家其根本思想其根本思想:是用样本矩估计是用样本矩估计(或代替或代替)总体矩总体矩.皮尔逊(K.Pearson)在1900年提出.或令二、矩估计法二、矩估计法即令其中k=1,2,设总体X服从区间试求未知参数 的矩估计量和矩估计值.解解:其观测值为 .即 解方程得 的矩估计量为 设是总体的样本,例例1.1.上的均匀分布,易求得令 而矩估计值为 求总体 的均值 和方差 的矩估计量.解解:设 是总体 的一个样本，经计算得 故令解得例例2.2.令解方程组得 一般地,注注:总体均值与方差的矩估计量不因总体分布的总体均值与方差的矩估计量不因总体分布的不同而异不同而异.假定总体假定总体X的的1m 阶原点矩阶原点矩存在存在，第二步：第二步：用样本矩代替总体矩，即令用样本矩代替总体矩，即令矩估计法步骤：矩估计法步骤：设总体X的分布中含有m个待估的未知参数那么第一步第一步:求总体求总体X的的k阶原点矩阶原点矩解含m个参数 的m个方程组,得 以 作为参数 的估计量.第三步第三步:第四步第四步:矩估计法的优缺点矩估计法的优缺点:直观、简单;2.2.缺点缺点:只须知道总体矩,无须知道总体的分布形式.没有充分利用总体分布提供的信息；可能估计结果的精度比其它估计法的低.矩估计量不具有唯一性；1.1.优点优点:最大似然估计作为一种点估计方法最初是由 德国数学家高斯(Gauss)于1821年提出;学家费歇尔(R.A.Fisher)在1912年作了进一步开展 使之成为数理统计中最重要应用最广泛最广泛的方法之一.GaussFisher三、最大似然估计法三、最大似然估计法英国统计其中 是未知参数.那么称那么称 为似然函数为似然函数.设总体X的概率函数为或概率密度为或概率密度为 ,的联合概率函数或 1.1.似然函数似然函数那么样本联合概率密度函数为联合概率密度函数为或或最大似然原理的直观想法直观想法：在试验中概率 最大的事件最有可能出现.一个试验如有假设干个 可能结果 ,若在一次试验中若在一次试验中,结果结果 出现出现,则认为则认为 出现的概率最大出现的概率最大.2.2.最大似然估计法最大似然估计法 MLE (Maximum Likelihood Estimate)也就是说,在一次抽样中得到观测值在一次抽样中得到观测值(x1,xn)那么认为观测值那么认为观测值(x1,xn)出现的概率最出现的概率最大大.假设在一次试验中得到的观察值 ，那么该观测值出现的概率应最大，使似然函数似然函数 达到最大达到最大.是样本的观测值,设总体X的概率函数为以离散型总体以离散型总体X为例为例那么其出现的概率所以适中选取最大似然估计量最大似然估计量定义定义.由于与 有相同的最大值点.因此，为 最大似然估计的必要条件为 称它为似然方程似然方程,其中如何求似然函数的最大值？如何求似然函数的最大值？似然函数：似然函数：最大似然估计最大似然估计(MLE)的步骤的步骤:第一步第一步:第二步第二步:第三步第三步:第四步第四步:设总体 服从泊松分布 ,其中 为未知参数，试求参数 的最大似然估计值.设样本 的一个观测值为 解解:,由于总体 ,故有 似然函数为例例3.3.取对数即即 所以 的最大似然估计值为 .随机变量X表示例例4.4.从一批产品中放回抽样依次抽取60件样品,发现其中有3件次品，用最大似然估计法估计这批产品的次品率.解：解：设这批产品的次品率为p，任一次抽样时取得次品的件数,那么 XB(1,p).那么概率函数为所以似然函数为取对数，得即解得p的最大似然估计值为似然方程解解:似然函数例例5.5.取对数求导似然方程与相应的矩估计量相同.(P151)解解:例例6.6.总体X的概率密度函数为分析分析20 取对数求导取对数求导3.3.最大似然估计的性质最大似然估计的性质不变性不变性内容小结内容小结内容小结内容小结1.理解参数的点估计的概念；2.掌握矩估计法和最大似然估计法；熟练掌握常见分布的矩估计和最大似然估计，如泊松分布、均匀分布、指数分布及正态分布中参数的矩估计和最大似然估计.习题六习题六(P180):1、2作业作业备用题备用题(1)求 =1 时,未知参数 的矩估计量.其中参数 0,1,1.1.设 X 的分布函数为 X1,X2,Xn 是总体 的样本,解解:当 =1时,X 的概率密度为 令样本均值代替总体均值 解得 的矩估计量为 即解解(2)=2 时时,由于L()关于 的单调增函数,且注意到 须满足故 的极大似然估计量为 (2)求 =2 时,未知参数 的极大似然估计量.作似然函数 0,假设取得样本值x1,x2,xn,试求(1)期望 E(|X|)和 E(|X2|)；解解:(1)由期望定义得(2)似然函数为取对数两边对 求导由此解得 的最大似然估计值为。