大学课件概率论 第七章参数估计1.pptx

《大学课件概率论 第七章参数估计1.pptx》由会员分享，可在线阅读，更多相关《大学课件概率论 第七章参数估计1.pptx（39页珍藏版）》请在得力文库 - 分享文档赚钱的网站上搜索。

1、参数估计,数理统计问题：如何选取样本来对总体的种种统计 特征作出判断。,参数估计问题：知道随机变量（总体）的分布类型， 但确切的形式不知道，根据样本来估计总体的参数，这 类问题称为参数估计。,参数估计的类型点估计、区间估计,内容提要,概述 参数的点估计 矩法估计 极大似然估计 估计量优劣性的评价 参数的区间估计,参数的估计量和估计值,设总体的分布函数为F(x,)（未知），X1，X2，Xn 为样本，构造一个统计量 来估计 参数，则称 为参数的估计量。,将样本观测值 代入 ， 得到的值 称为参数的估计值。,估计量是某些特殊的统计量，两者的含义不完全相同。 每次取样不同，观测值也不同，统计量的统计值

2、也不同，所以估计量也是随机变量，我们用大写字母表示。而固定某次观测的估计值才是一个固定的数字。,注意,点估计：如果构造一个统计量,来作为参数的估计量，则称为参数的点估计。,区间估计：如果构造两个统计量,而用 来作为参数可能取值范围的估计，称为参数的区间估计。,参数的点估计,矩法，极大似然法,定义 设 为随机变量，若 存在，则称 为 的 阶原点矩，记作 ；若 存在，则称 为 的 阶 中心矩，记作 .,样本的 阶原点矩，记作,样本的 阶中心矩，记作,阶矩的概念,矩法估计：用样本的矩作为总体矩的估计量,矩估计的想法来源于大数定律。如果总体X存在k阶矩，对任意 有,这说明，当样本容量较大时，样本k阶矩

3、与总体k阶矩差别很小。,不仅仅是矩法估计，所有统计方法的中心思想都一致：用部分推断整体，但是当部分足够大时，根据大数定律，所做的推断越来越接近真实值。,例：长期的生产经验告诉我们，水泥厂成品打包机装袋的重量X服从正态分布，试用矩法估计来估计一台打包机装袋重量的均值和方差。,解：设装袋的重量为随机变量X，即总体为XN(, 2)。,观测50次，即取X1，X2，X50个样本，样本容量50,此时，要估计参数，就转化为估计随机变量的矩,计算样本的期望和方差,根据大数定理，样本的矩和总体的矩应当非常接近.,假若样本有观测值x1，x2，x50,代入统计量中，有统计值：,用他们来估计和2,用样本的原点矩估计总

4、体的原点矩，样本的中心距估计总体的中心矩 简便起见，代入具体观测值的过程可以省略，只要明确写出用哪些统计量来估计相应的参数即可,一般而言，并不是每个统计问题中的分布都如正态分布, 很多时候参数并没有直接的概率意义。所以想要直接构造估计量来估计参数是不现实的。,引例：,求a，b的估计。,有没有一般的办法来构造估计量？,曲线救国：不能直接构造参数的估计量，可以先估计总体的各阶矩，进而通过求解方程得到参数的估计量。,一般步骤,我们以原点矩为例说明：,（1）求出总体的各阶矩，作为被统计量,（2）用样本的矩作为总体矩的统计量,（3）求解方程组中的参数,从而 为 的矩估计量,第(2)步和第(3)步的次序可

5、以对换； 涉及中心距的参数也可类似求解,解：,例：,总体,求a，b的矩估计。,a,b是均匀分布的两个参数,假设取样n次，先写出总体，样本，统计量，并按照矩法写出估计量,总体：X,样本：,接下来是矩法的标准步骤：,注意：熟练之后可以略去写出总体和样本的过程。,第一步：计算一阶原点矩和二阶中心矩,第二步：用样本的矩作为总体矩的统计量,即：,第三步：求解方程组中的参数,例：,解：一个参数，只要一个矩即可。,与参数无关。,可先求解参数,选最简单的矩：,再代入样本对应的矩,并不是标准的矩法，而是某种推广了的矩法估计； 以后遇到密度函数为偶函数的情形均可这样处理。,有无其他方法？,注意：,例： 设X1，X

6、2，Xn为总体XPois()的样本，试求 参数的矩法估计量。,解： 仅有一个参数 ，只需要做一个矩法估计。,此时参数恰为分布的期望，所以可以直接用样本均值来估计 ，省去了求解方程这一步。,考虑一阶原点矩,参数本身为分布的数字特征，不需求解方程，直接利用样本的统计量来估计分布的数字特征，进而得到参数估计的办法也叫数字特征法，是矩法的特例。,矩法估计总能用低阶矩就不用高阶矩,可见：同一个参数的矩估计量可以不同。,得到矩法估计量,考虑泊松分布的二阶中心矩,使用哪个更好一些？,之后会系统地介绍估计量优劣的评价，届时再展开讨论,思考一下，是否有其他求解的办法？,解: 由于,所以由矩法估计，得,解得,所以

7、，参数 的矩估计量为,例: 对容量为n的样本，求下列密度函数中参数 的 矩估计量。,回忆：为了估计鱼塘中有多少条鱼,鱼塘主先从鱼塘中网起100条鱼作上记号后，放回鱼塘中,过了一段时间(使有记号的鱼和无记号的鱼混合均匀)后， 从鱼塘中网起一网鱼,共80条,其中有记号的鱼有2条。试估计鱼塘中有多少条鱼。,由于数量很大，可以近似认为是简单随机取样，故每条鱼是否有记号服从XiB(1,100/N),估计N就是估计参数p=100/N。,回忆当时的解法,求参数p使得P(Y=2)最大,这样的思想实际上有很广的应用范围，我们以连续型随机变量为例来说明。,可以用矩法来估计。,参数的极大似然估计法,思想：设总体X的

8、密度函数为f(x,)，为未知参数，则 样本（X1,X2,Xn）的联合密度函数为,令,参数的估计量 ，使得样本（X1,X2,Xn）落在观测 值 上的概率L()达到最大，即,则称 为参数的极大似然估计值。,所谓似然函数，就是带参数的联合密度函数 似然函数的选取是唯一的，这一点和矩法估计不同,注意,求解步骤,（2）取自然对数,其解 即为参数的极大似然估计值。,（3）令,（1）构造似然函数,若总体的密度函数中有多个参数1，2，n，则将 第（3）步改为,解方程组即可。,对于离散型总体的分布，只要参数为连续变化，仍然可以求导，上述方法同样适用。 有些情况下参数是离散的，比如二项分布B(n,p)中的n。此时

9、不能求导，只能按定义找极大值，运算比较复杂。 为了逻辑上更为严密，极大似然估计一般先用样本值代入求解估计值，再用样本替换样本值得到参数的估计量。,极大似然估计的一些注意事项,解：,例: 据经验，进入稳定期的生产线生产出的LED电视的使用寿命,试用极大似然法估计电视机的平均寿命。,即求参数的极大似然估计,取对数后求导找出极大值点,得到参数的估计值：,将具体的样本值替换为样本对应的随机变量，得到参数的估计量：,例:,解:,先求似然函数,接着求对数,为非负整数,参数连续变化，求导有,例: 假设（X1，X2，Xn）是取自正态总体N(,2) 的样本，求和2的极大似然估计量。,解: 构造似然函数,取对数,

10、续解,求偏导数，并令其为0,解得,所以，2的极大似然估计量为,之前的三个例子极大似然估计与矩估计量相同,如果矩估计量和极大似然估计量相同的话往往说明这样的估计是好的,然而不是对每一个分布的参数估计两种估计量都一致,例:,解：,故似然函数为：,由于似然函数中并不显式包含x1xn ，我们直接来找似然函数的最大值,越小越好，不过一旦xi, 则L()=0,故要在 xi,即 maxxi的限制条件下取最小,思考题：,估计值为,估计量为,另外，可以考虑矩法估计,矩法估计中，选取不同的矩，得到的估计量不同 用矩法估计和极大似然估计，得到的估计量不同,哪种估计更好一些？,由于,顺序统计量估计,总体是连续型随机变

11、量且分布密度对称时，总体中位数就是均值。此时可用样本中位数估计总体均值，用样本极差估计总体标准差。,中位数和极差的分布难以得到，不能把握估计的偏差,很少使用,参数估计的点估计方法小结,数字特征法：以样本均值、方差作为总体期望、方差 的估计量。,矩法估计：以样本k阶矩作为总体k阶矩的估计量。,极大似然估计：最能产生观测值(x1, xn)的参数值,顺序统计量估计：用样本中位数和极差估计期望和标准差,一、矩估计法（包含数字特征法） 直观意义比较明显，但要求总体k阶矩存在。 二、极大似然估计法。 具有理论上的优点，似然函数唯一。如果参数连续取值，可用求导；但若参数不连续取值，求法复杂。 三、顺序统计量法 使用起来无条件限制，无需多大计算，但准确度不高。,比较,