协方差矩阵.ppt

《协方差矩阵.ppt》由会员分享，可在线阅读，更多相关《协方差矩阵.ppt（69页珍藏版）》请在得力文库 - 分享文档赚钱的网站上搜索。

1、庄伯金庄伯金 1 1概率论与随机过程概率论与随机过程期末复习期末复习-概率论概率论答疑时间n答疑时间：周一上午、周二上午、周四下午，周一至周五中午答疑时间：周一上午、周二上午、周四下午，周一至周五中午n答疑地点：教二答疑地点：教二214n理学院统一期末习题课理学院统一期末习题课n2012.5.25 18：30-20：20n教三教三339n郭永江老师郭永江老师庄伯金庄伯金 2 2庄伯金庄伯金 3 3基本概念n概率的公理化概率的公理化n试验、样本空间、事件试验、样本空间、事件n频率与概率频率与概率n古典概型古典概型n条件概率条件概率n独立性独立性样本空间与随机事件n样本空间样本空间：随机试验中所有

2、可能结果组成的：随机试验中所有可能结果组成的集合集合。n样本空间为样本空间为集合集合；n通常记作通常记作S；n包含了包含了所有所有的可能情况，是随机试验结果的的可能情况，是随机试验结果的全集全集。n样本点：随机试验的每个样本点：随机试验的每个结果结果。n随机事件随机事件：随机试验中满足某种条件的样本点组成的集合。：随机试验中满足某种条件的样本点组成的集合。n事件发生事件发生：在试验中，当且仅当事件子集中的一个样本点出现时，称为事：在试验中，当且仅当事件子集中的一个样本点出现时，称为事件发生。件发生。n基本事件基本事件：由一个样本点组成的：由一个样本点组成的单点集单点集。n必然事件必然事件：每次

3、试验中，事件总是发生。：每次试验中，事件总是发生。n不可能事件不可能事件：每次试验中，事件都不发生。：每次试验中，事件都不发生。庄伯金庄伯金 4 4事件的关系与运算n包含关系包含关系：若样本空间：若样本空间S中的事件中的事件A和和B，满足，满足 ，则称事件，则称事件B包含包含A。n和事件和事件：n和事件发生当且仅当事件和事件发生当且仅当事件A与与B中至少有一个发生。中至少有一个发生。n积事件积事件：n积事件发生当且仅当事件积事件发生当且仅当事件A与与B同时发生；同时发生；n也记作也记作AB；n差事件差事件：n差事件发生当且仅当事件差事件发生当且仅当事件A发生且发生且B不发生。不发生。n互斥事件

4、互斥事件：若：若 ，则称事件，则称事件A与与B互不相容互不相容或互斥。或互斥。n对立事件对立事件：若：若 且且 ，则称事件，则称事件A与与B互为对立事件，互为对立事件，或互为逆事件。或互为逆事件。庄伯金庄伯金 5 5概率n定义：设定义：设E是随机试验，样本空间为是随机试验，样本空间为S。对于。对于E的每一事件的每一事件A赋予一实数值，赋予一实数值，记作记作 ，若集合函数，若集合函数 满足下列条件满足下列条件n非负性：非负性：n规范性：规范性：n可列可加性：可列可加性：若若 是两两互不相容事件，则有是两两互不相容事件，则有则称该集合函数值则称该集合函数值 为事件为事件A的的概率概率。庄伯金庄伯金

5、 6 6概率的性质n性质性质1：n性质性质2（有限可加性）：（有限可加性）：若若 是两两互不相容事件，是两两互不相容事件，则则n性质性质3：设事件：设事件A与与B，若，若 ，则，则n性质性质4：对任意事件：对任意事件A，有，有 。n性质性质5：对任意事件：对任意事件A，有，有 。n性质性质6：设任意事件：设任意事件A与与B，则，则庄伯金庄伯金 7 7古典概型n两个前提两个前提n试验的样本空间试验的样本空间S是有限集；是有限集；n试验中每个基本事件发生的可能性相同。试验中每个基本事件发生的可能性相同。n古典概型也称为等可能概型。古典概型也称为等可能概型。n古典概型的计算：已知样本空间古典概型的计

6、算：已知样本空间 ，基本事件的概，基本事件的概率相等，即率相等，即 ，则有，则有n古典概型的计算方法：古典概型的计算方法：A中包含基本事件数中包含基本事件数/S中包含基本事件中包含基本事件总数。总数。庄伯金庄伯金 8 8条件概率、乘法公式n条件概率考虑在事件条件概率考虑在事件A已发生的前提下，事件已发生的前提下，事件B发生的概率，发生的概率，记作记作P(B|A)。n定义：设定义：设A、B两个事件，且两个事件，且 ，称，称为在事件为在事件A发生的条件下事件发生的条件下事件B发生的发生的条件概率条件概率。n乘法公式乘法公式：若：若 ，则，则n设设 为为 个事件，且个事件，且 ，则有，则有庄伯金庄伯

7、金 9 9划分、全概公式与贝叶斯公式n划分划分：设：设S为样本空间，为样本空间，为其中一组事件。若为其中一组事件。若n1）n2）则称则称 为样本空间为样本空间S的一个的一个划分划分。n全概公式全概公式：设：设 为为S的一个划分，且有的一个划分，且有 ，则事件则事件A的概率为：的概率为：nBayes公式公式：设样本空间：设样本空间S和事件和事件A，为为S的一个划的一个划分，且分，且 ，则有，则有庄伯金庄伯金 1010独立性n定义：设事件定义：设事件A和和B，若满足等式，若满足等式则称事件则称事件A和和B相互相互独立独立。n定理定理1：设事件：设事件A和和B，且，且 ，则，则A、B独立当且仅当独立

8、当且仅当n定理定理2：若事件：若事件A和和B相互独立，相互独立，则下列事件也相互独立：则下列事件也相互独立：和和 ，和和 ，和和 。庄伯金庄伯金 1111庄伯金庄伯金 1212随机变量n随机变量的概念随机变量的概念n离散型随机变量及其分布离散型随机变量及其分布n二点（二点（0-1）分布）分布n二项分布二项分布n泊松分布泊松分布n随机变量的分布函数随机变量的分布函数n连续型随机变量及其概率密度连续型随机变量及其概率密度n概率密度概率密度n均匀分布均匀分布n指数分布指数分布n正态分布正态分布n随机变量的函数的分布随机变量的函数的分布庄伯金庄伯金 1313随机变量n试验结果的抽象化：将试验结果映射为

9、一个实数。即试验结果的抽象化：将试验结果映射为一个实数。即n实值函数实值函数 称为称为随机变量随机变量。n随机变量的取值不相等时，所对应的事件随机变量的取值不相等时，所对应的事件互不相容互不相容。n随机变量的分类随机变量的分类n离散型随机变量：随机变量的取值为有限个或可列无限个。离散型随机变量：随机变量的取值为有限个或可列无限个。n连续型随机变量：非离散型随机变量。连续型随机变量：非离散型随机变量。离散型随机变量n随机变量随机变量 ，可能的取值，可能的取值 ，取各个可能值的取各个可能值的概率，即事件概率，即事件 的概率为的概率为n随机变量随机变量 只可能取只可能取0和和1两个值。分布律为两个值

10、。分布律为称称 服从以服从以 为参数的两点分布或为参数的两点分布或0-1分布（伯努利分布）分布（伯努利分布）。n0-1分布律也可以表示成分布律也可以表示成庄伯金庄伯金 1414伯努利试验n设试验设试验E只有两个可能结果：只有两个可能结果：和和 ，则称，则称E为为伯努利试验伯努利试验。n两个结果发生的概率分别为两个结果发生的概率分别为nn重伯努利试验：将重伯努利试验：将E独立重复进行独立重复进行n次。次。n独立：各次试验结果互不影响；独立：各次试验结果互不影响；n重复：每次试验结果的概率保持不变。重复：每次试验结果的概率保持不变。庄伯金庄伯金 1515二项分布、泊松分布n定义：随机变量定义：随机

11、变量 表示表示n重伯努利试验中事件重伯努利试验中事件 发生的次数，发生的次数，则随机变量则随机变量 的分布律为的分布律为 称随机变量称随机变量 服从参数为服从参数为 的的二项分布二项分布，记为，记为n设随机变量设随机变量 所有可能的取值为所有可能的取值为 ，其分布律为，其分布律为其中其中 为常数，则称为常数，则称 服从参数为服从参数为 的的泊松分布泊松分布，记为，记为庄伯金庄伯金 1616泊松定理n设设 是一个常数，是一个常数，是任意正整数，设是任意正整数，设 ，则对，则对于任一固定的非负整数于任一固定的非负整数 ，有，有n当当 很大，很大，很小时，有近似式很小时，有近似式其中其中 。庄伯金庄

12、伯金 1717分布函数n定义：设定义：设 是随机变量，是随机变量，是任意实数，函数是任意实数，函数称为称为 的的分布函数分布函数。n分布函数分布函数 是个不减函数。是个不减函数。n ，且有，且有n 右连续，即右连续，即 。庄伯金庄伯金 1818连续型随机变量、概率密度n定义：若对于随机变量定义：若对于随机变量 的分布函数的分布函数 ，存在非负可积函，存在非负可积函数数 ，使对于任意实数，使对于任意实数 有有则称则称 为为连续型随机变量连续型随机变量，称为称为 的的概率密度函数概率密度函数，简，简称称概率密度概率密度。n1n2n3 对任意实数对任意实数 ，有，有n4 若若 在在 点连续，则有点连

13、续，则有 。庄伯金庄伯金 1919均匀分布n设随机变量设随机变量 的概率密度为的概率密度为则称则称 在区间在区间 上服从上服从均匀分布均匀分布，记为，记为 。n均匀分布的概率密度在区间均匀分布的概率密度在区间 上相同，即可得随机变量上相同，即可得随机变量 落在落在 内某一子区间内的概率与子区间的长度成正比。其内某一子区间内的概率与子区间的长度成正比。其分布函数为分布函数为庄伯金庄伯金 2020指数分布n设随机变量设随机变量 的概率密度为的概率密度为其中其中 为常数，则称为常数，则称 服从参数服从参数 的的指数分布指数分布。n分布函数为分布函数为庄伯金庄伯金 2121正态分布n设随机变量设随机变

14、量 的概率密度为的概率密度为其中其中 和和 为常数，则称为常数，则称 服从参数为服从参数为 的的正态分正态分布布，记为，记为 。正态分布也称作。正态分布也称作高斯分布高斯分布。n设随机变量设随机变量 服从参数为服从参数为0,1的正态分布，即概率密度为的正态分布，即概率密度为则称随机变量则称随机变量 服从服从标准正态分布标准正态分布，记为，记为 。庄伯金庄伯金 2222正态分布n标准正态分布的分布函数为标准正态分布的分布函数为n性质：任一正态分布性质：任一正态分布 ，可以通过变量代换，可以通过变量代换转成标准正态分布转成标准正态分布 。n性质：性质：庄伯金庄伯金 2323随机变量的函数的分布n设

15、设 是随机变量，是随机变量，为一函数，则为一函数，则 称为随机变量称为随机变量 的函数。的函数。n设离散型随机变量设离散型随机变量 ，其可能取值为，其可能取值为 ，则，则 的的所有可能取值为所有可能取值为 设设 表示表示 的原像集，则有的原像集，则有n连续型随机变量连续型随机变量 ，分布函数为，分布函数为 ，概率密度为，概率密度为 。则则 的分布函数的分布函数对对 求导可得密度函数求导可得密度函数庄伯金庄伯金 2424连续型随机变量函数的分布n定理：设随机变量定理：设随机变量 具有概率密度具有概率密度 ，函，函数数 处处可导且严格单调。则处处可导且严格单调。则 是连续型随机变是连续型随机变量，

16、其概率密度为量，其概率密度为其中其中 ，是是 的反函数。的反函数。庄伯金庄伯金 2525庄伯金庄伯金 2626多维分布n二维随机变量二维随机变量n联合分布函数联合分布函数n联合概率密度联合概率密度n边缘分布边缘分布n边缘概率密度边缘概率密度n条件分布条件分布n条件概率密度条件概率密度n相互独立的随机变量相互独立的随机变量n两个随机变量函数的分布两个随机变量函数的分布n设二维随机变量设二维随机变量 ，对于任意实数，对于任意实数 ，二元函数，二元函数称为二维随机变量称为二维随机变量 的的分布函数分布函数，或称为随机变量，或称为随机变量 的的联合分布函数联合分布函数。n二维随机变量二维随机变量 落在

17、矩形区域落在矩形区域的概率的概率二维随机变量的分布函数庄伯金庄伯金 2727联合分布函数的性质n 是是 和和 的不减函数。的不减函数。n任意固定任意固定 ，对，对 ，有，有 ；n任意固定任意固定 ，对，对 ，有，有 ；n规范性：规范性：。n对任意固定的对任意固定的 ，；n对任意固定的对任意固定的 ，；n ；n ；庄伯金庄伯金 2828联合分布函数的性质n ，。n 关于关于 右连续；右连续；n 关于关于 右连续。右连续。n对任意对任意 ，有，有n注：满足上述四条性质的任意函数注：满足上述四条性质的任意函数 ，都可以成为某两，都可以成为某两个随机变量个随机变量 的联合分布函数。的联合分布函数。庄伯

18、金庄伯金 2929二维离散型随机变量n定义：设二维随机变量定义：设二维随机变量 的所有可能取值为有限对或可的所有可能取值为有限对或可列无限对，则称列无限对，则称 为为二维离散型随机变量二维离散型随机变量。n设二维离散型随机变量设二维离散型随机变量 的所有可能取值为的所有可能取值为 ，记记 ，称此为二维离散型随机变量的分，称此为二维离散型随机变量的分布律。布律。庄伯金庄伯金 3030二维连续型随机变量n记二维随机变量记二维随机变量 ，分布函数，分布函数 ，若存在非负可，若存在非负可积函数积函数 ，对任意，对任意 ，满足，满足则称则称 是是连续型二维随机变量连续型二维随机变量，函数，函数 称为称为

19、 的的概率密度概率密度，或称为，或称为联合概率密度联合概率密度。庄伯金庄伯金 3131概率密度的性质n ；n ；n设设 是是 平面上的区域，则点平面上的区域，则点 落在落在 内的概率为内的概率为n若若 在在 处连续，则有处连续，则有 庄伯金庄伯金 3232边缘分布n定义：二维随机变量定义：二维随机变量 中，中，和和 各自的分布函数各自的分布函数 和和 分别称为二维随机变量分别称为二维随机变量 关于关于 和和 的的边缘分边缘分布函数布函数。n根据边缘分布的定义，可知根据边缘分布的定义，可知n对于离散型二维随机变量，对于离散型二维随机变量，边缘分布律边缘分布律n对于连续型二维随机变量，对于连续型二

20、维随机变量，边缘概率密度边缘概率密度庄伯金庄伯金 3333离散型随机变量条件分布n定义：设离散型二维随机变量定义：设离散型二维随机变量 ，对于固定的，对于固定的 ，若满，若满足足 ，则称，则称为在为在 条件下随机变量条件下随机变量 的的条件分布律条件分布律。n同样，对于同样，对于 ，可定义，可定义庄伯金庄伯金 3434离散型随机变量条件分布n性质性质n ；n ；n ；n 。庄伯金庄伯金 3535连续型随机变量条件分布n定义：设二维随机变量定义：设二维随机变量 的概率密度为的概率密度为 ，关于关于 的边缘概率密度为的边缘概率密度为 ，若对于固定的，若对于固定的 ，则称，则称 为在为在 条件下条件

21、下 的的条件概率密度条件概率密度，记为记为n在在 条件下条件下 的的条件分布函数条件分布函数定义为定义为庄伯金庄伯金 3636独立性n定义：设定义：设 和和 分别是二维随机变量分别是二维随机变量 的分布函数和边缘分布函数，若对于所有的的分布函数和边缘分布函数，若对于所有的 ，都有，都有则称随机变量则称随机变量 和和 是是相互独立相互独立的。的。n离散型随机变量的独立性离散型随机变量的独立性n连续型随机变量的独立性连续型随机变量的独立性即即 几乎处处成立。几乎处处成立。庄伯金庄伯金 3737连续型随机变量函数的分布n 为连续型二维随机变量，为连续型二维随机变量，为随机变量的函数，为随机变量的函数

22、，则则 的概率密度一般可通过先求分布函数，然后求导的方式的概率密度一般可通过先求分布函数，然后求导的方式获得。获得。n 的分布函数的分布函数n求导得求导得庄伯金庄伯金 3838 的分布n设设 为连续型二维随机变量，联合概率密度为为连续型二维随机变量，联合概率密度为 ，记记 ，则，则 的分布函数为的分布函数为n求导可得求导可得n若若 和和 独立，则有独立，则有庄伯金庄伯金 3939 的分布n设设 为连续型二维随机变量，联合概率密度为为连续型二维随机变量，联合概率密度为 ，记记 ，则，则 的分布函数为的分布函数为n可得概率密度函数可得概率密度函数 庄伯金庄伯金 4040 的分布n设设 为连续型二维

23、随机变量，联合概率密度为为连续型二维随机变量，联合概率密度为 ，记记 ，则，则 的分布函数为的分布函数为n可得概率密度函数可得概率密度函数庄伯金庄伯金 4141 和 的分布n设设 和和 是相互独立的两个随机变量，分布函数分别为是相互独立的两个随机变量，分布函数分别为 和和 ，则，则 和和 的分布函数的分布函数分别为分别为庄伯金庄伯金 4242庄伯金庄伯金 4343数字特征n数学期望数学期望n方差方差n协方差及相关系数协方差及相关系数n矩、协方差矩阵矩、协方差矩阵n定义：设离散型随机变量定义：设离散型随机变量 的分布律为的分布律为 ，若，若级数级数绝对收敛，则称级数绝对收敛，则称级数 的和为随机

24、变量的和为随机变量 的的数学期望数学期望，记为记为 。即有。即有n定义：设连续型随机变量定义：设连续型随机变量 的概率密度为的概率密度为 ，若积分，若积分n绝对收敛，则称积分绝对收敛，则称积分 的值为随机变量的值为随机变量 的的数学期数学期望望，记为，记为数学期望庄伯金庄伯金 4444数学期望n设设 服从参数为服从参数为 的二点分布，则的二点分布，则n设设 服从参数为服从参数为 的二项分布，则的二项分布，则n设设 服从参数为服从参数为 的泊松分布，则的泊松分布，则n设设 ，则，则n设设 服从参数为服从参数为 的指数分布，则的指数分布，则n设设 ，则，则庄伯金庄伯金 4545随机变量函数的数学期

25、望n定理：设离散型随机变量定理：设离散型随机变量 ，随机变量，随机变量 是是 的函数：的函数：，则，则n定理：设连续型随机变量定理：设连续型随机变量 ，联合概率密度函数为，联合概率密度函数为随机变量随机变量 是是 的函数：的函数：，则，则n注注：随机变量函数的数学期望不必先求函数的概率分布就可获：随机变量函数的数学期望不必先求函数的概率分布就可获得。得。庄伯金庄伯金 4646数学期望的基本性质n ；n数学期望是数学期望是“线性算子线性算子”，即，即n设设 相互独立，则相互独立，则庄伯金庄伯金 4747方差n定义：设定义：设 是随机变量，若是随机变量，若 存在，则称其存在，则称其为为 的方差，记

26、作的方差，记作 或或 ，即，即n离散型随机变量的方差：离散型随机变量的方差：其中其中 。n连续型随机变量的方差：连续型随机变量的方差：其中其中 为随机变量的概率密度。为随机变量的概率密度。n方差的间接计算方法方差的间接计算方法庄伯金庄伯金 4848方差n设设 服从参数为服从参数为 的二点分布，则的二点分布，则n设设 服从参数为服从参数为 的二项分布，则的二项分布，则n设设 服从参数为服从参数为 的泊松分布，则的泊松分布，则n设设 ，则，则n设设 服从参数为服从参数为 的指数分布，则的指数分布，则n设设 ，则，则庄伯金庄伯金 4949方差的性质n1.设设 为常数，则为常数，则 。n2.设设 为任

27、意常数，为任意常数，为随机变量，则为随机变量，则n3.设设 为任意常数，为任意常数，为随机变量，则为随机变量，则n4.设设 为任意常数，为任意常数，为相互独立的随机变量，为相互独立的随机变量，则则n5.设设 的充要条件是的充要条件是 。庄伯金庄伯金 5050切比雪夫不等式n定理：设随机变量定理：设随机变量 ，其数学期望和方差分别为，其数学期望和方差分别为则对任意的正数则对任意的正数 ，有，有庄伯金庄伯金 5151协方差与相关系数n协方差：协方差：称为随机变量称为随机变量 和和 的的协协方差方差，记作，记作 ，即，即n相关系数：若相关系数：若 ，则称，则称为随机变量为随机变量 和和 的的相关系数

28、相关系数。庄伯金庄伯金 5252协方差的性质n1.，；n2.；n3.，其中，其中 为常数。为常数。n4.n推论：推论：庄伯金庄伯金 5353相关系数的意义n设随机变量设随机变量 和和 ，考虑用，考虑用 的线性函数的线性函数 近似表示近似表示 ，以最小方差作为近似准则，可求得最佳近似参数，以最小方差作为近似准则，可求得最佳近似参数 。庄伯金庄伯金 5454相关系数的性质n1.；n2.的充要条件是，存在常数的充要条件是，存在常数 ，使得，使得n3.和和 相互独立，则相互独立，则 ；但，反之不成立。；但，反之不成立。庄伯金庄伯金 5555矩n定义：设定义：设 随机变量随机变量 和和 ，若，若存在，则

29、称它为存在，则称它为 的的 阶原点矩阶原点矩，简称，简称 阶矩阶矩。n若若存在，则称它为存在，则称它为 的的 阶中心矩阶中心矩。n若若存在，则称它为存在，则称它为 和和 的的 阶混合矩阶混合矩。n若若存在，则称它为存在，则称它为 和和 的的 阶混合中心矩阶混合中心矩。庄伯金庄伯金 5656协方差矩阵n设设 维随机向量维随机向量 的二阶混合中心矩的二阶混合中心矩都存在，则称矩阵都存在，则称矩阵n为为 维随机变量维随机变量 的的协方差矩阵协方差矩阵。n1.协方差矩阵协方差矩阵 为对称矩阵。为对称矩阵。n2.协方差矩阵协方差矩阵 为半正定矩阵。为半正定矩阵。庄伯金庄伯金 5757多维正态分布的概率密

30、度n设设 维随机变量维随机变量 服从正态分布，其中服从正态分布，其中协方差矩阵为协方差矩阵为 ，记，记则随机变量则随机变量 的概率密度可表示为：的概率密度可表示为：庄伯金庄伯金 5858多维正态随机变量的性质n1.维正态随机变量维正态随机变量 的每个分量的每个分量 都都是正态随机变量，反之，若是正态随机变量，反之，若 都是正态随机变量，且都是正态随机变量，且相互独立，则相互独立，则 是是 维正态随机变量。维正态随机变量。n2.维随机变量维随机变量 服从服从 维正态分布的充要条件是维正态分布的充要条件是 的任意线性组合的任意线性组合n服从一维正态分布。服从一维正态分布。n3.若若 服从服从 维正

31、态分布，设维正态分布，设 是是 的线性函数，则的线性函数，则 也服从也服从 维正态分布。维正态分布。n4.设设 服从服从 维正态分布，则维正态分布，则 相互独立等相互独立等价于价于 两两不相关。两两不相关。庄伯金庄伯金 5959庄伯金庄伯金 6060极限定理n大数定律大数定律n随机变量序列的收敛定义随机变量序列的收敛定义n中心极限定理中心极限定理n辛钦大数定理：设辛钦大数定理：设 独立同分布，且独立同分布，且作前作前 个变量的算术平均值个变量的算术平均值则对于任意的则对于任意的 ，有，有弱大数定律-辛钦大数定理庄伯金庄伯金 6161弱大数定律-切比雪夫大数定理n切比雪夫大数定理：设切比雪夫大数

32、定理：设 相互独立，若相互独立，若则对任意则对任意 ，有，有其中其中庄伯金庄伯金 6262强大数定律n柯尔莫哥洛夫大数定理：设柯尔莫哥洛夫大数定理：设 相互独立，满足相互独立，满足则则庄伯金庄伯金 6363随机变量序列的收敛性n设随机变量序列设随机变量序列 ，它收敛到，它收敛到 有三种不同程度的收有三种不同程度的收敛方式。敛方式。n依分布收敛依分布收敛：若：若则称序列则称序列 依分布收敛到依分布收敛到 。n依概率收敛依概率收敛：若任给：若任给 ，有，有则称序列则称序列 依概率（测度）收敛到依概率（测度）收敛到 。n几乎必然收敛几乎必然收敛：若：若则称序列则称序列 几乎必然收敛到几乎必然收敛到

33、。庄伯金庄伯金 6464弱大数定理n辛钦大数定理：设随机变量辛钦大数定理：设随机变量 独立同分布，且独立同分布，且则序列则序列 依概率收敛到依概率收敛到 。n伯努利大数定理：设伯努利大数定理：设 是是 重伯努利试验中事件重伯努利试验中事件A发生的次发生的次数，数，是每次试验中事件是每次试验中事件A发生的概率，则对于任意发生的概率，则对于任意 ，有有n注注：伯努利大数定理揭示了随着试验次数增加，频率稳定趋向：伯努利大数定理揭示了随着试验次数增加，频率稳定趋向于概率。于概率。庄伯金庄伯金 6565中心极限定理n独立同分布的中心极限定理：设随机变量独立同分布的中心极限定理：设随机变量 独立同分独立同

34、分布，且布，且则则其中其中 。n注注：记：记则独立同分布的中心极限定理表明则独立同分布的中心极限定理表明 依分布收敛到标准正态依分布收敛到标准正态分布。分布。庄伯金庄伯金 6666中心极限定理n由独立同分布的中心极限定理可知，若由独立同分布的中心极限定理可知，若 独立同分布，独立同分布，且且 ，对于足够大的，对于足够大的 ，n1.n2.n注注：独立同分布的：独立同分布的 个随机变量的均值，近似等于正态分布。个随机变量的均值，近似等于正态分布。庄伯金庄伯金 6767中心极限定理n定理定理2：设随机变量：设随机变量 相互独立，且相互独立，且记记若存在正数若存在正数 ，使得，使得则则 依分布收敛到标准正态分布。依分布收敛到标准正态分布。庄伯金庄伯金 6868中心极限定理n定理定理3：设随机变量：设随机变量 服从参数为服从参数为 的二项分的二项分布，则对于任意布，则对于任意 ，有，有庄伯金庄伯金 6969