概率论与数理统计复习.docx

《概率论与数理统计复习.docx》由会员分享，可在线阅读，更多相关《概率论与数理统计复习.docx（17页珍藏版）》请在得力文库 - 分享文档赚钱的网站上搜索。

1、概率论与数理统计复习概率论与数理统计复习 一、概率论的基本概念： 1、事务的运算律： 交换律：，； 结合律：，； 安排律：，； 德摩根法则：，； 减法运算：。2、概率的性质： 性质1 ； 性质2 （有限可加性）当个事务两两互不相容时， ； 性质3 对于随意一个事务，； 性质4 当事务满意时， ，； 性质5 对于随意两个随机事务，； 性质6 对于随意一个事务； 性质7 （广义加法法则）对于随意两个事务， 。3、条件概率： 在已知发生的条件下，事务的概率为： （）。 留意：全部概率的性质对条件概率依旧适用，但运用公式必需在同一条件下进行。 4、全概率公式与贝叶斯公式： 设个事务构成样本空间的一个划

2、分，是一个事务，当（）时， 全概率公式：； 贝叶斯公式：当时， ， 。应用全概率公式和贝叶斯公式计算事务的概率或其在已知条件下的条件概率时，关键的问题是找到一个完备事务组，使得能且仅能与之一同时发生，然后运用古典概型、概率的加法和乘法法则计算出和，并套用全概率公式或贝叶斯公式即可。若一个较困难的事务是由多种“缘由”产生的样本点构成时，多考虑用全概率公式，而这些样本点就构成一个完备事务组；若已知试验结果而要追查“缘由”时，往往运用贝叶斯公式，这些“缘由”的全体即是所求的完备事务组。5、随机事务的独立性： 事务独立性的结论： （1）事务与独立； （2）若事务与独立，则与，与，与中的每一对事务都相互

3、独立； （3）若事务与独立，且，则 ，； （4）若事务相互独立，则； （5）若事务相互独立，则。留意： （1）事务相互独立只要求满意，而事务互斥（互不相容）只要求，这两个概念前一个与事务的概率有关，后一个与事务有关，两者之间没有必定的联系； （2）假如事务相互独立，则与不相关，反之一般不成立。（3）对于随意个随机事务，相互独立则两两独立，反之未必； （4）对于随意个相互独立的随机事务，它们中随意一部分事务的运算结果（和、差、积、逆等）与其他一部分事务或它们的运算结果都相互独立，如：与，与，与都相互独立； 6、贝努利概型与二项概率公式： 设一次试验中事务发生的概率为，则重贝努利试验中，事务恰好发

4、生次的概率为 ，。 贝努利试验每次试验相互独立，只关切某一次试验中事务或是否发生，且每次事务发生的概率都相同。 二、随机变量及其分布： （一）离散型随机变量及其分布： 1、分布律（概率函数）及其性质： 离散型随机变量的分布律（概率函数）为： ，。 分布律也可以写成表格形式，列表法是求解离散型随机变量问题的常用方法。 离散型随机变量的分布律（概率函数）的性质： （1），； （2）。 留意：确定分布律中的未知常数大多考虑随机变量分布律的性质。 2、离散型随机变量的分布律与分布函数和事务概率的关系： 假如已知的分布律为，则的分布函数 ； 而事务的概率为 。3、离散型随机变量函数的分布： 假如已知的分

5、布律为，则当的全部取值为（）时，随机变量有分布律 。留意： （1）若和均为无限可列的离散型随机变量，须要留意函数关系的转化求分布律，如：已知，要求的分布律，则 ； （2）求离散型随机变量函数分布时，要留意对应不同的时，的值有没有重复，若的值有重复，则。（二）连续型随机变量及其概率密度： 1、连续型随机变量的概率密度函数的性质： （1）； （2）； （3）。2、连续性随机变量的概率密度与分布函数和事务概率之间的关系： （1）若的概率密度为，则的分布函数为 ， 当为分段函数时其分布函数要做分段探讨； （2） ； （3）若的分布函数为，则在连续点处有。3、连续性随机变量函数的分布： 方法一： 设随机

6、变量的概率密度函数为，那么的分布函数为 ， 其概率密度函数为。 方法二： 设随机变量的概率密度函数为，那么的概率密度为 其中是的反函数，。 三、多维随机变量及其分布： （一）二维离散型随机变量： 1、联合分布律（概率函数）： 二维离散型随机变量的联合分布律为： ，； 联合概率函数可以计算概率：对于平面上随意一个集合， 。 2、边缘分布律： 二维离散型随机变量关于和的边缘分布律分别为： ，； ，。 留意： （1）求离散型随机变量的边缘分布函数，常先求出其边缘分布律，将其化为求一元离散型随机变量的分布函数； （2）列表法是解决联合分布和边缘分布问题常用的方法。 3、条件分布律： 是二维离散型随机变

7、量， 在条件下随机变量的条件分布律为： ， ，； 在条件下随机变量的条件分布律为： ，。4、随机变量的独立性： 离散型随机变量相互独立的条件是，。5、随机变量函数的分布律： 已知离散型随机变量的分布律，则的分布为： 。（二）二维连续型随机变量： 1、联合概率密度： 若为的联合概率密度，则分布函数为； 联合概率函数可以计算概率：对于平面上随意一个区域， 。2、边缘概率密度： 二维连续型随机变量关于和的边缘概率密度分别为： 和 。3、条件概率密度： 是二维连续型随机变量， 在条件下随机变量的条件概率密度为： ， ； 在条件下随机变量的条件概率密度为： ， ； 4、随机变量的独立性： 连续型随机变量

8、相互独立的充要条件是。5、随机变量函数的分布： 设连续型随机变量的概率密度为，则的分布函数为： ， 其概率密度为。留意： 几种特别类型的的分布函数： （1） ， 特殊地，当与相互独立时， 。实际运算时，通常运用以下变形： ， 其中。通过求导可得。计算其他略微困难的时也可用类似方法，关键在于确定重积分的积分区域。 （2）以及 设相互独立，分布函数分别为和，则 ，。 这个结论可以推广到个事务的状况。 四、随机变量的数字特征： （一）数学期望： 1、数学期望的计算公式： 离散型随机变量的分布律为，则 ； 连续型随机变量的概率密度为，则 。 2、数学期望的性质： 设，都是常数。 （1）； （2）； （

9、3）； （4）当相互独立时，。 3、随机变量函数的数学期望： （1）是连续函数， 当为离散型随机变量，其分布律为，则 ； 当为连续型随机变量，其概率密度为，则 。 （2）是连续函数， 当为离散型二维随机变量，其分布律为，则 ； 当为连续型二维随机变量，其概率密度为，则 。 4、对于不易求分布律的随机变量计算数学期望，往往将分解为数个随机变量之和，然后利用数学期望的性质求；如：书上例题4.8。（二）方差： 1、方差的定义式： ； 方差的计算公式： 。留意： 公式变换： 。2、方差的性质： 设，都是常数。 （1）； （2）； 结合性质（1）、（2）有， ； （3）当相互独立时， ； （4），反之，

10、假如某个随机变量的方差为，则，且。 3、切比雪夫不等式： 假设随机变量具有数学期望以及方差，则对于随意的，有 ， 或者 。（三）协方差： 1、协方差的定义式： ； 协方差的计算公式： 。 留意： 由协方差定义以及计算公式得出的一些推论： （1）； （2）当与相互独立时，； （3）。 2、协方差的性质： 设，都是常数。 （1）； （2）； （3）； （4）。 留意：性质（4）的应用，如。 （四）相关系数： 1、相关系数的计算公式： 。 留意： 相关系数计算公式的变换：。 2、相关系数的性质： 设， （1）； （2）； （3）设之间有线性关系，即存在不为零的常数与常数使，则，且时，时，。 3、相关

11、性与独立性： 当时，与不相关，可以等价的表示为 或 或 ； 也就是说与不相关是数字特征相关性质成立的充分必要条件。 当时，与相互独立，假如与相互独立，那么，与不相关；反之一般不成立。也就是说与相互独立只是上述四特性质成立的一个充分条件。当听从二维正态分布时，不相关与独立等价。（五）矩与协方差矩阵： 1、原点矩与中心矩： 为阶原点矩， 为阶中心矩。是一阶原点矩，是二阶中心矩。留意： 若，则的原点矩与中心矩相同，即 。2、协方差矩阵： 的协方差矩阵为： 。3、柯西许瓦兹不等式： 设是随意一个二维随机变量， 。 由柯西许瓦兹不等式可得，即高阶矩的存在保证低阶矩肯定存在，反之未必。 五、几种重要的分布

12、： （一）二项分布： 记作，随机变量表示次试验中事务发生的次数，为事务在每次试验中出现的概率。 1、二项分布的概率函数： ， 。 留意： 事务最多发生次的概率：； 事务发生次数不少于不大于的概率：。 2、二项分布的数字特征： ，。3、二项分布的性质： （分布的可加性）设与相互独立，当，时， ； （二）01分布： 记作，表示事务发生的概率，凡是样本空间仅有两个样本点构成的贝努利试验都可以用听从01分布的随机变量来刻画。1、01分布的概率函数： ， 。2、01分布的数字特征： ，。3、01分布的性质： 设是独立同分布的随机变量，且，。记。那么，。（三）泊松分布： 记作，其中。1、泊松分布的概率函数

13、： ， 2、泊松分布的数字特征： ，。3、泊松分布的性质： （1）（分布的可加性）设与相互独立，当，时， ； （2）（泊松定理）设，对于随意一个非负整数有 。由泊松定理可知，利用二项分布求概率时，假如遇到多个概率的和式不易求，可以利用泊松分布求其近似值，即，当较大，较小（）时，近似听从；当时，一般考虑运用中心极限定理。（四）匀称分布： 记作，表示听从区间上的匀称分布。1、 匀称分布的概率密度函数： ； 匀称分布的分布函数： 。2、 匀称分布的数字特征： ，。（五）指数分布： 记作，其中。1、指数分布的概率密度函数： ； 指数分布的分布函数： 。 留意： 在积分计算中出现形如，时，将其变形为指数

14、分布的概率密度函数通常可以简化运算。 2、 指数分布的数字特征： ，。3、 指数分布的性质： （无记忆性）当时，有，。（六）正态分布： 记作，其中，。当一个变量受到大量微小的、独立的随机因素影响时，这个变量一般听从或近似听从正态分布。1、 正态分布的概率密度函数及其性质： 正态分布的概率密度函数为： 。 具有如下的性质： （1）关于对称； （2）在处有最大值； （3）当时，。 2、标准正态分布： 正态分布称为标准正态分布，其概率密度函数为： 。（1）标准正态分布的分布函数及其性质： 标准正态分布的分布函数记作，即 。 具有如下的性质： ，即，； 当时，； 留意：由性质可得，当，且时， ，； （

15、2）一般正态分布与标准正态分布的关系： 当时， ，； 可得正态概率计算公式： 。 留意： 在积分计算中出现形如，时，通过令，将其变形为标准正态分布的概率密度函数，即 通常可以简化运算。 （3）标准正态分布的分位数及其性质： 为标准正态分布的分位数，。 留意： 当，且，时，若，则；若，则。3、正态分布的数字特征： ，； 标准正态分布的阶原点矩： 。留意：标准正态分布的阶原点矩也常常可以用来简化积分运算。4、正态分布的性质： （1）（正态随机变量线性函数的分布）当时， ， 其中是常数，且；特殊地，。（2）（正态分布的可加性）设相互独立，当，时，。留意： （1）； （2）性质（2）的推论：当，时 ，

16、。 六、大数定律与中心极限定理： 1、依概率收敛： 设是一个随机变量序列。假如存在一个常数，使得对于随意一个，总有 或 ， 那么，称随机变量序列依概率收敛于，记作。 2、大数定律： 大数定律要留意针对其成立的的条件和结论。 （1）切比雪夫大数定律： 设是两两不相关的随机变量序列，且存在常数使得，则对随意给定的，有 ， 即。 切比雪夫大数定律的成立条件是：随机变量序列两两不相关，且方差有界。 （2）辛钦大数定律（独立同分布情形下的大数定律）： 设是一个独立同分布的随机变量序列，且，则对随意给定的，有 ， 即。 辛钦大数定律是切比雪夫大数定律的一个特例。辛钦大数定律成立的条件是：随机变量序列独立同

17、分布，且数学期望，存在。因此对独立同分布的随机变量序列，只要验证数学期望是否存在，就可判定其是否听从大数定律，即使方差不存在，结论依旧成立。 （3）贝努利大数定律： 设是一个独立同分布的随机变量序列，且每一个都听从01分布，则对随意给定的，有 ， 即。 贝努利大数定律是辛钦大数定律的一个特例。3、中心极限定理： （1）列维林德伯格中心极限定理（独立同分布情形下的中心极限定理）： 设是一个独立同分布的随机变量序列，且，则对随意实数，有 或者 。列维林德伯格中心极限定理的成立条件是：随机变量序列独立同分布，且各随机变量的数学期望和方差都存在。 列维林德伯格中心极限定理说明，一个独立同分布的随机变量

18、序列（，）不论原来听从什么分布，只要足够大，总可近似的认为 或者 或者 。 近似计算的求解步骤： 求出原分布的数学期望和方差； 依据所要求解的随机变量函数是和式还是均值选取合适的近似的正态分布； 将近似的正态分布标准化为标准正态分布，依据标准正态分布的分布函数进行求解。中心极限定理公式中的、实际即是一个一般正态分布标准化的过程。（2）德莫弗拉普拉斯中心极限定理： 设是一个独立同分布的随机变量序列，且每一个都听从01分布，则对随意实数，有 。 德莫弗拉普拉斯中心极限定理是列维林德伯格中心极限定理的一个特例。由其可得，假如，那么当较大时， 。 假如求解的随机变量听从二项分布或01分布，可考虑用德莫

19、弗拉普拉斯中心极限定理。 七、数理统计的基本概念： 1、样本的特性： （1）代表性：每一个应当与总体有相同的分布，； （2）独立性：应当是相互独立的随机变量。 也就是说，若总体的密度函数为，则样本的联合密度函数为： 。 2、统计量： 设是一个样本。 样本均值： ； 样本方差： ； 阶原点矩： ； 阶中心矩： ； 最小次序统计量： ； 最大次序统计量： 。 特殊地，记。留意：常用公式：。3、统计量的数字特征： 设是取自总体的一个样本，记，那么， （1），； （2），； （3）当时，。4、听从重要分布时的总体下的样本： 总体的分布 样本的联合概率函数 样本统计量的特征值 5、数理统计的几个常用分布

20、： 确定随机变量听从哪种分布、自由度以及分布参数等，主要是利用定义然后结合不同分布的性质以及分布之间的推导关系来求解，因此要熟识各分布的定义和性质。 分布： （1）分布的定义： 设是独立同分布的随机变量，且都听从。称随机变量 所听从的分布为自由度为的分布，记作。 （2）分布的性质： 当时，； （分布的可加性）设与相互独立，且，那么，。 留意：性质可以推广到个相互独立的随机变量之和。 （3）分布的分位数： 分布的分位数记作，即当时， 。 分布： （1）分布的定义： 设随机变量与相互独立，且，称随机变量 所听从的分布为自由度为的分布，记作。 （2）分布的性质： 当时，； 当足够大时，分布近似于；

21、若，则。 留意：当时，不存在。 （3）分布的分位数： 分布的分位数记作，且有。 分布： （1）分布的定义： 设随机变量与相互独立，且，称随机变量 所听从的分布为自由度为的分布，记作。 （2）分布的性质： 当时，。 （3）分布的分位数： 分布的分位数记作，且有。6、正态总体下的抽样分布： 设是取自正态总体的一个样本。 （1），或等价地表示为； （2）； （3）； （4）； （5）与相互独立。 八、参数估计： 1、矩估计： 求矩估计量的基本思想是“替换”，即用样本的原点矩替换相应总体的原点矩。 设是取自总体的一个样本，为未知参数，则求解矩估计量的一般步骤为： （1）从样本的一阶原点矩（即）起先计算

22、，求出与参数的之间关系； （2）求反函数； （3）用样本均值替换，即得参数的矩估计； （4）若不存在，则依次取阶原点矩，直至阶原点矩（即）可求得参数的矩估计为止。 留意： （1）若有个未知参数，则须要联立个方程组，即解方程组 ，； （2）若为参数的矩估计，则为的矩估计；如已知参数的矩估计，则只需将代入即可求得的矩估计量。 2、极大似然估计： （1）似然函数： 设是取自总体的一个样本，的密度（或概率）函数为，则似然函数为非负函数 ，； 当为离散型随机变量时， 。 （2）设是取自总体的一个样本，为未知参数，则求解极大似然估计量的一般步骤为： 求出似然函数； 解方程，即得极大似然估计值； 若似然函数

23、的驻点或者倒数不存在，则须要通过参数的取值范围求得，一般为与或者有关的代数式。 留意： （1）若有个未知参数，则须要联立个方程组，即解方程组 ，； （2）若为参数的极大似然估计，则为的极大似然估计；如已知参数的极大似然估计，则只需将代入即可求得的极大似然估计量。 3、估计量的评比标准： （1）无偏性： 定义： 假如未知参数的估计量满意 ， 那么，称为的无偏估计；假如满意 ， 那么，称为的渐近无偏估计。 有偏估计的修正： 假如，那么，必定是的无偏估计。 留意：一般用求导方法求得的极大似然估计值多为无偏估计，而其他方法求得的极大似然估计（尤其是与或者有关的代数式）多为有偏估计。 （2）有效性： 设与都是未知参数的无偏估计。假如 ， 那么，称比有效。 （3）相合性： 假如未知参数的估计量满意，即对于随意一个， ， 那么为的相合估计。 假如已知是未知参数的一个无偏估计量，且满意 ， 那么为的相合估计。4、一个正态总体下未知参数的置信区间： 未知参数 双侧置信区间上、下限 单侧置信下限 单侧置信上限 已知 未知 已知 ， 未知 ， 留意：若为未知参数，的置信区间为，则求的置信区间时须要考虑函数关系的转化。如的置信区间为，则，的置信区间为 。