高斯过程(正态过程).ppt

《高斯过程(正态过程).ppt》由会员分享，可在线阅读，更多相关《高斯过程(正态过程).ppt（45页珍藏版）》请在得力文库 - 分享文档赚钱的网站上搜索。

1、高斯随机过程高斯随机过程北京航空航天大学北京航空航天大学主讲人：张有光主讲人：张有光电话：电话：82314978，F806第第12讲讲高斯高斯 数学王子数学王子l他的思想深入数学、他的思想深入数学、空间、大自然的奥空间、大自然的奥秘秘.他推动了数他推动了数学的进展直到下个学的进展直到下个世纪。世纪。l数学是科学的皇后数学是科学的皇后l17771855 德国德国 拉普拉斯认为：高斯是世界上最伟大的数学家拉普拉斯认为：高斯是世界上最伟大的数学家 主要贡献主要贡献l数据拟合中最小二乘法数据拟合中最小二乘法l正态分布公式正态分布公式 和高斯曲线和高斯曲线l代数基本定理：多项式解的存在性代数基本定理：多

2、项式解的存在性l对数论、复变函数、椭圆函数、超几对数论、复变函数、椭圆函数、超几何级数、统计数学等各个领域都有卓何级数、统计数学等各个领域都有卓越的贡献越的贡献l第一个成功地运用复数和复平面几何第一个成功地运用复数和复平面几何l算术探究算术探究奠定了近代数论的基础奠定了近代数论的基础l一般曲面论一般曲面论开创了近代微分几何；开创了近代微分几何；最先领悟到存在非欧几何的数学家最先领悟到存在非欧几何的数学家l现代数学分析学大师，现代数学分析学大师，无穷极数的无穷极数的一般研究一般研究，引入了高斯级数的概念，引入了高斯级数的概念，对级数的收敛性第一次作了系统的研对级数的收敛性第一次作了系统的研究，从

3、而开创了关于级数收敛性研究究，从而开创了关于级数收敛性研究的新时代，开辟了通往的新时代，开辟了通往19世纪中叶分世纪中叶分析学的严密化道路。析学的严密化道路。在数学中：以高斯命名的有在数学中：以高斯命名的有l高斯公式高斯公式、高斯曲率、高斯曲率、高斯分布高斯分布、高斯方程、高斯方程、高斯曲线高斯曲线、高斯平面、高斯平面、高斯记号、高斯记号、高斯概率高斯概率、高斯变换、高斯变换、高斯分解、高斯和、高斯素数、高高斯分解、高斯和、高斯素数、高斯级数、高斯系数、高斯准则、高斯级数、高斯系数、高斯准则、高斯原理、斯原理、高斯消元法高斯消元法、高斯映射、高斯映射、高斯测度、高斯二次型、高斯多项高斯测度、高

4、斯二次型、高斯多项式、高斯不等式、式、高斯不等式、高斯随机过程、高斯随机过程、高斯随机变量高斯随机变量等等等等.主要内容主要内容l高斯随机过程定义高斯随机过程定义l多维高斯随机变量多维高斯随机变量l高斯随机过程性质高斯随机过程性质1、高斯随机过程、高斯随机过程定义定义 随机过程随机过程 ，在，在 中的中的任意任意n个时刻个时刻 (n是正整数是正整数)上的上的n维维 随机矢量随机矢量 的联合分布的联合分布密度函数是高斯的：密度函数是高斯的：2、高斯过程的重要性、高斯过程的重要性l广泛性广泛性中心极限定理：大量独立的，均匀微小的随中心极限定理：大量独立的，均匀微小的随机变量总和近似地服从高斯分布机

5、变量总和近似地服从高斯分布例如，无线电设备中的热噪声（前置放大器）例如，无线电设备中的热噪声（前置放大器）、通信信道中噪声信号、大气湍流、宇宙噪、通信信道中噪声信号、大气湍流、宇宙噪声、维纳过程（布朗运动）等等声、维纳过程（布朗运动）等等l数学优点数学优点二阶矩、广义平稳与狭义平稳等价，高斯随二阶矩、广义平稳与狭义平稳等价，高斯随机过程通过线性系统还是高斯随机过程机过程通过线性系统还是高斯随机过程二、多维高斯随机变量二、多维高斯随机变量l一维高斯（正态）分布一维高斯（正态）分布l二维高斯（正态）分布二维高斯（正态）分布l n维高斯（正态）分布维高斯（正态）分布1、一维高斯（正态）分布、一维高斯

6、（正态）分布特别地特别地2、二维高斯（正态）分布、二维高斯（正态）分布特别地特别地 r=0标准化可得：标准化可得：n n维联合分布维联合分布？2、二维高斯分布的矩阵形式、二维高斯分布的矩阵形式2、二维高斯分布的矩阵形式、二维高斯分布的矩阵形式与一元高斯分布相比，可以推与一元高斯分布相比，可以推测测n元高斯分布的形式元高斯分布的形式3、n维高斯联合概率密度维高斯联合概率密度ln维高斯随机变量维高斯随机变量 均值均值矢量矢量 ，且它的协方差矩阵，且它的协方差矩阵 是是正定矩阵，则概率密度函数为：正定矩阵，则概率密度函数为：【补充补充】陈省身陈省身“好数学好数学”l三角形三个内角之和等于三角形三个内

7、角之和等于180度度l三角形三个外角之和等于三角形三个外角之和等于360度度l为什么？为什么？ln边形边形n个内角之和等于个内角之和等于(n-2)180度度ln边形边形n个外角之和等于个外角之和等于360度度3、n维高斯联合概率密度维高斯联合概率密度l先看先看n元完全独立标准高斯随机变量元完全独立标准高斯随机变量3、n 维高斯联合概率密度维高斯联合概率密度3、n维高斯联合概率密度维高斯联合概率密度 协方差矩阵协方差矩阵C为对称正定的，根据矩阵论定为对称正定的，根据矩阵论定理，存在可逆线性变换，可以对角化，也即：理，存在可逆线性变换，可以对角化，也即：雅可比：雅可比：线性变换线性变换4、n 维高

8、斯分布特征函数维高斯分布特征函数证明：先看标准正态证明：先看标准正态于是于是5、多维高斯随机矢量的边沿分布、多维高斯随机矢量的边沿分布l子矢量子矢量6、不相关独立、不相关独立ln维高斯随机变量维高斯随机变量 互不相关，互不相关，则协方差矩阵为对角矩阵，于是则协方差矩阵为对角矩阵，于是不相关独立不相关独立6、子向量的统计独立性、子向量的统计独立性lX为高斯分布的随机矢量，为高斯分布的随机矢量，X1和和X2为两个子矢量，其协方差矩阵为两个子矢量，其协方差矩阵 则则X1和和X2独立的充要条件独立的充要条件证明：证明：l必要性：必要性：两个随机向量独立，则第一个的分量两个随机向量独立，则第一个的分量与

9、所有第二个随机变量的分量独立，与所有第二个随机变量的分量独立，也即也即l充分性：充分性：7、线性变换、线性变换等价定义等价定义 重要重要l 为联合正态分布的为联合正态分布的充分必要条件充分必要条件正态分布正态分布8、n维高斯随机矢量各阶矩维高斯随机矢量各阶矩l一阶矩一阶矩l二阶矩二阶矩三、高斯随机过程三、高斯随机过程l1、高斯随机过程定义、高斯随机过程定义l2、广义平稳严平稳、广义平稳严平稳l3、复高斯随机过程、复高斯随机过程1、高斯随机过程、高斯随机过程定义定义定义：随机过程定义：随机过程 ，在，在 中的中的任意任意n个时刻个时刻 (n是正整数是正整数)上的上的n维维 随机矢量随机矢量 的联

10、合分布的联合分布密度是高斯的：密度是高斯的：2、广义平稳严平稳、广义平稳严平稳3、复高斯随机过程、复高斯随机过程l如果所给定的随机过程如果所给定的随机过程是复高斯随机过程，则在是复高斯随机过程，则在n个时刻对个时刻对应的应的n个复随机变量，个复随机变量，构成构成2n维联合高斯分布。维联合高斯分布。4、高斯随机过程的特性、高斯随机过程的特性l l高斯随机过程完全由它的均值和协方差函高斯随机过程完全由它的均值和协方差函数决定。数决定。l l高斯随机过程在不同时刻高斯随机过程在不同时刻 的的 取值不取值不相关和相互独立等价相关和相互独立等价l l高斯过程的广义平稳性意味着严格平稳性高斯过程的广义平稳

11、性意味着严格平稳性l l高斯随机过程通过线性系统还是高斯的高斯随机过程通过线性系统还是高斯的举例说明举例说明l设设X(t)是定义在是定义在a,b上的高斯随机过上的高斯随机过程，程，是两个任意的非零是两个任意的非零实函数，令实函数，令证明证明联合高斯的。联合高斯的。证明：证明：都是高斯随机变量都是高斯随机变量小结小结l n维正态分布概率密度函数与特征函数，维正态分布概率密度函数与特征函数，注意归纳方法与演绎方法结合的科学思注意归纳方法与演绎方法结合的科学思维方法维方法l判定联合正态的方法判定联合正态的方法l高斯随机过程线性系统也是高斯随机过高斯随机过程线性系统也是高斯随机过程，更进一步任意随机过程可以看成是程，更进一步任意随机过程可以看成是高斯白噪声通过线性系统的输出高斯白噪声通过线性系统的输出本次作业本次作业lP189第第5,7练习题。练习题。谢谢大家谢谢大家