《协方差矩阵PPT课件.ppt》由会员分享,可在线阅读,更多相关《协方差矩阵PPT课件.ppt(22页珍藏版)》请在得力文库 - 分享文档赚钱的网站上搜索。
1、3.3.1 协方差和相关系数协方差和相关系数问题问题对于二维随机变量(X ,Y ):已知联合分布边缘分布这说明对于二维随机变量,除了每个随机变量各自的概率特性以外,相互之间可能还有某种联系问题是用一个什么样的数去反映这种联系 数Y 之间的某种关系)()(YEYXEXE反映了随机变量X ,定义定义 称)()(YEYXEXE协方差记为)()(),cov(YEYXEXEYX称)(),cov(),cov()(YDYXYXXD为(X,Y)的协方差矩阵可以证明协方差矩阵为半正定矩阵协方差和相关系数的定义协方差和相关系数的定义为X,Y的若D (X) 0, D (Y) 0 ,称)()(),cov()()()(
2、)(YDXDYXYDXDYEYXEXE为X,Y 的相关系数,记为)()(),cov(YDXDYXXY事实上,),cov(YXXY若, 0XY 称 X,Y 不相关无量纲的量 利用函数的期望或方差计算协方差若(X,Y)为离散型,ijijjipYEyXExYX11)()(),cov(若(X,Y)为连续型, dxdyyxfYEyXExYX),()()(),cov(协方差和相关系数的计算协方差和相关系数的计算)()()(),cov(YEXEXYEYX)()()(21YDXDYXDq q q 求 cov (X,Y),XY 1 0 p qX P 1 0 p qY P 例例1 1已知 X,Y 的联合分布为:X
3、Ypij 1 010 p 0 0 q0 p 0, D(Y ) 0 时,当且仅当1)()(0XEXtYEYP时,等式成立Cauchy-Schwarz不等式协方差和相关系数的性质协方差和相关系数的性质q q q q q 证明证明令2)()()(XEXtYEYEtg)(),cov(2)(2XDtYXtYD0)(tg对任何实数 t ,0)()(4),(cov42YDXDYX即)()(| ),cov(|2YDXDYX等号成立0)(tg有两个相等的实零点)()()(),cov(0XDYDXDYXt0)(0tg即0)()(20XEXtYEYE又显然0)()(0XEXtYEYE0)()(0XEXtYEYD10
4、)()(0XEXtYEYP10)()(0XEXtYEYP即1)()(0XEXtYEYP即Y 与X 有线性关系的概率等于1,这种线性关系为1)()()()(XDXEXYDYEYP相关系数的性质相关系数的性质1|XY1|XYCauchy-Schwarz不等式的等号成立即Y 与X 有线性关系的概率等于1,这种线性关系为1)()()()(XDXEXYDYEYPq q 1XY0),cov(YX1)()()()(XDXEXYDYEYP1XYP1XY0),cov(YX1)()()()(XDXEXYDYEYP1XYP0XYX,Y 不相关0),cov(YX)()()(YEXEXYE)()()(YDXDYXDX,
5、Y 相互独立X,Y 不相关若 X,Y 服从二维正态分布,X,Y 相互独立X,Y 不相关q 在例1中已知 X ,Y 的联合分布为XYpij 1 010 p 0 0 q0 p 1p + q = 1,)(,)(,)(,)(pqYDpqXDpYEpXE,)(,)(pqXYDpXYE1,),cov(XYpqYX ,pqpYYpqpXX1)(YXP例例4 4设 ( X,Y ) N (1,4;1,4;0.5),Z = X + Y,求 XZ解解, 4)()(, 1)()(YDXDYEXE2),cov(,21YXXY6),cov(),cov(),cov(YXXXZX12),cov(2)()()()(YXYDXD
6、YXDZD231226XZ定义定义设X1,Xn为n个r.v.,记bij=cov(Xi,Xj),i,j=1,2,n则称由bij组成的矩阵为随机变量X1,Xn的协方差矩阵B即以前讲过的n维正态分布的形式中就有协方差矩阵nnnnnnbbbbbbbbbB2122221112113.3.2 协方差矩阵协方差矩阵显然 bii=DXi,i =1,2,nbik=bki,i,k =1,2,n故协方差矩阵B是对称矩阵由柯西-许瓦兹不等式有nkibbbkkiiik, 2 , 1,2如果我们记,),(21EXXEXXEDXXXXXn则有BEXXEXXEDX因此B为),(21nXXXX),(21nEXEXEXEX称为列
7、随机向量X的数学的方差,其中期望对任意实数t1,tn,有ninkkiikt tb110如果记t=(t1,tn),上式即为0DXttBtt证明证明设),(),(21nkiikxxxfxxf),(kiXX),(21nXXXninkkiikt tb11kikiikkkiininkkidxdxxxfEXxEXxt t),()(11 协方差矩阵的性质协方差矩阵的性质q 的概率密度函数,则以及分别为nnkkiininkkidxdxxxxfEXxEXxt t12111),()( nniiniidxdxxxxfEXxt12121),()( 0这表示B是非负定的,由矩阵论的二次型理论知,对任意正整数k(1kn),有0212222111211kkkkkkbbbbbbbbb如果X1, ,Xn相互独立,则B为对角矩阵证明证明因为X1, , Xn相互独立,所以当kI时,0ikbq 所以B为对角矩阵作业 P208 习题三35,36