最全面随机过程知识点2021.docx

《最全面随机过程知识点2021.docx》由会员分享，可在线阅读，更多相关《最全面随机过程知识点2021.docx（19页珍藏版）》请在得力文库 - 分享文档赚钱的网站上搜索。

1、精品资料积极向上，探索自己本身价值，学业有成学习必备精品知识点第一章：预备知识1.1概率空间随机试验 ，样本空间 记为 。定义 1.1（ 1）（ 2） 若A设 为一个集合，F；F ， 则 AF 为 地某些子集组成地集合族。如果AF；， n1，2，（ 3）若AnAn，则F；Fn 1, F) 称为 可测空间， F 中地元素称为事件。则称 F 为代数(Borel 域 )。 (由定义易知：F；(4)（5)若 A, BF ,则 AF；n1，2， 则i 1BnAi ， Ai， Ai（6）若 AiF， iF.i 1i 1定义 1.2(1)任意 A（2）P设 (F ,01；, F) 为可测空间，P( ) 为定

2、义再F上地实值函数。如果1；P A（3）对两两互不相容事件当 ij时， Ai, 有A1 , A2 ,AjPAiP Aii 1i 1则称 P 为定义, F1.3上地概率， （，F，P ）称为概率空间， P(A) 为事件A 地 概率 。设（，F，P ）为概率空间，GFA1, A2 , AnG ，如果对任意nnn1,2,有：PAiP Ai ,i 1i 1则称 G 为 独立事件族 。1.2随机变量及其分布X ， 分布函数F ( x) ， n 维随机变量随机变量或 n 维随机向量， 联合分布函数，X t , tT 为 独立 地。 1.3 随机变量地数字特征F ( x) ，若定义 1.7设随机变量X 地分

3、布函数为| x | dF (x)，则称xdF (x)E( X ) 为 X 地 数学期望 或 均值 。上式右边地积分称为积分。Lebesgue-Stieltjes方差，BXYEXEXYEYBXY为 X、Y 地协方差 ，而XYDX0, 则称DYX、Y 不相关。为 X、 Y 地相关系数。若（ Schwarz 不等式）XY若22, EY, 则EX2EX 2 EY2 .EXY1.4特征函数、母函数与拉氏变换定义 1. 10设随机变量地分布函数为F（ x），称x ,jtXjtxg (t )为 X 地 特征函数E(e)edFt第 1 页，共 19 页精品资料积极向上，探索自己本身价值，学业有成学习必备精品知

4、识点随机变量地特征函数具有下列性质：(1) g(0)1, g(t)1, g(t )g(t) 1(k )kk,上一致连续。 （ 3） g(0)iE( X)( 2 ) g ( t)再(4) 若X1 , X 2 , X n为相互独立地随机变量，则XX 1X 2X n地特征函数X i 地特征函数，i1,2, n.R,g(t )g1 (t ) g2 (t )gn (t ) ，其中gi (t) 为随机变量定义1 . 11 设X( X 1 , X 2 , X n )为 n 维随机变量，t= ( t1,t 2 ,n, tn则称)itXg(t )g(t1 ,t 2 ,t n )E(e)Eexp(it k X k

5、 ) ,k 1为X 地特征函数 。定义 1.12设 X 为非负整数值随机变量，分布列pkP Xxk , k1,2,则称defXkP( s)E (s) Pk sk0为 X 地 母函数。 1.5若 n 维随机变量维正态分布nX定义( X 1, X 2 , X n ) 地联合概率密度为1.131n / 21 ( x1Ta) B( xa) f (x)f (x , x , x )exp12nn / 22(2)BB(bij )n为正定矩阵，则称X 为 n 维正态随机变式中， a(a1 , a2 ,an ) 为常向量，n量或服从n 维正态分布，记作X N (a, B) 。可以证明，若X N ( a, B)

6、，则 X 地特征函数为expiat1 iBt g(t )g(t , t , t )12n2为了应用地方便，下面，我们不加证明地给出常用地几个结论。E( X k )ak , BX k X lbkl , l1,2,Y , n 。N (aA, A BA) 。即正态若 X N (a, B) 则性质性质12YXA ，若A BA 正定，则设X N (a, B) ，随机变量地线性变换仍为正态随机变量。( X1 , X 2 , X 3 , X 4 )性质 3设0,k1,2,3,4 ，则XE ( X k )为四维正态随机变量，E(X 1 X 2 X 3 X 4 )E( X 1 X 2 ) E( X 3 X 4

7、)E (X 1 X 3 )E( X 2 X 4 )E( X 1X 4 )E( X 2 X 3 )1.6给定 Y=y 时， X 地条件期望定义为条件期望E( X |Y由此可见除了概率为关于事件 样。y)xdF( x| y)xf (x | y)dxY=y 地条件概率以外，现再地定义与无条件地情况完全一E(X|Y=y) 为y 地函数， y 为 Y 地一个可能值。若再已知Y 地条件下，全面地考虑X 地下地均值，需要以条件期望。代替 y， E(X|Y) 为随机变量Y 地函数，也为随机变量，称为X 再YY条件期望再概率论、极其有用地性质。数理统计与随机过程中为一个十分重要地概念，下面我们介绍一个性质若随机

8、变量X 与Y 地期望存再，则E( X )E E( X |Y)E( X |Yy) dFY ( y)-(1)如果 Y 为离散型随机变量，则上式为第 2 页，共 19 页精品资料积极向上，探索自己本身价值，学业有成学习必备精品知识点E( X )E( X |Yy) PYyyf(x) ，则（ 1）式为如果 Y 为连续型，具有概率密度E(X )E( X |Yy) f ( y) dy第二章随机过程地概念与基本类型 2.1随机过程地基本概念定义 2.1设（， F， P ）为概率空间 ,T 为给定地参数集,若对每个t T，有一个随机为（，F，P ）地 随机过程 ,简记为变量 X(t,e) 与之对应，则称随机变量

9、族 X (t,e), tT随机过程。T称为参数集，通常表示时间。 X (t ), tT通常将随机过程 X (t, e), tT 解释为一个物理系统。X(t)表示再时刻，记为 I。t 所处地状态。X(t)地所有可能状态所构成地集合称为状态空间或相空间为定义再T上地二元函数。对固定地t，或 轨道 ，样从数学地观点来说，随机过程 X (t ,e), tT X (t ,e), tT 地一个 样本函数X(t,e)为定义再T 上地普通函数，称为随机过程本函数地全体称为样本函数地空间。2.2随机过程地函数特征X t=X(t),tT 地 有限维分布函数族。有限维特征函数族： gt 1 ,( 1 ,2,n )

10、: t1, t2 , tnT ,n1, tn其中：ngt1 , t n (1 ,2 ,n )E(exp ik x(tk )k 1mX (t)def E X (t) ， tT 。定义 2.3设Xt = X(t), tT 地 均值函数2二阶矩过程，协方差函数：DX (t)BX (t, t) defE X (t )mX (t) , tT相关函数：RX (s,t)E X (s)X (t)定义 2.4设 X(t),t T ，Y(t),t T 为两个二阶矩过程，互协方差函数，互相关函数。2.3复随机过程tT定义设 Xt , tT ， Yt , tZtT 为取实数值地两个随机过程，若对任意2.5X tiYt

11、，其中i1 ，则称 Zt ,tT为 复随机过程 T 地协方差函数B(s,t) 具有性质定理2.2复随机过程 Xt , tB( s, t)B(t , s) ；（ 1）对称性：（ 2）非负定性2.4几种重要地随机过程一、正交增量过程t , t, 有公定义 2.6设为零均值地二阶矩过程，若对任意地t1t2t3t4第 3 页，共 19 页精品资料积极向上，探索自己本身价值，学业有成学习必备精品知识点式t2t1t4t30 ，t则称正交增量过程。2s, tRs,tmin s, t二、独立增量过程t , tt 3,随机为独定义 2.7设为随机过程， 若对任意地正整数n 与t1t2tnt , t变量t 2t1

12、 ,t2 ,t nt n为互相独立地，则称1立增量过程，又称可加过程。t , ts，则称ts 地定义 2.8设为平稳独立增量过程，若对任意st, 随机变量tt,t分布仅依赖于为平稳独立增量过程。三、马尔可夫过程Xt , tx1 ,x1 ,T, X定 义t 2 ,2.9设为随机xn过程， 若对 任意正0 ，且其条件分布整 数n及, P X (t1 )t1tntn11P X (tn )xn | X t1, X tnxn= P X (t n )xn | X tnxn， (2.6)1111则称X t , tT 为马尔可夫过程。四、正态过程与维纳过程X t , tT, X定义设为tn随机过程， 若对任意

13、 正整数与2.10Tnt1 , t2 ,tX t1 , X t2 ,X t , tTn,()为维正态随机变量，则称为正态过程或高斯过程。定义 2.11（ 1） W (0 )W(t),t设为随机过程，如果0 ；（ 2）它为独立、平稳增量过程；（ 3）对s,t ，增量 W (t )W( s) 为维纳过程，也称布朗运动过程。220,| ts | ,0 ，则称W (t),tN2设 W(t),t定理 2.3（1）（2）为参数为地维纳过程，则2) , W(t ) 0,| t |任意 t对任意(,N,；as, t2E (W(s)特别：Rw s, t五、平稳过程W (a)(W (t)W (a)。min( sa

14、, ta) ,2min s,tX, tn t2t,tTn,定 义,t n与2.12设为 随 机 过 程 ，如 果 对 任 意tn常 数与 正整 数当t1 , t1t1,t1 ,t2 ,时，t n,有相同地联合分布，则称X t, tT为 严平稳过程，也称 狭义平稳过程 。X t , tT定义 2.13设为随机过程，如果（ 1）X t , tT为二阶矩过程；ts,t, m, RttR（ 2）对于任意（ 3）对任意地常数；s ，则称s, ttX t ,tT 为广义平稳过程，简称第 4 页，共 19 页精品资料积极向上，探索自己本身价值，学业有成学习必备精品知识点为平稳过程 。若 T 为离散集，则称平

15、稳过程X t ,t第三章T为 平稳序列 。泊松过程 .1泊松过程地定义与例子定义定义(1)(2)(3)计数过程称计数过程 X (t), t3.13.20 为具有参数 0 地泊松过程，若它满足下列条件X(0)= 0 ；X(t) 为独立增量过程；再任一长度为t 地区间中，事件A 发生地次数服从参数t 0 地泊松分布，即对任意 s,t0，有n(t)n!tP X (st )X ( s)ne,( n0,1,2,)(3.1)E X (t)t注意，从条件(3) 知泊松过程为平稳增量过程且E X (t)t。由于，表示单位时间内事件定义 3.3A 发生地平均个数，故称为此过程地 速率 或 强度 。称计数过程 X

16、 (t ), t；0 为具有参数 0 地泊松过程， 若它满足下列条件(1)(2)(3)X(0)= 0X(t) 为独立、平稳增量过程；X(t)满足下列两式：P X (tP X (t定义h)h)X (t)X (t)12ho(h)o( h),(3.2)定理3.2 与定义 3.3 为等价地。3.1泊松过程地基本性质3.2一、数字特征设 X (t), t0 为泊松过程，mX (t)2E( X (t)D( X (t)tt(t)XRX ( s,t )BX ( s,t )E( X ( s) X (t )s(t1)RX (s,t)mx( s)mX (t)s一般泊松过程地有BX ( s, t)min( s,t )

17、 。有特征函数定义，可得泊松过程地特征函数为E eiuX (t ) t (eiug(u)exp1)X二、时间间隔与等待时间地分布Wn 为第 n 次事件 A 出现地时刻或第 它们都为随机变量。Tn 为第 n 个时间间隔，n 次事件 A 地等待时间，1) 为对应地时间间隔序列，定理 3.2设 X (t ),t0 为具有参数地泊松分布， Tn ( n则随机变量 Tn ( n定理3.31,2,) 为独立同分布地均值为1/地指数分布。0 对应地一个等待时间序列，则为与泊松过程 X (t), t设 Wn ,n1Wn服从参数为n 与地分布，其概率密度为n 1t (t )( n0,e,t01)!tfW (t

18、)n0三、到达时间地条件分布第 5 页，共 19 页精品资料积极向上，探索自己本身价值，学业有成学习必备精品知识点设 X (t ), t0 为泊松过程，已知再定理W10,t 内事件 A 发生 n 次，则这 n 次到达3.4W2时间与相应于n 个 0,t 上均匀分布地独立随机变量地顺序统计量有相同Wn地分布。 3.3非齐次泊松过程称计数过程 X (t ), t0 为具有跳跃强度函数(t ) 地非齐次泊松过程，若它定义3.4满足下列条件：X (0)P X (tP X (t0 ； (2)X (t) 为独立增量过程；(1)h)h)X (t)X (t)1(t )ho(h)(3)2o(h)非齐次泊松过程地

19、均值函数为：tmX (t)(s)ds0t定理3.5设 X (t ), t0 为具有均值函数有(s)ds 地非齐次泊松过程，则mX (t )0ns)mX (t )n! mX ( tP X (ts)X (t )nmX(ts)mX ( t) ,exp( n0)或(t) n m XP X ( t)nmXexp(t )n!n 不仅为 t 地函数，也为s 地函数。复合泊松过程上式表明P X (ts)X ( t )3.4 Yk , k1,2,. 为一列独立同分布随定义3.5设 N (t ), t0为强度为地泊松过程，机变量，且与 N (t ), t0N (t )独立，令Yk tx(t)0,k 1则称 X (

20、t), t0 为复合泊松过程。N (t )Yk t定理 3.6设 x(t)0, 为复合泊松过程，则k 1（ 1）。 X (t ), t0 为独立增量过程；gX (t ) (u)expt g Y (u)1（ 2）X(t) 地特征函数g Y (u) 为随机变量Y1 地特，其中征函数；为事件地到达率。2 )2（ 3）若(,E Y1则 E X (t)第 4 章tEY1, D X (t )马尔可夫链tEY1 .4.1马尔可夫链地概念及转移概率一、马尔可夫键地定义nT定义1设有随机过程，若对于任意地整数与任意地 i 0 ,i 1,i nI ， X n, nT1条件概率满足P X ninX0i0 ,X1i1 , X nin1