数理统计与随机过程幻灯片.ppt

《数理统计与随机过程幻灯片.ppt》由会员分享，可在线阅读，更多相关《数理统计与随机过程幻灯片.ppt（67页珍藏版）》请在得力文库 - 分享文档赚钱的网站上搜索。

1、数理统计与随机过程第1页，共67页，编辑于2022年，星期六第十章第十章 随机过程及其统计描述随机过程及其统计描述10.1 随机过程的概念随机过程的概念 对于一些随机现象，有时不能用随机变量或多维随对于一些随机现象，有时不能用随机变量或多维随机变量来描述，需要用一族机变量来描述，需要用一族(无限多个无限多个)随机变量来描述。随机变量来描述。现在来看一个具体例子。现在来看一个具体例子。热噪声电压热噪声电压:电子元件或器件由于内部微观粒子电子元件或器件由于内部微观粒子(如如电子电子)的随机运动所引起的端电压称为热噪声电压的随机运动所引起的端电压称为热噪声电压,它在它在任一确定时刻任一确定时刻 t

2、的值都是一随机变量的值都是一随机变量,记为记为V(t)。不同时刻对应不同的随机变量。当时间在某个区间不同时刻对应不同的随机变量。当时间在某个区间,如如0,)上变化时，热噪声电压表现为一族随机变量上变化时，热噪声电压表现为一族随机变量,记为记为 V(t),t0。第2页，共67页，编辑于2022年，星期六 在无线电通讯技术中，接收机在接收信号时，机内的热噪在无线电通讯技术中，接收机在接收信号时，机内的热噪声电压要对信号产生持续的干扰，为消除这种干扰，就必须掌声电压要对信号产生持续的干扰，为消除这种干扰，就必须掌握热噪声电压随时间变化的过程。为此，我们通过某种装置对握热噪声电压随时间变化的过程。为此

3、，我们通过某种装置对元件元件(或器件或器件)两端的热噪声电压进行长时间的测量，并把结果两端的热噪声电压进行长时间的测量，并把结果自动记录下来。自动记录下来。作一次试验作一次试验作一次试验作一次试验(测量一此长时间内的热噪声电压测量一此长时间内的热噪声电压测量一此长时间内的热噪声电压测量一此长时间内的热噪声电压)，得到，得到，得到，得到一个一个一个一个电压电压时间时间函数函数v1(t),t 0(如图如图10-1)。这个。这个电压电压时间时间函数在试验前是不可能预先确知的，只有通过测量才能函数在试验前是不可能预先确知的，只有通过测量才能得到。得到。图图10-1 如果在相同条件下独如果在相同条件下独

4、立地再进行一次测量，得立地再进行一次测量，得到的记录可能是不同的。到的记录可能是不同的。第3页，共67页，编辑于2022年，星期六 事实上，在相同条件下每次测量都将产生不同的事实上，在相同条件下每次测量都将产生不同的电压电压时间时间函数。这样，不断独立地一次次重复测量，函数。这样，不断独立地一次次重复测量，就得到一族不同的就得到一族不同的电压电压时间时间函数，这族函数从另一角函数，这族函数从另一角度规划了热噪声电压。度规划了热噪声电压。图图图图10-110-1第4页，共67页，编辑于2022年，星期六 以上述例子为背景，引入以上述例子为背景，引入随机过程随机过程的概念。的概念。设设 T 是一个

5、无限实数集。我们把依赖于参数是一个无限实数集。我们把依赖于参数 t T 的的一族一族(无限多个无限多个)随机变量收集在一起，称为随机变量收集在一起，称为随机过程随机过程，记记成成 X(t),t T。这里，对每一个这里，对每一个t T，X(t)都是一个随机变量。都是一个随机变量。T 称为称为参数集参数集。常把。常把 t 看作为时间，称看作为时间，称 X(t)为为 t 时刻时刻 过程的过程的状态状态，称称 X(t1)x(实数实数)为为t t1 时过程时过程处于状态处于状态 x。对于一切对于一切 t,X(t)所有可能取得一切值的全体称所有可能取得一切值的全体称为随机过程的为随机过程的状态空间状态空间

6、。第5页，共67页，编辑于2022年，星期六对随机过程对随机过程 X(t)，t T 进行一次试验进行一次试验(即在即在 T上进行上进行一次全程观测一次全程观测)，其结果是，其结果是 t 的函数，记为的函数，记为x(t)，tT，称称它为随机过程的一个它为随机过程的一个样本函数样本函数或或样本曲线样本曲线。所有不同的试验结果构成一族所有不同的试验结果构成一族(可以只包括有限个，如可以只包括有限个，如本节例本节例1)样本函数。样本函数。随机过程可以看作是多维随机变量的延伸。随机过程可以看作是多维随机变量的延伸。随机过程随机过程与与其其样本函数样本函数的关系就像数理统计中的关系就像数理统计中总体总体与

7、与样本样本的关系一样。的关系一样。依照上面的说法，热噪声电压的变化过程依照上面的说法，热噪声电压的变化过程(t)，t是一随机过程，它的状态空间是是一随机过程，它的状态空间是(-,+)，一次观测到的，一次观测到的电电压压时间时间函数就是这个随机过程的一个样本函数。函数就是这个随机过程的一个样本函数。第6页，共67页，编辑于2022年，星期六在以后的叙述中，为简便起见：常以在以后的叙述中，为简便起见：常以 X(t)，t 表表示随机过程。在上下文不致混淆的情形下，一般略去记号示随机过程。在上下文不致混淆的情形下，一般略去记号中的参数集中的参数集 T。第7页，共67页，编辑于2022年，星期六例例1

8、抛一枚硬币试验，样本空间是抛一枚硬币试验，样本空间是 S=H,T，定义，定义其中其中 P(H)=P(T)=1/2。对任意固。对任意固定的定的 t,X(t)是一定义在是一定义在S上的随机上的随机变量；对不同的变量；对不同的 t，X(t)是不同是不同的随机变量的随机变量(见图见图10-2)，所以，所以 X(t)，t (-,+)是一族随机变量，是一族随机变量，即是随机过程。即是随机过程。作一次试验，若出现作一次试验，若出现H，样本函数，样本函数 x1(t)=cos t；若出；若出现现T，样本函数，样本函数 x2(t)=t。故，随机过程对应的一族样本函。故，随机过程对应的一族样本函数仅包含两个函数数仅

9、包含两个函数:cos t,t。显然，这个随机过程的状。显然，这个随机过程的状态空间为态空间为(-,+)。图图10-2第8页，共67页，编辑于2022年，星期六例例2 考虑考虑 式中式中,是正常数，是正常数，是在是在(0,2(0,2)上服从均匀分布的随机上服从均匀分布的随机变量。变量。显然，对任一固定的时刻显然，对任一固定的时刻 t1,X(t1)=cos(t1+)是是一个随机变量。因而，由一个随机变量。因而，由(1.1)式确定的式确定的 X(t)是一随机过程，是一随机过程，通常称它为通常称它为随机相位正弦波随机相位正弦波。其状态空间是。其状态空间是-,。在。在(0,2)内随机地取一数内随机地取一

10、数 i,相应的样本函数是相应的样本函数是 图图10-3中画出了这个随机过程的两条样本曲线。中画出了这个随机过程的两条样本曲线。图图10-3第9页，共67页，编辑于2022年，星期六例例3 在测量运动目标的距离时，存在随机误差。若以在测量运动目标的距离时，存在随机误差。若以(t)表示在时刻表示在时刻 t 的测量误差，则它是一个随机变量。当的测量误差，则它是一个随机变量。当目标随时间目标随时间 t 按一定规律运动时，测量误差按一定规律运动时，测量误差(t)也随时间也随时间 t 而变化。换句话说而变化。换句话说,(t)是依赖于是依赖于 t 的一的一族随机变量，亦即族随机变量，亦即(t),t0是一随机

11、过程，状态空间是一随机过程，状态空间是是(-,+)。第10页，共67页，编辑于2022年，星期六例例4 设某市设某市120急救电话台不断地接到用户的呼叫，若以急救电话台不断地接到用户的呼叫，若以X(t)表示时间间隔表示时间间隔(0,t内接到的呼叫次数，则它是一个随机内接到的呼叫次数，则它是一个随机变量，且对不同的变量，且对不同的 t0,X(t)可能是不同的随机变量。故，可能是不同的随机变量。故，X(t),t 是一随机过程，状态空间是是一随机过程，状态空间是0,1,2,。例例5 考虑掷一颗考虑掷一颗骰子骰子试验。试验。(1).设设Xn是第是第 n 次次(n1)掷的点数，对于掷的点数，对于n=1,

12、2,的的 不同值不同值,Xn是不同的随机变量，因而是不同的随机变量，因而Xn,n1 构成一随机过程构成一随机过程,称为伯努利过程称为伯努利过程,或伯努利随或伯努利随 机序列。状态空间都是机序列。状态空间都是1,2,3,4,5,6。(2).设设Xn是前是前n次掷出的最大点数，则次掷出的最大点数，则Xn,n 1也也 是一随机过程。状态空间是是一随机过程。状态空间是1,2,3,4,5,6。第11页，共67页，编辑于2022年，星期六 随机过程可依其在任意时刻的状态是连续型随机变量随机过程可依其在任意时刻的状态是连续型随机变量或离散型随机变量而分成或离散型随机变量而分成连续型随机过程连续型随机过程或或

13、离散型随机过离散型随机过程程。热噪声电压、例热噪声电压、例2和例和例3是连续型随机过程，例是连续型随机过程，例1,例例4和例和例5是离散型随机过程。是离散型随机过程。随机过程还可依时间随机过程还可依时间(参数参数)是连续或离散进行分类。当时是连续或离散进行分类。当时间集间集T是有限或无限区间时，称是有限或无限区间时，称X(t),t T为为连续参数随机连续参数随机过程过程(以下如无特别指明，随机过程总是指连续参数而言的以下如无特别指明，随机过程总是指连续参数而言的)；如果；如果T是离散集合，例如是离散集合，例如T=0,1,2,，则称，则称X(t),tT为离散参数随机过程或随机序列，此时常记成为离

14、散参数随机过程或随机序列，此时常记成 Xn,n=0,1,2,等，如例等，如例5。第12页，共67页，编辑于2022年，星期六 有时，为了适应数字化的需要，实际中也常将连有时，为了适应数字化的需要，实际中也常将连续参数随机过程转化为随机序列处理。例如续参数随机过程转化为随机序列处理。例如,我们只在我们只在时间集时间集T=t,2t,nt,上观察电阻的热噪上观察电阻的热噪声电压声电压(t)，这时就得到一个随机序列这时就得到一个随机序列V1,V2,Vn,，其中，其中Vn=V(nt)。显然，当显然，当t充分小时，这个随机序列能够近似地充分小时，这个随机序列能够近似地描述连续时间情况下的热噪声电压。描述连

15、续时间情况下的热噪声电压。需注意的是：参数需注意的是：参数 t 虽然通常解释为时间，但它也虽然通常解释为时间，但它也可以表示其它的量。诸如：序号、距离等。如例可以表示其它的量。诸如：序号、距离等。如例5中，中，假定每隔一个单位时间掷假定每隔一个单位时间掷一次骰子一次骰子，则第，则第n次掷出的次掷出的点数点数 Xn就相当于就相当于 t=n时时骰子骰子出现的点数。出现的点数。第13页，共67页，编辑于2022年，星期六10.2 随机过程的统计描述随机过程的统计描述 随机过程在任一时刻的状态是随机变量，由此可以随机过程在任一时刻的状态是随机变量，由此可以利用随机变量利用随机变量(一维或多维一维或多维

16、)的统计描述方法来描述随机的统计描述方法来描述随机过程的统计特征。过程的统计特征。10.2.1 随机过程的分布函数族随机过程的分布函数族 给定随机过程给定随机过程 X(t),t T，对每个固定的，对每个固定的 t T,随机变量随机变量 X(t)的分布函数一般与的分布函数一般与 t 有关，记为有关，记为称其为随机过程称其为随机过程 X(t),t T 的的一维分布函数一维分布函数，称，称Fx(x,t),t T为为一维分布函数族一维分布函数族。第14页，共67页，编辑于2022年，星期六 一维分布函数族刻画了随机过程在各个时刻的统计特一维分布函数族刻画了随机过程在各个时刻的统计特征。为描述随机过程在

17、不同时刻状态之间的相关关系，一征。为描述随机过程在不同时刻状态之间的相关关系，一般要对任意般要对任意 n个个(n=2,3,)不同时刻不同时刻t1,t2,tnT,引入引入 n 维随机变量维随机变量(X(t1),X(t2),X(tn),其联合分布函数记为其联合分布函数记为 对固定的对固定的n,称称FX(x1,x2,xn;t1,t2,tn),tiT为随机过程为随机过程X(t),t T的的 n 维分布函数族。维分布函数族。第15页，共67页，编辑于2022年，星期六 当当n充分大时，充分大时，n 维分布函数族能近似地描述随机维分布函数族能近似地描述随机过程的统计特征。显然，过程的统计特征。显然，n 取

18、得愈大，则取得愈大，则n维分布函数维分布函数族描述随机过程的特征也愈趋于完善。一般地族描述随机过程的特征也愈趋于完善。一般地,可以指可以指出出(科尔莫戈罗夫定理科尔莫戈罗夫定理):有限维分布函数族，有限维分布函数族，即即FX(x1,x2,xn;t1,t2,tn),n=1,2,tiT完全地确定了完全地确定了随机过程的统计特征。随机过程的统计特征。上一节，我们曾将随机过程按其状态或时间的连续上一节，我们曾将随机过程按其状态或时间的连续或离散进行了分类。然而，随机过程本质的分类方法乃或离散进行了分类。然而，随机过程本质的分类方法乃是按其分布特征进行分类的。具体地说：就是依照是按其分布特征进行分类的。

19、具体地说：就是依照过程过程在不同时刻的状态之间的特殊统计依赖方式在不同时刻的状态之间的特殊统计依赖方式，抽象出，抽象出一些不同类型的模型。如：一些不同类型的模型。如：独立增量过程、马尔可夫过程、独立增量过程、马尔可夫过程、平稳过程平稳过程等。我们将在以后的章节中对它们作不同程等。我们将在以后的章节中对它们作不同程度的介绍。度的介绍。第16页，共67页，编辑于2022年，星期六10.2.2 随机过程的数字特征随机过程的数字特征 随机过程的分布函数族能完善地刻画随机过程的统随机过程的分布函数族能完善地刻画随机过程的统计特征。但是，人们在实际中，根据观察往往只能得到计特征。但是，人们在实际中，根据观

20、察往往只能得到随机过程的部分资料随机过程的部分资料(样本样本)，用它来确定有限维分布函，用它来确定有限维分布函数族是困难的，甚至是不可能的。因而，像引入随机变数族是困难的，甚至是不可能的。因而，像引入随机变量的数字特征那样，有必要引入随机过程的基本数字特量的数字特征那样，有必要引入随机过程的基本数字特征征均值函数均值函数和和相关函数相关函数等。这些数字特征在一定条件下等。这些数字特征在一定条件下是便于测量的。是便于测量的。第17页，共67页，编辑于2022年，星期六 给定随机过程给定随机过程 X(t),t T，固定，固定 t T,X(t)是是一随机变量，它的均值一般与一随机变量，它的均值一般与

21、 t 有关，记为有关，记为称称 X(t)为随机过程为随机过程X(t)，t T的的均值函数均值函数。注意注意,X(t)是随机过程的所有样本函数在时刻是随机过程的所有样本函数在时刻 t 的函数值的平均，通常称这种平均为的函数值的平均，通常称这种平均为集平均集平均或或统计统计平均平均,以区分第十二章中引入的时间平均概念。以区分第十二章中引入的时间平均概念。均值函数均值函数X(t)表示了表示了随机过程随机过程 X(t)在各个时刻的在各个时刻的摆动中心，如图摆动中心，如图10-4所示。所示。第18页，共67页，编辑于2022年，星期六 其次，把随机变量其次，把随机变量X(t)的二阶原点矩和二阶中心矩分的

22、二阶原点矩和二阶中心矩分别记作别记作并分别称它们为随机过程并分别称它们为随机过程X(t),t T的的均方值函数均方值函数和和方差方差函数函数。方差函数的算术平方根。方差函数的算术平方根 X(t)称称为为随机随机过过程的程的标标准差准差函数函数，它表示随机，它表示随机过过程程X(t)在时刻在时刻 t 对于均值对于均值X(t)的平均的平均偏离程度。见图偏离程度。见图10-4。第19页，共67页，编辑于2022年，星期六又，又，对任意对任意 t1,t2T，把随机变量，把随机变量X(t1)和和X(t2)的二阶的二阶原点混合矩记作原点混合矩记作并称它为随机过程并称它为随机过程X(t)，t T的的自相关函

23、数自相关函数，简称，简称相关函数相关函数。记号。记号RXX(t1,t2)在不致混淆时，常简记成在不致混淆时，常简记成RX(t1,t2)。类似地，将类似地，将X(t1)和和X(t2)的二阶混合中心矩记成的二阶混合中心矩记成并称为随机过程并称为随机过程X(t),t T的的自协方差函数自协方差函数，简称，简称协协方差函数方差函数。CXX(t1,t2)也常简记为也常简记为CX(t1,t2)。第20页，共67页，编辑于2022年，星期六 由多维随机变量数字特征的知识可知，由多维随机变量数字特征的知识可知，自相关函自相关函数和自协方差函数是可划随机过程自身在两个不同时数和自协方差函数是可划随机过程自身在两

24、个不同时刻的状态之间统计依赖关系的数字特征。刻的状态之间统计依赖关系的数字特征。现把现把(2.1)(2.5)式定义的诸数字特征之间的式定义的诸数字特征之间的关系简述如下：关系简述如下：由由(2.2)和和(2.4)式知式知,均方值函数为均方值函数为由由(2.5)式展开，得式展开，得特别地，当特别地，当t1=t2=t时，由时，由(2.7)式，得式，得第21页，共67页，编辑于2022年，星期六 由由(2.6)(2.8)式可知，以上诸数字特征中最主要式可知，以上诸数字特征中最主要的是均值函数和自相关函数。的是均值函数和自相关函数。从理论的角度来看，仅仅研究均值函数和自相关函数当然从理论的角度来看，仅

25、仅研究均值函数和自相关函数当然是不能代替对整个随机过程的研究的，但是由于它们确实刻画是不能代替对整个随机过程的研究的，但是由于它们确实刻画了随机过程的主要统计特征，而且远较有限维分布函数族易于了随机过程的主要统计特征，而且远较有限维分布函数族易于观察和实际计算，因而对于应用课题而言观察和实际计算，因而对于应用课题而言,它们常常能够起到它们常常能够起到重要作用。据此重要作用。据此,在随机过程的专著中都着重研究了所谓二阶在随机过程的专著中都着重研究了所谓二阶矩过程。矩过程。随机过程随机过程X(t)，t T，如果对于每一个，如果对于每一个t T，二阶，二阶矩矩EX2(t)都存在，那么称它为都存在，那

26、么称它为二阶矩过程二阶矩过程。第22页，共67页，编辑于2022年，星期六 二阶矩过程的相关函数总存在。事实上，由于二阶矩过程的相关函数总存在。事实上，由于EX2(t1),EX2(t2)存在，根据柯西存在，根据柯西施瓦兹不等式施瓦兹不等式(参见第四章习题参见第四章习题33)，有，有即知：即知：RX(t1,t2)=EX(t1)X(t2)存在。存在。在实际中，常遇到一种特殊的二阶矩过程在实际中，常遇到一种特殊的二阶矩过程正态过程。正态过程。随机过程随机过程X(t),t T称为正态过程，如果对任意称为正态过程，如果对任意 n1及任意及任意 t1,t2,tnT,(X(t1),X(t2),X(tn)服从

27、服从 n 维正态分布维正态分布。由第四章由第四章3、4知，正态过程的全部统计知，正态过程的全部统计特征完全由它的均值函数和自协方差函数特征完全由它的均值函数和自协方差函数(或自相关函数或自相关函数)所确定。所确定。第23页，共67页，编辑于2022年，星期六例例1 设设A,B是两个随机变量是两个随机变量,求随机过程求随机过程X(t)=At+B,t T=(-,+)的均值函数和自相关函数。如果的均值函数和自相关函数。如果A,B相互独立，且相互独立，且 AN(0,1),BU(0,2)，问，问 X(t)的均值函数和自相关函数又的均值函数和自相关函数又是怎样的？是怎样的？解解 X(t)的均值函数和自相关

28、函数分别为的均值函数和自相关函数分别为当当AN(0,1)时，时，EA=0，EA2=1；当；当BU(0,2)时，时，EB=1，EB2=4/3；又因；又因A、B独立时，有独立时，有EAB=EAEB=0。故。故第24页，共67页，编辑于2022年，星期六例例2 求求10.1例例2中随机相位正弦波的均值函数、方差函数中随机相位正弦波的均值函数、方差函数和自相关函数。和自相关函数。由定义，得由定义，得解解 由假设，知由假设，知的概率密度为的概率密度为第25页，共67页，编辑于2022年，星期六自相关函数自相关函数特别地，特别地，令令t1=t2=t,即得方差函数即得方差函数 其中其中=t2-t1。第26页

29、，共67页，编辑于2022年，星期六例例3 设设 X(t)=Acos t+Bsin t,tT=(-,+)，其中，其中A,B相互独立，且均是服从正态分布相互独立，且均是服从正态分布N(0,2)的随机变量，的随机变量，是实常数。证明是实常数。证明:X(t)是正态过程，并求其均值函数和是正态过程，并求其均值函数和自相关函数。自相关函数。解解 由题设，由题设，A,B是相互独立的正态变量，所以是相互独立的正态变量，所以(A,B)是是二维正态变量。对任意一组实数二维正态变量。对任意一组实数t1,t2,tnT,X(ti)=Acosti+Bsinti,i=1,2,n都是都是A,B的线性组合。于是，根据第四章的

30、线性组合。于是，根据第四章4,n维正态变维正态变量的性质量的性质3。,(X(t1),X(t2),X(tn)是是n维正态变量。维正态变量。因为因为n,ti是任意的，由定义，是任意的，由定义，X(t)是正态过程。是正态过程。第27页，共67页，编辑于2022年，星期六另由题设，有另由题设，有E(A)=E(B)=E(AB)=0,E(A2)=E(B2)=2.由此，可算得由此，可算得X(t)的均值函数和自协方差函数的均值函数和自协方差函数(或自相或自相关函数关函数)分别为：分别为：X(t)=EAcost+Bsint=0,CX(t1,t2)=RX(t1,t2)=E(Acost1+Bsint1)(Acost

31、2+Bsint2)=(cos t1 cos t2)E(A2)+(sin t1 sin t2)E(B2)+(cos t1 sin t2+sin t1 cos t2)E(AB)=2(cost1cost2+sint1sint2)=2cos(t2-t1).第28页，共67页，编辑于2022年，星期六10.2.3 二维随机过程的分布函数和数字特征二维随机过程的分布函数和数字特征 实际问题中，我们有时必须同时研究两个或两个实际问题中，我们有时必须同时研究两个或两个以上随机过程及它们之间的统计联系。例如：某地在以上随机过程及它们之间的统计联系。例如：某地在时段时段(0,t内的最高温度内的最高温度X(t)和最

32、低温度和最低温度Y(t)都是随机过都是随机过程，需研究它们的统计联系。又如：输入到一个系统的程，需研究它们的统计联系。又如：输入到一个系统的信号和噪声可都是随机过程，这时，输出也是随机过程。信号和噪声可都是随机过程，这时，输出也是随机过程。我们需要研究输出与输入之间的统计联系等等。对于这我们需要研究输出与输入之间的统计联系等等。对于这类问题，我们除了对各个随机过程的统计特征加以研究类问题，我们除了对各个随机过程的统计特征加以研究外，还必须将几个随机过程作为整体研究其统计特征。外，还必须将几个随机过程作为整体研究其统计特征。第29页，共67页，编辑于2022年，星期六 设设 X(t),tT 和和

33、Y(t),tT 是同一参数空间上是同一参数空间上的两个不同的随机过程，称的两个不同的随机过程，称(X(t),Y(t),tT 是二维是二维随机过程。随机过程。设设(X(t),Y(t),tT 是二维随机过程，如果对任意正是二维随机过程，如果对任意正整数整数n,m，任意数组，任意数组 t1,t2,tn T，t1,t2,tm T，称，称n+m 维随机变量维随机变量(X(t1),X(t2),X(tn),Y(t1),Y(t2),Y(tm)的分布函数的分布函数F(x1,x2,xn;t1,t2,tn:y1,y2,ym;t1,t2,tm)为随机过程为随机过程X(t)与与Y(t)的的n+m维联合分布函数。维联合分

34、布函数。第30页，共67页，编辑于2022年，星期六 如果对任意正整数如果对任意正整数n,m，任意数组，任意数组 t1,t2,tn T;t1,t2,tm T，n维随机变量维随机变量(X(t1),X(t2),X(tn)与与 m维随机变量维随机变量(Y(t1),Y(t2),Y(tm)相相互独立，则称随机过程互独立，则称随机过程X(t)和和 Y(t)是是相互独立的相互独立的。第31页，共67页，编辑于2022年，星期六 关于数字特征，除关于数字特征，除X(t),Y(t)的均值和自相关函数外，的均值和自相关函数外，在应用课题中感兴趣的是在应用课题中感兴趣的是X(t)和和Y(t)的二阶混合原点矩，的二阶

35、混合原点矩，记作记作并称它为并称它为X(t)和和Y(t)的的互相关函数。互相关函数。类似地，还有如下定义的类似地，还有如下定义的X(t)和和Y(t)的的互协方差函互协方差函数数 如果对任意的如果对任意的 t1,t2T，恒有，恒有则称随机过程则称随机过程X(t)和和Y(t)是是不相关的不相关的。第32页，共67页，编辑于2022年，星期六 由第四章由第四章3可推知，两个随机过程如果是相互独立的可推知，两个随机过程如果是相互独立的,且它们的二阶矩存在且它们的二阶矩存在,则它们必然不相关。反之则它们必然不相关。反之,从不相从不相关一般并不能推断出它们相互独立。关一般并不能推断出它们相互独立。当同时考

36、虑当同时考虑 n(n2)个随机过程或个随机过程或 n维随机过程时维随机过程时,我们可类似地引入它们的多维分布，以及均值函数和两两我们可类似地引入它们的多维分布，以及均值函数和两两之间的互相关函数之间的互相关函数(或互协方差函数或互协方差函数)。第33页，共67页，编辑于2022年，星期六 在许多应用问题中，经常要研究几个随机过程之和在许多应用问题中，经常要研究几个随机过程之和(例例如，将信号和噪声同时输入到一个线性系统的情形如，将信号和噪声同时输入到一个线性系统的情形)的统计的统计特征。现考虑三个随机过程特征。现考虑三个随机过程 X(t),Y(t)和和Z(t)之和的情形，之和的情形，令令 W(

37、t)=X(t)+Y(t)+Z(t).显然，均值函数显然，均值函数而而W(t)的自相关函数可以根据均值运算规则和相关函数的定的自相关函数可以根据均值运算规则和相关函数的定义得到，义得到，第34页，共67页，编辑于2022年，星期六 此式表明：几个随机过程之和的自相关函数可以表示为此式表明：几个随机过程之和的自相关函数可以表示为各个随机过程的自相关函数以及各对随机过程的互相关函数各个随机过程的自相关函数以及各对随机过程的互相关函数之和。之和。如果上述如果上述三个随机过程是两两不相关的，且各自的三个随机过程是两两不相关的，且各自的均值函数都为零均值函数都为零，则由，则由(2.11)是可知诸互相关函数

38、均等于是可知诸互相关函数均等于零，此时零，此时W(t)的自相关函数简单地等于各个过程的自相关的自相关函数简单地等于各个过程的自相关函数之和，即函数之和，即特别地，令特别地，令t1=t2=t,由由(2.12)式，得式，得W(t)的方差函数的方差函数(此此处即均方值函数处即均方值函数)为为第35页，共67页，编辑于2022年，星期六10.3 泊松过程及维纳过程泊松过程及维纳过程 泊松泊松(Poission)过程及维纳过程及维纳(Wiener)过程是两个典过程是两个典型的随机过程，在随机过程理论和应用中都占重要地位，型的随机过程，在随机过程理论和应用中都占重要地位，都属于都属于独立增量过程独立增量过

39、程。下面首先介绍独立增量过程。下面首先介绍独立增量过程。给定二阶矩过程给定二阶矩过程X(t),t 0,称称X(t)-X(s),0st为随为随机过程在区间机过程在区间(s,t上的增量。如果对任意正整数上的增量。如果对任意正整数n 和任意和任意 0t0 t1 t2 tn,n个增量个增量 X(t1)-X(t0),X(t2)-X(t1),X(tn)-X(tn-1)相互独立，则称相互独立，则称X(t),t 0为为独立增量过程独立增量过程。直观地说：直观地说：就是在互不重叠的区间上，状态的增量就是在互不重叠的区间上，状态的增量相互独立。相互独立。第36页，共67页，编辑于2022年，星期六 对于独立增量过

40、程，可以证明：在对于独立增量过程，可以证明：在 X(0)=0 的条件下的条件下,过程的有限维分布函数族可以由增量过程的有限维分布函数族可以由增量 X(t)-X(s)(0st)的的分布所确定。分布所确定。特别地，若对任意的实数特别地，若对任意的实数 h 和和 0 s+h t+h,X(t+h)-X(s+h)与与 X(t)-X(s)具有相同的分布，则称具有相同的分布，则称增量具有增量具有平稳性。平稳性。这时，增量这时，增量 X(t)-X(s)的分布函数实际上只依赖于的分布函数实际上只依赖于时间差时间差 t-s(0st)，而不依赖于，而不依赖于t和和 s 本身本身(事实上，令事实上，令h=-s即知即知

41、)。当增量具有平稳性时，称相应的独立增量过程是当增量具有平稳性时，称相应的独立增量过程是齐次齐次的的或或时齐的时齐的。第37页，共67页，编辑于2022年，星期六 在在 X(0)=0 和方差函数和方差函数 DX(t)已知条件下，可计算独立已知条件下，可计算独立增量过程增量过程X(t),t 0的协方差函数的协方差函数CX(s,t)。记记 Y(t)=X(t)-X(t)。首先注意到：当。首先注意到：当 X(t)具有独立具有独立增量时增量时,Y(t)也具有独立增量也具有独立增量;其次其次注意到注意到:Y(0)=0,EY(t)=0，且方差函数，且方差函数 DY(t)=EY2(t)=DX(t)。利用这。利

42、用这些性质，些性质，当当 0st 时时，就有，就有故，对任意故，对任意s,t0，协方差函数可用方差函数表示。，协方差函数可用方差函数表示。第38页，共67页，编辑于2022年，星期六10.3.1 泊松过程泊松过程 考虑下列随时间推移迟早会重复出现的事件：考虑下列随时间推移迟早会重复出现的事件：(1).自电子管阴极发射的电子到达阳极；自电子管阴极发射的电子到达阳极；(2).意外事故或意外差错的发生；意外事故或意外差错的发生；(3).要求服务的顾客到达服务站。要求服务的顾客到达服务站。此处此处“顾客顾客”与与“服务站服务站”的含义是相当广泛的。如的含义是相当广泛的。如:“顾客顾客”可以是电话的呼叫

43、，可以是电话的呼叫，“服务站服务站”是是120急救台；急救台；“顾客顾客”可以是联网的个人电脑，可以是联网的个人电脑，“服务站服务站”是某网站是某网站的主页的主页;“顾客顾客”可以是等待起飞的飞机，可以是等待起飞的飞机，“服务站服务站”是是机场跑道机场跑道等。等。第39页，共67页，编辑于2022年，星期六 为建立一般模型，我们把电子、顾客等看作时间轴为建立一般模型，我们把电子、顾客等看作时间轴上的质点，电子到达阳极、顾客到达服务站等事件的发上的质点，电子到达阳极、顾客到达服务站等事件的发生相当于质点出现。于是，抽象地说，我们研究的对象生相当于质点出现。于是，抽象地说，我们研究的对象将是随时间

44、推移，陆续出现在时间轴上的许多质点所构将是随时间推移，陆续出现在时间轴上的许多质点所构成的随机的质点流。成的随机的质点流。以以N(t),t 0表示在时间间隔表示在时间间隔(0,t内出现的质点数。内出现的质点数。N(t),t 0是一状态取非负整数、时间连续的随机过程，是一状态取非负整数、时间连续的随机过程，称为称为计数过程计数过程。第40页，共67页，编辑于2022年，星期六 计数过程计数过程的样本函数如图的样本函数如图10-5所示，图中所示，图中t1,t2,是质是质点依次出现的时刻。点依次出现的时刻。图图10-5 将增量将增量 N(t)-N(t0)记成记成 N(t0,t),0 t0 0 称为过

45、程称为过程 N(t)的强度，而的强度，而 当当 时是关于时是关于t的高阶无穷小；的高阶无穷小；(3).对于充分小的对于充分小的t,(4).N(0)=0。第42页，共67页，编辑于2022年，星期六 我们把满足条件我们把满足条件(1)(4)的计数过程的计数过程N(t),t 0称作称作强度为强度为 的泊松过程的泊松过程。相应的质点流，即质点出。相应的质点流，即质点出现的随机时刻现的随机时刻 t1,t2,称作称作强度为强度为 的泊松流的泊松流。以下首先来求增量的分布律以下首先来求增量的分布律(3.2)。对于泊松过程，注。对于泊松过程，注意到意到 =1，结合条件，结合条件(2)和和(3)，有，有第43

46、页，共67页，编辑于2022年，星期六 下面就泊松过程来计算概率下面就泊松过程来计算概率(3.2)。首先确定首先确定P0(t0,t)。为此，对。为此，对t 0，考虑，考虑由条件由条件(1)和和(3.5)式，上式可写成式，上式可写成第44页，共67页，编辑于2022年，星期六用用t 除上式两边，并令除上式两边，并令 ，即得，即得P0(t0,t)满足的微满足的微分方程分方程因为因为N(t0,t0)=0，故，故P0(t0,t0)=1。把它看作初始条件即。把它看作初始条件即可从方程可从方程(3.6)解得解得第45页，共67页，编辑于2022年，星期六 再来计算再来计算Pk(t0,t),k1。根据并事件

47、概率公式和。根据并事件概率公式和条件条件(1)，有，有由由(3.2)(3.5)式，并注意到式，并注意到上式可表示成上式可表示成第46页，共67页，编辑于2022年，星期六将此式适当整理后，两边除以将此式适当整理后，两边除以t，并令，并令 ，可得，可得到到 Pk(t0,t)满足的满足的微分微分-差分方程差分方程又因又因 N(t0,t0)=0，故有初始条件，故有初始条件在在(3.8)与与(3.9)中令中令k=1,利用求出的利用求出的P0(t0,t),可解出可解出第47页，共67页，编辑于2022年，星期六 如此重复，即逐次令如此重复，即逐次令 k=2,3,，就得到，就得到(t0,t 时时间段内出现

48、间段内出现 k 个质点的概率为个质点的概率为 由上式易见：增量由上式易见：增量 N(t0,t)=N(t)-N(t0)的概率分的概率分布是参数为布是参数为(t-t0)的泊松分布的泊松分布,且只与时间差且只与时间差 t-t0 有关。有关。所以，强度为所以，强度为 的泊松分布是一齐次的独立增量过程。的泊松分布是一齐次的独立增量过程。第48页，共67页，编辑于2022年，星期六 在一些文献中，泊松过程也用另一种形式定义。在一些文献中，泊松过程也用另一种形式定义。若计数过程若计数过程 N(t),t 0 满足下列三个条件：满足下列三个条件：.过程过程是独立增量过程；是独立增量过程；.对任意对任意 t t0

49、0，N(t)-N(t0)服从参数为服从参数为(t-t0)的的 泊松分布泊松分布;.N(0)=0,则称则称N(t),t 0是强度为是强度为 的泊松过程。的泊松过程。从前面的推导不难看到：从条件从前面的推导不难看到：从条件(1)(4)可推出可推出。反之。反之,在在中令中令 t-t0=t，并利用并利用e-t的泰勒展开式，的泰勒展开式，就能得到条件就能得到条件(2)、(3)。由此可知：定义泊松过程的两组条件。由此可知：定义泊松过程的两组条件是等价的。是等价的。第49页，共67页，编辑于2022年，星期六由由(3.10)式，式，t t00，可知，可知特别地，令特别地，令t0=0，由于假设，由于假设N(0

50、)=0，可推出泊松过程的，可推出泊松过程的均值函数和方差函数分别为均值函数和方差函数分别为 从从(3.11)可看到可看到:=EN(t)/t，即，即泊松过程的强度泊松过程的强度(常常数数)等于单位时间间隔内出现的质点数的期望值等于单位时间间隔内出现的质点数的期望值。第50页，共67页，编辑于2022年，星期六 泊松过程的协方差函数，则可由泊松过程的协方差函数，则可由(3.1),(3.11)式直接式直接推得：推得：相关函数相关函数第51页，共67页，编辑于2022年，星期六 若条件若条件(3.3)式中的强度为非均匀的，即式中的强度为非均匀的，即 是时间是时间 t 的函数的函数 =(t),t0。则称