《计量经济分析方法与建模》课件第二版 第11章状态空间模型和卡尔曼滤波.ppt

《《计量经济分析方法与建模》课件第二版 第11章状态空间模型和卡尔曼滤波.ppt》由会员分享，可在线阅读，更多相关《《计量经济分析方法与建模》课件第二版 第11章状态空间模型和卡尔曼滤波.ppt（108页珍藏版）》请在得力文库 - 分享文档赚钱的网站上搜索。

1、第十一章 状态空间模型和卡尔曼滤波StateSpaceModelsandStateSpaceModelsandKalmanKalmanFilterFilter 上上世世纪纪60年年代代初初，由由于于工工程程控控制制领领域域的的需需要要，产产生生了了卡卡尔尔曼曼滤滤波波 (KalmanFiltering)。进进入入70年年代代初初，人人们们明明确确提提出出了了状状态态空空间间模模型型的的标标准准形形式式，并并开开始始将将其其应应用用到到经经济济领领域域。80年年代代以以后后，状状态态空空间间模模型型已已成成为为一一种种有有力力的的建建模模工工具具。许许多多时时间间序序列列模模型型，包包括括典典型

2、型的的线线性性回回归归模模型型和和ARIMA模模型型都都能能作作为为特特例例写写成成状状态态空空间间的的形形式式，并并估估计计参参数数值值。在在计计量量经经济济学学文文献献中中，状状态态空空间间模模型型被被用用来来估估计计不不可可观观测测的的时时间间变变量量：理理性性预预期期，测测量量误误差差，长长期期收收入入，不不可可观观测测因因素素（趋趋势势和和循循环环要要素素）。状状态态空空间间模模型型在在经经济济计计量量学学领领域域其其他他方方面面的的大大量量应用请参见应用请参见Harvey（1989）和和Hamilton（1994）。1 在在一一般般的的统统计计模模型型中中出出现现的的变变量量都都是

3、是可可以以观观测测到到的的，这这些些模模型型以以反反映映过过去去经经济济变变动动的的时时间间序序列列数数据据为为基基础础，利利用用回回归归分分析析或或时时间间序序列列分分析析等等方方法法估估计计参参数数，进进而而预预测测未未来的值。状态空间模型的特点是提出了来的值。状态空间模型的特点是提出了“状态状态状态状态”这一概念。这一概念。而而实实际际上上，无无论论是是工工程程控控制制问问题题中中出出现现的的某某些些状状态态（如如导导弹弹轨轨迹迹的的控控制制问问题题）还还是是经经济济系系统统所所存存在在的的某某些些状状态态都都是是一一种种不不可可观观测测的的变变量量，正正是是这这种种观观测测不不到到的的

4、变变量量反反映映了了系系统统所所具具有有的的真真实实状状态态，所所以以被被称称为为状状状状态态态态向向向向量量量量。这这种种含含含含有有有有不不不不可可可可观观观观测测测测变变变变量量量量的的的的模模模模型型型型被被被被称称称称为为为为UCUC模模模模型型型型(UnobservableComponentModel)。2UC模模型型通通过过通通常常的的回回归归方方程程式式来来估估计计是是不不可可能能的的，必必须须利利用用状状态态空空间间模模型型来来求求解解。状状状状态态态态空空空空间间间间模模模模型型型型建建建建立立立立了了了了可可可可观观观观测测测测变变变变量量量量和和和和系系系系统统统统内内

5、内内部部部部状状状状态态态态之之之之间间间间的的的的关关关关系系系系，从从而而可可以以通通过过估估计各种不同的状态向量达到分析和观测的目的。计各种不同的状态向量达到分析和观测的目的。EViews状状态态空空间间对对象象对对单单方方程程或或多多方方程程动动态态系系统统提提供供了了一一个个直直接接的的、易易于于使使用用的的界界面面来来建建立立、估估计计及及分分析析方方程程结结果果。它它提提供供了了大大量量的的建建立立、平平滑滑、滤滤波波及及预预测测工工具，帮助我们利用状态空间形式来分析动态系统。具，帮助我们利用状态空间形式来分析动态系统。3利用状态空间形式表示动态系统主要有两个优点：利用状态空间形

6、式表示动态系统主要有两个优点：第第一一，状状态态空空间间模模型型将将不不可可观观测测的的变变量量(状状态态变变量量)并入可观测模型并与其一起得到估计结果；并入可观测模型并与其一起得到估计结果；其其次次，状状态态空空间间模模型型是是利利用用强强有有效效的的递递归归算算法法卡卡卡卡尔尔尔尔曼曼曼曼滤滤滤滤波波波波来来估估计计的的。卡卡尔尔曼曼滤滤波波可可以以用用来来估估计计单单变变量量和和多多变变量量的的ARMA模模型型、MIMIC（多多指指标标和和多多因因果果）模模型、马尔可夫转换模型以及变参数模型。型、马尔可夫转换模型以及变参数模型。411.111.1 状态空间模型的定义状态空间模型的定义状态

7、空间模型的定义状态空间模型的定义 在本节中，我们仅就如何定义并预测一个线性状态空间在本节中，我们仅就如何定义并预测一个线性状态空间模型做以简要的讨论。状态空间模型一般应用于多变量时间模型做以简要的讨论。状态空间模型一般应用于多变量时间序列。设序列。设yt是是包含包含k 个经济变量的个经济变量的k 1维可观测向量。这维可观测向量。这些变量与些变量与m 1维向量维向量 t 有关有关，t t 被称为状态向量被称为状态向量被称为状态向量被称为状态向量。定义。定义“量测方程量测方程量测方程量测方程”(measurementequation)或称或称“信号方程信号方程信号方程信号方程”(signalequ

8、ation)为为(11.1.1)其其中中：T 表表示示样样本本长长度度，Z Zt t 表表示示k m 矩矩阵阵，称称为为量量量量测测测测矩矩矩矩阵阵阵阵，dt 表表示示k 1向向量量，ut 表表示示k 1向向量量，是是均均值值为为0，协协方方差差矩矩阵为阵为Ht 的不相关扰动项，即的不相关扰动项，即(11.1.2)5一一般般地地，t 的的元元素素是是不不可可观观测测的的，然然而而可可表表示示成成一一阶阶马马尔尔 可可 夫夫(Markov)过过 程程。下下 面面 定定 义义 转转转转 移移移移 方方方方 程程程程(transitionequation)或称或称状态方程状态方程状态方程状态方程(s

9、tateequation)为为(11.1.3)其其中中：T Tt t 表表示示m m 矩矩阵阵，称称为为状状状状态态态态矩矩矩矩阵阵阵阵，ct 表表示示m 1向向量量，Rt 表表示示m g 矩矩阵阵，t 表表示示g 1向向量量，是是均均值值为为0，协协方方差差矩矩阵为阵为Qt 的连续的不相关扰动项，即的连续的不相关扰动项，即(11.1.4)量测方程和状态方程的扰动项的协方差矩阵用量测方程和状态方程的扰动项的协方差矩阵用 表示表示6当当k 1时，变为单变量模型，量测方程可以写为时，变为单变量模型，量测方程可以写为(11.1.5)其其中中：Zt 表表示示1 m 矩矩阵阵，t 表表示示m 1状状态态

10、向向量量，ut 是是方方差为差为 2的扰动项的扰动项。7若使上述的状态空间模型成立，还需要满足下面两个假定：若使上述的状态空间模型成立，还需要满足下面两个假定：(1)初始状态向量初始状态向量 0的均值为的均值为a0，协方差矩阵为协方差矩阵为P0，即即(11.1.6)(2)在在所所有有的的时时间间区区间间上上，扰扰动动项项ut 和和 t 相相互互独独立立，而而且且它它们和初始状态们和初始状态 0也不相关，即也不相关，即(11.1.7)且且(11.1.8)8量量测测方方程程中中的的矩矩阵阵Zt,dt,Ht 与与转转移移方方程程中中的的矩矩阵阵Tt,ct,Rt,Qt 统统称称为为系系系系统统统统矩矩

11、矩矩阵阵阵阵。如如不不特特殊殊指指出出，它它们们都都被被假假定定为为非非随随机机的的。因因此此，尽尽管管它它们们能能随随时时间间改改变变，但但是是都都是是可可以以预预先先确确定定的的。对对于于任任一一时时刻刻t，yt 能能够够被被表表示示为为当当前前的的和和过过去去的的ut 和和 t 及及初初始始向向量量 0的的线线性性组组合，所以模型是线性的。合，所以模型是线性的。9 例例例例11.111.1 一阶移动平均模型一阶移动平均模型一阶移动平均模型一阶移动平均模型MA(1)MA(1)(11.1.9)其其中中：E(t)=0，var(t)=2，cov(t,t-s)=0,通通过过定定义义状状态态向量向量

12、 t=(yt,t)可以写成状态空间形式可以写成状态空间形式量量测测方方程程：(11.1.10)状状态态方方程程：(11.1.11)这种形式的特点是不存在量测方程噪声这种形式的特点是不存在量测方程噪声。10 对对于于任任何何特特殊殊的的统统计计模模型型，状状态态向向量量 t 的的定定义义是是由由结结构构确确定定的的。它它的的元元素素一一般般包包含含具具有有实实际际解解释释意意义义的的成成分分，例例如如趋趋势势或或季季节节要要素素。状状态态空空间间模模型型的的目目标标是是，所所建建立立的的状状态态向向量量 t 包包含含了了系系统统在在时时刻刻 t 的的所所有有有有关关信信息息，同同时时又又使使用用

13、尽尽可可能能少少的的元元素素。所所以以如如果果状状态态空空间间模模型型的的状状态态向向量量具具有有最最小小维维数数，则则称称为为最最最最小小小小实实实实现现现现(MinimalRealization)。对对一一个个好好的的状状态态空空间间模模型型，最最小小实实现现是是一一个个基基本本准准则则。然然而而对对于于任任一一特特殊殊问问题题的的状状态态空空间间模模型型的的表示形式却不是惟一的，这一点很容易验证。表示形式却不是惟一的，这一点很容易验证。11 考考虑虑通通过过定定义义一一个个任任意意的的非非奇奇异异矩矩阵阵B，得得到到 t*=B t ，为新的状态向量。用为新的状态向量。用B矩阵左乘状态方程

14、矩阵左乘状态方程(11.1.3)，得到，得到(11.1.12)式式中中Tt*=BTt B-1，ct*=Bct，Rt*=BRt。相相应应的的量量测测方方程程是是(11.1.13)式中式中Zt*=Zt B-1 。12例例11.2二阶自回归模型二阶自回归模型AR(2)(11.1.14)其其中中：E(ut)=0，var(ut)=2，cov(ut,ut-s)=0,考考虑虑两两个个可可能能的的状态空间形式状态空间形式(k=1,m=2)是是(11.1.15)(11.1.16)换一种形式换一种形式(11.1.17)13系系统统矩矩阵阵Zt，Ht，Tt，Rt，Qt 可可以以依依赖赖于于一一个个未未未未知知知知参

15、参参参数数数数的的集集合合。状状态态空空间间模模型型的的一一个个主主要要的的任任务务就就是是估估计计这这些些参参数数，在在例例11.1的的MA(1)模模型型中中的的参参数数 ,2和和例例11.2的的AR(2)模模型型中中的的参参数数 1，2，2是是未未知知的的，这这些些参参数数将将通通过过 向向量量表表示示，并并被被称称为为超超超超参参参参数数数数（hyperparametershyperparameters）。超超参参数数确确定定了了模模型型的的随随机机性性质质，在在ct 和和dt 中中出出现现的的参参数数仅仅影影响响确确定定性性的的可可观观测测变变量量和和状状态态的的期期望望值值。在在状状

16、态态空空间间模模型型中中可可以以引引入入外外生生变变量量作作为为解解释释变变量量，也也可可以以引引入入yt 的的延延迟迟变变量量，这这些些都都可可以以放放到到dt 中中去去。如如果果ct 或或dt 是是未未知知参参数数的的一一个个线线性性函函数数，这这些未知参数也可以作为状态变量或者超参数的一部分元素。些未知参数也可以作为状态变量或者超参数的一部分元素。14 例例例例11.311.3变参数模型变参数模型变参数模型变参数模型 通常的回归模型可用下式表示，即通常的回归模型可用下式表示，即：其其中中：yt是是因因变变量量，xt是是m 1的的解解释释变变量量向向量量，是是待待估估计计的的m 1未未知知

17、参参数数向向量量，ut是是扰扰动动项项。这这种种回回归归方方程程式式所所估估计计的的参参数数在在样样本本期期间间内内是是固固定定的的，可可以以采采用用普普通通最最小小二二乘乘法法(OLS)、工工具变数法等计量经济模型的常用方法进行估计。具变数法等计量经济模型的常用方法进行估计。15实实际际上上近近年年来来，我我国国由由于于经经济济改改革革、各各种种各各样样的的外外界界冲冲击击和和政政策策变变化化等等因因素素的的影影响响，经经济济结结构构正正在在逐逐渐渐发发生生变变化化，而而用用固固定定参参数数模模型型表表现现不不出出来来这这种种经经济济结结构构的的变变化化，因因此此，需需要要考考虑虑采采用用变

18、变变变参参参参数数数数模模模模型型型型(Time-varyingParameterModel)。下下面面利利用用状态空间模型来构造变参数模型。状态空间模型来构造变参数模型。量测方程：量测方程：状态方程：状态方程：16 xt 是是具有随机系数具有随机系数 t 的解释变量的集合，的解释变量的集合，zt 是是有固有固定系数定系数 的解释变量集合，随机系数向量的解释变量集合，随机系数向量 t 是对应于是对应于(11.1.1)中的状态向量，称为可变参数。中的状态向量，称为可变参数。变参数变参数变参数变参数 t t 是不可是不可是不可是不可观测变量，必须利用可观测变量观测变量，必须利用可观测变量观测变量，

19、必须利用可观测变量观测变量，必须利用可观测变量 y yt t 和和和和 x xt t 来来来来估计估计估计估计。假定变参。假定变参数数 t 的变动服从于的变动服从于AR(1)模型（也可以简单地扩展为模型（也可以简单地扩展为AR(p)模型），扰动向量模型），扰动向量 ut,t 假定为相互独立的，且服假定为相互独立的，且服从均值为从均值为0，方差为，方差为 2和协方差矩阵为和协方差矩阵为Q 的正态分布。的正态分布。17 11.211.2卡尔曼滤波卡尔曼滤波卡尔曼滤波卡尔曼滤波(KalmanKalmanFiltering)Filtering)当当一一个个模模型型被被表表示示成成状状态态空空间间形形式

20、式就就可可以以对对其其应应用用一一些些重重要要的的算算法法求求解解。这这些些算算法法的的核核心心是是Kalman滤滤波波。Kalman滤滤波波是是在在时时刻刻t 基基于于所所有有可可得得到到的的信信息息计计算算状状态态向向量量的的最最理理想想的的递递推推过过程程。在在某某些些工工程程问问题题中中，状状态态向向量量的的当当前前值值具具有有重重要要影影响响(例例如如，它它可可以以表表示示火火箭箭在在空空间间的的坐坐标标)。Kalman滤滤波波的的主主要要作作用用是是：当当扰扰动动项项和和初初始始状状态态向向量量服服从从正正态态分分布布时时，能能够够通通过过预预测测误误差差分分解解计计算算似似然然函

21、函数数，从从而而可可以以对对模模型型中中的的所所有有未未知知参参数数进进行行估估计计，并并且且当当新新的的观观测测值值一一旦旦得得到到，就就可可以以利利用用Kalman滤滤波波连连续续地地修修正状态向量的估计。正状态向量的估计。18以以下下设设YT 表表示示在在t=T时时刻刻所所有有可可利利用用的的信信息息的的信信息息集集合合，即即YT=yT,yT-1,y1。状状态态向向量量的的估估计计问问题题根根据信息的多少分为据信息的多少分为3种类型：种类型：(1)当当t T时时，超超出出样样本本的的观观测测区区间间，是是对对未未来来状状态态的估计问题，称为的估计问题，称为预测（预测（预测（预测（pred

22、ictionprediction）；(2)当当t=T 时时，估估计计观观测测区区间间的的最最终终时时点点，即即对对现现在在状态的估计问题，称为状态的估计问题，称为滤波（滤波（滤波（滤波（filteringfiltering）；(3)当当t T 时时，是是基基于于利利用用现现在在为为止止的的观观测测值值对对过过去去状态的估计问题，称为状态的估计问题，称为平滑（平滑（平滑（平滑（smoothingsmoothing）。19进进一一步步，假假定定at t-1和和Pt t-1分分别别表表示示以以利利用用到到t-1为为止止的的信信息息集集合合Yt-1为为条条件件的的状状态态向向量量 t 的的条条件件均均

23、值值和和条条件件误误差协方差矩阵，即差协方差矩阵，即在本节假定系统矩阵在本节假定系统矩阵Zt,Ht,Tt,Rt 和和Qt 是已知的，是已知的，设初始状态向量设初始状态向量 0的均值和误差协方差矩阵的初值为的均值和误差协方差矩阵的初值为a0和和P0，并假定并假定a0和和P0也是已知的。也是已知的。2011.2.111.2.1KalmanKalman滤波的一般形式滤波的一般形式滤波的一般形式滤波的一般形式1 1滤波滤波滤波滤波考考虑虑状状态态空空间间模模型型(11.1.1)和和(11.1.3)，设设a at t-1-1为为为为状状状状态态态态向向向向量量量量 t-t-11的的的的均均均均值值值值，

24、也也是是基基于于信信息息集集合合Yt-1的的 t-1的的估估估估计计计计量量量量，Pt-1表示估计误差的表示估计误差的m m 协方差矩阵，即协方差矩阵，即(11.2.1)21当当给给定定at-1和和Pt-1时时，t 的的条条件件分分布布的的均均值值由由下下式式给给定定，即即(11.2.2)在在扰扰动动项项和和初初始始状状态态向向量量服服从从正正态态分分布布的的假假设设下下，t 的的条条件件分分布布的的均均值值at t-1是是 t 在在最最小小均均方方误误差差意意义义下下的的一一个个最最优估计量。估计误差的协方差矩阵是优估计量。估计误差的协方差矩阵是(11.2.3)式式式式(11.2.2)(11

25、.2.2)和式和式和式和式(11.2.3)(11.2.3)称为预测方程称为预测方程称为预测方程称为预测方程(pedictionpediction equations)equations)。22一一旦旦得得到到新新的的预预测测值值yt，就就能能够够修修正正 t 的的估估计计at t-1，更新方程更新方程更新方程更新方程(updatingequations)(updatingequations)是是是是(11.2.4)和和(11.2.5)其中其中(11.2.6)上述上述式式式式(11.2.2)(11.2.2)式式式式(11.2.6)(11.2.6)一起构成一起构成一起构成一起构成KalmanKal

26、man滤波的公式。滤波的公式。滤波的公式。滤波的公式。23Kalman滤波的初值可以按滤波的初值可以按a0和和P0或或a1 0和和P1 0指定。这样，每当得到一个观测值时，指定。这样，每当得到一个观测值时，Kalman滤波提供滤波提供了状态向量的最优估计。当所有的了状态向量的最优估计。当所有的T 个观测值都已处理，个观测值都已处理，Kalman滤波基于信息集合滤波基于信息集合YT，产生当前状态向量和下产生当前状态向量和下一时间期间状态向量的最优估计。这个估计包含了产生一时间期间状态向量的最优估计。这个估计包含了产生未来状态向量和未来观测值的最优预测所需的所有信息。未来状态向量和未来观测值的最优

27、预测所需的所有信息。242 2平滑平滑平滑平滑平滑（平滑（smoothing）(t=T-1,T-2,1)(11.2.10)(11.2.11)其其中中：aT|T,PT|T 是是平平滑滑的的初初值值，由由Kalman滤滤波波最最后后的的迭迭代代得到。得到。还可以计算得到还可以计算得到yt 的的平滑估计和协方差矩阵平滑估计和协方差矩阵253 3预测预测预测预测如如果果量量测测方方程程(11.1.1)的的扰扰动动项项和和初初始始状状态态向向量量服服从从多多元元正正态态分分布布，则则yt 关关于于Yt-1的的条条件件分分布布也也是是正正态态的的。且且这这个个条件分布的均值和协方差矩阵可以直接由条件分布的

28、均值和协方差矩阵可以直接由Kalman滤波给定。滤波给定。以以信信息息集集Yt-1为为条条件件，t 服服从从具具有有均均值值at t 1和和协协方方差差矩阵矩阵Pt t 1的正态分布。如果量测方程被写为的正态分布。如果量测方程被写为(11.2.12)可可以以直直接接看看出出yt 的的条条件件分分布布是是正正态态的的，yt 的的条条件件均均值值(一一一一步步步步向前向前向前向前(线性线性线性线性)最小均方误差估计最小均方误差估计最小均方误差估计最小均方误差估计):(11.2.13)26一步向前预测误差向量一步向前预测误差向量(11.2.14)预测误差协方差矩阵由式预测误差协方差矩阵由式(11.2

29、.6)的的Ft 给定，即给定，即(11.2.15)由由后后面面11.2.2节节的的论论述述可可以以知知道道条条件件均均值值是是yt 的的最最小小均均方方误误差差意意义义的的最最优优估估计计量量(MMSE)。因因此此，可可以以利利用用式式(11.2.13)，以以及及Kalman滤滤波波公公式式(11.2.2)(11.2.6)，对对yt，t（t=T+1,T+2,）进行预测。进行预测。2711.2.211.2.2KalmanKalman滤波的解释和性质滤波的解释和性质滤波的解释和性质滤波的解释和性质 Kalman滤波的导出依赖于扰动项和初始状态向量服滤波的导出依赖于扰动项和初始状态向量服从正态分布的

30、假设。有了正态分布的假设，就能够基于从正态分布的假设。有了正态分布的假设，就能够基于信息集合信息集合YT=yT,yT-1,y1，利用利用Kalman滤波递滤波递推地计算推地计算 t 的分布。这些条件分布自身也都服从正态分的分布。这些条件分布自身也都服从正态分布，因此也就由它们的均值和协方差矩阵完全确定，这布，因此也就由它们的均值和协方差矩阵完全确定，这就是就是Kalman滤波计算的估计量。为了说明滤波计算的估计量。为了说明 t 的条件均值的条件均值是是 t 在最小均方误差意义下的一个最优估计量，下面首在最小均方误差意义下的一个最优估计量，下面首先介绍均方误差和最小均方估计的概念。先介绍均方误差

31、和最小均方估计的概念。281.1.均方误差均方误差均方误差均方误差设设z 是是随随机机向向量量，已已知知样样本本集集合合ZT=zT,zT-1,z1，是是基基于于ZT的的z的的任任一一估估计计量量，则则定定义义均均方方误误差差（meansquareerror，MSE）为为(11.2.16)2.2.最小均方估计最小均方估计最小均方估计最小均方估计 设设是是基基于于ZT 的的z 的的任任一一估估计计量量，是是其其中中使使均均方方误误差达到最小的差达到最小的z 的估计量，即的估计量，即(11.2.17)则则称称为为z的的最最小小均均方方估估计计(mininummeansquareestimator，M

32、MSE)。29Kalman滤滤波波以以信信息息集集Yt 为为条条件件，产产生生 t 的的条条件件均均值和方差值和方差(11.2.18)(11.2.19)其其中中：数数学学期期望望算算子子下下面面的的下下标标t 表表示示是是关关于于Yt 的的条条件件期望。期望。30设设是是以以信信息息集集Yt 为为条条件件的的 t 的的任任一一估估计计量量，估估计计误误差可以被分为两个部分差可以被分为两个部分(11.2.20)对对式式(11.2.20)两两端端平平方方，并并求求期期望望值值，经经过过计计算算，由由于于混合乘积项为零，得到混合乘积项为零，得到(11.2.21)在在式式(11.2.21)等等号号右右

33、边边的的第第一一项项是是 t 的的条条件件方方差差，由由于于var(t Yt)0，且且与与估估计计量量无无关关，因因此此要要想想使使式式(11.2.21)达达到到最最小小，只只需需在在第第二二项项取取即即可可。也也就就是是说说，t 的的最最小小均均方方估估计计(MMSE)就就是是由由Kalman滤滤波波所所得得到的条件均值到的条件均值at=E(t Yt)，并且是惟一的。并且是惟一的。31当当状状态态空空间间模模型型的的扰扰动动项项的的分分布布不不能能满满足足正正态态分分布布假假定定时时，一一般般地地，Kalman滤滤波波所所产产生生的的估估计计量量at 不不再再是是状状态态向向量量 t 的的条

34、条件件均均值值，换换句句话话说说，式式(11.2.18)将将不不成成立立。但但是是如如果果限限制制估估计计量量是是观观测测值值的的线线性性组组合合，即即在在所所有有线线性性估估计计范范围围内内，at 是是具具有有最最小小均均方方误误差差意意义义上上的的最最优优估估计计量量。此此时时称称at 是是基基于于信信息息集集Yt 的的 t 的的最最小小均均方方线线性性估估计计量量(minimummeansquarelinearestimator，MMSLE)，估估计计误误差差的的协协方方差矩阵是由差矩阵是由Kalman滤波给出的滤波给出的Pt 矩阵。矩阵。32进进一一步步地地，上上述述关关于于状状态态向

35、向量量 t 的的论论述述也也可可以以类类似似地地用用来来解解释释yt 基基于于信信息息集集Yt1的的条条件件均均值值，用用表表示示，即即(11.2.22)在正态假定下，在正态假定下，是是yt 在最小均方误差意义下的在最小均方误差意义下的最优估计量最优估计量(MMSE)，并且在不满足正态假定时，是并且在不满足正态假定时，是yt 的的最小均方线性估计量最小均方线性估计量(MMSLE)。33预测误差预测误差(11.2.23)被被称称为为新新新新息息息息(innovations)(innovations)，因因为为它它代代表表在在Yt-1的的基基础础上上新新观观测测值值yt 所所带带来来的的信信息息。

36、从从更更新新方方程程(11.2.4)中中可可以以看看出出，新新息息vt 对修正状态向量的估计量起到了关键的作用。对修正状态向量的估计量起到了关键的作用。在在正正态态假假定定下下，根根据据是是最最小小均均方方误误差差意意义义下下的的最最优优估估计计量量，可可以以推推断断vt 的的均均值值是是零零向向量量。进进一一步步地地，从从式式(11.2.23)容易看出容易看出(11.2.24)其其中中：Ft 由由式式(11.2.6)给给定定。在在不不同同的的时时间间区区间间，新新息息vt 是是不不相关的，即相关的，即,(11.2.25)3411.2.311.2.3修正的修正的修正的修正的KalmanKalm

37、an滤波递推公式滤波递推公式滤波递推公式滤波递推公式当当量量测测方方程程和和转转移移方方程程的的扰扰动动项项是是相相关关的的时时候候，需需要要修修改改Kalman滤波。考虑具有量测方程和转移方程的状态空间形式滤波。考虑具有量测方程和转移方程的状态空间形式(11.2.26)(11.2.27)假设假设(11.2.28)其中其中Gt 是已知的是已知的g k 矩阵。量测方程和状态方程的扰动项的矩阵。量测方程和状态方程的扰动项的协方差矩阵用协方差矩阵用 表示表示35注注意意当当量量测测方方程程和和转转移移方方程程的的干干扰扰项项在在同同时时点点相相关关，在在不不同同时时点点不不相相关关时时，Kalman

38、滤滤波波中中的的预预测测公公式式(11.2.2)，(11.2.3)不不变变，更更新新方方程程进进行行如如下下修修改改：在在(11.2.4)和和式式(11.2.5)中中矩矩阵阵Pt t 1Zt 变变为为Pt t 1Zt+Rt Gt，式式(11.2.6)变为变为(11.2.29)3611.2.411.2.4非时变模型及非时变模型及非时变模型及非时变模型及KalmanKalman滤波的收敛性滤波的收敛性滤波的收敛性滤波的收敛性 在在许许多多实实际际应应用用问问题题中中，状状态态空空间间模模型型的的系系统统矩矩阵阵Zt，dt，Ht，Tt，ct，Rt 和和Qt 都都是是不不依依赖赖于于时时间间变变化化的

39、的，这这样样就就可可以以写写成成不不带带时时间间下下标标的的模模型型，称称为为非非时时变变模模型型。一一般般允允许许ct 和和dt 是是依依时时间间变变化化的的，于于是是状状态态空空间间模模型型的的量量测测方方程程(11.1.1)和转移方程和转移方程(11.1.3)就可以写为就可以写为(11.2.32)(11.2.33),(11.2.34)37如如果果系系统统是是稳稳定定的的，则则转转移移矩矩阵阵T 的的所所有有的的特特征征根根的的模模应当小于应当小于1，即，即(11.2.35)且如果初始协方差矩阵且如果初始协方差矩阵P1 0是非负定的，则是非负定的，则(11.2.36)独立于独立于P1 0，

40、Pt+1 t呈指数地迅速收敛到呈指数地迅速收敛到。3811.2.511.2.5KalmanKalman滤波的初始条件滤波的初始条件滤波的初始条件滤波的初始条件(1)仅仅当当状状态态转转移移矩矩阵阵T,方方差差矩矩阵阵P 和和Q 是是非非时时变变的的且且满满足足某某些些稳稳定定性性条条件件，初初始始条条件件的的求求解解才才是是可可能能的的。如如果果初初始始条件的求解是可能的，可以利用关系式：条件的求解是可能的，可以利用关系式：在更复杂的模型中给出求协方差矩阵初始条件在更复杂的模型中给出求协方差矩阵初始条件P0的一种的一种方法方法(11.2.37)式式中中Vec()算算子子是是把把矩矩阵阵拉拉直直

41、，即即表表示示矩矩阵阵的的列列是是一一列列接接着着一一列列而而形形成成一一个个向向量量，而而运运算算符符 表表示示克克罗罗内内克克积积(kroneckerproduct)，I 为单位矩阵。为单位矩阵。39(2)如如果果初初始始条条件件的的求求解解是是不不可可能能的的，状状态态将将按按扩扩散散先先验验处处理理。当当利利用用扩扩散散先先验验时时，采采用用Koopman，Shephard和和Doornik(1998)提提出出的的方方法法将将设设置置 0=0和和P0=I，这这里里 为为一一个个任任意意的的大大数数。如如设设 =106，然然后后通过乘以残差协方差矩阵的最大的对角线元素调整通过乘以残差协方

42、差矩阵的最大的对角线元素调整P。4011.311.3状态空间模型超参数的估计状态空间模型超参数的估计状态空间模型超参数的估计状态空间模型超参数的估计 在在11.2节节讨讨论论利利用用Kalman滤滤波波递递推推公公式式求求状状态态向向量量的的估估计计量量时时，假假定定状状态态空空间间模模型型的的系系统统矩矩阵阵Zt,Ht,Tt,Rt 和和Qt 是是已已知知的的。但但实实际际上上系系系系统统统统矩矩矩矩阵阵阵阵是是是是依依依依赖赖赖赖于于于于一一一一个个个个未未未未知知知知参参参参数数数数的的的的集集集集合合合合，这这这这些些些些未未未未知知知知参参参参数数数数用用用用向向向向量量量量 表表表表

43、示示示示，并并并并被被被被称称称称为为为为超超超超参参参参数数数数。例例如如，在在例例11.1的的一一阶阶移移动动平平均均模模型型MA(1)中中 =(,2)，在在例例11.2的的二二阶阶自自回回归归模模型型AR(2)中中 =(1,2,2)。本本节节对对于于状状态态空空间间模模型型的的量量测测方方程程(11.1.1)和和状状态态方方程程(11.1.3)中中含含有有未未知知参参数数的的情情况况，介介绍绍超超参参数数的的估估计计方法。方法。41在在许许多多问问题题中中，特特别别在在关关于于正正态态分分布布的的各各种种估估计计问问题题中中，极极大大似似然然法法是是最最常常用用的的方方法法，这这主主要要

44、表表现现在在极极大大似似然然估估计计量量常常具具有有某某些些优优良良的的性性质质。这这里里采采用用极极大大似似然然法法估估计计未未知知的的超超参数。参数。极极大大似似然然法法的的原原理理通通常常用用于于观观测测值值y1,y2,yT 相相互互独独立立且且具具有有同同样样分分布布的的情情形形，此此时时它它们们的的联联合合概概率率函函数数被被给给定定为为(11.3.1)其中：其中：P(yt)是是第第t 个观测值的概率密度函数。个观测值的概率密度函数。L(y;)是样是样本本y1,y2,yT 的联合概率密度函数。一旦得到样本观测值，的联合概率密度函数。一旦得到样本观测值，L(y;)就可以被解释为似然函数

45、，并且可以通过关于就可以被解释为似然函数，并且可以通过关于 求求偏导数，使函数偏导数，使函数L(y;)达到最大来求出达到最大来求出 的极大似然估计。的极大似然估计。42然然而而，经经济济时时间间序序列列的的一一个个重重要要特特征征是是经经济济变变量量间间是是不不独独立立的的，因因此此不不能能用用式式(11.3.1)，而而是是利利用用条条件件概概率率密密度度函函数数代代替联合概率密度函数将似然函数表示为替联合概率密度函数将似然函数表示为(11.3.2)其其中中：P(yt Yt-1)表表示示yt 以以直直到到时时刻刻t-1的的信信息息集集合合为为条条件件的的条条件件分分布布，即即Yt-1=yt-1

46、,yt-2,y1，P(yt Yt-1)=P(yt y1,yt-1)。43在在总总体体正正态态的的假假定定之之下下，可可以以将将式式(11.3.2)的的对对数数似似然然函数直接写为函数直接写为(11.3.3)其中其中(11.3.4)由由前前面面11.2.2节节的的论论述述可可以以知知道道条条件件均均值值是是yt 的的最最小小均均方方误误差差意意义义的的最最优优估估计计量量(MMSE)，所所以以k 1向向量量vt 可可以以作作为为一一个个预预测测误误差差向向量量来来解解释释。因因此此(11.3.3)式式有有时时也也称称为为似似然函数形式的预测误差分解。然函数形式的预测误差分解。44极大似然估计量的

47、计算方法有许多种，有解析方法，也极大似然估计量的计算方法有许多种，有解析方法，也有数值解法。设有数值解法。设 =(1,2,n)是待求的未知参数向是待求的未知参数向量，量，首先求极大似然估计的迭代公式。为求极大似然估计，首先求极大似然估计的迭代公式。为求极大似然估计，需要求解需要求解设设是是超超参参数数向向量量的的精精确确值值，采采用用Taylor展展开开式式，取取一一次次近近似似，并并设设 表表示示参参数数空空间间上上的的任任意意一一点点，则则可可将将 lnL(y;)/表示成表示成45令其为令其为0，可得，可得于是得到于是得到迭代公式迭代公式迭代公式迭代公式其其中中：l=1,2,，从从某某个个

48、初初始始设设定定的的参参数数值值(0)出出发发，进进行行迭代过程：迭代过程：(1),(2),(3),。46求求(l)(l=1,2,)，它的收敛值它的收敛值为为所所求求的的极极大大似似然然估估计计。式式中中对对数数似似然然函函数数的的二二二二阶阶阶阶导导导导数数数数矩矩矩矩阵阵阵阵 2 2lnlnL L/被被被被称称称称为为为为海海海海塞塞塞塞(Hessian)(Hessian)矩矩矩矩阵阵阵阵，而而对对数数似似然然函函数数的的一一一一阶阶阶阶导导导导数数数数 lnlnL L/被被被被称称称称为为为为得得得得分分分分向向向向量量量量或或或或JacobianJacobian向向向向量量量量。计计算

49、算海海塞塞(Hessian)矩矩阵阵的的逆逆矩矩阵阵，计计算算量量是是很很大大的的。计计算算方方法法有有多多种种，近近似似的的方方法法可可节节省省时时间间但但缺缺少少严严密密性性，而而严严密密的的方方法又有计算时间长的缺点。法又有计算时间长的缺点。47双侧数值微分双侧数值微分双侧数值微分双侧数值微分被定义为：被定义为：而而单侧数值微分单侧数值微分单侧数值微分单侧数值微分则由下式计算：则由下式计算：这这里里logL 是是似似然然函函数数，s 充充分分接接近近0，上上述述公公式式可可达达到到任任意意精精度度。双双侧侧导导数数更更加加精精确确，但但它它要要对对似似然然函函数数进进行行的的计计算算量量

50、大概是单侧导数的两倍，运行时间上也是如此。大概是单侧导数的两倍，运行时间上也是如此。4811.411.4EViewsEViews软件的相关操作软件的相关操作软件的相关操作软件的相关操作 11.4.111.4.1定义状态空间模型定义状态空间模型定义状态空间模型定义状态空间模型 EViews可可以以处处理理大大量量的的单单方方程程和和多多方方程程状状态态空空间间模模型型，提提供供了了指指定定系系统方程、协方差矩阵和初始条件控制的详细方法。统方程、协方差矩阵和初始条件控制的详细方法。在在定定义义和和估估计计一一个个状状态态空空间间模模型型时时，第第一一步步是是创创建建一一个个状状态态空空间间对对象象