递推最小二乘法ppt课件.pptx

《递推最小二乘法ppt课件.pptx》由会员分享，可在线阅读，更多相关《递推最小二乘法ppt课件.pptx（31页珍藏版）》请在得力文库 - 分享文档赚钱的网站上搜索。

1、经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用12022/12/28经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用2考虑系统模型：回顾回顾最小二乘法辨识最小二乘法辨识经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用3则可写为 N维输出向量2n+1维参数向量N维噪声向量N(2n+1)维测量矩阵最小二乘法：最小二乘法：经营者提供商品或者服务有欺诈行为的

2、，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用4 最小二乘估计要求残差的平方和为最小，即按照指标函数 为最小来确定估值 。求J对 的偏导数并令其等于0 可得 的最小二乘估计 J为极小值的充分条件是 即矩阵 为正定矩阵正定矩阵。经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用52022/12/28图4.1 动态系统递推最小二乘在线辨识过程原理图经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务

3、的费用62022/12/28令 ，则递推最小二乘算法递推最小二乘法递推最小二乘法经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用72022/12/28该递推公式有明显的物理意义：称 为新息，表示实测值与预报值之差，而 为新息的校正增益。经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用8数据饱和现象数据饱和现象 在实际应用中，递推最小二乘法常常会出现数据饱和现象。所谓数据饱和现象是指随着时间的推移，采集的数据越来越多，新数据提供的信息

4、被旧数据所淹没。经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用9数据饱和现象数据饱和现象 可见，随着递推次数的增加，P(N)将越来越小,最后可能趋于零。因此根据上式，新的采样值对参数估计的改进，已不再起作用了。为了克服数据饱和现象，可以用降低旧数据影响的办法来修改算法。经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用104.6 4.6 渐消记忆递推算法渐消记忆递推算法 渐消记忆法是对每个数据按指数加权，老的数据作用逐渐减弱。如果再

5、获得一对新的观测值 ，则有 由n+N个观测数据获得 的最小二乘估计为经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用此时，由n+N+1个观测数据获得 的最小二乘估计为（*）经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用将上面的结果带入（*）式，并展开得经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用又因为 ，则上式变为 令令 ，则得则得渐消记忆渐消记

6、忆的递推最小二乘算法的递推最小二乘算法经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用渐消记忆渐消记忆递推最小二乘算法递推最小二乘算法经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用渐消记忆渐消记忆递推最小二乘算法递推最小二乘算法 其中，称为“遗忘因子”。选择不同的就得到不同的遗忘效果。越小，遗忘的速度越快。=1：无遗忘；=0：全遗忘 一般来说，必须选择接近于1的正数，对于线性系统，应选择0.951。经营者提供商品或者服务有欺诈行为

7、的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用限定记忆法限定记忆法 思路：限定每次估计都用最新的n+N个数据，增加一个新数据就去掉一个老数据。经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用172022/12/284.7.1 最小二乘估计的特点最小二乘估计的特点1）唯一性唯一性 3）应用简单，鲁棒性好）应用简单，鲁棒性好4.7最小二乘估计的性质最小二乘估计的性质2）适用范围广）适用范围广经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失

8、，增加赔偿的金额为消费者购买商品的价款或接受服务的费用182022/12/284.7.2 最小二乘估计的概率性质最小二乘估计的概率性质 如果如果(k)是不相关随机序列，且均值为是不相关随机序列，且均值为0。1）无偏性无偏性 2）一致性）一致性4）渐进正态性渐进正态性辅助变量法、广义最小二乘法、增广矩阵法辅助变量法、广义最小二乘法、增广矩阵法 如果如果是均值为是均值为0且服从正态分布的白噪声向量，则最小且服从正态分布的白噪声向量，则最小二乘参数估计值服从正态分布。二乘参数估计值服从正态分布。3）有效性有效性在众多无偏估计中，方差最小。在众多无偏估计中，方差最小。经营者提供商品或者服务有欺诈行为的

9、，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用最小二乘估计法的缺陷最小二乘估计法的缺陷 最小二乘估计的无偏性、一致性等概率性质，都是在(k)为零均值、不相关随机序列的前提下得到的。但实际系统中(k)往往是相关的，有些系统即使外加干扰为不相关的随机序列，但在参数估计过程中，也变成相关的随机序列了。经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用最小二乘估计法的缺陷最小二乘估计法的缺陷系统B(z-1)/A(z-1)+经营者提供商品或者服务有欺诈行为的，应当按照消费者的

10、要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用最小二乘估计法的缺陷最小二乘估计法的缺陷 可见(k)是相关序列，进而得到的最小二乘参数估计不是无偏、一致估计。因而，LS估计方法的应用受到一定限制，下面介绍在LS基础上加以改进的方法。经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用224.8 辅助变量法辅助变量法 现在开始讨论如何克服最小二乘法的有偏估计问题。对于原辨识方程（4.8.1）当 是不相关随机序列时，最小二乘法可以得到参数向量 的一致性无偏估计。但是，在实际应用中 往往是相关

11、随机序列。经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用23式中Q是非奇异的。假定存在着一个 的矩阵Z（与 同阶数）,满足约束条件（4.8.2）用 乘以式（4.8.1）等号两边得（4.8.3）由上式可得（4.8.4）经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用24如果取（4.8.5）作为 的估值，则称估值 为辅助变量估值，矩阵Z称为辅助变量矩阵，Z中的元素称为辅助变量。从式（4.8.5）可以看到，与最小二乘法估值 的计算公式具

12、有相同的形式，因此计算比较简单。根据式（4.8.1）和式（4.8.5）可得（4.8.6）经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用25（4.8.7）当N很大时，对上式等号两边取极限得（4.8.8）根据式（4.8.2）所假定的约束条件，可得 因此辅助变量估计是无偏估计。经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用26 剩下的问题是如何选择辅助变量，即如何确定辅助变量矩阵Z的各个元素。选择辅助变量的基本原则是式（4.8.2）所

13、给出的两个条件必须得到满足。这可以简单地理解为所选择的辅助变量应与 不相关，但与 中的 和 强烈相关。经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用27Z可以有多种选择方法，下面介绍两种常用的选择方法。1）迭代辅助变量参数估计法 辅助变量取作 ,是辅助模型（4.8.9）的输出向量 的元素，辅助变量矩阵Z为 经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用28经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损

14、失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用29迭代辅助变量参数估计法迭代辅助变量参数估计法 计算步骤：计算步骤：经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用302）自适应滤波法 这种方法所选择的辅助变量 和辅助变量矩阵Z的形式与上一种方法完全相同，只是辅助模型中参数向量 的估计方法与上一种方法有所不同。取 式中：取 ；d 取 ；为k时刻所得到的参数向量估计值。当 是持续激励信号时，所选的辅助变量可以满足式（4.8.2）所给出的2个约束条件。经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用312022/12/28本次课内容总结本次课内容总结递推最小二乘法带来的数据饱和问题递推最小二乘法带来的数据饱和问题 最小二乘估计法的缺陷最小二乘估计法的缺陷辅助变量法辅助变量法渐消记忆递推最小二乘法渐消记忆递推最小二乘法