数值最优化(李董辉)第五章 共轭梯度法.ppt

《数值最优化(李董辉)第五章 共轭梯度法.ppt》由会员分享，可在线阅读，更多相关《数值最优化(李董辉)第五章 共轭梯度法.ppt（21页珍藏版）》请在得力文库 - 分享文档赚钱的网站上搜索。

1、最优化最优化主讲：刘陶文博士课件制作：刘陶文课件制作：刘陶文唯楚有材唯楚有材 於斯为盛於斯为盛第五章第五章 无约束问题算法无约束问题算法(III)(III)共轭梯度法共轭梯度法 第一节第一节 二次函数极小值问题的共轭方向法二次函数极小值问题的共轭方向法 第二节第二节 非线性共轭梯度法非线性共轭梯度法 第一节第一节 二次函数极小值问题的共轭方向法二次函数极小值问题的共轭方向法这说明这说明 Broyden 族算法族算法 被用来求解凸二次函数的被用来求解凸二次函数的极小化问题时属于共轭方向法。极小化问题时属于共轭方向法。前面讨论的共轭方向法前面讨论的共轭方向法 需要在算法之初需要在算法之初 产生产生

2、n n 个共轭方向，个共轭方向，因而需要很大的存贮量，而且不能用来求解非二次问题。因而需要很大的存贮量，而且不能用来求解非二次问题。在下一节我们介绍逐次产生共轭方向的非线性共轭梯度，而且在下一节我们介绍逐次产生共轭方向的非线性共轭梯度，而且可用来求解非二次函数的极小化问题可用来求解非二次函数的极小化问题 第二节第二节 非线性共轭梯度法非线性共轭梯度法(5.11)使用精确线性搜索的共轭梯度法，我们有下面的使用精确线性搜索的共轭梯度法，我们有下面的全局收敛性结果：三个定理全局收敛性结果：三个定理当使用前面介绍的两类非精确线性搜索时，共轭梯度法当使用前面介绍的两类非精确线性搜索时，共轭梯度法的全局收敛还有待于进一步的研究。的全局收敛还有待于进一步的研究。强强Wolfe 型线性搜索：型线性搜索：