优化设计(ch3).ppt

《优化设计(ch3).ppt》由会员分享，可在线阅读，更多相关《优化设计(ch3).ppt（110页珍藏版）》请在得力文库 - 分享文档赚钱的网站上搜索。

1、第三章第三章 优化设计优化设计1优化设计概论优化设计概论 2优化设计的基本概念优化设计的基本概念3一维搜索方法一维搜索方法 4无约束设计的最优化方法无约束设计的最优化方法 5有约束优化设计的方法有约束优化设计的方法 6优化设计的若干问题优化设计的若干问题7LINGO在优化设计中的应用在优化设计中的应用3.1 优化设计概论优化设计概论1优化设计和示例优化设计和示例1.优化设计：亦称最优化设计，它是以数学规划优化设计：亦称最优化设计，它是以数学规划理论为基础，以电子计算机为辅助工具的一种理论为基础，以电子计算机为辅助工具的一种设计方法。它首先将设计方法。它首先将设计问题设计问题按规定的格式建按规定

2、的格式建立立数学模型数学模型，选择合适的，选择合适的优化方法优化方法，选择或编，选择或编制计算机程序，通过计算机计算获得制计算机程序，通过计算机计算获得最优设计最优设计方案方案。2.优化方法：优化方法：直接法：直接计算目标函数值，比较目标函数值，直接法：直接计算目标函数值，比较目标函数值，并以之作为迭代、收敛根据；并以之作为迭代、收敛根据；求导法：以多变量函数极值理论为基础。求导法：以多变量函数极值理论为基础。3.1 优化设计概论优化设计概论2优化问题的分类优化问题的分类1.无约束问题无约束问题单变量单变量多变量多变量2.有约束问题有约束问题线性约束，线性目标函数线性约束，线性目标函数线性约束

3、，非线形目标函数线性约束，非线形目标函数非线形约束，非线形目标函数非线形约束，非线形目标函数3.1 优化设计概论优化设计概论3优化设计的数学模型优化设计的数学模型1.识别要确定的未知变量识别要确定的未知变量2.识别目标，写成最小化的函数识别目标，写成最小化的函数3.识别问题的约束或限制识别问题的约束或限制;写成等式或不等式写成等式或不等式例题：容积为例题：容积为7850立方厘米的圆罐头盒，用料最立方厘米的圆罐头盒，用料最省。确定省。确定D和和H值值优化设计数学模型优化设计数学模型设计变设计变量量 目目标标函数函数:最小化最小化约约束条件：束条件：3.1 优化设计概论优化设计概论4设计变量和设计

4、空间设计变量和设计空间1.设计变量：设计方案可用一组参数表示，有些设计变量：设计方案可用一组参数表示，有些参数预先给定，称为设计常量；而另一些在设参数预先给定，称为设计常量；而另一些在设计过程中优化选定，称为设计变量。计过程中优化选定，称为设计变量。2.设计空间：某方案有设计空间：某方案有n个设计变量，组成一个个设计变量，组成一个n维列矢量。该矢量可在以维列矢量。该矢量可在以n个设计变量为坐标轴个设计变量为坐标轴组成的组成的n维空间中用一个点来表示。这维空间中用一个点来表示。这n维空间维空间称为设计空间，空间内任意一点称为设计点，称为设计空间，空间内任意一点称为设计点，它代表一个设计方案。它代

5、表一个设计方案。3.通常在保证设计精度的前提下设计变量尽量取通常在保证设计精度的前提下设计变量尽量取的少些。的少些。4.设计变量有连续和离散两种设计变量有连续和离散两种3.1 优化设计概论优化设计概论5约束条件和可行域约束条件和可行域1.约束条件：设计变量的取值范围有限制或必须约束条件：设计变量的取值范围有限制或必须满足一定的条件，这种对设计变量的限制，称满足一定的条件，这种对设计变量的限制，称为约束条。为约束条。2.约束条件的分类：约束条件的分类：等式约束与不等式约束等式约束与不等式约束边界约束和性能约束边界约束和性能约束:前者指取值范围的限制；后者前者指取值范围的限制；后者指力学性能要求的

6、限制。指力学性能要求的限制。3.1 优化设计概论优化设计概论5约束条件和可行域约束条件和可行域3.可行域可行域:每个不等式约束将设计空间划分成每个不等式约束将设计空间划分成满满足和不满足约束条件足和不满足约束条件的两部分，若干个不等式的两部分，若干个不等式约束把设计空间分成两个区域，阴影线内侧区约束把设计空间分成两个区域，阴影线内侧区的点都满足所有不等式约束，称为可行域。的点都满足所有不等式约束，称为可行域。4.当有等式约束时，只能在可行域内的等式约束当有等式约束时，只能在可行域内的等式约束线上取值线上取值.等式约束大大缩小可行域等式约束大大缩小可行域二维设计问题约束的几何关系二维设计问题约束

7、的几何关系X1X23.1 优化设计概论优化设计概论6目标函数目标函数1.定义：优化设计把设计变量与某种标准的关系定义：优化设计把设计变量与某种标准的关系用函数式表达，追求该函数值最小（或最大），用函数式表达，追求该函数值最小（或最大），以求得一组设计变量值，从而获得一个最优设以求得一组设计变量值，从而获得一个最优设计方案。此函数称为目标函数。（设计中欲达计方案。此函数称为目标函数。（设计中欲达到的目标）到的目标）2.作用：衡量设计方案的标准。作用：衡量设计方案的标准。3.目标类型：目标类型：产品设计：技术性能、成本、价格、寿命等；产品设计：技术性能、成本、价格、寿命等；零部件设计：承载能力、可

8、靠性、重量、体积等；零部件设计：承载能力、可靠性、重量、体积等；机构设计：运动学和动力学性质、运动误差等。机构设计：运动学和动力学性质、运动误差等。3.1 优化设计概论优化设计概论7优化设计的几何解释优化设计的几何解释1.目标函数目标函数：2.约束条件约束条件非线性优化问题的图解法。非线性优化问题的图解法。3.1 优化设计概论优化设计概论8目标函数的等值线（面）目标函数的等值线（面）依次令目标函数依次令目标函数F（X）分别等于常数）分别等于常数C1，C2，C3等，等，则在目标函数曲面上，获得等值曲线（面）族。则在目标函数曲面上，获得等值曲线（面）族。3.2 优化设计的基本概念优化设计的基本概念

9、1函数的方向导数与梯度函数的方向导数与梯度1.偏导数：偏导数：一元函数中的导数：描述函数相对于自变量的变化一元函数中的导数：描述函数相对于自变量的变化率；率；多元函数中的偏导数：描述函数只相对于其中一个多元函数中的偏导数：描述函数只相对于其中一个自变量自变量(其余自变量保持不变其余自变量保持不变)的变化率。的变化率。对对n函数，函数在函数，函数在 处沿各处沿各坐标坐标轴的一阶偏导数或变化率分别为：轴的一阶偏导数或变化率分别为：3.2 优化设计的基本概念优化设计的基本概念1函数的方向导数与梯度函数的方向导数与梯度2.方向导数方向导数:函数在某点沿给定方向的变化率。函数在某点沿给定方向的变化率。函

10、数的方向导数函数的方向导数式中式中:cos，cos为某方向为某方向S的方向余弦的方向余弦n元函数在点元函数在点x0处沿处沿S S方向的方向导数方向的方向导数 上式表明了方向导数与偏导数之间的数量关系上式表明了方向导数与偏导数之间的数量关系方向导数是偏导数概念的推广方向导数是偏导数概念的推广方方向向导导数数表表明明了了函函数数F(X)在在点点X(0)沿沿S方方向向的的变变化化率率，它是一个它是一个标量标量 +:函数函数F(X)在在X(0)点处沿点处沿S方向是方向是增加增加的的 -:函数函数F(X)在在X(0)点处沿点处沿S方向是方向是减小减小的的3.2 优化设计的基本概念优化设计的基本概念1函数

11、的方向导数与梯度函数的方向导数与梯度3.梯度梯度二元函数的梯度二元函数的梯度 为函数为函数F(x1，x2)在在X0点处的点处的梯度梯度梯度的模：梯度的模：设设:由上式可见：梯度方向和由上式可见：梯度方向和h 方向重合时，方向导数值方向重合时，方向导数值最大。最大。梯度方向是函数值变化最快的方向，而梯度梯度方向是函数值变化最快的方向，而梯度的模就是函数变化率的最大值的模就是函数变化率的最大值。梯度方向与等值线的关系梯度方向与等值线的关系l因：因：l则有则有 为单位方向向量。为单位方向向量。多元函数的梯度多元函数的梯度u梯度梯度 模：模：u函数的梯度方向与函数等值面相垂直，也就函数的梯度方向与函数

12、等值面相垂直，也就是和等值面上过是和等值面上过x0的一切曲线相垂直。的一切曲线相垂直。u由于梯度的模因点而异，即函数在不同点处由于梯度的模因点而异，即函数在不同点处的最大变化率是不同的。因此，梯度是函数的最大变化率是不同的。因此，梯度是函数的一种局部性质。的一种局部性质。求函数求函数 在点在点3,2T、2,0T的的梯度梯度解解 在点在点x(1)=3,2T,x(2)=2,0T处的梯度为：处的梯度为：若若函函数数在在某某点点取取得得极极值值，则则该该点点的的所所有有一一阶阶偏偏导导数数必必定定为为零零，即梯度为零即梯度为零 3.2 优化设计的基本概念优化设计的基本概念2无约束目标函数的极值条件无约

13、束目标函数的极值条件1.一元函数的极值一元函数的极值必要条件：必要条件：F（x）连续可微）连续可微,充分必要条件：充分必要条件：F（x）单值连续可微，若）单值连续可微，若3.2 优化设计的基本概念优化设计的基本概念2无约束目标函数的极值条件无约束目标函数的极值条件1.一元函数的极值一元函数的极值2.多元函数的多元函数的Taylor展开式：函数在某点附件的展开式：函数在某点附件的近似表达式近似表达式3.多元函数的泰勒展开式多元函数的泰勒展开式一元函数展开成泰勒一元函数展开成泰勒(Taylor)公式公式：二元函数展开成泰勒二元函数展开成泰勒(Taylor)公式：公式：n元函数展开成泰勒元函数展开成

14、泰勒(Taylor)公式：公式：一元函数泰勒一元函数泰勒Taylor展开式展开式二元函数二元函数Taylor展开式展开式对二元函数泰勒展开式只取两项对二元函数泰勒展开式只取两项称为称为海森海森(Hessian)矩阵，二阶偏导矩阵，二阶偏导矩阵矩阵,常用常用H(X)表示。表示。n元函数元函数Taylor展开式展开式当在驻点第二项当在驻点第二项为零，可得：为零，可得：3.2 优化设计的基本概念优化设计的基本概念2无约束目标函数的极值条件无约束目标函数的极值条件4.二次型函数二次型函数二次型：含有二次型：含有n个变量个变量x1,x2,xn的二次的二次齐次齐次多项式多项式实二次型函数：若实二次型函数：

15、若aij均为实常数，简称实二次型。均为实常数，简称实二次型。1.对对所有非零矢量所有非零矢量X，若：，若：则则称称 F(X)正定的正定的2.若若对对所有非零矢量所有非零矢量X，若：，若：则则称称 F(X)负负定的定的 3.2 优化设计的基本概念优化设计的基本概念2无约束目标函数的极值条件无约束目标函数的极值条件5.多元函数的极值多元函数的极值必要条件：必要条件：实二次型函数：若实二次型函数：若aij均为实常数，简称实二次型。均为实常数，简称实二次型。当当 ，为为极大极大值值点点 在在 邻邻域内，域内，对对所有所有X根据二次型函数性根据二次型函数性质质，也可只用，也可只用Hessian矩矩阵阵判

16、断。判断。当当 ，为为极极小小值值点点 当当 ，为为鞍点鞍点 当当H（X）正定，）正定，X为为极小极小值值点点 当当H（X）负负定，定，X为为极大极大值值点点 当当H（X）不定，）不定，X为为鞍点鞍点矩阵的正定条件是：其各阶主子式矩阵的正定条件是：其各阶主子式（对应的各阶行列式）均大于零；（对应的各阶行列式）均大于零；负定的条件是：其各阶主子式负正相负定的条件是：其各阶主子式负正相间。奇数阶小于零；偶数阶大于零间。奇数阶小于零；偶数阶大于零无约束目标函数的极值条件无约束目标函数的极值条件6.例例:目标目标函数如下，求极值点及性质。函数如下，求极值点及性质。解：先求子函数的一阶偏导数并其等于解：

17、先求子函数的一阶偏导数并其等于0，求解驻，求解驻点，即点，即 驻点为（驻点为（1，1）求求H（X）矩阵）矩阵正定正定驻点（驻点（1，1）为极小值）为极小值F（）=4 3.2 优化设计的基本概念优化设计的基本概念3有约束目标函数的极值条件有约束目标函数的极值条件1.函数的凸性函数的凸性一元函数的凸性一元函数的凸性多元函数的凸性多元函数的凸性2.约束问题的极值条件约束问题的极值条件3.2 优化设计的基本概念优化设计的基本概念3有约束目标函数的极值条件有约束目标函数的极值条件1.函数的凸性函数的凸性一元函数的凸性：其曲线上任意两点的连线永不在一元函数的凸性：其曲线上任意两点的连线永不在曲线下方。反之

18、为凹曲线。曲线下方。反之为凹曲线。凸函数凸函数 凹函数凹函数一元函数的凸性一元函数的凸性在线段中任取在线段中任取一点一点x(3)，则有，则有：或或凸函数表达式：凸函数表达式：几何意义：任意两点间的曲线永远在连该两点几何意义：任意两点间的曲线永远在连该两点的直线之下。的直线之下。3.2 优化设计的基本概念优化设计的基本概念3有约束目标函数的极值条件有约束目标函数的极值条件1.函数的凸性函数的凸性多元函数的凸性：先研究凸集才能研究函数的凸性。多元函数的凸性：先研究凸集才能研究函数的凸性。凸集凸集几何特征：其中的任意两点间连线都在这集合内几何特征：其中的任意两点间连线都在这集合内凸集含义：凸集含义：

19、区域内部无空洞区域内部无空洞区域边界无凹陷区域边界无凹陷凸函数凸函数 对凸集对凸集D内，任两点内，任两点X(1)、X(2)及及01,恒有：恒有：则则 F(X)为定义在为定义在凸集凸集D上的一个上的一个凸函数凸函数几何意义为几何意义为：这两个点的连线完全：这两个点的连线完全处在处在F(X)曲线曲线(曲面曲面)的的上方上方，或，或在在F(X)。曲线曲线(曲面曲面)上上 函数凸性的判定：函数凸性的判定：a)若若F(X)在在D1上上为为一阶连续导数一阶连续导数，而，而D又是又是D1内部的一个内部的一个凸集，则凸集，则F(X)为为D上的上的凸函数的凸函数的充分必要条件充分必要条件为：为：b)若若F(X)

20、在在D1上上为二为二阶连续导数阶连续导数，而，而D又是又是D1内部的一个内部的一个凸集，则凸集，则F(X)为为D上的上的凸函数的充分必要条件为凸函数的充分必要条件为:F(X)的的 Hessian矩阵为半正定。即矩阵为半正定。即 H(X)0综上所述：若综上所述：若F(X)其定义域是凸集，它是该凸集内的一个凸其定义域是凸集，它是该凸集内的一个凸函数，则在该凸集内最多只有一个极小值，且它一定是函数，则在该凸集内最多只有一个极小值，且它一定是该集内的全局最小值该集内的全局最小值。凸规划的局部极小点一定是全局极小点凸规划的局部极小点一定是全局极小点 3.2 优化设计的基本概念优化设计的基本概念3有约束目

21、标函数的极值条件有约束目标函数的极值条件2.约束问题的极值条件约束问题的极值条件目标函数及约束函数都是凸函数目标函数及约束函数都是凸函数目标函数及约束函数有一个为非凸函数目标函数及约束函数有一个为非凸函数结论结论库恩库恩-塔克条件（约束极值存在的必要条件）塔克条件（约束极值存在的必要条件）3.2 优化设计的基本概念优化设计的基本概念3有约束目标函数的极值条件有约束目标函数的极值条件2.约束问题的极值条件约束问题的极值条件目标函数及约束函数都是凸函数目标函数及约束函数都是凸函数约束最优点不一定是自然极值点约束最优点不一定是自然极值点3.2 优化设计的基本概念优化设计的基本概念3有约束目标函数的极

22、值条件有约束目标函数的极值条件2.约束问题的极值条件约束问题的极值条件目标函数及约束函数有一个为非凸函数目标函数及约束函数有一个为非凸函数可行域内可出现两个或多个相对极小点，图中可行域内可出现两个或多个相对极小点，图中X*是全域是全域约束极小点。约束极小点。3.2 优化设计的基本概念优化设计的基本概念3有约束目标函数的极值条件有约束目标函数的极值条件2.约束问题的极值条件约束问题的极值条件结论结论:对约束优化既要解决对约束优化既要解决“约束极值存在条件约束极值存在条件”还还要解决要解决“全域最优点全域最优点”的问题。的问题。3.2 优化设计的基本概念优化设计的基本概念3有约束目标函数的极值条件

23、有约束目标函数的极值条件2.约束问题的极值条件约束问题的极值条件库恩库恩-塔克条件塔克条件KT:（约束极值存在的必要条件）不（约束极值存在的必要条件）不是充分条件，因不能确定全局最优解。只判断是否是充分条件，因不能确定全局最优解。只判断是否是一个局部最优解。是一个局部最优解。内容：目标函数梯度可表示成诸约束面梯度线性组合的内容：目标函数梯度可表示成诸约束面梯度线性组合的负值，亦即负值，亦即 q：为在该设计点：为在该设计点X处的约束面数；处的约束面数；：拉格朗日乘子。拉格朗日乘子。库恩库恩-塔克条件塔克条件I.只有一个起作用的约束条件只有一个起作用的约束条件目标函数的负梯度目标函数的负梯度方向与

24、约束函数梯方向与约束函数梯度方向一致度方向一致库恩库恩-塔克条件塔克条件II.有两个起作用的约束条件有两个起作用的约束条件目标函数的负梯度目标函数的负梯度方向在两个约束函方向在两个约束函数梯度的夹角内数梯度的夹角内库恩库恩-塔克条件塔克条件III.有多个起作用的约束条件有多个起作用的约束条件目标函数梯度可表示成诸约束面梯度线性组合目标函数梯度可表示成诸约束面梯度线性组合的负值的负值.IV.库恩库恩-塔克条件是约束优化极值的必要条件，塔克条件是约束优化极值的必要条件，不是充分条件。只有当目标函数及约束函数不是充分条件。只有当目标函数及约束函数都为凸函数时，才是充分必要条件。都为凸函数时，才是充分

25、必要条件。例例:目目标标函数函数约约束条件束条件判断判断是否是否为为极小点极小点解：目解：目标标函数函数和和约约束函数在束函数在X 点的梯度点的梯度 得得1=1，2=1，3=0满满足足库库恩恩-塔克条件，塔克条件，X*是是约约束极小束极小值值。g1(X),g2(X)起作用起作用一、一维搜索和一维搜索最优化方法一、一维搜索和一维搜索最优化方法当当采采用用数数学学规规划划法法寻寻求求多多元元函函数数的的极极值值点点时时，一一般般要要进行一系列如下格式的迭代计算进行一系列如下格式的迭代计算:当方向当方向 给定给定，求最佳步长因子，求最佳步长因子 就是求一元函数就是求一元函数:的极值问题，这一过程被称

26、为一维搜索的极值问题，这一过程被称为一维搜索(单变量优化单变量优化).).为求得值而采用的方法，称为一维搜索最优化方法。为求得值而采用的方法，称为一维搜索最优化方法。3.3一维搜索方法一维搜索方法一维搜索一维搜索3.4 无约束的优化方法无约束的优化方法两大类方法：两大类方法：1、只利用目标函数值本身；、只利用目标函数值本身；2、利用函数的一阶导数甚至二阶导数。利用函数的一阶导数甚至二阶导数。1Powell法法2梯度法梯度法3共轭梯度法共轭梯度法:解决梯度法解决梯度法4变尺度法变尺度法3.4 无约束的优化方法无约束的优化方法1Powell法：法：直接利用函数值来构造共轭方向的一种方法直接利用函数

27、值来构造共轭方向的一种方法 1.共轭方向的概念共轭方向的概念定义定义:设设A为实对称正定为实对称正定n阶方阵，若有两个阶方阵，若有两个n维矢量维矢量S1与与S2满足满足 时，称矢量时，称矢量S1与与S2对于实对对于实对称正定矩阵称正定矩阵A共轭。共轭。若若A为单位矩阵，则两矢量正交为单位矩阵，则两矢量正交（即相互垂直）。共轭方向是正交方向的推广。（即相互垂直）。共轭方向是正交方向的推广。性质：性质：对对n维二次目标函数，从任意点出发，可找到维二次目标函数，从任意点出发，可找到n个共轭矢量，依次对这些矢量分别进行一维搜索，个共轭矢量，依次对这些矢量分别进行一维搜索，就可找到该就可找到该n维二次目

28、标函数的极小点。维二次目标函数的极小点。对二元函数：对二元函数：若其若其Hessian矩阵为正定，其目标函数矩阵为正定，其目标函数的等值线是同心椭圆族。的等值线是同心椭圆族。二次收敛性二次收敛性对二元函数对二元函数特性任意两条平行切特性任意两条平行切线与椭圆族的切点的线与椭圆族的切点的连线，一定通过椭圆连线，一定通过椭圆族的中心。族的中心。对一个正定的二元函对一个正定的二元函数，只要沿两个相互数，只要沿两个相互共轭的方向进行一维共轭的方向进行一维搜索，便可找到极小搜索，便可找到极小点。点。3.4 无约束的优化方法无约束的优化方法1Powell法法2.共轭方向的形成共轭方向的形成选任意初始点选任

29、意初始点X(0)依次沿各坐标方向进行一维搜索。依次沿各坐标方向进行一维搜索。构成第一个共轭方向构成第一个共轭方向 ，再沿，再沿S(1)进行一维搜索得极小点进行一维搜索得极小点 。进行第二轮搜索，获第二个共轭方向。搜索时去掉进行第二轮搜索，获第二个共轭方向。搜索时去掉e1，从，从e2方向开始，将方向开始，将 加到最后。加到最后。再沿此方向进行再沿此方向进行搜索搜索得极小点得极小点 X 。此两方向共轭此两方向共轭3.5 有约束优化设计的方法有约束优化设计的方法 直接法与间接法：前者设法使每次迭代点在可直接法与间接法：前者设法使每次迭代点在可行域内；后者将约束问题通过一定形式的变行域内；后者将约束问

30、题通过一定形式的变换，转化成无约束问题。换，转化成无约束问题。1复合形法复合形法1.基本思想：在可行域内选基本思想：在可行域内选k个设计点，作为初始个设计点，作为初始复合形的顶点，构成一个多面体。经各顶点比复合形的顶点，构成一个多面体。经各顶点比较，找出目标函数最大的为坏点，按一定规则较，找出目标函数最大的为坏点，按一定规则以新点代替坏点，构成新的多边形。多次重复，以新点代替坏点，构成新的多边形。多次重复，使复合性向最优点靠近，最后以顶点中目标函使复合性向最优点靠近，最后以顶点中目标函数最小的做最优点。数最小的做最优点。3.5有约束优化设计的方法有约束优化设计的方法 1复合形法复合形法2.顶点

31、数目：为克服退化顶点数顶点数目：为克服退化顶点数n+1k2n。3.以二维函数为例：以二维函数为例：3k4。4.具体方法：具体方法：三个复合形顶点构成一个三角形，三个复合形顶点构成一个三角形，Xh是最坏点，是最坏点，Xc是除最坏点外的形心，沿是除最坏点外的形心，沿Xh，Xc方向取方向取Xr为映射点为映射点Xr=Xc+a(Xc-Xh),映射系数映射系数=1.3。首先检查首先检查Xr是否在可行域内，若不在将是否在可行域内，若不在将减半再检查，减半再检查，直至退入可行域；直至退入可行域；再检查函数值，若再检查函数值，若F(Xr)F(Xh)以新点代替坏点，以新点代替坏点，否则将否则将减半再检查，直至满足

32、上式。若减至很小，减半再检查，直至满足上式。若减至很小，则依次坏点代替坏点进行映射。直至复合形收缩到则依次坏点代替坏点进行映射。直至复合形收缩到规定的精度范围内。规定的精度范围内。3.5 有约束优化设计的方法有约束优化设计的方法 2罚函数法罚函数法基本思想：把一个有约束的问题转化为无约束问基本思想：把一个有约束的问题转化为无约束问题求解，逐渐逼近于目标函数的最优值。题求解，逐渐逼近于目标函数的最优值。转化方法：在原目标函数中加一些与约束条件有转化方法：在原目标函数中加一些与约束条件有关的项，形成新的目标函数，代替原目标函数，关的项，形成新的目标函数，代替原目标函数，用无约束优化方法求解。用无约

33、束优化方法求解。(X):罚函数，罚函数，T(X):惩罚项，惩罚项，r(k):惩罚因子惩罚因子3.5 有约束优化设计的方法有约束优化设计的方法 2罚函数法罚函数法1.内点罚函数法：内点罚函数法：基本方法：初始点定义在可行域内，设计点趋近于基本方法：初始点定义在可行域内，设计点趋近于可行域边界时，惩罚项急剧增大直至无穷。是一种可行域边界时，惩罚项急剧增大直至无穷。是一种很有效的方法，但不适用于等式约束。很有效的方法，但不适用于等式约束。公式：当公式：当当当惩罚因子是递减的正数序列惩罚因子是递减的正数序列举例举例内点罚函数法内点罚函数法例例2-19 用内点法求目标函数用内点法求目标函数F(X)=ax

34、，受，受 约束于约束于g(X)=b-x 0时的最优解。时的最优解。解：构造解：构造罚函数：罚函数：对罚函数求一阶导数，对罚函数求一阶导数，并令其为零，得极值并令其为零，得极值点为：点为：罚函数值为：罚函数值为：3.5 有约束优化设计的方法有约束优化设计的方法 2罚函数法罚函数法1.内点罚函数法：内点罚函数法：注意事项注意事项:I.初始值必须选在可行域内初始值必须选在可行域内,且避免在边界上且避免在边界上II.初始惩罚因子初始惩罚因子r一般选为一般选为1。特点：有效，但不能处理等式约束；有时初始点难特点：有效，但不能处理等式约束；有时初始点难选。选。3.5 有约束优化设计的方法有约束优化设计的方

35、法 2罚函数法罚函数法2.外点罚函数法：外点罚函数法：基本思想：定义在可行域外，利用罚函数使其逐步基本思想：定义在可行域外，利用罚函数使其逐步逼近约束最优解。逼近约束最优解。公式：当公式：当当当M为惩罚因子，是大于零的递增数列为惩罚因子，是大于零的递增数列:举例举例优点：可处理等式约束，初始点可任意选优点：可处理等式约束，初始点可任意选.内点罚函数法内点罚函数法例例2-21 用用外外点法求目标函数点法求目标函数F(X)=ax，受，受 约束于约束于g(X)=b-x 0时的最优解。时的最优解。解：构造解：构造罚函数：罚函数：对罚函数求一阶导数，对罚函数求一阶导数，并令其为零，得极值并令其为零，得极

36、值点为：点为：罚函数值为：罚函数值为：随随M的增大，罚函数的最优点向原的增大，罚函数的最优点向原函数约束最优点靠拢。函数约束最优点靠拢。3.5 有约束优化设计的方法有约束优化设计的方法 2罚函数法罚函数法3.混合罚函数法：混合罚函数法：特点：利用两者的优点，约束为：特点：利用两者的优点，约束为：一般表达式：一般表达式：一般取：一般取：优化重点优化重点1.图解法：根据给出条件，绘出目标函数等值线、图解法：根据给出条件，绘出目标函数等值线、可行域和最优点；可行域和最优点；2.无约束多元目标函数的极值条件：必要条件：无约束多元目标函数的极值条件：必要条件：；海森（；海森（HESSIAN）矩阵判定是哪

37、类极值；海）矩阵判定是哪类极值；海森矩阵的求出和判定；森矩阵的求出和判定；3.库恩库恩-塔克条件塔克条件:原理；公式及计算；判定极值的原理；公式及计算；判定极值的必要条件，但不是充分条件；其几何意义；必要条件，但不是充分条件；其几何意义；4.一维搜索一维搜索:用作图法和计算法从给定的初始点沿用作图法和计算法从给定的初始点沿给定的方向求出极小点；给定的方向求出极小点；5.梯度法梯度法:原理及特点原理及特点优化重点优化重点1.图解法图解法2.无约束多元目标函数的极值条件无约束多元目标函数的极值条件3.库恩库恩-塔克条件塔克条件4.一维搜索一维搜索5.梯度法梯度法6.二次收敛法二次收敛法:定义；所讲过的方法哪些归此类定义；所讲过的方法哪些归此类;7.共轭的概念共轭的概念:定义；为何能加速收敛定义；为何能加速收敛;8.罚函数法的几何意义罚函数法的几何意义:惩罚项在内、外罚函数法惩罚项在内、外罚函数法中所起的作用中所起的作用.