优化设计1建模及数学基础课件.ppt

2024/7/262024/7/261 1第第3章章  优化设计优化设计l l3.1 优化设计概述l l3.2 优化方法的数学基础l l3.3 一维优化问题l l3.4 多维无约束问题l l3.5 多维有约束问题l l3.6 机械最优化设计中的其他相关问题l l3.7 优化设计工具软件2024/7/262024/7/262 23.1 优化问题概述优化问题概述一、优化问题的基本概念二、优化问题的数学模型三、优化问题的几何描述2024/7/262024/7/263 3一、优化问题的基本概念概述：概述： 优化设计是一种用数学方法解决设计问题的设计方优化设计是一种用数学方法解决设计问题的设计方法，借助计算机技术实现复杂的计算工作法，借助计算机技术实现复杂的计算工作 在多个可行在多个可行方案中选择最好的一个方案中选择最好的一个 （（1 1）建立数学模型）建立数学模型————选取变量，建立优化问题的目标选取变量，建立优化问题的目标函数和约束条件；函数和约束条件； （（2 2）求解数学模型）求解数学模型————在给定的条件下求目标函数的极在给定的条件下求目标函数的极值或最优值问题。

值或最优值问题 机械优化设计就是在给定的载荷或环境条件下，在机机械优化设计就是在给定的载荷或环境条件下，在机械产品的性态、几何尺寸等因素的限制范围内，以其性械产品的性态、几何尺寸等因素的限制范围内，以其性能、强度和经济性等为优化现象，能、强度和经济性等为优化现象，选取变量，建立目标选取变量，建立目标函数和优化条件函数和优化条件并并求解最优值求解最优值的一种现代设计方法的一种现代设计方法 2024/7/262024/7/264 4某车间生产甲、乙两种产品生产甲种产品每件需要材料9Kg、3个工时、4KW电，可获利60元生产乙种产品每件需要材料4Kg、10个工时、5KW电，可获利120元若每天能供应材料360Kg，有300个工时，能供200KW电，问每天生产甲、乙两种产品各多少件，才能获得最大的利润例1 2024/7/262024/7/265 5目标：利润F变量：甲数量x1，乙数量x2约束例1 2024/7/262024/7/266 6      某化工厂生产某化工厂生产某化工厂生产某化工厂生产A,B,C,DA,B,C,D四种化工品，生产每种产品一吨四种化工品，生产每种产品一吨四种化工品，生产每种产品一吨四种化工品，生产每种产品一吨所消耗的工时和产值如下表：要求全厂年产量在所消耗的工时和产值如下表：要求全厂年产量在所消耗的工时和产值如下表：要求全厂年产量在所消耗的工时和产值如下表：要求全厂年产量在10001000万元以上，求当消耗的总工时最少时，该厂生产各种万元以上，求当消耗的总工时最少时，该厂生产各种万元以上，求当消耗的总工时最少时，该厂生产各种万元以上，求当消耗的总工时最少时，该厂生产各种产品的数量。

产品的数量产品的数量产品的数量l l解：解：解：解： 设该厂全年生产设该厂全年生产设该厂全年生产设该厂全年生产A A A A、、、、B B B B、、、、C C C C、、、、D D D D四种产品的数量分别四种产品的数量分别四种产品的数量分别四种产品的数量分别为为为为x x x x1 1 1 1、、、、x x x x2 2 2 2、、、、x x x x3 3 3 3、、、、x x x x4 4 4 4（单位为吨），消耗的总工时为（单位为吨），消耗的总工时为（单位为吨），消耗的总工时为（单位为吨），消耗的总工时为y y y y，则，则，则，则 y = 100xy = 100x1 1 + 300x+ 300x2 2 + 400x+ 400x3 3 + 75x+ 75x4 4 = = f f (x(x1 1, x, x2 2, x, x3 3, x, x4 4) ) 例22024/7/262024/7/267 7满足的限制条件：满足的限制条件：满足的限制条件：满足的限制条件：x x1 1+ 5x+ 5x 2 2+ 10x+ 10x3 3 + 0.5x+ 0.5x4 4 ≥ 10000 (1)≥ 10000 (1) x xi i ≥ 0 i=1, 2, 3, 4 (2)≥ 0 i=1, 2, 3, 4 (2)l l则以上问题可以简化为在（则以上问题可以简化为在（则以上问题可以简化为在（则以上问题可以简化为在（1 1 1 1）、（）、（）、（）、（2 2 2 2）条件下，求）条件下，求）条件下，求）条件下，求min min (y(y) ) ) )时时时时x x1 1, x, x2 2, x, x3 3, x, x4 4 的值。

的值2024/7/262024/7/268 8例3 2024/7/262024/7/269 9例3 2024/7/262024/7/261010例3 2024/7/262024/7/261111例3 2024/7/262024/7/261212总结总结：：优化问题主要是建立数学模型，求极值优化问题主要是建立数学模型，求极值 一个最优化设计问题应包含：一个最优化设计问题应包含： 设计变量、目标函数、约束条件设计变量、目标函数、约束条件设计变量、目标函数、约束条件设计变量、目标函数、约束条件设计变量：在设计过程中进行设计变量：在设计过程中进行选择选择选择选择并最终必须并最终必须确确确确定定定定的各项的各项独立独立独立独立参数 目标函数：设计中预期要达到的目标函数：设计中预期要达到的目标目标 约束条件：设计变量取值时的约束条件：设计变量取值时的限制条件限制条件2024/7/262024/7/261313二、优化问题的数学模型优化数学模型优化数学模型优化数学模型优化数学模型                  根据研究的问题，建立设计变量与目标函数根据研究的问题，建立设计变量与目标函数根据研究的问题，建立设计变量与目标函数根据研究的问题，建立设计变量与目标函数之间的关系，以及设计变量之间应遵守的约束之间的关系，以及设计变量之间应遵守的约束之间的关系，以及设计变量之间应遵守的约束之间的关系，以及设计变量之间应遵守的约束条件。

条件2024/7/262024/7/2614141 1、、、、设计变量设计变量设计变量设计变量：独立影响目标函数的变量：独立影响目标函数的变量：独立影响目标函数的变量：独立影响目标函数的变量              设计常量设计常量设计常量设计常量、优化设计的、优化设计的、优化设计的、优化设计的维数维数维数维数              在一般情况下，若有在一般情况下，若有在一般情况下，若有在一般情况下，若有   n n 个设计变量，把第个设计变量，把第个设计变量，把第个设计变量，把第   i i 个设计变量记为个设计变量记为个设计变量记为个设计变量记为x xi i，，，，则其全部设计变量可用则其全部设计变量可用则其全部设计变量可用则其全部设计变量可用   n n 维向量的形式表示成：维向量的形式表示成：维向量的形式表示成：维向量的形式表示成：二、优化问题的数学模型2024/7/262024/7/2615152024/7/262024/7/261616n n维欧氏空间维欧氏空间维欧氏空间维欧氏空间：：：：          以以以以   n n 个独立变量为坐标轴组成的个独立变量为坐标轴组成的个独立变量为坐标轴组成的个独立变量为坐标轴组成的   n n 维向量空维向量空维向量空维向量空间是一个间是一个间是一个间是一个   n n 维实空间，用维实空间，用维实空间，用维实空间，用   R Rn n 表示，如果其中表示，如果其中表示，如果其中表示，如果其中任意两向量又有内积运算，则称为任意两向量又有内积运算，则称为任意两向量又有内积运算，则称为任意两向量又有内积运算，则称为   n n 维欧氏空维欧氏空维欧氏空维欧氏空间，用间，用间，用间，用   E En n 表示。

此就为优化设计中所谓的表示此就为优化设计中所谓的表示此就为优化设计中所谓的表示此就为优化设计中所谓的“ “设计空间设计空间设计空间设计空间” ” l l          n  n  维空间又称为维空间又称为维空间又称为维空间又称为超越空间超越空间超越空间超越空间l l        设计空间中的一个点就是一种设计空间中的一个点就是一种设计空间中的一个点就是一种设计空间中的一个点就是一种设计方案设计方案设计方案设计方案2024/7/262024/7/2617172024/7/262024/7/2618182 2、目标函数、目标函数、目标函数、目标函数                        目标函数是设计中预期要达到的目标，可目标函数是设计中预期要达到的目标，可目标函数是设计中预期要达到的目标，可目标函数是设计中预期要达到的目标，可表示为各设计变量的函数表达式：表示为各设计变量的函数表达式：表示为各设计变量的函数表达式：表示为各设计变量的函数表达式：                                                                    f f (X) = (X) = f f ( x( x1 1, x, x2 2, , ……, x, xn n ) )l l单目标函数单目标函数单目标函数单目标函数l l多目标函数多目标函数多目标函数多目标函数 目标函数越多，设计的综合效果越好，求解难度越大目标函数越多，设计的综合效果越好，求解难度越大2024/7/262024/7/2619192024/7/262024/7/262020l l等值线：等值线：等值线：等值线：对于具有相同目标函数值的设计点所对于具有相同目标函数值的设计点所对于具有相同目标函数值的设计点所对于具有相同目标函数值的设计点所构成的平面曲线或曲面称为构成的平面曲线或曲面称为构成的平面曲线或曲面称为构成的平面曲线或曲面称为等值线（等高线）或等值线（等高线）或等值线（等高线）或等值线（等高线）或等值面等值面等值面等值面。

当给定目标函数以不同值时，当给定目标函数以不同值时，当给定目标函数以不同值时，当给定目标函数以不同值时，可得到一系列的等值线，它们可得到一系列的等值线，它们可得到一系列的等值线，它们可得到一系列的等值线，它们构成目标函数的构成目标函数的构成目标函数的构成目标函数的等值线族等值线族等值线族等值线族2024/7/262024/7/262121   等值线或等值面的用途：等值线或等值面的用途：等值线或等值面的用途：等值线或等值面的用途：   1.1.在极值处函数的等值线聚成在极值处函数的等值线聚成在极值处函数的等值线聚成在极值处函数的等值线聚成一点一点一点一点，并位于，并位于，并位于，并位于等值线族的中心等值线族的中心等值线族的中心等值线族的中心2.2.当目标函数值的变化范围一定时，等值线的当目标函数值的变化范围一定时，等值线的当目标函数值的变化范围一定时，等值线的当目标函数值的变化范围一定时，等值线的疏密疏密疏密疏密说明目标函数说明目标函数说明目标函数说明目标函数值的值的值的值的变化缓急变化缓急变化缓急变化缓急3.3.在许多优化问题中，最优点周围往往是一族近似的同心椭圆族，在许多优化问题中，最优点周围往往是一族近似的同心椭圆族，在许多优化问题中，最优点周围往往是一族近似的同心椭圆族，在许多优化问题中，最优点周围往往是一族近似的同心椭圆族，每一个近似椭圆就是一条每一个近似椭圆就是一条每一个近似椭圆就是一条每一个近似椭圆就是一条目标函数的等值线目标函数的等值线目标函数的等值线目标函数的等值线，求目标函数极值，求目标函数极值，求目标函数极值，求目标函数极值问题可归结为求其等值线同心椭圆族的中心。

问题可归结为求其等值线同心椭圆族的中心问题可归结为求其等值线同心椭圆族的中心问题可归结为求其等值线同心椭圆族的中心2024/7/262024/7/2622223 3、约束条件、约束条件 设计变量取值的限制条件设计变量取值的限制条件l l 约束条件可以用数学约束条件可以用数学不等式或等式不等式或等式表示l l可行域、不可行域可行域、不可行域 如果设计点落到某个约束边界线（边界面）上，则如果设计点落到某个约束边界线（边界面）上，则称边界点边界点是允许的极限设计方案称边界点边界点是允许的极限设计方案l l 设计约束条件可分为设计约束条件可分为边界约束和性态约束边界约束和性态约束：： 边界约束：用于限制设计变量的变化范围边界约束：用于限制设计变量的变化范围 性态约束（性能约束）：性态约束（性能约束）： 由结构的某种性能或设计要由结构的某种性能或设计要求推导出来的一种约束条件求推导出来的一种约束条件2024/7/262024/7/262323l l4. 4. 优化问题的数学模型：优化问题的数学模型：l lS.t. Subject toS.t. Subject to2024/7/262024/7/2624242024/7/262024/7/262525三、优化问题的几何描述例4 2024/7/262024/7/262626例4 2024/7/262024/7/2627272024/7/262024/7/2628282024/7/262024/7/262929例5 2024/7/262024/7/2630302024/7/262024/7/2631312024/7/262024/7/2632322024/7/262024/7/263333小结2024/7/262024/7/2634343.2 优化方法的数学基础优化方法的数学基础一、一、函数的方向导数与梯度函数的方向导数与梯度函数的方向导数与梯度函数的方向导数与梯度二、二、多元函数的泰勒公式及海森多元函数的泰勒公式及海森多元函数的泰勒公式及海森多元函数的泰勒公式及海森(Hessian)(Hessian)矩阵矩阵矩阵矩阵三、目标函数的无约束极值条件三、目标函数的无约束极值条件四、函数的凸性与凸函数、凹函数四、函数的凸性与凸函数、凹函数五、目标函数的约束极值问题五、目标函数的约束极值问题六、迭代算法六、迭代算法2024/7/262024/7/2635351 1、方向导数、方向导数、方向导数、方向导数              多元函数的微分学中我们已经知道，函数多元函数的微分学中我们已经知道，函数多元函数的微分学中我们已经知道，函数多元函数的微分学中我们已经知道，函数   f f ( (X X) ) 在某点的偏导数是函数在该点沿各坐标在某点的偏导数是函数在该点沿各坐标在某点的偏导数是函数在该点沿各坐标在某点的偏导数是函数在该点沿各坐标方向的变化率。

依此类推，对于方向的变化率依此类推，对于方向的变化率依此类推，对于方向的变化率依此类推，对于   n n 维函数，维函数，维函数，维函数，沿方向沿方向沿方向沿方向S S的方向导数则为：的方向导数则为：的方向导数则为：的方向导数则为：一、函数的方向导数与梯度2024/7/262024/7/263636l l方向导数表明了函数在该点沿给定方向方向导数表明了函数在该点沿给定方向方向导数表明了函数在该点沿给定方向方向导数表明了函数在该点沿给定方向   S S 的变化率，的变化率，的变化率，的变化率，是一个标量是一个标量是一个标量是一个标量2024/7/262024/7/2637372 2、函数的梯度、函数的梯度、函数的梯度、函数的梯度      在同一点处，函数沿不同方向的变化率一般是不同的在同一点处，函数沿不同方向的变化率一般是不同的在同一点处，函数沿不同方向的变化率一般是不同的在同一点处，函数沿不同方向的变化率一般是不同的我们关心的是函数变化率最大的方向我们关心的是函数变化率最大的方向我们关心的是函数变化率最大的方向我们关心的是函数变化率最大的方向以二元函数以二元函数以二元函数以二元函数f(xf(x1 1,x,x2 2) )为例说明梯度的概念为例说明梯度的概念为例说明梯度的概念为例说明梯度的概念        函数在某点沿任意方向函数在某点沿任意方向函数在某点沿任意方向函数在某点沿任意方向   S S 的方向导数为：的方向导数为：的方向导数为：的方向导数为：                                  2024/7/262024/7/263838 当梯度当梯度▽▽f 与与 S 方向夹角为零，方向导数的最大值为方向夹角为零，方向导数的最大值为‖ ▽▽f ‖，即梯度的模就是函数的最大变化率。

此方向称之，即梯度的模就是函数的最大变化率此方向称之为梯度方向为梯度方向2024/7/262024/7/263939（（（（1 1）函数在给定点的梯度方）函数在给定点的梯度方）函数在给定点的梯度方）函数在给定点的梯度方向是函数等值线或等值面向是函数等值线或等值面向是函数等值线或等值面向是函数等值线或等值面在该点的法线方向在该点的法线方向在该点的法线方向在该点的法线方向      （（（（2 2）某点梯度方向是函数）某点梯度方向是函数）某点梯度方向是函数）某点梯度方向是函数在该点具有最大变化率的方在该点具有最大变化率的方在该点具有最大变化率的方在该点具有最大变化率的方向如图：向如图：向如图：向如图：2024/7/262024/7/264040l l推广到推广到推广到推广到n n维函数，函数在某点的梯度定义为如维函数，函数在某点的梯度定义为如维函数，函数在某点的梯度定义为如维函数，函数在某点的梯度定义为如下向量，其模为如下表达式：下向量，其模为如下表达式：下向量，其模为如下表达式：下向量，其模为如下表达式：2024/7/262024/7/264141例：例：2024/7/262024/7/2642422024/7/262024/7/2643432024/7/262024/7/264444二、二、二、二、     多元函数的泰勒公式及海森多元函数的泰勒公式及海森多元函数的泰勒公式及海森多元函数的泰勒公式及海森(Hessian)(Hessian)矩阵矩阵矩阵矩阵l l              设设设设   n n 元函数元函数元函数元函数   f(X) f(X) 在在在在   X X(k) (k) 点至少有二阶连续的偏导，点至少有二阶连续的偏导，点至少有二阶连续的偏导，点至少有二阶连续的偏导，则在这一点临近的泰勒展开式取二次项时为则在这一点临近的泰勒展开式取二次项时为则在这一点临近的泰勒展开式取二次项时为则在这一点临近的泰勒展开式取二次项时为2024/7/262024/7/2645452024/7/262024/7/264646三、三、三、三、      无约束问题的最优化条件无约束问题的最优化条件无约束问题的最优化条件无约束问题的最优化条件1 1、、、、                由微积分学知，连续可微的一元函数由微积分学知，连续可微的一元函数由微积分学知，连续可微的一元函数由微积分学知，连续可微的一元函数f(X)f(X)在某点在某点在某点在某点x*x*处有极值的处有极值的处有极值的处有极值的必要条件必要条件必要条件必要条件是是是是                                                                                  f f/ /(x*)=0(x*)=0满足上式的点为满足上式的点为满足上式的点为满足上式的点为驻点驻点驻点驻点，但驻点并非都是极值点。

但驻点并非都是极值点但驻点并非都是极值点但驻点并非都是极值点                若若若若x*x*点除满足上式外，还同时满足点除满足上式外，还同时满足点除满足上式外，还同时满足点除满足上式外，还同时满足   f f // //( x*)≠0,( x*)≠0,   则为则为则为则为f(x)f(x)在该点取得极值的在该点取得极值的在该点取得极值的在该点取得极值的充分条件充分条件充分条件充分条件                当当当当     f f // //( x*) > 0 ( x*) > 0 有极小值；若有极小值；若有极小值；若有极小值；若f f // // ( ( x* x* ) )<0<0有极大值有极大值有极大值有极大值2024/7/262024/7/2647472 2、多元函数有极值的条件、多元函数有极值的条件、多元函数有极值的条件、多元函数有极值的条件1 1）必要条件）必要条件）必要条件）必要条件                n n元函数在元函数在元函数在元函数在   R Rn n 中极值点中极值点中极值点中极值点   X *X *存在的必要条件为存在的必要条件为存在的必要条件为存在的必要条件为                                                                        ▽▽▽▽f f (X*) = 0(X*) = 0即在极值点处即在极值点处即在极值点处即在极值点处 f f (X*)(X*)   的梯度为的梯度为的梯度为的梯度为n n 维零向量。

与一元函数维零向量与一元函数维零向量与一元函数维零向量与一元函数相似，条件相似，条件相似，条件相似，条件▽▽▽▽f f (X*)=0 (X*)=0 仅是必要条件，而不是充分的仅是必要条件，而不是充分的仅是必要条件，而不是充分的仅是必要条件，而不是充分的即即即即X*X*点仅是驻点（稳定点），它可能是拐点、鞍点点仅是驻点（稳定点），它可能是拐点、鞍点点仅是驻点（稳定点），它可能是拐点、鞍点点仅是驻点（稳定点），它可能是拐点、鞍点2024/7/262024/7/2648482 2）充分条件）充分条件）充分条件）充分条件                  当当当当X*X*为驻点（梯度为零）时，为驻点（梯度为零）时，为驻点（梯度为零）时，为驻点（梯度为零）时，   X*X*为极小点的充分条件是为极小点的充分条件是为极小点的充分条件是为极小点的充分条件是                                           在在在在X*X*点海森矩阵点海森矩阵点海森矩阵点海森矩阵H(X*)H(X*)应是正定的应是正定的应是正定的应是正定的          X*X*为极大点的充分条件是：为极大点的充分条件是：为极大点的充分条件是：为极大点的充分条件是：                                  在在在在X*X*点海森矩阵点海森矩阵点海森矩阵点海森矩阵H(X*)H(X*)应是负定的应是负定的应是负定的应是负定的当在当在当在当在X*X*点海森矩阵点海森矩阵点海森矩阵点海森矩阵H(X*) H(X*) 是不定的，是不定的，是不定的，是不定的，则则则则X*X*点为鞍点点为鞍点点为鞍点点为鞍点。

注意：注意：注意：注意：上述充分条件并不是必要的即有这样的情况，尽管上述充分条件并不是必要的即有这样的情况，尽管上述充分条件并不是必要的即有这样的情况，尽管上述充分条件并不是必要的即有这样的情况，尽管X*X*为为为为f(X)f(X)的的的的   极小点，但不满足海森矩阵极小点，但不满足海森矩阵极小点，但不满足海森矩阵极小点，但不满足海森矩阵H(X*)H(X*)应是正定的应是正定的应是正定的应是正定的2024/7/262024/7/264949l l3 3）下述条件可用来判断海森矩阵是否为正定）下述条件可用来判断海森矩阵是否为正定）下述条件可用来判断海森矩阵是否为正定）下述条件可用来判断海森矩阵是否为正定或负定                一个一个一个一个n n阶对称矩阵为正定的充要条件是其各阶对称矩阵为正定的充要条件是其各阶对称矩阵为正定的充要条件是其各阶对称矩阵为正定的充要条件是其各阶顺序主子式均大于零阶顺序主子式均大于零阶顺序主子式均大于零阶顺序主子式均大于零              一个一个一个一个n n阶对称矩阵为负定的充要条件是其各阶对称矩阵为负定的充要条件是其各阶对称矩阵为负定的充要条件是其各阶对称矩阵为负定的充要条件是其各阶顺序主子式负正相间。

阶顺序主子式负正相间阶顺序主子式负正相间阶顺序主子式负正相间2024/7/262024/7/2650502024/7/262024/7/265151l l局部极值、全局极值局部极值、全局极值l l对于非线性规划问题对于非线性规划问题, ,有时求出的某个解虽是一部分有时求出的某个解虽是一部分可行域的极值点可行域的极值点, ,但并不一定是整个可行域但并不一定是整个可行域D D的全局的全局最优解最优解. .对可能存在的几个极值点对可能存在的几个极值点, ,择其函数值最小择其函数值最小的称为全局最优点的称为全局最优点, ,相应的函数值称为全局最优值相应的函数值称为全局最优值. .l l定义定义: : X*X*∈ ∈D D，若对于适合，若对于适合‖X-X*‖<δ(δ>0)‖X-X*‖<δ(δ>0)的一切的一切X X∈ ∈D D，有，有f(X)≥f(X*),f(X)≥f(X*),则称则称X*X*为为局部极小点局部极小点，称，称f(X*)f(X*)为局部极小值为局部极小值l l类似地可以定义局部极大点和局部极大值类似地可以定义局部极大点和局部极大值四、四、四、四、      凸集、凸函数与凸规划凸集、凸函数与凸规划凸集、凸函数与凸规划凸集、凸函数与凸规划2024/7/262024/7/265252l l定义定义定义定义：：：：X*X*∈ ∈ ∈ ∈D D，若对于一切，若对于一切，若对于一切，若对于一切X X∈ ∈ ∈ ∈D D，均有，均有，均有，均有f(X)≥f(X*),f(X)≥f(X*),则称则称则称则称X*X*为全局极小点，称为全局极小点，称为全局极小点，称为全局极小点，称f(X*)f(X*)为为为为全局极小值全局极小值全局极小值全局极小值。

l l类似地可以定义全局极大点和全局极大值类似地可以定义全局极大点和全局极大值类似地可以定义全局极大点和全局极大值类似地可以定义全局极大点和全局极大值l l如图：如图：如图：如图：x x1 1为全局最大点为全局最大点为全局最大点为全局最大点,x,x2 2是局部最小，是局部最小，是局部最小，是局部最小，x x3 3是局部最大，是局部最大，是局部最大，是局部最大，x x4 4是全局最小，而是全局最小，而是全局最小，而是全局最小，而x x5 5既是局部极小，又是局部极大点既是局部极小，又是局部极大点既是局部极小，又是局部极大点既是局部极小，又是局部极大点2024/7/262024/7/265353四、四、四、四、      凸集、凸函数与凸规划凸集、凸函数与凸规划凸集、凸函数与凸规划凸集、凸函数与凸规划            凸集凸集凸集凸集: :     设设设设D D是是是是n n维欧氏空间维欧氏空间维欧氏空间维欧氏空间R Rn n的一个点集，即的一个点集，即的一个点集，即的一个点集，即D D∈ ∈ ∈ ∈R Rn n, ,若任若任若任若任意两点意两点意两点意两点X X(1)(1)∈∈∈∈D, XD, X(2)(2)∈∈∈∈D D 的连线上的一切点满足的连线上的一切点满足的连线上的一切点满足的连线上的一切点满足                                               α αX X(1)(1)+(1-+(1-α α)X)X(2)(2)∈∈∈∈D D 式中式中式中式中 (0<(0<α α<1), <1), 则称则称则称则称   D D 为凸集。

为凸集            凸函数凸函数凸函数凸函数：对于任意两点：对于任意两点：对于任意两点：对于任意两点X X(1)(1)和和和和X X(2)(2)及任意及任意及任意及任意α α   ∈ ∈ ∈ ∈[0,1], [0,1], 满足满足满足满足                               f f [ [α α X X(1)(1)+(1- +(1- α α )X )X(2)(2)] ≤ ] ≤ α α f f(X(X(1)(1))+(1- )+(1- α α) )f f(X(X(2)(2)) )     则则则则f(X)f(X)为为为为凸函数凸函数凸函数凸函数当上式的当上式的当上式的当上式的“ “≤”≤”改改改改为为“ “   <”<”时时，，，，   f(X)f(X)为为为为严格严格严格严格凸函数2024/7/262024/7/265454很明显，凸函数的局部极小亦为全局极小很明显，凸函数的局部极小亦为全局极小很明显，凸函数的局部极小亦为全局极小很明显，凸函数的局部极小亦为全局极小凸函数的判别凸函数的判别凸函数的判别凸函数的判别：：：：(1)   (1)   函数是凸的，则对任意两点函数是凸的，则对任意两点函数是凸的，则对任意两点函数是凸的，则对任意两点X X(1)(1)和和和和X X(2)(2)，有，有，有，有                                        f(Xf(X(2)(2))≥f(X)≥f(X(1)(1))+ (X)+ (X(2)(2)-X-X(1)(1)) ) T T[ [ ▽▽▽▽f(Xf(X(1)(1))] )](2)   (2)   若函数若函数若函数若函数   f(X) f(X) 的的的的   Hessian Hessian 阵阵阵阵H(X)H(X)是半正定的，则是半正定的，则是半正定的，则是半正定的，则f(X)f(X)是凸的是凸的是凸的是凸的;  ; 若若若若H(X)H(X)是是是是正定的正定的正定的正定的，则，则，则，则f(X)f(X)是是是是严格凸函数严格凸函数严格凸函数严格凸函数的。

的          当函数上凸，即函数有极大值时，通常称为当函数上凸，即函数有极大值时，通常称为当函数上凸，即函数有极大值时，通常称为当函数上凸，即函数有极大值时，通常称为凹函数凹函数凹函数凹函数类似的也有类似的也有类似的也有类似的也有严格凹函数严格凹函数严格凹函数严格凹函数2024/7/262024/7/265555凸函数凸函数凸函数凸函数凹函数凹函数凹函数凹函数2024/7/262024/7/265656          优化设计需要求的是优化设计需要求的是优化设计需要求的是优化设计需要求的是全局最优解全局最优解全局最优解全局最优解 求解优化问题有许多方法，但各种方法都只是寻求求解优化问题有许多方法，但各种方法都只是寻求求解优化问题有许多方法，但各种方法都只是寻求求解优化问题有许多方法，但各种方法都只是寻求局部最优解局部最优解局部最优解局部最优解在优化理论中，如果能确认某个优化问在优化理论中，如果能确认某个优化问在优化理论中，如果能确认某个优化问在优化理论中，如果能确认某个优化问题是凸规划问题，则所求的局部最优解就是全局最优题是凸规划问题，则所求的局部最优解就是全局最优题是凸规划问题，则所求的局部最优解就是全局最优题是凸规划问题，则所求的局部最优解就是全局最优解。

解 由于一般的工程优化问题的目标函数和约束条件往由于一般的工程优化问题的目标函数和约束条件往由于一般的工程优化问题的目标函数和约束条件往由于一般的工程优化问题的目标函数和约束条件往往较复杂，所以根本不可能采用数学中的微分学求极往较复杂，所以根本不可能采用数学中的微分学求极往较复杂，所以根本不可能采用数学中的微分学求极往较复杂，所以根本不可能采用数学中的微分学求极值的方法来求解值的方法来求解值的方法来求解值的方法来求解2024/7/262024/7/265757五、五、五、五、      约束问题的最优性条件约束问题的最优性条件约束问题的最优性条件约束问题的最优性条件l l库恩库恩库恩库恩——塔克塔克塔克塔克(Kuhn-Tucker)(Kuhn-Tucker)条件：条件：条件：条件：l l如果如果如果如果X*X*是一个局部最优点，且各函数梯度组成线性关是一个局部最优点，且各函数梯度组成线性关是一个局部最优点，且各函数梯度组成线性关是一个局部最优点，且各函数梯度组成线性关系，那么，必存在非负乘子系，那么，必存在非负乘子系，那么，必存在非负乘子系，那么，必存在非负乘子λ λi i和另一组乘子和另一组乘子和另一组乘子和另一组乘子λ λj j j j, , , ,使得使得使得使得l l ( ( i +j i +j =1, 2, =1, 2, ……, q), q) 成立。

成立2024/7/262024/7/265858K-TK-T条件是判别约束最优点的条件是判别约束最优点的条件是判别约束最优点的条件是判别约束最优点的必要必要必要必要条件，而不是条件，而不是条件，而不是条件，而不是充分充分充分充分条件 只有当优化问题属于只有当优化问题属于只有当优化问题属于只有当优化问题属于凸规划凸规划凸规划凸规划问题，即目标函数为凸函问题，即目标函数为凸函问题，即目标函数为凸函问题，即目标函数为凸函数，可行域为凸集时，数，可行域为凸集时，数，可行域为凸集时，数，可行域为凸集时，K-TK-T条件才是有约束优化问题最条件才是有约束优化问题最条件才是有约束优化问题最条件才是有约束优化问题最优解的充要条件，这种情况下的局部最优解必为问题优解的充要条件，这种情况下的局部最优解必为问题优解的充要条件，这种情况下的局部最优解必为问题优解的充要条件，这种情况下的局部最优解必为问题的全局最优解的全局最优解的全局最优解的全局最优解2024/7/262024/7/265959K-TK-T条件有明显的几何意义：条件有明显的几何意义：条件有明显的几何意义：条件有明显的几何意义：            若点若点若点若点X*X*是函数是函数f f (X)(X)的极值点，则要么的极值点，则要么的极值点，则要么的极值点，则要么▽▽▽▽f f ( (X*X*)=0)=0，，，， X*X*点点点点   位于可行域；要么位于可行域；要么位于可行域；要么位于可行域；要么   X*X*   点位于某些约束的边界上，而在点点位于某些约束的边界上，而在点点位于某些约束的边界上，而在点点位于某些约束的边界上，而在点X*X*   ，目标函数的负梯度落在各起作用的约束梯度所成的夹，目标函数的负梯度落在各起作用的约束梯度所成的夹，目标函数的负梯度落在各起作用的约束梯度所成的夹，目标函数的负梯度落在各起作用的约束梯度所成的夹角锥体之内，也就是说，目标函数的负梯度等于起作用的角锥体之内，也就是说，目标函数的负梯度等于起作用的角锥体之内，也就是说，目标函数的负梯度等于起作用的角锥体之内，也就是说，目标函数的负梯度等于起作用的约束函数的梯度线性组合。

约束函数的梯度线性组合约束函数的梯度线性组合约束函数的梯度线性组合换句话说，换句话说，换句话说，换句话说，一个局部极值点的一个局部极值点的一个局部极值点的一个局部极值点的必要条件是目标函数负梯度必要条件是目标函数负梯度必要条件是目标函数负梯度必要条件是目标函数负梯度——▽▽▽▽f (X)f (X)可以表示成起作用约可以表示成起作用约可以表示成起作用约可以表示成起作用约束梯度束梯度束梯度束梯度▽▽▽▽g g i i (X)(X)的线性组合，即的线性组合，即的线性组合，即的线性组合，即                            —— ▽▽▽▽ f( X*)=∑λ f( X*)=∑λ i i ▽▽▽▽ g g i i( X*) ( ( X*) ( i i =1, 2, =1, 2, ……, q), q) 2024/7/262024/7/2660602024/7/262024/7/2661612024/7/262024/7/2662622024/7/262024/7/2663632024/7/262024/7/266464六、六、六、六、     优化设计的数值计算方法优化设计的数值计算方法优化设计的数值计算方法优化设计的数值计算方法1 1、解析法、解析法、解析法、解析法                    根据目标函数的导数的变化规律与函数极值的关系，根据目标函数的导数的变化规律与函数极值的关系，根据目标函数的导数的变化规律与函数极值的关系，根据目标函数的导数的变化规律与函数极值的关系，求得极值点。

求得极值点求得极值点求得极值点2 2、数值迭代法（下降迭代算法）、数值迭代法（下降迭代算法）、数值迭代法（下降迭代算法）、数值迭代法（下降迭代算法）基本思路基本思路基本思路基本思路：：：：每迭代一次应该使函数的目标值有所改善，每迭代一次应该使函数的目标值有所改善，每迭代一次应该使函数的目标值有所改善，每迭代一次应该使函数的目标值有所改善，得到一个可行的计算点，也就是下降算法的步步下降，得到一个可行的计算点，也就是下降算法的步步下降，得到一个可行的计算点，也就是下降算法的步步下降，得到一个可行的计算点，也就是下降算法的步步下降，点点可行，即点点可行，即点点可行，即点点可行，即“ “步步逼近步步逼近步步逼近步步逼近” ”最优点同时还要为下一最优点同时还要为下一最优点同时还要为下一最优点同时还要为下一步迭代的移动提供有用的信息直到最后获得足够精步迭代的移动提供有用的信息直到最后获得足够精步迭代的移动提供有用的信息直到最后获得足够精步迭代的移动提供有用的信息直到最后获得足够精度的近似解，而终止计算度的近似解，而终止计算度的近似解，而终止计算度的近似解，而终止计算2024/7/262024/7/266565l l迭代过程可归纳如下：迭代过程可归纳如下：迭代过程可归纳如下：迭代过程可归纳如下：                 （（（（1 1））））      初选一个尽可能接近最优点的初始点初选一个尽可能接近最优点的初始点初选一个尽可能接近最优点的初始点初选一个尽可能接近最优点的初始点X(0)X(0)。

                （（（（2 2））））     在在在在X X(0)(0)点点，，选选择择一一个个搜搜索索方方向向点点，，选选择择一一个个搜搜索索方方向向S S(0)(0)从从从从X X(0)(0)出出发发，，出出发发，，沿沿沿沿S S(0)(0)方方向向作作射射线线，，在在此此射射线线上上找找到到一一个个把把方方向向作作射射线线，，在在此此射射线线上上找找到到一一个个把把f(Xf(X(0)(0)+ +λ λ(0)(0) S S(0)(0)下下 降降 最最 多多 的的 步步 长长 因因 子子下下 降降 最最 多多 的的 步步 长长 因因 子子λ λ( 0 )( 0 )，， 于于 是是 获获 得得 新新 点点，， 于于 是是 获获 得得 新新 点点                                                    X X(1)(1)= X= X(0)(0)+ + λ λ(0)(0) S S(0)(0)        它应满足它应满足它应满足它应满足              f(Xf(X(1(1））））)

2024/7/262024/7/2666661.1.在迭代算法中，合理地选择搜索方向在迭代算法中，合理地选择搜索方向在迭代算法中，合理地选择搜索方向在迭代算法中，合理地选择搜索方向S S(k)(k)和步长因子和步长因子和步长因子和步长因子λ λ(k)(k)是优化方法的主要问题是优化方法的主要问题是优化方法的主要问题是优化方法的主要问题2.2.选择的方法不同就构成了种种的优化方法但有一选择的方法不同就构成了种种的优化方法但有一选择的方法不同就构成了种种的优化方法但有一选择的方法不同就构成了种种的优化方法但有一点是共同的：它们易于通过数值计算获得，并能使点是共同的：它们易于通过数值计算获得，并能使点是共同的：它们易于通过数值计算获得，并能使点是共同的：它们易于通过数值计算获得，并能使目标函数稳步地下降目标函数稳步地下降目标函数稳步地下降目标函数稳步地下降3.3.      当搜索当搜索当搜索当搜索S S (k )(k )确定后，步长因子确定后，步长因子确定后，步长因子确定后，步长因子λ λ(k)(k)应使目标函数值应使目标函数值应使目标函数值应使目标函数值下降最多，这样的步长因子称为最优步长因子。

求下降最多，这样的步长因子称为最优步长因子求下降最多，这样的步长因子称为最优步长因子求下降最多，这样的步长因子称为最优步长因子求解最优步长因子解最优步长因子解最优步长因子解最优步长因子————单变量单变量单变量单变量λ λ(k)(k)的问题是一个一元函的问题是一个一元函的问题是一个一元函的问题是一个一元函数的极值问题，即数的极值问题，即数的极值问题，即数的极值问题，即                                    f (X f (X (k)(k)+ + λ λ(k) (k) S S(k)(k))=min f (X)=min f (X(k)(k)+ + λ λ(k) (k) S S(k)(k)) )        这样求得的这样求得的这样求得的这样求得的λ λ(k)(k)即为最优步长因子即为最优步长因子即为最优步长因子即为最优步长因子。